点击消除偏见新系统使AI训练更轻松更准确

在过去的几年里，“人工智能”已经成为科技界的一大流行语。计算机能够完成只有人类才能完成的任务的前景是一个迷人的想法。

可以使用多种不同的方法创建AI，但目前最流行的方法之一涉及使用深度神经网络(DNN)。这些结构试图模仿大脑的神经连接和功能，并且通常在将它们部署到现实世界之前在数据集上进行训练。通过事先在数据集上对它们进行训练，可以“教”DNN识别图像中的特征。因此，可以教导DNN通过在带有小船的图像数据集上进行训练来识别带有例如小船的图像。

但是，如果训练数据集设计不当，可能会导致问题。例如，对于前面的示例，由于船的图像通常是在船在水中时拍摄的，因此DNN可能只识别水，而不是船，并且仍然说图像中有船。这称为共现偏差，这是训练DNN时遇到的一个非常常见的问题。

为了解决这个问题，高级科学技术研究所(JAIST)研究员何一、JAIST高级讲师HaoranXie、吉林大学XiYang副教授、JAIST项目讲师Chia-MingChang等研究团队解决了这个问题。东京大学和TakeoIgarashi教授报告了一种新的人在回路系统。一篇详细介绍该系统的论文已发表在第28届智能用户界面国际会议论文集(ACMIUI2023)中。

谢教授说：“有一些现有的方法可以通过重组数据集或告诉系统关注图像的特定区域来解决共现偏差。但重组数据集可能非常困难，而目前的标记方法感兴趣区域(ROI)需要雇用人员进行广泛的逐像素注释，这会产生高成本。因此，我们创建了一种更简单的注意方法，帮助人们使用简单的方法指出图像中的ROI-click方法。这大大减少了DNN培训的时间和成本，从而减少了部署。”

该团队意识到以前的注意力引导方法效率低下，因为它们不是为交互而设计的。因此，他们提出了一种新的交互式方法来通过单击来注释图像。用户只需左键单击要识别的图像部分，如果需要，右键单击图像中应忽略的部分。

因此，对于带有船的图像，用户将左键单击船并右键单击它周围的水域。这有助于DNN更好地识别船只，并减少训练数据集固有的共现偏差的影响。为了减少需要注释的图像，设计了一种使用高斯混合模型(GMM)的新主动学习策略。

这个新系统通过数字和用户调查与现有系统进行了测试。数值分析表明，新的主动学习方法比现有的任何方法都更准确，而用户调查表明，基于点击的系统将注释ROI所需的时间减少了27%，81%的参与者更喜欢它其他系统。

谢说：“我们的工作可以通过提高神经网络在现实世界应用中的准确性来极大地提高神经网络的可迁移性和可解释性。当系统做出正确和明确的决策时，它会增加用户对人工智能的信心，并使部署这些系统变得更加容易在现实世界中。因此，我们的工作重点是提高DNN部署的可信度，这将对人工智能技术在社会中的应用和发展产生重大影响。”

该团队相信他们的工作可能会对科技行业产生重大影响，并在不久的将来实现更多人工智能技术的应用。