#MeToo的AI:训练算法 用于查找在线巨魔

它是在加拿大温哥华举行的人工智能促进社会福利研讨会上介绍的。他们的研究团队包括博士后学者刘安琪。加州理工学院大三学生玛雅斯里坎特；斯坦福大学的尼古拉斯亚当斯-科恩(16年硕士，19年博士)。

阿尔瓦雷斯说：“这是我最喜欢的加州理工学院之一：跨越边界，发展社会科学和计算机科学之间的协同作用。”

为了防止在线骚扰，我们需要快速检测攻击性、骚扰性和负面的社交媒体帖子，然后我们需要监控在线互动。目前获取这类社交媒体数据的方法都是完全自动化的，无法解释，或者依靠一套静态的关键词，很快就会过时。斯里坎特说，这两种方法都不是很有效。

她说：“人类试图手工完成这项工作是不可扩展的。这些人类可能有偏见。”“另一方面，关键字搜索被网络对话的发展速度所困扰。新的术语出现了，旧的术语改变了含义，所以如果你某一天真诚地使用关键词，第二天可能就是讽刺了。

相反，该团队使用GloVe(全局单词表示向量)模型来发现新的相关关键词。GloVe是一个单词嵌入模型，这意味着它在向量空间中表示单词，两个单词之间的距离是它们的语言或语义相似性的度量。该模型可以从一个关键词开始，寻找与该词密切相关的其他关键词，从而揭示实际使用的相关术语的聚类。例如，在Twitter上的搜索对话中使用“MeToo”产生了一系列相关标签，如“SupportSurvivors”、“ImWithHer her”和“NotSilent”。这种方法为研究者提供了一个动态的、不断发展的关键词集来进行搜索。

但是仅仅知道一段对话是否与感兴趣的话题有关是不够的。语境很重要。为此，GloVe显示了一些关键字的相关性，并提供了关于它们的用法的输入。例如，在一个专门讨论厌女症的在线Reddit论坛上，“女性”一词与性、消极和性交密切相关。在关于#MeToo运动的推特帖子中，“女性”更容易与“公司”、“欲望”、“受害者”联系在一起。

这个项目是一个概念验证，旨在为社交媒体平台提供一个更强大的工具，以便有一天发现网络骚扰。A Nandcoomar参与了将“神经信息处理系统”会议的简称从其首字母缩写“NIPS”改为“NeurIPS”的活动，从而增强了他对这一课题的兴趣。

“人工智能研究领域越来越包容，但总有人抗拒改变。”内德库马尔说。2018年，他发现自己成了网络骚扰和威胁的目标，因为她成功地尝试了使用缩写词，但没有潜在的冒犯意义。“关于如何得到丑陋的巨魔，这真是让人大开眼界。我希望我们现在开发的工具可以帮助我们应对未来的各种骚扰。”