研究：人工智能系统存在种族歧视倾向

据俄罗斯 卫星新闻网 报道，美国普林斯顿大学的研究者发现，人工智能系统可能会有种族歧视的迹象。该项研究表明，机器人对于白人名字感觉 喜悦 ，而对于黑人名字却表示出 不悦 。这项研究涉及一项具有自学能力的人工智能系统–GloVe。该系统能够识别并且理解在线文段。

我们试验这些被广泛使用的、纯粹数据化的机器学习模型，并且利用网络上的语料库对其进行训练。 研究报告说。在相关的任务中，这一系统要将诸如 花朵 和 昆虫 之类的词与另外一些被科学家定义为 令人喜悦的 或 令人不悦的 词进行配对。

不过，当研究人员将一串听起来像黑人的白人名字输入到GloVe系统时，这个机器人却显示出严重的种族主义。这一智能系统将普遍使用的白人名字识别为 令人喜悦 的词，而非裔美国人的名字却被划为 令人不悦 的词。

研究人员认为，这是人们隐藏在互联网数据中的偏见，然后被机器人学习。 我们的研究结果表明，语言本身也包含了历史性歧视的精确印记。 研究人员说。(实习编译：白宇凯 审稿：李宗泽)

赞助本站