陈丹的博客据俄罗斯“卫星新闻网”报道，美国普林斯顿大学的研究者发现，人工智能系统可能会有种族歧视的迹象。该项研究表明，机器人对于白人名字感觉“喜悦”，而对于黑人名字却表示出“不悦”。这项研究涉及一项具有自学能力的人工智能系统–GloVe。该系统能够识别并且理解在线文段。
“我们试验这些被广泛使用的、纯粹数据化的机器学习模型，并且利用网络上的语料库对其进行训练。”研究报告说。在相关的任务中，这一系统要将诸如“花朵”和“昆虫”之类的词与另外一些被科学家定义为“令人喜悦的”或“令人不悦的”词进行配对。
不过，当研究人员将一串听起来像黑人的白人名字输入到GloVe系统时，这个机器人却显示出严重的种族主义。这一智能系统将普遍使用的白人名字识别为“令人喜悦”的词，而非裔美国人的名字却被划为“令人不悦”的词。
研究人员认为，这是人们隐藏在互联网数据中的偏见，然后被机器人学习。“我们的研究结果表明，语言本身也包含了历史性歧视的精确印记。”研究人员说。(实习编译：白宇凯 审稿：李宗泽)
未经允许不得转载：陈丹的博客 » 研究：人工智能系统存在种族歧视倾向