微信致歉翻译不当 因其人工智能将“外国黑人”译为“黑鬼

2017-10-15 10:00

  中国最受欢迎的聊天应用程序微信表示歉意,由于其软件将通常意为“外国黑人”的中文短语翻译为“黑鬼”。

  拥有近9亿用户的微信将带有种族歧视的翻译归咎于中英文人工智能软件的错误。

  这个问题首先被一位居住在上海的美国人Ann James注意到,当时她的朋友在中文微信群聊天中讨论要迟到了。James用了微信内置翻译功能,得到的消息是:“黑鬼迟到。”

  “如果你是在中国的黑人,你就会想到一些疯狂的事情,” James告诉新闻网站Sixth Tone,并补充说,她经常在公开场合和人接触以及拍照。 “我知道大家对黑人有很多好奇心,并且不了解他们。”

  在随后的测试中,用户发现该应用程序几乎完全用于消极的语境,包括迟到,懒惰和小偷的话。但是在许多中立句子中,汉语中的“黑鬼”这个词被翻译成英文,是“​​外国黑人”的字面含义。

  “我们对翻译不当感到非常抱歉。” 微信发言人说, “收到用户的反馈后,我们立即解决了这个问题。”卫报测试表明,翻译软件已被重新修改,不再有种族歧视的含义。

  该公司使用AI和机器学习,提供计算机大量数据来训练它,以便根据上下文选择最佳翻译。但该制度也消除了人力监督,导致使用不正确甚至令人反感的话语。

  据悉,识别模式是语言AI的核心,语言AI是在关联词模式下提取词语。例如,在2016年,研究人员测试了谷歌文本算法与新闻抓取工具之间的关联,出现的结果错误泛滥: “艾米莉”被翻译成“乌木”,“煎饼”对应的“炸鸡”‘更离谱的是,“男人”竟被翻译成“女人”, “医生”被称为“”。

  “AI可以说更像人类一样思考。可悲的是,他们正在学习我们提供的最糟糕的东西。”外媒指出,这在本质上是如何“”AI识别种族主义歧视的问题?返回搜狐,查看更多