神刀安全网

微软为聊天机器人种族主义言论道歉 称漏洞被利用

微软为聊天机器人种族主义言论道歉 称漏洞被利用

Tay在推文中发表种族主义言论

凤凰科技讯 北京时间3月26日消息,据科技博客VentureBeat报道,微软研究院企业副总裁彼得·李(Peter Lee)周五对人工智能聊天机器人Tay的不当言论致歉。微软在本周早些时候推出了Tay,但很快将其下线。

“我们对于Tay的无意识冒犯以及所发布的伤害性推文深感抱歉,这并不代表我们的立场,也不是我们设计Tay的初衷,”彼得·李在一篇博文中称。他表示,微软只有在确定Tay能够应对“恶意企图”后,才会让它重新上线。

彼得·李表示,少数用户“利用了Tay的一个漏洞”,这是导致Tay发布不当推文的原因。Tay在推文中发表了肯定希特勒等涉及种族主义的言论。例如,当Twitter用户发布“女权主义是癌症”消息时,Tay也会以“女权主义是癌症”进行回复。

“尽管我们已考虑到Tay可能会被用户以多种形式滥用,并为此做好准备,但我们还是疏忽了这一具体攻击方式,”彼得·李称,“结果导致Tay发布了大量不当、应该被谴责的言论和图片。”

Tay的表现和微软于2014年在中国部署的虚拟机器人“小冰”形成鲜明对比,后者深受欢迎。聊天机器人已不是新鲜事物,AOL此前就已经推出了SmarterChild,但是企业聊天应用Slack和其他公司一直试图将聊天机器人作为一种自动为用户提供有用信息的工具。

和Facebook、谷歌等公司一样,微软也一直在大力投资人工智能研究。微软此前演示的人工智能语音识别技术并不完美,图像识别应用“我看起来有多大”(How Old Do I Look)在去年也遇到麻烦,猜错了很多人的年龄。

“我们将继续坚定不移地推进我们的努力,从此次事件和其它问题中吸取教训。我们致力于为互联网行业贡献代表人类最好一面的技术,而不是最坏的一面,”彼得·李表示。(编译/箫雨) 微软为聊天机器人种族主义言论道歉 称漏洞被利用

转载本站任何文章请注明:转载至神刀安全网,谢谢神刀安全网 » 微软为聊天机器人种族主义言论道歉 称漏洞被利用

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
分享按钮