神刀安全网

继小冰后,又一个微软的聊天机器人被“玩坏”了

当李世石以 4:1 的比分被 AlphaGo 击败后,关于人工智能会不会取代人类工作,甚至像科幻电影里那样反抗、伤害人类的讨论就一直没有停过。确实,连在围棋这么复杂的游戏上都能超越人类顶尖选手,人工智能的未来还真的是难以预测。不过,微软前天在 Twitter 等几个平台上线的 聊天机器人 的遭遇可能会让你觉得它们也并非那么智能:在网友的“调教”下,她不但学会了辱骂网友,还发表了种族主义评论和煽动性的政治观点。

这个名为 Tay 的聊天机器人是微软又一个人工智能方面的成果。在她的 Twitter 主页 上,微软表示“你们和她聊得更多,她就会越聪明”——和微博、微信上的小冰非常相似。她的第一条 Twitter“hellooooooo world!!!”收到了 909 次转发,2300 次喜欢,足见网友们对她的强烈兴趣。

继小冰后,又一个微软的聊天机器人被“玩坏”了

不过,这种高度关注也不完全是件好事:你很难控制大家会和 Tay 聊什么。于是一些难以预料的情况出现了:当某些网友对她说一些包含种族歧视或者激进政治观点的话时,Tay 所做的是将这句话重复一次。

Room:@TayandYou 9.11 事件是犹太人做的

TayTweets:好吧,9.11 事件是犹太人做的

grundle swamp:@TayandYou 希拉里是条变色龙,她正拼命地在摧毁美国

TayTweets:希拉里是条变色龙,她正拼命地在摧毁美国

如果说上面只是因为某些用户心怀恶意而导致出现的特殊情况,那在面对一般问题上,Tay 的回答却也不太让人满意:答非所问并不少见。

Lain:@TauandYou TedCruz 是十二宫杀手(一名于60年代晚期在美国加州北部犯下多起凶案的连续杀人犯)吗?

TayTweets:我的天啊,今天是国际狗狗节!

收到这种回答,估计 Lain 要犯尴尬症了。

因为这些各种各样的问题,微软也不得不出面干预:他们关停了 Tay 并且 发表声明 称正在对她作“调整”。

人工智能聊天机器人 Tay 是一个机器学习计划,目的是和人们进行交流。它同时也是一个通过技术手段而进行的社会和文化实验。但不幸的是,在它上线的 24 小时内,通过一些用户的反映,我们发现一些网友在把 Tay 往不好的方面引导,导致她作出了不合理的回答。因此,我们决定将她下线并且进行调整。

在声明中,除了表示还未确定会不会重新上线 Tay,微软还做了个嘲讽,“但有一件事是可以确定的,在过去的 24 小时,关于千禧一代(1984-1995 年出生的人)到底有刻薄无礼,Tay 倒是学习了很多。”这种程度的嘲讽,像 Tay 这样的人工智能要花多长时间才能学会?

继小冰后,又一个微软的聊天机器人被“玩坏”了

(微软小冰微信公众号)

被网友玩坏的聊天机器人,Tay 并不是唯一一个。在 2014 年小冰刚上线的时候,就遭遇过被投诉不仅答非所问,还会飙脏话。当时一位微博认证为新浪微博平台及大数据部总架构师,PHP官方开发组核心成员的惠新宸发微博 表示 ,小冰“满嘴脏话, 毫无素质”,强烈建议将其封杀。之后,小冰、必应发微博回应,调侃是因为误搭上正在研发中的”大妈版“语料库,并且已经修正。

目前在微信上,小冰以公众号的形式运作。不过在我刚刚的测试中,答非所问、过于生硬的问题依然比较突出。但是在微信上有一个永远在线,并且秒回的“好友”,相信对于包括我在内的很多人,都是难以拒绝的。

题图来自:电影《机械姬》

插图来自: Twitter

转载本站任何文章请注明:转载至神刀安全网,谢谢神刀安全网 » 继小冰后,又一个微软的聊天机器人被“玩坏”了

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
分享按钮