神刀安全网

AI规则迎来进化:从“阿西莫夫三原则”到“李彦宏四原则”

在硅谷久负盛名的波士顿机器人旗下的四足机器人,即将在明年量产,进入家庭场景。机器人正在离我们越来越近,很多人看完波士顿机器人的各种视频,都后背发凉:这么强大的机器人,放到家里,走在路上,伤害人类怎么办?很多机器人的体积是人类的好几倍,看上去比人类强大很多。

这样的忧虑前人早已考虑到,早在1040年,科幻作家阿西莫夫就针对机器人提出了著名的“机器人三原则”,目的是要避免人类被机器人伤害,机器人三原则如下:

第一条:机器人不得伤害人类,或看到人类受到伤害而袖手旁观.

第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。

第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。

AI规则迎来进化:从“阿西莫夫三原则”到“李彦宏四原则”

简单地说,机器人永远不能伤害人类、也不能听从人类命令去伤害人类,如有必要则牺牲自己。

正是因为机器人行业遵循三原则进行研发,因此机器人一直不断进化,而在这个过程上很少听说有机器人伤害人类的情况。不过,如果我们将无人车也视作机器人,关于自动驾驶伤害人类的新闻也不是没有,特斯拉Autopilot、Uber无人车,都发生过事故,这足以让人们警醒。由此可见机器人三原则,在AI高速发展的今天已经不够用了。或许正是因为此,中国AI领军企业百度CEO李彦宏,日前在贵阳数博会上,提出了新的AI四大伦理原则,堪称“机器人三原则”AI版。

科技界对AI的焦虑

机器人是人工智能的终极形态的应用,但不是全部。

人工智能发展已有多年历史,早在1921年,捷克作家卡雷尔·恰佩克(Karel ?apek)就发明了“机器人(robot)”一词。1956年,“人工智能”(artificial intelligence,即AI)一词被正式提出。不过,人工智能真正爆发,则是在深度学习技术出现后,特别是2016年3月,谷歌DeepMind研发的AlphaGo战胜人类最强的围棋选手,更是将AI的技术实力展示给了所有人。

如今,人工智能正在各行各业落地,我们每天用到的搜索引擎、信息流、电商、视频、语音助理等互联网应用背后都有AI技术,火车站的人脸识别实名认证、银行转账的远程人脸识别认证,也都是典型的AI应用。在AI时代到来后,金融、教育、医疗、零售、娱乐诸多行业都在规模应用AI技术。当然,最典型的AI应用,应该还是机器人、无人车这样的高集成度应用。AI给人们带来了很多便捷,比如更高的效率、更低的成本、更好的体验,等等。

然而,伴随着AI的高速发展,人类的焦虑也与日俱增,一方面,越来越多的岗位被机器所取代,“机器换人”的大潮在各行各业上演。去年12月麦肯锡发布的报告预测,到2030年前会有8亿人的工作被机器取而代之,“最可能被取代的工种包括快餐行业工作者和机器操作员,而园丁、水管工和育儿工作者则最不容易被机器人取代。”在AI实力大增、巨头不断投入、应用不断涌现的环境下,这样的预测不是危言耸听。另一方面,AI在一些场合开始出现伤害人的案例,比如我们身边发生的就有“大数据杀熟”,再比如Uber无人车撞死人这样的案例。

不少科技领袖对此已有担忧,比如特斯拉创始人马斯克认为,“无论任何事情,机器人会比我们做得更好,所有工作都会被颠覆,我不知道该怎么做”他甚至提出了十分可怕的预测:“AI将比朝鲜核武器更可怕,全球AI军备竞赛将导致第三次世界大战,AI是人类文明存在的根本风险”,“AI将是人类有史以来最好或最糟糕的事情,如果控制不好会导致世界末日”;再比如已故科学家霍金,则一直提醒人们要警惕人工智能的发展,“人类需要控制以人工智能为代表的新兴科技,以防止它们在未来可能对人类生存带来的毁灭性威胁。”

AI规则迎来进化:从“阿西莫夫三原则”到“李彦宏四原则”

更多科技领袖,如Alphabet董事会主席埃里克·施密特(Eric Schmidt)、苹果CEO库克、Facebook CEO扎克伯格、微软CEO萨蒂亚·纳德拉(Satya Nadella)、亚马逊CEO杰夫·贝索斯(Jeff Bezos)、百度CEO李彦宏、腾讯董事局主席马化腾、阿里巴巴CEO马云、创新工场CEO李开复、搜狗CEO王小川,对AI发展都是相对乐观的。扎克伯格甚至直指马斯克关于AI的末日预言“相当不负责任”,李彦宏也是乐观派的代表,他一直在中国给AI技术步道,甚至还出版了《智能革命》一书,百度也定位为人工智能公司,大举投入,日前提出“AI四原则”,表明李彦宏对于AI不是盲目乐观,而是有更深刻的认知。

李彦宏给AI定规矩

在日前的贵阳大数据博览会上,李彦宏到场演讲,针对AI定下了“规矩”,他认为AI时代各大公司都要遵循如下四大伦理原则:

1、AI 的最高原则是安全可控;

2、AI 的创新愿景是促进人类更平等地获取技术和能力;

3、AI 的存在价值是教人学习,让人成长,而非超越人、替代人;

4、AI 的终极理想是为人类带来更多自由与可能;

AI规则迎来进化:从“阿西莫夫三原则”到“李彦宏四原则”

我将这4点归纳为“李彦宏AI四原则”,它本质上跟阿西莫夫的机器人三原则一样,只要AI时代各大公司在应用AI上能够遵循这四原则,AI就可以造福人类,而不是给人类带来威胁。正如李彦宏的愿景“AI的使命不是替代人,是让技术忠诚于人类,服务于人类,让人类的生活变得更美好。”

李彦宏跟阿西莫夫一样,对技术都有着自己的信仰,技术出身,重视技术,关注技术,信任技术,也正是因为此,李彦宏对于AI一直都十分乐观,自称是人工智能的乐观派,比如在已故科学家霍金、特斯拉创始人马斯克等科技领袖都对AI发展表示担忧时,李彦宏在不同场合都强调,AI不会威胁人类,“它带来的影响主要是正面的影响,负面的影响完全是可控的。”

不过,李彦宏对于AI也不是只有乐观,而是相对更加理性,在积极看好AI未来的同时,对AI发展中呈现的问题不断关注,也有焦虑。在数博会上,李彦宏分享的主题便是“AI时代的期望和焦虑”,李彦宏不担心人工智能会控制人类,而是担心人工智能在诸如无人车之类的应用场景中的安全问题。

与其在悲观中裹足不前,不如在乐观中适当地焦虑,再采取措施来控制AI发展的不确定性,就像李彦宏一样,正是因为在乐观中有悲观,所以一边是百度战略布局人工智能,另一边是李彦宏的“AI四原则”,他认为AI应该“安全第一”,AI的目的不是超越和取代人,这正是人工智能威胁论担忧的重点。不过,只要企业可以遵循这四大原则,AI就不会伤害人,也不会取代人——或许会替换一些岗位,但一定会诞生新的岗位,人类不会无所事事。

李彦宏不同于阿西莫夫

阿西莫夫是美国著名科幻小说家、科普作家、文学评论家,美国科幻小说黄金时代的代表人物之一,其《基地系列》、《银河帝国三部曲》和《机器人系列》三大系列系列被誉为“科幻圣经”,尤为重要的是,他提出的机器人三原则如今仍然是机器人行业严格遵循的共同理念。

与阿西莫夫出身科幻作家不同,李彦宏是出身工程师的企业家。

一方面,他对技术有深刻理解,Know How。李彦宏是搜索行业的最先探索者,在1997年就获得了奠定搜索引擎基础的“超链分析”专利,他的演讲甚至直接影响了谷歌两位两位联合创始人佩奇和布林,此后多年来也一直关注技术,比如2015年李彦宏亲自参与获得了一个名为“对象识别方法和装置”的专利,这是AI时代的人机对话式交互方式。正是因为此,李彦宏对于AI的乐观和焦虑,都很有意义,因为他是企业家里最懂技术的人之一。

AI规则迎来进化:从“阿西莫夫三原则”到“李彦宏四原则”

另一方面,他将自己对技术的理解和信仰,转化到公司战略方向上。

百度正在大举投入人工智能,其给自己的定位不是移动互联网公司,而是人工智能公司,其AI布局,除了深度学习、知识图谱等基础AI技术外,还有自动驾驶汽车、DuerOS人机交互系统两大重点应用方向,以及在金融、信息流、教育、医疗等行业的落地。

在核心业务搜索引擎大规模应用AI技术后,百度又推出了AI搜索引擎:“简单搜索” App,主打语音识别、图像识别、自然语言处理等人工智能技术,可以呈现出千人千面的搜索结果,这是第一个完全基于AI的搜索应用。

AI规则迎来进化:从“阿西莫夫三原则”到“李彦宏四原则”

李彦宏还承诺搜索结果里永远不放广告,这意味着简单搜索不会再有竞价排名,即便搜索结果中一些内容本身是经过包装的植入广告,但是和百度没利益关系。比如有人用“简单搜索”时发现,有时候搜索一些关键词,点进去后发现结果中还是有广告内容,这是正常的第三方原生内容广告,百度无从判断,就像微信公众号的软文一样,与百度没有关系,我想既然李彦宏承诺了永远不做广告,应该就会说到做到。

AI规则迎来进化:从“阿西莫夫三原则”到“李彦宏四原则”

正是因为将AI规模应用在全量业务,所以百度可以身体力行地遵循AI四原则。比如在AI 安全至上这一点上,百度无人车就做到了将安全放在第一位,李彦宏在数博会透露,百度无人车50%的新增代码,都是为了保障安全——截至目前百度无人车没有任何安全事故的新闻,值得注意的是,百度已通过Apollo自动驾驶开放平台将无人车技术开放出来,其安全技术也在开放范畴,这意味着,百度对无人车安全的重视也会让整个自动驾驶行业受益,避免再出现Uber无人车撞人的事故。

在我看来,李彦宏提出的AI四原则,对于AI时代企业应用AI有着跟“机器人三原则”一样的价值,更值得关注的是李彦宏对AI的态度:保持乐观,但不能盲目乐观,而是要严谨务实地探索推进,不回避问题,也不因噎废食,而是通过AI定规矩,同时身体力行,迎接智能世界的到来,我想对AI无比惶恐的马斯克们或许可以多看看李彦宏的态度和做法。

转载本站任何文章请注明:转载至神刀安全网,谢谢神刀安全网 » AI规则迎来进化:从“阿西莫夫三原则”到“李彦宏四原则”

分享到:更多 ()