神刀安全网

解码OpenAI:硅谷钢铁侠马斯克的人工智能野望

解码OpenAI:硅谷钢铁侠马斯克的人工智能野望

伊隆·马斯克

导语:《连线》杂志网站本周刊文,介绍了 特斯拉 CEO伊隆·马斯克(Elon Musk)等人创立的非营利人工智能研究机构OpenAI的来龙去脉。OpenAI成立目的是什么?如何与 谷歌 等大公司争夺顶尖人才?未来的去向将会是何处?

以下为文章全文:

去年12月,在蒙特利尔为期一周的人工智能大会临近结束时,特斯拉创始人伊隆·马斯克(Elon Musk)和知名孵化器Y Combinator总裁萨姆·阿尔特曼(Sam Altman)宣布将成立新的人工智能科技公司。在许多人看来,这一发布会选择的时机略显奇怪。

不过,他们选在这样的时间进行发布有其原因。OpenAI的成立受到了密切关注。收到风声的硅谷巨头试图通过优厚的报酬留住即将加盟OpenAI的人工智能研究员,让这些重量级研究员为它们工作。在最后阶段,包括当时的会议过程中,这样的挖人和留人都在持续进行,这迫使马斯克和阿尔特曼推迟了新公司的成立仪式。加入OpenAI的研究员沃西基·扎莱姆巴(Wojciech Zaremba)表示:“它们开出的待遇实在太疯狂。”扎莱姆巴此前曾在谷歌和 Facebook 实习,他也在最后时刻收到了优厚的合同。

多少钱才能称得上“疯狂”?两年前,在机器学习技术逐渐受到关注时, 微软 研究院副总裁彼得·李(Peter Lee)表示,顶级人工智能研究员的成本已经超过了美国橄榄球大联盟(NFL)中的顶级四分卫。他说的还是普通情况,而非硅谷两家知名公司展开抢人大赛时。扎莱姆巴表示,在OpenAI的成立过程中,他收到的合同薪酬达到自己通常市价的2到3倍。

OpenAI并未尝试去匹配这些合同中的薪酬。不过该公司带来了一些新东西:研究完全专注于未来,而不必关心产品和季度业绩,以及将大部分(如果不是全部的话)研究成果分享给有需要的人。马斯克、阿尔特曼,以及OpenAI希望提供21世纪最具转型意义的技术,并且做到免费。

扎莱姆巴表示,正是这样的超高薪酬待遇使他望而却步,尽管他非常尊重谷歌和Facebook等公司。他感到,这些资金的涌入是为了阻止OpenAI的成立,这也使他更关注OpenAI的远大使命。他表示:“我意识到,OpenAI将会是最棒的地方。”

这个故事的核心很具讽刺意义:即使全球最大的科技公司正在拼命争抢明星研究员,正如NFL球队争抢球星一般,但研究员们自己却希望能更多地分享研究成果。回顾人工智能的发展史,最优秀的人才并非受到产品周期或利润率的驱动。他们只是希望让人工智能变得更好,而如果独享研究成果,那么人工智能不可能变得更好。

这个上午,OpenAI发布了首款人工智能软件。这是一个工具包,用于开发基于增强学习技术的人工智能系统。这项技术也是谷歌AlphaGo人工智能围棋系统的关键。利用这一工具包,你开发的系统可以去模拟新一代机器人,玩Atari的游戏,以及掌握围棋技巧。

然而,玩游戏仅仅只是开始。OpenAI是一个10亿美元级别的项目,希望能最大限度地推动人工智能的发展。无论是从公司的组织方式,还是对未来的计划,你都能看到,下一轮的创新即将到来。我们目前还无法知道,OpenAI自身能否促成这样的转变。但推动这家不同寻常的创业公司成立的力量表明,新一代的人工智能不仅会重塑技术,还将重塑我们发展技术的方式。

无所不在的人工智能

硅谷并不完全反对夸张。因此对过于大胆的宣言,你应当持怀疑态度。不过在人工智能领域,改变正在切实发生。在谷歌和Facebook内部,被称作深度学习的技术正帮助互联网服务去识别照片中的人脸,用户输入至智能手机的语音,以及响应互联网搜索请求。同样的技术也可以驱动未来的其他任务,例如帮助机器理解自然语言,即模仿我们人类交谈及写作的方式。这项技术可以培育出全新的机器人,使机器人不仅能完成预定义任务,还能自主学习。甚至有人认为,这将使机器了解人类常识,从而真正像人类一样思考。

然而在看到这种前景的同时,人工智能也在引发深层的焦虑。马斯克和阿尔特曼担心,如果开发的人工智能能做好事,那么也将有能力做坏事。这样的担心并不只属于他们,但与直觉相反的是,马斯克和阿尔特曼认为,应对恶意人工智能的最佳方式就是不要对人工智能加以限制,允许其自由发展。正是基于这样的理念,OpenAI吸引了大批年轻而充满才华的理想主义者。

解码OpenAI:硅谷钢铁侠马斯克的人工智能野望 伊尔亚·苏茨克维尔

OpenAI诞生于去年夏季硅谷Rosewood酒店的一间私人房间。这是一家西部风格的酒店,坐落在风投行业圣地,即加州门罗帕克的沙山路。在那里,马斯克正在与伊尔亚·苏茨克维尔(Ilya Sutskever)共进晚餐。苏茨克维尔当时供职于谷歌的Google Brain部门。该部门正在开发神经网络,这样的人工智能系统能进行大数据分析,学会从事某些任务,例如识别照片,撰写电子邮件,或是与人类对话。苏茨克维尔是这一项目的顶级思想家之一。不过,当时他正在思考更宏大的概念。

阿尔特曼率领的Y Combinator孵化了多家公司,例如Airbnb、Dropbox和Coinbase。当时他主持了会议,邀请了多名人工智能研究员,以及一名年轻但经验丰富的创业者格雷格·布洛克曼(Greg Brockman)。后者此前曾是硅谷知名电子支付创业公司Stripe的首席技术官,而Stripe也得到过Y Combinator的孵化。这些人来自不同的背景,但有着共同的目标:建设新一代的人工智能实验室。这样的实验室不仅不受谷歌的控制,也不受任何他人的控制。布洛克曼表示:“我能想象到最棒的一件事就是以安全的方式使人类更接近真正的人工智能。”

马斯克出席当时的会议是因为,他是阿尔特曼的老朋友,而人工智能对他自己企业的未来也至关重要。特斯拉需要利用人工智能技术去发展无人驾驶汽车。SpaceX需要人工智能将人们送上太空,并在太空居住和生活。不过,马斯克也是对人工智能最谨慎的人士之一。他担心,随着系统足够强大,不断地自学,某天人类将失去对人工智能的控制。

困难在于,许多有能力胜任这项工作的聪明才智之士已加入了谷歌、Facebook、微软、 百度 Twitter 。在当时的晚宴上,没有人能保证,这些重量级思想家会被新的创业公司吸引,即使这样的创业公司得到了马斯克和阿尔特曼的支持。不过,一名关键人物至少谈到了可能性。苏茨克维尔表示:“我感觉这件事风险,但我也认为这是件有趣的事,值得一试。”

项目的破冰

受到马斯克、阿尔特曼,以及晚宴上他人的鼓舞,布洛克曼很快就成立了一家梦想中的实验室。他当时全职从事这一项目,并联系了蒙特利尔大学计算机科学家、深度学习技术的先驱之一约书亚·本吉奥(Yoshua Bengio)。这一领域的另两名先行者,吉奥夫·辛顿(Geoff Hinton)和延恩·勒昆(Yann LeCun)目前分别供职于谷歌和Facebook。不过,本吉奥希望投身于学术圈,而不是进入产业界。他给出了这一领域最优秀的研究员名单。随后几周,布洛克曼尽可能地联络了这些人。

许多研究员都很喜欢这所实验室的理念,但他们也没有立即做出加盟的决定。为了打破这样的僵局,布洛克曼选择了他最想要的10名研究员,邀请他们在一个周六来到纳帕谷的一处酒庄。对布洛克曼来说,驶入纳帕谷成为了项目的催化剂。他表示:“关于将人们聚集在一起,这是一种被低估的方式。当时,我们没有其他方式去加速推进自己的目标。但你必须要去做,必须要说出来。”当他们来到那里时,氛围依然。布洛克曼表示:“在这样的日子里,你可以发现正发生化学反应。”而苏茨克维尔也表示:“红酒帮助了谈话。”

解码OpenAI:硅谷钢铁侠马斯克的人工智能野望 格雷格·布洛克曼,OpenAI的创建者之一,同时也是该组织的CTO。

在当天结束时,布洛克曼邀请这10名研究员加入他的实验室,并给了他们三周时间去考虑。在截止日期时,有9人决定加入。而即使硅谷巨头开出了高薪,他们仍然决定留下。关于前雇主谷歌,苏茨克维尔表示:“他们开出了极具吸引力的条件,因此对我来说这不是个容易的决定。但最终,我决定加入OpenAI。这部分是由于这里有非常强的团队,而更多也是由于公司的使命。”

深度学习技术的兴起源于学术界。直到最近,随着计算能力的提升,深度神经网络从理论走向现实,谷歌、Facebook和微软等公司才开始发力这一领域。类似辛顿和勒昆的知名人士离开了学术界,加盟谷歌和Facebook。这是由于这些公司有着丰富的资源。不过,他们仍愿意与其他思想家合作。正如勒昆所说,深度学习研究需要思想的自由交流。他表示:“如果你的研究一直保密,那么就会落后。”

因此,大公司正在分享人工智能的研究成果。这是真正的转变,尤其是对谷歌而言。在很长时间里,谷歌在线帝国的的核心技术一直都处于保密之中。近期,谷歌开源了作为神经网络基础的软件引擎,但仍然保留了最关键的部分。布洛克曼、阿尔特曼和马斯克希望推动进一步的开放。他们表示,不希望一两家大公司控制人工智能的未来。

开放性的局限

这一切听起来都很棒,但关于OpenAI的理想,研究员发现,与在以往的工作中一样,他们必须做出某些妥协。开放性有其局限,而人工智能的长期目标并不仅仅是兴趣,OpenAI也非慈善组织。马斯克的公司可以从OpenAI的工作中受益,Y Combinator孵化的公司也是一样。勒昆认为:“OpenAI的目标有自相冲突之处。它是非盈利组织,但与Y Combinator关系密切。与在企业中工作一样,OpenAI员工也在领报酬。”

布洛克曼表示,实验室支付的薪酬比不上谷歌和Facebook等公司。不过他表示,OpenAI“不希望支付太高的工资”,而是会提供股权激励,最初将会用Y Combinator的期权,而未来也可能用到SpaceX的期权。SpaceX目前仍是一家非上市公司。

布洛克曼表示,OpenAI不会给予姊妹公司特殊待遇。他坚持认为,OpenAI是一所研究机构,而非咨询公司。他承认,在面临压力的情况下,OpenAI过于理想化的目标可能会受到限制。尽管目标是分享大部分研究成果,例如通过研究论文或网络,但OpenAI或许不会将所有一切公开。“公开所有研究工作没有必要,也非最佳方式。你希望的是先研究概念,看看如何发展,随后再公开发布。”布洛克曼认为,“我们会生产许多开源代码,但也会有很多内容不会发布。”

苏茨克维尔和布洛克曼均表示,OpenAI可能会为某些研究成果申请专利。布洛克曼表示:“短期内我们不会申请任何专利。但从长远来看,如果发现某些做法对世界更有利,我们可能会改变策略。”例如,OpenAI可能会抢注专利,以免技术被他人掌控。

在某些人看来,专利意味着利润驱动的策略,或者至少与OpenAI创始人们宣告的开源有所差距。艾伦研究所人工智能总监奥伦·艾奇奥尼(Oren Etzioni)认为:“这就是专利体系的意义所在,因此我对他们的真实方向感到怀疑。”

超级智能带来问题

当马斯克和阿尔特曼公布OpenAI时,他们同时指出,这一项目可以解决恶意超级人工智能带来的威胁。当然,超级智能可能会源于OpenAI开发的技术,但他们认为,只要所有人都可以使用这些技术,那么威胁将得到解决。阿尔特曼指出:“许多人工智能的协同将阻止偶发的恶意人工智能,我们认为这种可能性很大。”

但并不是所有人都接受这样的观点。与马斯克类似,牛津大学哲学家尼克·博斯特罗姆(Nick Bostrom)也警告了人工智能的威胁。他认为,如果不加限制地分享研究成果,那么坏家伙就有机可乘,没有任何人可以确保安全。博斯特罗姆表示:“如果你掌握一颗按钮可以威胁世界,那么肯定不想将它交给每个人。”但从另一面来看,如果OpenAI保密研究成果,以阻止被坏家伙掌握,那么就与谷歌和Facebook没有太大区别。

博斯特罗姆指出,OpenAI是非盈利机构,这可能会带来一些不同。这一项目真正的力量在于,可以对谷歌和Facebook等公司的行为进行检查。他表示:“这可以降低超级智能成为统治者的可能性,同时也将避免某些实体或组织获得比其他人都要更好的人工智能。”

不过,正如博斯特罗姆在最新论文中指出的,OpenAI这类机构的目标是自由地分享成果,从而加速人工智能的发展,至少从短期来看如此。而从长期来看,这类机构强调开放性,而不是最优的商业成绩,因此研究进度也将得到加快。

他表示:“研发投资者基于慈善动机追求开放的科学,从而加快进度,这值得欢迎。”

施乐 PARC的模式

今年1月初,布洛克曼的9名人工智能研究员来到位于旧金山Mission District的公寓里开会。项目刚刚起步,与会者甚至连白板都没有。那天,他们买了些白板,并开始工作。

布洛克曼表示,OpenAI应该从增强学习着手。在这种系统中,机器重复从事任务,并追踪什么方法能取得最佳结果。还有一个主要目标是实现“无监督学习”。这样的机器能自主学习,而不需要人工指导。目前,深度学习基于谨慎设计的数据。如果想训练神经网络识别猫的照片,那么必须首先提供图例,并打上猫的标签。整个学习过程需要人工去打标签。与许多其他研究员一样,OpenAI的目标是开发不需要打标签就能自动学习的神经网络。

布洛克曼表示:“如果无监督学习技术足够强大,机器就可以通过互联网学习一切知识。这与人类通过观看和阅读掌握知识的机制一样。”

根据布洛克曼的设想,OpenAI就是“现代版施乐PARC”。这一实验室于上世纪70年代达到巅峰。其研究成果大部分是公开的,而这一实验室发明了图形界面、激光打印机,以及面向对象编程等许多技术。PARC属于施乐,但却培育了 苹果 等许多其它企业。类似乔布斯的人士非常关注PARC的研究。布洛克曼希望,所有人也可以去关注OpenAI的研究。

本月,为了继续推进项目进展,OpenAI又招募了几名重磅研究员,包括Google Brain前高级研究员伊安·古德费洛(Ian Goodfellow)。布洛克曼表示:“PARC的特殊之处在于拥有一大群聪明的人才,并让他们自由发挥。你期望共同的目标,而不喜欢集中控制。”

放弃控制权是开源理念的核心。如果有足够多的人参与共同的目标,那么最终结果将远好于闭门造车。但如果人工智能如预期中一样变得更强大,那么这一平衡将发生改变。我们需要确保,新的人工智能坚持初心,即平等的概念。马斯克、阿尔特曼和布洛克曼正在押注群体的智慧。而如果他们是正确的,那么某天这样的群体将不完全由人类构成。(维金)

转载本站任何文章请注明:转载至神刀安全网,谢谢神刀安全网 » 解码OpenAI:硅谷钢铁侠马斯克的人工智能野望

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址