神刀安全网

原来你是这样子的OpenAI!来看看它背后那些有趣的人和事

综合编译 | 焦燕

综合整理 | 鸽子

提到OpenAI,业内可谓无人不知,无人不晓。

这可是人气超人马斯克与众硅谷科技大亨无数次脑洞碰撞后,共同决定成立的,专门用于预防人工智能的灾难性影响的非营利组织。

它的目标非常明确,就是要确保人类安全,确保人类的权益不受未来机器人的影响,确保人类可以长久地与智能机器人共存。

它就专心干这一件事,经费由马斯克等大佬来承担,因此无需在生计方面浪费时间。

OpenAI的文化是:强烈鼓励研究人员发表作品,无论是论文、博客文章,还是代码,并且它的专利(如果有的话)将与世界分享。

注意,“分享”是它的核心理念。

真真是业界良心!

就在这么一个高尚的纯粹的脱离了低级趣味而又神秘莫测的组织里,背后其实有很多你不知道的有趣的事情。

你可知道,它的成立仅仅是由几个大佬在一次晚宴上决定的么?

你可知道,在OpenAI工作的是怎样一群牛人?他们简直就是“逗比”和“传奇”的现身说法。

比如,有些懒人,上学时,不想做作业,就自己捣鼓出一个程序来帮着做作业;

有人曾经被误发病危通知书,在“生命最后一刻”,突然意识到自己对机器算法才是真爱啊。在确保身体无恙后,开始扎根真爱,抬头算法,终成该领域的一代名将;

还有人因为创始人毕业于同一所学校,一拍脑袋,“啪”,从此一入OpenAI深似海……

你以为OpenAI是个高端大气上档次的地儿?你以为这里遍布了各类小零件,有着超级计算机,有牛气的巨型机器人……你又错了……

今天,营长就带领各位小伙伴一同去看看OpenAI到底是啥样,它背后到底有着怎样的逗比的人和事儿。


普通得不能再普通了

对不起,这里没有法拉第笼,没有超级计算机,也没有巨型机器人。

好吧,这里只有一个机器人,但是它真的很小。它被鹅卵石那样的材料包围着,因此,即便出现编程错误,它也不会到处搞破坏滴。

正如OpenAI的战略通讯总监Jack Clark所言:“唉,别以为我们有啥高大上的,这个房间里的工具比你想象中的AI应该有的样子差太多了。”

原来你是这样子的OpenAI!来看看它背后那些有趣的人和事

OpenAI的办公室,实际上也就只有一些书桌,笔记本电脑和豆豆椅。除去那个迷你机器人有点小新意,它根本就是个小破创业公司的既视感嘛。

不信?来看看它最“豪华的地儿”

“这是我们每周二开例会的地儿,”Clark所说的会议室,也就是他们的“豪华地儿”,不过是几十把椅子随意散落的空地儿。中间有一个大白板可以写东西,还有一个大电视。

每周开例会时,人们站起来,陈述他们的工作,或者是研究的突破,或者是工程新软件的细节,就在这个破地儿。

而就在这个所谓的地儿,每周,全球最聪明的一群人,在这里充分碰撞着全球最前沿的思想。

此外,这个地儿,也是大家每周读书的地方。

Clark介绍到,这里人才济济,搞机器人研究的,搞生成对抗的……如果你了解了人们在这里做的工作,你就会意识到,这个看似平淡无奇的地方,正在发生多么不可思议的事情——它有可能改变人们使用和思考技术的方式、人们每天的行为方式,以及人们对人工智能超越人类的性质的思考方式。

那么,这样一个神奇的地方,到底是谁创造了它呢?

一顿晚餐,一次意义重大的交谈

OpenAI的联合创始人Greg Brockman在一篇博文中写道:“你以为呢,我们可都是带着想法去参加晚宴的。”

这位曾担任网络支付平台Stripe首席技术官的Brockman对AI极感兴趣,但他对AI并不了解。

后来,有人为Brockman和YC总裁Sam Altman牵线搭桥,他人就AI话题聊开了。

Altman告诉Brockman,他一直在考虑通过YC来建立一个AI实验室。

“这个点子是不是超酷?”Altman兴奋得说道。

几个月后,Altman邀请了Brockman再次共进晚餐。同行的人还有各硅谷大佬:Ilya Sutskever  ——Google Brain团队的科学家,当然,还有那位当之无愧的科技界的人气巨星Elon Musk等。

在晚餐上,大家围绕着人工智能各抒己见。气氛之火热,讨论之前沿,碰撞之激烈,逻辑之严密,让Brockman真真是大开了眼界。

Brockman在之后回忆说:“Musk和Altman真是让人倾佩,他们是真正在为人类的未来着想,他们对于未来AI的理解非常深刻,特别是其中的隐患。嗯,AI安全确实是个大问题,很显然,他们早就开始行动了。”

在Brockman看来,Musk和Altman这两个人的思维方式非常契合,他们都不喜欢闭门训练算法这个方式,他们的目标非常明确,就是尽全力,让尽可能多的人们能广泛地参与进来,尽可能多得鼓励分享。

Brockman说道:“他们的谈话,总是集中在到底什么样的组织才可以最好地确保AI对人类是有益的这件事情上。他们真的很了不起。”

而这,的确是马斯克一直努力在做的事:成立一个非营利机构,优先保证人类的未来有好的结果,而不是各自的公司利益。

就在那次晚餐后不久,OpenAI便诞生了:由Brockman和Sutskever掌舵。Brockman专注于团队的文化建设;Sutskever则专注于团队的研究议程。在短期内,他们将筹集超过10亿美元的资金。(营长说说:不愧是大佬啊。先定个小目标,筹集个10亿美金再说,让大家专心搞研究,不操心营收和生计。)

接着,他们开始组建自己的团队。

他们设法吸引国内最顶尖的AI研究人员,承诺绝对有竞争力的薪水和绝对的商业自由。希望这些顶尖的人才,可以离开原来的科技公司和学术机构,加入OpenAI,专心为人类的未来而工作。

对于这些研究人员中的许多来说,OpenAI确实是世界上最好的公司:这里学术自由(营长说说:在美国的很多大学,做研究,经费申请并不容易,而且需要支付团队的工资,因此,做研究的压力并不小);又能研究实际问题,比如马斯克的SpaceX,但又不用受到公司业绩和KPI等约束。

对于这些人来说,专注于研究什么才是最好的AI,这是正经事。别的,靠边儿。

OpenAI的研究人员和工程师一样非常享受这样的氛围。Vicki Cheung是为来自香港的长发美女,目前她也在OpenAI就职。

她每天超级High,“这就是我一直期待的工作和生活。”Vicki Cheung说道。

她说,在这里,她有机会做一直想做的事,而这个事情是在其它任何地方都无法完成的:在不担心是否会有商业意义的前提下,构建具有社会影响力的技术。

不过,如果你问Vicki Cheung为何加入OpenAI,这位大美女会告诉你,这事儿源于她在香港读高中时,在物理课上的一次作弊行为。

从机器人到基础设施

“我们是有在线作业的,” Vicki Cheung说,“我可不想做。”

为了逃避现实,她花了好些日子编写完一套程序(机器人),帮她做作业。为了拯救其他那些也不愿意做作业的同学,她还“好心”地将其分享出去,于是,大家都不做作业了。

对于这么做的原因,她自有一套逻辑:如果你可以自动化一些东西,即使是作业,即使被告“作弊”而陷入麻烦,但那又怎样呢?你不需要浪费你的时间干无谓的事儿了。

原来你是这样子的OpenAI!来看看它背后那些有趣的人和事

“绝大多数高中的在线作业都不是很复杂,现成的答案和方程式网上都有,那我就写一个爬虫来抓取这些数据好了。”Vicki Cheung轻描淡写地说道。

后来,老师知道了这件事,却没有为难Vicki Cheung。只是,再也不布置作业了。

“这对大家来说是一场胜利,” Vicki Cheung开心的说道。

Vicki Cheung的确很聪明,她需要一个更好的平台发展自己的才能。

在高中时,她就开始在香港大学的一位教授手下做一些简单的工程工作。

高中毕业,她去了卡内基梅隆大学的夏令营。一位计算机科学教授被她的天赋所吸引,让她直接申请这所大学。Vicki Cheung接受了,从此开始了美国的生活。

从卡内基梅隆大学毕业后,Vicki Cheung进入了科技行业,成为免费语言培训公司Duolingo的创始工程师。

从创建测验机器人,并将这家在线语言培训公司一手打造为业内的领先企业,Vicki Cheung开始坚信,只有能真正让人获益,对社会产生积极影响的技术,才是好技术。而且,好技术,应该与所有人共享。

此后,当她听说了OpenAI,并了解了里面的工作氛围和理想情怀后,产生浓厚兴趣,很快联系上里面的人,与Brockman展开了长谈

Brockman向她解释了自己对OpenAI的看法以及他想要建立的团队类型。Vicki Cheung立马就加入了。

用Vicki Cheung的话说,这是“正确时间的做正确事情”。她成为了OpenAI的首批工程师之一。

不过。Vicki Cheung和Brockman面临的挑战是,他们都不知道研究人员会做什么。

Vicki Cheung对此解释说:“我们知道研究人员需要在什么地方进行实验,但我们不知道他们需要具体进行怎样的实验。”

这就像在设计城市布局时,知道要在哪里修路,哪里建停车场,但到底路要修成什么样,停车场要建成什么样,不知道。

Vicki Cheung回忆这段时光时,她用了“黑暗中的艰难摸索”来形容。

他们需要搭建好整个组织的架构,并且保证这个架构具有持续更新的活力;

他们需要花很多时间与研究人员磨合、讨论、交心,搞清楚他们到底想做什么,如何能让他们更有效,更开心,更持久地投入工作;

他们需要不断进行基础的实验操作,不断迭代。

最终,当Vicki Cheung和Brockman惊讶地发现基础设施比预期好太多时,鬼知道他们在那段时间都经历了什么。

对,像计算机学习

除了Vicki Cheung外,OpenAI还有着太多特立独行的牛人,Olsson就是其中一枚。

“我们人类,其实应该向计算机学习,因为人类认知,原本就是一种计算过程的嘛。”Olsson说道。

要说到她对AI的兴趣,那可就得倒回很多年前了。

“当时,我只有12岁,老师让我们对意识的内涵进行内省,思考类似于‘好吧,我有一个大脑,那里到底发生着什么?’这样的问题,特别神奇的一个思想实验。”Olsson说道。

这个问题,从那后,一直存在于她的意识里。她凡事都会从机器的角度来分析,这个思维到底是如何形成的。

原来你是这样子的OpenAI!来看看它背后那些有趣的人和事

基于对思想和程序设计哲学的双重兴趣,Olsson在麻省理工学院(MIT)读本科时,便获得了计算机科学和认知科学的双学位。

“大学真好玩,大课少,大多数情况下我都可以自己用来玩一些编程,我会用编程来构建我想要的任何事。”Olsson说道。

此外,她还在暑假参与软件工程实习,做了一些开源项目,而这对她此后的AI生涯奠定了理论和实践上的双重基础。

本科毕业后,Olsson继续攻读硕博,在纽约大学学习神经科学课程。

就在这段时间,深度学习突飞猛进。

“我当时就意识到,下一个变革已经来了!” Olsson说到。

此后,喜欢研究酷酷的新事物的Olsson,觉得学术也许并不适合她,她真正想做的是用研究人类大脑的工作方式去研究如何用机器模拟这个过程。于是,她决心从事机器学习。

这之后,当她听说了OpenAI,觉得这个地方很酷,跟自己的想法很合拍,于是,准备尝试一番。

她找到Brockman,提出想在OpenAI工作,任何职位都可以接受。

在她看来,OpenAI提供的机会在两个层面上非常有吸引力。第一,尖端深度学习的前沿课题。第二,尖端项目的实践经历。

“此前,我做过开源项目,我非常热衷于开源。”Olsson说。 “这也是我来OpenAI的一个重要原因。”

如今,Universe平台(OpenAI创造的一个虚拟世界)已经发布。与其他团队其他成员一样,Olsson对于这个平台将在视频游戏上的潜力无比期待。

“我们正在努力弥从机器打游戏与现实人类的差距,”她说。

一同开发这个平台的另一位小伙伴Amodei也无比兴奋,他说:“Universe的目标是提供一个单一的平台,让您连接到电脑,并训练一个代理,去做任何人类可以在电脑上做的事情。”

不过,另一方面,他们也真正感到担忧。

“如果你可以训练一个代理,模仿人类在电脑上做有益的事情,你难道不能训练它来干一些坏事?”Amodei说道。

而这,也正是OpenAI成立的根本原因。

一匹年迈的德国老马也来了

正是由于共同的担忧和期待,OpenAI能不断吸引世界级大牛的加入。

下面要讲的这位大神就是Ian Goodfellow。

Ian Goodfellow是深度学习界的大佬,他曾同Yoshua Bengio和Aaron Courville合作(这两位也是深度学习界的名人)写了一本书——《深度学习》——这本2016年出版的书已经在Google Scholar上收录了444次引用,在缓慢发展的学术出版界这可真算得上是一个奇迹了。

原来你是这样子的OpenAI!来看看它背后那些有趣的人和事

然而,Goodfellow的AI之路并不是始于一个学校的哲学课或高中的在线物理测验。

它以死刑开始的。

2011年底,Goodfellow还在蒙特利尔大学读博士,有一天,他头痛难忍。他以为自己得了脑膜炎,赶紧上医院去检查。

这一检查,不得了了——脑出血。

“医生告诉我,我只有几个小时的时间了,几个小时后,我会立刻死去。”Goodfellow绝望地说到。

不过,还需要进一步确诊。

就在等待磁共振以最终确诊时,Goodfellow赶紧打了一个电话给一位AI研究员。

在电话中,他将自己对于机器学习的所有想法,倾囊相授,希望他死后,有人能将他所有的思考和想法进行尝试和验证。

“就在那一刻,我才发现,AI比我的生命还重要。我当时唯一的想法就是,在我死之前,我必须把我的思考共享出去,不能因为我的死而耽误了。”Goodfellow说道,“如果这辈子,我是以这样的方式来结束,也不错了。”

上天并没有辜负这位天才。

磁共振的结果显示,Goodfellow没有什么问题。他被送回了家,并被告知身体很健康。

回忆这段往事,Goodfellow有些苦笑。

那时候在谷歌实习,我没有保险,只是随便在山景城找了一个医生看病。

“他往我的脖子上捅了捅,就诊断出我有一个僵硬的神经,“他摇摇头说,“而且会死亡。”

“关于就诊的具体细节我记不清了,不过我对于当时在电话里所说的话,印象很深。当时希望尽快给那位AI研究院说清楚的,是类似于稀疏编码的东西,”他笑笑说,“现在我不关注这块了,我关注别的了。”

如今,Goodfellow更关注对抗性训练,以及人工智能的安全问题。

“过去,安全措施主要围绕着两个方面进行,一个是应用程序层面——你可以试图欺骗应用程序运行错误的指令,另一个是网络安全——你发送消息到可能被误解的服务器,就像你向银行发送消息一样,‘嘿,我是帐户所有者,让我进入’,银行就会被愚弄,而实际上你并不是帐户所有者。”

但是运用AI,特别是机器学习,安全将是一种完全不同的东西。

“让机器学习安全性,计算机会运行所有正确的代码,并知道所有消息是从哪里来的,”他说。“但是机器学习系统仍然可以被愚弄去做不正确的事。”

Goodfellow说,就像钓鱼。使用标准的网络钓鱼,电脑不会被骗,但操作电脑的人会。

AI也一样。它的代码保持不变。但是,它可以被欺骗做错误的训练任务。

Goodfellow说:“与人相比,机器学习算法真的很单纯。”

他表示:“如果你不想欺骗机器学习算法,大多数时候它都可以工作得很好。但是,如果有人了解机器学习算法的工作原理,想尝试愚弄它,那也是很容易做到的。”

此外,构建算法的人很难解释机器学习算法可能被愚弄的无数方法。

Goodfellow的研究重点是对AI代理使用对抗性训练。

这是一种“强力解决方案”,其中有大量愚弄AI的例子。代理给出这些例子,并训练AI不要为他们所欺骗。例如,你可以训练自动驾驶汽车上的AI,不要因为虚假的标志而在高速公路的中间停下来。

Goodfellow已经与Nicholas Papernot一起开发了一个对抗性训练库——cleverhans。

这个名字来自一匹德国马,那匹马在20世纪初因它的算术能力而成名。

一位德国的数学老师(也是一位自称为神秘的兼职骨科医生)买了一匹马,并声称自己教会了它加减乘除的运算。世界各地的人们都可以来考考聪明的Hans(那匹马的名字)。例如,15除以3,Hans会踏5次蹄子。或者人们会问7后面的数字是什么,它就踏8次蹄子。

问题是,聪明的Hans并没有那么聪明。至少并不像它的老师认为的那样聪明。

名叫Oskar Pfungst的心理学家发现,这匹马实际上并不是在做数学。相反,它是从周围的人那里得到的提示,用踏蹄的方式回应人类的肢体语言,直到周围的人微笑或点头。

Pfungst通过蒙起马的眼睛证明了这一点。当被问到一个问题时,马开始踏它的蹄。但是,由于无法看到提问题的人,它就一直踏蹄。

原来你是这样子的OpenAI!来看看它背后那些有趣的人和事

聪明的Hans视频介绍

https://www.youtube.com/watch?v=r7850Yl1rbg

“机器学习有点像聪明的Hans,”Goodfellow说,“在某种意义上说,我们已经给予了AI一些暗示。比如说在正确地标注图像后,它知道如何获得奖励。但有时候可能使用的并不是正确的提示,也获得了奖励,这就是安全研究人员需要干涉的地方。”

如今,Goodfellow的cleverhans库已经开源。

他说:“对于传统的安全,开源是重要的,因为每个人都可以看到代码,他们可以检查它,并确保它的安全。如果有问题,他们可以比较容易地报告,甚至自己发送修复。”

类似的情况也适用于机器学习安全。

“对于机器学习,还没有真正的完善,”Goodfellow说。“但是我们至少可以研究每个人使用的相同系统,看看它们的漏洞是什么。”

当被问及在研究机器学习方面,是否有让他感到惊讶的时候,Goodfellow谈到了他为机器学习算法进行实验时正确分类了对抗性例子的经历。

那时候,他刚刚读了一篇研究论文,提出了一些他认为有疑问的说法。所以他决定做一些测试。在实验运行的时候,Goodfellow和经理一起去吃午饭了。

“我告诉他,”Goodfellow回忆说“当我们吃完午饭回去,我不确定算法是否会正确对那些例子进行分类,那太难了。即使在这次训练之后,它仍会对那些例子进行错误分类的。”

但是当他们回去的时候,Goodfellow发现那个算法不仅识别出了对抗性的例子,还为正确的分类做了一个记录。

“对抗性例子的训练过程迫使它在最初的任务中变得如此优秀,以至于它比我们最初的模型要好得多,”Goodfellow说。

那一刻,Goodfellow意识到,AI简直是太厉害了,这家伙,简直是让人细思极恐,绝不能掉以轻心。

他们,也不过是一群普通人

在OpenAI,你只是感觉他们的工作和生活融为一体,非常充实,除此,看不出来什么特别之处。

每个人好像一颗螺丝钉,做着自己分内的事,却又不是普通螺丝钉,他们所钉之处,无不将墙体打透,让人看到墙外的新世界。

每个人看起来都很平凡,却又绝不平凡。

如今,Vicki Cheung正试图通过研究建立一个Kubernetes集群。Catherine Olsson则致力于不断扩大的AI代理平台。Ian Goodfellow这家伙,当他测试的算法变得更聪明、更安全的时候,他总会拿起一个三明治开心地吃起来。

他们每天坐在电脑前,将早上刷牙时或在晚上开车时,或者在医院等待就诊时思考到的问题,重新梳理,重新建模,去尝试,去更新。

明年是不是能买个豪宅住,换个豪车开,或者假期去哪个小岛享受奢侈游,这些想法貌似很少跟他们的关注点搭上边,其兴奋程度赶不上突然解决了某个Bug的激动,赶不上在那个破会议室的激烈争论来得神清气爽。

偶尔在假期,他们对于这些人类终极问题的思考,也不会停止。

在这么一群逗比和传奇的人眼里,只有跟人类未来过得更好,他们才是幸福的。

希望你的假期,也不要停止对于世界与未来的思考。

作者:Brent Simoneaux ,Casey Stegman

原文地址:https://www.redhat.com/en/open-source-stories/ai-revolutionaries/people-behind-openai

转载本站任何文章请注明:转载至神刀安全网,谢谢神刀安全网 » 原来你是这样子的OpenAI!来看看它背后那些有趣的人和事

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址