在我们与“黑客帝国”之间，有一座堡垒——OpenAI发展史

https://www.toutiao.com/a6692757866207511044/

 

OpenAI成立于2015年底，是YC创始人Sam Altman和钢铁侠Elon Musk共同创立的项目。它的初衷很简单：随着人工智能技术的推进，超级人工智能将成为可能。当人工智能拥有跟人一样自主学习和反馈的能力，就有可能给世界带来威胁。因为历史进程不可逆，所以与其担心害怕，不如公开一切信息。这样，即便有黑暗系的人工智能出现，也会因为技术开源而产生更多制衡的力量。如今OpenAI已经发表了15+篇的研究论文，2个搭建系统和无数个工具，全部开源，世界上任何一个对人工智能有兴趣的人都可以下载学习尝试研究。这个聚集了世界最精英大脑的组织是怎么产生的呢？这个故事会告诉你！

就像姚晨当年选择过年前官宣自己和凌潇肃的离婚。在美国，周五下午爆出来的料一般也是为了最小化舆论余震。大家快快乐乐的准备下班喝酒休息休息，谁真的有兴趣扒着手机等八卦？

所以大家没搞懂，电动汽车Tesla创始人Elon Musk和YC主席Sam Altman这俩硅谷最重磅的人物，为啥要选择2015年十二月的一个周五下午，在一个为期一周的AI大会最尾声时，官宣他们新人工智能公司OpenAI的成立。

Source: Vanity Fair

当然是有原因的：官宣不可避免的要介绍创始团队成员，而每个硅谷的人都在虎视眈眈的盯着这些AI届的高智高才人士。

AI是未来不可逆的方向，所以整个一周的会议，每家不差钱的公司都在疯狂抓这些参会的AI高智高才，跟他们约谈，开出“离疯了不远”的工资。以至于Elon Musk和Sam Altman不得不拖沓到最后一刻 —— 大家都被这些疯狂出资当场挖人的公司搞的焦头烂额莫名其妙。

“离疯了不远”是多少钱？

2013年底左右，微软研究部的副主席Peter Lee说，当时一个人工智能的高级研究员的招聘价格，就已经超过打美国职业橄榄球联盟四分卫的最高级人才，大概10～15万美金年薪左右。这还是AI还没火成这样的价格。如今，尤其当世界两大巨头Elon Musk和Sam Altman也决定联手进入AI领域，AI方面的人才便更贵了。Wojiech Zaremba，这个新加入OpenAI项目的全职研究员说，“在过去这几个月，有其他公司给我发过超目前市场价2～3倍的工资”，那也就是30～45万美金年薪。

OpenAI项目没有那么财大气粗，他们给这些研究员的是其他东西：一个不需要担负产品搭建和季度的产品盈亏的KPI责任的环境，每人发挥所长，一门心思搭建未来世界，然后把所有成果免费向世界提供的工作。

对，Musk和Altman的OpenAI旨在把这一21世界最有价值的科研成功免费跟世界分享，让未来没有任何一家公司可以凭借AI技术一家独大。

 

Zaremba说，其实那些超出市场价3～4倍的工资，只能让他越发肯定OpenAI的价值观。他认为钱在这里起到了物极必反的效果，财大气粗的公司用如此高薪聘请研究员，必然要和公司未来的既得利益挂钩。如果产生既得利益，也一定会视为己有，不可能全然公开跟世界分享。参与他们并没有推翻旧世界的运转法则，反而也更坚定了他加入OpenAI的决心。

这也正是这个故事讽刺意味最大的地方：这用巨额工资吸引AI研究员的方法，成效不大。因为这些研究员本身的动力不完全源于钱。他们更多的时候很纯粹，就想通过分享自己的研究成果，来跟这个领域更多强者PK，从而更近一步促进技术的发展。

2016年4月，OpenAI发布了自己第一批AI软件，这是一个基于”强化学习“技术研发出的，用于搭建人工智能系统的工具箱。”强化学习“就是之前打败人类的阿尔法狗的核心驱动技术。通过这个工具箱，任何人都可以搭建类似阿尔法狗的程序。

当然，研发出更多阿尔法狗并不是OpenAI的唯一使命。OpenAI是一个数十亿美金级的，旨在推动AI发展的项目。从他的整个创始团队和创始过程我们就能知道，这不仅仅是家技术革命公司，它还要变革搭建技术的方法：全部开源。

AI已经无所不在了

硅谷不是没有泡沫，但AI不是。

在类似谷歌，脸书等企业，AI的”深度学习“技术早已悄悄的进入每个人的生活。比如美图秀秀之所以可以自动修脸，iPhone和支付宝之所以可以人脸识别，Siri和天猫精灵之所以可以跟人对话，就是深度学习的一个成功案例。

而且”认识脸“和 “听懂人类要求”只是深度学习的开始，这个技术在未来还会有无限延伸的方向。比如，它可以帮助计算机理解人类的自然交流语言，从而让我们可以搭建出一批不仅可以执行，还能边执行边吸取更多信息学习的机器人。有很多人认为这一技术最终会给机器无限近似拥有跟人类一样思考学习的能力。

Source:Shutterstock

这就是危险所在了。Musk和Altman都担心：人工智能可以有多牛逼，就可以带来多大的隐患。而且这种担心的不是少数派，只不过反常规的是，Musk和Altman觉得解决这个隐患的方法不是局限科技进步，而是让更多人拥有同样的能力来达到相互制衡，无一家独大的状态。

这也正是OpenAI吸引无数极度聪明的理想主义年轻人的原因。

OpenAI的这个想法开始于2013年夏天的一个晚上，那一晚，Musk和当时还在谷歌大脑工作的Ilya Sutskever在硅谷的瑰丽酒店一个私人包厢里吃饭聊天。当时谷歌大脑是整个AI领域最领先的团队，他们日夜不停的研究搭建深度神经网络，也就是可以让人工智能通过阅读大量数据自主学习并完成任务的网络基础，比如可以让人工智能认读照片，写邮件和跟人对话等。Ilya Sutskever是团队的核心人物，但他的理想不仅于此。

Source：bizjournals

Sam Altman是在他们吃了一半的时候插进来的，他身后的YC成功孵化了类似Airbnb, Dropbox等千亿级别的独角兽公司。跟他一同前来的还有Greg Brockman，一个年轻但经验丰富的创业者，同时也是一家叫Stripe的独角兽公司的技术方向创始人。

这一行人都有一个共同的目标，就是创造一个新型的AI实验室，一个不受谷歌脸书百度等任何公司独家控制的实验室，一个信息共享人人皆可触的实验室。“这是我们能想到的，让AI在一个相对安全的方向上发展的最佳解决方法。”Brockman说。

Source: Bloomberg

但问题是：这些世界上最优秀的大脑目前都已经在谷歌脸书百度微软工作了，所以没有人能确定，即便身后有Musk和Altman等大咖撑腰，这些人是否愿意跳操加入这个新组织。

Brockman是最早全职加入OpenAI团队的，瑰丽酒店的对话给他信心。他第一个联系的是Yoshua Bengio, 蒙特利尔大学的计算机科学家，也是深度学习技术三大教父之一。

其他两个先驱Geoff Hinton和Yann LeCun目前都分别在谷歌和脸书工作，只有Bengio仍然全身心投在学术研究这块儿。很快的，Bengio给Brockman列了一张他认为在这个领域最优秀的研究员名单，接下来的几周里，Brockman一个个的约见。

大多数研究员都很认可这个想法，但是对于跳槽还是心有戚戚焉。为了消除他们的忧虑，Brockman邀请了10个他最希望可以加入团队的人周六去纳帕谷喝酒聊天社交。

这是Brockman的秘密法则，“等你到了这儿，在你开车的过程中，在你交流的过程中，你的感知就会开始产生变化，尤其是在酒精的催化下。”Brockman说。“很明显，你能看出来，大家概念的吸引度非常高。”

那天结束时，Brockman邀请了所有人加入团队，并告诉他们可以有三周左右的时间去思考。等三周结束，9个人决定加入OpenAI，而且即便有其他公司不断挖角，他们都没有离开。 “谷歌当时也的确给了我一个极佳的留下筹码”，Sutskever说，“但最终我还是决定去OpenAI，因为这个团队太强了，我是遇强则强的人，而且，它代表了一个正确的使命方向。”

Source: Variety

深度学习这个运动始于学术界，也就是近几年谷歌和脸书才开始挺进这个领域，带走了类似Hinton和LeCun这样的学术界高人。但即便身处相对闭环的谷歌和脸书，这俩教父也是非常愿意和其他机构合作的。因为“当你用封闭的方式做研究时，你就已经落后了,” LeCun说。

开源的局限

但开源也是有局限的。 OpenAI的大多数理想主义精英在运营的过程中也发现，他们有时候不得不妥协。

比如OpenAI是由Musk和Altman发起的，他俩分别代表了两个公司，一个叫SpaceX，一个叫YC。

“在里面有一定的自相矛盾点，”教父之一的LeCun说。 “一方面它是个非盈利组织，另一方面它又跟YC有着非常密切的联系，而且大家的工资也跟市场价格无二。”

对此，Brockman的回答是，这个实验室并没有给研究员支付类似谷歌和Facbeook等公司的天价报酬，但的确“工资不差”，而且会用YC的股权和之后SpaceX的股权作为留下的附加值，但一定不会给任何姐妹公司信息优待。

不过逼问到一定程度，Brockman也会承认OpenAI这种理想化的使命是有局限的。公司可能不会立刻开源所有的产品，会有一个先后早迟的顺序。“立刻开源一切有的时候会面临不成熟的技术，所以一小部分技术可能需要再测试观察一下，才能真正推出” Brockman说。

面对OpenAI是否会针对任何技术申请专利，Sutskever和Brockman的回答是：在短期内我们不会专利任何技术，但我们保留对未来策略的调整权利。如果未来我们发现，针对某些技术申请专利其实可能才是最好的方法，我们也会去做的。比如，”OpenAI可能会开展类似先发制人的专利注册流程，这样的话，就不会有其他公司利用OpenAI的技术，给自己申请专利了。”

超级人工智能的问题

Musk和Altman官宣OpenAI项目时，他们是这么描述它的：这个项目是一种可以中和超级人工智能产生对人类的潜在威胁的方法。

的确，具有恶意的超级人工智能也是有可能从OpenAI研发的技术里产生，但是，正因为所有人都有获取OpenAI研发出的内容的能力，所以同时也会产生更多方法来制衡具有恶意的超级人工智能。

不同意这个观点肯定有，比如剑桥大学的哲学家Nick Bostrom。他认同超级人工智能会给人类带来的威胁，但同时认为如果全部开源，利欲熏心的某些私人机构就可能会在试验阶段就拿回来自己研发。“如果你知道自己有一个摧毁世界的按钮，你肯定是不愿意交出来给任何人的” Bostrom说，“但是如果你不交出来，你跟谷歌和脸书又有什么区别呢？”

但Bostrom也是同意在现阶段OpenAI的利湿大于弊的，“它至少可以部分消除超级人工智能在某个企业一家独大的可能性。”

OpenAI的首要工作

2016年1月，Brockman和9个AI专家开始了OpenAI的工作。

在集体思考了几天后，Brockman对外宣布，OpenAI第一个项目将集中在”强化学习“技术这个领域，也就是让人工智能一遍又一遍的重复任务，并且找到最优化的执行任务方法。但更重要的一个目标，他说，是在“无监督学习”这个技术上。也就是创造出真正意义上可以自主学习，不需要人类指导的机器。

今天的深度学习依靠的是人类对数据的提前标注。如果你想让一个神经网络认识猫，你必须给这个神经网络提供一定数量集的猫片，并且都标注出“什么是猫”，这是人监督指导下的学习。

但跟目前在AI领域的所有研究员一样，OpenAI的目标，是创造一个不需要详细标注就可自主学习的神经网络。“在一个真正优秀的‘无监督学习’体系下人工智能可以自主抓去任何互联网上的信息，就像人了一样，通过自我阅读来达到学习的目的。” Brockman说。

超级人工智能将拥有跟人类似的自主学习能力，但拥有人永远无法赶超的学习速度和知识接触面积

放弃控制是这个理想化开源项目的逻辑本质。倘若真的集齐足够多的最强大脑来共同完成这个目标，最终的结果将可以打败任何一个想凭借个人私力控制人工智能世界的恶念。

但如果AI真的变成像Brockman所设想的一样，我们就必须确定新的人工智能仍然可以遵守现在我们正在制定的规定。Musk, Altman和Brockman把未来建在了群体的智慧上，假如他们对了，未来世界可能就不止是人类的了。

翻译编辑：梅姗姗

校对：张逢