谷歌创始人公开信：谈AI缺点但未提员工抗议AI武器风波【附全文】-CSDN博客

本文链接：https://blog.csdn.net/McIl9G4065Q/article/details/80141898

▼

点击上方蓝字关注网易智能

为你解读AI领域大公司大事件，新观点新应用

640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1

公司创始人谢尔盖·布林(Sergey Brin)表示，人工智能的发展带来了新的问题和责任。

【网易智能讯 4月28日消息】据国外媒体报道，人工智能是Alphabet高层管理人员近期反复在发言中提及的主题。公司创始人谢尔盖·布林(Sergey Brin)最新发布的这封公开信也不例外，但其在信中提及了人工智能在安全、工作以及公平性方面可能存在的缺陷。

自2004年上市以来，该公司每年都会发布一份由布林或拉里·佩奇（Larry Page ）两位联合创始人撰写的公开信。机器学习和人工智能曾经被提到过。但今年布林详细阐述了最近人工智能发展的热潮，他将其描述为“复兴”。

布林写道：“人工智能领域的春天是我一生中计算领域最重要的发展，”而他的公司显然已经让全世界使用电脑的方式发生了巨大改变。

当谷歌于1998年成立时，布林写道，诞生于20世纪40年代的机器学习技术，也就是人工神经网络还是“计算机科学中被遗忘的脚注”。但在今天，这种方法已经成为最近人工智能兴起和投资热潮的驱动力。布林在公开信中信揭示了Alphabet应用神经网络的部分清单，其中包括用于自动驾驶汽车识别物体，翻译语言，为YouTube视频添加标题，诊断眼部疾病，甚至开发更好的神经网络等任务。

布林对计算能力的提升导致人工智能成为可能表示赞同。他说在一些谷歌服务器内部运行的定制人工智能芯片要比谷歌第一台服务器中的Pentium II芯片强大100万倍。在一段数学式幽默中，他表示谷歌的量子计算芯片的处理速度总有一天会比现有计算机更快，快得无法想象。

正如你所料，布林希望Alphabet和其他人能够找到人工智能的更多用途。但他也承认，该技术可能带来的不利因素。 “这种强大的工具还带来了新的问题和责任，”他写道。

布林说，人工智能工具可能会改变工作的性质和数量，也可能被用来操纵群体，这可能会促使读者联想到Facebook最近的风波。布林写道，对人工智能安全的担忧涵盖了从“科幻风格的恐惧感到诸如自动驾驶汽车性能等新近问题”的多个方面。

对谷歌和科技行业来说，所有这些听起来都很可能。同时，这些市场参与者也在全力以赴地从人工智能领域攫取利润。甚至一些谷歌员工也不确定公司是否走在正确的道路上——数千人签署了一封抗议信，要求公司抵制与美国国防部签订的将机器学习用于无人机视频分析的合同。

640?wx_fmt=jpeg

布林没有提到这个问题，而是以一种相对宽慰的说辞总结了关于人工智能的缺点。他在信中提到，该公司在人工智能组织Partnership on AI的合作关系，以及Alphabet在诸如如何使学习软件不作弊等领域开展的相关研究，还有人工智能决策如何更容易被人类理解。 “我期望机器学习技术能够继续迅速发展，而且Alphabet仍然是领导者——无论是在技术领域还是在道德领域，”布林写道。

附公开信全文

“这是最好的时代，

这是最坏的时代，

这是智慧的时代，

这是愚蠢的时代，

这是信仰的时期，

这是怀疑的时期，

这是光明的季节，

这是黑暗的季节，

这是希望之春，

这是失望之冬。”

以狄更斯的《双城记》作为开头，完美地描述了我们现在所生活的这个变革中的时代。我们正处在一个充满灵感和可能性的时代，机会来临的同时也需要我们进行大量地思考并担起责任，因为科技深入且不可逆转地交织在我们的社会中。

计算爆炸

计算用于解决重要问题的能力和潜力达到了史无前例的高度。在过去的几年里，计算成本一直在不断增加。我们在Google的第一年使用的奔腾二代处理器每秒执行大约1亿个浮点运算。

我们今天使用的GPU可执行大约20万亿个浮点运算——这一点就可产生大约20万个差异——而我们自己的TPU现在可以执行每秒180万亿（180万亿）浮点运算。

如果量子计算的承诺真的能实现，那么即使是这些惊人的成果，也可能显得微不足道。对于某一类特殊的问题，量子计算机可以以指数级的速度解决它们。例如，如果我们成功地使用了72量子计算机，那么就需要数百万台传统计算机来模拟它的计算性能。

一个333量子的错误校正量子计算机将会不负众望，提供10亿个亿倍的加速。

在这种计算热潮中，有几个因素在起作用。首先，当然是有关摩尔定律将停止使用这种一直不绝于耳的声音，尽管一些传统的测量方法，如晶体管的计数、密度和时钟频率，要停止使用的声音已经减少。

第二个因素是更大的需求，这源于游戏的高级图形，令人惊讶的是，这还源语当今一些主要的加密货币中，比如以太坊，所使用的GPU-友好的工作证明算法。

然而，第三个也是最重要的因素是机器学习的深刻变革，它在过去的十年中一直在不断发展。这都是由这些日益强大的处理器实现的，同时，这也是进一步发展处理器的主要动力。

希望之春

于我而言，人工智能的又一春是计算行业最重要的发展。当我们刚开始创业之时，神经网络在计算机科学中是一个被遗忘的分支，历经了1980年代人工智能寒冬之后遗留下来。然而今天，这一技术的广泛应用已经促成了数量惊人的应用的诞生。

我们现在利用神经网络来：理解谷歌图片中的图片;使Waymo汽车能够安全发现和识别物体;显著提高我们硬件的声音和相机质量;让Google Home理解对话并能输出对话;在谷歌翻译中翻译超过100种语言;搜寻YouTube上出现的使用10种语言的数十亿个视频;提高数据中心的效率;为邮件给出简短回复;帮助医生诊断疾病，如糖尿病视网膜病变;发现新的行星系统;创建更好的神经网络（AutoML）……还有更多的应用方式。

每个月，都有令人惊叹的新应用和变革性的新技术。从这个意义上说，我们真的是处在技术复兴的时代，这是一个激动人心的时代，我们可以看到涉及几乎涵盖现代社会各方面的应用。

然而，这些强大的工具也带来了新的问题和责任。它们将如何影响不同行业的就业？我们如何理解这些工具在幕后做的事情？公平的衡量标准是什么？它们如何操纵人们？它们安全吗？

人们对所有这些问题都进行了严肃的思考和研究。最值得注意的是，安全问题涉及到各种各样的问题，从对科幻小说中才能看见的感知能力的恐惧，到更近期的问题，比如验证自动驾驶汽车的性能。

我们在人工智能安全方面的一些值得注意的举措列举如下：

人工智能安全讨论需抓重点

DeepMind伦理与社会

结对：人类与AI研究项目

人工智能的伙伴关系

我希望机器学习技术能够继续快速发展，让Alphabet继续成为一个领导者——无论是在技术层面还是在道德领域的发展上。

G代表谷歌

大约三年前，我们重组了公司，成立了母公司Alphabet，把谷歌作为我们的子公司（尽管比其他公司要大得多）。在我写这封信的时候，谷歌已经进入了它的第20个年头，并且继续为越来越多的人提供信息和技术产品和服务。

现在有超过十亿人使用谷歌搜索、YouTube、谷歌地图、Google Play、Gmail、Android和Chrome浏览器。