人工智能先驱表示其对世界的威胁可能比气候变化“更紧迫”

人工智能先驱 Geoffrey Hinton 于 2017 年 12 月 4 日在多伦多举行的汤森路透金融与风险峰会上发表讲话。

伦敦，5 月 5 日（路透社）——人工智能可能对人类构成比气候变化“更紧迫”的威胁，AI 先驱 Geoffrey Hinton 周五在接受路透社采访时表示。

被广泛称为“AI 教父”之一的杰弗里·辛顿 (Geoffrey Hinton) 最近宣布，他在Alphabet (GOOGL.O)工作了十年后退出了该公司，并表示他想就这项技术的风险大声疾呼，而不影响他的前任雇主。

Hinton 的工作被认为对当代人工智能系统的发展至关重要。1986 年，他与人合着了开创性论文“通过反向传播误差学习表示”，这是支撑 AI 技术的神经网络发展的里程碑。2018年，他被授予图灵奖，以表彰他的研究突破。

但他现在和越来越多的科技领袖一样公开表达了对人工智能可能构成的威胁的担忧，如果机器要获得比人类更高的智能并控制地球的话。

“我不想贬低气候变化的价值。我不想说，‘你不应该担心气候变化。’ 这也是一个巨大的风险，”欣顿说。“但我认为这最终可能会变得更加紧迫。”

他补充说：“随着气候变化，很容易推荐你应该做什么：你只要停止燃烧碳。如果你这样做，最终一切都会好起来的。为此，你根本不清楚你应该做什么。”

微软支持(MSFT.O)的 OpenAI 在去年 11 月为一场技术军备竞赛打响了发令枪，当时它向公众提供了人工智能驱动的聊天机器人 ChatGPT。它很快成为历史上增长最快的应用程序，在两个月内达到了 1 亿月度用户。

4 月，Twitter 首席执行官埃隆·马斯克 (Elon Musk) 与数千人一起签署了一封公开信，呼吁暂停六个月开发比 OpenAI 最近推出的 GPT-4 更强大的系统。

签名者包括 Stability AI 首席执行官 Emad Mostaque、Alphabet 旗下的 DeepMind 的研究人员，以及 AI 先驱 Yoshua Bengio 和 Stuart Russell。

尽管 Hinton 和签署者一样担心人工智能可能被证明是对人类的生存威胁，但他不同意暂停研究。

“这完全不现实，”他说。“我认为这是一个存在风险的阵营，它已经足够接近了，我们现在应该非常努力地工作，并投入大量资源来弄清楚我们能做些什么。”

在欧盟，一个立法者委员会回应了马斯克支持的信件，呼吁美国总统乔拜登与欧盟委员会主席乌尔苏拉冯德莱恩就该技术的未来方向召开全球峰会。

上周，委员会通过了一系列针对生成式人工智能的具有里程碑意义的提案，这将迫使像 OpenAI 这样的公司披露用于训练其模型的任何版权材料。

与此同时，拜登在白宫与包括 Alphabet 首席执行官 Sundar Pichai 和 OpenAI 首席执行官 Sam Altman 在内的多家人工智能公司领导人举行了会谈，承诺就公司提高其系统透明度的必要性进行“坦诚和建设性的讨论”。

Hinton 说：“技术领导者对此最了解，政治家也必须参与其中。” “它影响到我们所有人，所以我们都必须考虑一下。”​