AI教父从谷歌离职：担忧人工智能风险 有些后悔一生的工作

雷递网 乐天 5月2日

被誉为“人工智能教父”之一的人工智能先驱杰弗里·辛顿 (Geoffrey Hinton) 日前辞去了他在谷歌的职位，以便他可以公开表达他对人工智能如何成为现实的担忧——人工智能可能对世界造成重大伤害。

杰弗里·辛顿接受采访时说，“现在有些后悔自己一生的工作。尽管人工智能有许多有益用途，但担心这项技术可能会被不负责任地使用，从而引发意想不到的后果。”

据外媒称，杰弗里·辛顿担心谷歌和微软等科技巨头为创造最先进的人工智能而展开的竞争。如果没某种形式全球监管，这场全球竞赛将不会停止。

杰弗里·辛顿因1986年普及神经网络的理论发展和2012年创造了一种能识别图像的能力而闻名。他的工作对当前生成艺术模型（如Stable Diffusion和MidJourney）的发展至关重要，并为OpenAI后续努力奠定了基础，使GPT-4能与图像进行交互。

OpenAI的首席科学家和联合创始人Ilya Sutskever就是他的学生。

许多人将杰弗里·辛顿与 J. 罗伯特·奥本海默 (J. Robert Oppenheimer) 相提并论，后者是一位以制造原子弹而著称的物理学教授。

杰弗里·辛顿认为，AI带来的直接问题之一是网上虚假图像、视频和文本的泛滥，这可能会使普通人越来越难以辨别真相。生成式AI不断改进，虚假和操纵内容的创建者可以使用这些工具来欺骗和迷惑人们。

杰弗里·辛顿也很关心AI可能会影响以后的工作。虽然像ChatGPT这样的聊天机器人目前是对人类工作者的补充，但它们最终可以取代那些处理日常任务的人，例如私人助理、会计师和翻译。虽然人工智能可能会减轻一些单调的工作，但它也可能会消除比预期更多的工作，破坏社会平衡。

从长远来看，杰弗里·辛顿担心该技术的未来版本会对人类构成威胁，因为他们可能会从他们分析的大量数据中学到意想不到的行为，尤其是当AI允许系统生成和执行自己的代码。

杰弗里·辛顿只是数以千计的技术领导者和研究人员之一，他们对各个领域（从色情聊天到医学诊断）的AI发展呈指数级发展感到震惊。上个月，一封公开信广受欢迎，领导人在信中呼吁暂停 AI 开发，直到建立足够的控制。欣顿没有签名。

但杰弗里·辛顿表达了担忧，“看看五年前和现在的情况，”“取差值，向前传播，太可怕了。”"Look at how it was five years ago and how it is now,Take the difference and propagate it forwards. That's scary."

对于杰弗里·辛顿的观点，也有人认为，这是打不过徒弟被下课了。领先了说进步，落后了说风险，这似曾相识。

———————————————

雷递由媒体人雷建平创办，若转载请写明来源。