LeCun和Bengio“吵”起来了，人工智能是“潘多拉魔盒”吗？

夕小瑶

于 2023-10-18 21:52:57 发布

阅读量103

点赞数

文章标签：人工智能

本文链接：https://blog.csdn.net/xixiaoyaoww/article/details/133915686

版权

作者 | 谢年年

上周末，深度学习领域最有影响力的三巨头之二Yann LeCun和Yoshua Bengio就AI的潜在风险和安全问题引发了一场激烈辩论，人工智能是“潘多拉魔盒”吗？这场辩论引来众多AI知名人士围观。

LeCun在Facebook上发起了这场辩论，并呼吁那些相信人工智能的力量和可靠性的“沉默大多数”人工智能科学家和工程师发声🔊。

迄今为止沉默的大多数人工智能科学家和工程师 -不要相信人工智能灭绝的场景 —要相信我们有能力让人工智能变得强大、可靠、安全 -我认为最好的方法是通过开源的人工智能平台，需要大声说出来!

▲image.png

Bengio回应了LeCun的帖子，并发表了不同的看法。Bengio认为应该谨慎看待AI，他认为我们仍然不知道如何设计安全、强大的人工智能系统，并强调需要在人工智能安全和治理方面进行重大投资。他还质疑了将强大的人工智能系统开源这种做法，将其比作自由分发危险武器。

LeCun针对Bengio提出的观点进行了回应，他表示确保AI系统的安全性是必要的，但不必夸大其影响，也无需过度想象可能发生的灾难性情景。他反驳了Bengio关于在AI安全方面的投资的说法，坚称已经有大量的资金正在被投入到确保AI系统安全可靠的工作中。此外，LeCun不同意将AI系统与武器进行比较，他明确表示AI的设计目标是增强人类智能，而不是对人类造成伤害。

微软语义机器研究总监、约翰霍普金斯大学教授Jason Eisner也加入了这场辩论，他支持Bengio将人工智能比作武器。Bengio赞同Eisner的观点，认为虽然我们无法将风险降至零，但可以通过限制对强大人工智能系统的访问来减少潜在的伤害。