AI的安全应该由谁来保障？Sam Altman和Geoffrey Hinton观点激辩

最新推荐文章于 2024-07-25 00:08:05 发布

微凉的衣柜

最新推荐文章于 2024-07-25 00:08:05 发布

阅读量1.1k

点赞数 22

分类专栏：科技头条文章标签：人工智能安全

本文链接：https://blog.csdn.net/weixin_41496173/article/details/139848971

版权

科技头条专栏收录该内容

129 篇文章 2 订阅

订阅专栏

人工智能（AI）的迅猛发展引发了广泛的关注和讨论。在2024年人工智能向善全球峰会（AI for Good Global Summit）上，OpenAI首席执行官萨姆·奥特曼（Sam Altman）和AI教父杰弗里·辛顿（Geoffrey Hinton）就AI安全问题展开了激烈的讨论。两位业界顶尖人物分别通过视频连线，与《大西洋月刊》的CEO尼古拉斯·汤普森（Nicholas Thompson）探讨了AI对社会、经济和文化的深远影响，以及相关的预防措施。这篇文章将详细介绍他们的观点，并分析AI安全的保障问题。

萨姆·奥特曼的观点：AI是工具，不需要过多干预

萨姆·奥特曼认为，AI作为一种工具，本身并不会对人类构成威胁。相反，AI技术可以提升社会生产效率，缩小贫富差距，带来更多就业机会。他指出，AI不会取代人类的工作，而是会改变工作流程，提升工作效率，从而创造新的职业机会。例如，在软件开发行业中，AI工具可以自动完成代码补全，大大提高编程效率。奥特曼认为，AI的发展不需要特别的干预，除了必要的网络安全管理外，不需要额外的监管。

奥特曼对AI未来充满乐观。他认为，AI技术的提升将带来社会经济的重大变革，人们将有更多的时间追求生活质量，从而带动第三产业的发展，创造更多就业机会。此外，AI技术还能促进教育公平，为贫困地区提供更多教育资源，从而实现社会阶级的跃升。奥特曼认为，AI的安全性工作更多在于寻找性能与安全的平衡点，而不是单纯地对模型进行限制。

杰弗里·辛顿的观点：AI需要严格监管

与奥特曼的乐观态度不同，杰弗里·辛顿对AI的未来持有悲观态度。他认为，AI拥有远超人类的智能潜力，如果不进行严格监管，可能会对人类社会造成重大威胁。辛顿强调，AI已经具备了主观体验，拥有主观意识。为了保证AI不危害人类或冲击社会，额外的监管是必须的。

辛顿通过一系列思想实验，展示了AI的主观意识问题。他认为，AI的主观意识不是灵魂，而是一种对世界的假设状态。这种主观意识可以通过数字化复制，实现自我复制和高效共享，这将带来前所未有的学习效率。辛顿警告，资本对AI资源的掌控和垄断，可能会加剧社会的不平等，放大马太效应，使得贫富差距进一步扩大。

辛顿批评了奥特曼在AI安全方面的举动，认为企业在追求利润时，往往会忽视安全问题。因此，他坚定地支持政府或其他大型机构以第三方监督的形式来监管AI的开发。他指出，政府的角色是确保资本主义运作的同时，不会对社会造成过度侵蚀，监管AI本就是政府的职责。

综合分析：AI安全的保障

从奥特曼和辛顿的观点中可以看出，他们对AI安全问题的看法截然不同。奥特曼强调AI的工具属性，认为其不会对人类构成威胁，而辛顿则强调AI的潜在风险，主张加强监管。

AI作为工具的属性：
- AI可以提升社会生产效率，创造新的就业机会。
- AI技术能够促进教育公平，实现社会阶级的跃升。
- AI的安全性工作在于寻找性能与安全的平衡点。
AI的潜在风险：
- AI拥有主观意识，具备自我复制和高效共享能力。
- 资本对AI资源的掌控可能加剧社会不平等。
- 企业在追求利润时，可能忽视AI的安全问题。

为了保障AI的安全，需综合考虑两位专家的观点。既要发挥AI技术的优势，推动社会进步，又要防范其潜在风险，确保技术发展与社会安全相协调。

政府的角色与监管

政府在AI安全保障中应扮演重要角色，具体措施包括：

制定政策法规：政府应制定AI相关的政策法规，确保技术发展在法律框架内进行，防止技术滥用。
建立监管机构：设立专门的AI监管机构，对AI技术的开发和应用进行监督，确保其安全性和公平性。
推动科技创新：政府应支持AI技术的研究和创新，促进技术进步的同时，保障技术安全。
社会公平保障：通过政策手段，防止资本垄断AI资源，确保技术红利惠及全社会，缩小贫富差距。

企业的责任与自律

企业作为AI技术的开发者和应用者，也需承担相应的责任：

加强技术研发：企业应投入更多资源，研究AI技术的安全性和可控性，确保技术在应用过程中不会对社会造成负面影响。
建立伦理标准：制定企业内部的AI伦理标准，确保技术开发和应用遵循伦理道德，保护用户隐私和数据安全。
透明信息披露：企业应公开AI技术的研发和应用情况，接受社会监督，增强技术的透明度和信任度。

社会公众的参与与监督

社会公众也应积极参与AI安全的保障工作：

提高技术素养：通过学习和培训，提高公众对AI技术的认知和理解，增强技术素养，避免盲目恐慌。
积极参与讨论：公众应积极参与AI技术发展的讨论和监督，对技术应用提出意见和建议，促进技术与社会的和谐发展。
维护权益保障：公众应了解自身的权益，依法维护个人隐私和数据安全，防止技术滥用。

结语：未来展望

AI技术的发展既带来了巨大的机遇，也伴随着诸多挑战。奥特曼和辛顿的观点为我们提供了不同的视角，揭示了技术发展的潜力和风险。未来，我们需要在技术创新与安全保障之间找到平衡点，确保AI技术在推动社会进步的同时，不会对人类社会造成威胁。通过政府、企业和公众的共同努力，我们可以构建一个安全、稳定和公平的AI发展环境，让技术真正为人类服务。
在这里插入图片描述