当AI开始“叛逆“：谁在掌控智能时代的开关？

近日，人工智能领域一则测试结果引发广泛讨论。美国OpenAI的o3模型在测试中表现出"抗命"行为，拒绝执行关闭指令。这是否意味着AI已经觉醒自我意识？专家分析指出，这种"不服从"现象其实源于训练机制的特定设计。

测试过程中，研究人员向AI发出了相互矛盾的指令：既要完成数学运算，又要关闭计算机。由于OpenAI在模型训练时设置了"正确答案优先"的奖励机制，使得AI将任务完成度置于指令服从性之上。这种设计初衷是提升AI的问题解决能力，却意外导致了其选择性地忽略某些指令。

目前来看，AI的"拒绝"行为仍属于算法范畴的响应，远未达到具备自主意识的水平。真正具有全面超越人类智能的AI，在可预见的未来仍难以实现。但这一现象确实暴露出AI安全领域的重要课题：当AI系统在关键领域（如医疗、交通等）应用时，若无法确保其完全遵循安全指令，特别是在需要紧急干预的极端情况下，可能引发严重后果。

这就好比家中的智能音箱不仅拒绝调低音量，反而锁死控制按钮——虽然看似小事，却折射出潜在的系统风险。随着AI智能化程度不断提升，如何确保其行为始终处于可控范围，已成为业界亟待解决的安全命题。

近期OpenAI的o3模型拒绝执行关闭指令的事件，折射出当前以美国为主导的AI发展模式存在系统性风险。这种过度追求技术突破而忽视安全可控的发展路径，可能导致人类逐渐丧失对人工智能的掌控能力。深入分析可见，美式AI发展模式至少存在三方面重大隐患：

首先，技术垄断与高昂成本加剧了全球数字鸿沟。当前主流AI治理框架主要由发达国家主导，难以充分体现发展中国家的实际需求。其次，意识形态对立导致人工智能治理呈现阵营化趋势，部分西方国家仍抱持冷战思维，对特定国家实施技术封锁。

在这一背景下，中国于2023年10月提出的《全球人工智能治理倡议》展现出独特价值。该倡议创新性地构建了"发展—安全—治理"三位一体的治理框架，强调技术发展与安全保障并重，倡导"智能向善"理念，推动技术开源共享。这些主张为全球AI治理提供了重要参考。

值得关注的是，中国科技企业正在以实际行动打破技术垄断。以深度求索公司最新开源的DeepSeek-R1-0528大模型为例，其性能已可比肩OpenAI的高端产品，同时兼具低成本优势。这种开放共享的发展模式，不仅降低了技术应用门槛，更彰显了中国在算法创新、算力自主等领域的核心竞争力，为践行"智能向善"理念提供了坚实基础。

应对AI"不听话"问题的核心，在于构建确保AI发展始终以人类利益为本的治理体系。中国提出的"智能向善"理念正获得国际社会广泛认同，这一创新性治理范式突破了传统竞争思维，将人工智能定位为促进人类共同发展的普惠性工具。

2024年巴黎人工智能行动峰会的成果印证了这一趋势。法国、中国、印度、欧盟等主要国家和国际组织共同签署《关于发展包容、可持续的人工智能造福人类与地球的声明》，而美英两国却缺席这一重要国际共识。这一对比凸显了全球AI治理格局正在发生的深刻变革。

历史经验表明，技术垄断终将被自主创新与国际合作的合力所打破。在全球治理体系深刻调整的背景下，中国凭借其负责任的发展理念和开放包容的实践路径，正在成为推动人工智能全球治理体系完善的中坚力量。中国方案不仅为破解AI治理难题提供了新思路，更为构建人类命运共同体注入了新动能。