OpenAI等机构联合发布《人工智能恶意使用》报告

OpenAI、牛津大学、剑桥大学等14家机构和高校联合发布《人工智能恶意使用：预测、预防和缓解》，调查了恶意应用人工智能技术会造成的潜在威胁，以及预测、预防和减少这些威胁的方法。

牛津大学召开了一次为期两天的研讨会。来自人工智能、无人机、网络安全、自主武器系统、反恐等领域的众多专家共同探究了伴随着人工智能的发展可能带来的安全问题。时过一年，OpenAI、牛津大学、剑桥大学等14家机构和高校于2018年2月底联合发布《人工智能恶意使用：预测、预防和缓解》，该报告指出人工智能和机器学习技术正以前所未有的速度发展，这些技术在机器翻译、医学图像处理等领域有着广泛的应用前景，在未来很长一段时间内，基于这些技术所开发出的应用程序也会越来越多。然而，很少有人会注意到这些技术会被恶意使用。研究人员调查了恶意应用人工智能技术会造成的潜在威胁，以及预测、预防和减少这些威胁的方法，同时，还展示了如果防御不当的话可能会遭受到的攻击。

1 威胁变化

随着人工智能技术变得越强大，应用范围越来越广泛，报告指出人工智能技术可能造成的威胁变化包括：

（1）现有威胁范围会扩大

随着AI技术越来越多的应用于依赖人力、智力和专业知识的领域，攻击的成本也会变得越来越低，从而会产生更多的攻击者，攻击的速度和潜在攻击目标的数量也会提升。

（2）产生新的威胁

AI技术可能会完成人类黑客无法完成的攻击任务，此外，AI更容易发现和利用安全维护人员所部署的AI系统的漏洞进行新的攻击。

（3）安全威胁的典型特征会发生改变

随着AI技术的使用越来越频繁，AI攻击会变得越来越高效、攻击目标会越来越明确，攻击属性会越来越难以确定。这将在很大程度上改变传统网络安全的典型特征。

2 特定领域分析

该报告还分析了三个领域所面临的威胁，并通过实例给予展示：

（1）数字安全领域

传统网络攻击的规模和效率往往呈现此消彼长的态势，但使用人工智能自动执行网络攻击将会实现攻击规模与效率的平衡，这可能会扩大劳动密集型网络攻击（如鱼叉式钓鱼攻击）的规模。新型的攻击还有可能利用人类弱点（如使用语音合成冒充人类）、现有软件漏洞（如通过自动黑客攻击）或AI系统的漏洞（如对抗性实例和数据中毒）等。

（2）物理安全领域

使用人工智能自动执行与无人机和其他物理系统（如自主武器系统的部署）攻击有关的任务可能会增加与这些攻击相关的威胁。新型的攻击可能会破坏网络物理系统（如造成自动驾驶系统的崩溃）或者造成远程控制系统失灵（如影响无人机系统）。

（3）政治安全领域

使用人工智能自动执行监视任务（如数据的分析）、宣传任务（如针对性的宣传）以及欺骗任务（如操纵视频）可能会扩大与隐私侵入和社交操纵有关的威胁。新型的攻击可能会通过大量收集的数据分析公民的行为、情感和信仰，这些将会对专制国家带来很大的威胁，但不可否认也将威胁民主国家（例如能否维持公开辩论的真实性）。

3 高级建议和干预措施

为了应对不断变化的威胁情况，该报告提出了四项高级建议：

（1）政府相关负责人应该与技术研究人员密切合作，调查、预防和减少人工智能潜在的恶意用途。（2）人工智能领域的研究人员需要重视他们研究内容的双重实用性所产生的积极或消极影响，在研究过程中时刻留意研究成果被错误使用的可能性，同时在预见到研究成果将会产生有害作用是主动与相关人员合作解决。（3）由于人工智能技术的双重实用性，在进行相关研究时应该采用更加成熟的技术手段，例如借鉴网络安全防护领域的成熟地方法。（4）联合更多的业界相关人员和领域专家，共同讨论面对这些挑战的解决措施。

更多干预措施建议包括：

（1）学习网络安全领域相关经验：由于网络安全和人工智能攻击存在交集，需要研究并尝试使用形式验证方式、公开人工智能漏洞、安全工具和硬件等。（2）探索不同的开放模式：由于人工智能和机器学习技术的双重实用性变得越来越明显，围绕开放性研究重新设置规范制度变得越来越重要。在重要技术发布之前需要进行严格的风险评估，并采用有利于安全保障的中心准入制度和共享模式。（3）形成责任文化：人工智能研究人员和其雇佣单位在塑造人工智能世界的安全环境方面处于独特的地位。因此需要强调教育、道德和标准约束的重要性。（4）制定技术和政策解决方案：一些有前景的技术和政策干预措施有助于建立更安全的未来人工智能环境。这些更高级的领域包括隐私保护、人工智能在公共安全领域的应用、人工智能资源的监控以及立法和监管政策等。