北约的人工智能决策支持愿景面临的障碍

专知智能防务

  2024年08月07日 

未来，北约将成为人工智能（AI）与军事行动相结合的全球试验案例，为互操作性、组织应用和负责任地使用人工智能制定标准。

2024 年春，北约发布了一段宣传视频，介绍了北约如何思考人工智能在决策中的作用。根据发布的内容，北约认为人工智能是 “精确、及时决策 ”的基础，对于应对现代战争的复杂性至关重要。这些都是可以理解的联盟目标，但北约整合人工智能的工作不能因为追求技术性能的精简梦想而忽略了当前的实际障碍。

北约官员在考虑人工智能和决策问题时，应始终把三个障碍放在首位。

首先是持续存在的系统互操作性问题。虽然北约的人工智能战略承认互操作性的重要性，即一个系统的各个方面能够成功有效地沟通，但它仍然是一个持续的挑战。美国陆军副部长加布-卡马里奥（Gabe Camarillo）强调，如果要利用人工智能来支持北约的决策，那么确保相关数据能够在需要的时间和地点被成功访问和共享将是至关重要的。如果没有这种能力，就可能根据旧的或不相关的数据做出决策，盟友之间的协调也会受到阻碍，从而大大限制了人工智能决策支持系统的一些预期优势。解决数据质量、模型训练和下游模型性能之间的关系将是部分挑战。此外，虽然整合人工智能可以提高态势感知能力，但伙伴系统之间的数据共享并不简单。

其次，必须面对一个普遍的假设，即人工智能一定会给战争带来清晰度和精确度。研究表明，假设先进信息技术与胜利之间存在直接关系是有问题的。同样，这些研究还揭示出，人工智能系统如果应用不慎，很容易在冲突环境中造成进一步的混乱。这些发现有助于更好地将人工智能作为一种可能有所帮助的工具，同时也有助于更好地认识到，这种结果并不能仅根据技术能力的简单概念来预先确定。

第三，面临着为在军事领域负责任地使用人工智能制定标准的挑战。虽然 2021 年人工智能战略规定了主要原则--合法性、责任与问责、可解释性与可追溯性、可靠性、可治理性和减少偏差--但每项原则都需要北约提供详细指导。由于各成员国的道德和威胁评估水平不一，基础设施能力也各不相同，这项任务变得更加复杂。由于北约没有人工智能标准的执行机制，因此很难在标准制定方面取得进展。

这些挑战共同表明了北约在整合人工智能的道路上必须面对的问题。虽然挑战依然存在，但北约可以采取切实可行的措施开始解决其中的一些问题。

首先是解决互操作性问题并将其概念化，这是整合人工智能的基本挑战之一。从一开始就进行协调是避免各国在系统架构和集成方面出现分歧以及解决盟国之间如何共享数据的关键。北约各委员会（如数字政策委员会）应继续就互操作性开展协调工作，整合北约成员在实验和战争游戏（如美军的联合全域指挥与控制实验）中吸取的经验教训，并继续努力在整个联盟内建立人工智能和数字标准。

同样重要的是，需要创建和整理有针对性的、量身定制的数据集，以支持决策用例和行动规划工作。此类举措可由北约数据和人工智能审查委员会负责协调，该委员会目前的任务是监督整个联盟负责任地实施人工智能，并充当行业、政府和学术界之间的讨论论坛。对数据收集、模型训练和用例实施采取一刀切的方法很可能会导致模型失败。正如人工智能学者所言，目前还没有一个 “主 ”基准数据集可以用来衡量人工智能的通用性能。

其次，必须认识到，虽然人工智能可能是一个重要组成部分，但它并不是解决政治和军事问题的万能药。人工智能本身并不仅仅是一种脱离人类经验和判断的技术。如果听之任之，模型输出通常会被记录为反映偏见或提供似是而非的信息。人工智能与人类决策者之间的有效合作需要开发人员与军事专家从系统开发的第一环节开始就紧密结合。此外，这还需要决策者熟知人工智能模型可能出现的失败模式，并随时准备在这种情况下使用自己的专家判断。虽然人工智能可以成为了解世界的工具，但它也可能给组织带来混乱和不确定性。因此，要使结果朝着有利于北约的方向发展，就需要持续培养有关人工智能系统与人类如何在技术和社会领域的结合点上进行互动的专业知识。

第三，随着北约在联盟和全球范围内建立规范，需要对负责任地使用人工智能的六项原则的性质更加透明。北约国家必须进行公开交流，以建立对这些原则的共识，同时北约必须确保这些原则不会损害成员国的军事能力。此外，这项任务还需要北约与欧盟之间更有效的接触。迄今为止，这种接触还很有限。虽然欧盟最近的《人工智能法》避免了人工智能的军事应用，但这些系统的双重用途性质很可能会使其受到法律的约束。因此，在制定这些系统的标准时，应明确划分法律框架。

更快、更好的决策并不是将人工智能融入北约行动的必然结果。北约应重点关注盟国之间的协调问题、数据质量和模型培训问题、标准制定过程，并将任何认为人工智能一定会为战争带来更高的清晰度和精确度的假设背景化。通过这样做，北约可以发现人工智能在协助决策方面的有效用途。参考来源：美国CSIS