译文 |《电子人、神经武器和网络指挥》-CSDN博客

本文编译整理了来自丹麦皇家国防学院等单位发表的论文——Cyborgs, Neuroweapons, and Network Command（电子人、神经武器和网络指挥），其探讨了军事神经技术的发展及其影响。

在这篇文章中，将探讨军事神经技术的新兴领域，以及它挑战战争边界的方式。我们将论证，这些技术不仅可以用来提高作战人员的认知性能，而且可以作为一种手段，在自主和机器人武器系统中利用人工智能。然而，这需要实践协作性的网络指挥和电子人伦理的管理框架，以确保军事行动中的人类控制和责任。对这些管理原则的讨论坚持了军事研究的传统。因此，我们不打算提出一个神经科学的研究计划。我们也不希望着手于人工智能和机器人等学科的技术解决方案。相反，我们的意图是使这些科学的高度专业化语言能够为军事从业人员和政策制定者所接受，将技术进步和挑战带入未来战争的讨论中。

引言

"目前估计，人工智能和机器人系统将在2035年的作战框架中无处不在"。(RAS MDO白皮书 2018: 25)

我们是否处于军事事务机器人革命的边缘？智能机器是否会控制未来的战场并取代人类战士？军事神经技术、机器人技术和人工智能（AI）的最新进展唤起了 "电子人战士 "的跨时代形象，这是一个由AI和神经认知增强技术驱动的武器化脑计算机网络。在这些新兴的军事技术出现后，我们对人类智能、自主性和责任的一些最基本的假设和定义受到了挑战。这些概念对于我们理解战争的合法和道德行为至关重要。它们也与人类的能动性以及在生死攸关的情况下做出取决于环境的决定和关键评价的能力密切相关。亟待回答的问题是，这些概念是否以及如何适用于根据定义不完全是人类的半机械系统？电子人战士是一种什么样的军事能力？一个战士还是一个武器系统？是人还是机器？在下文中，我们将论证电子人战士既不是一个人类主体，也不是一件军事硬件，而是一个人类和非人类能力的异质组合--或者说是一个 "纽带"，在军事战斗网络中传输和解码信息流。因此，我们更愿意谈论电子人和神经认知武器系统，强调人类和人工智能的内在纠缠，挑战传统的人机区别和二分法。

直到最近，大多数人认为电子人战争纯粹是科幻小说。的确，很难想象有什么比一支由人工智能增强的机器人军队指挥未来的战场更黑暗、更令人不安（Marks 2015；Scharre 2018）。然而，电子人技术在军事行动中的应用并不仅仅是一种未来主义的幻想。今天，先进的脑机接口被定制为F-35战斗机飞行员使用的个人头盔（"可穿戴驾驶舱"），并构成了作战人员在训练和战术战斗场景中使用的各种头戴式显示器（HMD）的标准应用。最近，在神经智能（情报融合和预测分析）、作战人员的神经认知增强（自适应和交互式脑机接口）和神经武器学（目标识别、协调和控制武器系统）等领域取得了神经科学的进展（Giordano 2015），使用人工智能作为人类决策支持和认知增强。

然而，随着这些新兴技术的发展，人们越来越关注它们将如何影响军事指挥和控制（C2）的未来，包括武器化神经认知系统的法律和伦理影响。由于人工智能在先进的神经武器中发挥着重要作用，这些考虑因素中有许多与人工智能和所谓的 "杀手机器人 "的军事使用所带来的不安全因素相吻合。自主机器人系统能对其行为负责吗？它们是否能够遵守国际人道主义法的法律和道德公约？它们能否在一个高度动态和混乱的作战环境中区分战斗人员和非战斗人员？这些问题仍然存在争议，可以说是 "内置 "在人工智能增强的电子人武器系统中，对现有的法律框架和道德价值观提出了挑战。

我们认为，要解决这些问题，就需要仔细研究这些技术要解决的问题。正如神经科学家James Giordano所说，人工智能和神经认知系统在军事战斗网络中的部署应被视为对作战环境中越来越多的实时数据的回应，以及对超出人类认知能力限制的信息过载挑战的回应（Giordano 2015）。在下文中，我们认为，在电子人武器系统中，人类和人工智能的混合不仅增强了作战人员的认知性能。它还提出了一种方法，在智能和无人系统中利用更多的自主权，同时让人类 "在环路中"，在军事行动中应用法律和道德判断以及对环境敏感的战争协议。

更具体地说，我们认为，由人工智能支持的脑机网络有可能重新配置军事指挥的经典等级结构，促使其转变为一个更具协作性和灵活性的网络指挥系统。这需要实践一种新形式的 "网络指挥责任 "和一种反思性的 "法理学"，以确定军事行动中的问责和责任问题，例如。哪些情况下可以保证使用神经认知武器系统？谁能最终对电子人战士的决定和行动负责？

鉴于神经科学和技术的相对新生，这些问题中的许多仍然是推测性的。然而，基于人工智能的神经接口的进展速度以及军事指挥、控制、通信、计算机、情报、监视和侦察（C4ISR）的 "速度需求 "将继续把电子人技术和神经伦理考虑推到前台。

在这篇文章中，我们将讨论电子人武器系统的越轨性质以及它们塑造人类对战争的感知和行为的方式。采用社会技术和建构主义的方法来处理技术调解和风险的共同生产，我们并不试图进行神经科学的研究。我们也不制定人机共生的技术解决方案。相反，我们将介绍电子人和神经认知武器的一些基本概念和定义，这将允许对新兴的 "神经空间 "领域和作战人员的人类增强进行批判性辩论。尽管这一讨论的基础是高度技术性的，但文章转向了军事研究而不是神经认知和计算机科学。

我们讨论的经验基础来自各种军事技术评估，如北约科学和技术组织（NATO STO）2020-2040年趋势报告（2020年）和未来二十年新兴神经生理和认知/神经研究军事和情报方法特设委员会（美国国家科学院国家研究委员会）发表的关于新兴认知神经科学和相关技术的标志性报告（2008年）。为简化起见，我们将此文称为NAS 2008报告。为了将自己牢牢地置于当前的多域作战（MDO）的操作框架中，我们还广泛地借鉴了陆军能力中心--未来战争部（2018）关于 "支持多域作战的机器人和自主系统的操作化 "白皮书，以下简称RAS MDO白皮书。带着这种经验性的 "双重视野"，我们开始探索神经科学、机器人技术和军事指挥的交叉点。

文章分为四个部分。第一部分介绍了电子人技术和神经武器的一些基本概念和定义，作为新兴神经科学安全话语的一部分。文章的第二部分设定了多领域战争的一般框架和背景，这些技术在其中被塑造并作为军事能力应用。第三部分介绍了"协作风险调解 "和 "复合意向性 "的概念，强调了人类和人工智能在新兴神经空间领域的相互纠缠和 "干扰"。在文章的最后部分，我们讨论了对管理原则和指导方针的迫切需要，包括电子人战争的法律和伦理方面。因此，我们呼吁对神经空间的新兴领域和实践进行跨学科讨论，并在国际安全界对神经伦理标准进行谈判。在这些讨论的中心，我们提出了网络化军事指挥中 "有意义的人类控制 "和责任问题。

神经科学安全和电子人战士

作为探究的第一步，我们需要区分神经技术和人工智能，前者用于检测、影响和锁定人脑活动（例如：改善、修复、退化或操纵认知技能），后者则用于计算机、传感器和机器人系统。神经网络 "是人工智能的一种特殊形式，由一组类似于工作中的人脑的算法组成。神经网络中的'神经元'是一个数学函数，根据特定的架构收集和分类信息（Chen 2019）。另一方面，神经认知或电子人网络是人类和人工智能的混合系统，即整合了人类和计算机的认知优势的脑-机网络。多年来，人脑科学和人工智能科学这两门科学并肩发展，相互启发，相互借鉴。现在，神经技术和人工智能的科学探索正在迅速融合，并加快了神经反馈系统的发展，使人脑和计算机之间形成双向通信流。人工智能和神经技术的融合以及整合，而不仅仅是结合或 "组队 "人类和机器认知的影响，是我们关注的焦点。人类和计算机到处都在一起工作。这并不新鲜。然而，直到最近，他们都是作为独立的实体这样做的。这种分离正开始被侵蚀，因为无处不在的人工智能和神经技术的进步使得人类和机器认知之间的区别变得不明确，在某些情况下甚至已经过时。当我们提到 "电子人和神经认知武器系统"，而不仅仅是一个或另一个时，正是因为我们想强调人类和非人类认知的这种日益增长的干扰，它远远超出了--并且必须与其他混合技术相区别，如仿生肢体和先进的听力或视觉辅助设备。

出于同样的原因，重要的是不要将电子人战士的概念与 "半人马战士"（Scharre 2018: 321）的概念相混淆，后者经常被用作人机合作的隐喻。这两个概念密切相关，但并非同义。这种区别可以表达为机器智能、感知和推理的整合和自动化之间的区别。半人马的人机组合由人类和机器组成，机器执行明确划分的自动化功能，而电子人战士的功能是一个神经强化的综合系统架构，融合了人类和机器的认知。半人马的人机组合并不一定意味着人类操作者的认知或感觉的增强。人类和机器的认知在神经上并不融合。相反，人类和机器执行不同的特定角色任务，这些任务主要是基于预先确定的决策模型，其中机器的角色是由一个或多个规则集决定的（Murray & Yanagi 2015: 17）。

与半人马的人机组合相反，电子人没有预先编程的角色规格，而是不断适应作战环境中不断变化的情况和需求。根据Kline和Clynes（1961）的观点，这类系统可以被视为 "控制论的生物体"（即电子人），因为它们同时包含了自然和人工系统，具有功能性、可移植性和/或生物集成性（Wurzman & Giordano 2015: 90）。因此，控制论和电子人系统可以被视为 "复杂的分布式人机网络，如集成软件或机器人对人类控制活动的增强，将融合和协调人类和计算机的独特认知优势" （Wurzman & Giordano 2015: 90）。因此，在网络化风险环境中使用的电子人技术将 "反映出人类和机器的自主倡议和原始问题解决的结合。这意味着军事决策中的共同机构和责任"（Murray & Yanagi 2015: 17）。

将共同的代理权和责任归于人类和机器是对电子人和神经认知武器系统定义的核心，并划定了从自动决策支持到协作性信息和风险管理的转变，人类和机器智能调解并共同塑造对风险的感知、组织和分配。这种系统的优点是增加灵活性和问责制，确保人类对交战的判断和责任，同时利用人工智能的精度和速度。当电子人技术被用作进攻性武器系统时，这一点变得尤为迫切（Murray & Yanagi 2015: 17）。

每当神经认知系统被用作对付对手的武器（无论是防御性的还是进攻性的），它们都被广泛归类为 "神经武器"。传统上，武器被定义为 "与他人竞争的手段 "和 "用于伤害、击败或破坏的东西"（梅里亚姆-韦伯斯特字典2020）。正如神经科学家Rachel Wurzman和James Giordano所说，这两个定义都适用于在情报和/或防御场景中作为武器使用的神经技术：

"神经技术可以通过信息和技术基础设施来支持情报活动，以加强或阻止准确的情报评估，有效处理积累的复杂数据，以及人类的战术或战略。神经武器在传统防御背景下（如战斗）的目标可以通过改变（即增强或降低）神经系统的功能来实现，从而影响认知、情感和/或运动活动和能力"（Wurzman & Giordano 2015: 80-81）。

然而，神经武器本质上是模棱两可和难以捉摸的系统，不容易解释和定义。不存在一个明确的、权威的定义，关于核心部件、结构、设计和目的的分歧是由学术界、工业界、军方和国家民政部门的不同安全行为者协商决定的（McCreight 2015: 117）。此外，一个重要的问题是 "与认知科学有关的大量伪科学信息和新闻界的过度简化"（NAS 2008报告）。因此，神经武器的定义往往要么过于宽泛，要么过于狭窄，对批判性评价没有用。情报分析家罗伯特-麦克雷特（2015）曾试图推出一个全面的定义，他提出：

"神经武器包括所有形式的相互联系的控制论、神经学和先进的生物技术系统，以及使用合成生物配方和合并的生理生物学和化学科学，专门设计用于攻击人类"（第117页）。

这里的问题是，这个定义本身变得非常抽象，需要翻译才能适用。相反，为了我们的目的，我们将使用一个更实用的定义：神经武器包括任何种类的神经技术制剂、药物或装置，旨在提高或阻止作战人员的认知性能，并将情报和指挥结构作为非动能和动能武器的目标。因此，它们可以被用来影响、塑造、增强或限制人类的感知和决策。有了这些通用属性作为神经武器的一个非常广泛的特征，我们可以把电子人战士归类为一种特定的神经认知武器系统，即某类神经武器，在混合脑机网络中使用人工智能作为认知增强。

这个电子人和神经认知武器的初步轮廓与流行的《终结者》科幻版有相当大的距离。换句话说，它们不是自主的 "杀人机器人"。相反，它们是以网络组合的形式出现的，有多个操作员、传感器、计算机和平台，结合了网络系统和大脑功能。因此，电子战士既不是人类主体，也不是自主机器人，而是一个增强的分布式系统架构，一个混合的人机网络，在军事任务规划和控制中整合了人工和人类认知。这意味着必须在现有的多领域战斗空间的定义中加入网络和空间之外的新领域。继McCreight（2015）之后，我们采用了神经空间的概念，来划分由联网的人类和计算机执行的多领域战争的新战略前沿的出现。正如他所说，"新的战斗空间就是大脑本身"（McCreight 2015: 125）。

有了这个概念框架，我们希望强调电子人系统的越轨性质，以及它们作为国家安全问题的呈现方式。关于神经强化武器系统的安全论述既涉及破坏性神经技术的机会，也涉及其风险。不同的安全行为者对神经武器持有不同的、相互竞争的观点。一些学者警告说，针对人类思维的武器化和不受控制的控制论系统是危险的（Farwell 2015）。其他人则强调神经强化能力的好处，这些能力可以最大限度地提高士兵在情报行动中的表现，支持军事决策，并增加对无人驾驶、基于人工智能和机器人系统的投资回报（Stanney等人，2015；NAS 2008报告）。这样一来，我们发现有两种神经科学的叙述将电子人战士的领域安全化。一方面，我们发现一种不受管制的 "神经战争 "的 "黑暗面 "的叙述，全球联网的自学机器控制着人类的生命和死亡。这可以被称为 "神经怀疑论 "的叙述（Benanti 2015）。另一方面，我们发现了一种由人工智能支持的认知增强和 "决策优势 "的叙述，它加强了对形势的认识，提高了作战人员的表现，并在多个作战领域整合了效果。这可以被称为 "神经乐观主义 "的叙述。这两种叙述都借鉴并促进了神经科学网络话语的出现，使神经空间的边界安全化。然而，这些边界本质上是不稳定的，并且作为战场的临时规定和安排不断地被重新谈判和重构。这些安排包括人和技术、军事理论、法律和伦理惯例、技术规范以及政治方案，它们将神经空间作为一个独特的行动领域来执行和共同塑造。

这种理解从根本上改变了我们通常对人类和技术之间关系的看法，并挑战了现有的战争规范和边界。我们不再使用人类和机器之间的经典二元区分，而是将它们视为合作的风险调解者，共同塑造和共同执行任务规划和执行。这涉及到从对情报和机构的 "以人为本 "的理解转变为分布式（非等级）网络模型，承认人类和技术的相互联系（Oie & McDowell 2015: 34）。

分布式认知网络与多域战争

根据Wurzman和Giordano（2015）的说法，在当代战争中，武器化的神经技术和电子人有很大的用途，因为威胁环境是 "不对称的、无定形的、复杂的、快速变化的和不确定的"，"需要更大的速度和灵活性" （第81页）。这一观点得到了多领域战争的一般特征和追求 "改变游戏规则 "的军事技术的支持，这些技术是确保战场上的成功所必需的。因此，人们普遍认为，战场上的成功取决于在一个日益网络化、加速和信息密集的安全环境中运作的能力（Oie & McDowell 2015: 35-36）。此外，人们普遍认为，信息技术在战场上的扩散和使用，使得保持 "生成、操纵和使用信息的优势"，即 "信息优势 "至关重要，以确保 "决策优势"--换句话说，就是比对手更好、更快做出决策的过程（Oie & McDowell 2015: 36）。