信息武器化——认知安全的必要性

本文翻译自兰德公司报告The Weaponization of Information。

俄罗斯国有控股企业，今日俄罗斯媒体集团总经理Dmitry Kiselev曾说:“客观性是一个被提出并强加于我们的神话。”由于当今互联网和社交媒体，我们能够在时间、空间、意向上以之前无法想象的尺度对世界的认知进行操控。而这恰恰是我们作为个人和整个社会都必须学会应对的致命风险之一。今天，许多人正利用这种风险。由于信息产生和传播技术的迅速发展，情况变得更加复杂。例如，在过去的一年里，我们看到了社交媒体从文字和图片向视频的转变，甚至视频也正在被直播所取代。这种风险也在随着技术的发展不断演变。与此同时，技术成本的稳步下降使得更多的参与者进场。

传统威胁

“信息作战和战争一般也被称为影响作战，它包括收集关于敌人的战术信息以及传播宣传，以取得对敌优势，这个定义同样适用于军事和民用场合。由于互联网和社交媒体的发展，传统技术（如印刷媒体、广播、电影和电视）也已经扩展到网络领域。

这些技术对影响操纵，更普遍地说，对大规模操纵带来了全新面貌，影响的能力是有效的“民主化”，因为任何个人或团体都可以在线沟通和影响大量的人。其次，这一前景现在明显更加可量化。数据可以用来衡量个人和群体对影响力的反应。最后,影响也更隐蔽。用户可能被匿名的陌生人提供的信息所影响，甚至是由界面的设计。互联网和社交媒体为参与者、观众和媒体提供了构建现实的新方式，它从根本上挑战了传统新闻媒体作为看门人和议程设置者的功能。

信息环境中的交互正在迅速发展，旧的模式此变得无关紧要的速度比我们开发新产品的速度还快。结果就是不确定性导致我们暴露在没有防御的危险影响下。

信息环境可以从技术和社会心理两个方面来概括。当今的信息环境安全(通常称为网络安全)关注的是纯技术特性——抵御拒绝服务攻击、僵尸网络、大规模知识产权盗窃和其他通常利用安全漏洞的攻击。然而，这种观点过于狭隘。例如，很少有人注意防御2013年4月美联社推特黑客攻击等类似事件。该事件中，某个组织劫持了该通讯社的账户，发布了一条消息：“白宫发生两起爆炸，巴拉克·奥巴马受伤了。”由于这条消息由美联社账户发布，在大约五分钟的时间里，导致股票市值下跌约1360亿美元，虽然之后立即回复了。这种攻击利用了信息环境的技术（劫持账户）和心理社会（理解市场反应)特征。

另一次纯粹利用心理社会特征的袭击于2013年9月在印度发生。事件始于一名年轻的印度教女孩向家人投诉，称她遭到一名穆斯林男孩的辱骂。据报道，她的兄弟和表弟去看望男孩并杀害了他。这引发了印度教和穆斯林社区之间的冲突。在一次旨在煽动暴力的行动中，有人发布了一段可怕的视频，视频中两名男子被殴打致死，并附有一个标题，说明这两名男子是印度教徒，暴徒是穆斯林。谣言如野火般蔓延，称暴徒通过电话和社交媒体谋杀了女孩的兄弟和表弟作为报复。印度出动了1.3万名士兵才平息了由此引发的暴力事件。事实证明，视频确实显示了两名男子被殴打致死，但不是标题上说的那些人；事实上，这一事件甚至并发生在印度。这种攻击不需要任何技术技能；它只是需要一个心理社会了解发贴地点和时间才能达到预期的效果。

上述两种行为是是认知黑客的例子。这些认知黑客成功的关键是虚假信息传播的前所未有的速度和广度。这两项研究成功的另一个核心因素是作者对受众认知脆弱性的正确评估-这是一个前提，受众已经倾向于接受，因为它诉诸于现有的恐惧或焦虑。

另一个特别具有启发性的事件发生在2006年3月伊拉克瓦尔哈拉行动期间。一个营的美国特种部队士兵与杰什迈赫迪敢死队交战，打死16或17人，抓获17人，摧毁了一个武器储藏室，并营救了一名被殴打的人质。在士兵们返回基地不到一个小时的时间里-一贾什·迈赫迪士兵回到现场，重新整理了他们倒下的战友的尸体，使其看起来像是在祈祷时被谋杀的。然后，他们用阿拉伯语和英语发布了照片和新闻稿，声称受到了暴行。
美军部队拍摄了整个行动，可以证明事实并非如此。然而,美国军方花了将近三天的时间才向媒体讲述清楚自己的故事。军队被迫展开了为期30天的调查，在此期间这个营也被开除了。

Jaish al-Mahdi行动是社会媒体和互联网如何运作的一个很好的例子，不使用武力就能造成失败。这一事件是第一个明确的展示对手现在可以公开监视美国观众对他们消息的反应，并实时从数千英里外发送消息，来相应地调整他们的行为。社交媒体和互联网为我们的对手进行特定宣传提供了不受限制的全球可达，而美国政府却因法律和政策问题而陷入瘫痪。

俄罗斯的威胁

2017年2月，俄罗斯国防部长谢尔盖·绍伊古(Sergey Shoigu)公开承认在俄罗斯军方内部组建了一支信息军：“信息作战部队已经建立，预计这将是一个比我们之前的所有反宣工具都有效得多的工具。”现任俄罗斯总参谋长瓦列里·格拉西莫夫将军观察到，战争现在以大约4：1的非军事和军事措施比例进行。在俄罗斯看来，这些非军事战争措施包括经济制裁、中断外交关系以及政治和外交压力。俄罗斯将信息操控视为非军事措施的关键不符。在互联网和社交媒体时代，他们已对具有深厚基础的前苏联颠覆和破坏稳定技术方式进行了改进。

俄罗斯对信息操控（IO）的看法与美国（或一般西方）非常不同。例如，俄罗斯总参谋部军事学院编制的一份关键信息安全术语词汇表对比了俄罗斯和西方的I0基本概念。对俄罗斯人来说，I0是一项持续的活动，无论与任何政府的关系如何，而西方人认为I0是有限的、只适用于敌对行动的战术活动。换句话说，俄罗斯认为自己处于永久的信息战争状态，而西方不是。

只要有国家，国家支持的宣传和虚假信息就一直存在。21世纪的主要区别是这种方式的轻松、高效和低成本。由于全世界的受众依赖互联网和社交媒体作为新闻和信息的主要来源，它们已经成为信息攻击的理想载体。最重要的是，从美国的角度来看俄罗斯的I0技术、战术和程序正在不断快速发展，因为与任何动能武器系统的成本相比，持续量化的有效性和快速发展的技术非常便宜-它们可能会更有效。

在这一点上，俄罗斯I0运营者系统地、大规模地使用相对简单的技术。这种相对缺乏复杂性使他们容易被发现。例如，现有技术可以识别付费操作、机器人等。俄罗斯I0战略的另一个关键因素是向目标受众以多重、相互冲突的叙述传递对欧盟(U)和各国政府不信任和怀疑。这些也可以被检测到。俄罗斯I0技术目前明显缺乏技术复杂性，这可能是因为到目前为止，俄罗斯I0遇到的阻力很小。然而，如果和当目标部队开始反击这些努力和/或大规模揭露它们时，俄罗斯人很可能会加速改进他们的技术，导致一个反击的循环。换句话说，信息战军备竞赛很可能会随之而来。

应对俄罗斯威胁的战略

由于每个国家的文化和历史都是独特的，而且任何I0防御战略的成功都必须适应当地的机构和人口，因此最有效的战略可能是根据每个国家的基础上制定和管理的战略。应对俄罗斯情报组织进攻的信息防御战略框架应该是全国范围的（“whole-of-nation”）。全国范围的方法是国家政府、军队、情报机构、工业、媒体和研究机构、学术界和公民组织之间的协调。美国特别部门能够提供其他国家的支持以及跨国协调。

就像在物理世界中一样，好的地图对于任何IO策略都是至关重要的。对于IO，地图显示信息流。信息映射必须显示信息中的连接性，环境和帮助导航的环境。它们以计算机软件和数据库的形式存在。IO的信息制图是创建、维护和使用这种地图的方法。一个信息地图的一个重要特征是它们是不断变化的，反映动态的信息环境的性质。因为它们是人工智能计算机程序，它们可以回答问题，动态提供态势感知，帮助计划，监控并适当修改操作。信息地图在技术上是可能的并且已经以可调整的形式存在，以支持设计和执行IO策略。

举个例子，北大西洋公约组织(NATO)的大多数国家，或者几个非北约同盟已经受到俄罗斯IO的集中控制。利用信息制图法，可以对俄罗斯关键资源进行映射。这些资源可能包括:
•俄罗斯和目标国家的智库
•基金会(如Russkiy Mir)
•权威机构(如Rossotrudnichestvo)
•电视台(如RT)
•伪新闻机构和多媒体服务(如Sputnik)
•跨界社会和宗教团体
•挑战民主价值观、分裂欧洲、聚集的社交媒体和互联网喷子；制造欧盟东部国家失败印象的社区
•俄罗斯政府控制的公司和组织
•俄罗斯政府资助的政党和其他组织在目标国家特别是在欧盟内部，意在破坏政治凝聚力
•俄罗斯直接针对记者、政客和个人特别是国家和欧盟的宣传。

类似地，作为俄罗斯IO的目标状态的接受者映射到目标状态可能包括:
•国家政府组织
•军事
•智能社区
•行业
•媒体
•独立智库
•学术界
•公民组织。

一个有效的信息防御战略将建立在对信息地图所显示的信息流进行协调对抗的基础上。一项有效的战略将包括在国防部队成员和公众之间建立信任的方法。该战略还将包括探测俄罗斯I0威胁持续发展性质的机制，并在所有防御要素之间以协调一致的方式快速适应。

兰德公司的克里斯托弗·保罗和米里亚姆·马修斯观察到：“心理学的实验研究表明，当代俄罗斯宣传模式的特征有可能非常有效。”他们对相关的心理学研究结果进行了仔细而简明的分析，应该为任何信息防御战略提供信息。

例如，它们描述了如何利用宣传来扭曲对现实的看法：
•人们很难判断信息的真伪-他们不一定记得特定的信息是假的。
•信息过载导致人们在确定消息的可信度时走捷径。
•熟悉的主题或信息可以吸引人，即使它们是假的。
•如果有证据支持，陈述更有可能被接受，即使证据是假的。
•外围线索-例如客观性的外表-可以增加宣传的可信度。

下面是针对目标人群的典型进攻策略可能是什么样子的。它由几个步骤组成：

1. 根据各种标准（如爱好、兴趣、政治、需要、关注等）将人口划分为社区。
2. 确定每个社区中谁最容易受到给定类型消息的影响。
3. 确定每个社区内交流和思想流动的社会动态。
4. 确定哪些不同类型的叙述主导了每个社区的对话。
5. 使用以上所有方法去设计并推动一个能够成功取代传统叙述的故事，用对你有利的叙述对你不利。
6. 使用持续的监控和互动来确定你的努力是否成功，实时调整。

目前存在的技术使得连续和大规模地执行这些步骤成为可能。然而，尽管目前的技术支持人工应用保罗和马修斯提出的心理学研究结果，但他们并没有完全自动化。这将是技术发展的下一个阶段。

同样的技术也可以用于防御目的。例如，你可以使用上面描述的分解社区的技术，以检测对手推动叙述的努力，并检查叙述的内容。这项技术可以帮助研究人员集中精力搜索大量的社交媒体数据。

前面的路

“社交媒体的出现提供了大量行为数据，这使得研究人员能够在我们对在线大群体动态的理解上取得重大进展。然而，随着这一研究领域的扩展，利用这一理解来创造强大的新技术来塑造全球人们的行为和信仰的机会成倍增加。这些技术可以通过Twitter、Facebook等平台的数据丰富的在线空间进行测试和完善，展望未来的社交多媒体，Snapchat也是如此。

认知安全(C0GSC)是一个关注这一不断发展的前沿领域的新领域，表明在未来，研究人员、政府、社交平台和私人行为者将参与一场持续的军备竞赛，以影响-并保护-庞大的在线用户群体免受影响。尽管COGSEC是从计算机安全领域的社会工程和社会欺骗讨论中产生的，但它在许多重要方面有所不同。首先，虽然计算机安全的重点是少数个人的影响，但C0GSEC侧重于利用大型公共群体中的认知偏见。其次，计算机安全侧重于欺骗，将其作为危害计算机系统的一种手段，而C0G$C则侧重于社会影响，将其作为自身的目的。最后，COGSEC强调形式和定量测量，这与计算机安全中的社会工程更定性的讨论不同。

我们需要的是一个认知安全中心，以创建和应用所需的工具来发现和维护我们不断变化的信息环境的基本模型，并在这种环境中保护我们作为个人和集体的安全。该中心将汇集认知科学、计算机科学、工程、社会科学、安全、市场营销、政治竞选、公共政策和心理学等领域的专家，以发展理论和应用该中心应是非营利的，设在一个具有国际信誉并与政府、工业、学术界、智囊团和国际公共利益团体密切联系的非营利非政府组织内。它应具有下列现行职能：

1. 汇集广泛领域的专家，制定认知安全政策、战略和实施方法。
2. 制定明确和实用的技术目标，以支持所制定的政策和战略。
   （1）识别和评估合适的商业技术。
   （2）识别和评估相关的研究成果，并制定和执行将其转化为实践的策略。
3. 与所有社区的最终用户合作，制定技术、策略和程序，将确定和开发的技术应用于政策和战略。
4. 为政策和战略的制定、实施和支持技术创建一个研究议程。
5. 编写教育和培训材料，举办讲习班和会议。
6. 维持一个应对小组，与所有社区协调，确定影响活动，并分发警报和警告。

该中心的头五年应全部由美国政府资助，直到它能够从工业和其他私人支持中建立额外的资金来源。该中心还应拥有赠款和合同方面的权力和资金，因为除了该中心雇用的一组核心人员外，许多参与者将是其本国机构的专家。尽管所描述的中心将是一个非营利性非政府组织，但这种供资模式有可能造成美国政府对其活动有不当影响的外观。这可能会引起人们对该中心可信度和美国政府动机的担忧。另一种办法是寻求将私人基金会的资金与国际非党派非政府组织（例如联合国）的支助结合起来。

结论

我们已经进入了信息、叙述和说服的大规模个性化时代。我们需要一个战略来对抗俄罗斯和其他国家的信息行动，并在组织上为美国与不断变化的大大小小的对手长期I0竞争做好准备。通常，有意愿，就有办法。问题是，我们是否已经打算用它？