【网络安全】机器人和人工智能如何助长虚假信息

关注公众号网络研究观获取更多内容。

当真相还在穿鞋时，谎言已经传遍了半个世界。讽刺的是，这句原本是想强调谎言传播之快的名言，却被错误地归咎于马克·吐温本人，而这恰恰是它所警告的现象的前兆：虚假信息。

当然，虚假信息并不是什么新鲜事，但其影响在数字时代无疑被放大了。先进人工智能和大型语言模型的兴起从根本上改变了虚假信息的格局。

虽然在 2020 年美国大选周期中，民族国家策划了协调一致的虚假信息活动，但此后进入的门槛已急剧下降。

与此同时，人工智能工具在创建和传播虚假叙事方面的整合使这一过程变得更容易、更有效。

而且由于价格实惠的机器人网络的激增，将虚假信息武器化的能力不再是资金充足的民族国家的专属领域。

这种虚假信息的民主化不仅对我们的民主构成了真正的威胁，而且对各个领域的品牌也构成了真正的威胁。

想想 Smartmatic 和 Dominion 等选举设备制造商的困境，它们的声誉因毫无根据的阴谋论而受损。甚至在线家具品牌 Wayfair 也发现自己陷入了 QAnon 的谎言网中。

正如哈佛大学肯尼迪学院情报项目主任保罗·科尔贝讽刺地指出，与政府目标相比，私营部门拥有更丰富、更广阔的竞争环境和更脆弱的受众。而且情况只会变得更糟。

人工智能机器人如何放大噪音

虽然错误信息和虚假信息这两个术语经常互换使用，但它们是截然不同的。错误信息通常是无意的，由真正相信它是真实的人传播。

而虚假信息是一种蓄意行为，精心编造和传播的目的是误导、操纵甚至造成伤害。可以把它想象成一个伪装成真相的谎言，一件怀有恶意的武器。

这种武器与现代机器人网络结合后变得更加强大，因为它以前所未有的规模扩大了虚假信息的传播范围和影响。

第一代机器人曾经笨重且易于检测，而今天的机器人网络可以大规模创建账户，以看似人类的方式与内容互动，甚至生成原创的个性化文本，而所有这些成本只是过去的一小部分。

简而言之，造成重大损失变得非常便宜和容易。

尽管社交媒体平台做出了诸多努力，但它们仍难以遏制机器人驱动的虚假信息浪潮。

它们的算法旨在吸引用户参与，但最终往往会奖励煽动性内容和耸人听闻的标题，而这正是机器人最擅长制作的东西。为了遏制这种趋势，X 等平台推出了一些措施，例如对经过验证的账户收费。

然而，这种策略在遏制机器人影响方面收效甚微。这是因为许多最常见的机器人驱动攻击，包括账户接管 (ATO)、凭证填充、短信欺诈和话费欺诈，都发生在尚未登录（因此未订阅）的用户执行的传统登录过程之外。

高级机器人网络还通过使用陈旧的“傀儡”账户来避免检测，这些账户与容易被标记为可疑的新账户不同，经过精心培育，看起来是合法的。

随着恶意机器人操作员开始将生成式人工智能用于其邪恶目的，挑战只会升级。

在 ChatGPT 公开发布的四年前，OpenAI 研究人员就表达了对其技术可能被滥用的担忧，指出“人工智能机器人有可能降低虚假信息活动的成本”，这可能会让坏人“大规模传播混乱和困惑”。

人工智能技术的可用性和可负担性为这些恶意实体开辟了新的途径，使他们能够比以往更有效、更广泛地传播虚假信息。

那么，面对这种不断演变的威胁，品牌可以做什么以及如何保护自己避免成为协同虚假宣传活动的下一个受害者？

品牌可以通过 3 种方式阻止机器人和虚假信息 

残酷的事实是，即使是最大的公司也几乎无法阻止虚假信息传播。

然而，尽管品牌可能会受到平台的摆布，但它们可以采取一些主动措施来降低风险并保护自己：

主动监控社交平台

为了走在虚假信息曲线的前面，主动监控社交媒体是必不可少的。投资于超越表面关键词搜索、深入研究错综复杂的在线对话网络的强大工具是一个很好的开端。

这些工具可以分析大量数据，识别活动中的可疑峰值并检测表明机器人活动的模式。

针对特定关键词、主题标签和品牌周围在线情绪变化的实时警报可以提前警告潜在的虚假信息活动，从而在它们升级之前迅速采取行动。

除了这些个人努力之外，至关重要的是要认识到社交媒体平台本身在检测和缓解机器人方面的重要性，它们的积极参与和部署先进的检测系统对于减少机器人驱动的虚假信息的传播范围和影响至关重要。

拥抱人工智能和机器学习的力量

随着机器人驱动的虚假信息策略不断发展，应对这些策略的方法也必须不断发展。这意味着要么采用先进的人工智能和机器学习工具来分析历史数据，以识别模式并在虚假信息活动发起之前进行预测，要么与在该领域具有专业知识的外部各方合作。

正如虚假信息代理利用人工智能算法来微调其策略并创建更具说服力的虚假内容一样，组织必须利用类似的技术进步来保持领先一步。

这涉及部署复杂的人工智能模型进行异常检测、情绪分析和网络行为分析，这些模型可以辨别真实的互动和机器人策划的互动。

与守门人合作

与机器人驱动的虚假信息的斗争不能孤立进行。托管这些在线社区的平台肩负着重大责任，要采取更积极主动的方式来检测和防止虚假账户的创建，这是大规模传播虚假信息的根本原因。

通过采用可以在登录时无形地检测自动化使用的现代技术，这些平台可以从一开始就有效地遏制这些活动。

通过与这些守门人建立桥梁，公司可以加快清除恶意机器人的速度，并为开发和实施更有效的检测算法铺平道路。

这种合作精神还有助于创建一个共享见解和最佳实践的池子，增强集体应对虚假信息的能力，这不仅可以增强个人的努力，而且有助于建立一个更具弹性和信息量的在线社区。

在这个我们联系日益紧密、人人都拥有扩音器的世界里，虚假信息所带来的威胁比以往任何时候都更加严重，尤其是在复杂的机器人网络和先进的人工智能的推动下。

这种超连接放大了真实和恶意的声音，创造了一个难以解析的虚假信息环境，虚假信息传播速度比以往任何时候都快，模糊了真实人性与非人性之间的界限。

随着这些技术以前所未有的速度和效率推动虚假信息传播，我们所有人都必须成为这个数字海洋中明智的领航员，确保真理的浪潮超越谎言的浪潮。