Durably Reducing Conspiracy Beliefs Through Dialogues with AI

        2021 年 1 月 6 日，美国大选被窃取的阴谋论煽动了一场未遂叛乱。另一个阴谋声称德国的 COVID-19 限制措施是出于险恶用心，引发了 2020 年 8 月柏林国会大厦的暴力抗议活动。在民主面临越来越多威胁的情况下，科斯特洛等人研究了与生成式人工智能（AI）界面的对话能否说服人们放弃他们的阴谋论信念。

        人类参与者描述了他们认同的阴谋论，然后人工智能与他们进行了说服性的争论，用证据反驳了他们的信念。人工智能聊天机器人能够持续进行量身定制的反驳和个性化的深入对话，从而在几个月内减少了他们对阴谋论的信念，这对研究表明这种信念是无法改变的这一观点提出了挑战。这项干预措施说明，部署人工智能可以缓解冲突并服务于社会。

目标和假设

        研究假设，基于事实性、纠正性信息的干预措施可能会显得无效，原因很简单，因为它们缺乏足够的深度和个性化。通过利用大型语言模型（LLMs）的进步，该研究旨在测试个性化人工智能对话是否能有效减少对阴谋论的信仰。

研究方法

        这项研究涉及 2190 名美国参与者，他们阐述了自己相信的阴谋论以及支持证据。然后，他们与 LLM GPT-4 Turbo 进行了三轮对话，Turbo 会对这些具体证据做出回应，同时试图降低参与者对阴谋论的信念。人工智能旨在提供反驳，这些反驳不仅以事实为基础，而且还针对个人的具体信仰和担忧。

事实核查过程

        研究完整性的一个重要方面是事实核查过程。一位专业的事实核查人员对人工智能在对话中提出的 128 项主张进行了抽样评估。结果令人印象深刻，99.2% 的说法被证实为真实，0.8% 被归类为误导，无一虚假。这一严格的事实核查过程强调了人工智能所提供信息的可靠性以及该研究对事实准确性的承诺。

研究指标

        这项研究的影响力可以部分地从其在学术界和公众中的覆盖面和接受度来衡量。截至上次更新时，研究文章已被下载 26,487 次，这表明人们对研究结果非常感兴趣并参与其中。此外，在发表后的头六个月内，该研究被引用了两次，这反映了其最初的影响力以及为该领域未来研究提供信息的潜力。

主要发现和结果

        人工智能驱动的对话使参与者对其选择的阴谋论的信念平均降低了 20%。

        这种效果至少在两个月内持续不减，表明信念的改变是持久的。

        从经典阴谋论到与 COVID-19 和 2020 年美国总统大选相关的阴谋论，参与者对各种阴谋论的信念都有一致的降低。

        人工智能并没有降低对真实阴谋的信念，这表明干预措施能够有效区分虚假和真实的信念。
干预还降低了对不相关阴谋的信念，表明阴谋论世界观普遍下降。

        参与者报告说，他们对所讨论的话题更了解，焦虑感也更少，这表明干预还能带来额外的心理益处。

未来研究方向

        本研究建议，进一步的研究可以探索人工智能驱动的对话在减少错误信息和提高公众对事实信息的理解方面的更广泛应用。

        未来的研究可以调查此类干预措施的长期效果及其在不同文化背景下的适用性。此外，研究还可以侧重于优化人工智能的对话策略，以最大限度地提高其有效性。