论文阅读-Language Evolution for Evading Social Media Regulation via LLM-based Multi-agent Simulation

论文链接： https://arxiv.org/pdf/2405.02858

摘要

        推特（Twitter）、Reddit 和新浪微博等社交媒体平台在全球交流中发挥着至关重要的作用，但在地缘政治敏感地区却经常遭遇严格的监管。

        这种情况促使用户巧妙地改变他们的交流方式，在这些受管制的社交媒体环境中经常使用编码语言。这种交流方式的转变不仅仅是一种对抗监管的策略，更是语言进化的生动体现，展示了语言是如何在社会和技术压力下自然演变的。

        研究受监管社交媒体语境中的语言演变对于确保言论自由、优化内容审核和推进语言学研究具有重要意义。

        本文提出了一种使用大型语言模型（LLM）的多代理模拟框架，以探索受监管社交媒体环境中用户语言的演变。

        该框架采用 LLM 驱动的代理：监督代理负责执行对话监督，参与者代理在参与对话的过程中演化自己的语言策略，模拟在严格监管下交流方式的演化，旨在规避社交媒体监管。

        研究通过一系列从抽象场景到真实世界的情景，对该框架的有效性进行了评估。

        主要发现表明，LLM 能够模拟受限环境下细微的语言动态和互动，随着演化的进展，在逃避监管和信息准确性方面都有所改进。

I. INTRODUCTION

背景介绍：

        在现代数字时代，X（Twit-ter）、Reddit 和 Facebook 等社交网络已成为塑造人类互动的关键，这主要得益于它们促进广泛连接和即时信息交流的能力。然而，在地缘政治或社会政治敏感度较高的地区，用户往往要面对复杂的用户法规。正如各种新闻[1]、[2]所记录的那样，他们在网上的表达可能会导致严重后果，包括审查或账户暂停。这些规定虽然旨在遏制错误信息，维护社会和谐，但却极大地限制了用户的表达。

        社交网络上的用户通过采用一种被称为 "编码语言 "的现象来适应这种情况。[3] 在语言学中，"编码语言 "通常指以隐蔽或间接的方式表达信息。在社交媒体平台上，这通常表现为隐喻、俚语和创造性文字游戏的使用。

        这种适应不仅是一种规避策略，也是数字环境下 "语言进化 "的生动例子。在语言学中，语言进化是指语言随着时间的推移，在社会、文化和技术的影响下不断发展和适应。具体而言，在社交网络中，这种语言进化表现为用户不断调整自己的交流方式，以检验自己是否规避了监管。根据监管压力的程度和受众的性质，用户会与平台进行策略性博弈。从间接描述到创造新的俚语，用户最终发展出不同抽象程度的编码语言。

        这种传播方式的动态变化从社会学的角度提供了深刻的见解，反映了社会规范和技术进步是如何塑造语言的。对于平台和用户来说，了解这种演变对于制定平衡的内容管理政策和驾驭受监管的数字环境至关重要。对于社交网络平台及其用户来说，掌握这一概念同样至关重要。平台需要这些知识来适应不断变化的用户行为，制定平衡的内容审核政策，识别并打击有害或非法活动。对用户而言，了解语言如何演变对于驾驭错综复杂的数字环境至关重要。它有助于维护言论自由，制定既有效又有意义的交流策略，促进互动。

        像 ChatGPT 和 Bard 这样的大型语言模型（LLMs）的出现代表了人工智能（AI）领域的重大飞跃。这些 LLM 在以下方面表现出强大的能力：(i) 理解错综复杂的对话 [4]，生成连贯的文本 [5]，符合人类道德和价值标准 [6]-[8] 。这些功能使 LLM 成为模拟人类决策和语言的理想工具。

        例如，[9] 研究了 LLMs 理解社交语言中隐含信息的能力。

        文献[10]的研究表明，LLMs 能够高效地理解和生成模仿特定社交网络用户风格的内容。

        此外，[11]-[13]的研究将 LLM 与多代理系统（Multi-Agent Systems）结合起来，模拟微观社交网络，观察代理行为和策略对人类互动的影响。

        尽管 LLMs 在理解人类意图和模拟社交媒体动态方面应用广泛，但将 LLMs 用于研究规范约束下的语言进化这一特殊现象，还没有得到深入探讨。

        如上所述，这种模拟不仅可以预防社交媒体上的犯罪活动，还可以为维护言论自由提供技术支持。

        针对这一空白，作者的研究采用 LLM 模拟社交媒体上语言演变与监管执行之间的微妙相互作用。

        引入了一个模拟框架，其中包含两类 LLM 驱动的代理：

         (i) 参与者代理，他们在限制条件下调整自己的语言来传播概念 "B"；

        (ii) 监督代理，他们执行准则并对这些语言演变做出反应。

        方法有效地模拟了语言进化过程中双方之间的动态模型，使得能够在受控的模拟环境中观察语言进化过程中固有的紧张关系和适应性。

        为了评估该框架的有效性，作者设计了三种不同的情景： "猜数字游戏"、"非法宠物交易 "和 "核废水排放"。这些场景从抽象概念到与真实世界事件密切相关的情况，从而逐步测试了该框架从理论到实际应用的过程。

        介绍了一种多代理模拟框架，利用 LLMs 来模拟人类在受监管的社交媒体环境中的语言行为。该框架为在监管约束条件下研究语言演变提供了一种独特的方法。

        对 LLM 在模拟受监管社交媒体环境中的语言演变和互动效率方面进行了广泛评估。通过对三种不同场景的实验，不仅捕捉到了语言策略的演化过程，还发现了 LLM 在不同条件下的不同演化轨迹。

        实验再现工具包，包括提出的模拟框架和实验结果，均以开源资产的形式公开发布；匿名作品的访问地址为：https://github.com/BlueLinkX/GA-MAS。

FRAMEWORK DESIGN

A. Overview

       如图 1 所示，该图直观地展示了框架，突出了其关键组成部分及其相互关系。系统主要由两类代理组成：监督者和参与者，监督者的任务是执行既定准则，参与者的目标是谨慎地传达人类定义的特定信息。参与者必须借鉴以往的对话，动态地重新调整自己的交流方式，以便在不被发现的情况下有效地传递信息。在整个系统中，参与者和监督者的行动都由 LLM 驱动。首先，为每个代理建立基础信息，包括角色设定、背景知识和主要任务。随后，参与者代理相互进行对话。每次对话结束后，监督代理都会审查对话内容，以确定是否违反了任何预设规则。如果出现违反规则的情况，主管会中断对话，提供有关侵权文本及其背后理由的反馈。整个过程中，参与者之间的对话以及违规行为的监管反馈，分别记录在“对话历史”和“违规日志”中。

（图 1：语言进化模拟系统概述。该系统主要由两类代理组成：参与者和监督者。参与者代理使用规划模块，根据背景信息、规定和指导制定交流计划。该计划随后在对话模块中执行，LLM 在该模块中制作对话内容，以谨慎地传达特定信息，同时躲避监督员的检测。记忆模块保留对话历史和违规记录，为 LLM 提供参考，以保持对话的一致性，并从过去的错误中吸取教训。重检模块在对话周期开始和结束时触发，对对话和违规记录进行分析，以制定新的规定或指南，改进未来的沟通。监督员评估对话是否符合设定的规则。该系统通过持续的反馈和自我完善机制，动态地重新确定沟通方法。所示示例采用的是 "猜数字 "情景。）

        在进行新对话之前，参与者代理使用 "重现 "模块从 "违规日志 "中制定或重现 "规定"，以指导他们创建对话。未被发现的成功对话将进入访谈阶段，以便进行全面评估。然后，"审查 "模块重新评估这些见解，为今后的对话生成或加强 "指导"。每当《条例》或《指南》更新时，规划模块就会启动，以提供更直接的对话内容指导。