HKUST：通过跨语言触发LLM后门攻击

📖标题：CL-Attack: Textual Backdoor Attacks via Cross-Lingual Triggers
🌐来源：arXiv, 2412.19037

🌟摘要

🔸后门攻击通过触发大型语言模型输出特定和受控的内容，严重损害了它们的安全性。目前，文本后门攻击的触发器分为两类：固定令牌触发器和句型触发器。然而，前者通常易于识别和过滤，而后者，如语法和风格，并不适用于所有原始样本，并可能导致语义变化。
🔸本文受现实场景中LLM的跨语言提示的启发，提出了一种段落级别的高维触发方法，即CL攻击。CL攻击通过使用包含多种语言的特定结构的文本来注入后门，从而与现有的后门攻击技术相比，提供了更大的隐蔽性和通用性。
🔸对不同任务和模型架构的广泛实验表明，CL Attack在分类和生成任务中都可以实现近100%的攻击成功率和较低的中毒率。我们还实证表明，与基线后门攻击相比，CLAttack对当前的主要防御方法更具鲁棒性。此外，为了减轻CL攻击，我们进一步开发了一种名为TranslateDefense的新防御，可以部分减轻CL攻击的影响。详见https://github.com/TenneyHu/CrossLingualA