Breaking Down the Defenses: A Comparative Survey of Attacks on Large Language Models

本文是LLM系列文章，针对《Breaking Down the Defenses: A Comparative Survey of Attacks on Large Language Models》的翻译。

摘要

大型语言模型（LLM）已成为自然语言处理（NLP）领域的基石，在理解和生成类人文本方面提供了变革性的能力。然而，随着它们的日益突出，这些模型的安全性和脆弱性方面已经引起了极大的关注。本文对针对LLM的各种形式的攻击进行了全面的调查，讨论了这些攻击的性质和机制、潜在影响以及当前的防御策略。我们深入研究了诸如旨在操纵模型输出的对抗性攻击、影响模型训练的数据中毒以及与训练数据利用相关的隐私问题等主题。本文还探讨了不同攻击方法的有效性、LLM对这些攻击的抵御能力，以及对模型完整性和用户信任的影响。通过研究最新研究，我们深入了解了LLM漏洞和防御机制的现状。我们的目标是对LLM攻击提供细致入微的理解，提高人工智能社区的意识，并激发强有力的解决方案，在未来的发展中减轻这些风险。

1 引言

2 LLM安全探索：白盒和黑盒攻击

3 LLM攻击分类

4 人为干扰

5 挑战与未来研究