LLM大型语言模型代理的安全与隐私综述

受大型语言模型（LLM）快速发展的启发，LLM代理已发展到能够执行复杂任务的阶段。LLM代理现在广泛应用于各个领域，处理大量数据以与人类互动并执行任务。LLM代理的广泛应用展示了其显著的商业价值；然而，这也暴露了其安全和隐私漏洞。在当前阶段，非常需要对LLM代理的安全和隐私进行全面研究。本次调查旨在全面概述LLM代理面临的新出现的隐私和安全问题。我们首先介绍LLM代理的基本知识，然后对威胁进行分类和分析。接着，我们讨论这些威胁对人类、环境和其他代理的影响。随后，我们回顾现有的防御策略，最后探讨未来的发展趋势。此外，调查结合了多样的案例研究，以便更易于理解。通过强调这些关键的安全和隐私问题，本次调查旨在激发未来研究，以增强LLM代理的安全性和隐私性，从而在未来应用中提高其可靠性和可信度。

受到大型语言模型（LLM）快速发展的启发，LLM智能体已经发展到能够执行复杂任务的阶段。LLM智能体基于GPT-4 [67]、Claude 3 [6] 和Llama 3 [5] 等大型语言模型，利用其所训练的海量文本数据执行各种任务，从自然语言理解和生成到更复杂的决策制定、问题解决以及以人类方式与用户互动等[95]。LLM智能体在众多应用中都能见到，包括虚拟助手、客户服务机器人和教育工具，因为它们能够以高级水平理解和生成人类语言[22, 99, 115]。LLM智能体的重要性在于其能够通过自动化需要人类理解和互动的任务，转变各个行业。它们能够提高生产力、改善用户体验并提供个性化的帮助。此外，它们从海量数据中学习的能力使得它们能够不断改进和适应新任务，成为在快速发展的技术环境中的多功能工具[107]。

为了直观地展示LLM智能体如何整合到实际场景中，可以参考图1所示的例子。此图展示了一个像素化的虚拟城镇**来模拟LLM智能体应用。该城镇包括现实生活中的聚集场所，如商店、办公室、餐馆、博物馆和公园。每个LLM智能体充当独立的居民，扮演各种角色并执行不同的功能，行为与社区中的真实人类非常相似。这些智能体可以手动控制以与特定角色互动并完成任务，或自主运行，按照自己的计划行事并通过在虚拟社区中的互动获取新知识。

LLM智能体的部署由于其在各个领域的广泛应用，导致其用户基础广泛且具有高商业价值。鉴于LLM智能体仍处于早期阶段，其显著的商业和应用价值使其成为攻击者的有吸引力