Prompt的 “注入” 攻击

在 Web 安全领域，JavaScript 注入攻击是一种常见的威胁，攻击者通过在网页中注入恶意的 JavaScript 代码，来窃取用户信息、篡改网页内容或者执行其他恶意操作。
prompt(1) 是其中一种攻击手法，它利用了 JavaScript 的 prompt() 函数来显示一个对话框，要求用户输入一些敏感信息。

prompt(1) 的工作原理很简单，攻击者在网页的输入框或者其他表单元素中注入类似于 的代码。当用户访问这个页面并填写表单时，浏览器会弹出一个对话框，要求用户输入一些敏感信息。由于 prompt() 函数会阻塞页面的其他操作，因此用户很容易被诱导输入敏感信息，如用户名、密码等。

随着大语言模型（LLM）的广泛应用，Prompt注入攻击（Prompt Injection Attack）成为了一个日益关注的话题。Prompt注入攻击是一种利用恶意输入来操纵或误导大语言模型行为的技术，可能对系统的安全性和可靠性构成严重威胁。

什么是Prompt注入攻击？

Prompt注入攻击类似于传统的SQL注入攻击，通过在输入中嵌入恶意代码或指令，攻击者可以影响大语言模型的输出行为。具体来说，攻击者向模型提供精心设计的输入，诱导模型生成错误、误导或有害的响应，从而实现攻击目的。

Prompt注入攻击的工作原理

恶意输入嵌入：攻击者向模型提供带有恶