本文是LLM系列文章,针对《Unveiling the Misuse Potential of Base Large Language Models via
In Context Learning》的翻译。
摘要
大型语言模型(LLMs)的开源加速了应用程序开发、创新和科学进步。这包括基础模型和对齐模型,基础模型是在广泛的数据集上预训练的,没有对齐,对齐模型是专门为符合道德标准和人类价值观而设计的。与普遍的假设相反,即基础LLM限制后的固有指示可以防止滥用,我们的调查揭示了这一信念中的一个关键疏忽。通过部署精心设计的演示,我们的研究表明,基础LLM可以有效地解释和执行恶意指令。为了系统地评估这些风险,我们引入了一套新的风险评估指标。实证结果表明,基础LLM的输出可以表现出与针对恶意目的进行微调的模型相当的风险水平。这种漏洞既不需要专业知识也不需要训练,几乎任何人都可以操纵,这突显了巨大的风险和立即关注基础LLM安全协议的迫切需要。