Building Guardrails for Large Language Models

本文是LLM系列文章，针对《Building Guardrails for Large Language Models》的翻译。

摘要

随着大型语言模型（LLM）越来越融入我们的日常生活，识别和减轻其风险至关重要，尤其是当风险可能对人类用户和社会产生深远影响时。护栏过滤LLM的输入或输出，已成为一种核心防护技术。本文深入探讨了当前的开源解决方案（Llama Guard、Nvidia NeMo、Guardrails AI），并讨论了构建更完整解决方案的挑战和道路。根据先前研究的有力证据，我们主张采用系统的方法，在全面考虑各种LLM应用程序的不同背景的基础上，为LLM构建护栏。我们建议通过与多学科团队合作，采用社会技术方法来确定精确的技术要求，探索先进的神经符号实现来满足需求的复杂性，并开发验证和测试来确保最终产品的最高质量。

1 引言

2 现有实现方案

3 实现个人需求的技术挑战

4 护栏设计面临的挑战

5 结论

这篇立场文件主张采用系统的方法来构建护栏，而不是目前只提供最简单的机制来描述规则并连接学习和符号组件的解决方案。护栏由于其管理LLM与人类之间互动的作用而