使用Guardrails Output Parser保护LangChain输出：从理论到实践-CSDN博客

本文链接：https://blog.csdn.net/qq_29929123/article/details/142818352

使用Guardrails Output Parser保护LangChain输出：从理论到实践

引言

在现代应用开发中，确保输出内容的合规性和安全性变得越来越重要。本文将探讨如何使用Guardrails Output Parser在LangChain框架中实施输出内容监控，确保应用内容的合规性和安全性。

主要内容

什么是Guardrails Output Parser？

Guardrails Output Parser是一个插件，用于监控和过滤生成的内容，保护应用免受不当内容的影响。它与LangChain无缝集成，提供易于使用和配置的接口。

环境设置

在开始使用之前，需要确保具备以下环境配置：

安装LangChain CLI：
```
pip install -U langchain-cli
```

设置OpenAI API密钥：

export OPENAI_API_KEY=<your-openai-api-key>

如何在LangChain中使用Guardrails Output Parser

新建项目

可以通过以下命令创建一个新的LangChain项目，并将Guardrails Output Parser作为唯一的包进行安装：

langchain app new my-app --package guardrails-output-parser

在现有项目中添加

如果要将其添加到现有项目中，可以运行：

langchain app add guardrails-output-parser

然后在server.py文件中添加以下代码：

from guardrails_output_parser.chain import chain as guardrails_output_parser_chain

add_routes(app, guardrails_output_parser_chain, path="/guardrails-output-parser")

使用LangSmith进行追踪和调试（可选）

LangSmith帮助追踪和监控LangChain应用。设置环境变量以启用LangSmith：

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>  # 如果未指定，默认为 "default"

运行本地服务器

若已完成上述配置，可通过下述命令启动LangServe实例：

langchain serve

本地FastAPI应用将运行在http://localhost:8000。

代码示例

以下是使用Guardrails Output Parser的基本示例：

from langserve.client import RemoteRunnable

# 创建一个RemoteRunnable实例
runnable = RemoteRunnable("http://localhost:8000/guardrails-output-parser")

# 运行并解析输出
result = runnable.run(input_text="Hello, World!")
print(result)  # 输出内容根据Guardrails规则进行过滤