如何在解析错误时重试：LangChain中的实用指南

最新推荐文章于 2024-10-03 19:41:41 发布

bhawfgrcbtwny

最新推荐文章于 2024-10-03 19:41:41 发布

阅读量234

点赞数 3

文章标签： langchain easyui 前端 python

本文链接：https://blog.csdn.net/bhawfgrcbtwny/article/details/142537370

版权

引言

在自然语言处理和生成任务中，我们常常需要解析API返回的数据。然而，当解析错误发生时，比如数据不完整或格式错误，这可能导致应用程序的故障。本文将探讨如何使用LangChain库中的RetryOutputParser来处理解析错误，确保数据完整性。

主要内容

解析错误的挑战

当API返回的数据不完整时，解析器可能无法正常工作。例如，缺少必要字段或格式不正确可能导致ValidationError。在这种情况下，简单地修复输出可能不够，因为某些信息可能无法推测。

使用`RetryOutputParser`

为了更好地处理错误，我们可以使用RetryOutputParser。这个解析器在尝试解析失败后，重新调用生成模型，使用改进的提示语来重新生成响应。

示例场景

假设我们需要解析如下结构的数据：

from langchain_core.pydantic_v1 import BaseModel, Field

class Action(BaseModel):
    action: str = Field(description="action to take")
    action_input: str = Field(description="input to the action")

假设我们得到的响应为{"action": "search"}，这显然缺少action_input字段。

配置`RetryOutputParser`

from langchain.output_parsers import RetryOutputParser
from langchain.openai import OpenAI
from langchain_core.prompts import PromptTemplate
from langchain_core.output_parsers import PydanticOutputParser

# 定义提示模板
template = """Based on the user question, provide an Action and Action Input for what step should be taken.
{format_instructions}
Question: {query}
Response:"""

parser = PydanticOutputParser(pydantic_object=Action)
prompt = PromptTemplate(
    template="Answer the user query.\n{format_instructions}\n{query}\n",
    input_variables=["query"],
    partial_variables={"format_instructions": parser.get_format_instructions()},
)

prompt_value = prompt.format_prompt(query="who is leo di caprios gf?")

# 配置RetryOutputParser
retry_parser = RetryOutputParser.from_llm(parser=parser, llm=OpenAI(temperature=0))

# 使用RetryOutputParser解析
parsed_result = retry_parser.parse_with_prompt(bad_response, prompt_value)
print(parsed_result)
# 输出: Action(action='search', action_input='leo di caprio girlfriend')

构建重试链

可以通过自定义链来自动处理解析和重试逻辑：

from langchain_core.runnables import RunnableLambda, RunnableParallel
from langchain.openai import OpenAI

completion_chain = prompt | OpenAI(temperature=0)

main_chain = RunnableParallel(
    completion=completion_chain, prompt_value=prompt
) | RunnableLambda(lambda x: retry_parser.parse_with_prompt(**x))

result = main_chain.invoke({"query": "who is leo di caprios gf?"})
print(result)