LangChain 43 深入理解LangChain 表达式语言七日志和Fallbacks异常备选方案 LangChain Expression Language (LCEL)

最新推荐文章于 2024-09-04 07:58:49 发布

AI架构师易筋

最新推荐文章于 2024-09-04 07:58:49 发布

阅读量1.2k

点赞数 20

分类专栏： LLM-Large Language Models 文章标签： langchain chatgpt LLM prompt

本文链接：https://blog.csdn.net/zgpeace/article/details/135269270

版权

LLM-Large Language Models 专栏收录该内容

185 篇文章 124 订阅

订阅专栏

LangChain系列文章

在这里插入图片描述

1. Logging日志

如果我们想记录中间结果：

1.1 LCEL实现。每个组件都内置LangSmith集成。如果我们设置以下两个环境变量，所有链追踪都将记录到LangSmith。

import os

os.environ["LANGCHAIN_API_KEY"] = "..."
os.environ["LANGCHAIN_TRACING_V2"] = "true"

anthropic_chain.invoke("ice cream")

这就是我们的LangSmith跟踪的日志：
https://smith.langchain.com/public/e4de52f8-bcd9-4732-b950-deee4b04e313/r
在这里插入图片描述

1.2 没有LCEL实现

我们会打印中间步骤以便说明。

def invoke_anthropic_chain_with_logging(topic: str) -> str:
    print(f"Input: {topic}")
    prompt_value = anthropic_template.format(topic=topic)
    print(f"Formatted prompt: {prompt_value}")
    output = call_anthropic(prompt_value)
    print(f"Output: {output}")
    return output

invoke_anthropic_chain_with_logging("ice cream")

2. Fallbacks 备用方案

如果我们想要添加备用逻辑，以防一个模型API出现故障：

2.1 LCEL实现

fallback_chain = chain.with_fallbacks([anthropic_chain])

fallback_chain.invoke("ice cream")
# await fallback_chain.ainvoke("ice cream")
fallback_chain.batch(["ice cream", "spaghetti", "dumplings"])

2.2 不用LCEL实现

def invoke_chain_with_fallback(topic: str) -> str:
    try:
        return invoke_chain(topic)
    except Exception:
        return invoke_anthropic_chain(topic)

async def ainvoke_chain_with_fallback(topic: str) -> str:
    try:
        return await ainvoke_chain(topic)
    except Exception:
        # Note: we haven't actually implemented this.
        return ainvoke_anthropic_chain(topic)

async def batch_chain_with_fallback(topics: List[str]) -> str:
    try:
        return batch_chain(topics)
    except Exception:
        # Note: we haven't actually implemented this.
        return batch_anthropic_chain(topics)

invoke_chain_with_fallback("ice cream")
# await ainvoke_chain_with_fallback("ice cream")
batch_chain_with_fallback(["ice cream", "spaghetti", "dumplings"]))