[迁移到更强大的工具：从LLMRouterChain到LCEL使用指南]

最新推荐文章于 2024-09-26 11:55:47 发布

aehrutktrjk

最新推荐文章于 2024-09-26 11:55:47 发布

阅读量168

点赞数 4

文章标签： python

本文链接：https://blog.csdn.net/aehrutktrjk/article/details/142330561

版权

# 迁移到更强大的工具：从LLMRouterChain到LCEL使用指南

## 引言

在AI和自然语言处理领域，选择和迁移到适合的工具和架构对性能和功能的提升至关重要。LLMRouterChain曾是处理多重输入查询的优秀选择，但随着更高级功能的出现，如工具调用支持，LCEL（Langchain Chat Enhanced Logic）成为更为强大的解决方案。本篇文章将引导你了解如何从LLMRouterChain迁移到LCEL，并展示如何充分利用这些新功能。

## 主要内容

### LLMRouterChain的局限性

LLMRouterChain作为一种通过自然语言指令将输入查询路由到多个链的工具，虽然简单易用，但在以下方面存在局限：
- 不支持聊天模型的通用功能，如消息角色和工具调用。
- 输出的格式化和解析较为冗长。

### LCEL的优势

LCEL则通过以下方式克服了这些局限：
- 支持聊天提示模板，包括system等角色。
- 可以生成结构化输出。
- 支持流式和异步操作，提高了效率和响应速度。

### 模板的定义与使用

在LCEL中，我们通过定义明确的输出结构化格式，使得模型调用的准确性和易用性显著提升。

## 代码示例

以下是如何实施从LLMRouterChain到LCEL的基本迁移步骤。

```python
# 安装必要的库
%pip install -qU langchain-core langchain-openai

import os
from getpass import getpass

os.environ["OPENAI_API_KEY"] = getpass()

# 使用 API 代理服务提高访问稳定性
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
from typing import Literal
from typing_extensions import TypedDict

llm = ChatOpenAI(model="gpt-4o-mini")

route_system = "Route the user's query to either the animal or vegetable expert."
route_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", route_system),
        ("human", "{input}"),
    ]
)

class RouteQuery(TypedDict):
    """Route query to destination expert."""
    destination: Literal["animal", "vegetable"]

# 使用结构化输出
chain = route_prompt | llm.with_structured_output(RouteQuery)

result = chain.invoke({"input": "What color are carrots?"})
print(result["destination"])  # 输出目标：vegetable