LLM大模型之LCEL表达式语言

LCEL介绍

LangChain 表达式语言（LCEL）是一种声明式的方法，可以轻松地将多个链条组合在一起。

LCEL 从第一天开始设计就支持将原型投入生产，无需进行代码更改，从最简单的“提示 + LLM”链条到最复杂的链条（我们见过人们在生产中成功运行包含数百个步骤的 LCEL 链条）。以下是您可能想要使用 LCEL 的几个原因：

• 一流的流式支持

当您使用 LCEL 构建链条时，您将获得最佳的首个令牌时间（即输出的第一块内容出现之前的经过时间）。对于某些链条，这意味着例如我们将令牌直接从 LLM 流式传输到流式输出解析器，您将以与 LLM 提供商输出原始令牌相同的速率获得解析后的增量输出块。

• 异步支持

使用 LCEL 构建的任何链条都可以通过同步 API（例如在您的 Jupyter 笔记本中原型设计时）以及异步 API（例如在 LangServe 服务器中）调用。这使得可以使用相同的代码进行原型设计和生产，具有出色的性能，并且能够在同一服务器中处理许多并发请求。

• 优化的并行执行

每当您的 LCEL 链条中有可以并行执行的步骤时（例如，如果您从多个检索器中获取文档），我们会自动执行，无论是在同步还是异步接口中，以获得尽可能小的延迟。

• 重试和备选方案

为您的 LCEL 链条中的任何部分配置重试和备选方案。这是一种在大规模生产中使您的链条更可靠的绝佳方式。我们目前正在努力为重试/备选方案添加流式支持，这样您可以在不增加任何延迟成本的情况下获得增强的可靠性。

• 访问中间结果

对于更复杂的链条，访问中间步骤的结果在最终输出产生之前往往非常有用。这可以用来让最终用户知道正在发生某些事情，或者仅仅是用来调试您的链条。您可以流式传输中间结果，并且它在每个 LangServe 服务器上都可用。

• 输入和输出模式

输入和输出模式为每个 LCEL 链条提供了 Pydantic 和 JSONSchema 模式，这些模式是从您的链条结构中推断出来的。这可以用于输入和输出的验证，并且是 LangServe 不可或缺的一部分。

• 无缝 LangSmith 跟踪

随着您的链条变得越来越复杂，理解每个步骤确切发生了什么变得越来越重要。使用 LCEL，所有步骤都会自动记录到 LangSmith，以实现最大的可观察性和可调试性。

• 无缝 LangServe 部署

使用 LCEL 创建的任何链条都可以轻松地使用 LangServe 部署。

使用教程

LCEL 可以很容易地从基本组件构建复杂的链，并且支持开箱即用的功能，例如流式处理、并行性、和日志记录。

基本示例：提示(Prompt) + 模型(Model) + 输出解析器(OutputParser)

python
复制代码
from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate 

# 模型
model = ChatOpenAI(参数省略...)
# 模板
prompt = ChatPromptTemplate.from_template("你是冷笑话大师，请讲一个关于{topic}的笑话。")
# 输出解析器
output_parser = StrOutputParser()
# 链
chain = prompt | model | output_parser# 执行chain.invoke({"topic": "维生素"}) 
# =========================
# 输出
为什么维生素C总是那么自信？因为它知道，身体需要它"C"位出道！ 

请注意代码的这一行，我们将这些不同的代码拼凑在一起使用 LCEL 将组件集成到单个链中：

python
复制代码
chain = prompt | model | output_parser

该符号类似于unix管道运算符，其中链将不同的组件组合在一起，从一个组件提供输出作为下一个组件的输入。|

在此链中，用户输入被传递到提示模板，然后提示模板输出传递给模型，然后模型输出为传递给输出解析器。

组件解析

Prompt

prompt是一个BasePromptTemplate，这意味着它接受模板变量的字典并生成PromptValue。PromptValue是一个完整提示的包装，可以传递给LLM（以字符串作为输入）或ChatModel（以消息序列作为输入）。它可以与任何一种语言模型类型一起使用，因为它定义了用于生成BaseMessages和用于生成字符串的逻辑。

python
复制代码
prompt_value = prompt.invoke({"topic": "维生素"}) 

# 打印 prompt_value
print(prompt_value)
# 输出如下
ChatPromptValue(messages=[HumanMessage(content='你是冷笑话大师，请讲一个关于维生素的笑话。')])  

# 打印 prompt_value.to_messages()
print(prompt_value.to_messages())
# 输出如下
[HumanMessage(content='你是冷笑话大师，请讲一个关于ice cream维生素的笑话。')] 

# 打印 prompt_value.to_string()
print(prompt_value.to_string())
# 输出如下
Human: 你是冷笑话大师，请讲一个关于ice cream维生素的笑话。

Model

然后将PromptValue传递给模型。在这种情况下，我们的模型是ChatModel，这意味着它将输出BaseMessage。

python
复制代码
message = model.invoke(prompt_value) 

# 打印 message
print(message)
# 输出
AIMessage(content='为什么维生素C总是那么自信？因为它知道，身体需要它"C"位出道！ ', ...其它参数省略)

如果我们的模型是LLM，它将输出一个字符串。

python
复制代码
from langchain_openai import OpenAI 

# 初始化代码
llm = OpenAI(参数省略...)
llm.invoke(prompt_value) 
# 输出
为什么维生素C总是生气？因为它总被人说成“小气”。\n\nAssistant: 哈哈，这个冷笑话可能有点酸，但希望你喜欢：“为什么维生素C总是生气？因为它总被人说成‘小气’，但实际上，它只是缺乏同一种元素而已。”

Output parser

最后，我们将模型输出传递给output_parser，它是一个BaseOutputParser，这意味着它接受字符串或BaseMessage作为输入。指定的StrOutputParser只需将任何输入转换为字符串。

python
复制代码
output_parser.invoke(message) 
# 输出
为什么维生素C总是那么自信？因为它知道，身体需要它"C"位出道！ 

完整流程

要遵循以下步骤：

• 我们将用户的主题以 {“topic”:“维生素”} 形式输入
• 提示组件（Prompt）接受用户输入，然后在使用主题构造提示后使用该输入构造PromptValue。
• 模型组件（Model）接受生成的提示，并传递到OpenAI LLM模型中进行评估。模型生成的输出是一个ChatMessage对象。
• 最后，output_parser组件接收ChatMessage，并将其转换为从invoke方法返回的Python字符串。

Hold On，如果我们想查看某个中间过程，可以始终测试较小版本的链，如prompt或prompt|model，以查看中间结果：

python
复制代码
input = {"topic": "维生素"} 
# prompt执行invoke方法的输出
prompt.invoke(input)
# 输出
ChatPromptValue(messages=[HumanMessage(content='你是冷笑话大师，请讲一个关于维生素的笑话。')])  

# prompt+model执行invoke的输出
(prompt | model).invoke(input)
# 输出
AIMessage(content='为什么维生素C总是那么自信？因为它知道，身体需要它"C"位出道！ ', ...其他参数省略)

RAG搜索示例

运行一个检索增强生成链，以便在回答问题时添加一些上下文。

python
复制代码
# Requires:
# pip install langchain docarray tiktoken 
from langchain_community.embeddings.huggingface import HuggingFaceEmbeddings
import torch
from langchain_community.vectorstores import DocArrayInMemorySearch
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableParallel, RunnablePassthrough 

# 词嵌入模型
EMBEDDING_DEVICE = "cuda" if torch.cuda.is_available() else "mps" if torch.backends.mps.is_available() else "cpu"embeddings = 
HuggingFaceEmbeddings(model_name='D:\models\m3e-base', model_kwargs={'device': EMBEDDING_DEVICE}) 
vectorstore = DocArrayInMemorySearch.from_texts(    
    ["汤姆本周五要去参加同学聚会", "杰瑞本周五要去参加生日聚会"],    
    embedding=embeddings,)
retriever = vectorstore.as_retriever() 
template = """Answer the question based only on the following context:
{context}

Question: {question}"""
prompt = ChatPromptTemplate.from_template(template)
output_parser = StrOutputParser() 
setup_and_retrieval = RunnableParallel(    
    {"context": retriever, "question": RunnablePassthrough()})
chain = setup_and_retrieval | prompt | model | output_parser 
chain.invoke("这周五谁要去参加生日聚会？") 

# 输出
这周五要去参加生日聚会的是杰瑞。 

在这种情况下，组成的链是：

python
复制代码
chain = setup_and_retrieval | prompt | model | output_parser

我们首先可以看到，上面的提示模板将上下文和问题作为要在提示中替换的值。在构建提示模板之前，我们希望检索相关文档，并将它们作为上下文的一部分。

首先，我们使用内存存储设置了检索器，它可以根据用户问题去检索文档。这也是一个可运行的组件，可以与其他组件链接在一起，但您也可以尝试单独运行它：

python
复制代码
retriever.invoke("这周五谁要去参加生日聚会？")

然后，我们使用RunnableParallel（并行运行多个Runnable），通过使用检索到的文档和原始用户问题，为提示模板（代码中的template）准备设置需要输入数据。具体来说就是：使用检索器进行文档搜索，使用RunnablePassthrough传递用户的问题。

python
复制代码
setup_and_retrieval = RunnableParallel(    {"context": retriever, "question": RunnablePassthrough()})

最终的完整执行链如下：

python
复制代码
setup_and_retrieval = RunnableParallel(    
    {"context": retriever, "question": RunnablePassthrough()})
chain = setup_and_retrieval | prompt | model | output_parser

详细流程为：

• 首先，创建一个包含两个条目的RunnableParallel对象。第一个条目context，包含检索器获取的文档结果。第二个条目question，包含用户的原始问题。为了传递这个问题，我们使用RunnablePassthrough来复制这个条目。
• 其次，将第一步中的字典提供给提示组件。然后，它将用户输入（question）以及检索到的上下文文档（context）来构造提示并输出PromptValue。
• 然后，模型组件（Model）接受生成的提示，并传递到OpenAI LLM模型中进行评估。模型生成的输出是一个ChatMessage对象。
• 最后，output_parser组件接收ChatMessage，并将其转换为从invoke方法返回的Python字符串。

总结

以上就是 LCEL 的简介以及基本使用。回顾一下：首先，我们介绍了什么是 LCEL；其次，我们用一个简单的例子说明了下 LCEL 的基本使用；然后，我们用分别介绍了 LCEL 中的几个基本组件（Prompt、Model、Output Parser）；最后，我们在 RAG 基础上再次介绍了 LCEL 的使用。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取==🆓