LangChain快速入门指南

科技之歌

已于 2024-08-06 14:19:27 修改

阅读量436

点赞数 5

分类专栏：大模型文章标签： langchain 人工智能

于 2024-08-03 08:19:57 首次发布

本文链接：https://blog.csdn.net/kunpengtingting/article/details/140884721

版权

大模型专栏收录该内容

28 篇文章 3 订阅

订阅专栏

LangChain是一个专为开发大型语言模型（LLMs）驱动的应用程序设计的框架，它通过简化和优化LLM应用的开发、生产化和部署过程，为开发者提供了强大的支持。本指南将帮助你快速了解并上手LangChain。

简介

Langchain由6个module组成，分别是Model IO、Retrieval、Chains、Memory、Agents和Callbacks。

Model IO：AI应用的核心部分，其中包括输入、Model和输出。

Retrieval：“检索“——该功能与向量数据密切库相关，是在向量数据库中搜索与问题相关的文档内容。

Memory：为对话形式的模型存储历史对话记录，在长对话过程中随时将这些历史对话记录重新加载，以保证对话的准确度。

Chains：虽然通过Model IO、Retrieval和Memory这三大模块可以初步完成应用搭建，但是若想实现一个强大且复杂的应用，还是需要将各模块组合起来，这时就可以利用Chains将其连接起来，从而丰富功能。

Agents：它可以通过用户的输入，理解用户的意图，返回一个特定的动作类型和参数，从而自主调用相关的工具来满足用户的需求，将应用更加智能化。

Callbacks: 回调机制可以调用链路追踪，记录日志，帮助开发者更好的调试LLM模型。

六个module具体的关系如下图所示
在这里插入图片描述
其中Model I/O是Langchain的核心部分。

在利用Model IO的时候主要关注的就是输入、处理、输出这三个步骤。Langchain也是根据这一点去实现Model IO这一模块的，在这一模块中，Langchain针对此模块主要的实现手段为：Prompt(输入)、Language model(处理）、Output Pasers(输出)，Langchain通过一系列的技术手法优化这三步，使得其更加的标准化，我们也无需再关注每一步骤中的具体实现，可以直接通过Langchain提供的API，堆积木式的完善我们应用构建（贴张官方文档的图，可以更清晰的了解）。因此，在使用Langchain的Model IO应用时，主要关注的就是prompt的构建。
在这里插入图片描述

1. 安装LangChain

首先，确保你的系统中已安装Python。你可以通过pip或conda等包管理器来安装LangChain。

pip install langchain

或者，如果你使用conda，可以使用以下命令：

conda install langchain -c conda-forge

2. 验证安装

安装完成后，你可以通过尝试导入LangChain模块来验证是否安装成功。在Python环境中输入：

import langchain

如果没有错误提示，则表示安装成功。

3. 初始化模型与创建提示模板

LangChain支持多种预训练模型，如BERT、GPT等。你可以根据需要加载相应的模型，并创建提示模板以引导LLM的响应。

from langchain import LangChain
from langchain.models import load_model

# 加载预训练模型
model = load_model("gpt-3.5-turbo")  # 示例：加载GPT-3.5-Turbo模型

# 创建提示模板
from langchain.prompts import ChatPromptTemplate
prompt_template = ChatPromptTemplate.from_messages([
    ("system", "你是一名知识渊博的助手"),
    ("user", "{input}")
])

4. 使用模型生成回答

通过向模型发送提示，你可以获取模型的输出。LangChain提供了方便的接口来处理这一过程。

# 使用提示模板和模型生成回答
input_text = "告诉我今天的天气如何？"
prompt = prompt_template.format_prompt(input_text)
output = model.run(prompt)
print(output)

5. 构建更复杂的链（Chains）

LangChain的核心机制之一是“链”，它允许你以特定方式封装各种功能，并通过一系列的组合来自动完成任务。

from langchain.chains import LLMChain

# 创建一个简单的链，封装模型和提示模板
chain = LLMChain(llm=model, prompt=prompt_template)

# 使用链来生成回答
answer = chain.run("今天的天气怎么样？")
print(answer)

6. 代理（Agents）与工具集成

LangChain还提供了代理功能，允许LLM自主调用外部工具和内部工具。你可以通过代理将LLM的能力与各种服务结合，创建更智能的应用。

from langchain.agents import initialize_agent

# 初始化代理，并指定要使用的链
agent = initialize_agent(chain)

# 使用代理执行更复杂的任务
response = agent.run("帮我预订明天上午10点的会议")
print(response)