- LangChain简介:
- LangChain是一个围绕LLMs(大语言模型)建立的框架,由Harrison Chase在2022年10月创建。
- 它不开发LLMs,而是为各种LLMs实现通用接口,简化LLMs应用的开发难度。
- 目前支持Python和Nodejs两种语言的实现。
pip install qianfan pip install langchain pip install langchain-community
- LangChain主要组件:
-
Models:支持LLMs(大语言模型)、Chat Models(聊天模型)、Embeddings Models(嵌入模型)等模型类型。
# LLMs(大语言模型):接受文本字符,输出文本字符 。 import os from langchain_community.llms import QianfanLLMEndpoint # 1.设置qianfan的API-KEY和Serect-KEY os.environ["QIANFAN_AK"] = "******" os.environ["QIANFAN_SK"] = "****" # 2.实例化模型 llm = QianfanLLMEndpoint(model="ChatGLM2-6B-32K") res = llm.invoke("请帮我讲一个笑话") print(res)
-
# Chat Models(聊天模型): 聊天模型 ,基于大语言模型,不同的是接收的是聊天消息(一种特定的数据作为输入)
import os
from langchain_community.chat_models import QianfanChatEndpoint
from langchain_core.messages import HumanMessage
# # 1.设置qianfan的API-KEY和Serect-KEY
os.environ["QIANFAN_AK"] = "******"
os.environ["QIANFAN_SK"] = "*****"
# 2.实例化模型
chat = QianfanChatEndpoint(model='Qianfan-Chinese-Llama-2-7B')
messages = [HumanMessage(content="给我写一首唐诗")]
res = chat.invoke(messages)
print(res)
import os
from langchain_community.embeddings import QianfanEmbeddingsEndpoint
# # 1.设置qianfan的API-KEY和Serect-KEY
os.environ["QIANFAN_AK"] = "****"
os.environ["QIANFAN_SK"] = "****"
# 2.实例化向量模型
embed = QianfanEmbeddingsEndpoint(model='Embedding-V1')
# 3.一段文本的向量化
result1 = embed.embed_query("这是一个测试文档")
print(f'result1-->{result1}')
print(f'result1的长度-->{len(result1)}')
# 4.一批文本向量化
result2 = embed.embed_documents(["这是一个测试文档", "这是二个测试文档"])
print(result2)
print(len(result2))
print(len(result2[0]))
print(len(result2[1]))
- Prompts:用于向模型提供提示,帮助模型理解复杂业务场景。
- Memory:保存和模型交互时的上下文状态。
- Indexes:用于结构化文档,方便与模型交互。
- Chains:一系列对各种组件的调用。
- Agents:决定模型行动,执行并观察流程直到完成。
- Models组件详解:
- 介绍了LLMs(大语言模型)、Chat Models(聊天模型)、Embeddings Models(嵌入模型)三种模型类型及其应用场景。
- 提供了使用qianfan大模型平台实现LLMs组件应用的步骤,包括安装工具包、设置环境变量和调用API等。
- Prompts组件:
- 解释了Prompt的作用,即向模型提供提示以理解复杂业务场景。
- 提到了zero-shot和few-shot等提示方式。
- 应用场景:
- 虽然文档未直接列出具体的应用场景,但强调了LangChain通过简化LLMs应用开发难度,使得开发者能够更快速地开发复杂的LLMs应用。
- 代码示例:
- 提供了使用qianfan大模型平台实现Embedding Models(嵌入模型)的Python代码示例,包括设置环境变量、创建嵌入模型和调用API等步骤。