LangChain 7 文本模型TextLangChain和聊天模型ChatLangChain

最新推荐文章于 2024-07-19 14:31:53 发布
最新推荐文章于 2024-07-19 14:31:53 发布
阅读量623 收藏 1
点赞数
分类专栏： LLM-Large Language Models 文章标签： langchain prompt chatgpt LLM
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zgpeace/article/details/134566870
版权

LangChain系列文章

  1. LangChain 实现给动物取名字，
  2. LangChain 2模块化prompt template并用streamlit生成网站 实现给动物取名字
  3. LangChain 3使用Agent访问Wikipedia和llm-math计算狗的平均年龄
  4. LangChain 4用向量数据库Faiss存储，读取YouTube的视频文本搜索Indexes for information retrieve
  5. LangChain 5易速鲜花内部问答系统
  6. LangChain 6根据图片生成推广文案HuggingFace中的image-caption模型

在这里插入图片描述
Chat模型（如ChatGPT）和文本模型（如GPT-3或GPT-4）都是人工智能领域的重要技术，它们分别代表了两种不同的应用方式和功能。

1. Text Model（文本模型）

  • 定义与功能：文本模型专注于理解和生成文本。这些模型在处理、分析和生成自然语言文本方面非常高效。
    • 特点：
    • 多功能性：能够执行多种任务，如文本生成、翻译、摘要、问答等。
    • 大数据训练：通常使用大量文本数据进行训练，以理解广泛的主题和语境。
  • 举例：OpenAI的GPT-3和GPT-4是最知名的文本模型。这些模型通过使用大规模的数据集训练，获得了对自然语言的深入理解。

1.1 Text Model代码实现text_model.py

# 导入Langchain库中的OpenAI模块，该模块提供了与OpenAI语言模型交互的功能
from langchain.llms import OpenAI  

# 导入Langchain库中的PromptTemplate模块，用于创建和管理提示模板
from langchain.prompts import PromptTemplate  

# 导入Langchain库中的LLMChain模块，它允许构建基于大型语言模型的处理链
from langchain.chains import LLMChain  

# 导入dotenv库，用于从.env文件加载环境变量，这对于管理敏感数据如API密钥很有用
from dotenv import load_dotenv  

# 导入openai库，以便使用OpenAI提供的API
import openai

# 调用load_dotenv函数来加载.env文件中的环境变量
load_dotenv()  

# 使用openai库中的Completion.create方法调用GPT-3模型
# 指定模型为text-davinci-003，温度设置为0.5以控制创造性，最大令牌数为100
# 提供的提示是，用于生成公司名称
response = openai.Completion.create(
    model="text-davinci-003",
    temperature=0.5,
    max_tokens=100,
    prompt="请给我的硅谷AI科技公司起个有创新的名字，可以参考OpenAI，DeepMind，Google，Facebook等等")

# 打印响应中的文本，去除首尾的空格
print(response.choices[0].text.strip())

运行代码

zgpeaces-MBP at ~/Workspace/LLM/langchain-llm-app ±(feature/textAndChat) ✗ ❯ python text_model.py
1. MindCore
2. AIForge
3. AIStorm
4. BrainBoost
5. IntelliTech
6. SmartLogic
7. CleverMind
8. AIExplorer
9. CognitiveLogic
10. BrainTech

1.2 TextLangChain 实现

# 导入Langchain库中的OpenAI模块，该模块提供了与OpenAI语言模型交互的功能
from langchain.llms import OpenAI  

# 导入Langchain库中的PromptTemplate模块，用于创建和管理提示模板
from langchain.prompts import PromptTemplate  

# 导入Langchain库中的LLMChain模块，它允许构建基于大型语言模型的处理链
from langchain.chains import LLMChain  

# 导入dotenv库，用于从.env文件加载环境变量，这对于管理敏感数据如API密钥很有用
from dotenv import load_dotenv  

# 调用load_dotenv函数来加载.env文件中的环境变量
load_dotenv()  


# 使用OpenAI类创建一个名为llm的实例。这个实例配置了用于生成文本的模型参数。
# 模型使用的是"text-davinci-003"，这是一个高级的GPT-3模型。
# temperature设置为0.8，这决定了生成文本的随机性和创造性。
# max_tokens设置为60，限制生成文本的最大长度。
llm = OpenAI(
    model="text-davinci-003",
    temperature=0.8,
    max_tokens=60
)

# 使用llm实例的predict方法生成文本。这里的输入是一个提示，要求生成一个创新的硅谷AI科技公司的名字，
# 并提供了OpenAI、DeepMind、Google、Facebook等公司作为参考。
response = llm.predict("请给我的硅谷AI科技公司起个有创新的名字，可以参考OpenAI，DeepMind，Google，Facebook等等")

# 打印生成的响应文本，去除首尾的空格。
print(response)

运行代码

zgpeaces-MBP at ~/Workspace/LLM/langchain-llm-app ±(feature/textAndChat) ✗ ❯ python text_lang_chain.py

1. CleverMinds
2. AIWorker
3. Mindscape
4. IntelliBots
5. AI Thinkers
6. CognitiveCore
7. CreativeMinds
8. QuantumMinds
9. AI Innovators

2. Chat Model（对话模型）

  • 定义与功能：对话模型专注于生成人类风格的对话。这类模型通常被训练来理解和生成自然语言，使它们能够与用户进行互动式对话。
    • 特点：
    • 上下文理解：它们能够记住前面的对话内容，从而在对话中保持连贯性。
    • 多样性应用：广泛应用于客户服务、虚拟助手、娱乐性聊天机器人等。
  • 举例：OpenAI的ChatGPT是一个典型的对话模型。它基于GPT-3.5或GPT-4的架构，增加了对话管理能力，使其能够更流畅地进行长对话。

OpenAI 作为例子

  • 技术发展：OpenAI在这两种模型的发展上都取得了显著成就。它们的模型不仅理解和生成自然语言，还能适应各种复杂的任务和应用。
  • 创新应用：例如，ChatGPT结合了GPT-3或GPT-4的强大文本生成能力和优化的对话管理技术，提供了一种新颖的交互方式。
  • 社会影响：OpenAI的这些模型对社会产生了深远影响，改变了人们与技术的互动方式，同时也引发了关于人工智能伦理和可控性的讨论。
    总的来说，Chat模型和文本模型各有特点，但都在AI领域中扮演着关键角色。OpenAI通过这些模型展示了AI技术的强大潜力和广泛应用前景。

2.1 ChatModel 代码实现chat_model.py

# 导入Langchain库中的OpenAI模块，该模块提供了与OpenAI语言模型交互的功能
from langchain.llms import OpenAI  

# 导入Langchain库中的PromptTemplate模块，用于创建和管理提示模板
from langchain.prompts import PromptTemplate  

# 导入Langchain库中的LLMChain模块，它允许构建基于大型语言模型的处理链
from langchain.chains import LLMChain  

# 导入dotenv库，用于从.env文件加载环境变量，这对于管理敏感数据如API密钥很有用
from dotenv import load_dotenv  

# 导入openai库，以便使用OpenAI提供的API
import openai

# 调用load_dotenv函数来加载.env文件中的环境变量
load_dotenv()  

# 使用OpenAI的ChatCompletion接口创建一个响应。这个接口特别适合生成对话式的内容。
# 模型使用的是"gpt-3.5-turbo"，一种适用于快速响应和对话生成的GPT-3.5模型。
response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    # messages是一个列表，包含与AI进行交互的信息。
    # 第一条信息定义了AI的角色，这里它被指定为一个“创意AI”。
    # 第二条信息是用户输入，要求AI为一家硅谷AI科技公司起一个创新的名字，参考OpenAI, DeepMind等。
    messages=[
        {"role": "system", "content": "You are a creative AI."},
        {"role": "user", "content": "请给我的硅谷AI科技公司起个有创新的名字，可以参考OpenAI，DeepMind，Google，Facebook等等"},
    ],
    # 设置温度为0.7，控制生成内容的创造性。
    temperature=0.7,
    # 设置最大令牌数量为60，限制响应的长度。
    max_tokens=60
)

# 打印从响应中获取的文本内容，去除首尾的空格。
# response是一个字典，其中'choices'包含了生成的内容。
print(response['choices'][0]['message']['content'])

# 打印完整的response.choices，以查看所有生成的选项。
print(response.choices)

运行代码

zgpeaces-MBP at ~/Workspace/LLM/langchain-llm-app ±(feature/textAndChat) ✗ ❯ python chat_model.py 
当然！以下是几个有创新的硅谷AI科技公司的命名建议：

1. NexusAI
2. SynthetixTech
3. CogniVerse
4. NeuroGenius
5. EvolvAI
6
[<OpenAIObject at 0x1177ee390> JSON: {
  "index": 0,
  "message": {
    "role": "assistant",
    "content": "\u5f53\u7136\uff01\u4ee5\u4e0b\u662f\u51e0\u4e2a\u6709\u521b\u65b0\u7684\u7845\u8c37AI\u79d1\u6280\u516c\u53f8\u7684\u547d\u540d\u5efa\u8bae\uff1a\n\n1. NexusAI\n2. SynthetixTech\n3. CogniVerse\n4. NeuroGenius\n5. EvolvAI\n6"
  },
  "finish_reason": "length"
}]

2.2 ChatLangChain 代码实现chat_lang_chain.py

# 导入Langchain库中的OpenAI模块，该模块提供了与OpenAI语言模型交互的功能
from langchain.llms import OpenAI  

# 导入Langchain库中的PromptTemplate模块，用于创建和管理提示模板
from langchain.prompts import PromptTemplate  

# 导入Langchain库中的LLMChain模块，它允许构建基于大型语言模型的处理链
from langchain.chains import LLMChain  

# 导入dotenv库，用于从.env文件加载环境变量，这对于管理敏感数据如API密钥很有用
from dotenv import load_dotenv  

# 导入Langchain库中的ChatOpenAI类，用于创建和管理OpenAI聊天模型的实例。
from langchain.chat_models import ChatOpenAI

# 调用dotenv库的load_dotenv函数来加载.env文件中的环境变量。
# 这通常用于管理敏感数据，如API密钥。
load_dotenv()  

# 创建一个ChatOpenAI实例，配置它使用gpt-3.5-turbo模型，
# 设定温度参数为0.7（控制创造性的随机性）和最大令牌数为60（限制响应长度）。
chat = ChatOpenAI(
    model="gpt-3.5-turbo",
    temperature=0.7,
    max_tokens=60
)

# 导入langchain.schema模块中的HumanMessage和SystemMessage类。
# 这些类用于创建符合特定格式的消息，以便ChatOpenAI类能正确处理。
from langchain.schema import (
    HumanMessage,
    SystemMessage
)

# 创建一个包含两条消息的列表：一条系统消息和一条人类消息。
# 系统消息定义了AI的角色（创意AI），而人类消息包含了用户的请求（为公司起名）。
messages = [
    SystemMessage(content="You are a creative AI."),
    HumanMessage(content="请给我的硅谷AI科技公司起个有创新的名字，可以参考OpenAI，DeepMind，Google，Facebook等等")
]

# 使用chat实例处理这些消息，并将结果存储在response变量中。
response = chat(messages)

# 打印响应内容。
print(response)



zgpeaces-MBP at ~/Workspace/LLM/langchain-llm-app ±(feature/textAndChat) ✗ ❯ python chat_lang_chain.py
content='当然，我可以帮你起一个有创新的硅谷AI科技公司的名字。以下是几个建议：\n\n1. SynapseTech（突触科技）：突触是神经元之间'

代码

  • https://github.com/zgpeace/pets-name-langchain/tree/feature/textAndChat
AI架构师易筋
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
langchain Prompt大语言模型使用技巧详解
08-03
prompts是大语言模型的输入，他是基于大语言模型应用的利器。没有差的大语言模型，只有差的prompts。 写好prompts才能发挥大语言模型300%的功力。 理论上，要写好prompts其实不是那么容易的，但是langchain把这个理论变成了现实，一起来看看吧。 这篇文章主要为大家介绍了langchain Prompt大语言模型使用技巧详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪
开源代码基于langchain的大模型本地知识库系统Langchain-ChatChat
06-07
【开源代码】基于langchain的大模型本地知识库系统 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。 依托于本项目支持的开源 LLM 与 ...
LangChain大型语言模型(LLM)应用开发(四)：Q&A over Documents
weixin_42608414的博客
07-11 2651
今晚我们将学习如何利用Langchain和LLM对文档进行问答，其中会涉及到索引,词嵌入，向量数据库等知识。
chainlit系列03-- chainlit+langchain 实现基于文档的智能知识问答
leeahuamsg的专栏
09-18 1355
本文实现用langchain+LLM+chainlit实现文档的本地检索和LLM根据内容回答，实现了基于文档的智能文档系统
LangChain 6根据图片生成推广文案HuggingFace中的image-caption模型
AI架构师易筋
11-22 1481
根据图片生成推广文案， 用的HuggingFace中的image-caption模型生成效果先安装相关的lib根据以下图片生成的文案这段代码展示了如何使用深度学习模型来生成图像的字幕，并结合LangChain智能体框架进行自动化处理.（）：实现代码。
使用langchain与你自己的数据对话(一)：文档加载与切割
weixin_42608414的博客
07-20 1万+
今天我们学习了文本的加载与分割，Langchain提供了丰富的外部数据加载器，这些外部数据可以是结构化的，也可以是非结构化的，其中我们还介绍了从网页和youtube视频中加载文本的方法，这个挺有意思的，大家可以尝试一下，由于外部数据量可能比较大，如pdf, text文档等，因此当我们加载了外部数据以后，我们还需要对数据进行分割处理，我们介绍了几种文本分割的方法，其中有按字符分割的CharacterTextSplitter分割器，和递归分割的RecursiveCharacterTextSplitter分割器。
使用langchain打造自己的大型语言模型(LLMs)
热门推荐
weixin_42608414的博客
03-13 3万+
今天我们用LangChain对接了大型语言模型(LLMs), 并让LMMs可以针对性的学习用户给定的特定数据，这些数据可以是文本文件，数据库，知识库等结构化或者非结构化的数据。当用户询问的问题超出范围时，机器人不会给出任何答案，只会给出相关的提示信息显示用户的问题超出了范围，这样可以有效限制机器人自由发挥，使机器人不能让它随便乱说。
Langchain聊天等语言模型的本地知识库问答
06-24
Langchain聊天等语言模型的本地知识库问答 | Langchain Chatchat（前身为Langchain ChatGLM），基于本地知识的LLM（与ChatGLM类似）与Langchain的QA应用程序
LangChain开源大型语言模型（LLM）框架
11-09
如各种提示的模板（如聊天回复、ELI5等）、与不同LLM模型的连接（如GPT-3、BLOOM等）、代理（使用LLM来决定做什么--我们今天晚些时候将讨论gpt-engineer项目在这个类别中的情况）以及记忆（短期和长期）。...
大模型应用-基于Langchain实现的可以允许和多PDF进行聊天的应用-附项目源码+流程教程-优质项目实战.zip
最新发布
07-22
大模型应用_基于Langchain实现的可以允许和多PDF进行聊天的应用_附项目源码+流程教程_优质项目实战
[LangChain核心模块]模型的输入和输出-＞Language models
逐梦苍穹的博客
07-12 2302
语言模型 （ Language models ）LangChain提供了两种类型模型的接口和集成：LLMs和 Chat models
LangChain入门指南
lht0909的博客
04-27 3万+
LangChain是一个强大的框架，旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口，可简化创建由大型语言模型 (LLM) 和聊天模型提供支持的应用程序的过程。LangChain 可以轻松管理与语言模型的交互，将多个组件链接在一起，并集成额外的资源，例如 API 和数据库。官方文档：https://python.langchain.com/en/latest/
大模型应用开发框架 LangChain 学习笔记（二）
Mr_WYJ的博客
09-22 827
LLMChain。
LangChain 本地化方案 - 使用 ChatYuan-large-v2 作为 LLM 大语言模型
小毕超博客
07-15 4043
ChatYuan-large-v2 是一个开源的支持中英双语的功能型对话语言大模型，与其他 LLM 不同的是模型十分轻量化，并且在轻量化的同时效果相对还不错，仅仅通过0.7B参数量就可以实现`10B`模型的基础效果，正是其如此的轻量级，使其可以在普通显卡、 CPU、甚至手机上进行推理，而且 INT4 量化后的最低只需 400M 。
LangChain 5易速鲜花内部问答系统
AI架构师易筋
11-21 827
展示了一个完整的问答系统的实现，使用了Flask来构建Web界面、langchain进行文档处理和检索，以及OpenAI的语言模型。代码的复杂性在于集成了多种高级技术和处理大型数据集和语言模型。运行效果如下：代码以及注释如下（
大模型从入门到应用——LangChain：记忆（Memory）-[记忆的存储与应用]
冯·诺依曼
08-15 5722
Zep 是一个存储、摘要、嵌入、索引和丰富对话式人工智能聊天历史记录的工具，并通过简单、低延迟的API进行访问。[3] LangChain中文网 - LangChain 是一个用于开发由语言模型驱动的应用程序的框架：http://www.cnlangchain.com/[2] LangChain 🦜️🔗 中文网，跟着LangChain一起学LLM/GPT开发：https://www.langchain.com.cn/[1] LangChain官方网站：https://www.langchain.com/
Prompt Engineering
bbbeoy的专栏
07-19 1138
提示工程(Prompt engineering)是一门相对较新的学科，旨在为各种应用和研究主题开发和优化提示，以有效地利用语言模型（LMs:language models ）。提示工程技能有助于更好地了解大型语言模型（LLMs:large language models ）的能力和局限性。研究人员使用提示工程来提高 LLMs 在各种常见和复杂任务（如问答和算术推理）上的能力。开发人员使用提示工程来设计稳健且有效的提示技术，与 LLMs 和其他工具进行交互。自然语言处理的标准任务之一是文本摘要。
【HarmonyOS开发】弹窗交互（promptAction ）
包包熊的博客
07-16 902
实现效果点击按钮实现不同方式的弹窗showToast showDialog showActionMenu 代码
鸿蒙语言基础类库：【@system.prompt (弹窗)】
2301_76813281的博客
07-18 1466
showToast(options: ShowToastOptions): void
语言模型和langchain的原理
01-04
语言模型是一种能够理解和生成文本的模型。它接受文本字符串作为输入，并生成相应的文本字符串作为输出。语言模型可以用于各种任务，如文本生成、机器翻译、对话系统等。 LangChain是一个用于与不同类型的语言模型进行交互的组件。它将语言模型分为三类：LLMs（大型语言模型）、Chat Model（对话模型）和Text Embedding（文本嵌入模型）。LangChain提供了与这些模型进行业务交互的标准接口。 以OpenAI LLM包装器为例，可以通过以下代码使用它： ```python from LangChain.llms import OpenAI llm = OpenAI(model_name='text-davinci-003', n=2, best_of=2) output = llm("Please introduce yourself") num_tokens = llm.get_num_tokens(output) ``` 在这个例子中，我们创建了一个OpenAI LLM对象，并指定了模型的名称、n值和best_of值。然后，我们使用llm对象对输入文本进行处理，并获取生成的输出文本。还可以使用llm对象的其他方法，如get_num_tokens()来获取生成文本的令牌数量。 LangChain的设计目的是为不同的语言模型提供统一的接口，使得开发者可以方便地与不同的语言模型进行交互。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值