AI大模型应用学习笔记-基于 LangChain 优化 OpenAI-Translator

LangChain是什么

        LangChain是一个用于开发LLMs（大语言模型）应用程序的框架，旨在简化开发者在这一领域的应用开发过程。它类似于Spring或Spring Boot这样的框架，为各种LLMs开发提供了一个脚手架，将LLMs的各个组件进行封装和链接。通过将LLMs相关的组件连接在一起，LangChain框架减少了开发LLMs应用程序的难度，使开发者能够更快速地构建复杂的LLMs应用。
        类比Java工程师熟悉的Spring框架，LangChain框架提供类似的功能。它可以被理解为为LLMs开发提供了类似于Spring或Spring Boot的框架，帮助开发人员更快速地进行LLMs应用开发。
        总结来说，LangChain框架是一个用于LLMs应用开发的工具，旨在简化开发过程，提供组件封装和链接，并帮助开发者快速构建复杂的LLMs应用程序

LangChain 框架组件

        LangChain 主要支持 6 种组件：

        Models（模型）：LangChain的Models组件是核心部分，它提供了对各种类型模型的支持，如大语言模型（LLMs）、聊天模型和文本嵌入模型。这些模型用于生成文本、进行对话和处理语义表示。
        Prompts（提示）：Prompts是传递给模型的输入信息，可以是文本字符、文件、图片等形式。LangChain提供了多个类和方法来构建提示，以便根据模板和用户输入生成适合特定场景的提示。
        Memory（记忆）：Memory组件用于在对话过程中存储数据，为模型提供上下文信息。通过使用Memory，可以保存和管理对话历史，以便模型能够考虑上下文并生成更准确的响应。
        Indexes（索引）：Indexes组件用于存储和检索非结构化数据，通常与LLMs交互时使用。LangChain提供了向量数据库（VectorStores）和相关方法来处理索引和查询非结构化数据。
        Chains（链）：Chains组件允许链接多个模型，以构建复杂的应用程序。它提供了标准接口和常见的Chain实现，使用户能够有序地连接和组织多个模型来完成特定任务。
        Agents（代理）：Agents组件提供了工具、代理、工具集和代理执行器。它们用于根据用户输入决定调用哪些模型或资源，并围绕模型提供封装和决策的功能，以实现灵活的应用程序设计。

基于 LangChain 优化 OpenAI-Translator架构设计

        使用langChain实现OpenAI-Translator主要使用到LangChain Chat Model和Chat Prompt Template两个组件，下边先简单介绍一下Chat Model 和Chat Prompt Template

Chat Model使用方法和流程

Chat Prompt Template 设计翻译提示模板

使用 Chat Model 实现双语翻译

使用chat_prompt_template.to_messages 方法生成Messages

chat prompt = chat prompt template.format prompt(text="love programing.").to messages ()

使用Chat Model (GPT-3.5-turbo) 实际执行翻译任务

from langchain.chat models import ChatOpenAI
#为了翻译结果的稳定性，将 temperature 设置为 0
translation model = ChatOpenAI(model name="gpt-3.5-turbo",temperature=0)
translation result = translation model(chat prompt)

#查看翻译结果
print(translation result.content)

使用 LLMChain 简化构造 ChatPrompt