GPT实战系列-搭建LangChain流程简单应用

已于 2024-03-18 23:36:56 修改
阅读量1.2k 收藏 18
点赞数 29
分类专栏： GPT实战系列 文章标签： langchain LLM chatgpt gpt-3
于 2024-03-04 10:25:22 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Alex_StarSky/article/details/136445386
版权

GPT实战系列-搭建LangChain流程简单应用

LLM大模型：

GPT实战系列-探究GPT等大模型的文本生成

GPT实战系列-Baichuan2等大模型的计算精度与量化

GPT实战系列-GPT训练的Pretraining，SFT，Reward Modeling，RLHF

GPT实战系列-ChatGLM3本地部署CUDA11+1080Ti+显卡24G实战方案

GPT实战系列-Baichuan2本地化部署实战方案

GPT实战系列-大话LLM大模型训练

随着OpenAI的GPT-4这样的大型语言模型（LLMs）已经风靡全球，现在让它们自动执行各种任务，如回答问题、翻译语言、分析文本等。LLMs是在交互上真正体验到像“人工智能”。

如何管理这些LLM呢？

LangChain在这方面发挥重要作用。

LangChain使构建由LLMs驱动的应用程序变得简单，使用LangChain，可以在统一的界面中轻松与不同类型的LLMs进行交互，管理模型版本，管理对话版本，并将LLMs连接在一起。

from langchain.llms import OpenAI
llm = OpenAI(openai_api_key="...")

LangChain的关键组件

LangChain的优势是它灵活且模块化，可以将语言处理分解为单独的部分，让开发者创建自定义工作流程。以下是它的关键部分：

  • 组件和链：执行语言处理特定任务的模块。链将这些组件连接起来，形成自定义工作流程

  • 提示模板：可重复使用的提示，可以更改其中的特定值。例如，一个询问用户姓名的提示可以被个性化

  • 向量存储：通过文档的数字意义来保存和搜索信息

  • 索引和检索器：存储和查找有关模型训练数据的详细信息，以获得更好的响应

  • 输出解析器：管理和精炼模型的响应，使其更有结构

  • 示例选择器：从模型的训练数据中选择正确的例子，提高响应准确性

  • 代理：具有特定任务的唯一实例，如聊天机器人或移动应用程序

构建LangChain的应用程序

LangChain的LLM类可以连接到不同的模型提供商，如OpenAI和Hugging Face。可以轻松使用LangChain构建一个带有提示的应用程序，并得到输出。例如：


                

                
                
        

        

    




        

            

                    
                      最低0.47元/天 解锁文章
                        
                    
            

        

    

      

        

            

              
                
                  Alex_StarSky
                
              
            

            

                关注
              
            

        

        

          
    
            
  • 
              
                
                
                
                
                    29
                
              
              
    点赞
    
            
    • 
            
  • 
              
                
                
                
              
              
    踩
    
            
    • 
            
  • 
              
                
                
                
                
                    18
                
              
              
    
                
    
                  
                    收藏
                  
                
    
              
    
              
    
                
    
                  觉得还不错?
                  
                    一键收藏
                  
                 
                
    
              
    
            
    • 
                
  • 
                  
                    打赏
                    
                  
                  
    打赏
    
                
    • 
          
  • 
            
    
              
              
            
    
              
              
              
                    0
              
            
            
    评论
    
          
    • 
          
  • 
          
    • 
          
  • 
            
              
            
              
    
            
              
                
            
    
          
    • 
        

      

      

            

                专栏目录
          










                



	

		

			

				
					
GPT实战系列-LangChain如何构建基通义千问的多工具链

				
			

			

				

					Alex_StarSky的博客
				

				

					03-09
					
					1695
					
				

			

		

		

			
				
随着OpenAI的GPT-4这样的大型语言模型（LLMs）已经风靡全球，现在让它们自动执行各种任务，如回答问题、翻译语言、分析文本等。LLMs是在交互上真正体验到像“人工智能”。
LangChain在这方面发挥重要作用。LangChain使构建由LLMs驱动的应用程序变得简单，使用LangChain，可以在统一的界面中轻松与不同类型的LLMs进行交互，管理模型版本，管理对话版本，并将LLMs连接在一起。

			
		

	



                

              
                



	

		

			

				
					
GPT-4-32K：再一次刷新你的认知

				
			

			

				

					04-27
				

			

		

		

			
				
一个 token 可以等同于一个词，也可以等同于一组词，这取决于文本，但简单来说，我们可以认为这个“基本”版本的 GPT-4 支持大约 12 页的文本。 GPT-4 32K。但除了标准版或基础版外，OpenAI 还提供上下文长度为 32,...

			
		

	



                


  
              

                


	

		

			

				
					
Developing Apps with GPT-4 and ChatGPT-使用GPT-4和ChatGPT开发应用程序-by 

				
			

			

				

					06-08
				

			

		

		

			
				
2023年6月新书，适合中高级技术人员参考学习使用。主要内容：
Chapter 1. GPT-4 and ChatGPT Essent?als
Chapter 2. Taking a Deep Dive  into the GPT-4 and ChatGPT APIs
Chapter 3. Advanced Techniques to Unlock the Full Potential of GPT-4 and ChatGPT
……
…………

			
		

	





	

		

			

				
					
GPT-3-Encoder:适用于GPT-2 GPT-3的Javascript BPE编码解码器

				
			

			

				

					05-14
				

			

		

		

			
				
适用于GPT-2 / GPT-3的GPT-3-Encoder Javascript BPE编码解码器
关于
GPT-2和GPT-3使用字节对编码将文本转换为一系列整数以输入模型。 这是OpenAI原始python编码器/解码器的javascript实现，可在找到
用npm安装
npm install gpt-3-encoder 
用法
兼容Node> = 12
 const {encode, decode} = require('gpt-3-encoder')
const str = 'This is an example sentence to try encoding out on!'
const encoded = encode(str)
console.log('Encoded this string looks like: ', encoded)
console.log('We 

			
		

	



		

			
		



	

		

			

				
					
GPT实战系列-LangChain构建自定义Agent

				
			

			

				

					Alex_StarSky的博客
				

				

					03-13
					
					1628
					
				

			

		

		

			
				
LangChain使构建由LLMs驱动的应用程序变得简单，使用LangChain，可以在统一的界面中轻松与不同类型的LLMs进行交互，管理模型版本，管理对话版本，并将LLMs连接在一起。

			
		

	





	

		

			

				
					
GPT实战系列-使用LangChain内部工具

				
			

			

				

					Alex_StarSky的博客
				

				

					03-10
					
					1183
					
				

			

		

		

			
				
随着OpenAI的GPT-4这样的大型语言模型（LLMs）已经风靡全球，现在让它们自动执行各种任务，如回答问题、翻译语言、分析文本等。LLMs是在交互上真正体验到像“人工智能”。

如何管理这些模块呢？

LangChain在这方面发挥重要作用。LangChain使构建由LLMs驱动的应用程序变得简单，使用LangChain，可以在统一的界面中轻松与不同类型的LLMs进行交互，管理模型版本，管理对话版本，并将LLMs连接在一起。

			
		

	





	

		

			

				
					
Langchain访问OpenAI ChatGPT API Account deactivated的另类方法，访问跳板机API

				
			

			

				

					AI架构师易筋
				

				

					12-27
					
					1027
					
				

			

		

		

			
				
Langchain访问OpenAI ChatGPT API Account deactivated的另类方法，访问跳板机API

			
		

	





	

		

			

				
					
langchain_summarizer的使用以及报错解决：OSError: Can‘t load tokenizer for ‘gpt2‘.

				
			

			

				

					JessY_Zhao的博客
				

				

					01-22
					
					1944
					
				

			

		

		

			
				
LangChain summarizer是一个可以利用大语言模型生成文档摘要的工具。本人在实操过程中，主要参阅了以下资料：文章一：ChatGPT生成英文摘要LangChain Summarizer：一个让你轻松生成文档摘要的神奇工具文章二：ChatGLM生成中文摘要ChatGLM-6B + LangChain 实践文章三：官方文档关于ChatGLM类的使用。

			
		

	





	

		

			

				
					
gpt-2-cloud-run：通过GPT-2进行Cloud Run的文本生成API

				
			

			

				

					01-28
				

			

		

		

			
				
 该应用旨在用于轻松，经济高效地允许其他人在另一个数据集上使用经过微调的GPT-2模型，并允许以编程方式访问所生成的文本。  基本app.py运行app.py是实现异步/未来发展，如果您想修改GPT-2的输入/输出，强制使用...

			
		

	





	

		

			

				
					
GPT-4的实际应用案例

				
			

			

				

					04-25
				

			

		

		

			
				
Be My Eyes是一款为视力障碍人士提供帮助的应用。GPT-4通过将图片输入转换为文本输出，为视障用户提供关于他们周围环境的实时信息。这样，视障用户可以更好地了解周围环境，提高他们的生活质量和独立性。 3. 内容...

			
		

	





	

		

			

				
					
GPT实战系列-如何让LangChain的Agent选择工具

				
			

			

				

					Alex_StarSky的博客
				

				

					03-14
					
					1621
					
				

			

		

		

			
				
LangChain使构建由LLMs驱动的应用程序变得简单，使用LangChain，可以在统一的界面中轻松与不同类型的LLMs进行交互，管理模型版本，管理对话版本，并将LLMs连接在一起。

			
		

	





	

		

			

				
					
GPT实战系列-LangChain的Prompt提示模版构建

				
			

			

				

					Alex_StarSky的博客
				

				

					03-18
					
					1320
					
				

			

		

		

			
				
Prompt模版是用于生成语言模型提示的预定义模版。模板可能包括说明、小样本示例，和特定的上下文和问题（适合于特定的任务）。LangChain提供创建和使用提示模板的工具，其实也没有做太多的工作，就是字符串格式化操作差不多。模版与模型无关，使其适应在不同的语言模型中重复使用。

			
		

	





	

		

			

				
					
GPT实战系列-简单聊聊LangChain搭建本地知识库准备

				
			

			

				

					Alex_StarSky的博客
				

				

					01-14
					
					1732
					
				

			

		

		

			
				
利用一些文档中的信息来构建答案，回答特定文档中的问题。首先需要把文本转换为文本向量，即自然语言处理常常要用的Embedding技术，Text2Vector。

			
		

	





	

		

			

				
					
GPT实战系列-LangChain的Tools函数转换器

				
			

			

				

					Alex_StarSky的博客
				

				

					03-20
					
					1017
					
				

			

		

		

			
				
LangChain是一个Python框架，可以使用LLMs构建应用程序。它与各种模块连接，使与LLM和提示管理，一切变得简单。

			
		

	





	

		

			

				
					
GPT实战系列-LangChain的OutPutParser解析器

				
			

			

				

					Alex_StarSky的博客
				

				

					03-15
					
					1324
					
				

			

		

		

			
				
LangChain使构建由LLMs驱动的应用程序变得简单，使用LangChain，可以在统一的界面中轻松与不同类型的LLMs进行交互，管理模型版本，管理对话版本，并将LLMs连接在一起。
很多时候语言模型输出文本，满足不了你的需求，你可能想得到结构化信息，而不仅仅是一段信息。这就是输出解析器的意义。输出解析器是把语言模型的响应结构化

			
		

	





	

		

			

				
					
大模型从入门到应用——LangChain：记忆（Memory）-[记忆的存储与应用]

				
			

			

				

					冯·诺依曼
				

				

					08-15
					
					5394
					
				

			

		

		

			
				
Zep 是一个存储、摘要、嵌入、索引和丰富对话式人工智能聊天历史记录的工具，并通过简单、低延迟的API进行访问。[3] LangChain中文网 - LangChain 是一个用于开发由语言模型驱动的应用程序的框架：http://www.cnlangchain.com/[2] LangChain 🦜️🔗 中文网，跟着LangChain一起学LLM/GPT开发：https://www.langchain.com.cn/[1] LangChain官方网站：https://www.langchain.com/

			
		

	





	

		

			

				
					
【Text2SQL 论文】评估 ChatGPT 的 zero-shot Text2SQL 能力

				
			

			

				

					VLyb
				

				

					05-29
					
					885
					
				

			

		

		

			
				
与 ChatGPT 进行多轮交互，以解决生成不可执行的 SQL 语句的问题利用 DB 的报错来设计多轮对话，从而确保生成的 SQL 正确性引入 in-context learning。

			
		

	





	

		

			

				
					
AI图书推荐：ChatGPT与小说创作-利用AI盈利之路

					
最新发布

				
			

			

				

					AIGCTribe的博客
				

				

					06-05
					
					325
					
				

			

		

		

			
				
ChatGPT与小说创作：利用AI盈利之路》（ChatGPT For Fiction Writing_ How to Make Money from Fiction the AI Way ）是一本由Omar Johnson撰写的指南，旨在探讨如何利用人工智能，特别是ChatGPT，在小说创作中取得成功并实现盈利。介绍了ChatGPT作为OpenAI开发的突破性语言模型，如何为小说创作降低门槛，成为作者的创意伙伴，帮助构思、发展故事、角色乃至市场推广。

			
		

	





	

		

			

				
					
【本地运行chatgpt-web】启动前端项目和service服务端项目，也是使用nodejs进行开发的。两个都运行成功才可以使用！

				
			

			

				

					freewebsys的专栏
				

				

					05-29
					
					577
					
				

			

		

		

			
				
安装依赖，启动web。

			
		

	





	

		

			

				
					
chaglm2-6b langchain

				
			

			

				

					09-04
				

			

		

		

			
				
ChatGLM2-6B是一个基于GPT模型的对话生成模型，用于生成自然语言对话。＊＊＊UDM/ChatGLM2-6B)获取更多关于该模型的详细信息。此外，您也可以在[Hugging Face](https://huggingface.co/THUDM/chatglm2-6b)上找到该模型的地址。

如果您希望使用chaglm2-6b langchain，您可以按照以下步骤进行操作：

1. 创建虚拟环境：
   ```
   conda create -n langchain-chatglm python==3.10.9
   ```
2. 激活虚拟环境：
   ```
   conda activate langchain-chatglm
   ```
3. 部署ChatGLM：
   ```
   md c:\ChatGLM
   cd c:\ChatGLM
   git clone https://github.com/imClumsyPanda/langchain-ChatGLM
   cd langchain-ChatGLM
   pip3 install -r requirements.txt
   ```
   如果出现报错（通常是传输超时），您可以尝试重新运行几次。

4. 启动ChatGLM2：
   ```
   python.exe ./webui.py --model-name chatglm2-6b
   ```

请注意，以上步骤是为了使用chaglm2-6b langchain，确保您已经按照要求正确设置了虚拟环境并部署了ChatGLM2。希望这能帮助到您！<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
-  *1* [ChatGLM2-6B的P-Tuning微调](https://blog.csdn.net/weixin_43815222/article/details/131553200)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
-  *2* *3* [windows10下本地部署langChain-ChatGLM2-6B](https://blog.csdn.net/qq_43335960/article/details/131085293)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]

			
		

	



              



  
“相关推荐”对你有帮助么？

  

      
    
          
  • 
              
    
                  
                  
              
    
              
    非常没帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    没帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    一般
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    有帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    非常有帮助
    
          
    • 
      

      

      

          
          提交
      

      

  




          




        



    





    



      

      

        
      

      





	

		评论	
	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  





	
打赏作者

	

		

		
			
		
		

		

			
Alex_StarSky

			
你的鼓励是创作的动力

		

	

	

			

	

	

    ¥1
    ¥2
    ¥4
    ¥6
    ¥10
    ¥20
	

	

		

			

				

					扫码支付：¥1
				

				

					

					
					获取中
					

				

				

					
					
					扫码支付
				

			

		

		

			
您的余额不足，请更换扫码支付或充值

			
打赏作者

		

	



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值