怎么使用langchain加载模型？langchain加载模型的几种方式

怎么使用langchain加载模型？langchain加载模型的几种方式

在前面关于怎么在大模型之上构建应用的文章中，简单介绍了langchain的功能以及几个核心模块，今天就其模型的功能模块介绍一下怎么加载模型。

langchain的官网架构图

目前来说langchain加载模型主要有三种形式：

加载第三方模型服务，比如openAI，阿里云通义千问，百度文心一言，chatGLM开源模型等。

包主要在langchain.llms中，代码如下所示：

第二种是从huggingface上加载开源模型，huggingface是一个类似于github的开源模型仓库，上面有大量的开源大模型，

这种方式是把大模型加载到本地，所以本地如果硬件配置不行一些模型可能会跑不起来。

开发者可以通过以下方式，对大模型进行封装API，然后对外提供服务。

第三种是本地自定义大模型，在大部分情况下，我们直接使用第三方的模型服务或开源模型已经能够满足我们大部分需求；但在某些情况下，这些服务无法满足我们的需求，我们需要自定义模型。

但自定义模型又不能被langchain直接调用，所以我们就需要按照langchain的格式封装我们自己的大模型。也可以类似于第一种情况，把大模型打包成服务，然后让langchain通过API调用。

from langchain.llms.base import LLM
# langchain中文文档 自定义模型
# https://python.langchain.com.cn/docs/modules/model_io/models/llms/how_to/custom_llm

from typing import Any, List, Mapping, Optional

from langchain.callbacks.manager import CallbackManagerForLLMRun
from langchain.llms.base import LLM

class CustomLLM(LLM):
    n: int    
    
    @property    
    def _llm_type(self) -> str:    
        return "custom"    
        
    def _call(
        self,        
        prompt: str,        
        stop: Optional[List[str]] 
= None,
        run_manager: Optional[CallbackManagerForLLMRun] = None,    
    ) -> str:    
        if stop is not None:         
            raise ValueError("stop kwargs are not permitted.")        
        return prompt[: self.n]    
        
        @property    
        def _identifying_params(self) -> Mapping[str, Any]:
            """Get the identifying parameters."""        
            return {"n": self.n}       

总结来说，调用大模型无非两种形式，一种是通过API的方式调用，即把大模型打包成一个服务，所有请求都可以通过其提供的接口使用。类似于第一种情况。

后两种是自己部署大模型，一个是从huggingface仓库中下载模型，一个是自己设计开发模型。

第一种是langchain调用第三方大模型接口，后两种是自己直接把大模型与langchain进行集成。前者更方便，后者掌控性更强。

开发者可以根据自己的业务需求，选择合适的集成方法。

​

如何学习AI大模型？

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。