一行代码搞定模型初始化：轻松集成多种语言模型

最新推荐文章于 2024-10-03 09:00:56 发布

qq_37836323

最新推荐文章于 2024-10-03 09:00:56 发布

阅读量399

点赞数 3

文章标签：语言模型 python 人工智能

本文链接：https://blog.csdn.net/qq_29929123/article/details/142536743

版权

引言

在现代应用程序中，灵活选择和初始化语言模型（LLM）是应用成功的关键。尤其是在用户能够指定所需的模型提供者和模型类型的情况下，开发者需要编写逻辑来根据配置初始化不同的ChatModel。不过，有了init_chat_model()方法，你可以轻松初始化各种模型集成，无需操心导入路径和类名。

主要内容

支持的模型

init_chat_model()功能让你轻松集成多种语言模型，例如OpenAI、Anthropic和Google Vertex AI。要使用这些模型，请确保已安装相关集成包。例如，初始化OpenAI模型需要安装langchain-openai。

%pip install -qU langchain>=0.2.8 langchain-openai langchain-anthropic langchain-google-vertexai

基本用法

在使用过程中，仅需简单的一行代码便可初始化所需模型：

from langchain.chat_models import init_chat_model

# 使用API代理服务提高访问稳定性
gpt_4o = init_chat_model("gpt-4o", model_provider="openai", temperature=0)
claude_opus = init_chat_model("claude-3-opus-20240229", model_provider="anthropic", temperature=0)
gemini_15 = init_chat_model("gemini-1.5-pro", model_provider="google_vertexai", temperature=0)

所有模型都实现了ChatModel接口，因此可以以相同的方式进行调用。

推断模型提供者

对于常用和明确的模型名称，init_chat_model()可以推断出模型提供者，例如，任何以gpt-3...或gpt-4...开头的模型都将被视为OpenAI。

gpt_4o = init_chat_model("gpt-4o", temperature=0)

创建可配置模型

你还可以通过指定configurable_fields来创建运行时可配置模型。

configurable_model = init_chat_model(temperature=0)

response = configurable_model.invoke(
    "what's your name", config={"configurable": {"model": "gpt-4o"}}
)

代码示例

以下是一个完整的代码示例，展示了如何初始化和使用多个模型：

from langchain.chat_models import init_chat_model

# 使用API代理服务提高访问稳定性
gpt_4o = init_chat_model("gpt-4o", temperature=0)
claude_opus = init_chat_model("claude-3-opus-20240229", temperature=0)
gemini_15 = init_chat_model("gemini-1.5-pro", temperature=0)

print("GPT-4o: " + gpt_4o.invoke("what's your name").content + "\n")
print("Claude Opus: " + claude_opus.invoke("what's your name").content + "\n")
print("Gemini 1.5: " + gemini_15.invoke("what's your name").content + "\n")