探索LangChain的OpenAI适配器：轻松切换模型提供商

llzwxh888

于 2024-10-02 09:04:50 发布

阅读量82

点赞数 2

文章标签： langchain 人工智能 python

本文链接：https://blog.csdn.net/ppoojjj/article/details/142678226

版权

探索LangChain的OpenAI适配器：轻松切换模型提供商

引言

在AI技术日新月异的今天，许多开发者开始使用OpenAI的模型，但也希望探索其他模型选项。LangChain通过与多个模型提供商的集成，简化了这一过程。本篇文章将介绍如何利用LangChain的适配器将LangChain模型适配为OpenAI API。

主要内容

OpenAI与LangChain适配器

LangChain的适配器使得开发者可以在保持一致接口的基础上轻松切换使用不同的模型。这种适配主要关注输出结果，而不返回其他信息如token计数或停止原因。

基本用法

首先，确保OpenAI库的版本为1.0.0或更高版本，否则请参考旧文档进行升级。

原始OpenAI调用

import openai

messages = [{"role": "user", "content": "hi"}]
result = openai.chat.completions.create(
    messages=messages, model="gpt-3.5-turbo", temperature=0
)
print(result.choices[0].message.model_dump())

使用LangChain适配器

from langchain_community.adapters import openai as lc_openai

messages = [{"role": "user", "content": "hi"}]
lc_result = lc_openai.chat.completions.create(
    messages=messages, model="gpt-3.5-turbo", temperature=0
)
print(lc_result.choices[0].message)

切换模型提供商

lc_result = lc_openai.chat.completions.create(
    messages=messages, model="claude-2", temperature=0, provider="ChatAnthropic"
)
print(lc_result.choices[0].message)

流式输出

原始OpenAI的流式输出可以在LangChain中同样实现：

# OpenAI流式输出
for c in openai.chat.completions.create(
    messages=messages, model="gpt-3.5-turbo", temperature=0, stream=True
):
    print(c.choices[0].delta.model_dump())

# LangChain流式输出
for c in lc_openai.chat.completions.create(
    messages=messages, model="gpt-3.5-turbo", temperature=0, stream=True
):
    print(c.choices[0].delta)

代码示例

# 使用API代理服务提高访问稳定性
from langchain_community.adapters import openai as lc_openai

messages = [{"role": "user", "content": "hi"}]
lc_result = lc_openai.chat.completions.create(
    messages=messages, model="gpt-3.5-turbo", temperature=0
)
print(lc_result.choices[0].message)