随着OpenAI的API在某些地区被限制使用,国内AI开发者和企业开始积极寻找替代方案。国产大模型在此背景下迎来了重要发展机遇,多家科技公司纷纷推出自己的大模型,并提供API接口供开发者使用。使用OpenAI库连接国产大模型已经在多个领域得到了广泛应用,如智能客服、文本生成、图片生成等。随着国产大模型技术的不断发展和完善,以及OpenAI接口的广泛普及和应用,相信未来会有更多的创新应用涌现出来。 OpenAI库是一个允许开发者通过简单的HTTP请求与OpenAI的模型进行交互的Python库。在使用OpenAI库之前,需要先确保Python环境中已经安装了该库。可以通过以下命令进行安装:
pip install openai
在Python代码中,需要设置API密钥以便与OpenAI的API进行交互,如果接入国内大模型,还需要设置接口地址base_url。可以通过以下方式设置:
import openai
# 直接设置API密钥
openai.api_key = '你的API密钥'
# 或者通过创建OpenAI客户端对象时设置API密钥
client = openai.OpenAI(api_key='你的API密钥',base_url='https://dashscope.aliyuncs.com/compatible-mode/v1')
这里设置了使用通义千问大模型的接口地址。使用OpenAI库时,可以创建各种请求来获取不同的服务,如文本生成、对话系统、自然语言处理等。这里需要设置model参数。以下是一个创建聊天请求并获取响应的示例:
# 创建聊天请求
response = client.chat.completions.create(
model='qwen-max', # 指定使用的模型版本
messages=[{'role': 'user', 'content': '1+1'}] # 用户输入的信息
) # 获取响应并打印结果
for chunk in response:
print(chunk.choices[0].delta.content, end="", flush=True)
在这个示例中,我们使用了qwen-max模型来创建一个聊天请求,并发送了用户输入“1+1”。然后,我们遍历响应中的每个块,并打印出模型生成的输出。
总结一下,要通过OpenAI库使用国产大模型,无非就三个主要参数:base_url、api_key、model。
下文将介绍国内九个主要大模型(提供了API接口,包括百度文心大模型、智谱清言、科大讯飞星火大模型、百川大模型、豆包大模型、月之暗面大模型、通义千问大模型、腾讯混元大模型、商汤日日新大模型)提供OpenAI接口的支持情况,方便后续的需要的时候参考。
百度文心大模型
百度自主研发的产业级知识增强大模型,已广泛应用于各行各业,日均调用量超15亿,成为推动AI技术发展和产业智能化的重要力量。
接口地址
OpenAI接口地址:https://qianfan.baidubce.com/v2
文档(OpenAI接口兼容):https://cloud.baidu.com/doc/WENXINWORKSHOP/s/2m3fihw8s
获取Key
生成Key的链接:https://cloud.baidu.com/signature/index.html
api_key值示例如下:bce-v3/ALTAK-KZke********/f1d6ee*************
支持模型列表
参考链接:https://cloud.baidu.com/doc/WENXINWORKSHOP/s/Fm2vrveyu#支持模型列表
下表,最后一列为是否支持function call功能标记
模型版本介绍
智谱清言
千亿参数对话模型,基于GLM模型开发,支持多轮对话,具备内容创作、信息归纳总结等能力
接口地址
OpenAI接口地址:https://open.bigmodel.cn/api/paas/v4
文档(第三方框架OpenAI SDK):https://bigmodel.cn/dev/api/thirdparty-frame/openai-sdk
获取Key
API Keys管理地址:https://bigmodel.cn/usercenter/proj-mgmt/apikeys
语言模型
科大讯飞星火大模型
深入垂直场景与核心需求,为个体和企业提供开箱即用的大模型应用
接口地址
OpenAI接口地址:https://spark-api-open.xf-yun.com/v1
文档(使用OpenAI SDK):https://www.xfyun.cn/doc/spark/HTTP调用文档.html#_7-使用openai-sdk请求示例
获取Key
进入https://console.xfyun.cn/services/cbm页面,根据模型查看对应的APIPassword,并复制出来使用
支持模型列表
百川大模型
集百川之智,共赴山海
接口地址
OpenAI接口地址:https://api.baichuan-ai.com/v1
文档(OpenAI 官方 SDK 调用方式):https://platform.baichuan-ai.com/docs/api#python-client
获取Key
API Key管理地址:https://platform.baichuan-ai.com/console/apikey
支持模型列表
豆包大模型
豆包是一款由字节跳动研发的语言模型,通过便捷的自然语言交互,能够高效的完成互动对话、信息获取、协助创作等任务。
接口地址
OpenAI接口地址:https://ark.cn-beijing.volces.com/api/v3
文档(兼容OpenAI API):https://www.volcengine.com/docs/82379/1330626
获取Key
API Key管理地址:https://console.volcengine.com/ark/region:ark+cn-beijing/apiKey
获取模型
在线推理地址:https://console.volcengine.com/ark/region:ark+cn-beijing/endpoint
创建并查看接入点,参考下图,获取model参数
月之暗面大模型
寻求将能源转化为智能的最优解
接口地址
OpenAI接口地址:https://api.moonshot.cn/v1
文档(API兼容性):https://platform.moonshot.cn/docs/guide/migrating-from-openai-to-kimi#关于-api-兼容性
获取key
API Key管理地址:https://platform.moonshot.cn/console/api-keys
支持模型列表
参考地址:https://platform.moonshot.cn/docs/intro#其他值得注意的重要事项
通义千问
通情、达义,阿里云自主研发的通义大模型,凭借万亿级超大规模数据训练和领先的算法框架,实现全模态高效精准的模型服务调用。
接口列表
OpenAI接口地址:https://dashscope.aliyuncs.com/compatible-mode/v1
文档(OpenAI Python SDK):https://help.aliyun.com/zh/model-studio/getting-started/first-api-call-to-qwen
获取Key
API Key管理地址:https://bailian.console.aliyun.com/?apiKey=1#/api-key
获取模型
打开“模型广场”(https://bailian.console.aliyun.com/model-market#/model-market)页面
找到想使用的大模型,如下图,选择“通义千问-Max”,点击查看详情
在打开的详情页面中,复制“”即为model参数
腾讯混元大模型
由腾讯公司全链路自研,在高质量内容创作、数理逻辑、代码生成和多轮对话上性能表现卓越,处于业界领先水平。混元API支持AI搜索联网插件,通过整合腾讯优质的内容生态(如微信公众号、视频号等),提供强大的时新、深度内容获取和AI问答能力
接口列表
OpenAI接口地址:https://api.hunyuan.cloud.tencent.com/v1
文档(OpenAI兼容接口):https://cloud.tencent.com/document/product/1729/111007
获取Key
API Key管理地址:https://console.cloud.tencent.com/hunyuan/api-key
获取模型
参考“产品概述”页(https://cloud.tencent.com/document/product/1729/104753#5302f6cb-c29a-4e77-a579-2c2053122c1e)可获取对应的模型名称。
如图,其它模型类似。
商汤日日新大模型
汤之盘铭曰:“苟日新,日日新,又日新。”——《礼记·大学》
接口列表
OpenAI接口地址:https://api.sensenova.cn/compatible-mode/v1
文档(OpenAI 接口兼容模式):https://www.sensecore.cn/help/docs/model-as-a-service/nova/overview/compatible-mode
获取Key
API Key管理地址:https://console.sensecore.cn/aistudio/management/api-key
获取模型
在“服务管理”页,开通需要的模型,地址:https://console.sensecore.cn/aistudio/management/service-manage
大语言模型,请参考https://console.sensecore.cn/help/docs/model-as-a-service/nova/model/llm/GeneralLLM/
使用标题名称,作为model参数。
因官网信息会不定期更新,以上信息仅供参考。