AI之豆包大模型从零开始的简单使用

zhengmingren

已于 2024-10-18 16:47:33 修改

阅读量3.7k

点赞数 31

分类专栏：人工智能文章标签：人工智能 python

于 2024-10-18 15:44:52 首次发布

本文链接：https://blog.csdn.net/zhengmingren/article/details/143054590

版权

人工智能专栏收录该内容

1 篇文章

订阅专栏

背景

这个网站 https://subrise.co 有几十万的数据需要通过 AI 来进行数据的分析和内容生成，本来选择的 gpt-4o-mini 这个模型，但是需要分析的数据量有点大，算下来费用有点高，所以就选择了国内的豆包 Doubao-lite-32k 大模型，费用降低了一半，效果也还可以，而且豆包兼容 OpenAI 的 SDK，代码上不需要有太多的改动。

注册火山引擎账号

用手机注册即可，非常简单方便。（https://console.volcengine.com/auth/signup）

大模型选择和开通

进入【火山方舟】服务的【模型广场】选择适合的大模型，最好是在【体验中心】根据您的实际业务需求进行测试对比。如果您的大模型调用费用比较大，那么一定要考虑下每个大模型的费用对比（文末有惊喜）。

选择了合适的大模型后就在【开通管理】页面直接开通服务，可以看到目前每个大模型都赠送了50万 tokens 的免费额度，还是很给力的。这里开通服务前您的账户需要开通下实名认证，需要提供身份证号和进行人脸检测，还是比较方便的。

创建API Key和推理接入点

创建API Key非常简单，只需要进入【API Key管理】页面点击创建就可以了。这里需要账号授权的操作，您只需根据提示一路确定下来就可以了。

接下来就是创建推理接入点了，这里我有踩过坑；因为 OpenAI 是没有这个概念的，拿着 API Key 就可以直接去调用 API 了，所以就没走这一步了，导致 API 老是调不通，后面看文档才发现还有这么个东西。

进入【在线推理】页面点击创建，然后填写相关信息即可；其中添加模型选择您已开通的大模型。

调用大模型API

到这一步我们就可以通过大模型的 SDK 来调用 API 了，官方提供多种主流语言的 SDK，主要包括 Python、Go 和 Java；更加好的是火山方舟大模型调用 v3 API 与 OpenAI API 协议兼容。

下面是通过 OpenAI SDK 调用豆包大模型 API 的代码示例：

from openai import OpenAI

client = OpenAI(
    base_url="https://<ARK_DOMAIN>/api/v3",
    api_key=os.environ.get("ARK_API_KEY")
)

print("----- standard request -----")
completion = client.chat.completions.create(
    model="<YOUR_ENDPOINT_ID>",
    messages = [
        {"role": "system", "content": "你是豆包，是由字节跳动开发的 AI 人工智能助手"},
        {"role": "user", "content": "常见的十字花科植物有哪些？"},
    ],
)
print(completion.choices[0].message.content)

其中有三个参数是我们需要注意的：

base_url：调用 API 的 url，会根据地域使用不同的 url，通常建议就近选择靠近您或者您的目标用户的地域，以减少网络时延，提高访问速度。但是目前就一个地域，没得选，所以您可以直接填 https://ark.cn-beijing.volces.com/api/v3。

api_key：这就是我们上一步创建的 API Key 了，一般通过配置或环境变量来设置和引用。我们这里就执行以下命令即可：export ARK_API_KEY=<YOUR_API_KEY>。

model：这个就是你需要调用的大语言模型，比如 OpenAI 的 gpt-4o-mini；但是豆包这边就是我们上一步创建的推理接入点了。