务实测试：DeepSeek 各家 API 真实速度（附：测试脚本）

本文链接：https://blog.csdn.net/m0_59235245/article/details/145640637

我是先看到了一张极其意料之外的图

我相信

但凡做过一点开发的

都知道我在说什么

于是我就写了一个测试脚本

来真实测一下主流 API 供应商

DeepSeek 官方 + 阿里/火山/腾讯云 + 硅基流动

首先我要说

除了 DeepSeek 官方，其他家都很稳定

（这里没有吐槽官方的意思，毕竟情况特殊）

至少我没检测到超时或者断开

而对于速度

我在中国时间：2025-02-13 02:04:41

进行了测试，结果如下

这里是测试记录

https://colab.research.google.com/drive/1cUqspnOrft2Qp9Oq4sGfDzlsJN_WCogl

测试代码在后面

测试方法

代码我放在了最后，可以自己跑

这个测试方法一点都不复杂，包含以下步骤：

通过 API 向模型服务器发送请求，记录当前时间为 t0
当模型返回第一个字符时，记录为 t1，此刻开始推理
当模型推理结束、开始生成内容时，记录为 t2
当生成结束时，记录为 t3
当 stream_options={“include_usage”: True} 的时候，模型会记录并输出以下信息
推理阶段所使用的 token，记做：T推
生成阶段所使用的 token，记做：T生
因此，可知：
模型的首响应时间：t1 - t0
模型的推理速度：T推/(t2-t1)
模型的生成速度：T生/(t3-t2)
模型的平均速度：（T推+T生）/(t3-t0)

在这里，我用的 Prompt 也非常简单（对于推理模型来说，太长的 prompt 也没意义）

#测试 prompt：``给我写一首七言绝句，赞叹祖国的大好河山

以下是测试切片

按生成速度从高到底排序

测试于中国时间：2025-02-13 02:04:41

测试数据

测试样本，仅包括我常用的服务商，非常主观

DeepSeek 官方 + 阿里/火山/腾讯云 + 硅基流动

火山引擎:

首 token 响应时间：1.01 秒

Reasoning 部分：318 tokens，用时：8.96 秒，推理速度：35.50 tokens/s

Content 部分：118 tokens，用时：3.12 秒，生成速度：37.76 tokens/s

总体生成：436 tokens，总用时：13.21 秒，平均速度：33.01 tokens/s

硅基流动（Pro）:

首 token 响应时间：1.57 秒

Reasoning 部分：180 tokens，用时：7.57 秒，推理速度：23.78 tokens/s

Content 部分：82 tokens，用时：3.35 秒，生成速度：24.48 tokens/s

总体生成：262 tokens，总用时：12.55 秒，平均速度：20.88 tokens/s

DeepSeek 官方:

首 token 响应时间：7.12 秒

Reasoning 部分：496 tokens，用时：22.83 秒，推理速度：21.72 tokens/s

Content 部分：119 tokens，用时：5.39 秒，生成速度：22.06 tokens/s

总体生成：615 tokens，总用时：35.43 秒，平均速度：17.36 tokens/s

腾讯云/腾讯知识引擎:

首 token 响应时间：1.44 秒

Reasoning 部分：629 tokens，用时：47.82 秒，推理速度：13.15 tokens/s

Content 部分：158 tokens，用时：13.85 秒，生成速度：11.41 tokens/s

总体生成：787 tokens，总用时：63.47 秒，平均速度：12.40 tokens/s

阿里云/百炼:

首 token 响应时间：1.44 秒

Reasoning 部分：96 tokens，用时：16.21 秒，推理速度：5.92 tokens/s

Content 部分：34 tokens，用时：5.67 秒，生成速度：6.00 tokens/s

总体生成：130 tokens，总用时：23.51 秒，平均速度：5.53 tokens/s

代码

测试代码如下

记得先替换 API Key

然后 pip install openai

import time``from openai import OpenAI``import datetime``import pytz``   ``def count_tokens(text):`    `return len(text.split())``   ``def test_provider(provider_config, messages):`    `"""`    `根据传入的 provider 配置及消息，测试生成过程，并统计各阶段指标。`    `如果测试过程中出现任何错误，则打印错误信息并跳过当前服务商。`    `"""`    `provider_name = provider_config.get("name", "Unnamed Provider")`    `print(f"\n---------------------------")`    `print(f"开始测试服务商：{provider_name}")`    `print(f"---------------------------\n")``   `    `try:`        `api_key = provider_config.get("api_key")`        `base_url = provider_config.get("base_url")`        `model = provider_config.get("model")``   `        `# 初始化客户端（请确保你使用的 OpenAI 客户端支持这些参数）`        `client = OpenAI(api_key=api_key, base_url=base_url)``   `        `# 初始化 token 计数器与文本变量`        `reasoning_tokens = 0`        `content_tokens = 0`        `overall_tokens = 0``   `        `reasoning_text = ""`        `content_text = ""``   `        `# 初始化计时变量`        `start_time = time.time()`        `first_token_time = None``   `        `# 用于记录 reasoning 与 content 部分开始与结束的时刻`        `reasoning_start_time = None`        `reasoning_end_time = None`        `content_start_time = None`        `content_end_time = None``   `        `# 发起流式请求`        `response = client.chat.completions.create(`            `model=model,`            `messages=messages,`            `stream=True,`            `stream_options={"include_usage": True},`        `)``   `        `# 遍历每个流式响应块`        `for chunk in response:`            `# 若 chunk 中没有 choices 信息，则检查是否有 usage 信息打印后继续`            `if not chunk.choices:`                `if chunk.usage:`                    `print("\n\n【Usage 信息】")`                    `print(chunk.usage)`                `continue``   `            `# 获取第一个 choice 的 delta`            `delta = chunk.choices[0].delta`            `# 尝试获取 reasoning 与 content 片段（可能为空字符串）`            `reasoning_piece = getattr(delta, 'reasoning_content', "")`            `content_piece = getattr(delta, 'content', "")``   `            `# 记录首个 token 到达时间（仅记录一次）`            `if first_token_time is None and (reasoning_piece or content_piece):`                `first_token_time = time.time() - start_time``   `            `# 如果有 reasoning 内容`            `if reasoning_piece:`                `if reasoning_start_time is None:`                    `reasoning_start_time = time.time()`                `reasoning_text += reasoning_piece`                `tokens = count_tokens(reasoning_piece)`                `reasoning_tokens += tokens`                `overall_tokens += tokens`                `reasoning_end_time = time.time()  # 每次更新，最终记录最后一次收到的时刻`                `print(reasoning_piece, end='', flush=True)``   `            `# 如果有 content 内容`            `elif content_piece:`                `if content_start_time is None:`                    `content_start_time = time.time()`                `content_text += content_piece`                `tokens = count_tokens(content_piece)`                `content_tokens += tokens`                `overall_tokens += tokens`                `content_end_time = time.time()  # 每次更新`                `print(content_piece, end='', flush=True)``   `        `total_time = time.time() - start_time`        `reasoning_time = (reasoning_end_time - reasoning_start_time) if (reasoning_start_time and reasoning_end_time) else 0`        `content_time = (content_end_time - content_start_time) if (content_start_time and content_end_time) else 0``   `        `# 输出测试指标`        `print("\n\n【%s】" % provider_name)`        `if first_token_time is not None:`            `print(f"首 token 响应时间：{first_token_time:.2f} 秒")`        `else:`            `print("未收到 token 响应。")``   `        `print(f"Reasoning 部分：{reasoning_tokens} tokens, 用时：{reasoning_time:.2f} 秒, 生成速度：{reasoning_tokens / reasoning_time if reasoning_time > 0 else 0:.2f} tokens/s")`        `print(f"Content 部分：{content_tokens} tokens, 用时：{content_time:.2f} 秒, 生成速度：{content_tokens / content_time if content_time > 0 else 0:.2f} tokens/s")`        `print(f"总体生成：{overall_tokens} tokens, 总用时：{total_time:.2f} 秒, 生成速度：{overall_tokens / total_time if total_time > 0 else 0:.2f} tokens/s")`        `print("\n---------------------------\n")``   `        `return {`            `"provider": provider_name,`            `"first_token_time": first_token_time,`            `"reasoning_tokens": reasoning_tokens,`            `"reasoning_time": reasoning_time,`            `"content_tokens": content_tokens,`            `"content_time": content_time,`            `"overall_tokens": overall_tokens,`            `"total_time": total_time`        `}``   `    `except Exception as e:`        `# 如果出现任何错误，则打印错误信息并跳过该服务商`        `print(f"服务商 {provider_name} 测试过程中发生错误：{e}")`        `print("\n---------------------------\n")`        `return None``   ``   ``if __name__ == "__main__":`    `# 待测试的对话消息（此处为示例：写一首七言绝句赞美祖国大好河山）`    `messages = [`        `{`            `'role': 'user',`            `'content': "给我写一首七言绝句，赞叹祖国的大好河山"`        `}`    `]``   `    `# 定义各服务商的配置`    `providers = [`        `{`            `"name": "DeepSeek 官方",`            `"api_key": "你的 API Key",  # 请替换为真实 API Key：https://platform.deepseek.com/api_keys`            `"base_url": "https://api.deepseek.com",`            `"model": "deepseek-reasoner"`        `},`         `{`            `"name": "阿里云/百炼",`            `"api_key": "你的 API Key",  # 请替换为真实 API Key：https://bailian.console.aliyun.com/?apiKey=1#/api-key`            `"base_url": "https://dashscope.aliyuncs.com/compatible-mode/v1",`            `"model": "deepseek-r1"`        `},`        `{`            `"name": "硅基流动Pro",`            `"api_key": "你的 API Key",  # 请替换为真实 API Key：https://cloud.siliconflow.cn/account/ak`            `"base_url": "https://api.siliconflow.cn/v1",`            `"model": "Pro/deepseek-ai/DeepSeek-R1"`        `},`        `{`            `"name": "火山引擎",`            `"api_key": "你的 API Key",  # 请替换为真实 API Key：https://console.volcengine.com/ark/region:ark+cn-beijing/apiKey?apikey=%7B%7D`            `"base_url": "https://ark.cn-beijing.volces.com/api/v3",`            `"model": "你的接入点" # 火山引擎这里叫接入点，在这里创建：https://console.volcengine.com/ark/region:ark+cn-beijing/endpoint?config=%7B%7D`        `},`         `{`            `"name": "腾讯云",`            `"api_key": "你的 API Key",  # 请替换为真实 API Key：https://console.cloud.tencent.com/lkeap`            `"base_url": "https://api.lkeap.cloud.tencent.com/v1",`            `"model": "deepseek-r1"`        `},`    `]``   `    `# 循环对每个服务商进行测试`    `print(f"本次测试开始于中国时间：{datetime.datetime.now(pytz.timezone('Asia/Shanghai')).strftime('%Y-%m-%d %H:%M:%S')}")`    `for provider in providers:`        `test_provider(provider, messages)``

‍

PS：上面的代码拿去随便用

你也可以直接在 Colab 里面跑

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述