09-Qwen3开源，性能全面碾压deepseek，本地部署实测来了

anda0109

已于 2025-04-30 09:07:37 修改

阅读量1.1k

点赞数 24

分类专栏： AI应用探索文章标签：人工智能 AI编程 ai AI leveldb

于 2025-04-30 09:04:36 首次发布

本文链接：https://blog.csdn.net/anda0109/article/details/147624417

版权

AI应用探索专栏收录该内容

11 篇文章

订阅专栏

今天，阿里发布了最新的qwen系列模型-Qwen3。

在这里插入图片描述

并且开源8款模型，包括两款MoE模型：

Qwen3-235B-A22B（2350多亿总参数、 220多亿激活参数）

Qwen3-30B-A3B（300亿总参数、30亿激活参数）

以及六个Dense模型：

Qwen3-32B、Qwen3-14B、Qwen3-8B、Qwen3-4B、Qwen3-1.7B和Qwen3-0.6B。

满血版的混合专家模型Qwen3-235B-A22B，性能已全面超越OpenAI-o1、deepseek-R1、Grok 3 Beta、OpenAI-o3-mini，但是与Gemini2.5-Pro还有差距。

Qwen3-235B-A22B不仅性能全面超越deepseek-R1，与deepseek-R1（总参数671B，激活参数37B）相比，其总参数量只有deepseek的1/3，激活参数也只有deepseek的1/2。也就意味着部署成本将下降2/3，而且能够获得更好的性能。

Qwen3当之无愧开源模型NO1!用网络上最近流行的话说，压力再一次给到梁文峰。

小型混合专家模型Qwen3-30B-A3B，性能也大幅超越DeepSeek-V3，而这个参数差距就更大了，参数量相差20倍以上。意味着部署成本直接降到deepseek的1/20。

除了性能领先，看下它还有哪些新特性：

同一模型无缝切换思维模式
相当于把deepseek-r1和deepseek-v3合二为一了，只需要在指令里加上/think或者/nothink开启和关闭思考模式。
显著增强了其推理能力
在数学、代码生成和常识逻辑推理方面超越了之前的 QwQ（在think模式下）和 Qwen2.5 指令模型（在nothink模式下）。
更加适应人类偏好
在创意写作、角色扮演、多轮对话和指令执行方面表现出色，提供了更加自然、吸引人和沉浸式的对话体验。
在Agent能力方面的支持
能够在think和nothink模式下与外部工具精确集成，尤其是对于MCP协议的集成支持能力。
支持100多种语言和方言
具有强大的多语言指令执行和翻译能力。

好，我们先来体验一下吧：https://chat.qwen.ai/

快捷切换思维模式

当我们需要关闭思考模式，只需要在我的问题后面加上/nothink

这个功能我觉得很友好，能让我在同一个对话框方便切换思考/非思考模式。而它的背后是两个模型的合二为一，是成本的大幅下降。

Agent支持能力

接下来我们使用ollama来本地部署，方便测试。在ollama上面已经可以部署全部8个模型。

我选择部署32b模型，我的本地已经安装过ollama，在命令窗口直接运行：

ollama run qwen3:32b

接下来，我们在Cherry Studio中配置使用。

配置好后，我们就可以在Cherry Studio中来测试它的MCP工具调用能力了。

我已经打开了高德地图MCP工具，正常应该会触发调用工具查询天气。这里看来工具调用没有生效，开始胡说八道。

那我们就换种方式，Qwen官方也有自己的Agent SDK，我们来测试一下。

# pip install -U "qwen-agent[rag,code_interpreter,gui,mcp]"
from qwen_agent.agents import Assistant
from qwen_agent.gui import WebUI
# Define LLM
llm_cfg = {
    'model': 'qwen3:32b',  # Model name, can be customized
    # Use a custom endpoint compatible with OpenAI API:
    'model_server': 'http://localhost:11434/v1',  # api_base
    'api_key': 'EMPTY',
}
# Define Tools
tools = [
    {'mcpServers': {  # You can specify the MCP configuration file
            "amap-map": {
                "url": "https://mcp.amap.com/sse?key=你在高德地图申请的api key",
                "transport": "sse",
            },
        }
    },
  'code_interpreter',  # Built-in tools
]
# Define Agent
bot = Assistant(llm=llm_cfg, function_list=tools)
# Run the agent with GUI
WebUI(bot).run()

运行上面python代码后，使用浏览器访问：http://127.0.0.1:7860/