最强开源大模型？Qwen3 系列深度解析 + 本地部署指南！

最新推荐文章于 2025-05-04 09:38:44 发布

小敢摘葡萄

最新推荐文章于 2025-05-04 09:38:44 发布

阅读量2.6k

点赞数 17

文章标签：人工智能开源 github langchain docker

本文链接：https://blog.csdn.net/xiaoganbuaiuk/article/details/147628675

版权

Qwen3（通义千问3）是阿里云Qwen团队推出的新一代开源大语言模型系列，涵盖密集模型和混合专家（MoE）模型多个规模。本次发布共开源了 6 个密集模型和 2 个 MoE 模型，参数量从 6亿到 2350亿 不等。其中密集模型包括约0.6B、1.7B、4B、8B、14B和32B参数版本，MoE模型包括总参数约30B（激活参数3B）和235B（激活参数22B）的两种。所有模型均采用Apache 2.0开源许可，开发者可自由下载使用。

Qwen3 模型简介

亮点一混合推理模式

Qwen3 支持在一个模型中无缝切换“思考模式”和“非思考模式”。在处理复杂逻辑推理、数学计算或代码生成等任务时，模型会进入“思考模式”逐步推理；而针对一般对话需求则采用高效的“非思考模式”，快速给出回答。这种“混合”架构让模型在复杂任务上能够自行检查和推理（类似OpenAI的 o3模型思路），提升准确性，但在简单任务上仍保持高速响应。

Qwen3 是否开启推理模式需要用户主动控制，而非完全自主决定。它提供了两种机制供用户选择：

硬开关机制

用户可通过设置 enable_thinking=True- 或 False 显式启用或关闭推理模式；

在这里插入图片描述

*软开关机制*

在已启用推理模式的前提下，用户可通过特定指令（如 /think 和 /no）临时切换模式。

/think ：强制进入深度推理模式（适合复杂逻辑、多步骤计算等任务）
在这里插入图片描述

/no_think：快速切换至轻量模式（适用于简单问答、低延迟需求场景）

在这里插入图片描述

亮点二推理能力大幅度提升

相较前代模型，Qwen3 的推理能力大幅增强。在数学、代码和常识推理方面，Qwen3在“思考模式”下超越了此前内部基准模型，在“非思考模式”下也****胜过 Qwen2.5 系列的Instruct模型。同时，通过监督微调和人类反馈RLHF，Qwen3 拥有更优的人类偏好对齐，在创意写作、角色扮演、多轮对话和指令遵循等方面表现出色，能带来更加自然、生动的对话体验。
在这里插入图片描述

大部分 Qwen3 模型支持长上下文输入，最大上下文长度可达 128K tokens。这意味着模型可以高效处理超长文档和多轮对话，比常规的4K或8K上下文窗口长得多。较小模型（如0.6B、1.7B参数版）默认支持32K上下文，中大型模型（8B及以上）则扩展到128K，从而在长文本摘要、长对话等场景下表现更佳。

Qwen3 在大规模多语种语料上进行预训练，支持119种语言和方言，覆盖中英双语在内的广泛语言环境。据官方介绍，Qwen3 的预训练语料规模接近 36万亿 tokens，约为上一代 Qwen2.5 的两倍。数据来源包括互联网网页、PDF文档等，并借助 Qwen2.5-VL 等模型提取清洗文本，同时合成了额外的数学和代码数据作为补充。如此海量且多样的训练数据，使Qwen3在中英文等多语言理解、翻译和知识覆盖上都有强大表现。

值得一提的是，Qwen3 引入的架构和训练改进极大提升了“小模型”的效率：官方指出**区区4B参数*的 Qwen3 模型，其性能已可媲美上一代72B*参数的 Qwen2.5 模型。

这对本地部署非常有利，因为用户在资源有限的设备上也能获得过去需要超大模型才能实现的能力。

Qwen3 模型使用方法

一、在线使用

通义AI助手：

在这里插入图片描述

https://www.tongyi.com/qianwen/spm=5176.28326591.0.0.40f76ee1zBYunq

Chat Qwen:

在这里插入图片描述

https://chat.qwen.ai/

二、API调用

阿里云百炼平台

在这里插入图片描述

https://bailian.console.aliyun.com/console?tab=model#/model-market

在这里插入图片描述

在python中的调用方法：

import os
from openai import OpenAI


client = OpenAI(
# 若没有配置环境变量，请用百炼API Key将下行替换为：api_key="sk-xxx",
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)

completion = client.chat.completions.create(
# 模型列表：https://help.aliyun.com/zh/model-studio/getting-started/models
    model="qwen3-235b-a22b", # 改这里选模型型号
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "你是谁？"},
    ],
# Qwen3模型通过enable_thinking参数控制思考过程（开源版默认True，商业版默认False）
# 使用Qwen3开源版模型时，若未启用流式输出，请将下行取消注释，否则会报错
# extra_body={"enable_thinking": False},
)
print(completion.model_dump_json())

**三、本地部署（**以ollama为例）

打开：https://ollama.com/，点击Models;

在这里插入图片描述