最全解析！通义千问Qwen3系列模型你想知道的都在这里

最新推荐文章于 2025-05-01 21:42:17 发布
最新推荐文章于 2025-05-01 21:42:17 发布
阅读量606 收藏 18
点赞数 24
文章标签： 架构 大数据 langchain elasticsearch 大模型 Qwen3 数据库
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2301_76168381/article/details/147628296
版权

近期，阿里巴巴通义千问Qwen3系列大型语言模型正式发布并开源。此次发布包含了2款采用混合推理（Mixture-of-Experts, MoE）架构和6款稠密（Dense）架构的模型，这些模型在代码、数学、通用能力等基准测试中表现出色，与顶级模型相比展现出极具竞争力的结果。

1、Qwen3模型概览

Qwen3系列涵盖了从十亿级到千亿级参数规模的模型，满足不同应用场景的需求。主要分为MoE架构和Dense架构两种类型。
请添加图片描述

MoE (Mixture-of-Experts) 模型

MoE模型通过在推理时仅激活部分专家（参数子集）来提高效率，能在较低的计算成本下实现高性能。

模型名称总参数量激活参数量上下文长度特点
Qwen3-235B-A22B~2350亿~220亿128K旗舰模型，与顶级模型相比表现极具竞争力
Qwen3-30B-A3B~300亿~30亿128K小型MoE模型，激活参数量是Qwen-32B的10%，但表现更胜一筹

Dense (密集) 模型

Dense模型在推理时会使用所有参数。Qwen3的Dense模型在性能上实现了显著提升，小参数模型也能达到前代大参数模型的水平。

模型名称总参数量上下文长度特点
Qwen3-32B~320亿32K性能与Qwen2.5-72B基础模型相当
Qwen3-14B~140亿32K性能与Qwen2.5-32B基础模型相当
Qwen3-8B~80亿32K性能与Qwen2.5-14B基础模型相当
Qwen3-4B~40亿32K性能匹敌Qwen2.5-72B-Instruct，体现了"以小博大"特点
Qwen3-1.7B~17亿32K性能与Qwen2.5-3B基础模型相当
Qwen3-0.6B~6亿32K系列中最小的模型，适用轻量级应用和嵌入式场景

注：Dense模型的上下文长度是基于预训练最后阶段扩展到32K推断，具体请参考官方文档。

2、核心亮点与特性

混合思维模式 (Hybrid Thinking Modes):

  • 思考模式 (Thinking Mode): 模型逐步推理，深思熟虑后给出答案，适合复杂问题。可通过enable_thinking=True(默认)或在提示中加入/think启用。
  • 非思考模式 (Non-thinking Mode): 快速响应，适用于速度优先的简单问题。可通过enable_thinking=False或在提示中加入/no_think启用。
  • 这种设计允许用户根据任务需求灵活控制模型的"思考预算"，平衡成本与质量。

广泛的多语言支持: 支持119种语言和方言，覆盖范围广泛，便于全球化应用。

增强的Agent与代码能力: 优化了模型的Agent(工具调用、规划)和代码生成能力，并加强了对MCP(多轮协作规划)的支持。推荐使用Qwen-Agent框架发挥其Agent能力。

卓越的性能:

  • 以小博大: 如Qwen3-4B性能可匹敌前代Qwen2.5-72B-Instruct。

  • Qwen3 Dense基础模型性能普遍达到或超过更大参数规模的Qwen2.5基础模型。

  • MoE模型在激活少量参数的情况下，性能媲美同级别Dense模型，显著节省训练和推理成本。

  • 先进的训练流程: 经过约36万亿token(几乎是Qwen2.5的两倍)的三阶段预训练，以及包含长思维链微调、强化学习、思维模式融合的四阶段后训练，保证了模型的强大能力和灵活性。

3、获取与使用

Qwen3系列模型已全面开源，可供全球开发者、研究机构和企业免费下载和商用。

下载平台:

  • 魔搭社区(ModelScope): https://modelscope.cn/collections/Qwen3-9743180bdc6b48

  • Hugging Face: https://huggingface.co/collections/Qwen/qwen3-67dd247413f0e2e4f653967f

  • GitHub(代码库): https://github.com/QwenLM/Qwen3

  • Kaggle

  • API服务: 可通过阿里云百炼(Bailian)调用Qwen3 API。

终端用户体验:

  • 通义APP已集成Qwen3
  • 夸克APP即将全线接入Qwen3

部署与本地使用框架:

  • 推荐部署框架: SGLang, vLLM(支持与OpenAI API兼容的endpoint)
  • 推荐本地使用工具: Ollama, LMStudio, MLX, llama.cpp, KTransformers

使用示例(Hugging Face Transformers):

以下是如何在Hugging Face transformers中使用Qwen3并控制思考模式的示例:

from modelscope import AutoModelForCausalLM, AutoTokenizer # 或者 from transformers import ...

model_name = "Qwen/Qwen3-30B-A3B"# 示例模型
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype="auto", device_map="auto")

prompt = "给我简单介绍一下大语言模型。"
messages = [{"role": "user", "content": prompt}]

# 启用思考模式(默认)
text_thinking = tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True, enable_thinking=True
)
# 禁用思考模式
text_no_thinking = tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True, enable_thinking=False
)

# 选择一种模式进行推理
# model_inputs = tokenizer([text_thinking], return_tensors="pt").to(model.device)
model_inputs = tokenizer([text_no_thinking], return_tensors="pt").to(model.device) # 使用非思考模式示例

generated_ids = model.generate(**model_inputs, max_new_tokens=512) # 调整max_new_tokens
output = tokenizer.decode(generated_ids[0][len(model_inputs.input_ids[0]):], skip_special_tokens=True)
print("Output:", output)

那么，如何系统的去学习大模型LLM？

作为一名从业五年的资深大模型算法工程师，我经常会收到一些评论和私信，我是小白，学习大模型该从哪里入手呢？我自学没有方向怎么办？这个地方我不会啊。如果你也有类似的经历，一定要继续看下去！这些问题啊，也不是三言两语啊就能讲明白的。

所以我综合了大模型的所有知识点，给大家带来一套全网最全最细的大模型零基础教程。在做这套教程之前呢，我就曾放空大脑，以一个大模型小白的角度去重新解析它，采用基础知识和实战项目相结合的教学方式，历时3个月，终于完成了这样的课程，让你真正体会到什么是每一秒都在疯狂输出知识点。

由于篇幅有限，⚡️ 朋友们如果有需要全套 《2025全新制作的大模型全套资料》，扫码获取~
在这里插入图片描述

👉大模型学习指南+路线汇总👈

我们这套大模型资料呢，会从基础篇、进阶篇和项目实战篇等三大方面来讲解。
在这里插入图片描述
在这里插入图片描述

👉①.基础篇👈

基础篇里面包括了Python快速入门、AI开发环境搭建及提示词工程，带你学习大模型核心原理、prompt使用技巧、Transformer架构和预训练、SFT、RLHF等一些基础概念，用最易懂的方式带你入门大模型。
在这里插入图片描述

👉②.进阶篇👈

接下来是进阶篇，你将掌握RAG、Agent、Langchain、大模型微调和私有化部署，学习如何构建外挂知识库并和自己的企业相结合，学习如何使用langchain框架提高开发效率和代码质量、学习如何选择合适的基座模型并进行数据集的收集预处理以及具体的模型微调等等。
在这里插入图片描述

👉③.实战篇👈

实战篇会手把手带着大家练习企业级的落地项目（已脱敏），比如RAG医疗问答系统、Agent智能电商客服系统、数字人项目实战、教育行业智能助教等等，从而帮助大家更好的应对大模型时代的挑战。
在这里插入图片描述

👉④.福利篇👈

最后呢，会给大家一个小福利，课程视频中的所有素材，有搭建AI开发环境资料包，还有学习计划表，几十上百G素材、电子书和课件等等，只要你能想到的素材，我这里几乎都有。我已经全部上传到CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
在这里插入图片描述
相信我，这套大模型系统教程将会是全网最齐全 最易懂的小白专用课！！

大模型_
关注
通义千问Qwen2.5-Omni：全模态实时交互的下一代多模态大模型
03-30 160
通过动态调整时间戳，模型能够精准捕捉视频中动作与语音的对应关系，例如在分析舞蹈视频时，准确描述动作节奏与背景音乐的匹配度13。这一模型不仅支持文本、图像、音频和视频的全模态输入与输出，更通过创新的架构设计实现了“看、听、说、写”的无缝融合，标志着多模态大模型技术迈入实时交互的新纪元110。例如，用户可通过视频聊天实时提问，模型在接收语音和画面输入的同时，同步生成语音回复，延迟低至毫秒级10。[1] 阿里深夜开源Qwen2.5-Omni，7B参数完成看、听、说、写. 网易订阅, 2025.
通义千问qwen3发布
不务正业的猿
04-29 351
未来，阿里计划从多个维度提升模型能力，包括优化模型架构、扩展数据规模、增加模型大小、延长上下文长度、拓宽模态范围，并利用环境反馈推进强化学习，以实现更强大的推理和交互能力。Qwen3 的预训练数据量达到约36万亿个token，几乎是前代Qwen2.5的两倍，涵盖119种语言和方言，显著提升了模型的多语言处理能力。Qwen3 是国内首个支持“双模式推理”的开源大模型，融合了“快思考”（快速响应）与“慢思考”（深度推理）两种模式。提供了 Qwen3 模型的 API 调用方式和部署指南，适合企业级应用集成。
阿里通义千问 Qwen3 系列模型正式发布，该模型有哪些技术亮点？
EnjoyEDU的博客
04-29 892
好了，关于 Qwen3 的深度解读和实战指南，今天就先带大家“飚车”到这里。
国产第一开源大模型再创新高!通义千问Qwen2.5全面解析
weixin_72959097的博客
10-26 3689
9月19日，阿里云在云栖大会上发布了通义千问新一代开源模型Qwen2.5。旗舰模型Qwen2.5-72B的性能超越了Llama 3-405B，再次登上全球开源大模型的王座。Qwen系列刷新了多项世界纪录，堪称中国AI技术的崛起之作。Qwen2.5在多个国际权威榜单上表现出色，证明了它作为国产第一开源大模型的技术领先性。真的是9月29日基准测试平台Chatbot Arena日前公布最新大模型盲测榜单，这是海外最具公信力的大模型榜单之一。Qwen2.5再次闯入全球十强，其大语言模型闯入了。
【开源发布】通义千问 Qwen3 全系开源！8款混合推理模型全面解析
在信息的熵增中，记录结构、重建秩序。 技术思想者的笔记，系统构建者的注释。
04-29 1603
通义千问Qwen3全系正式开源，覆盖8款混合推理模型，首次引入思考与快速响应双模式，支持119种语言与方言，Agent与工具调用能力大幅增强。旗舰模型Qwen3-235B-A22B在代码、推理、数学等基准测试中表现领先，Qwen3-30B-A3B实现高效推理成本控制。预训练规模达36万亿token，结合强化学习与长思考链训练，推理链条完整度显著提升。支持Hugging Face、ModelScope、SGLang、vLLM等多框架部署，兼容本地轻量推理。Qwen3标志着国内大模型走向智能体系统时代，为开发者
阿里通义千问：本地部署Qwen1.5开源大模型
m0_37559973的博客
06-06 7332
通义千问为阿里云研发的大语言系列模型。千问模型基于Transformer架构，在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代码等。同时，在预训练模型的基础之上，使用对齐机制打造了模型的chat版本。
通义千问Qwen 2大模型的预训练和后训练范式解析
qianggezhishen的专栏
09-05 2819
先是常规的预训练，然后是长上下文训练。长上下文训练是在预训练快结束的时候进行的，用的是高质量的、长的数据。记得最开始的时候，我们只有GPT这样的模型，但现在，我们有了一些更复杂的、开放权重的模型。在训练模型的时候，他们认为，数据不仅要多，更要精，只有高质量的数据才能帮助模型更好地学习。在构建数据集时，他们用了现有的语料库，并且加上了人工标注，来确定SFT的目标回答，以及识别DPO需要的偏好和拒绝回答。所以，Qwen 2的训练团队在这方面做得挺到位的，他们知道怎么用有限的资源来达到最好的效果。
通义千问Qwen3，开源！
2301_81940605的博客
04-29 638
我们相信，Qwen3 的发布和开源将极大地推动大型基础模型的研究与开发。我们的目标是为全球的研究人员、开发者和组织赋能，帮助他们利用这些前沿模型构建创新解决方案。
小白也能懂！通义千问v2.5大模型微调全攻略
python123456_的博客
02-25 765
简单来说，
看通义千问Qwen1.5 72b的胡说八道
Liigo's blog
06-26 894
无
通义千问 Qwen2-VL-2B：技术架构、核心原理、微调操作与场景应用详解
zhangjiaofa的专栏
01-03 1001
Qwen2-VL-2B 作为一款轻量级多模态大模型，凭借其创新的技术架构和强大的多模态处理能力，在文档理解、视频问答、视觉智能体等场景中展现了卓越的性能。通过本文提供的微调操作指南，开发者可以快速上手并应用于实际场景中。尽管在位置感知、长视频处理等方面仍存在挑战，但其开源特性为社区提供了丰富的探索空间。未来，随着技术的不断优化和应用场景的拓展，Qwen2-VL-2B 有望在多模态领域发挥更大的价值。参考文献[1] 千问团队tech lead解读Qwen2-VL。
Windows上的本地化部署通义千问qwen，含API调用流式和非流式调用demo
涛涛讲AI
02-02 1569
Ollama是一个强大的工具，可以帮助你在本地轻松部署和管理大语言模型，如qwen。以下是在Windows系统上使用Ollama安装和部署qwen的详细步骤。
「Mac畅玩AIGC与多模态01」架构篇01 - 展示层到硬件层的架构总览
天月智联
04-27 855
AIGC（AI Generated Content）系统由多个结构层级组成，自上而下涵盖交互界面、API 通信、模型推理、计算框架、底层驱动与硬件支持。本篇梳理 AIGC 应用的六层体系结构，明确各组件在系统中的职责与上下游关系，为后续部署与开发提供整体视角。本篇从系统架构视角，概括了 AIGC 应用的六大核心层级，涵盖从交互到硬件的全流程组件。这一分层结构为后续的实际部署、模型接入、插件调用与性能优化等任务提供了统一参考框架。
02 业务流程架构
SAP攻城狮
04-27 471
通过建立业务流程架构，企业可以获得必要的宏观视角，确保所有的改进和调整都是朝着正确的方向进行的，有助于支持企业的长期成功和发展。通过展示一个高层次的视图，业务流程架构不仅能够帮助识别流程中的效率瓶颈和改进点，还能确保所有的流程调整和优化都能与企业的整体目标保持一致。此外，这种方法为企业内的所有利益相关者提供了一个清晰的理解框架，便于沟通和协作，促进资源的有效配置，并支持更好的决策制定。相反，采用现有的业务流程框架来构建组织的业务流程架构不仅可以节省时间，还能带来采用更佳实践以及更快识别关注领域的潜力。
什么是：云边端一体化架构
2401_83649605的博客
05-01 504
本文详细讲解什么是云边端一体化协同架构，从介绍什么是云计算、边缘计算、终端设备，再到三端如何协同工作、一体化架构的实际应用、云边端一体化架构的未来发展等做了全方面的讲解，适用于刚接触云计算或了解云边端一体化架构的初学者，作为只是储备。
构建现代分布式云架构的三大支柱：服务化、Service Mesh 与 Serverless
cooldream2009的博客
05-01 1023
分布式云作为多云与边缘计算演进的产物，正成为现代企业架构的关键支撑力量。分布式云通过将云计算资源下沉至不同地理位置，实现“就近部署”和“统一运营”的目标，不仅降低了延迟，还提升了整体的业务连续性与敏捷性。 在这个体系中，三大技术架构模式发挥着关键作用：**服务化架构、Service Mesh 架构、以及 Serverless 模式**。它们共同构成了现代分布式云的核心支柱。本文将深入分析这三种架构模式的技术原理、优势及其在分布式云场景下的适用性。
Transformer：颠覆深度学习的架构革命与技术演进
源滚滚编程
04-30 745
2017年，谷歌团队在论文《Attention Is All You Need》中提出的Transformer架构，彻底改变了人工智能对序列数据的处理范式。通过这种机制，模型能够自动识别并强化相关位置的语义关联，例如在句子“The cat sat on the mat”中，“cat”与“sat”的关联权重显著高于其他无关词汇。其核心思想是：每个位置的输入向量通过**查询（Query）、键（Key）、值（Value）**三个矩阵变换，动态计算与其他位置的关联权重。，实现了全局上下文感知与并行计算的完美平衡。
RISCV学习（5）GD32VF103 MCU架构了解
张一西的博客
04-28 911
GD32VF103 MCU架构，采样Bumblebee内核，芯来科技（Nuclei System Technology）与台湾晶心科技（Andes Technology）联合开发，
存算一体架构下的新型AI加速范式：从Samsung HBM-PIM看近内存计算趋势
最新发布
高效做AI，就上Aladdin! 同学们用得起的H卡算力平台。
05-01 807
存算一体不是简单的技术改良，而是对计算本质的重新思考。当HBM-PIM将能效边界推向10 TFLOPS/W，我们正站在架构革命的临界点。这场变革的终极目标，是让计算回归数据本源——‌在比特诞生的地方处理比特‌。本文实验数据基于Samsung Aquabolt-XL HBM-PIM实测，更多技术细节请参考ISSCC 2023论文《A 1ynm 16Gb 4.8TFLOPS/W HBM-PIM with Bank-Level Programmable AI Engines》。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值