Qwen3：快慢思考融合，一键启停

本文链接：https://blog.csdn.net/jennycisp/article/details/148074665

一、实现原理

其实混合推理模型已经有不少了，例如 Claude 3.7 Sonnet 和 Gemini 2.5 Flash，但 Qwen3 应该是开源且效果好的典例。未来这可能也是一个趋势，不需要特意区分普通模型和思考模型，而是同一个模型按需使用。

那么 Qwen3 是如何实现混合推理（Hybrid Reasoning，或者说“快/慢思考”，我们这里统一称为混合推理）的呢？

在 Qwen3 的官方博客[1]中有提到，这次 Qwen3 提供了一个参数 enable_thinking，当将其设置为 True 的时候，模型就会像一般的思考模型那样开启深度思考；而将其设置为 False 的时候，模型就会像一般的模型那样快速回复。

这个 enable_thinking 的参数是在哪里作用的呢？根据官方代码示例，我们可以看到它是在 tokenizer.apply_chat_template() 这个方法中传递的。

text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=False  # True is the default value for enable_thinking.
)

apply_chat_template() 这个方法，熟悉 Hugging Face 的 transformers 的朋友应该了解，这是一个构建对话模板的方法，不涉及任何模型侵入。

我们这里简单回顾一下，什么是对话模板？对话模板其实是一种便于模型区分对话角色的工具，它并不复杂，其实就是利用特殊 token 构建一个让模型“看得懂”的对话方式，而这个方式往往是模型在 post-training 中针对性训练的。这样模型就能像我们平时使用的那样，完成问答等任务了。

以 Qwen 为例，其使用的对话模板是 ChatML，那么我们在构建对话消息的时候，就会发生如下转换：

# 传入的 messages
messages = [
    {"role": "system", "content": "你是一名乐于助人的助手。"},
    {"role": "user", "content": "给我讲讲大语言模型。"},
    {"role": "assistant": "好的，大语言模型是……"}
]

# 利用对话模板转换后的消息
"""
<|im_start|>system
你是一名乐于助人的助手。<|im_end|>
<|im_start|>user
给我讲讲大语言模型。<|im_end|>
<|im_start|>assistant
好的，大语言模型是……<|im_end|>
"""

而如果是带思考的回复，回复内容中会多一段 … 的内容，也就是下面这样（为了便于阅读，加了一些换行）：

"""
<|im_start|>system
你是一名乐于助人的助手。<|im_end|>
<|im_start|>user
给我讲讲大语言模型。<|im_end|>
<|im_start|>assistant
<think>
好的，用户让我讲讲大语言模型……
</think>         # 标志着结束思考，下面是普通回复
好的，大语言模型是……<|im_end|>
"""

上面是完整的一问一答，但实际使用时只有 user 的内容，那么模型是如何根据对话模板生成回复的呢？

其实很简单，对话模板会在 <|im_start|>assistant 这一行截断，也就是模型会看到 <|im_start|>assistant 这一段内容，然后知道自己接下来就要按照先前的用户输入来回复了。

"""
<|im_start|>system
你是一名乐于助人的助手。<|im_end|>
<|im_start|>user
给我讲讲大语言模型。<|im_end|>
<|im_start|>assistant    # 需要生成回复的时候，会在这里截断

讲完对话模板，我们言归正传，看看 Qwen3 是如何通过对话模板来控制混合推理的。通过阅读 Qwen3 的 tokenizer_config[2]，我们可以看到里面有一个 chat_template 字段，这是一个 Jinja2 模板，它正是 apply_chat_template() 方法背后的实际发挥作用者。

这个 Jinja2 模板已经随着功能的丰富越来越复杂了，我们不需要关注太多，只关注 enable_thinking 这个参数是如何作用的。在模板的最后一小段，我们可以看到：

{%- if add_generation_prompt %}
    {{- '<|im_start|>assistant\n' }}
    {%- if enable_thinking is defined and enable_thinking is false %}
        {{- '<think>\n\n</think>\n\n' }}
    {%- endif %}
{%- endif %}

Jinja2 不算难读，如果你没接触过，应该也能大概看懂，这里的意思就是，当 enbale_thinking 这个参数被定义且 enable_thinking 为 false 的时候，对话模板会在我们上面说的 <|im_start|>assistant 这一行下面加上一段内容：\n\n\n\n。这里就是 enbale_thinking 参数作用的唯一地方了。

等等，我们还是没明白，为什么这么一句简单的 if 就能控制混合思考输出？

让我们来演示一下开启与关闭的状态下，两种模式的对话模板是如何引导模型生成的。我们仍然以上面那句“给我讲讲大语言模型。”的对话为例。

开启 enable_thinking：

"""
<|im_start|>system
你是一名乐于助人的助手。<|im_end|>
<|im_start|>user
给我讲讲大语言模型。<|im_end|>
<|im_start|>assistant
"""

关闭 enable_thinking：

"""
<|im_start|>system
你是一名乐于助人的助手。<|im_end|>
<|im_start|>user
给我讲讲大语言模型。<|im_end|>
<|im_start|>assistant
<think>

</think>
"""

我们可以发现，enable_thinking 开启的状态下，对话模板其实是相较于我们一开始讲的普通模板而言没有任何变化的。但是 enable_thinking 关闭的时候，对话模板会在 <|im_start|>assistant 的后面添加一个空的。

理解了“<|im_start|>assistant 后都是模型生成的内容”这句话以后，我们就能够看懂 Qwen3 是如何控制混合思考的开启了：

• 首先，Qwen3 会默认思考，也就是生成 … 的内容。
• 如果我们不想让模型思考，我们只需要提前“注入”一段空白的思考内容，也就是「空白」，让模型认为「思考」这个过程已经结束了，接下来都是普通回复。
• 这样就完成了混合思考的启停。

二、进一步思考

我们可以进一步思考，为什么 Qwen3 会采用这样的「空白思考注入」的方式呢？在思考 Qwen3 为什么这么设计之前，我们不妨先来试试，如果让我们从头设计一套混合思考的训练范式，我们会怎么做？

我们可能会想到一种非常简单的方法：用一个特殊 token 来标志思考过程的开始。例如就直接使用这个 token 作为思考的开始，当启用思考的时候我就注入这个 token，这样模型就会顺着生成了。这似乎也是能 work 的？

好，假设我们使用这个特殊 token 标志着思考过程的开始，按照我们上面的设计，永远只能由我们手动注入。这样模型只会学到残缺的思考过程的输出，也就是「思考内容」这一部分，模型就容易学杂，因为它需要学习两种不同的范式，带和不带的，不利于明确区分「思考内容」和「普通回复」。

当然，上面这个问题还是能通过充分的训练在一定程度上解决的，另一个问题其实更重要：如果使用特殊 token 标志思考的启停，模型就会失去自主决定是否思考的能力。具体来说，由于 token 只能由我们手动注入，那么模型其实是没有机会自己去生成这样一个标志着开始思考的 token 的。

也许你会说，没关系啊，现在 Qwen3、Claude、Gemini 这些不也是要手动控制思考的开始吗，我这么设计也未尝不可啊？

目前这么看来两种设计的确没有明显差异，但是随着后面的发展，肯定是希望模型自主判断哪些问题需要启动思考、哪些问题不用启动思考。例如对待复杂的数学问题，我们希望模型自主地学会利用思考来解决；而对于一些简单的日常问题，我们希望模型能够快速回复，而不需要深度思考。这是未来混合推理模型发展的必然趋势。

之所以这么说，是因为 Qwen3 也已经在实现这样的机制了。在官方博客中还有提到一个新的内容，模型的思考是支持「软启停」的。具体来说，你可以在输入内容的时候，在用户提示或系统消息中添加 /think 和 /no_think 来逐轮切换模型的思考模式。

回头想一想，如果使用我们的「特殊 token 来标志思考过程的开始」这套方案，模型是无法仅通过 prompt 就完成控制思考与否的——因为模型根本没学会自己输出特殊 token。

而如果使用 Qwen3 的「空白思考注入」方案，这套软启停的效果就比较容易实现了。首先，我们先按照如今通用训练思考模型的方式，训练出一个会思考的模型。接下来，我们只需要在训练中设计这样一套数据：加了 /think 提示的，对应回复就是有思考内容的；加了 /no_think 提示的，对应回复就是思考内容为空白的。这样模型就能够学会响应软提示了。

Qwen3 的 Post-Training Pipeline

[博客原文]：在第三阶段，我们在一份包括长思维链数据和常用的指令微调数据的组合数据上对模型进行微调，将非思考模式整合到思考模型中。确保了推理和快速响应能力的无缝结合。

上面是 Qwen3 的 Post-Training Pipeline，其中的 Stage 3 就是我们说的思考与非思考的混合训练。里面应该融合了更多的 trick，不过训练的大方向应该是差不多的。

当然，话又说回来，目前 Qwen3 这种做法仍然需要明确的用户提示，但是很明显，未来通过针对性的强化学习训练（例如区分难度、分层指令等），是完全有可能让模型自主控制思考与否的——甚至有可能出现新的「涌现」现象，例如模型比人更了解哪些指令需要通过思考来解决。

三、写在最后

上面都是我个人的一些分析与推测，并没有官方背书，所以也许我的内容会出现一些问题。欢迎大家交流与讨论！

引用链接

[1] 官方博客: https://qwenlm.github.io/zh/blog/qwen3/#%E5%BC%80%E5%A7%8B%E4%BD%BF%E7%94%A8-qwen3[2] tokenizer_config: https://huggingface.co/Qwen/Qwen3-235B-A22B/blob/main/tokenizer_config.json

大模型岗位需求

大模型时代，企业对人才的需求变了，AIGC相关岗位人才难求，薪资持续走高，AI运营薪资平均值约18457元，AI工程师薪资平均值约37336元，大模型算法薪资平均值约39607元。
在这里插入图片描述

掌握大模型技术你还能拥有更多可能性：

• 成为一名全栈大模型工程师，包括Prompt，LangChain，LoRA等技术开发、运营、产品等方向全栈工程；

• 能够拥有模型二次训练和微调能力，带领大家完成智能对话、文生图等热门应用；

• 薪资上浮10%-20%，覆盖更多高薪岗位，这是一个高需求、高待遇的热门方向和领域；

• 更优质的项目可以为未来创新创业提供基石。

可能大家都想学习AI大模型技术，也想通过这项技能真正达到升职加薪，就业或是副业的目的，但是不知道该如何开始学习，因为网上的资料太多太杂乱了，如果不能系统的学习就相当于是白学。为了让大家少走弯路，少碰壁，这里我直接把全套AI技术和大模型入门资料、操作变现玩法都打包整理好，希望能够真正帮助到大家。

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用