阿里推理模型一战封神！32B硬刚671B DeepSeek，1/10成本，苹果笔记本可跑

于 2025-03-06 08:06:50 发布
阅读量113 收藏
点赞数
原文链接：https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw==&mid=2247781197&idx=1&sn=c1615cf132076441f0fc62296991da53&chksm=e93ed4b115523c3a08b8f9992bc62c62a5fb39b8345f0e5ecdb359c03939ed055e22dfef4c81&scene=126&sessionid=0
版权
梦晨 发自 凹非寺
量子位 | 公众号 QbitAI

起猛了，Qwen发布最新32B推理模型，跑分不输671B的满血版DeepSeek R1。

都是杭州团队，要不要这么卷。

e47e19e291af82d6982d39d3befbbdb1.png

QwQ-32B，基于Qwen2.5-32B+强化学习炼成。

9e6c41f856df4e3e720c43c940fdb4bb.png

之后还将与Agent相关的功能集成到推理模型中：

可以在调用工具的同时进行进行批判性思考，并根据环境反馈调整其思考过程。

878dc7415ac5467c8cf2c64a501b5f2d.png

QwQ-32B的权重以Apache 2.0 许可证开源，并且可以通过Qwen Chat在线体验。

583c07be1af08d998efed7f91abc9912.png

手快的网友直接就是一个本地部署在m4max芯片苹果笔记本上。

da3ab0e5f0397526ba176d8bc00d6885.gif

也有网友连夜at各大第三方API托管方，赶紧起来干活了。

669c23880171f7fd30049b6456f8236f.png

32B不输DeepSeek R1

目前QwQ-32B还未放出完整技术报告，官方发布页面对强化学习方法做了简短说明：

从一个冷启动检查点开始，实施了由Outcome Based Reward驱动的强化学习（RL）扩展方法。

在初始阶段专门针对数学和编码任务扩展强化学习，没有依赖传统的奖励模型，而是使用一个数学问题准确性验证器来确保最终解决方案的正确性，并使用一个代码执行服务器来评估生成的代码是否成功通过预定义的测试用例。

随着训练轮次的推进，两个领域的性能都呈现持续提升。

在第一阶段之后，为通用能力增加了另一阶段的强化学习，它使用来自通用奖励模型的奖励和一些基于规则的验证器进行训练。

团队发现，这一阶段少量步骤的强化学习训练可以提高其他通用能力的性能，如遵循指令、符合人类偏好以及智能体性能，同时在数学和编码方面不会出现显著的性能下降。

此外在ModelScope页面，还可以看出QwQ 32B是一个密集模型，没有用到MoE，上下文长度有131k。

53d628363bc394ea594ae3f67a606f01.png

对此，有亚马逊工程师评价不用MoE架构的32B模型，意味着可以在单台机器上高效运行。

DeepSeek没有问题，很强大，但要托管他且盈利需要一个大型集群，还需要使用DeepSeek最近开源的一系列通信库。

……另一方面QwQ 32B可以减少由流水线并行、专家并行带来的复杂性。

4809ad8d4babba553f7d31b646c5dda9.png

如果将QwQ 32B添加到代码能力与输出token成本的图表中，可以看到它以约1/10的成本达到了DeepSeek-R1与o3-mini-high之间的性能。

d4935ca87cda5fbc46d5a9637784f7f4.png

在线体验：

https://chat.qwen.ai
https://huggingface.co/spaces/Qwen/QwQ-32B-Demo

参考链接：
[1]https://qwenlm.github.io/blog/qwq-32b/
[2]https://x.com/Alibaba_Qwen/status/1897366093376991515

QbitAl
关注
博客
MiniMax开源首个视觉RL统一框架，闫俊杰领衔！推理感知两手抓，性能横扫MEGA-Bench
05-27 10
系列，包含基础语言模型和视觉多模态模型两种，性能上比肩DeepSeek-V3、GPT-4o等国内外顶尖模型的同时，还首次创新性实现了对新型。例如MiniMax的S2V-01视频模型、MiniMax-VL-01视觉多模态模型以及MiniMax-T2A-01系列语言模型等。代码链接：https://github.com/MiniMax-AI/One-RL-to-See-Them-All。，尤其是在感知任务中，mAP指标显著提高，证明了该统一方法的有效性和可扩展性。
博客
大厂程序员：AI正在将我们变成高速流水线工人，受不了了
05-27 10
面对此次内部工程师们的抱怨，亚马逊发言人Brad Glasser告诉《纽约邮报》，AI的目标是增强工程师的专业能力，而不是取代他们；在亚马逊内部，一个名为“亚马逊气候正义员工”的组织开始为忧心忡忡的工程师们发声，主要围绕“AI对工作带来的影响”“AI时代工程师们的职业前景”等等话题展开。事到如今，亚马逊工程师们的工作更繁杂了，但苦劳是自己的，功劳是AI的，都不知道今后职业晋升之路要怎么走了……当时，工匠们被分配到具体岗位上，只专注处理某一个小规模片段的工作，而且是不断重复的那种。
博客
低Token高精度！字节复旦推出自适应推理框架CAR
05-27 1
实验完成后，系统性统计各数据集的准确率（Accuracy）和回答的困惑度（Perplexity，PPL）——PPL 值越低，表明模型对生成答案的置信度越高。为此，研究人员提出了CAR这一基于置信度的自适应推理框架，它首先生成简短回答并评估困惑度，仅在模型置信度低（困惑度高）时触发推理。通过困惑度（PPL）量化模型对答案的置信度，CAR在高置信度时直接输出短回答以提升效率，低置信度时触发长文本推理以确保准确性。随后，借助训练集的困惑度（PPL），估计正确和错误简短答案的PPL分布，这些分布用于决策制定。
博客
5%参数比肩DeepSeek满血R1！北大“小”模型靠分合蒸馏，打破推理成本下限
05-27 8
从测试结果可以看出，FairyR1-32B在AIME 2025和LiveCodeBench基准上得分略高于DeepSeek-R1-671B，在AIME 2024上表现接近。筛选过程包括基于答案的正确性验证（针对数学数据），以及基于长度的筛选（数学数据保留2k-8k tokens范围，代码数据保留4k-8k tokens范围），最终构建了更具针对性的约。FairyR1-32B模型是在团队前期TinyR1工作基础上进行的进一步探索，沿用了“分合蒸馏”的研究思路，提出了多种改进方法，包括。
博客
对话27岁博导张林峰：模型压缩获CVPR满分有点意外，上海交大像我这样年轻老师很多
05-27 76
这个思路还可以针对不同任务做专门优化，比如在图像编辑任务上，只有被编辑的区域是需要关注和计算的，没有被编辑区域上的计算可以尽量的减少。现阶段，他们有个目标就是通过数据压缩来提高训练的效率，他们内部有个指标，那就是训练节省的成本/挑选数据成本是＞1的，这也就证明这一技术思路是可行且有价值的。，压缩过程必须最小化知识损失。——让一个小的弱模型当老师，然后让一个强的模型当学生，通过弱的模型去提升强的模型。从这几个研究中，其实能看到张林峰团队的几个方向，同时也代表着模型压缩的几个趋势，比如数据视角下的模型压缩；
博客
大模型首次打破围棋思维「黑盒」，打通科学发现新路径！上海AI Lab发布新一代InternThinker
05-23 186
值得一提的是，研究人员观察到，在基于InternBootcamp的多任务混合训练过程中，出现了强化学习的“涌现时刻”：在单一任务中，无法成功推理得到奖励的模型，通过多个任务混合的强化学习，能够在训练过程中成功得到奖励，实现领域外专业任务的有效强化学习训练。用户在与InternThinker对弈的过程中，大模型化身为循循善诱的“教练”，它能全面地分析当前局面形势，对不同的落子点进行判断和对比，并给出明确的结果，让用户了解每一步棋背后的推理过程和决策依据，从而帮助用户更好地理解和学习围棋。
博客
巧妙！一个传统技术让国产视觉基础模型直接上大分
05-23 555
具体而言，Glint-MVT采用基于大类别分类的间隔Softmax损失函数进行训练，通过引入 “类别间隔” 和 “特征紧凑性” 的双重约束，解决传统Softmax在大规模分类中语义区分不足的问题。他带领的格灵深瞳灵感实验室，聚焦于视觉及相关模态特征表达与应用。Glint-RefSeg是无需特别搜集训练就可以分割一切，从刚才的例子中也是感受到其实力，并且相比其他RES任务的模型，它取得了当前的。，通过充分的开放和分享，期待能激发更多社区伙伴的创新，从而形成创新互哺的良性循环，伙伴越聚越多，技术越玩越强。
博客
四位图灵奖掌舵，2025智源大会揭示AI进化新路径
05-23 26
大会云集来自 MIT、斯坦福、清华、北大等20+海内外顶尖科研院所的科学家们，他们将与DeepMind、Linux、华为、阿里、腾讯、百度等国内外AI领军企业的行业专家一道，共同探讨人工智能的前沿趋势与未来走向。与此同时，推理大模型的兴起、开源生态的加速、具身智能的百花齐放，成为2025年AI发展的关键词。当深度学习与强化学习交汇共振，当世界顶尖学者与产业领袖思想激荡，当前沿理论直面现实挑战——2025智源大会，将与全球AI同行共同把握技术跃迁的时代脉搏，洞见智能未来的无限可能。2025年智源大会将迎来。
博客
腾讯大模型战略首次全景亮相！智能体平台重磅上线，从“落地可用”到“智能协同”
05-22 654
在医药零售领域，大参林基于腾讯云大模型知识引擎，构建了覆盖药品知识、销售场景、职能办公等多个场景的专属AI知识库，打造了“AI小参”问答助手，已服务总部与上万家门店的5万名员工，查询响应时间缩短超80%。首先，是最简单的大模型API接入，用户需求直接传递给大模型，由模型根据自身知识返回结果，用以AI聊天、搜索等相对简单的场景，通过更加自然、有趣的交互，帮助企业获取更多流量收益；“在产业智能化转型的浪潮中，‘构建离产业最近的AI平台’不仅是技术能力的比拼，更是对产业痛点的深度理解和价值闭环能力的考验。
博客
小学数学题，大模型集体不及格！达摩院推出新基准VCBench
05-22 49
1、在需要多步逻辑推理的任务中（如模式识别、几何推理），CoT能带来显著性能提升（如Qwen-VL-Max在reasoning任务上提升40%），说明通过显式分解推理步骤，帮助模型更好地整合视觉和语言信息，减少逻辑跳跃错误。闭源模型中Gemini2.0-Flash（49.77%）、Qwen-VL-Max（47.03%）、Claude-3.7-Sonnet（46.63%）的综合表现最佳，但仍未突破50%准确率。所有模型的视觉感知错误占比均超过50%，其中Gemini2-Flash高达62%。
博客
无需昂贵设备，单目方案生成超逼真3D头像，清华＆IDEA新研究入选CVPR2025
05-22 31
然而，从易获取的单目视频中创建高度逼真且可动画化的头像仍然具较大的挑战性。为实现真实重光照，该方法将头像外观分解为反照率、粗糙度、菲涅尔反射等材质属性，并引入反照率伪先验以更好解耦材质信息，使用简化的BRDF物理模型进行着色。类似FLAME模型，采用可学习的线性形变基（Linear Blendshapes）建模几何位移，对每个高斯点引入三个可学习属性：形状基，表情基，姿态基。为解决上述问题，该方法提出HRAvatar，一种基于3D高斯点实现从单目视频到高质量、可重光照且可驱动的虚拟头像化身重建。
博客
AI十周找到不治之症潜在新疗法，核心流程完全自主驱动
05-22 69
ROCK抑制剂诱导的吞噬作用中ABCA1的差异表达对干性AMD具有重要意义，ABCA1对维持RPE细胞健康功能至关重要，ABCA1促进胆固醇和磷脂从细胞膜向受体蛋白的主动转运，随后排出细胞。有网友指出，针对AMD，人们已经对ROCK抑制剂进行过研究，利用ROCK抑制剂增强干性AMD患者的细胞吞噬作用，这一研究内容也早有相关文献记载。重要的是，除实验室实际物理实验操作和最终手稿撰写外，论文形成所需的核心环节均由智能体完成，包括提出假设、实验设计、数据分析到迭代优化的全流程。
博客
字节开源高精度文档解析大模型Dolphin：轻量高效，性能超GPT4.1、Mistral-OCR！
05-22 421
因为获取孤立的元素图像（例如表格、公式）及其标注比收集包含多种元素的完整文档页面更可行，Dolphin的元素解耦解析策略在数据收集方面提供了独特的优势。此外，凭借并行解析设计，Dolphin展示了显著的效率提升，达到了0.1729FPS，比最有效的基线（Mathpix，0.0944FPS）快近2倍。在公式识别方面，Dolphin在不同复杂度级别（SPE、SCE和CPE）上都展现出强大的能力，取得了与专业公式识别方法相当的具有竞争力的CDM分数。这里的文档元素值得是标题、图表、表格、脚注等。
博客
雷军发布小米自研3nm芯片系列新品：首搭手机平板和手表，基带模块也亮相了
05-22 112
均光膜加持，发光均匀度提升65%。在玄戒家族当中，除了O1，小米还研发了小米4G基带玄戒T1，蜂窝通信全链路自主设计，支持4G eSIM独立通信，已在小米S4手表当中实际应用。核心方面，玄戒O1采用了10核4Cluster架构，与苹果一样采取了双超大核结构，包含了两颗Arm最新的X95超大核。GPU方面，玄戒O1采用了ARM最新的16核G925，曼哈顿测试可以跑到330帧，比A18 Pro提升43%。单核性能上，玄戒O1的跑分达到了3008，多核性能跑分达到了9509，多核评分超越了苹果A18 Pro。
博客
首个AI翻译实战榜单出炉！GPT-4o稳坐天花板，文化方面Qwen系列一马当先丨开源
05-22 49
现在，阿里国际的所有电商平台均已广泛应用AI能力，已服务了超50万卖家，形成了以服务中小企业出海为核心，覆盖全球多元市场、多种电商模式的规模级AI应用。这是首次针对行业的细分领域构建评测数据和评测方法，数据均来自行业细分领域真实数据，并利用语言专家在应用中的标注数据训练面向行业的打分模型。相应的，业内也对大模型翻译效果有了更高的要求，比如要符合不同地区的文化特性、能体现不同行业的语言特色等。最近启动的2026届校招中，阿里国际放出的岗位，80%是AI岗位，包括AI算法、研发、AI产品经理等。
博客
一场对话，我们细扒了下文心大模型背后的技术
05-22 1087
比如教育层面，根据贝哲斯报告的预测，到2029年，全球在线教育市场中，仅K-12教育的规模，就会达到8991.59亿元，年均复合增长率7.89%，在这之中大模型将扮演重要的推手角色。从多粒度知识融合学习、知识和数据融合学习，到知识增强、知识点增强，从检索增强、对话增强、逻辑推理增强，到慢思考、深度思考、多模态，模型的效果和效率不断提升，能力的边界也在持续地拓展。文心X1 Turbo，侧重深度思考，从X1升级而来，性能提升的同时，具备更先进的思维链，问答、创作、逻辑推理、工具调用和多模态能力进一步增强。
博客
AI也能当情感大师？腾讯发布最新AI社交智能榜单，最新版GPT-4o拿下第一
05-22 48
Arena 榜单与SAGE有明显差异——说明SAGE能够捕捉到Arena等通用基准无法完全体现的“高阶社会认知”能力，注意到“答得好”≠“更懂人心”。研究者先让Gemini2.5-Pro基于不同模型与感知智能体交互的对话，分析表达和模型成功失败的案例，建模模型不同的人格画像。当大模型在“IQ”上不断实现新的突破，“懂人心”、“解人意”开始成为实际应用中，人们对大模型新的要求。最终，大模型在这个互动中是否“真的懂人”，就通过智能体的“情绪轨迹”和“内心独白”体现出来。
博客
24B模型编程超DeepSeek全家桶，32G内存苹果电脑就能跑，专门针对真实GitHub Issue训练
05-22 45
在包含500个真实GitHub Issue问题的SWE-Bench Verified基准测试中，Devstral不仅成为开源SOTA，还优于许多同等参数规模的闭源模型。据这位开发者分析，Devtral是Mistral-Small的微调，不清楚官方为什么把视觉编码器拿掉了，直接加回去就能使用了。合作方All Hands AI的口号是“少写代码，多做事“，他们没有开发自己的基础膜，而是专注于构建智能体框架。，重点在大型代码库中代码的上下文理解、识别不同组件间的关系，以及识别复杂函数中的细微错误。
博客
奥特曼64亿美元联手强纳肾：OpenAI冲刺硬件iPhone时刻
05-22 39
LoveFrom这家公司秉承极简主义和创新精神，同样集结了很多苹果设计师，包括Bas Ording、Mike Matas和Chris Wilson等人，他们都在Mac和iPhone的产品外观和操作系统设计中颇有贡献。现在，OpenAI收购了Jony创办于2024年的公司io，但LoveFrom仍然保持独立运营，并以独立设计团队的身份继续为OpenAI提供设计服务。去年，它还收购了分析数据库公司Rockset。这家公司成立的时间不长，但还是很值得说道说道，因为它的成立一开始就是OpenAI的“精心谋划”。
博客
全球智能体榜单新SOTA！中国公司登顶，Office三件套一键生成，全程可控可溯源，打工人直接拿来用
05-22 425
我是个技术小白，我想从零做一个小游戏的微信小程序，要真正能够上线分享给其他人的，请问我应该一步步怎么做，给我写一个详细完整的攻略和教程，要具有实际可操作性，步骤要清晰，阅读起来不要太费劲。当然除了Prompt，也可以投喂资料或你的个人知识库内容，可以是图片、在线文档、网页、PDF。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值