m0_71340392的博客

原创 9月10日直播16点丨CANN挑战赛赛题解析

原创 代码侦探（第六期）开启｜补全算子代码，赢华为手环等定制奖品

👉 立即挑战，赢定制周边：https://gitcode.com/cann/cann-learning-hub/issues/730。📅 活动时间：9月9日至10月9日 24:00。

原创 CANN本周快递，请查收！

本周摘要CANN代码仓上新：cannbotCANN技术活动：CANN NEXT系列开播CANN 社区进展直达开源社区：https://gitcode.com/cannCANN 上新。

原创 【上新预告】CANN社区任务 9月9日10:00即将上新！35万+奖金池开放！

原创 DeepSeek V4 950实践：整网统一低精度数据流优化突破推理性能瓶颈

HiF8不只是节省带宽，而是通过QKPV全量化、紧凑数据表示、Scale复用以及访存/计算流水重构，进一步缓解了原有SparseMLA中明显的Scalar Bound。，HiF8 在权重、激活和KV Cache上均表现出较好的数值保真度，主要Benchmark与高精度基线基本持平；，通过RmsNorm+Quant、Rotary+Quant等融合，将中间结果尽可能留在片上，减少完整Tensor写回和Kernel Launch，部分模块可达到。和MXFP8在权重、激活、KV Cache上的数值差异；

原创 HiFloat4量化校准方案：HiGPTQ，HiAutoRound，HiFlatQuant

低比特量化是降低大语言模型推理成本和资源需求的重要手段。随着部署场景对显存占用、带宽压力和计算效率提出更高要求，量化研究正逐渐从 8-bit 进一步推进到 4-bit。HiFloat4（HiF4）是昇腾自研的一种 4-bit 数值格式，通过三级缩放机制显著扩展了低精度数值的动态范围，使其更适配大模型权重和激活中常见的动态范围分布。将高精度权重直接转化为 4 比特格式通常会带来量化误差。因此，量化校准成为进一步提升低精度模型性能的关键环节。

原创 HiF8、FP8、MXFP8_MXFP4怎么选？一文看懂昇腾950低精度技术选型

下面这张图可以支撑：HiF8和MXFP8在KV cache上均能保持较高量化保真度，KV cache不是HiF8相比MXFP8的主要精度风险来源，在KV cache SQNR上，未观察到HiF8相比 MXFP8的系统性退化，两种格式整体稳定在相近水平。该结果表明，HiF8在KV cache量化中未引入额外的小值置零风险，并可能相比MXFP8更好地保留低幅值cache信息，HiF8在KV cache数值保真度和小值保留方面均与MXFP8基本对齐，甚至在部分层具备更低置零率优势。但低精度也带来挑战。

原创 AMCT-LLM 量化操作指南 | 社区任务等你来参与

大模型量化是推理优化的关键能力之一。通过降低权重和激活的数值精度，量化可以减少模型存储、显存占用和计算开销，是大模型在实际业务中高效部署的重要手段。AMCT 是 CANN 社区提供的模型压缩与量化工具，面向昇腾 AI 处理器支持 LLM 模型高效量化，覆盖 BF16 基线评估、PTQ 离线数据提取、PTQ 参数训练、fake quant 精度评估等典型流程。本文与配套使用，提供一份可参考、可跑通的 AMCT-LLM 量化操作流程，帮助开发者快速理解基本工作流，降低上手成本。

原创 CANN社区任务再上新！9月2日10：00开启任务报名，18个任务上线，45万+奖金池开放！

原创 代码侦探（第五期）开启｜补全算子代码，赢华为手环等定制奖品

📅 活动时间： 9月1日至10月1日。

原创 CANN本周快递，请查收！

CANN技术活动：CANN挑战赛、HCCL通信库创新大赛火热报名中CANN社区进展直达开源社区：https://gitcode.com/cann竞 赛 进 行 时【2026 华为算法挑战赛_CANN挑战赛】开启预报名！面向高校学生同时启动5大赛区：京津冀东北赛区、上合赛区、西北赛区、西南赛区、杭厦赛区，荣誉证书 +秋招机考面试绿卡+丰厚奖金 欢迎广大学生报名参加！【2026 CANN-HCCL通信库创新大赛】东北赛区火热报名中，证书+丰厚奖金等你赢取！欢迎广大学生报名参加！

原创 【上新预告】9月2日22个CANN社区任务上新！单个任务最高激励达7万+！

CANN社区任务再上新！9月2日10：00开启任务报名。22个任务上线，60万+奖金池开放！扫码参与活动报名，抢先了解任务详情。

原创 8月27日19点开播丨视触融合、灵巧操作到世界模型：具身智能从算法创新到工程落地实践

原创 8月26日CANN社区任务上新！35个任务上线，85万+高额奖金池开放！

原创 代码侦探｜特别期 · 限时问答，50份定制背包、冲锋衣等你领，手慢无！

👉 立即挑战，赢定制周边：https://gitcode.com/cann/cann-learning-hub/issues/559。📅 活动时间： 8月25日至9月1日。

原创 8月26日19点开播丨昇腾NPU原生训练的三维重建基础模型与4D世界模型

原创 8月25日19点开播丨迈向通用具身操作--训练时计算与推理时计算

原创 CANN本周快递，请查收！

是面向生命科学领域、负责建设昇腾原生算子库的开源兴趣小组，算子仓为bio-ops-molecule。SIG聚焦多组学数据处理、生物分子模拟和生物基础模型训练等场景，通过高性能行业算子解决计算效率、显存占用和数据访存等底层性能瓶颈。面向高校学生同时启动5大赛区：京津冀东北赛区、上合赛区、西北赛区、西南赛区、杭厦赛区，荣誉证书 +秋招机考面试绿卡+丰厚奖金 欢迎广大学生报名参加！CANN社区新开发者首次通过issue、pr、答题、社区互动或文章等方式反馈有价值意见、建议、需求、报错、成果等。

原创 ​8月24日19点直播丨Crypto for AI：在不信任的世界里，实现可信的智能

原创 AMCT structured pruning: MoE expert selection, method and measurement

【代码】AMCT structured pruning: MoE expert selection, method and measurement。

原创 【8月26日上新预告】35个CANN社区任务上线，85万+高额奖金池开放！

原创 【CANN经验传递】HiF8 × Safe-Pruner：剪掉一半Token，8-bit VLA依然无损

需要注意的是，FLOPs会独立于数值精度统计multiply-accumulate operations：它反映的是token剪枝带来的FLOPs降低，但并不能体现HiF8带来的收益，例如低比特宽度带来的memory和bandwidth节省，以及低比特矩阵计算单元上的更高吞吐。因此，它能够在不依赖细粒度per-token / per-block scale的情况下，同时兼顾宽动态范围和高精度表示，也就是说，仅使用最简单的单一per-tensor scale即可完成有效量化。其主要特性可以概括如下。

原创 【CANN经验传递】从一张查找表到 4GB/s：HiFloat8 Cast 算子的工程化之路

但 FP16/BF16 一共只有 65536 种位模式，HiFloat8 只有 256 种——干脆在 host（CPU）上预先把所有结果算出来打成一张表，device 上只剩"查表 + 写回"，又快又简单。精度侧覆盖了 FP16/BF16 全 65536 个位模式的 roundtrip、HiFloat8 全 256 个值的 decode，以及 ±0、±Inf、NaN、subnormal 的边界场景。半空间 LUT 多了 4-5 条标量指令，但省下的 UB 直接换成更大的 tile，整体吞吐反而上去了。

原创 8月20日19点直播丨AMCT-Pruning结构化剪枝技术

💡提示：本场直播为外籍讲师全程英文分享，配有双语字幕，内容具有一定技术门槛，欢迎感兴趣的开发者观看。

原创 代码侦探挑战赛（第四期）开启丨补全算子代码赢定制背包、冲锋衣等奖品！

📅 活动时间： 8月19日至8月26日。

原创 8月19日晚上19点直播丨AMCT-LLM量化能力发布解读：主流网络与PTQ算法实践

原创 【2026年8月】 CANN开源开发者满意度有奖调研

原创 PyPTO Professional模式: PyPTO-Pro易用性的来源

PyPTO Professional 的赌注是：算子开发者应该把时间花在「切多大的块、开几级流水、Buffer 怎么摆」上，而不是花在「这个 offset 算对了吗、这个 event id 配对了吗」上。前者是创造性的、决定性能上限的工作；后者是机械的、只决定你今晚能不能下班的工作。PyPTO Professional 把后者全部接管，同时一寸不让地把前者留给你——因为想摸到理论峰值 0.9x 以上，方向盘就必须在人手里。✅ 手写过指令级 Kernel，被set_flagwait_flag折磨过；

原创 CANN社区任务8月17日正式上新！6大任务上线，单个任务最高8.7万+激励！

原创 PyPTO Professional模式: PyPTO算子开发体验增强

PyPTO Professional 的赌注是：算子开发者应该把时间花在「切多大的块、开几级流水、Buffer 怎么摆」上，而不是花在「这个 offset 算对了吗、这个 event id 配对了吗」上。前者是创造性的、决定性能上限的工作；后者是机械的、只决定你今晚能不能下班的工作。PyPTO Professional 把后者全部接管，同时一寸不让地把前者留给你——因为想摸到理论峰值 0.9x 以上，方向盘就必须在人手里。✅ 手写过指令级 Kernel，被set_flagwait_flag折磨过；

原创 AMCT-LLM 如何打通大模型低比特量化全流程

在 AI 大模型时代，模型部署时会遇到容量压力、带宽与吞吐压力和工程适配压力。同时，本可以收敛成一条工具链的工作被分散在各个流程中，进而导致在适配不同模型时做重复工作。如何低成本的部署模型，如何把模型量化收敛成一条统一的工作流，是这个时代需要解决的问题。AMCT-LLM 是一款面向大语言模型低比特量化的模型压缩工具，将模型适配、精度评估、量化优化与部署导出收敛为统一工作流。

原创 CANN社区任务8月17日上新！6大任务上线，32万+超大奖金池已就位！

原创 静态 Shape 多流并行增强：让图中的任务真正并行

静态 Shape 多流并行增强模块并不追求更多 Stream，而是追求更多有效并行。逻辑流拆解负责找到图中的并行空间，物理流合并负责生成可执行的多流候选，Profiling 和硬件资源约束负责把逻辑并行修正为硬件可承载的真实重叠，最后再通过 Device 实测选择端到端更优的方案。判断多流优化是否有效，最终只需要回到三个问题：任务是否真正重叠，资源是否能够承载，以及端到端性能是否真正改善。

原创 代码侦探挑战赛（第三期）开启丨补全算子代码赢定制背包、冲锋衣等奖品！

👉 立即挑战，赢定制周边：https://gitcode.com/cann/cann-learning-hub/issues/540。📅 活动时间： 8月12日至8月19日。

原创 CANN 开发者 Meetup 南京站｜轻量开发专场，线下技术沙龙正式开启报名

CANN 全面开源开放，致力于为开发者构建统一、高效的算力使能平台，助力 AI 应用创新与加速落地。为进一步促进区域开发者交流、共建 CANN 生态，CANN 开源社区联合 AtomGit 正式发起「CANN 开发者 Meetup」南京站。

原创 代码侦探挑战赛（第二期）开启丨补全算子代码赢定制背包、冲锋衣等奖品！

👉 立即挑战，赢定制周边：https://gitcode.com/cann/cann-learning-hub/issues/531。📅 活动时间： 8月6日至8月13日。

原创 Agent-Friendly 范式探索 --- 基于CANNBot的高性能复杂算子生成

CANNBot-DSL正是基于此考虑：把那些复杂、易错、却又不左右性能的动作逐一建模,沉淀为一层架设在昇腾稳定Ascend C之上的软件抽象，让 CANNBot 彻底从繁冗细节中解放出来,回到算法与数据流的主场，心无旁骛，尽展所长。为突破Agent开发复杂高性能算子的各类难题，CANNBot-DSL方案通过昇腾硬件友好的协程范式、框架自动管理同步、Agent友好的API封装、尾块自动处理、性能优化关键因子拆解和求解器寻优等多种机制攻克开发痛点，从稳定性、开发难度、硬件适配、运算效率多方面带来增益。

原创 CANN Meetup杭州站・模型专场开启报名

GLM-5.2 KV Offload 系统优化实践Agent 赋能模型部署优化：Hy3 昇腾推理实践PyPTO 编程框架与 Agent 算子生成能力面向昇腾 950DT 的 DSpark 推理实现与性能优化Longcat 2.0：推理低时延优化SanaVideo 模型 NPU 单卡部署与性能优化实践。

原创 CANN本周快递，请查收！

SIG 主要沉淀面向 6G AI RAN 的典型任务样例，覆盖时变信道表征与建模、信道估计、端到端无反馈MIMO预编码与多流传输、跨场景智能定位与多基站协作传输等方向，并可进一步拓展至基站智慧节能、移动性管理等 AI for RAN 应用。面向高校学生同时启动5大赛区：京津冀东北赛区、上合赛区、西北赛区、西南赛区、杭厦赛区，荣誉证书 +秋招机考面试绿卡+丰厚奖金 欢迎广大学生报名参加！CANN社区新开发者首次通过issue、pr、答题、社区互动或文章等方式反馈有价值意见、建议、需求、报错、成果等。

原创 基于 PyPTO 与 Agent，2周完成模型 QAT 算子开发与优化

QAT 算子的开发实践验证了 PyPTO 的简单易用：用高层张量 API 表达算法逻辑，用tile_shape和等参数完成性能调优。在此基础上，Agent 可以先围绕公式和张量关系快速完成功能实现，再根据 profiling 结果调整少量参数完成优化，2周便完成 QAT 算子的开发、调优和模型接入，实现了模型吞吐性能的显著提升。