- 博客(95)
- 收藏
- 关注
RSS订阅
原创 万字长文，技术解读众智FlagOS v1.5四大新进展
首届FlagOS开放计算开发者大会上发布的众智FlagOS1.5版本在硬件兼容性、技术性能和应用场景等方面取得突破性进展。该系统支持20+芯片型号，实现跨架构统一能力；FlagScale框架实现大模型全流程优化，支持多种模型架构；通过分层设计和算法优化，通信效率提升2.3倍；创新性地引入AIAgent技术，算子开发效率提升4倍；并拓展至具身智能等新应用场景。FlagOS1.5显著降低了AI算力生态碎片化问题，为构建开放AI基础设施提供了重要支撑。
2025-10-20 16:42:49
1625
原创 FlagOS 让“牛来”模型跑在更多国产芯片上：GLM-5.3-Flash Day0 适配 9 款 AI 芯片
FlagOS社区同步完成智谱开源多模态MoEt模型GLM-5.3-Flash在9款芯片的Day0适配，当前模型镜像已发布魔搭和Hugging Face，开发者无需修改代码即可跨芯部署！
2026-08-28 16:20:22
535
原创 Qwen3.8-Flash-Next发布首日适配 8 款AI芯片，众智FlagOS跑通并优化新一代混合注意力架构
FlagOS 为主流推理框架打造了统一的多芯片插件，包括 vLLM-plugin-FL 和 SGLang-plugin-FL，基于 FlagOS 统一多芯片后端开发，在不改变原生接口与用户使用习惯的前提下，实现 Qwen3.8-Flash-Next 的多芯片推理部署。其他芯片的运行时版本、插件分支、FlagGems/FlagTree 提交以及是否需要 FlagCX，请以对应芯片的模型卡和 vLLM-plugin-FL / SGLang-plugin-FL 仓库 README 为准。
2026-08-27 15:01:46
650
原创 视频生成推理框架 LightX2V 正式接入 FlagOS，打通跨芯片适配新路径
视频生成推理框架 LightX2V 近日推出基于 FlagOS 的跨芯片插件 lightx2v-plugin-FL。该插件以独立 Python 包形式接入，不改主链路，即可为 LightX2V 获得跨芯片适配能力。目前已在平头哥 PPU-ZW810E 双卡上完成 DreamZero 视频与动作生成任务的完整链路验证。
2026-08-27 10:22:30
352
原创 联合国开发计划署 · 中非人工智能洽谈研讨会即将在北京智源人工智能研究院举行
联合国开发计划署非洲区域局将于9月1日在北京智源人工智能研究院举办“廷巴克图”中非AI合作研讨会。会议聚焦非洲初创企业在医疗、金融、农业等领域的AI应用需求，探讨中非在技术、算力、投资等方面的合作路径。五家非洲创新企业将展示本土化解决方案，中方将分享FlagOS开源技术等成果，旨在通过开放计算生态降低算力门槛，推动AI普惠发展。活动以闭门交流形式促进务实对接，助力中非数字合作从理念走向落地。
2026-08-26 14:05:09
271
原创 FlagOS 技术直播预告 | 字节 verl × FlagOS 社区共建：打通多元芯片强化训练链路
字节跳动8月连续推出两大技术突破：特斯拉中国车机集成豆包大模型，以及Seedance2.5实现电影级数字人动作迁移。其核心在于强化学习后训练（RL Post-Training）技术的突破，而非单纯参数堆砌。为解决多元AI芯片适配难题，FlagOS团队推出verl-hardware-plugin多芯片插件平台，提供六大芯片参考实现，实现“字节框架+社区插件+多元芯片”的协同模式。
2026-08-25 10:03:39
181
原创 FlagOS X SGLang 算子优化挑战赛来了！200+ 真实推理算子，多芯片同台竞技
FlagOS开放计算全球大赛第二赛季正式启动，聚焦AI芯片算子优化难题。赛道一围绕SGLang框架算子性能优化，设置200+真实推理场景赛题，采用游戏化“高地争夺”机制，开发者需通过Triton语言实现跨芯片高性能算子。比赛设置三大奖项，优胜代码将开源并应用于实际生产。赛事面向全球开发者开放团队报名，通过多芯片统一评测选拔优秀方案，旨在推动大模型推理技术的产业化落地。
2026-08-21 11:06:37
500
原创 CUDA Tile IR 接入 FlagOS 多芯片统一编译器 FlagTree，加速 AI 芯片生态迈向“开放计算”
摘要：AI算力需求激增，但硬件生态碎片化制约创新。NVIDIA将CUDATileIR接入FlagOS社区的统一编译器FlagTree，标志着行业向开放生态迈进。CUDATileIR基于MLIR构建，支持Tile级编程范式，使Triton编写的算子可跨平台运行。这一集成既保留NVIDIA硬件优势，又提升开发效率，在Hopper和Blackwell架构上部分算子性能提升达7倍。
2026-08-20 11:25:49
340
原创 FlagOS 技术直播预告 | 一套算子跑通多芯片？看 FlagOS 生态重磅工具——KernelGen 如何破解算子调优痛点
《欢迎来龙餐馆》热映之际，AI领域迎来“多芯片厨房”新突破！FlagOS社区推出算子自动生成工具KernelGen，破解NPU/GPU等异构芯片的算子开发三大痛点：架构差异大、工具链割裂、调优成本高。该CCF开源创新大赛一等奖项目通过AI Agent技术，实现算子自动生成-评测-优化的闭环，如同智能主厨般适配不同硬件“食客”。8月20日19:00，获奖团队将直播揭秘昇腾910B适配案例，分享跨芯片开发实战经验，参与者可获技术资料及定制周边。
2026-08-19 10:13:43
224
原创 众智FlagOS模型适配再扩军！11款AI芯片已就位，ARM CPU也能玩转270亿大模型
阿里巴巴开源270亿参数视觉语言模型Qwen3.8-27B，并通过众智FlagOS社区完成跨平台适配。该模型已在11款AI芯片（包括平头哥、英伟达、摩尔线程等）和ARM端侧平台完成部署验证，其中摩尔线程支持FP8精度，其余芯片支持BF16。FlagOS技术栈首次实现27B大模型在ARM平台的W4A8低比特量化部署，推理性能显著优于原生方案。模型具备26万token长文本处理能力，支持代码生成、智能体任务和多模态理解。
2026-08-17 10:49:40
573
原创 Qwen3.8-2.4T首日适配9款AI芯片，众智FlagOS释放多元算力的产业价值
阿里巴巴开源超大规模MoE模型Qwen3.8-2.4T-A95B，该模型总参数达2.4万亿，激活参数95B，是当前开源规模最大、能力最强的模型之一。众智FlagOS社区同步完成该模型在平头哥、英伟达等9家AI芯片上的Day0多芯适配，提供BF16、FP8、INT8等多种精度版本。FlagOS通过统一技术栈实现一次开发、多芯快速适配，已累计完成12款主流开源模型在10款芯片上的跨芯适配。Qwen3.8在编程、科研等任务表现显著提升，支持超长上下文扩展至百万tokens。
2026-08-13 15:44:08
515
原创 征稿｜体系结构顶会MICRO 2026 重磅 Workshop OASIS-AI，共探AI开放计算软硬件协同创新
【摘要】北京智源AI研究院联合多所高校及开源组织发起OASIS-AI国际研讨会，将于2026年11月1日在希腊雅典MICRO2026会议期间举办。会议聚焦异构AI系统的开放软件生态建设，重点探讨新型AI芯片架构、开源编译器优化、大模型部署等关键技术，特别关注FlagOS开源社区的多芯片适配实践。现公开征集研究论文（6页）、进展报告（4页）及系统演示（2页）三类投稿，截稿日期为2026年8月31日。研讨会将包含主题演讲、专题讨论、开源演示等环节，推动全球产学研合作构建开放统一的AI计算基础设施。
2026-08-12 11:58:19
242
原创 FlagOS 技术直播预告 | FlagOS 多芯适配实战：从 N 个 PyTorch 分支到 1 个统一插件
【摘要】AI芯片多元化发展带来算力繁荣，但PyTorch框架的碎片化适配问题长期困扰开发者——不同芯片需独立适配，导致代码维护成本高、学习曲线陡峭、迁移效率低下。FlagOS生态推出PyTorch-Plugin-FL解决方案，通过统一接口层兼容异构硬件，结合FlagGems算子库和FlagCX通讯库实现"一次编写，多芯运行"，在保证性能的同时大幅降低开发复杂度。该工具将于2026年8月13日进行线上详解，旨在推动AI产业摆脱适配枷锁，聚焦模型创新与业务落地。
2026-08-12 11:53:04
211
原创 FlagOS 技术直播预告 | 别再盲目调优算子！细粒度设备侧 Profiling 实战来了
FlagOS团队在FlagTree组件中开发了一套统一的设备侧Profiler&Debugger工具，旨在解决AI算子开发中的性能调优和数值bug排查难题。该工具突破传统调试局限，提供细粒度Kernel耗时分析（精确到内部操作）和全流程数值追踪能力，并设计抽象层适配不同芯片厂商接口。直播将分享工具架构设计、核心功能演示（8月6日19:00），展示如何实现算子开发从"盲调"到"可观测"的转变。该方案有望显著提升开发效率，解决行业长期存在的设备侧调试碎片化痛点。
2026-08-05 09:54:13
237
原创 众智FlagOS推动新一代智算系统高校教育，全国教师研修班即将启动！
2026年8月4-8日，北京智源人工智能研究院等机构将联合举办全国高校人工智能自主软硬件知识公益研修班。研修班面向高校教师，依托FlagOS在线实验平台开展线下实操培训，聚焦AI系统软件与异构计算五大核心模块，通过“讲授+实操”模式助力AI教学升级。这是继2026年4月成功实施“中非人工智能人才培养计划”后，FlagOS社区将国际验证的“种子教师”培育模式引入国内的实践。FlagOS2.1开源技术栈支持跨平台AI开发，大幅降低教学门槛，使普通笔记本即可开展前沿AI系统教学。
2026-08-03 10:15:27
244
原创 不可不知小技巧｜H800 上基于 Triton-TLE 优化 FlashKDA，长文本推理性能提升超 40%
本文对比了FlashKDA与Triton-TLE在处理线性注意力机制时的性能优化方案。FlashKDA通过将计算拆分为并行准备阶段(K1)和顺序递推阶段(K2)，实现了每16个token一次的状态依赖处理。Triton-TLE在此基础上进一步优化：K1阶段利用显式共享内存和异步加载减少线程等待；K2阶段将FP32主状态保留在寄存器中，减少数据搬运。在H800配置测试中，该方案获得了1.38倍的几何平均加速，重点长文本场景加速约1.4倍。文章强调性能优化需结合具体负载特征，合理配置资源才能发挥硬件潜力。
2026-07-28 13:34:35
396
原创 重磅预告｜AutoSoft 特别会议：车上AI基础软件生态研讨会，7月31日上海见！
随着AI大模型加速上车，2026年车载智能体将迎来爆发，但芯片适配成本高、周期长成为行业痛点。智能汽车多芯片异构架构导致底层软件需重复适配，而车载芯片代际更迭（算力跃升至千TOPS、供应商多元化）进一步加剧挑战。FlagOS开源系统提出解决方案，通过统一软件栈实现"一次开发、多芯部署"，助力车企摆脱单一生态绑定。7月31日上海将举办行业研讨会，集结车企、芯片商、软件公司共议AI基础软件生态建设，推动车上AI从"可用"到"好用"的转型。
2026-07-27 10:16:52
199
原创 WAIC 2026 · 多机构共同推动全球人工智能开放计算“众智”合作，打造AI普惠算力生态底座
7月19日，WAIC 2026 · AI 开放计算与智能体技术生态论坛在上海落下帷幕。站在智能体时代的门槛上，来自全球多个机构的产学研领袖在论坛上共同发出一个重要声音：以“众智FlagOS”为基础的人工智能开放计算技术栈逐渐成型，智算共享生态正在形成；以众智FlagOS、PyTorch、HuggingFace、Eclipse基金会等开源平台组成的全球人工智能开源力量有望成为全球AI普惠的重要技术基座。
2026-07-21 14:25:09
317
原创 众智 FlagOS 获颁全球 AI for Good 优秀案例，推动 AI 算力普惠
更重要的是，FlagOS 正在形成“新模型发布、多芯片快速适配”的系统能力：以 DeepSeek V4 为例，FlagOS 可实现最新模型发布后 Day 0 多达 10 款芯片平台的同步适配，使原本主要依赖英伟达高端芯片，特别是 Blackwell 等最新一代算力平台的前沿模型，能够运行在更多英伟达芯片型号以及国产 AI 芯片之上，显著降低先进模型落地对单一高端硬件的依赖。AI 基础设施的使用效率，也延长了硬件投资周期，减少资源浪费，体现了面向可持续发展的 AI 基础设施建设理念。
2026-07-10 10:25:12
157
原创 不可不知小技巧｜vLLM-Plugin-FL 如何用“统一框架+弹性算子”释放异构算力
仅仅能跑起来还不够，vLLM-Plugin-FL 的目标是“跑得最优”。为此，它构建了一个算子粒度自动调优引擎 AutoTune Engine。这个引擎的工作流程是：首先自动遍历模型中的所有算子，并基于 FlagGems、Vendor 和 Reference 三种后端，为每个算子构建一个包含多种配置的搜索空间；然后以模型的端到端吞吐（Throughput）作为衡量标准，自动测试不同算子配置对整体性能的影响；
2026-07-10 10:24:40
363
原创 FlagOS 完成 Hy3 七芯 Day 0 适配：开箱性能达英伟达原生 97.7%，精选 4 算子吞吐延迟均优于原生
同时，FlagGems 新增 6 大领域算子库——FlagDNN、FlagBlas、FlagSparse、FlagFFT、FlagTensor、FlagAudio，覆盖科学计算与信号处理场景，共计 102 个领域算子，从"大模型专用"走向全领域覆盖。FlagOS 技术栈为 Hy3 提供了开箱即用的多芯片版本。： FlagGems 通用大模型算子库、FlagTree 跨芯 AI 编译器、FlagScale 训练推理并行框架、FlagCX 跨芯通信库，覆盖算子开发、编译优化、并行计算、跨芯片通信全链路。
2026-07-10 10:22:43
197
原创 全议程发布｜WAIC 2026 · AI开放计算与智能体技术生态论坛：以FlagOS筑算力之基，以Agent启智能之幕
黄之鹏 ，华为AI开源生态总监，Linux 基金会 AI & Data 主席，同时担任 LFAI & Data 基金会主席，Open Model Initiative 社区技术委员会主席，CCF 开源发展委员会执委，启智 OpenI 社区等开源组织的技术委员会的委员职务, Kubernetes Policy 工作组以及 CNCF 基金会安全兴趣组中 Policy 团队负责人, OpenStack Cyborg 项目创始人, 并且带领团队参与 ONNX, Kubeflow, Akraino 等开源社区。
2026-07-06 16:07:33
280
原创 众智FlagOS 2.1 正式发布：面向 AI Agent设计，让适配更轻松，让芯片更高效
为了能让基于vLLM的大模型推理能在各种AI芯片上都能获得更高的性能，FlagOS2.1版本新增了 FlagGems-vllm 融合算子库，包含 75 个 核心高频融合算子，覆盖 MoE routing、KV cache update、rotary embedding、FP8 量化、Sequence pack/unpack、DeepSeek V4 attention helper kernels 等高频算子，通过减少 kernel launch 开销和显存带宽压力实现算子级加速。
2026-07-06 15:54:56
524
原创 FlagOS技术工作坊：当AI开始“自己部署自己”，大模型基础设施进入“无人驾驶”时代
纵观全天的 FlagOS 技术开发工作坊，一条清晰的脉络浮现出来：FlagOS 正在从"提供若干正确的单体组件"，转向"用AI让这些组件在真实场景中协同运转"。全天高密度的理论拆解与手把手的真机实操交织，让这场工作坊不再是纸上谈兵。一方面，Triton-TLE、FlagTree CPU 扩展与 FlagIR 编译器基建，展示了打通多芯片孤岛、榨干硬件性能的硬核底力；
2026-07-06 13:49:26
395
原创 FlagOS技术工作坊：当AI开始“自己部署自己”，大模型基础设施进入“无人驾驶”时代
纵观全天的 FlagOS 技术开发工作坊，一条清晰的脉络浮现出来：FlagOS 正在从"提供若干正确的单体组件"，转向"用AI让这些组件在真实场景中协同运转"。全天高密度的理论拆解与手把手的真机实操交织，让这场工作坊不再是纸上谈兵。一方面，Triton-TLE、FlagTree CPU 扩展与 FlagIR 编译器基建，展示了打通多芯片孤岛、榨干硬件性能的硬核底力；
2026-06-26 14:04:36
323
原创 FlagOS Day 0 跨芯适配 GLM-5.2：发布即覆盖四款芯片，支持 vLLM + SGLang双插件
同时，FlagGems 新增 6 大领域算子库——FlagDNN、FlagBlas、FlagSparse、FlagFFT、FlagTensor、FlagAudio，覆盖科学计算与信号处理场景，共计 102 个领域算子，从"大模型专用"走向全领域覆盖。厂商目录放置后由插件自动发现加载，vLLM-Plugin-FL、SGLang-Plugin-FL、Megatron-LM-FL、TransformerEngine-FL、PyTorch-Plugin-FL、VeRL-FL，覆盖推理、训练、强化学习全场景。
2026-06-26 14:02:13
459
原创 Day0 适配 MiniMax M3：FlagOS × SGLang 首次跨芯发布
FlagGems 是 FlagOS 核心的高性能通用大模型算子库，基于 Triton 语言实现，已拥有超过 500 个大模型常用算子，覆盖 Attention、MoE 专家调度、RMSNorm 等大模型推理全链路的关键计算模块，同时原生支持接近 20 家 AI 芯片，包括英伟达、摩尔线程、沐曦、清微智能、天数智芯等。依托 FlagOS 全栈技术能力，FlagRelease 已完成多款模型在多种芯片上的模型迁移、精度对齐与版本发布，覆盖 HuggingFace、魔搭等开源社区平台。
2026-06-26 13:28:22
345
原创 2026智源大会丨30+顶级芯片、软件、AI系统专家，汇聚“智算前沿”论坛
智源大会是人工智能领域最具影响力的学术盛会，7年来，14位图灵奖得主与全球AI先锋齐聚，成为AI内行人的年度思想坐标。2026年6月12日-13日，第8届智源大会如期而至。大会坚持“学术硬核”，汇聚200余位顶尖专家学者与40余位AI企业CEO及联合创始人，共同探讨Agent、世界模型、具身智能、AI自进化与AI安全等前沿议题，期待与全球AI同行相聚北京，共同定义下一代智能未来。 智算前沿系列论坛6月12日 下午 AI赋能系统 6月13日 全天 下一代架构及基础软件 当算力需求倒逼计算基础设施全栈
2026-06-08 13:48:18
618
原创 免费报名｜技术大咖面对面授课，2026 智源大会 FlagOS 技术开发工作坊来袭！
只需一句自然语言描述，它就能自动完成算子的生成、测试与性能优化，并支持多种主流 AI 芯片，实现真正意义上的“一次开发，到处运行”。我们构建了 FlagRelease，以 LLM Agent 为编排引擎，充当系统软件的粘合剂与润滑油：自主完成环境诊断、组件装配、算子替换、精度-性能闭环调优、故障归因与容器化发布，消除各层软件在真实部署场景中的摩擦，全程零人工交互。作为面向多元算力的开源系统软件栈，将 FlagOS 的延伸至端侧，对于打通云边统一的开发范式、降低端侧 AI 的接入与优化成本，具有重要意义。
2026-06-05 13:43:39
236
原创 重磅！北京市科委、中关村管委会发布众智 FlagOS 加速计划储备课题征集通知
申报主体需通过法人一证通登录“北京市科技计划综合管理平台-在线服务系统”（https://mis.kw.beijing.gov.cn/），点击“项目申报”，分别对应查阅“关于公开征集 2026 年众智 FlagOS 加速计划—科研类储备课题的通知”“关于公开征集 2026 年众智 FlagOS 加速计划—学者类储备课题的通知”，完整了解征集内容及相关事项。企业作为申报单位的，每个企业限申报1项课题（含联合申报课题），且没有北京市科技计划在研项目（课题），并要求配套经费与财政科技经费比例不低于2:1。
2026-06-05 13:41:56
266
原创 24 小时极限竞速｜FlagOS 算子赏金挑战赛来袭，天津智博会同期开战！
5 月 28 日 - 5 月 29 日，FlagOS 24 小时算子赏金挑战赛・天津站正式开启，作为 2026 世界智能产业博览会同期重磅活动，大赛面向全球开发者发起 AI 算子极限优化挑战，用 Triton/Triton-TLE实力破局，赢现金大奖！5 月 28 日15:00，代码提交通道将正式开启，你将有 24 小时，在 Triton / Triton-TLE 的世界里，与四款 AI 芯片深度对话。挑战赛期间，参赛者的每一次提交，都会改变排行榜。特殊情况：分数一样者，看提交时间，提交时间在前面的获奖。
2026-05-29 13:47:11
409
原创 FlagOS助力 MiniCPM5 在9款芯片（含ARM）适配，Day0实现从云到端生态覆盖，效率追平NVIDIA原生
5月25日，面壁智能正式发布并开源了新一代端侧文本基座大模型。该模型以 1B 参数规模在 AA-Index 榜单取得 17.9 分，超越 Qwen3.5-2B（16.3 分）等全部 4B 以下开源基座模型，延续了面壁智能提出的"密度定律"——大模型智能密度约每 3.5 个月翻一番。其 Base 版本由面壁自研 AI 训练框架 ForgeTrain 预训练完成，这是全球首个完全由 AI 编写的生产级训练框架。INT4 量化后权重仅 0.5GB，可在手机、浏览器等 90% 以上终端设备运行。
2026-05-26 18:43:05
555
原创 不可不知小技巧｜Triton-TLE实践，告别手动Barrier，用生产消费模型释放Hopper架构算力极限
回顾一下本文的优化路径，我们从一个朴素 Triton 实现出发，分析了 TileLang-Pipelined 的三泳道分工，把"搬运"和"计算"拆开；接着我们用 TLE-Pipe 复刻了这个数据流。可以看到，SparseMLA 算法并不复杂，难的是让 sparse gather、QK、softmax 和 PV 在 Hopper 的 warp group 之间流起来。没有合适的编排工具，开发者很容易在“先算哪一半、在哪同步”里踩坑。
2026-05-25 14:27:13
435
原创 众智FlagOS完成腾讯混元MT2多语翻译模型全系列多芯片适配：英伟达/华为/平头哥三芯开箱即用
腾讯混元开源了混元MT2（Hy-MT2）系列多语翻译模型，覆盖 1.8B、7B、30B-A3B 三个规模档位，支持 33 个语种互译。众智FlagOS社区第一时间完成混元MT2全系列的多芯片适配与推理部署，已支持，并同步在魔搭社区与HuggingFace提供面向开发者的模型文件与部署方案，开发者可以通过FlagOS统一系统软件栈快速部署混元MT2。Hy-MT2 包含 Hy-MT2-1.8B、Hy-MT2-7B 和 Hy-MT2-30B-A3B 三个尺寸，均支持 33 个语种互译和 5 种民汉/方言翻译。
2026-05-22 11:31:15
691
原创 嘉宾议程全揭晓！天津智博会同期活动·开放计算赋能智能体专场即将开幕
同时，智源研究院张恒贵、中教开源创新研究院宫文学、腾讯教育高级架构师韩露、北京鑫元视邵凌与天津大学自然语言处理实验室负责人熊德意等嘉宾，将分别围绕医疗智能体、编程智能体、AI 视频应用、低资源大模型及超算场景智能应用等实用赛道开展主题分享，全方位展示智能体在各行各业的落地形态。此外，本次活动的圆桌对话将围绕多芯算力与智能体融合发展下的开放生态建设核心议题展开深度交流，一同梳理行业现存痛点，探寻合规有序、协同共进的行业发展新模式。从多芯算力的协同调度，到开放软件栈的构建，再到医疗、编程、视频、超算等场景的。
2026-05-20 18:16:40
257
原创 24 小时算子极限竞速：众智 FlagOS 社区组办 KernelGen 挑战赛，让全球开发者与五款 AI 芯片“死磕”性能
赛题二（DeepSeek mHC 算子优化）获奖者 Hyun-Min Chang（远程参与）在赛后提到：“Triton 提供了一个非常强大的通用编程模型，这次比赛让我清楚地认识到，可移植性仅仅是第一步，跨设备的正确性是一个问题，在每个架构上都实现强性能，则是另一个完全不同且更难的问题。更棘手的是硬件差异带来的不稳定。他谈到，不同芯片各具特性，优化过程如同做多 Agent 系统，需要并行探索、多源检索、快速实验迭代，一边查阅平台文档与开源实现，一边不断试错总结、理解硬件细节，再结合算法实现把性能推到更高。
2026-05-20 18:13:49
364
原创 不可不知小技巧｜FlagGems 算子库 @pointwise_dynamic 巧解 Pointwise 算子通用性问题
在多元算力时代，Pointwise 算子的通用性比单纯的峰值性能更重要。FlagGems 通过 @pointwise_dynamic 动态代码生成 技术，把广播适配、非连续访存、多维度索引等复杂工程问题封装在框架层，让开发者回归算法本身。在这一设计背后， FlagGems 成为全球支持芯片数量最多、算子数量最大的 Triton 单一算子库，实现了 90% 以上算子性能持平 / 超越 CUDA 原生，完美适配国产多元 AI 芯片生态，为大模型在多元硬件上的高效部署提供了关键支撑。
2026-05-09 18:39:13
1062
原创 不可不知小技巧｜FlagGems 算子库 @pointwise_dynamic 巧解 Pointwise 算子通用性问题
成员单位包括北京智源研究院、中科院计算所、中科加禾、安谋科技、北京大学、北京师范大学、百度飞桨、硅基流动、寒武纪、海光信息、华为、基流科技、摩尔线程、沐曦股份、澎峰科技、清微智能、天数智芯、先进编译实验室、移动研究院、中国矿业大学(北京)等多家在 FlagOS 软件栈研发中做出卓越贡献的单位。从基础的 add、mul、clamp，到 gelu、silu 等激活函数，再到各类融合算子，它们数量多、调用频繁，是决定模型端到端性能的关键一环。这意味着，同一个元素可能会被重复读取，但它在内存里只存在一份。
2026-05-09 17:49:07
367
原创 Open Compute for Agentic AI专场亮相GOSIM Paris 2026
作为本届大会的重要议题之一，本次专场以「Open Compute for Agentic AI」为核心主题，设置了9大核心环节，覆盖FlagOS技术体系、PanEval开源发布、KernelGen 2.0、SGLang技术路线图等全栈硬核内容，并同步启动了面向全球开发者的KernelGen 24小时赏金挑战赛，为全球AI系统开发者搭建了技术交流、实战竞技与生态共建的开放平台。Soós博士强调，开源评估体系的下一步不是更好的基准测试，而是真实的场景化测试床，让技术能力与社会信任能够在同一环境中被共同评估。
2026-05-06 11:14:21
603
原创 大模型新拐点：FlagOS+Engram 开启算存协同新时代
本文首先介绍 Engram 的核心思想，然后阐述基于 FlagOS 系统软件栈中的训练插件完成的 Engram 架构全链路复现。在此基础上，重点展示 FlagOS 针对 Engram 进行的三大工程优化。实验量化结果表明，FlagOS 对 Engram 的优化在保持额外负载为零的前提下，使吞吐最高提升近 150%。
2026-05-06 11:11:10
444
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人