首个完整 Triton 中文文档上线！开启 GPU 推理加速新时代

HyperAI超神经

已于 2024-10-14 15:10:38 修改

阅读量564

点赞数 14

分类专栏： ScienceAI 文章标签：人工智能科技 Triton 深度学习

于 2024-10-14 14:25:41 首次发布

本文链接：https://blog.csdn.net/HyperAI/article/details/142915394

版权

ScienceAI 专栏收录该内容

113 篇文章 11 订阅

订阅专栏

开源 3 年，Triton 引领 AI 编译器新浪潮

2019 年，Philippe Tillet 等人在论文「Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations」中首次提出 Triton。2020 年，Philippe Tillet 加入 OpenAI，继续领导着 Triton 项目的开发，并于 2021 年首次公开发布了 Triton 编译器。

论文地址：https://dl.acm.org/doi/10.1145/3315508.3329973

Triton 编译器旨在让研究人员和开发者能够以更少的代码量，实现与专家级 CUDA 相媲美的性能， 无论是在海外还是国内的深度学习发展进程中都备受关注。
在这里插入图片描述

Triton 的高级架构，来源：OpenAI 官网用于指定分块程序并将其编译为高效的 GPU 代码

自 2021 年开源以来，Triton 以其卓越的性能和灵活性， 迅速在全球范围内受到广泛关注和应用。不仅被应用于 PyTorch、Unsloth、FlagGems 等多个开源项目，更获得了 NVIDIA、AMD、Intel、Qualcomm 等芯片巨头的鼎力支持。
此外，Google、Microsoft、OpenAI、AWS 和 Meta 等 AI 领域的领军企业，也纷纷将 Triton 作为构建开放 AI 软件栈的关键技术。Triton 正在逐步成为更加低门槛、高可用的 AI 编译器新选项。
在这里插入图片描述

Triton 在 GitHub 上已被 3.8 万个项目依赖

首个完整版 Triton 中文文档上线

尽管 Triton 的影响力在全球 AI 领域迅速崛起，但在中文领域，Triton 相关的资料及资源还相对稀缺， 其应用与研究的广度和深度都还有待拓展。基于此，HyperAI超神经社区志愿者，以开源协作的方式，耗时 3 个月、经历一译二校的严格把关，完成了 Triton 全部文档的本土化，现已完整上线至 https://triton.hyper.ai/。
在这里插入图片描述

Triton 中文文档官方网站

Triton 中文文档在英文文档的基础上，经过本土化架构调整，更贴合中文开发者的阅读习惯，提供了从 Triton 安装到开发应用的一系列详尽实用指南。

Triton | 借助这份文档，你可以：

零基础入门 Triton，轻松理解其核心概念与应用
深入了解 Triton 的高级特性，探索创新路径
迅速定位实践问题并获取解决方案，提高效率
追踪 Triton 前沿技术动态，紧跟技术更新
参与中文文档的社区讨论，协作共创技术生态

安装 Triton 的 2 种方法通过 pip 安装和源码安装

文档的「引用项目」部分，收集了部分使用 Triton 的开源和闭源明星项目，通过这些真实案例，开发者可以更深入地理解 Triton 在实际项目中的落地应用，掌握其优化及融合技巧。
在这里插入图片描述

依赖 Triton 的相关项目

从 TVM 到 Triton：构建多元包容的 AI 编译器社区

2022 年，HyperAI超神经上线国内首个 Apache TVM 中文文档（点击查看原文：TVM 中文站正式上线！最全机器学习模型部署「参考书」它来了），在国产芯片如火如荼高歌猛进之际，我们为国内的编译器工程师提供了了解和学习 TVM 的基础设施，同时我们也联合 Apache TVM PMC 冯思远博士等人，组建起国内最活跃的 TVM 中文社区， 通过线上线下等活动，吸纳主流国产芯片厂商的参与和支持，覆盖千余位芯片开发者和编译器工程师。
在这里插入图片描述

TVM 中文文档官方网站

TVM 中文文档地址：
https://tvm.hyper.ai

两年之后，我们希望不断扩大社区的技术边界和内容范畴，组建更加开放、多元、包容的 AI 编译器社区, 除 Apache TVM 之外，积极拥抱 LLVM、MLIR 等老牌编译器技术和相关工程师、项目，此次 Triton 中文站的上线，也表明了我们致力于把 AI 编译器社区「朋友圈做大」的决心。

TVM、Triton 中文文档仍在更新中，中文文档作为基础设施，只是构建生态的第一步，在生态的上游，我们离不开围绕 AI 编译器的开发工具、操作系统，在生态的下游更是离不开硬件制造商和服务提供商。只有构建起全链路的合作伙伴，串联起每一环、每一伙伴的真实需求，并为其降低壁垒、提供价值，才能创造更多合作进步的可能。

期待更多企业伙伴的加入，共建更开放、多元、包容的 AI 编译器社区！
查看完整 Triton 中文文档：https://triton.hyper.ai/
在 GitHub 🌟 Triron 中文：https://github.com/hyperai/triton-cn