- 博客(2)
- 资源 (1)
- 收藏
- 关注
原创 torch.compile()编译后端“inductor“ 研究
torch.compile()是pytorch 2.0 版本以后自带的编译系统,可以用于编译函数,神经网络模型。随着pytorch 在AI大模型时代的脱颖而出,torch.compile()被广泛地应用,例如在最近流行的开源推理框架vllm,sglang中,都用到了torch.compile来优化模型结构,提升推理性能。"inductor" 是torch.compile()默认编译后端,本篇文章将主要记录下对"inductor" 编译器后端的调试研究记录。
2025-04-29 14:51:38
146
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人