【架构分析】Torch-MLIR 技术详解

已于 2022-04-24 20:51:33 修改
阅读量4.8k 收藏 13
点赞数 15
文章标签： 深度学习 人工智能 编译器
于 2022-04-24 20:50:02 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/HaoBBNuanMM/article/details/124385542
版权

目录

概述

架构

举个栗子

IR转换详解

OpConversion代码分析

核心时序

Linalg Generic Op说明

Code Gen VS LibCall 

概述

Torch-MLIR 作为一个编译器支持将pytorch生态转换到MLIR生态，本文基于Torch-MLIR 开源项目 对它的主要工作流程，以及涉及到的MLIR主要概念进行了分析说明

架构

上面的架构图说明从Pytorch生态有多条pipeline可以转换到MLIR的世界，本文主要介绍

TorchScript -> MLIR Converter -> Torch Dialect -> Linalg Tensor 这条pipeline

举个栗子

torch-mlir 工作流程

动画展示了一个Pytorch模型 -> TorchScript IR 经过Torch-MLIR Importer后进入到MLIR世界的详细过程

IR转换详解

上图说明了Pytorch模型代码 ->TorchScript IR -> TorchDialect IR 的转换对应关系

OpConversion代码分析

上图以OpConversionPattern代码为例，说明了TorchDialect IR 中的torch.aten.mm Op 转换到LinalgDialect Op的过程

核心时序

 Torch-MLIR从Python应用、初始化、MLIR Converion Framework注册与回调、Dialect & Op Convert Pass 的核心时序图如上

Linalg Generic Op说明

理解Linalg Dialect的Op才能对Torch Dialect Op做对应的转换，而Linalg Generic Op又是最重要的一个Op，用一个详细的例子对它说明如下：

Code Gen VS LibCall 

Code Gen：用一堆IR生成另外一堆表达同样计算语义的IR

LibCall: 用一个API调用时序一堆IR的计算，比如用cublasSgemm 计算矩阵乘法

HaoBBNuanMM
关注
torch-geometric 1.6.1依赖库
11-29
torch-geometric 1.6.1在安装使用过程中，必要的四个安装包，torch-cluster、pytorch-scatter、torch-sparse、pytorch-spline-conv，均为whl文件。
提取深度学习模型的计算图
weixin_44670163的博客
04-11 904
然而，由于PyTorch的动态特性，计算过程中各种可能都会出现，包括但不限于：使用了条件判断、计算与变量的形状有关、调用了其它包（比如numpy、scipy）、调用了其它语言的扩展（比如Rust、C++）等等。fx_model.forward就是新的函数，fx_model.code是fx_model.forward对应的代码（的字符串表示），fx_model.graph就是捕获得到的计算图。f_traced.graph存储了计算图，f_traced.code存储了计算图转化而来的代码。
探索未来AI编译器的桥梁：Torch-MLIR
gitblog_00023的博客
05-15 539
探索未来AI编译器的桥梁：Torch-MLIR torch-mlir The Torch-MLIR project aims to provide first class support from the PyTorch ecosystem to the MLIR ecosystem. ...
PyMLIR 开源项目教程
最新发布
gitblog_00624的博客
08-24 650
PyMLIR 开源项目教程 pymlir项目地址:https://gitcode.com/gh_mirrors/py/pymlir 项目介绍 PyMLIR 是一个基于 Python 的 MLIR (Multi-Level Intermediate Representation) 工具包，它旨在简化 MLIR 的使用流程，让开发者能够更加便捷地操作和开发基于 MLIR 的编译器基础设施。MLIR ...
面向ASIC设备的编译器框架：TVM or MLIR？
csdndevpress0035的博客
08-09 612
目前TVM和MLIR都没有完全支持定制DSA的设计、上层编译的成熟路线，也就是最终选型的结果对实际工程开发的影响不会很大，都需要开发者/团队深度定制大量代码。...
pytorch 转换onnx_通过MLIR将tensorflow2模型转换到ncnn
weixin_42360967的博客
12-06 481
可以转载，但不准删改内容！是tf2 不是tf请注意！请注意！这里说的是 tensorflow2，不是 tensorflow，这两个不是一个东西，以下内容只适用于 tensorflow2。曾经，我写过 tensorflow2ncnn.cpp，从 tensorflow frozen pb 转成 ncnn param+bin。然而，我真的没用过 tensorflow，这转换器就是半猜半试写出来的，各种...
【从零开始学深度学习编译器】十一，初识MLIR
I good vegetable a!
10-21 1681
0x0. 前言 最近开始做一些MLIR的工作，所以也来分享一些MLIR的知识。这篇文章是对MLIR的初步印象，并不深入，适合想了解MLIR基础的同学阅读，后面再分享MLIR的一些项目。本文主要基于MLIR官方文档的Toy Tutorial完成，并且要大力感谢中科院的法斯特豪斯（知乎ID）同学先前的一些分享，给了我入门MLIR的方向。 0x1. 什么是IR？ IR即中间表示（Intermediate Representation），可以看作是一种中介的数据格式，便于模型在框架间转换。我理解可以表示深度学习计算
ONNX MLIR应用示例（含源码链接）
吴建明wujianming_110117
12-04 651
ONNX MLIR应用示例（含源码链接） 开放式神经网络交换在MLIR中的实现 (http://onnx.ai/onnx-mlir/)。 Prebuilt Containers 开始使用ONNX-MLIR的一个简单方法是使用预构建的docker映像。这些映像是在主干上成功合并生成的结果。最新的图像代表主干的顶端。目前，Docker Hub中保存的amd64、ppc64le和s390x的发布和调试模式映像分别为onnxmlirczar/onnx-mlir和onnxmlirczar/onnx-mlir-dev
torch-1.2.0-cp36-cp36m-win-amd64.whl
12-25
"torch"指的是PyTorch框架，"torch-1.2.0"是版本号，"cp36"表示Python 3.6版本，"cp36m"通常表示这是一个针对Python 3.6的小型优化版本，而"win_amd64"表明这是为Windows操作系统和AMD64架构（也称为x86_64或64位...
torch-2.2.1-cp311-cp311-win-amd64.whl
03-13
适用于python3.11，在pycharm终端中转到文件所在文件夹后直接pip install +文件名（带后缀）即可
torch-1.11.0-cp38-cp38-linux_aarch64.zip
09-18
标题中的"torch-1.11.0-cp38-cp38-linux_aarch64.zip"指示了这是一个PyTorch的特定版本——1.11.0，针对Python 3.8编译，并且是为Linux架构的ARM64（即Jetson设备）设计的。PyTorch是一款广泛使用的开源深度学习框架...
torch-1.10.0-cp36-cp36m-linux_aarch64.zip
12-13
本文将针对"torch-1.10.0-cp36-cp36m-linux_aarch64.zip"这一版本进行详细介绍，该版本是专门为Python 3.6和ARM架构设计的。 首先，"torch-1.10.0"代表这是PyTorch的1.10.0版本，这是一个重要的更新，其中包含了多...
探索pyMLIR：Python接口的多级中间表示工具
gitblog_00075的博客
06-02 319
探索pyMLIR：Python接口的多级中间表示工具 pymlir项目地址:https://gitcode.com/gh_mirrors/py/pymlir 项目介绍 pyMLIR是一个完整的Python接口，用于解析、处理和输出MLIR文件，它遵循MLIR文档描述的语法。该库支持基本方言，并可以扩展以适应其他方言。通过Lark解析器解析MLIR语法，然后将这些类映射到Python类中。此外，自...
Tutorial - 如何在MacOS 上安装MLIR以及MLIR Python Binding
weixin_42576920的博客
04-23 564
在习惯了在 IDE 中利用成熟的编译工具链运行代码和享受舒适的代码编写环境之后，我逐渐依赖于具有 GUI 界面的软件工具，而忽视了使用命令行直接操作程序的重要性。因此，在这次搭建环境的过程中，我深刻地感受到了自己对 Unix 指令的不熟悉。本文的主要目的是展示如何从源代码开始构建、手动编译整个过程的步骤，并记录我不断踩坑的经历以及如何克服这些困难。我通过博客的形式记录并发布在互联网上，希望能帮助解决您在 macOS 安装 MLIR Python-Binding时遇到的问，并提供实用的经验。
MLIR原理与应用技术杂谈
吴建明wujianming_110117
07-25 1304
MLIR原理与应用技术杂谈
PyTorch 框架 AICPU 算子开发全流程
qq_44821958的博客
05-09 3207
PyTorch 框架 AICPU 算子开发全流程 文章目录PyTorch 框架 AICPU 算子开发全流程一．AICPU算子基本概念介绍二．算子开发流程介绍三. LogSpace算子分析四. LogSpace算子工程创建五．LogSpace算子原型定义和代码开发六．LogSpace算子逻辑实现部分代码开发七．LogSpace算子编译和部署八．LogSpace算子UT测试九．LogSpace算子ST测试十．经验总结十一．关于MindStudio更多的内容 详情指路视频专栏：https://www.bilibi
编译入门那些事儿（4）：MLIR概述
2301_76434200的博客
07-07 667
MLIR基本概念MLIR(Multi-Level Intermediate Representaion，多级中间表示)是一种用来构建可重用和可扩展编译的新方法。MLIR的设计初衷是为了解决软件碎片化问题，改进异构硬件的编译，显著减少构建特定领域编译器的成本以及帮助连接现有的编译器。当前很多语言都拥有自己的IR：Figure 1[1]MLIR的实现原理是通过一种通用的架构来实现IR高层转换：Figu...
MLIR技术杂谈
吴建明wujianming_110117
06-08 1260
MLIR技术杂谈
pytorch安装torch-geometric
08-19
要安装torch-geometric，您需要先安装PyTorch和torch-scatter、torch-sparse和torch-cluster这些依赖项。请按照以下步骤进行安装： 1. 确保您已经安装了PyTorch。您可以根据您的操作系统和CUDA版本选择适合您的PyTorch版本。可以在PyTorch官方网站上找到相应的安装指南。 2. 安装torch-scatter、torch-sparse和torch-cluster这些依赖项。运行以下命令： ``` pip install torch-scatter -f https://pytorch-geometric.com/whl/torch-1.8.0+${CUDA_VERSION}.html pip install torch-sparse -f https://pytorch-geometric.com/whl/torch-1.8.0+${CUDA_VERSION}.html pip install torch-cluster -f https://pytorch-geometric.com/whl/torch-1.8.0+${CUDA_VERSION}.html ``` 请注意，`${CUDA_VERSION}`应替换为您所使用的CUDA版本（例如，`cpu`或`cu102`）。 3. 安装torch-geometric。运行以下命令： ``` pip install torch-geometric ``` 这将安装最新版本的torch-geometric。 完成以上步骤后，您应该成功安装了torch-geometric。您可以在您的Python代码中导入并使用它。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值