TVM引发的思考

最新推荐文章于 2023-04-24 21:57:54 发布
最新推荐文章于 2023-04-24 21:57:54 发布
阅读量151 收藏
点赞数
分类专栏： 机器学习系统 编译器 文章标签： 编译器
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/EdiosnMa/article/details/116737413
版权

引言

TVM不仅仅是一个编译器，也可以看做一个编程模型。他的计算与调度分离的哲学使得用户无需关心后端代码的执行优化。

TVM 如何对算子进行优化？

TVM针对CPU、GPU、ASIC(FPGA)三个硬件后端做了统一的端到端的后端优化，现在我们剥离图优化层，单拎出来对不同后端的算子优化做出解释。
不同的硬件特性导致对统一个算子的优化也会有不同的影响，FlexTensor文章列出了针对不同后端的优化技术。
在这里插入图片描述
TVM对不同的优化技术提出了多种调度原语，包括：
在这里插入图片描述

mlxaaa
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
TVM | 一种用于深度学习的端到端自动优化编译器
极智视界
10-26 636
大家好，我是极智视界，本文解读一下 一种用于深度学习的端到端自动优化编译器 TVM。
TVM 学习指南（个人版）
I good vegetable a!
09-02 5279
最近粗略的看完了天奇大佬的MLC课程（顺便修了一些语法和拼写错误，也算是做了微弱的贡献hh），对TVM的近期发展有了一些新的认识。之前天奇大佬在《新一代深度学习编译技术变革和展望》一文中（链接：https://zhuanlan.zhihu.com/p/446935289）讲解了TVM Unify也即统一多层抽象的概念。这里的统一多层抽象具体包括AutoTensorization用来解决硬件指令声明和张量程序对接，TVM FFI（PackedFunc）机制使得我们可以灵活地引入任意的算子库和运行库函数并且在各
TVMNN编译Compiler栈
吴建明wujianming_110117
05-09 383
TVMNN编译Compiler栈 内容纲要 前言 调研目标 TVM介绍 TVM源码架构 i. FrontEnd ii. Relay iii. BackEnd VTA实现原理及设计思想提炼 i. 整体结构 ii. VTA Hardware a. a. 指令集 b. 数据流 c. 控制流 b. VTA Config c. Pyng HLS d. 硬件设计思想提炼 e. Chisel Scalar f. SIM C++ g. Xilinx Scripts iii. VTA JIT a. Driver b. R
TVM- End-to-End Optimization Stack for Deep Learning
性感的小君君
04-24 545
深度学习模型现在可以识别图像、处理自然语言并在具有挑战性的策略游戏中击败人类。现代硬件稳步提升的计算能力在深度学习目前在许多问题领域的普遍性和相关性中发挥了突出作用。许多最流行的深度学习框架，如 TensorFlow、MXNet、Caffe 和 PyTorch，通过将支持集中在一小类服务器级 GPU 设备上来利用现代硬件的力量——这种支持取决于高度工程化的使用和供应商特定的 GPU 库。然而，专业深度学习加速器的数量和多样性正在迅速增加。
3DNN-FPGA-TVM
02-26
3DNN-FPGA-TVM ＃使用TVM编译器在FPGA板上实现3D计算机视觉深度学习
tvm.tar TVM源码压缩包
09-24
TVM完整源码，自己下载，若网速不好，可能会有部分链接缺失，导致编译出错，血泪教训我知道！！！！
tvm.rar_tvm_轨道TVM全拼
09-19
关于轨道交通行业的自动售票机的单片机控制输入输出的控制逻辑
tvm_3rdparty
07-05
TVM源码下的3rdparty目录下的包
tvm节点属性更新方案
最新发布
02-23
介绍如何在 TVM（TVM 是 Apache 的开源机器学习编译器堆栈）中更新节点属性，以及如何在 Python 中导入和使用 C++ 暴露的节点属性更新方法时，我们通常遵循几个步骤： 了解 TVM 的架构和节点属性： TVM 的计算图由...
TVM jvmpkg 编译完成包
04-14
版本是V8.0以后的版本，源码于2022年4月中旬下载并编译通过，包含tvm中整个完整jvm的内容以及全部生成内容，方便因为编译环境备受折磨的小伙伴直接下载使用。其中包括jvm/core/target 下编译android端需要的jar包库...
TVM Relay softmax算子调度分析
Eurypterid的博客
08-05 558
tvm relay 算子调度分析
【TVM系列一】开发环境搭建
Flying Cat
11-23 1613
一、前言 众所周知，深度学习的计算量庞大，在追求效率与实用性的工业界，深度学习所面临的一个最大的问题就是如何在不影响模型精度的前提下将算法模型部署到目标硬件平台上进行高效的前向计算。 和单纯研究相比，在工业界主要遇到了两个问题： 深度学习框架众多，caffe / mxnet / tensorflow / pytorch训练出来的模型都彼此有不同的分发格式，对于部署有环境兼容的问题。 硬件价格昂贵，一些嵌入式平台没有使用GPU的条件。同时一些人也开始在做FPGA/ASIC的深度学习加速卡。
自动生成硬件优化内核：陈天奇等人发布深度学习编译器TVM
omnispace的博客
02-19 9368
有了 TVM，业界与学界开发者们可以快速、轻松地在各个系统（包括手机、嵌入式设备与低功耗芯片）上部署深度学习应用程序，同时无须担心资源与速度的限制。「TVM 作为神经网络和硬件后端之间的共同层，消除了为每类设备或服务器优化各自基础架构的需要。」TVM 项目负责人陈天奇表示，「我们的框架允许开发人员快速、轻松地部署和优化大量硬件设备上的深度学习系统。」项目链接：https://github.com/...
深度学习编译中间件之NNVM(五)TVM论文阅读
sanallen的专栏
03-02 1万+
参考文档 https://mp.weixin.qq.com/s/irvBbPKENiZX9G_6wh5c-Q 陈天奇等人提出TVM：深度学习自动优化代码生成器 https://arxiv.org/abs/1802.04799v1 TVM: End-to-End Optimization Stack for Deep Learning 摘要：现今，像Tensorflow，MXNet，C...
陈天奇的tvm更新了：VTA，开源AI芯片栈
量子位
07-14 3901
陈天奇 发表于 tvm社区 量子位 搬运 | 公众号 QbitAI华盛顿大学陈天奇博士近日在tvm社区介绍了VTA(Versatile Tensor Accelerato...
使用 TVM RPC 在手机上远程分析和测试深度学习交叉编译程序
yiran103的专栏
10-19 3503
以下内容翻译自：Remote Profile and Test Deep Learning Cross Compilation on Mobile Phones with TVM RPC TVM 堆栈是端到端的编译堆栈，可将深度学习工作负载部署到所有硬件后端。由于 NNVM 编译器支持 TVM 堆栈，我们现在可以直接编译来自深度学习框架的描述并生成裸机代码。TVM 一个令人印象深刻的特性是它能...
陈天奇团队发布TVM：把深度学习部署到手机、树莓派等更多硬件
weixin_33782386的博客
01-09 1086
本文来自AI新媒体量子位（QbitAI） △陈天奇，华盛顿大学计算机系博士生，此前毕业于上海交通大学ACM班。XGBoost、cxxnet等著名机器学习工具的作者，MXNet的主要贡献者之一。 DMLC项目发起人陈天奇今天早间宣布推出TVM。 所谓TVM，按照正式说法：就是一种将深度学习工作负载部署到硬件的端到端IR（中间表示）堆栈。换一种说法...
TVM论文阅读
qq_33287871的博客
01-29 1953
TVM论文阅读1 介绍1.1 优化的基本挑战1.2 TVM：一个端到端优化堆栈2 优化计算图2.1 计算图2.2 操作符融合2.3 数据布局转换2.4 计算图级别优化的限制3 优化张量操作3.1 Tensor表达式语言3.2 调度空间3.3 协作式嵌套并行化3.4 张量化：生成硬件接口3.5 编译器的延迟隐藏支持4 代码生成和运行时支持4.1 代码生成4.2 运行时支持4.3 自动调优4.4 远程部署性能分析5 评估5.1 树莓派3B评估5.2 NVIDIA Tesla K80和GTX1080评估5.3 P
性能超越GPU、FPGA，华人学者提出软件算法架构加速AI实时化
热门推荐
AI科技大本营
08-30 1万+
作者|王言治，美国东北大学电子与计算机工程系助理教授出品|AI科技大本营（ID:rgznai100）近年来，机器学习(Machine Learning)领域的研究和发展可谓是与日...
tvm ubuntu
09-10
安装与配置的步骤如下： 1. 首先，你需要下载并解压LLVM包（clang llvm-10.0.0-x86_64-... 这将下载TVM的源代码并将其存储到名为tvm的文件夹中。 通过按照上述步骤进行操作，你将能够成功在Ubuntu上安装和配置TVM。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值