TVM引发的思考

最新推荐文章于 2023-04-24 21:57:54 发布
最新推荐文章于 2023-04-24 21:57:54 发布
阅读量196 收藏
点赞数
分类专栏： 机器学习系统 编译器 文章标签： 编译器
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/EdiosnMa/article/details/116737413
版权

引言

TVM不仅仅是一个编译器，也可以看做一个编程模型。他的计算与调度分离的哲学使得用户无需关心后端代码的执行优化。

TVM 如何对算子进行优化？

TVM针对CPU、GPU、ASIC(FPGA)三个硬件后端做了统一的端到端的后端优化，现在我们剥离图优化层，单拎出来对不同后端的算子优化做出解释。
不同的硬件特性导致对统一个算子的优化也会有不同的影响，FlexTensor文章列出了针对不同后端的优化技术。
在这里插入图片描述
TVM对不同的优化技术提出了多种调度原语，包括：
在这里插入图片描述

mlxaaa
关注
专栏目录
TVM | 一种用于深度学习的端到端自动优化编译器
极智视界
10-26 737
大家好，我是极智视界，本文解读一下 一种用于深度学习的端到端自动优化编译器 TVM。
【TVM系列一】开发环境搭建
Flying Cat
11-23 1721
一、前言 众所周知，深度学习的计算量庞大，在追求效率与实用性的工业界，深度学习所面临的一个最大的问题就是如何在不影响模型精度的前提下将算法模型部署到目标硬件平台上进行高效的前向计算。 和单纯研究相比，在工业界主要遇到了两个问题： 深度学习框架众多，caffe / mxnet / tensorflow / pytorch训练出来的模型都彼此有不同的分发格式，对于部署有环境兼容的问题。 硬件价格昂贵，一些嵌入式平台没有使用GPU的条件。同时一些人也开始在做FPGA/ASIC的深度学习加速卡。
TVM问题集
Every moment of My life !!!
04-19 431
Auto-tuning 报错 参考代码： https://github.com/gary30404/tvm-yolov3.git 运行一会之后程序报错,出现ImportError: cannot import name ‘aggcv’ 解决办法是将tvm/autotvm/tuner/xgboostcost_model 450行修改为 try: from xgboost.training import aggcv except ImportError: from xgboost.callba
TVM 学习指南（个人版）
I good vegetable a!
09-02 6245
最近粗略的看完了天奇大佬的MLC课程（顺便修了一些语法和拼写错误，也算是做了微弱的贡献hh），对TVM的近期发展有了一些新的认识。之前天奇大佬在《新一代深度学习编译技术变革和展望》一文中（链接：https://zhuanlan.zhihu.com/p/446935289）讲解了TVM Unify也即统一多层抽象的概念。这里的统一多层抽象具体包括AutoTensorization用来解决硬件指令声明和张量程序对接，TVM FFI（PackedFunc）机制使得我们可以灵活地引入任意的算子库和运行库函数并且在各
TVMNN编译Compiler栈
吴建明wujianming_110117
05-09 415
TVMNN编译Compiler栈 内容纲要 前言 调研目标 TVM介绍 TVM源码架构 i. FrontEnd ii. Relay iii. BackEnd VTA实现原理及设计思想提炼 i. 整体结构 ii. VTA Hardware a. a. 指令集 b. 数据流 c. 控制流 b. VTA Config c. Pyng HLS d. 硬件设计思想提炼 e. Chisel Scalar f. SIM C++ g. Xilinx Scripts iii. VTA JIT a. Driver b. R
TVM- End-to-End Optimization Stack for Deep Learning
最新发布
性感的小君君
04-24 612
深度学习模型现在可以识别图像、处理自然语言并在具有挑战性的策略游戏中击败人类。现代硬件稳步提升的计算能力在深度学习目前在许多问题领域的普遍性和相关性中发挥了突出作用。许多最流行的深度学习框架，如 TensorFlow、MXNet、Caffe 和 PyTorch，通过将支持集中在一小类服务器级 GPU 设备上来利用现代硬件的力量——这种支持取决于高度工程化的使用和供应商特定的 GPU 库。然而，专业深度学习加速器的数量和多样性正在迅速增加。
POCS_TVM.zip_POCS_beinggai_pocs tvm algorithm_tvm_tvm文件
07-14
总的来说，"POCS_TVM.zip"中的资料提供了一个宝贵的学习和研究平台，有助于我们理解POCS-TVM算法的理论基础，掌握其在MATLAB中的实现细节，并进一步探索其在实际成像问题中的潜力。对于想要深入研究图像重建技术，...
tvm-0.8.0-1.5.7-API文档-中文版.zip
07-06
赠送jar包：tvm-0.8.0-1.5.7.jar； 赠送原API文档：tvm-0.8.0-1.5.7-javadoc.jar； 赠送源代码：tvm-0.8.0-1.5.7-sources.jar； 赠送Maven依赖信息文件：tvm-0.8.0-1.5.7.pom； 包含翻译后的API文档：tvm-0.8.0-...
tvm.tar TVM源码压缩包
09-24
TVM完整源码，自己下载，若网速不好，可能会有部分链接缺失，导致编译出错，血泪教训我知道！！！！
TVM jvmpkg 编译完成包
04-14
版本是V8.0以后的版本，源码于2022年4月中旬下载并编译通过，包含tvm中整个完整jvm的内容以及全部生成内容，方便因为编译环境备受折磨的小伙伴直接下载使用。其中包括jvm/core/target 下编译android端需要的jar包库...
tvm.rar_tvm_轨道TVM全拼
09-19
标题中的“tvm.rar_tvm_轨道TVM全拼”暗示了我们正在讨论的是轨道交通行业的自动售票机（Ticket Vending Machine，简称TVM）的技术细节，特别是与单片机控制输入输出相关的控制逻辑。在轨道交通系统中，TVM是乘客...
3DNN-FPGA-TVM
02-26
3DNN-FPGA-TVM ＃使用TVM编译器在FPGA板上实现3D计算机视觉深度学习
TVM Relay softmax算子调度分析
Eurypterid的博客
08-05 700
tvm relay 算子调度分析
深度学习编译中间件之NNVM(五)TVM论文阅读
热门推荐
sanallen的专栏
03-02 1万+
参考文档 https://mp.weixin.qq.com/s/irvBbPKENiZX9G_6wh5c-Q 陈天奇等人提出TVM：深度学习自动优化代码生成器 https://arxiv.org/abs/1802.04799v1 TVM: End-to-End Optimization Stack for Deep Learning 摘要：现今，像Tensorflow，MXNet，C...
陈天奇的tvm更新了：VTA，开源AI芯片栈
量子位
07-14 4094
陈天奇 发表于 tvm社区 量子位 搬运 | 公众号 QbitAI华盛顿大学陈天奇博士近日在tvm社区介绍了VTA(Versatile Tensor Accelerato...
自动生成硬件优化内核：陈天奇等人发布深度学习编译器TVM
omnispace的博客
02-19 9429
有了 TVM，业界与学界开发者们可以快速、轻松地在各个系统（包括手机、嵌入式设备与低功耗芯片）上部署深度学习应用程序，同时无须担心资源与速度的限制。「TVM 作为神经网络和硬件后端之间的共同层，消除了为每类设备或服务器优化各自基础架构的需要。」TVM 项目负责人陈天奇表示，「我们的框架允许开发人员快速、轻松地部署和优化大量硬件设备上的深度学习系统。」项目链接：https://github.com/...
mac机器上编译tvm
zhaowd2001的博客
05-09 1256
mac机器上编译tvm tvm on mac 2019/5/8 目录 文章目录mac机器上编译tvm代码下载背景目的cmake下载llvm mac 版本配置 config.cmake编译 tvm安装NNPACK[???]安装 PeachPy/confu安装 ninja编译 NNPACK安装 pythonpython 路径设置安装 anaconda tensorflow安装 python 依赖模块安...
陈天奇团队发布TVM：把深度学习部署到手机、树莓派等更多硬件
weixin_33782386的博客
01-09 1116
本文来自AI新媒体量子位（QbitAI） △陈天奇，华盛顿大学计算机系博士生，此前毕业于上海交通大学ACM班。XGBoost、cxxnet等著名机器学习工具的作者，MXNet的主要贡献者之一。 DMLC项目发起人陈天奇今天早间宣布推出TVM。 所谓TVM，按照正式说法：就是一种将深度学习工作负载部署到硬件的端到端IR（中间表示）堆栈。换一种说法...
TVM Compiler中文教程：TVM使用张量化Tensorize利用硬件内联函数
Mars_WH的专栏
06-11 3942
文章目录TVM使用Tensorize利用硬件内联函数定义矩阵乘法调度矩阵乘法定义GEMV张量内联函数 TVM使用Tensorize利用硬件内联函数 这篇教程是关于在TVM中如何执行张量化的介绍。 通过使用调度原语tensorize，人们可以用相应的内联函数替换计算单元，从而可以轻松利用手工制作的微内核函数，和扩展TVM来支持新的硬件架构。 本教程的目的是展示tensorize的功能和用法，而不是提...
TVM源码中的3rdparty包解析
资源摘要信息:"TVM_3rdparty" TVM是一个开源机器学习编译器框架，旨在使高性能深度学习计算更加便捷。TVM项目中的3rdparty目录通常用于存放TVM项目所依赖的第三方库或者工具。 首先需要了解，TVM项目是一个多层次...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值