【tvm官网教程】开发者教程

最新推荐文章于 2024-08-16 18:29:18 发布
最新推荐文章于 2024-08-16 18:29:18 发布
阅读量382 收藏 1
点赞数
分类专栏： tvm
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/B10030607/article/details/116022470
版权
本文档旨在指导TVM开发者如何创建自定义分析和IR转换的通行证，利用TVMPassInfra基础设施，并定义新的数据类型，以适应特定硬件需求。通过这些技术，用户能够更好地优化和定制其在TVM上的机器学习加速器实现。
摘要由CSDN通过智能技术生成

【tvm官网教程】开发者教程

目的

TVM是一个框架，它抽象了机器学习加速器的异质性。有时，用户可能需要自定义一些分析和IR转​​换，以使TVM适应自己的专用硬件。本教程可帮助用户在TVM中编写自定义通行证。

1. 自定义pass

2. 使用TVM Pass Infra

3. 自定义数据类型

BesiseB
关注
专栏目录
【TVM系列一】开发环境搭建
Flying Cat
11-23 1677
一、前言 众所周知，深度学习的计算量庞大，在追求效率与实用性的工业界，深度学习所面临的一个最大的问题就是如何在不影响模型精度的前提下将算法模型部署到目标硬件平台上进行高效的前向计算。 和单纯研究相比，在工业界主要遇到了两个问题： 深度学习框架众多，caffe / mxnet / tensorflow / pytorch训练出来的模型都彼此有不同的分发格式，对于部署有环境兼容的问题。 硬件价格昂贵，一些嵌入式平台没有使用GPU的条件。同时一些人也开始在做FPGA/ASIC的深度学习加速卡。
tvm-0.8.0-1.5.7-API文档-中文版.zip
07-06
赠送jar包：tvm-0.8.0-1.5.7.jar； 赠送原API文档：tvm-0.8.0-1.5.7-javadoc.jar； 赠送源代码：tvm-0.8.0-1.5.7-sources.jar； 赠送Maven依赖信息文件：tvm-0.8.0-1.5.7.pom； 包含翻译后的API文档：tvm-0.8.0-1.5.7-javadoc-API文档-中文(简体)版.zip； Maven坐标：org.bytedeco:tvm:0.8.0-1.5.7； 标签：bytedeco、tvm、中文文档、jar包、java； 使用方法：解压翻译后的API文档，用浏览器打开“index.html”文件，即可纵览文档内容。 人性化翻译，文档中的代码和结构保持不变，注释和说明精准翻译，请放心使用。
【tvm官网教程01】设计和架构-1
B10030607的博客
04-23 1645
【tvm官网教程01】设计和架构-1目的1. 编译流1.1 关键数据结构1.2 Transformations1.2.1 变换的分类1.2.2 relay/transform1.2.2.1 子函数1.2.2.2 overall问题1.2.3 tir/transform1.3 搜索空间和基于学习的transformation1.4 Target Translation1.5 Runtime Execution1.6 小结2. 逻辑组件2.1 tvm/support2.2 tvm/runtime2.3 tvm
【TVM 教程】在 Adreno™ 上部署预训练模型
最新发布
HyperAI超神经
08-16 949
本文是一个逐步教程，演示如何在 Adreno 上（不同精度）部署预训练的 PyTorch ResNet-18 模型。首先，我们需要安装 PyTorch 与 TorchVision，因为我们将使用它作为我们的模型库。除此之外，您应该已经为 Android 构建了 TVM。请参阅以下说明，了解如何构建它。在构建部分之后，构建目录中应该有两个文件：“libtvm_runtime.so” 和 “tvm_rpc”。让我们将它们推送到设备上并运行 TVM RPC 服务器。
【从零开始学深度学习编译器】一，深度学习编译器及TVM 介绍
I good vegetable a!
03-20 3493
0x0. 介绍 大家好呀，在过去的半年到一年时间里，我分享了一些算法解读，算法优化，模型转换相关的一些文章。这篇文章是自己开启学习深度学习编译器的第一篇文章，后续也会努力更新这个系列。这篇文章是开篇，所以我不会具体讲解TVM的知识，更多的是介绍一下我自己眼中的深度学习编译器是什么？以及为什么我要选择学习TVM，最后我也会给出一个让读者快速体验TVM效果的一个开发环境搭建的简要教程。 0x1. 为什么需要深度学习编译器？ 深度学习编译器这个词语，我们可以先拆成两个部分来看。 首先谈谈深度学习领域。从训练框架角
TVM 从入门到精通 | 安装 TVM (Part 1)
HyperAI超神经
11-28 2553
手把手教学之从源码安装 TVM
TVM jvmpkg 编译完成包
04-14
版本是V8.0以后的版本，源码于2022年4月中旬下载并编译通过，包含tvm中整个完整jvm的内容以及全部生成内容，方便因为编译环境备受折磨的小伙伴直接下载使用。其中包括jvm/core/target 下编译android端需要的jar包库...
tvm.tar TVM源码压缩包
09-24
TVM完整源码，自己下载，若网速不好，可能会有部分链接缺失，导致编译出错，血泪教训我知道！！！！
tvm.rar_tvm_轨道TVM全拼
09-19
标题中的“tvm.rar_tvm_轨道TVM全拼”暗示了我们正在讨论的是轨道交通行业的自动售票机（Ticket Vending Machine，简称TVM）的技术细节，特别是与单片机控制输入输出相关的控制逻辑。在轨道交通系统中，TVM是乘客...
tvm_3rdparty
07-05
当开发者克隆TVM仓库并进行构建时，`3rdparty`目录会被自动初始化和更新，以确保所有依赖项都是最新且兼容的。这通常通过配置脚本和构建系统来完成，使得开发者无需手动安装和管理每个单独的库。 7. **版本控制** ...
【tvm官网教程】张量表达与调度
B10030607的博客
04-21 1951
【tvm官网教程】张量表达与调度目的1. 调度原语1.1 te常用接口1.2 stage常用成员函数欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 目的 编译器是下一代大厂之争的关键，曾经有过
【TVM帮助文档学习】TVM语言参考
zx_ros的博客
04-01 306
Relay 是一种函数式的、可微的编程语言。它是一种面对机器学习领域的具有良好表达能力的IR(intermediate representation 中间表达)。Relay支持代数数据类型，闭包，控制流和递归，这使得它可以直接表示比基于计算图IR的(模型)更复杂的模型。Relay还包括一种使用type relation的依赖类型形式，用来处理对参数shape有复杂要求的算子的shape分析。 Relay具有良好的可扩展的，便于机器学习研究人员和开发者开发新的大规模程序转换和优化。 下面将分别描述了Relay
TVM安装教程（踩坑记录）
m0_49339981的博客
02-15 1728
TVM安装教程以及一些踩坑记录
TVM学习教程
qq_33287871的博客
01-29 2688
目录Step 1：TVM 视频介绍Step 2：研读 TVM 论文Step 3：了解 TVM 官网中可以学习的资料Step 4：上手 TVM CodeStep 5：TVM 其他相关资料 Step 1：TVM 视频介绍 https://www.bilibili.com/video/av29521815/ Step 2：研读 TVM 论文 https://www.usenix.org/system/files/osdi18-chen.pdf Step 3：了解 TVM 官网中可以学习的资料 https://tv
TVM：一种自动端到端优化的深度学习编译器
liteng607的博客
07-01 4210
现有的 DL 框架依赖于计算图 IR 来实现优化，比如自动微分（Auto Differentiation）和动态内存管理。然而计算图层级（Graph-level）的优化对硬件后端特定算子层级（Operator-level）的变换来说，往往视角太高了。这些框架大部分关注的都是服务器级 GPU 设备中的一小撮，而把目标机相关的优化委派给高度工程化的、厂家特化的算子库。这类算子库需要大量的人工调优，也因此过于特殊化（普适性差）和不透明，导致不易于在硬件平台之间移植。即使是框架支持的后端，优化计算图时也需要在以下两
TVM-初识TVM
qq_33287871的博客
01-24 3843
目录TVM简介那么TVM是什么？TVM做了哪些工作 TVM简介 随着深度学习的发展，深度学习的能力可以说是越来越强大，识别率节节攀升，与此同时，深度学习框架也变得越来越多，目前比较主流的深度学习框架包括：Pytorch、TensorFlow、MxNet、Caffe、Keras等。 一般进行深度学习任务主要包括两部分，一是训练出精度比较高的模型，然后将其部署到对应的目标机器上。 针对第一部分，自然我们可以使用各种深度学习框架，通过修改网络参数等，训练出精度比较满意的模型，一般情况下，在训练深度学习模型的时候，
TVM模型C++部署
weixin_39427234的博客
03-17 727
TVM C++部署demo
TVM系列---1.开始使用Tensor Expression
The space of Shining
08-02 2830
Author: Tianqi Chen https://docs.tvm.ai/tutorials/tensor_expr_get_started.html Tensor Expression入门 这是TVM中Tensor表达语言的入门教程。TVM使用特定于域的张量表达式来进行有效的内核构造。 在本教程中，我们将演示使用张量表达式语言的基本工作流程。 from __future__ import ...
TVM简介
热门推荐
MLer
06-25 4万+
TVM软件栈 工作流程 从已有的深度学习框架中获取一个模型并将此模型转换为计算图表示（深度学习框架的前端主要是计算图表示以及自动梯度）； 图中 Section 3 使用一些方法优化当前的计算图得到优化后的计算图（操作融合，可以将多个操作合并为一个kernel，以此节省存储中间结果的空间；数据布局转换，改变计算图中张量的存储方式以适应目标硬件设备并提升执行效率）； 图中 Section 4 针对...
tvm官方中文api
02-08
TVM是一个开源的深度学习编译器和运行时系统，官方提供了中文API文档，方便中国地区的开发者使用。TVM的中文API包括了模块注册、图优化、计算图构建等功能的详细说明，帮助开发者更好地理解和使用TVM。通过TVM官方中文API，开发者可以了解TVM的运行原理和使用方法，快速上手并使用TVM完成深度学习模型的优化和部署。同时，通过TVM的中文API文档，开发者可以更好地理解TVM的内部结构和设计理念，为自己的研究和项目提供指导。总之，TVM官方中文API的提供，使得中国地区的开发者能够更加方便地学习和使用TVM，促进了深度学习技术在中国地区的发展和应用。希望TVM官方能够继续更新和完善中文API文档，为中国地区开发者提供更好的支持和帮助。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值