【TVM帮助文档学习】TVM语言参考

已于 2022-04-11 14:44:38 修改
阅读量283 收藏 1
点赞数
分类专栏： TVM官方文档翻译 文章标签： 深度学习
于 2022-04-01 13:55:53 首次发布
原文链接：https://tvm.apache.org/docs/reference/langref/index.html#introduction-to-relay
版权

本文翻译自Language Reference — tvm 0.9.dev0 documentation

本文档提供TVM的嵌入式语言和IRs的参考。

Relay介绍

Relay 是一种函数式的、可微的编程语言。它是一种面对机器学习领域的具有良好表达能力的IR(intermediate representation 中间表达)。Relay支持代数数据类型，闭包，控制流和递归，这使得它可以直接表示比基于计算图IR的(模型)更复杂的模型。Relay还包括一种使用type relation的依赖类型形式，用来处理对参数shape有复杂要求的算子的shape分析。 Relay具有良好的可扩展的，便于机器学习研究人员和开发者开发新的大规模程序转换和优化。
下面将分别描述了Relay中的语法、类型系统、代数数据类型和操作符

Relay表达式

Relay的类型系统 

Relay的代数数据类型 

Relay的代数数据类型 

混合脚本 

下面的页面描述了TVM混合脚本前端，它使用软件仿真来支持一些在TVM中没有正式支持的功能。

混合前端语言参考 

zxros10
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
TVM Compiler中文教程：TVM部署SSD模型
Mars_WH的专栏
06-03 2012
部署SSD模型 我们使用GluonCV预训练SSD模型和转换成Relay IR中间表示 import tvm from matplotlib import pyplot as plt from tvm.relay.testing.config import ctx_list from tvm import relay from tvm.contrib import graph_runtime f...
全文翻译（全文合集）：TVM: An Automated End-to-End Optimizing Compiler for Deep Learning
吴建明wujianming_110117
10-29 716
全文翻译（全文合集）：TVM: An Automated End-to-End Optimizing Compiler for Deep Learning 摘要 人们越来越需要将机器学习应用到各种各样的硬件设备中。现在的框架依赖于特定于供应商的算子库，针对窄带的服务器级GPU进行优化。将工作负荷部署到新平台，如移动电话，嵌入式设备和加速算子（如FPGA，ASIC）-需要大量手动操作。 提出了TVM，一个开源图形级别的编译器和算子级优化，提供高效跨多个应用程序移植到深度学习工作负荷硬件后端。TVM解决了深度学
tvm-0.8.0-1.5.7-API文档-中文版.zip
07-06
赠送jar包：tvm-0.8.0-1.5.7.jar； 赠送原API文档：tvm-0.8.0-1.5.7-javadoc.jar； 赠送源代码：tvm-0.8.0-1.5.7-sources.jar； 赠送Maven依赖信息文件：tvm-0.8.0-1.5.7.pom； 包含翻译后的API文档：tvm-0.8.0-1.5.7-javadoc-API文档-中文(简体)版.zip； Maven坐标：org.bytedeco:tvm:0.8.0-1.5.7； 标签：bytedeco、tvm、中文文档、jar包、java； 使用方法：解压翻译后的API文档，用浏览器打开“index.html”文件，即可纵览文档内容。 人性化翻译，文档中的代码和结构保持不变，注释和说明精准翻译，请放心使用。
【TVM帮助文档学习】通过示例分析TVM代码流程
zx_ros的博客
04-24 1109
了解TVM代码颇具挑战性，它的各组件之间的交互非常隐晦。 在本指南中，我们将通过一个简单的示例来说明模型编译过程中的关键组成。 对于每一个重要的步骤，我们都展示了它在代码库中的实现位置，以便新开发人员和感兴趣的用户更快地深入代码库。 代码结构概述 在TVM代码仓库根目录下有如下子目录，它们组成了TVM代码库： src- 算子编译和部署运行时C++代码 src/relay-Relay（一种用于深度学习框架的函数式IR）的实现 python- src中C++函数和对象的Python封装前端. ...
TVM：端到端自动深度学习编译器（244页PPT）
05-11
陈天奇给了关于TVM的报告，TVM: An End to End Automated Deep Learning Compiler。
【TVM帮助文档学习】混合前端语言参考
zx_ros的博客
04-11 221
本文翻译自Hybrid Frontend Language Reference — tvm 0.9.dev0 documentation 概述 这种混合前端允许用户编写一些尚未得到TVM官方支持的习惯用法的初步版本 特征 软件仿真 同时支持软件仿真和编译。在定义一个函数时，你需要使用tvm.te.hybrid.script装饰器来指示它是一个混合函数: @tvm.te.hybrid.script def outer_product(a, b): c = output_tensor..
Apache TVM 是一个机器学习编译器框架
02-06
Apache TVM 是一个机器学习编译器框架，用于 CPU，GPU 和机器学习加速器 Apache TVM 是一个开放源代码的机器学习编译器框架，用于 CPU，GPU 和机器学习加速器
tvm-0.8.0-1.5.7-API文档-中英对照版.zip
07-03
包含翻译后的API文档：tvm-0.8.0-1.5.7-javadoc-API文档-中文(简体)-英语-对照版.zip； Maven坐标：org.bytedeco:tvm:0.8.0-1.5.7； 标签：bytedeco、tvm、中英对照文档、jar包、java； 使用方法：解压翻译后的API...
TVM share-lib build so库包
04-14
版本是V8.0以后的版本，源码于2022年4月中旬编译通过，包含build文件夹下全部生成内容，方便因为编译环境备受折磨的小伙伴直接下载使用。
【tvm官网教程】开发者教程
B10030607的博客
04-22 351
【tvm官网教程】开发者教程目的1. 自定义pass2. 使用TVM Pass Infra3. 自定义数据类型 目的 TVM是一个框架，它抽象了机器学习加速器的异质性。有时，用户可能需要自定义一些分析和IR转​​换，以使TVM适应自己的专用硬件。本教程可帮助用户在TVM中编写自定义通行证。 1. 自定义pass 2. 使用TVM Pass Infra 3. 自定义数据类型 ...
tvm.relay学习（一）——relay介绍
weixin_42164269的博客
12-05 4785
relay是一种功能多样的编程语言，用于机器学习系统表达的中间表示。relay支持代数数据类型，闭包，控制流和递归，从而可以直接表示比基于计算图的IR更复杂的模型。relay还包括一种使用类型关系的依赖类型的形式，来处理对参数形状有复杂的要求的操作符的形状分析。relay在设计上是可扩展的，这使得机器学习的研究人员和实践者可以很容易地开发新的大型程序转换和优化。 ...
TVM Compiler中文教程：使用TVM编写可调模板和使用自动调优器
Mars_WH的专栏
06-14 4831
文章目录使用TVM编写可调模板和使用自动调优器加载依赖库第一步：定义搜索空间参数化调度使用更好的空间定义API第二步：搜索空间在TVM中使用自动调优器开始调优 使用TVM编写可调模板和使用自动调优器 这是TVM中auto-tuning模块的入门教程。 auto-tuning分两个步骤：第一步定义搜索空间；第二步是运行搜索算法来探索这个空间。在本教程中，你可以了解如何在TVM中执行这两个步骤。下面通...
TVM Compiler中文教程：TVM调度原语（Schedule Primitives）
Mars_WH的专栏
06-10 7902
文章目录TVM调度原语（Schedule Primitives）分裂split平铺tile TVM调度原语（Schedule Primitives） TVM是用于高效内核代码构建的版本领域专用语言（Domain-Specialed-Language，DSL） 。 这篇教程，我们将展示通过TVM提供的各种原语怎么去调度计算。 from __future__ import absolute_impor...
TVM Compiler中文教程：TVM.Relay使用外部库
Mars_WH的专栏
06-03 3558
文章目录TVM.Relay中使用外部库创建一个简单的网络使用cuda后端构建和运行卷积层使用cuDNN实现验证结果结论 TVM.Relay中使用外部库 这篇教程介绍怎么在Relay中使用cuDNN、cuBlas这样的外部库。 Relay在内部使用TVM生成特定目标的代码。例如，使用cuda作为后端，TVM为用户提供的网络生成所有层的cuda kernel代码。但是有时，将设备厂商提供的外部库合并到...
Relay中间表示介绍
weixin_42164269的博客
01-22 1769
目录 介绍 用Relay构建一个计算图 介绍 这篇文章介绍Relay——第二代NNVM。我们期望的读者有两类背景，有编程语言开发经历和对计算图表示熟悉的深度学习框架开发人员。 我们在这里简要总结设计目标，并将在本文的后半部分涉及这些要点。 支持传统的数据流样式的编程和转换。 支持功能样式的作用域，绑定并使其成为功能齐全的可区分语言。 能够允许用户混合两种编...
将VM放入TVM：中继虚拟机
weixin_42164269的博客
02-13 1260
将VM放入TVM：中继虚拟机 Relay是一种新的程序表示形式，它可以表示和优化大量的机器学习程序。不幸的是，通过支持一组更具表现力的程序，我们引入了一些新的执行挑战。 Relay的解释器可以执行完整的语言，但是有明显的限制，使其不适合生产部署。它被构造为执行AST遍历以执行程序的低效率解释器。这种方法在概念上很简单，但是效率很低，因为AST遍历很大程度上依赖于间接。 编译动态代码还面临其他...
利用TVM优化ARM GPU上的移动深度学习
u012101561的博客
08-09 6082
原文地址：https://tvm.ai/2018/01/16/opt-mali-gpu.html 随着深度学习的巨大成功，对移动设备部署深度神经网络的需求正在迅速增长。与我们在桌面平台上的工作类似，在移动设备中使用GPU可以同时提高推理速度和能效。但是，大多数现有的深度学习框架都不能很好地支持移动GPU。难点在于移动GPU架构和桌面GPU架构之间的差异。这意味着在移动GPU上进行优...
TVM Compiler中文教程：TVM如何优化CPU GEMM(矩阵乘法)
Mars_WH的专栏
06-13 4920
文章目录TVM如何优化CPU GEMM(矩阵乘法)准备和基线Opt1：分块Opt2：向量化Opt3：循环排布permuteOpt4：数组打包Opt5：为块写cacheOpt6：并行 TVM如何优化CPU GEMM(矩阵乘法) TVM提供抽象接口，允许用户分别描述算法和算法的实施组织（所谓的调度Schedule）。通常，写高性能调度的算法时，会破坏算法的可读性和模块性。此外，尝试各种看似有用的调度是...
python tvm
最新发布
09-16
TVM是一个支持深度学习模型优化和部署的开源框架。通过使用TVM的Python接口，您可以编译、优化和执行深度学习模型。使用TVM的Python接口，您可以加载模型、定义输入形状，并且还可以进行其他的模型配置操作。 为了...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值