TVM和模型优化概述

1. 从Tensorflow，Pytorch或Onnx之类的框架中导入模型。TVM可以在导入器层中从其他框架（例如ONNX，Tensorflow或PyTorch）提取模型。随着我们不断改进开源项目，TVM为每个前端提供的支持水平各不相同。如果将模型导入TVM时遇到问题，则可能需要尝试将其转换为ONNX。
2. 转换为TVM的高级模型语言Relay。在Relay中表示已导入TVM的模型。中继是神经网络的一种功能语言和中间表示（IR）。它支持：
   传统的数据流样式表示
   函数式作用域，让绑定，使其成为功能齐全的可区分语言
   允许用户混合两种编程样式的能力
   Relay对模型应用了几个高级优化，然后运行Relay Fusion Pass。为了帮助转换为中继，TVM包含一个Tensor操作员清单（TOPI），该清单具有预定义的通用计算模板。
3. 降低到张量表达（TE）表示。降低是指将较高级别的表示形式转换为较低级别的表示形式。在Relay Fusion
   Pass中，模型从较高级别的Relay表示降低为较小的子图集，其中每个节点都是一个任务。任务是用TE表示的计算模板的集合，其中模板的参数可以控制如何在硬件上执行计算。由TE模板的参数定义的特定计算顺序称为计划表。
4. 通过调优为每个任务使用AutoTVM或AutoScheduler搜索优化的计划。调整是在TE参数空间中搜索针对目标硬件优化的计划的过程。有几个优化选项可用，每个选项都需要不同级别的用户交互。优化选项包括：
   AutoTVM：用户为TE任务或TE subraph的时间表指定搜索模板。AutoTVM指导对模板定义的参数空间的搜索，以产生优化的配置。AutoTVM要求用户作为TOPI的一部分&#x