Qualcomm® AI Engine Direct 使用手册(8)

150 篇文章 9 订阅
50 篇文章 0 订阅

Qualcomm® AI Engine Direct 使用手册(8)


4.1.2 HTP - QNN 上下文二进制大小

QNN 上下文二进制大小

QNN 使用 QNN 上下文二进制来执行神经网络。图形准备后,“QNN 上下文” 二进制”包含信息和为了更快地推理模型而进行的优化。 “QNN 上下文二进制”具有 与 QNN 模型的尺寸相比,尺寸更大。尺寸增大的原因如下:

  • 操作数:HTP 尝试并行运行尽可能多的操作。为了能够融入 VTCM,将繁重的操作拆分为较小的操作。这通常会导致数量增加 上下文二进制中需要存在的操作,导致其大小增加。例如,如果 每个操作占用 40 个字节的 Context Binary 以及上述优化前后的操作数量 是 30 和 300,000,那么我们在 Context Binary 中分别需要 1.2 KB 和 12 MB。下图展示了一个大 需要将转换操作分解为更小的操作。
    在这里插入图片描述

  • 排序和数据分页:随着操作数量的增加,Context Binary 还必须需要存储 有关操作顺序的信息以及有关数据分页的信息(需要进行哪些操作) 写入 DDR 并需要在执行期间带回 VTCM)。这些信息也有助于 到准备好的上下文二进制文件的大小。

  • 图中的常量数据:QNN 上下文二进制包含图的所有常量数据。恒定数据 其中包括卷积滤波器。这些过滤器可以填充到 QNN 上下文二进制文件中 表示内部 HTP 格式以提高性能效率,导致 QNN 上下文的大小额外增加 二进制。

Op写作指南
本节作为用户为可运行的图形开发自定义操作的指南 HTP 后端。它还包括一些示例,可以帮助用户熟悉 HTP 核心软件的不同方面。

  • QNN HTP Op 包 - 常见默认包操作使用示例
  • QNN HTP 优化实用函数使用示例
  • Op 封装的 HTP 核心接头
  • 实施行动
  • QNN HTP Op Package API 修订历史
  • 优化语法
  • QNN HTP Op 包 - Relu Op 示例
  • QNN HTP-FP16 Op 封装 - Relu Op 示例
  • 调度与分配
  • 为暂存缓冲区分配内存
  • 张量和内存布局
  • 编写 QNN HTP Op 包
  • 一般 OpPackage 中心迁移指南
  • Op 包迁移指南

网络设计建议

HTP 支持 A8、A16 和 FP16 激活。一般来说,精度以及功率和能量要求遵循: 订单 A8 < A16< FP16。因此,为了最大限度地降低功耗,应首先尝试 A8 模式并检查结果的准确性。 如果精度不够,请尝试 A16 模式,如果仍无法达到所需的精度,请转至 FP16 模式。

以下部分介绍了图形设计中的一些最佳实践,可实现 HTP 硬件的最佳使用 从性能和准确性的角度来看。

  • 性能和能源指南
  • 避免低深度激活
  • 避免低深度激活(更多示例)
  • 尽可能使用空间到深度变换
  • 降低 TCM 对性能和功能的要求
  • 激活函数的选择
  • 通道数
  • 量化 16 位激活 (A16) 与 FP16 和激活融合:性能和功耗差异
  • 避免首先将 PyTorch 模型转换为 onnx
  • 权重的 INT4 编码
  • 其他性能和能源指南
  • 准确性指南
  • 权重的对称量化
  • 建议在量化模型时始终使用权重的对称量化 以获得基于 HTP 的目标的最佳精度。建议激活数据不对称。

量化意识训练
建议尽可能使用量化感知训练以提高准确性 特别是在高分辨率图像转换模型的情况下。使用量化感知训练可以消除使用 16 位激活的需要,并且可以允许使用 8 位激活,这将提高性能和功耗。 使用量化感知训练时,请记住以下几点:

  1. 对原始浮点模型和具有 fakequant 节点的模型之间的原始框架中的输出进行比较有助于确定量化感知训练模型的质量

  2. 确保所有层/内核都有 fakequant 节点

UINT16 激活 & INT16 权重/滤波器
A16W16(int16 权重以及 uint16 激活)支持多种卷积类型的操作。这通常用于图像增强网络,但也可用于其他类型的用例。

此功能仅在选定的 SoC 上启用。 为了进一步提高精度,未来将添加每通道量化方法。

A16W16机型与A16W8、FP16机型对比预期如下:

  1. 通过训练后量化,A16W16 模型预计将比 A16W8 模型获得更好的精度。

  2. A16W16 模型预计将比 FP16 模型实现更好的功效,同时保持相似的精度结果。

A16W16 支持的卷积类型运算列表:

  1. 转换2d

  2. 深度Conv2d

  3. 转置Conv2D

  4. 完全连接

  5. 马特穆尔

  6. 批归一化

  7. 层规范

所有权重/滤波器都需要对称量化。对于Matmul,输入A必须是非对称量化的,输入B必须是对称量化的。详情请参阅HTP后端操作定义补充。

限制:由于 Hexagon 硬件限制,INT16 权重有一个特殊限制,即权重值的范围为 0x8000 到 0x7F7F,而不是完整的 16 位范围 0x8000 到 0x7FFF。使用 A16W16 时,请添加 到量化器选项。–restrict_quantization_steps “-0x8000 0x7F7F”

让步和先发制人
Yielding 和 Pre-Emption 是一种基于用户的合作实现 上下文切换。以下文档旨在帮助用户理解 不同的并发场景及其预期行为。

  • HTP产量

VTCM分享
从hexagon-v73开始,同一进程中的其他线程可以共享VTCM资源 使用 QNN HTP,使用以下页面中描述的过程:

  • VTCM分享

子系统重启 (SSR)
QNN HTP BE 特定功能,允许 CDSP 子系统自动重新启动无效连接 崩溃后。详细信息见下页:

  • QNN HTP SSR

Qmem 图(仅共享缓冲区图)
QNN HTP BE 特定功能,允许用户使用数据缓冲区进行共享访问 QNN HTP 后端处理域。使用共享缓冲区可以消除数据 在主机 CPU 和 HTP 加速器上的客户端代码之间进行复制。

  • QNN HTP Qmem 图

HTP 会话和神器使用指南

QNN 每个进程仅支持一组库。这些库必须具有相同的 SDK 版本并且 有匹配的 Hexagon 架构版本。出于说明目的,V73 Hexagon 架构 图表中将使用库;同样的准则也适用于非 V73 工件。这 下面显示了 QNN 支持的库布局。
在这里插入图片描述
为了防止不正确的 QNN 库布局,Qualcomm 建议采取以下措施:

  • 对于单个进程(后端、存根、skel 等),应提供每个库的一份副本。

  • 后端库 (libQnnHtp.so) 应使用 dlopen 显式加载,而不是作为依赖项动态链接。

  • 库应该彼此位于同一目录中(只要正确设置 ADSP_LIBRARY_PATH 来查找库,skel 就是一个例外)。

  • 不要重命名库以加载多个副本,因为这是不受支持的。

QNN 不支持在单个访问中访问 QNN 后端库 (libQnnHtp.so) 的多个副本 过程。下面描述了两种不同的布局,其中设备上存在多个后端库。

在这里插入图片描述

对于要加载的两个后端库,可以从某个库显式加载该库的第二个副本 与第一个库所在的目录不同的目录,或者在期间创建了重复的文件系统 进程执行(对于 android 目标,adb remount)。无论哪种情况,上面显示的两个工件布局 不支持。如果在运行时检测到这些布局,则会出现 QNN_COMMON_ERROR_LOADING_BINARIES 从以下 API 返回:

  • QnnBackend_registerOpPackage

  • QnnBackend_validateOpConfig

  • QnnContext_create

  • QnnDevice_create

  • QnnGraph_create

批量推理和多线程推理的好处
多线程隐藏了 CPU/HTP 通信时间 (RPC) 的成本。 在单线程推理中,HTP 硬件的利用效率不高,如下例所示。
在这里插入图片描述
将此与多线程推理进行比较。这里,第一次推理的 RPC 使用的时间被掩盖了 在第二个线程中进行推理。因此,HTP 硬件花费的空闲时间更少。同样,使用多重推论 每批次提高了权重内存的重用,从而避免重新加载权重。这里需要注意的是 激活大小是影响使用批次效益的一个因素。

  • 对于低分辨率模型,权重和激活适合 VTCM。在这种情况下,使用批量激活重用 所有激活的权重,从而提高每批的效率。

  • 对于大分辨率模型,由于激活占用更多 VTCM 空间,因此权重会被重用以减少 激活次数。这降低了每批次权重的重用效率。

例子:

对于 SNPE 2.9,SM8550 (Kailua.LA.1.1-00190 GKI.HY11-1) 在使用 snpe-parallel-run 时显示出 resnet50 大约 1.8 倍的优势。

  • 基线:使用 1 个批次和 1 个线程可实现约 1500 inf/s

  • 批处理和多线程:使用 5 个和 2 个线程的批处理可实现约 2800 inf/s

  • 17
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值