自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(21)
  • 资源 (1)
  • 收藏
  • 关注

原创 PPQ.lib中的内容(来自PPQ官网)

这是PPQ的接口库定义,该文件中定义的内容允许你在任何Python程序中嵌入PPQ的执行逻辑。

2023-07-06 11:02:48 135

原创 PPQ 自定义量化平台

PPQ已经支持许多后端,本教程说明如何在PPQ中添加你的量化后端支持。为简单起见,这里将以TargetPlatform.ACADEMIC_INT8平台为例进行说明。

2023-07-03 17:24:15 371 1

原创 PPQ QLinear函数介绍

在本次教程中将展示使用ppq TensorQuantizationConfig量化一个torch Tensor。这里使用对称量化,其中scale=2,,截断值为-128-127。

2023-07-02 15:55:23 195 1

原创 PPQ Optim Pass(PPQ优化过程)

用户需要使用自定义的optimize函数对图中的信息进行修改,量化过程可以修改图中的任何信息,但当用户试图在量化过程中修改图的结构时,请注意图上Variable的shape,dtype属性可能需要更新。

2023-07-01 17:14:16 212

原创 PPQ.executor中的内容(来自PPQ官网)

为了量化并优化神经网络模型,PPQ实现了基于Pytorch的执行引擎,该执行引擎能够执行Onnx与Caffe的模型文件,目前支持90余种常见Onnx算子,涵盖1d,2d,3d视觉、语音、文本模型。PPQ的执行引擎位于ppq.executor目录下,有两个主要部分组成:ppq.executor.torch.py文件中包含了执行引擎自身;PPQ.executor.op文件夹中则包含了不同后端的算子库。

2023-06-30 12:28:23 220

原创 PPQ.IR中的内容(来自PPQ官网)

PPQ在Onnx IR的基础上构建了自己的计算图结构。在这里,一个计算图的定义由图(BaseGraph),算子(Operation)和变量(Variable)三者组成。PPQ的计算图对象不仅保存了网络的信息结构与参数信息,同时也保存了图上的量化信息与量化参数,所有的量化过程都是围绕着这样的底层数据结构展开的。

2023-06-29 10:56:04 171 1

原创 PPQ.core中的内容(来自PPQ官网)

元类型。

2023-06-28 17:46:56 265 1

原创 PPQ中fusion的使用demo

【代码】PPQ中fusion的使用demo。

2023-06-28 10:50:16 110 1

原创 PPQ中optimization使用demo

【代码】PPQ中optimization使用demo。

2023-06-28 09:12:25 72 1

原创 PPQ中targetPlatform使用demo

【代码】PPQ中targetPlatform使用demo。

2023-06-27 18:41:27 110 1

原创 PPQ中bestPractice使用demo

【代码】PPQ中bestPractice使用demo。

2023-06-27 14:13:23 84 1

原创 PPQ中dispatch使用demo

【代码】PPQ中dispatch使用demo。

2023-06-26 16:52:46 86 2

原创 PPQ中finetune使用demo

【代码】PPQ中finetune使用demo。

2023-06-26 10:44:08 82 1

原创 PPQ中calibration使用demo

代码注释中的箱子个数是什么之后再研究...

2023-06-26 08:42:08 156 1

原创 PPQ 中analyse使用demo

参见:中的ppq/IR。

2023-06-25 10:05:47 105 1

原创 PPQ中executer使用demo

【代码】PPQ中executer使用demo。

2023-06-25 09:47:30 71 1

原创 PPQ量化onnx格式demo

【代码】PPQ量化onnx格式demo。

2023-06-25 09:44:09 304 1

原创 PPQ量化torch模型demo

【代码】PPQ量化torch模型demo。

2023-06-25 09:42:58 261 1

原创 PPQ官网用法介绍

模型量化

2023-06-21 17:56:45 849

原创 pybind11和libtorch的环境配置

注:libtorch有debug和release两种版本,但是要和pybind11一起配置,建议下载release版本,本人尝试使用debug版本没有成功。8.点击VC++目录,将包含目录设为python的include路径和pyblind的include路径。1.根据使用的torch版本下载对应的libtorch,如torch版本是1.8.2,则libtorch版本也是1.8.2。注:python版本不同会导致添加的lib文件名不一样,需要根据自己的情况配置。3.进入vs,创建新的工程项目。

2023-06-10 17:35:08 798

原创 模型部署-推理

代码最后有[0]和没有[0]分别是这样的结果。

2023-06-08 16:37:06 36

基于单片机的音乐播放器代码

1.资源中的音乐播放器有弹奏和播放两部分; 2.播放有8种功能; 3.附有代码说明及文档撰写;

2022-03-12

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除