自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(471)
  • 资源 (1)
  • 收藏
  • 关注

原创 4.15 构建onnx结构模型-Max

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以Max结点进行分析。

2023-12-29 19:23:58 348

原创 4.14 构建onnx结构模型-Min

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以Min结点进行分析。

2023-12-29 19:10:36 441

原创 3.pytorch cifar10

下载的数据是numpy格式,shape:HWC, 会转换成tensor,shape:CHWtorchvision 下载不是图像原始数据,是经过处理转换的numpyplt.imshow(),输出的是HWC 格式图像信息。

2023-12-26 14:42:39 888

原创 2.pytorch iris data

该数据集包含了 150 个鸢尾花的数据,其中每个数据点都有 4 个变量(萼片长度、萼片宽度、花瓣长度、花瓣宽度)和一个目标变量(花的种类)。该数据集最初由 R.A. Fisher 在 1936 年发布。iris数据集的主要应用场景是分类问题,在机器学习领域中被广泛应用。通过使用iris数据集作为样本集,我们可以训练出一个分类器,将输入的新鲜鸢尾花归类到三种品种中的某一种。iris数据集的特征数据已经被广泛使用,也是许多特征选择算法和模型选择算法的基础数据集之一。

2023-12-26 14:41:15 875

原创 1. pytorch mnist 手写数字识别

训练集60000张图像,其中30000张来自NIST的Special Database 3,30000张来自NIST的Special Database 1。测试集10000张图像,其中5000张来自NIST的Special Database 3,5000张来自NIST的Special Database 1。

2023-12-26 14:29:55 1672 1

原创 4.13 构建onnx结构模型-Conv

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以Conv结点进行分析。

2023-12-25 15:17:45 609

原创 5.2 onnx推理显示shape 信息

导出onnx过程中,有时会不显示shape信息,导致看起来不方便。

2023-12-22 17:36:53 667

原创 4.12 构建onnx结构模型-MatMul

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以MatMul结点进行分析。

2023-12-22 17:19:04 638

原创 4.11 构建onnx结构模型-Clip

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以Clip结点进行分析。

2023-12-12 10:51:03 809

原创 4.10 构建onnx结构模型-Softmax

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以Softmax结点进行分析。

2023-12-06 19:55:13 717

原创 4.9 构建onnx结构模型-Equal

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以Equal结点进行分析。

2023-12-05 10:37:37 450

原创 4.8 构建onnx结构模型-Less

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以Less结点进行分析。

2023-12-05 10:30:05 729

原创 5.1 onnx 修改权重示例

对onnx 结构中的权重进行修改比如:原本是一个标量,修改为一个一维数组。

2023-12-05 10:18:50 682

原创 shell读取python版本

在Linux 系统上获取当前python的版本,方便进行下一步操作。

2023-12-05 10:07:38 452

原创 4.7 构建onnx结构模型-Transpose

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以transpose结点进行分析。

2023-11-28 14:57:55 950

原创 4.6.2 构建onnx结构模型-特殊情况下的Gather

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以gather结点进行分析。

2023-11-27 15:20:38 508

原创 4.6 构建onnx结构模型-Gather

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以gather结点进行分析。

2023-11-27 15:15:50 679

原创 python读取npy和dat文件信息

python读取.dat和.npy数据。

2023-11-13 22:12:26 471

原创 4.5 构建onnx结构模型-POW

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以pow结点进行分析。

2023-11-13 21:57:49 183

原创 4.4 获取onnx每个节点的输出结果

获取onnx每个节点的结果,进行输出显示、保存相关代码简单运用。

2023-11-13 11:04:05 481

原创 4.3 cut onnx结构

对现有onnx 进行剪切,得到部分onnx结构采用对应代码,可以进行剪切onnx有些情况不能简单cut,需要进一步处理,这里不做介绍。

2023-11-13 10:59:04 140

原创 4.2 onnx简化模型结构

对已有的onnx结构,进行简化操作,onnx提供两种常规操作两种本质上没用改变,都是通过调用onnxsim进行操作看个人使用时机。

2023-11-08 19:43:49 891

原创 4.1 构建onnx结构模型-Reshape

构建onnx方式通常有两种:1、通过代码转换成onnx结构,比如pytorch —> onnx2、通过onnx 自定义结点,图,生成onnx结构本文主要是简单学习和使用两种不同onnx结构,下面以reshape结点进行分析。

2023-11-05 15:22:38 1114

原创 torchrun: command not found

在运行代码时 ,遇到报错信息。

2023-11-03 10:59:50 4997 2

原创 3.2. onnx export multi_batch

将onnx bs=1 修改为多batch操作参考链接:https://www.cnblogs.com/tangjunjun/p/16500116.htmlhttps://blog.csdn.net/weixin_43863869/article/details/128638397?spm=1001.2101.3001.6650.3&utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7ECTRLIST%7ERate-3-128638397

2023-10-29 12:24:07 173

原创 3. t2t_vit inference

对vit 进行fp16推理参考链接:https://github.com/open-mmlab/mmpretrain/tree/master/configs/t2t_vitrun code :https://mmclassification.readthedocs.io/en/latest/getting_started.html#inference-and-test-a-datasethttps://mmclassification.readthedocs.io/en/latest/tools/pytor

2023-10-29 12:22:45 131

原创 2.11、自定义图融合过程与量化管线

介绍如何自定义量化优化过程,以及如何手动调用优化过程。

2023-10-29 12:21:14 666

原创 2.11、自定义图融合过程与量化管线

介绍如何自定义量化优化过程,以及如何手动调用优化过程。

2023-10-29 11:48:38 624

原创 2.10、自定义量化优化过程

如何自定义量化优化过程,以及如何手动调用优化过程。

2023-10-29 11:46:49 501

原创 2.9、自定义量化平台

将创建一个新的量化平台,定义我们自己的量化规则。

2023-10-29 11:43:27 69

原创 2.8、example

PPQ 最佳实践示例工程,在这个工程中,我们将向你展示如何充分调动 PPQ 的各项功能。

2023-10-29 11:39:16 54

原创 2.7、图调度功能

展示如何自由调度算子,并实现混合精度推理。PPQ 的图调度功能。

2023-10-29 11:38:16 82

原创 2.6、微调算法

在 PPQ 中我们目前提供两种不同的算法帮助你微调网络这些算法将使用 calibration dataset 中的数据,对网络权重展开重训练经过训练的网络不保证中间结果与原来能够对齐,在进行误差分析时你需要注意这一点在训练中使用 with ENABLE_CUDA_KERNEL(): 子句将显著加速训练过程训练过程的缓存数据将被贮存在 gpu 上,这可能导致你显存溢出,你可以修改参数将缓存设备改为 cpu。

2023-10-29 11:31:58 111

原创 2.5、校准算法

在 PPQ 中我们提供许多校准方法,这些校准方法将计算出网络的量化参数让我们调整校准算法来尝试降低误差。

2023-10-29 11:31:04 207

原创 2.4、误差分析方式

PPQ 中我们提供许多方法帮助你进行误差分析,误差分析是量化网络的第一步。

2023-10-29 11:29:43 138

原创 2.3 、执行量化后的模型

运行量化后的网络和结果。

2023-10-29 11:26:29 102

原创 2.2 onnx 误差分析

这个例子中将展示如何量化一个 onnx 模型,执行误差分析,并与 onnxruntime 对齐结果。

2023-10-29 11:21:22 144

原创 2.1 ppq量化pytorch->onnx

torchvision中加载一个模型,转换为 onnx 格式、导出 quantized graph.

2023-10-29 11:19:44 452

原创 1.量化相关了解

可量化区:这区域的算子被认为是可以量化的,它们是 input, conv, gemm 的延伸算子,PPQ 使用数值追踪技术标记这些算子,这些算子处理的运算一定是 input, conv, gemm 的计算结果。争议区:这区域的算子同时接收来自不可量化区以及可量化区的输入,所有争议区的算子延伸也是争议算子,量化这些算子是有风险的,PPQ 不能保证量化产生的影响。Executor 模块执行每一个算子时,并不会在模型中插入量化节点,而是通过一种类似于 hook 的形式,直接将量化操作添加到算子的执行逻辑中。

2023-10-29 11:14:33 145

原创 ModuleNotFoundError: No module named ‘_sqlite3‘

sqlite3 指代不明,或者出现错误,需要重新在对应位置上添加存在多个python版本,需要指定。

2023-08-01 16:51:47 4305

python 预测之美

数据分析与算法实战,全书代码都有。

2021-01-11

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除