深度学习
文章平均质量分 54
Ehrich wen
人工智能、算法集成、TensorRT、OpenVINO、TNN&MNN、C++后端开发
展开
-
TensorRT动态卷积转置(ConvTranspose)自定义op(动态反卷积/权重动态反卷积)
随着算法模型的不断演变,常规的模型结构已经不能满足算法人员的需求,于是衍生出形色各异的op,比如动态卷积转置,即前向传播过程中,weight也会随着输入的不同而发生改变。声明:所谓动态卷积转置指在前向传播过程中weight发生变化此处的动态卷积转置只是笔者对该op的一种称呼本文ConvTranspose只支持2D目前发现只在TensorRT中存在动态的问题,其他如onnx、OpenVINO不存在该问题动态卷积转置大概长下面这个样子。其中input是输入,weight也是输入。weight根据前原创 2022-01-10 11:39:50 · 955 阅读 · 0 评论 -
TensorRT动态卷积自定义op(多输入卷积/权重动态卷积)
随着算法模型的不断演变,常规的模型结构已经不能满足算法人员的需求,于是衍生出形色各异的op,比如动态卷积,即前向传播过程中,weight也会随着输入的不同而发生改变。声明:所谓动态卷积指在前向传播过程中weight发生变化此处的动态卷积只是笔者对该op的一种称呼TensorRT通过ConvMultiInput来实现这种卷积(多输入卷积),但是只支持INT8显式量化目前发现只在TensorRT中存在动态的问题,其他如onnx、OpenVINO不存在该问题动态卷积大概长下面这个样子。其中inpu原创 2022-01-06 17:38:51 · 2118 阅读 · 8 评论 -
TensorRT动态输入尺寸下的自定义op巨坑
首先,关于自定义插件基本问题,这里我就不再赘述了如何写一个插件:参考此处如何在python 或 C++中使用自定义插件:参考此处自定义op需要编写:getOutputDimensions,我们会根据inputs来推断output dimensions,如:nvinfer1::DimsExprs DReflectPadPlugin::getOutputDimensions(int outputIndex, const nvinfer1::DimsExprs *inputs, int nbInputs,原创 2021-11-19 17:06:41 · 1305 阅读 · 0 评论 -
解决python打包No module named 'h5py.defs'的问题
http://www.voidcn.com/article/p-sfkywxvj-bpc.htmlImportError: No module named ‘h5py.defs’在生成exe时加上一段–hidden-import=h5py.defs,就能搞定了。pyinstaller --hidden-import=h5py.defs --hidden-import=h5py.utils...原创 2019-11-29 21:36:10 · 1456 阅读 · 0 评论