![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
模型部署
深度学习网络模型部署
Cindy_1224
这个作者很懒,什么都没留下…
展开
-
图像格式解读
原创 2023-06-20 16:18:06 · 137 阅读 · 0 评论 -
TDA4算法部署
原创 2023-06-20 14:35:52 · 334 阅读 · 0 评论 -
tensorRT 模型部署
一般来说,推理过程中,权重值的数量远小于激活值,仅仅对权重执行量化的方法能带来的压缩力度和加速效果都一般。浮点数=量化缩放scale 因子 *量化定点数, 量化的过程就是得到一个最优的scale(实数和整数的对应关系)和zero point (表示实数中的0经过量化后的对应整数)去取代浮点数, 这个任务就落到了怎么去选最优的量化阈,量化阈就是上面说的阈值 当S取大时,可以扩大量化域,但同时,单个INT8数值可表示的FP32范围也变广了,因此INT8数值与FP32数值的误差(量化误差)会增大;原创 2023-06-20 14:17:12 · 1739 阅读 · 2 评论 -
yolov7 - pose 系列CUDA 前后处理
【代码】yolov7 - pose 系列CUDA 前后处理。原创 2023-04-28 14:15:44 · 698 阅读 · 1 评论 -
模型部署三、支持多维动态batch设置
模型转换支持多维度动态batch设置。原创 2023-04-18 14:01:55 · 282 阅读 · 0 评论 -
模型部署二 、模型导出方法
【代码】模型部署二 、模型导出方法。原创 2023-04-18 13:58:41 · 219 阅读 · 0 评论 -
模型部署一
模型部署原创 2023-04-18 11:30:51 · 1218 阅读 · 0 评论