MKL-DNN学习笔记 (八)DRRN超分辩率推理代码的实现

最新推荐文章于 2024-05-29 09:47:35 发布
最新推荐文章于 2024-05-29 09:47:35 发布
阅读量748 收藏 2
点赞数
分类专栏： 超分辨率重建 MKL-DNN 文章标签： 超分辨率重建 C++ MKL-DNN DRRN
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sandmangu/article/details/102549437
版权

前面实现了DRRN所需的各个层的MKL-DNN代码模块，接下来就是用各种模块来搭积木了。

 

对《纯C++超分辨率重建DRRN --改编》的程序改写的时候要注意几点

1. 原来程序里的vl_BatchNorm+vl_Scale+vl_ReLU, 现在可以用一个BatchNorm来代替

2. 原来的vl_nnconv, 现在要改成Reorder+Convolution+Reorder来获得最大性能提升

3. 每一个残差块b输出的数据要和首单位的卷积数据做一个加法，在这里可以给残差块b的最后一个reorder加一个加法的post-ops来实现，这样也可以提升性能

4. DRRN一共有9个残差块组，每个残差块组用到的weights/bias其实是一样的，所以我们在第一组残差块里reorder好了weights之后就可以保存起来，后面的残差块就不用再reorder weights数据了

5. 因为有首单位，2x9个残差块组，尾单位 一共20层操作，每层里还有很多组计算模块，搭的时候要小心再小心，一旦出错了很难Debug。（早知道就应该从FSRCNN入手了 ...  那个模型才7层）

6. 中间2x9个残差块组里有大量的重复的内存对象，所以在第一组残差块分配好内存对象以后，后面的残差组计算要尽量的复用，不用每次都重新分配内存。我一开始没注意这个问题，第一次运行的时候12G的内存一下就消耗光了，windows直接假死...

 

原始纯C++超分辨率重建DRRN --改编代码流程和mkl-dnn版的代码流程流程对比如下

 

改写好之后赶紧运行一下

看一下运行时间

 算上1.203秒的模型加载时间，一次重建图像的过程只需要20.979秒。相比原来纯C++版本的一次重建需要几个小时性能提升巨大 :)

看来Intel的MKL-DNN还是有很多潜力可挖的 :)

 

最后代码奉上，写的很乱，仅供参考

https://github.com/tisandman555/mkldnn_study/blob/master/drrn_mkldnn.cpp

sandmangu
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
DRRN_CVPR17:我们的CVPR'17论文“通过深度递归残差网络实现图像超分辨率”的代码
05-10
DRRN 引文 如果您发现DRRN对您的研究有用，请考虑引用： @inproceedings{Tai-DRRN-2017, title={Image Super-Resolution via Deep Recursive Residual Network}, author={Tai, Ying and Yang, Jian and Liu, Xiaoming }, booktitle={Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition}, year={2017} } 其他实施 由LoSealL 来自yun_yang 来自yiyang7 实现可调节的渐变裁剪 修改your_caffe_root / src / caffe / solvers /中的sgd_sol
Intel® MKL-DNN
既然选择了远方 便只顾风雨兼程 - 永强
01-15 754
Intel® MKL-DNN 在现代英特尔架构中，缓存和内存使用效率会对整体性能产生显著影响。良好的内存访问模式可以最大限度地降低访问内存数据的额外成本，不会降低整体处理速度。若要实现这一目标，数据的存储和访问方式起着重要作用。这通常被称为数据布局。它描述了多维数组如何在内存地址空间中线性存储。 1. Intel® Math Kernel Library for Deep Neural Networks (Intel® MKL-DNN) 数据布局由二维图像的 四个字母表示。 N：批次大小，表示一个批次中的图
推荐：深度递归残留网络（DRRN）——超分辨率重建的利器
最新发布
gitblog_00003的博客
05-29 380
推荐：深度递归残留网络（DRRN）——超分辨率重建的利器 项目地址:https://gitcode.com/tyshiwo/DRRN_CVPR17 一、项目介绍 在图像处理领域，超分辨率重建是一项重要的任务，旨在将低分辨率（LR）图像提升至高分辨率（HR）。DRRN（Deep Recursive Residual Network）是一个基于深度学习的开源项目，其目标是通过递归残差结构来实现高质量的...
DRRN
Major_S的博客
03-03 459
DRRN
Intel MKL.dnn
08-02
Intel（R）用于深层神经网络的数学内核库（Intel（R）MKL-DNN）是一个用于深度学习应用程序的开源性能库。该图书馆加速了关于英特尔（R）架构的深度学习应用和框架。Intel（R）MKL-DNN包含了矢量化和线程化的构建块，您可以使用它来实现带有C和C++接口的深层神经网络（DNN）。
mkl-dnn, 用于深神经网络的Intel(R) 数学内核库( 英特尔( R ) ) MKL.zip
09-17
mkl-dnn, 用于深神经网络的Intel(R) 数学内核库( 英特尔( R ) ) MKL 英特尔的mkl仓库迁移到 https://github.com/intel/mkl-dnn 系统。 旧地址将继续可用，并将重定向到新的repo 。 请更新你的链接。用于深神经网络( 英特尔( R ) ) mkl的 Intel(R) 数学
mkl-dnn-master.zip
07-27
英特尔 MKL-DNN 是一个开源的性能增强库，能够提高在英特尔架构上运行的深度学习框架的速度。对深度学习感兴趣的软件开发人员可能听说过英特尔 MKL-DNN，但是有可能未曾使用过它。 英特尔 MKL-DNN 教程系列的开发...
mkl-dnn-0.21.5-1.5.7-API文档-中文版.zip
07-05
赠送jar包：mkl-dnn-0.21.5-1.5.7.jar； 赠送原API文档：mkl-dnn-0.21.5-1.5.7-javadoc.jar； 赠送源代码：mkl-dnn-0.21.5-1.5.7-sources.jar； 赠送Maven依赖信息文件：mkl-dnn-0.21.5-1.5.7.pom； 包含翻译后的API...
mkl-dnn-0.21.5-1.5.7-API文档-中英对照版.zip
07-03
赠送jar包：mkl-dnn-0.21.5-1.5.7.jar； 赠送原API文档：mkl-dnn-0.21.5-1.5.7-javadoc.jar； 赠送源代码：mkl-dnn-0.21.5-1.5.7-sources.jar； 赠送Maven依赖信息文件：mkl-dnn-0.21.5-1.5.7.pom； 包含翻译后的API...
mkl-dnn-0.14.zip_DNN_matlab_mkl
09-21
2. **Matlab接口**：这可能是将MKL-DNN库与Matlab环境集成的代码，使得用户可以在Matlab中方便地使用DNN模型，利用MKL的性能提升进行训练和推理。 3. **FFT实现**：可能包含了一个使用MKL的FFT实现，这将比标准的...
DNN模型实现代码（带注释）
06-02
包括环境处理、数据准备Dataset格式、DNN模型、模型训练测试
推荐项目：Intel MKL-DNN - 高性能深度学习库
gitblog_00020的博客
03-24 522
推荐项目：Intel MKL-DNN - 高性能深度学习库 oneDNN项目地址:https://gitcode.com/gh_mirrors/mk/mkl-dnn 是一个开源的、针对Intel处理器优化的深度学习推理（Inference）库。它利用了Intel数学核心库（Math Kernel Library, MKL）的优势，为机器学习和深度神经网络提供了强大的计算效率。 项目简介 MKL-...
MKL-DNN学习笔记 (五) 实现Conv层的快速计算
sandmangu的专栏
10-11 2698
上一篇我们实现了利用mkldnn做最基本的卷积计算的代码 从mkldnn文档里的这篇文章 Understanding Memory Formats里描述了memory对象的几种基本内存排列格式和类型 我们目前基于memory::format_tag::nhwc定义的内存对象的数据在内存中排列方式如下图所示 但是mkldnn更推荐我们创建基于blocked layout的内存对象，据称这样...
MKL-DNN学习笔记 (三) ReLU层的代码实现和分析
sandmangu的专栏
10-10 1682
ReLU层的实现相对比较简单，第一篇文章里用到的cpu_getting_started.cpp实际上就是一个ReLU的实现。所以我们只要分析一下这部分代码就可以了，正好借着这个机会看看整个mkldnn编程的思路 官方mkldnn的开发文档可以在这里看到https://intel.github.io/mkl-dnn/ 整个代码的流程如下 可以看到整个mkldnn的开发思路都是任何对象（例...
在Opencv-DNN-YoloP代码中加入推理视频流代码python版本
weixin_46716951的博客
12-06 2487
原github链接：https://github.com/hpc203/YOLOP-opencv-dnn 源代码： import cv2 import argparse import numpy as np class yolop(): def __init__(self, confThreshold=0.25, nmsThreshold=0.5, objThreshold=0.45): with open('bdd100k.names', 'rt') as f:
纯C++超分辨率重建DRRN --改编--（三）主函数 DRRN
juebai123的博客
10-18 598
先说明一下，前面的哪些文章中的内存分配用了  new float[Size * sizeof(float)] 这里改成 new float[Size] 即然已经指定的类型，就不用 sizeof(类型)，就是说前面的哪些程序浪费了3倍内存。 主函数： void DRRN(int up_scale) { DRRN模型 sr; // 加载 CNN 模型参数 loadModel(&s...
mkldnn理解
windmyself的专栏
05-07 2700
mkldnn的作用是为cpu运行网络加速； mkldnn是intel开发的开源项目，就是针对cpu上运行神经网络做了一些并行优化； mkldnn的github链接： https://github.com/intel/mkl-dnn mkldnn实际应用（基于paddle框架的应用）https://aistudio.baidu.com/aistudio/projectdetail/1204039 参考链接：https://blog.csdn.net/qian99/article/details/8433327
MKL-DNN学习笔记 (七) Post-ops操作
sandmangu的专栏
10-12 1230
MKL-DNN优化技术里，有一个很重要的技术就是层融合（Layer Fusion） 所谓的Layer fusion, 就是把好几层的计算合并成一层的操作里，例如下图左边的计算一共包含了3层Convolution+Sum+ReLU, 每层之间都包含了输入数据和输出数据的读写。通过读取观察每层输出的数据，我们也可以知道神经网络每层到底做了些什么，但是实际应用中我们只关心神经网络最开始的输入数据和最终...
mkl-fft1.3.0
09-25
mkl-fft1.3.0是一个用于高性能傅里叶变换的库。MKL代表英特尔数学核心库（Intel Math Kernel Library），是一套高效的数学函数库。而FFT则代表快速傅里叶变换（Fast Fourier Transform），是一种用于将信号从时域...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值