早餐|第十七期 · 模型优化器对模型做了哪些优化

早餐|第十七期 · 模型优化器对模型做了哪些优化

爱学习的 OpenVINO 中文社区

内 容 来 源 | 曹 慧 燕
排 版 | 卢 书 晴
视 频 BGM | *music by audionautix.com

在这里插入图片描述
各位下伙伴们,早上好呀~
这里是 OpenVINO 早餐。

我们说在使用 OpenVINO 之前,
需要先使用模型优化器对模型进行优化。
很多小伙伴有疑问,
模型优化器对模型到底做了哪些优化?

其实这个问题的答案在开发文档中就可以找到。
今天曹老师就带大家一起来解开这个迷惑。

作者介绍

○ 曹慧燕

英特尔
IOTG Edge
AI 工程师

正餐部分

视频放映

【持续更新】吃 OpenVINO 早餐,玩转深度学习部署

文稿阅读

打开 OpenVINO 开发文档主页: https://docs.openvinotoolkit.org/,点击 Go to Guides,在 Model Optimizer Developer Guide 中找到 Model Optimization Techniques ,这里介绍了模型优化器使用的一些优化技术。

线性操作融合

将 BatchNormalization 和 ScaleShift 分解成Mul → Add 序列,融合到邻近的 Convolution 或 FullyConnected 层中,以避免不必要的内存拷贝,从而加快推理速度。

在这里插入图片描述
ResNet 优化( stride 优化)

针对 ResNet ,将大于1的 stride 从 kernel size = 1 的卷积层移动到上卷积层,从而减少中间层的运算量。

在这里插入图片描述
Grouped Convolution 融合

通过 Concat 操作将 Split 的结果按原先的顺序拼接。

在这里插入图片描述
以上这些优化在模型优化器中默认使用,可以通过 --disable_fusing 和-- disable_resnet_optimization 禁用。
另外,还可以通过 --finegrain_fusing 参数。指定对某些节点不进行融合操作。

在这里插入图片描述

今天的解密就到这里,我们下期早餐再见!

END

今天的早餐就分享到这里,希望今天的内容对大家有帮助,用餐愉快哟。如果有想法的你希望能够交流心得体会,都欢迎在留言区告诉我们。感兴趣的小伙伴赶快加入我们的节目吧! 在这里,你可以分享任何你对 OpenVINO 的想法,使用体验,或者你使用 OpenVINO 做过的项目等等。

最后谢谢大家收看,我们下期早餐再见!

原文发布2020-09-03:早餐|第十七期 · 模型优化器对模型做了哪些优化

关注我们,让开发变得更有趣👇
在这里插入图片描述

微信号:openvinodev
B站:OpenVINO 中文社区

*OpenVINO and the OpenVINO logo are trademarks of Intel Corporation or its subsidiaries.

92讲视频课+16大项目实战+源码+¥800元课程礼包+讲师社群1V1答疑+社群闭门分享会=99元   为什么学习数据分析?       人工智能、大数据时代有什么技能是可以运用在各种行业的?数据分析就是。       从海量数据中获得别人看不见的信息,创业者可以通过数据分析来优化产品,营销人员可以通过数据分析改进营销策略,产品经理可以通过数据分析洞察用户习惯,金融从业者可以通过数据分析规避投资风险,程序员可以通过数据分析进一步挖掘出数据价值,它和编程一样,本质上也是一个工具,通过数据来对现实事物进行分析和识别的能力。不管你从事什么行业,掌握了数据分析能力,往往在其岗位上更有竞争力。    本课程共包含五大模块: 一、先导篇: 通过分析数据分析师的一天,让学员了解全面了解成为一个数据分析师的所有必修功法,对数据分析师不在迷惑。   二、基础篇: 围绕Python基础语法介绍、数据预处理、数据可视化以及数据分析与挖掘......这些核心技能模块展开,帮助你快速而全面的掌握和了解成为一个数据分析师的所有必修功法。   三、数据采集篇: 通过网络爬虫实战解决数据分析的必经之路:数据从何来的问题,讲解常见的爬虫套路并利用三大实战帮助学员扎实数据采集能力,避免没有数据可分析的尴尬。   四、分析工具篇: 讲解数据分析避不开的科学计算库Numpy、数据分析工具Pandas及常见可视化工具Matplotlib。   五、算法篇: 算法是数据分析的精华,课程精选10大算法,包括分类、聚类、预测3大类型,每个算法都从原理和案例两个角度学习,让你不仅能用起来,了解原理,还能知道为什么这么
©️2020 CSDN 皮肤主题: 深蓝海洋 设计师:CSDN官方博客 返回首页