深度学习部署
文章平均质量分 65
该专栏用于深度学习论文分享,论文笔记,记录自己学习的过程。
AI从入门到实践
苏州科技大学研究生在读
展开
-
3个优秀的模型调优策略
无论是 Kaggle 竞赛还是工业部署,机器学习模型在搭建起来之后都面临着无尽的调优需求。在这个过程中我们要遵循怎样的思路呢?如果准确性不够,机器学习模型在真实世界就没有什么实用性了。对于开发者们来说,如何提高性能是非常重要的工作,本文将介绍一些常用策略,包括选择最佳算法、调整模型设置和特征工程。如果你学习过正确的教程,很快就能训练起自己的第一个机器学习模型。然而想要在第一个模型上跑出很好的效果是极难的。在模型训练完后,我们需要花费大量时间进行调整以提高性能。不同类型的模型有不同的调优策略,在本文中,我原创 2021-10-23 17:14:39 · 1196 阅读 · 0 评论 -
GhostNet: 使用简单的线性变换生成特征图,超越MobileNetV3的轻量级网络 | CVPR 2020
GhostNet: 使用简单的线性变换生成特征图,超越MobileNetV3的轻量级网络 | CVPR 2020论文: GhostNet: More Features from Cheap Operations论文地址:https://arxiv.org/abs/1911.11907Introduction目前,神经网络的研究趋向于移动设备上的应用,一些研究着重于模型的压缩方法,比如剪枝,量化,知识蒸馏等,另外一些则着重于高效的网络设计,比如MobileNet,ShuffleNet等训练好转载 2021-10-10 21:43:38 · 165 阅读 · 0 评论 -
深度学习模型大小与模型推理速度的探讨
转载地址针对作者的讲解,进行浓缩精华,并做相关的笔记。01前言初学者往往不理解模型“大”、“小”的真正含义,就简单的选取计算量作为评价指标,疯狂砍计算量(backbone 换 MobileNet/ShuffleNet、Conv 换成 DepthWise Conv、以及一些奇奇怪怪的融合结构等等),把模型计算量砍了将近 10 倍,结果一部署发现速度并没有快多少,反而是把最初的 ResNet 简单砍掉几个 block 效果更好。本文不仅仅是为了给出网络的设计建议,更是希望能够有效传达性能优化的基础理论知转载 2021-10-05 23:51:36 · 1537 阅读 · 0 评论 -
深度学习工业部署整理笔记
1、一般流程数据处理有无标注好的数据,如果有标注数据,数据增广之后是否可以让模型很好的收敛;如果没有标注数据,找一找公开带标注的数据集里面有没有可以迁移学习的。高效训练因为之后模型压缩损失精度,就要提前在训练时尽可能把精度达到更高、缩短训练时间。比如大batch size和Linear scaling、warm up、Zero γ 、no bias decay等的方法。同时优先考虑mobilenet等backbone,看精度是否在要求内。听说,有条件的会搜索一下网络结构。推理引擎优化使用推理引原创 2021-09-22 00:15:51 · 986 阅读 · 0 评论 -
测试cuda安装环境成功,pytorch、tensorflow、MXnet、paddle合集
废话不多说,直接上代码。'''tensorflow2# '''# import tensorflow as tf# import os# tf.test.is_gpu_available()# tf.config.list_physical_devices('GPU')# tf.test.gpu_device_name()# import tensorflow as tf# print(tf.config.list_physical_devices('GPU'))'''tensorfl原创 2021-09-09 01:00:38 · 274 阅读 · 0 评论 -
pytorch下载速度缓慢的完美解决方案
下载pytorch或者其他国外包时,常常因为源的问题而下载缓慢。今天以pytorch1.7.1举栗子。pytorch官网查看pytorch安装命令`conda install pytorch==1.7.1 torchvision==0.8.2 torchaudio==0.7.2 cudatoolkit=11.0` -c pytorch首先,使用命令将下述网址添加conda源conda config --add channels https://mirrors.tuna.tsinghua.edu.原创 2021-09-09 00:42:10 · 3952 阅读 · 2 评论 -
PCA主成分分析方法
PCA主成分分析方法PCA: Principal Components Analysis,主成分分析。1、引入在对任何训练集进行分类和回归处理之前,我们首先都需要提取原始数据的特征,然后将提取出的特征数据输入到相应的模型中。但是当原始数据的维数特别高时,这时我们需要先对数据进行降维处理,然后将降维后的数据输入到模型中。PCA算法是专门用来对高维数据进行降维而设计,通过将高维数据降维后得到的低维数能加快模型的训练速度,并且低维度的特征具有更好的可视化性质。另外,数据的降维会导致一定的信息损失,通常我们转载 2021-09-07 15:47:12 · 890 阅读 · 0 评论