深度学习
文章平均质量分 72
有石为玉
个性化推荐,图像与视频处理,机器学习,深度学习
展开
-
主流框架对比系列(1)TensorFlow、Keras、MXNet、PyTorch
近几年来,深度学习的研究和应用的热潮持续高涨,各种开源深度学习框架层出不穷,包括TensorFlow,Keras,MXNet,PyTorch,CNTK,Theano,Caffe,DeepLearning4,Lasagne,Neon,等等。Google,Microsoft等商业巨头都加入了这场深度学习框架大战,当下最主流的框架当属TensorFlow,Keras,MXNet,PyTorch,接下来我...转载 2019-07-04 20:53:43 · 1401 阅读 · 0 评论 -
何恺明:重新思考ImageNet预训练模型
参考文章:https://mp.weixin.qq.com/s/XM1AEBVleaOe9LNe4cDaxg论文:《Rethinking ImageNet Pre-training》总结:(1)当数据量较少时,建议使用预训练模型,这样可以快速收敛,而且可以得到较好的精度;(2)数据量足够的情况下,预训练模型相比随机初始化可以更快收敛,但不能带来精度的提高。...原创 2019-01-22 10:02:10 · 1995 阅读 · 0 评论 -
keras模型保存的3种形式
目录一、保存整个模型二、保存模型结构三、保存模型权重一、保存整个模型model.save(filepath)将Keras模型和权重保存在一个HDF5文件中,该文件将包含:模型的结构 模型的权重 训练配置(损失函数,优化器,准确率等) 优化器的状态,以便于从上次训练中断的地方 前提是已经安装python的h5py包: from keras....原创 2019-01-03 15:10:02 · 5345 阅读 · 0 评论 -
keras2ncnn过程中的错误总结
1、getops使用,参见我的博客:https://blog.csdn.net/weixin_41770169/article/details/85695457 2、不支持的层(tensorflow) bash-3.2$ python /Users/xuqiong/PycharmProjects/keras2ncnn/Keras2NCNN.py -i /Users/xuqiong...原创 2019-01-03 20:13:58 · 865 阅读 · 2 评论 -
深度学习模型压缩方法和框架
模型压缩的两种方法:一、设计轻量级的模型(SqueezeNet,MobileNet,ShuffleNet等):不需要压缩。二、模型结构/内存优化:剪枝、权值量化等二、模型结构/内存优化目前的框架主要有:Deep Compression、XNorNet、Distilling、PocketFlow腾讯、transform_graph(tensorflow)框架简介:...原创 2019-01-02 17:11:15 · 1670 阅读 · 0 评论 -
深度学习模型移植的移动端框架总结
截止2018年,主流移动端框架总结:腾讯:ncnn与featurecnn对比,前者开源早,代码、文档完善;后者测试速度略微快一点小米MACE:刚开源,可能会碰到很多问题百度MDL:速度比ncnn慢 安卓 cpu类型:ARM,x86ios cpu类型:ARM 1、 tensorflowLite文档:https://tensorflow.google.cn/li...原创 2019-01-02 17:05:48 · 3740 阅读 · 1 评论 -
深度学习: ILSVRC竞赛(ImageNet竞赛)
参考:https://blog.csdn.net/jningwei/article/details/80026826ILSVRC比赛 即我们所说的 ImageNet比赛 。Large Scale Visual Recognition Challenge (ILSVRC): 由于深度学习技术的日益发展,使得机器视觉在ILSVRC的比赛成绩屡创佳绩,其错误率已经低于人类视觉,若再...转载 2018-12-18 11:25:36 · 8862 阅读 · 0 评论 -
MobileNetV2
参考:https://blog.csdn.net/u011995719/article/details/79135818转载 2018-12-18 10:43:15 · 390 阅读 · 0 评论 -
MobileNetV1
参考:https://blog.csdn.net/u011995719/article/details/78850275转载 2018-12-18 10:42:49 · 263 阅读 · 0 评论 -
年龄估计系列(4)2016.CVPR.基于多输出顺序回归的年龄识别
参考:https://blog.csdn.net/qq_14845119/article/details/79460315源自2016 cvpr,Ordinal Regression with Multiple Output CNN for Age Estimation文章主要2个贡献:(1)将传统的年龄回归问题转化为多个顺序2分类问题文章网络的整体结构如下图所示:在经过3...转载 2018-12-20 14:45:20 · 751 阅读 · 0 评论 -
目标检测模型发展史(持续补充)
对于目标检测,传统的是基于滑动窗+分类模型; 而基于深度学习的有如下分类:基于候选区域的,如R-CNN,SPP-net,Fast R-CNN,Faster R-CNN,R-FCN 端到端(End-to-End),如YOLO,SSD2014 R-CNN,SPP-Net2015 Fast R-CNN2016 Faster R-CNN,R-FCN,YOLO,SSDYOLO目前有...原创 2018-12-13 14:23:50 · 1877 阅读 · 0 评论 -
图像检测模型系列(4):从YOLOv1到YOLOv3,目标检测的进化之路
参考:https://blog.csdn.net/guleileo/article/details/80581858转载 2018-12-13 14:07:48 · 847 阅读 · 0 评论 -
CNN模型发展史:从LeNet,AlexNet,GoogleNet,VGG到ResNet,SENet,Xception,MobileNet,ShuffleNet
目录一、CNN发展历程1.1998 LeNet:开山之作2.2012 Alexnet:王者归来3.2013 ZF-Net4.2014 GoogleNet,VGG4.1 GoogleNet4.2 VGG5.2015ResNet:里程碑式创新6.2016GBD-Net、ResNeXt、DenseNet6.1 GBD-Net6.2 ResNeXt6....原创 2018-12-13 14:22:29 · 6979 阅读 · 0 评论 -
模型压缩开源库整理(持续更新)
https://blog.csdn.net/daniaokuye/article/details/82746661?utm_source=blogxgwz9原创 2018-11-26 10:08:29 · 1568 阅读 · 1 评论 -
图像检测模型系列:(3)R-FCN
原文链接:https://blog.csdn.net/WZZ18191171661/article/details/79481135论文题目:R-FCN: Object Detection via Region-based Fully Convolutional Networks论文链接:论文链接论文代码:Caffe版本链接地址;Python版本链接地址;Deformable R-F...转载 2018-08-20 11:13:27 · 2247 阅读 · 1 评论 -
基于深度学习的目标检测模型(基于候选区域的方法)
目录参考文章:https://blog.csdn.net/yzhang6_10/article/details/60467891目录 概述 数据集和性能指标 数据集 性能指标 R-CNN SPP-net Fast R-CNN Faster R-CNN 参考文章概述图像分类,检测及分割是计算机视觉领域的三大任务。图像分类模型(详情见这里)是将图像划分为单个...转载 2018-09-05 19:39:36 · 12975 阅读 · 0 评论 -
卷积神经网络系列之softmax,softmax loss和cross entropy的讲解
参考:https://blog.csdn.net/u014380165/article/details/77284921我们知道卷积神经网络(CNN)在图像领域的应用已经非常广泛了,一般一个CNN网络主要包含卷积层,池化层(pooling),全连接层,损失层等。虽然现在已经开源了很多深度学习框架(比如MxNet,Caffe等),训练一个模型变得非常简单,但是你对这些层具体是怎么实现的了解吗?你...转载 2019-02-15 14:57:26 · 189 阅读 · 0 评论 -
caffe训练自己的模型:全流程
最近做项目,将使用mobilenetv2 caffe模型,从自己准备数据,到训练, 整体走了一遍流程。 1、图像预处理融合了差不多10个年龄数据集,得到一个数量40万,1-60岁的数据集。2、生成imdb文件(1)使用python脚本,生成文件名和标签文件:train.txt,valid.txt和test.txt文件(2)修改sh脚本,生成train和valid的imdb文...原创 2019-01-30 11:47:53 · 2204 阅读 · 1 评论 -
吴恩达Neural Networks and Deep Learning:Course1Week1
目录1、整个系列包含5个course2、什么是神经网络?3、深度学习中的有监督学习4、深度学习为什么最近才迅速崛起?take off5、course1的课程安排6、问题和资源7、采访Geoffrey Hinton1、整个系列包含5个course(1)神经网络和深度学习简介:猫识别器(2)深度神经网络的超参数(3)机器学习工程结构(4)CNN:主要...原创 2019-02-27 19:52:26 · 263 阅读 · 0 评论 -
EfficientNet
https://cloud.tencent.com/developer/news/405922https://www.cnblogs.com/yumoye/p/10997528.html转载 2019-07-04 09:17:22 · 3795 阅读 · 0 评论 -
CNN模型所需的计算力(flops)以及常见层的flops分析
1、flops解释Flops: floating point operations per second的缩写,指的是每秒浮点运算次数,理解为计算速度。是一个衡量硬件性能的指标。FLOPs:可以用来衡量算法/模型的复杂度。其实也就是模型进行参数运算的次数。对于一个卷积层,假设其大小为h*w*c*n (其中 c为 input channel,n为#output channel),输出的f...原创 2019-06-28 14:42:25 · 6866 阅读 · 3 评论 -
CNN模型(1):LeNet
这次介绍LeNet:https://blog.csdn.net/silent56_th/article/details/534565223个卷积+2个池化+2个全连接,参数个数: 层次 描述 参数个数与连接数 作用 INPUT 32*32的灰度图 ...原创 2019-06-18 14:42:08 · 185 阅读 · 0 评论 -
keras xception速度优化报告
目录一、背景介绍二、keras转tensorflow后,再用tensorflow tool:graph_transforms优化2.1 keras转tensorflow2.2 tensorflow tool:graph_transforms使用步骤2.3 转换和压缩前后模型速度结果对比三、Pocketflow3.1 背景介绍3.2 学习模块3.3 超参数优化模块...原创 2019-05-12 16:56:55 · 1437 阅读 · 1 评论 -
深度学习中 GPU 和显存分析
深度学习最吃机器,耗资源,在本文,我将来科普一下在深度学习中: 何为 “资源” 不同操作都耗费什么资源 如何充分的利用有限的资源 如何合理选择显卡 并纠正几个误区: 显存和 GPU 等价,使用 GPU 主要看显存的使用? Batch Size 越大,程序越快,而且近似成正比? 显存占用越多,程序越快? 显存占用大小...转载 2019-05-09 11:02:13 · 395 阅读 · 0 评论 -
caffe使用预训练的模型finetune
首先明确预训练好的模型和自己的网络结构是有差异的,预训练模型的参数如何跟自己的网络匹配的呢:参考官网教程:http://caffe.berkeleyvision.org/gathered/examples/finetune_flickr_style.html--If we provide theweightsargument to thecaffe traincommand, th...转载 2019-05-06 11:44:08 · 576 阅读 · 0 评论 -
轻量化模型介绍:squeezenet, mobilenet, shufflenet, xception
参考:https://baijiahao.baidu.com/s?id=1589005428414488177&wfr=spider&for=pc目录一、引言二、轻量化模型2.1 SqueezeNet2.2 MobileNet2.3 ShuffleNet2.4 Xception三、网络对比一、引言自 2012 年 AlexN...转载 2019-05-05 15:57:48 · 1286 阅读 · 0 评论 -
tensorflow打印graph
参考:https://blog.csdn.net/cooco369/article/details/82999172from tensorflow.python.framework import tensor_utilfrom google.protobuf import text_formatimport tensorflow as tffrom tensorflow.python...转载 2019-01-07 14:41:18 · 3779 阅读 · 0 评论 -
年龄估计系列(1)年龄性别调研:论文阅读和github资源汇总/数据库/挑战/思考
目录一、论文阅读和github资源汇总1.1 论文1.1.12012.人脸图像的年龄估计研究1.1.22013.Age Estimation Face Images_Human vs Machine Performance1.1.32015.Age and Gender Classification Using Convolutional Neural Networks....原创 2018-12-13 17:24:41 · 4629 阅读 · 9 评论 -
图像分类算法的优化技巧
转自:https://blog.csdn.net/u014380165/article/details/85268719论文:Bag of Tricks for Image Classification with Convolutional Neural Networks论文链接:https://arxiv.org/abs/1812.01187论文复现对很多人而言难度都比较大,因为常常涉...转载 2019-01-18 15:26:00 · 334 阅读 · 0 评论 -
Auto-DeepLab图像语义分割架构(李飞飞等)
论文地址:https://arxiv.org/pdf/1901.02985v1.pdf参考文章:https://mp.weixin.qq.com/s/xbkFUfJbaw_h_bCZj3pdAQ斯坦福大学李飞飞组的研究者提出了 Auto-DeepLab,其在图像语义分割问题上超越了很多业内最佳模型,甚至可以在未经过预训练的情况下达到预训练模型的表现。论文主要有如下4个方面的贡献:...翻译 2019-01-18 15:47:11 · 2546 阅读 · 0 评论 -
MORAN不规则文本纠正:刷新多个OCR数据集最优算法
论文地址:https://arxiv.org/pdf/1901.03003.pdf参考文章:https://mp.weixin.qq.com/s/J5DGF3JRZxk1-fAQSQNvkQ一、论文简介MORAN:针对场景文本识别的不规则文本纠正算法MORAN文本识别算法由矫正子网络MORN和识别子网络ASRN组成,在MORN中设计了一种新颖的像素级弱监督学习机制用于不规...翻译 2019-01-18 16:00:53 · 3361 阅读 · 0 评论 -
caffe系列:用训练好的模型来分类
参考:https://www.cnblogs.com/denny402/p/5111018.html转载 2019-04-07 23:19:08 · 330 阅读 · 0 评论 -
吴恩达Neural Networks and Deep Learning:Course1Week2
1、二分类输入表示:逻辑回归:原创 2019-03-01 15:04:12 · 323 阅读 · 0 评论 -
Caffe中BN(BatchNorm ) 层参数:均值、方差和滑动系数说明
Caffe 的 BN(BatchNorm ) 层共有三个参数参数:均值、方差和滑动系数,BN层结构如下:layer { bottom: "res2a_branch2b" top: "res2a_branch2b" name: "bn2a_branch2b" type: "BatchNorm" batch_norm_param { use...转载 2019-02-14 14:12:30 · 5502 阅读 · 0 评论 -
查看linux服务器gpu使用情况
指令:nvidia-smi参数解释:表格中会显示显卡的一些信息,第一行是版本信息,第二行是标题栏,第三行就是具体的显卡信息了,如果有多个显卡,会有多行,每一行的信息值对应标题栏对应位置的信息。 * GPU:编号,这里是0和1* Fan:风扇转速,在0到100%之间变动,第一个是29% * Name:显卡名,这里两块都是GeForce* Temp:显卡温度,第一个是60摄氏度 ...原创 2019-02-13 10:40:55 · 8873 阅读 · 2 评论 -
介绍一篇对卷积理解很到位的文章
https://blog.csdn.net/bitcarmanlee/article/details/54729807转载 2018-08-17 10:30:50 · 361 阅读 · 0 评论 -
图像检测模型系列:(2)基于深度学习的目标检测模型(基于候选区域的方法)
目录参考文章:https://blog.csdn.net/yzhang6_10/article/details/60467891目录 概述 数据集和性能指标 数据集 性能指标 R-CNN SPP-net Fast R-CNN Faster R-CNN 参考文章概述图像分类,检测及分割是计算机视觉领域的三大任务。图像分类模型(详情见这里)是将图像划分为单个...转载 2018-08-20 10:31:10 · 7961 阅读 · 0 评论 -
【深度学习图像识别课程】tensorflow实现CNN系列:(2)代码实现
一、Tensorflow中的CNNTensorflow中的CNN与经典的CNN一样,都是卷积层、最大池化层、全链接层的混合。二、代码实战1、数据集from tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets(".", one_hot=True, reshap...原创 2018-05-15 19:04:01 · 1866 阅读 · 0 评论 -
【深度学习图像识别课程】keras实现CNN系列:(9)bottleneck特征生成
一、bottleneck特征说明将所有图像穿过(VGG16去掉最后全连接层)得到输出,作为新的输入。 二、bottleneck特征提取代码1、加载预处理图像库from keras.applications.vgg16 import preprocess_inputfrom keras.preprocessing import imageimport numpy as ...原创 2018-05-15 17:22:27 · 2780 阅读 · 1 评论 -
【深度学习图像识别课程】keras实现CNN系列:(2)CNN过滤器激活图可视化举例:汽车
(1)导入图像import cv2import scipy.miscimport matplotlib.pyplot as plt%matplotlib inline# TODO: Feel free to try out your own images here by changing img_path# to a file path to another image on y...原创 2018-05-08 16:58:50 · 1591 阅读 · 0 评论