深度学习
文章平均质量分 79
MuscleW
技术小菜,发帖勿喷。
展开
-
在Pytorch下,由于反向传播设置错误导致 loss不下降的原因及解决方案*
在Pytorch下,由于反向传播设置错误导致 loss不下降的原因及解决方案本人研究生渣渣一枚,第一次写博客,请各路大神多多包含。刚刚接触深度学习一段时间,一直在研究计算机视觉方面,现在也在尝试实现自己的idea,从中也遇见了一些问题,这次就专门写一下,自己由于在反向传播(backward)过程中参数没有设置好,而导致的loss不下降的原因。对于多个网络交替【描述】简单描述一下我的网络结构,...原创 2018-11-19 21:06:03 · 18910 阅读 · 2 评论 -
计算机视觉基础知识汇总 (持续更新~)
有的时候知识不用就会忘,准备写一个博客,就是为了将自己的知识做一个积累和分类。 同时也希望可以帮助到刚接触CV的朋友,看见我的博客,能够有所进步。basic structure卷积神经网络CNNs: 一种有效地特征提取网络,详细介绍.VGG-16/19: 最基础、有效的特征提取网络。链接ResNet50/101:更深的卷积神经网络。链接DenseNet:更密集的网络,充分融合每...原创 2019-03-17 21:55:48 · 727 阅读 · 1 评论 -
salient object detection 分类汇总。全!!!
在显著性物体检测领域积累了一段时间,对目前性能比较好的SOD CNNs-based 方法进行了一个分类汇总,如下图。相关的所有paper和code被总结在这个github链接中。...原创 2019-04-27 16:15:50 · 713 阅读 · 0 评论 -
卷积神经网络发展汇总,全!!!
研究生阶段接触了一年半的深度学习,对相关领域的各种网络结构也有了一定的积累。对于初学者来说,熟悉各种网络的不同,以及每个阶段的技术创新,对于训练自己的网络和提出新的idea以及选择一个好的backbone都会有很好的帮助。希望这样的总结,会对大家有所帮助。...原创 2019-04-27 16:26:52 · 3158 阅读 · 0 评论 -
MobileNets 轻量级网络 从v1到v3
MobileNet v1由谷歌2017年提出,可谓是大放异彩。深度学习的理论和实践的快速发展,项目落地越来越被更多的研究人员关注,而手机端的应用尤为重要,这就使得轻量级的网络变得至关重要,一个好的轻量级网络不但要在参数上达到轻量的需求,精度上也要表现优异。深度可分离卷积为什么第一个要写它?因为总结一句话,MobileNet v1就是把VGG中的卷积都换成了深度可分离卷积,就是这么的简单粗暴。...原创 2019-06-26 21:32:02 · 901 阅读 · 0 评论 -
目标检测学习总结
准备踏入Object Detection的学习,先建一个blog来记录下自己的学习内容。基于深度学习的目标检测学习总结 2017年4月更新.原创 2019-06-26 22:02:13 · 751 阅读 · 0 评论 -
语义分割网络总结:FCN、SegNet、U-Net、PSPNet、RefineNet到DeepLab v1~v3+
语义分割梳理写这篇博客也是想主要梳理一下最流行的几个语义分割网络,并且做一个小总结。接下来将从2014年的FCN到2018年的DeepLabv3+,来描述几个基于FCNs的深度语义分割网络的结构是如何变化。值得注意的是语义分割的任务是基于像素点的密集预测任务,其目的是将输入图像的每个像素分配一个寓意类别。FCNs(全卷积神经网络)在之前基于CNN的分割网络中存在两个问题:...原创 2019-07-08 13:25:15 · 4855 阅读 · 0 评论 -
目标检测学习之R-CNN《Region-based Convolutional Networks for Accurate Object Detection and Segmentation》
R-CNN贡献Idea引言HOG (方向梯度直方图)[https://www.jianshu.com/p/354acdcbae3f]SIFT (尺度不变特征变换)[https://blog.csdn.net/u010440456/article/details/81483145]相关工作...原创 2019-06-27 23:01:37 · 475 阅读 · 0 评论 -
目标检测学习之《Fast R-CNN》
Fast R-CNN贡献相较于R-CNN而言,Fast R-CNN共做出了3大改进提出了RoI Pooling,避免了对提取的region proposals进行缩放到224x224,然后经过pre-trained CNN进行检测的步骤,加速了整个网络的learning与inference过程,这个是巨大的改进,并且RoIPooling是可导的,因此使得整个网络可以实现end-to-en...原创 2019-07-03 16:43:10 · 138 阅读 · 0 评论 -
目标检测学习之SPP-Net《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition》
SPP Net贡献继RCNN之后,SPP-Net出现了,其主要解决RCNN对于每一个区域候选都需要首先将图片放缩到固定的尺寸,然后为每个区域候选提取CNN特征,这就会带来一些问题:速度瓶颈:重复为每个region proposal提取特征是极其费时的,Selective Search对于每幅图片产生2K左右个region proposal,也就是意味着一幅图片需要经过2K次的完整的CNN...原创 2019-07-03 21:55:46 · 239 阅读 · 0 评论 -
目标检测学习之Faster RCNN《Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks》
Faster RCNN贡献Fast-RCNN基本实现端对端(除了proposal阶段外),下一步自然就是要把proposal阶段也用CNN实现(放到GPU上)。这就出现了Faster-RCNN,一个完全end-to-end的CNN对象检测模型。...原创 2019-07-03 22:50:34 · 308 阅读 · 0 评论 -
目标检测学习之YOLO《You Only Look Once: Unified, Real-Time Object Detection》
YOLO贡献目前,基于深度学习算法的一系列目标检测算法大致可以分为两大流派:两步走(two-stage)算法:先产生候选区域 (Region Proposals) 然后再进行CNN分类(RCNN系列)。分类问题一步走(one-stage)算法:直接对输入图像应用算法并输出类别和相应的定位(YOLO系列)。回归问题YOLO算法的优点:1、YOLO的速度非常快。在Titan ...原创 2019-07-14 22:00:23 · 254 阅读 · 0 评论 -
显著性物体检测方法汇总
对目前几乎所有的利用深度学习的显著性物体检测算法进行了一个汇总,列表中主要包括公布代码或者结果的方法。链接:https://github.com/jiwei0921/SOD-CNNs-based-code-summary-/blob/master/README.md希望多大家有帮助!...原创 2019-02-12 01:28:02 · 3218 阅读 · 0 评论 -
复现R3Net: Recurrent Residual Refinement Network for Saliency Detection
论文codehttps://github.com/zijundeng/R3Net要求Python 2.7PyTorch 0.4.0torchvisionnumpyCythonpydensecrf实现细节安装环境,在此省略(可参考 here )这里强调一下, pretrained ResNeXt model 最好是从作者提供的官网下载,作者试了从官网下载,反正调了好久没调通...原创 2019-02-17 12:36:08 · 3679 阅读 · 6 评论 -
快速理解卷积神经网络VGG16/VGG19,以及每个模块的作用及意义。
VGG历史 VGGNet是牛津大学计算机视觉组(Visual Geometry Group)和Google DeepMind公司的研究员一起研发的卷积神经网络。VGGNet探索了卷积神经网络的深度与其性能之间的关系,通过反复的使用3x3的小型卷积核和2x2的最大池化层,VGGNet成功地构筑了16~19层深的卷积神经网络。VGG网络结构首先解释一下图中的结构,ABCDE分别为当时V...原创 2018-11-26 00:20:25 · 52538 阅读 · 13 评论 -
Windows搭建TensorFlow GPU环境——无错详细完整版
Ubuntu/Windos下快速搭建TensorFlow-GPU(此方法也适用Pytorch GPU环境)——详细完整版原创 2018-11-29 19:26:02 · 1228 阅读 · 0 评论 -
Ubuntu搭建TensorFlow GPU环境——无错详细完整版
前序本文介绍的方法,可以说是超级快速、简单、bug率极低的深度学习框架搭建方法,适用于TensorFlow和Pytorch的GPU/CPU环境。【完全不需要自己装CUDA和cudnn】前期准备一台带有Ubuntu/windows系统的电脑可以进行上网操作了解你自己的GPU显卡信息下载对应的驱动即可,附上一个安装显卡驱动的教程,我们这里只需安装驱动,不用自己安装CUDA和cudnn...原创 2018-11-29 20:29:25 · 3336 阅读 · 6 评论 -
深度学习基础——图像预处理中每个图片减去均值的原因(附python代码)
为什么每张图片都要减去mean值呢?在计算机视觉领域中,一定免不了的就是图像预处理中的 逐个样本减去mean值的过程,那么为什么一定要做这一步呢?其主要的原因就是,对于我们的自然图像其实是一种平稳的数据分布【即图像的每一维都服从相同的分布】。所以通过减去数据对应维度的统计平均值,来消除公共的部分,以凸显个体之间的特征和差异。下面就用一个图来直观的表示一下:可以看到减去均值后的图b,天...原创 2018-11-27 17:12:08 · 13339 阅读 · 5 评论 -
图片数据转换为csv文件(附python代码)
首先抛出两个问题:· 什么是csv文件?· 为什么要用csv文件?CSV文件:CSV逗号分隔值文件(Comma Separated value),是一种用来存储数据的纯文本文件格式,通常用于电子表格或数据库软件。CSV文件的好处:1.文件结构简单,基本上和文本的差别不大;2.可以和Excle进行转换,这是一个很大的优点,很容易进行察看模式转换,但是如果你同样的csv文件和将其转换成...原创 2018-11-27 17:27:44 · 23180 阅读 · 18 评论 -
如何提高深度学习模型的训练效果,这个小技巧可以尝试一下。
本文章来自:https://mp.weixin.qq.com/s/mrY30cwWaCnciYBFkk7-7A1:优化器。机器学习训练的目的在于更新参数,优化目标函数,常见优化器有SGD,Adagrad,Adadelta,Adam,Adamax,Nadam。其中SGD和Adam优化器是最为常用的两种优化器,SGD根据每个batch的数据计算一次局部的估计,最小化代价函数。学习速率决定了...转载 2018-11-27 20:24:59 · 3563 阅读 · 0 评论 -
TensorBoard:计算图的查看及数据无法加载进来的问题。
TensorBoardTensorBoard是一个可视化工具,能够有效地展示Tensorflow在运行过程中的计算图、各种指标随着时间的变化趋势以及训练中使用到的数据信息。常见问题:log文件加载不进去,导致生成的网址打开显示not found。生成的网址,copy到浏览器中打不开。【这里需要注意的是:你的路径不要有中文字符,否则日志文件加载不进去,楼主就犯过类似的错...原创 2018-11-28 11:08:58 · 2022 阅读 · 0 评论 -
Deeply supervised salient object detection with short connections 论文复现
DSS Model论文复现《Deeply supervised salient object detection with short connections》这篇文章是南开大学程明明教程在2017年CVPR发的一篇Saliency Detection领域的Paper,主要是借鉴HED结构,引用了short connections的方式,在结果上有了很大的提高。论文的paper和Code,请...原创 2018-11-28 11:36:52 · 2687 阅读 · 3 评论 -
使用Relu的原因及好处
为什么要使用激活函数。使用非线性激活函数的好处。Relu的好处和优点。原创 2018-12-01 19:58:44 · 10784 阅读 · 0 评论 -
ubuntu16.04+caffe+GPU+cuda8.0+cudnn5完整安装教程
Ubuntu16.04+caffe+GPU+cuda8.0+cudnn5+opencv3.1完整安装教程,以及配置python接口和matlab接口,还有一些常见问题的解答。原创 2018-12-05 11:21:41 · 985 阅读 · 0 评论 -
PyTorch中Variable变量
一、了解Variable顾名思义,Variable就是 变量 的意思。实质上也就是可以变化的量,区别于int变量,它是一种可以变化的变量,这正好就符合了反向传播,参数更新的属性。具体来说,在pytorch中的Variable就是一个存放会变化值的地理位置,里面的值会不停发生片花,就像一个装鸡蛋的篮子,鸡蛋数会不断发生变化。那谁是里面的鸡蛋呢,自然就是pytorch中的tensor了。(也就...原创 2018-12-16 11:19:16 · 18407 阅读 · 8 评论 -
基于21个项目的TensorFlow实践学习
此博客来自假期期间,针对之前接触的TensorFlow又进行了一些项目实践学习,主要总结下一些当时没理解好的概念和项目中的技巧。学习来源自何之源的《21个项目玩转深度学习》基于TensorFlow。TensorFlow中的Tensor.Tensor 并不是具体的数值,它是我们“希望”TensorFlow计算的“节点”。Tensor可以理解成为一个多维矩阵。placeholder(占位...原创 2019-07-07 10:19:06 · 435 阅读 · 0 评论