深度学习
被月亮晒黑_
这个作者很懒,什么都没留下…
展开
-
【目标检测 深度学习】2.SSD系列算法原理
目录1.SSD系列算法简介1.1 SSD算法介绍1.1.1框架图2.详细介绍2.1主干网络介绍2.2多尺度Feature Map预测:2.3样本构造2.4损失函数2.5 SSD系列网络结构2.6使用细节2.7算法性能比较2.7.1与不同算法的比较2.7.2 数据增强对SSD算法的影响2.7.3不同尺度的输入的影响3.SSD系列算法优化及扩展3.1DSSD3.1.1综述3.1.2网络结构3.1.3实...原创 2019-05-11 23:25:46 · 1424 阅读 · 0 评论 -
【PyTorch 深度学习】1.PyTorch基础
目录1.PyTorch是什么2.Tensor2.1简介2.2操作2.2.1定义tensor2.2.2pytorch和numpy的转换2.2.3tensor 操作3.Variable4.AutoGrad自动求导5.动态图6.小练习6.1 tensor和variable练习6.2自动求导小练习1.PyTorch是什么pytorch是由Face...原创 2019-03-12 19:22:50 · 450 阅读 · 0 评论 -
【CS231n 课程笔记】第十一讲-----图像分割、目标检测与定位
目录1.语义分割转置卷积2.目标检测3.物体分割1.语义分割图像语义分割指输入图像并对图像中每个像素做分类,比如语义分割并不区分同类目标,比如下图,两头牛并不被区分出来,这是语义分割里的不足之处。因为语义分割是用类别来做切分,所以语义分割仅能通过分类实现,可以用滑动窗口找到物体。方案一:将分类图像打碎为许多小的局部图像块,然后可以用这些小块做分类,对...原创 2019-01-06 20:48:00 · 1133 阅读 · 0 评论 -
【CS231n 课程笔记】第八讲-----常见的深度学习框架,以及GPU和CPU介绍。
目录0.写在前面1.CPU VS GPU 1.1GPU 与CPU的比较 1.2性能测试 1.3实践中的问题2.深度学习框架2.1 计算图思想和深度学习框架2.2 tensorflow2.2.1代码分析2.2.2 变量保存在计算图中2.2.3 变量的更新2.2.5 优化器2.2.6 tensorboard和分布式运行2.3PyTorc...原创 2018-12-18 21:11:39 · 766 阅读 · 0 评论 -
【CS231n 课程笔记】第一到七讲的笔记
课程链接如下:https://www.bilibili.com/video/av17204303/?p=3https://study.163.com/course/courseMain.htm?courseId=1004697005&_trace_c_p_k2_=3f1ebc03f2c842c2a74865c423b36009知乎上杜克大神团队完成了CS231n官方笔记的翻译,...原创 2018-12-18 21:11:20 · 214 阅读 · 0 评论 -
【CS231n 课程笔记】第九讲----- Alexnet,VGG,Googlenet,Restnet等CNN架构
目录1.AlexNet2.VGGNet3.GoogleNetinception模块4.ResNet5.总结6.NIN7.ResNet改进8.FractalNet 分形网络9.DenseNet 密集连接卷积网络10.SqueezeNet11.课程总结1.AlexNet层结构:AlexNet于2012年被提出,一共有8层,Alexnet有...原创 2018-12-22 20:27:10 · 1968 阅读 · 0 评论 -
【CS231n 课程笔记】第十讲-----循环神经网络
目录1.RNN2.语言建模3.反向传播4.图像标注模型5.视觉问答6.多层递归神经网络7.RNN反向传播8.LSTM1.RNN之前我们看到了一种,“Vanulla”前馈网络网络,所有的网络架构都有这种基础架构,会接受一些输入,输入是固定尺寸的对象,比如一幅图片或一个向量,它在通过一些隐层后,给出单一的输出结果,如一个分类,如下图左一。但在机器学习中,有的时候...原创 2018-12-27 23:07:17 · 409 阅读 · 0 评论 -
【caffe 深度学习】11.faster rcnn数据制作
1.在以下文件夹里建立三个文件夹:名字都如图所示,其中Annotations文件夹为空文件夹,之后存储xml文件。把图片放进JPEGImages。然后开始制作Annotations和ImageSets文件夹的数据。 2.下载labelimg图片标注工具。下载地址:https://github.com/tzutalin/labelImg我这里是python2.7,我的安装命令...原创 2018-09-21 11:31:53 · 405 阅读 · 0 评论 -
【PyTorch 深度学习】4.用PyTorch实现多层网络
1.数据处理1.1导入数据我这里用的网上下载的diabetes.csv数据,首先载入数据,导入包:import torchimport numpy as npfrom torch import nnfrom torch.autograd import Variableimport torch.nn.functional as Fimport matplotlib.pyplot as...原创 2019-04-11 18:48:15 · 2113 阅读 · 1 评论 -
【PyTorch 深度学习】2.设立计算图并自动计算
1.numpy和pytorch实现梯度下降法我这里实现的是 y=x**2 的梯度下降,步骤如下:设定初始值,我这里将初始值设置为了1求取梯度在梯度方向进行参数的更新代码如下:x_tensor=torch.FloatTensor([1]) #设置初始值为1x=Variable(x_tensor,requires_grad=True) for i in range(5): ...原创 2019-04-08 21:29:02 · 439 阅读 · 0 评论 -
【目标检测 深度学习】3.Yolo系列算法原理
目录1.YoloV11.1综述1.2算法原理1.3yolov1网络结构图1.4网络结构分析1.5损失函数定义1.6网络训练1.7yolov1网络存在的问题1.8yolov1网络性能2.YoloV22.1算法原理2.2算法网络结构2.3算法性能对比3.Yolo90004.YoloV34.1YoloV3介绍:4.2改进策略4.2主干网络4.3多尺度预测(类FPN)4.4分类器4.5网络性能4.6dar...原创 2019-05-19 20:20:10 · 5816 阅读 · 0 评论 -
【目标检测 深度学习】1.目标检测算法基础介绍
目录1.目标检测问题定义1.1目标检测定义1.2目标检测vs图像分类1.3目标检测vs目标分割2.目标检测问题方法2.1传统目标检测方法到深度学习目标检测方法的变迁2.2算法基本流程2.3传统目标检测方法2.4深度学习目标检测方法2.5传统目标检测方法VS深度学习目标检测方法2.6目标检测应用场景3.传统目标检测算法3.1综述3.2Viola-Jones3.3HOG+SVM3.4 DPM3.5NM...原创 2019-05-09 17:44:58 · 2204 阅读 · 0 评论 -
【pytorch 深度学习】7.pytorch手写数字识别
1.数据集下载首先我们下载数据集并查看数据集:import os #third-party libraryimport torchimport torch.nn as nnfrom torch.autograd import Variableimport torch.utils.data as Dataimport torchvisionimport matplotlib.py...原创 2019-04-18 16:47:11 · 533 阅读 · 0 评论 -
【PyTorch 深度学习】5.PyTorch实现L1,L2正则化以及Dropout
1.Dropout原理Droupout是指在深度网络的训练中,以一定的概率随机地“临时丢弃”一部分神经元。具体来讲,Dropout作用于每份小批量训练数据,由于其随机丢弃部分神经元的机制,相当于每次迭代都在训练不同结构的神经网络。类似于Bagging方法,dropout可被认为是一种实用的大规模深度神经网络的模型集成算法。Dropout的具体实现中,要求某个神经元节点激活值以一定的概率p被“...原创 2019-04-15 14:06:18 · 7340 阅读 · 3 评论 -
【caffe 深度学习】13.deeplabv2操作
0.写在前面本次操作基于这两个博客,大家可以看看:https://blog.csdn.net/Xmo_jiao/article/details/77897109https://blog.csdn.net/ruotianxia/article/details/783319641.编译matio安装命令:sudo apt-get install libmatio-dev2.安装wgetp...原创 2019-04-26 01:52:48 · 547 阅读 · 1 评论 -
【PyTorch 深度学习】6.PyTorch理解更多神经网络优化方法
1.了解不同的优化器关于各种优化器的理解和选择问题,可以看我之前写的这篇博客:https://blog.csdn.net/qq_40314507/article/details/799332892.书写优化器代码我们分别用SGD,Momentum,RMSprop,Adam作为优化器,训练前面几篇博客的数据,看看效果如何。2.1定义网络代码如下:class module_net(nn....原创 2019-04-16 15:57:01 · 475 阅读 · 0 评论 -
【PyTorch 深度学习】3.PyTorch实现Logistic regression
1.数据读取和可视化#从 data.txt 中读入点with open('./data.txt', 'r') as f: data_list = [i.split('\n')[0].split(',') for i in f.readlines()] data = [(float(i[0]), float(i[1]), float(i[2])) for i in data_li...原创 2019-04-09 11:14:25 · 400 阅读 · 0 评论 -
【深度学习】 三大经典识别算法 R-CNN、Fast R-CNN、Faster R-CNN概述简介
1.R-CNN (14年) 1.首先用selective search的方法选出许多候选框; 2.对于每一个候选框分别执行卷积网络的操作,提取特征; 3.把卷积做好的特征放到svm分类器和Bbox reg的回归器。 缺点: 1.候选框没有共享卷积神经网络,不同的框要构造不同的神经网络(因为卷积层虽然不要求图片大小,但是全连接层有要求)。 2.分类用svm做,...原创 2018-09-25 17:06:50 · 3870 阅读 · 0 评论 -
【caffe 深度学习】10.faster rcnn在ubuntu下的训练
飞机识别:1.在此文件里修改文件faster_rcnn_end2end.sh训练次数,默认的是第一个阶段40000次,第2个阶段490000次,我这里改成1000次和2000次。实际操作的时候减压如图所示。 2.在此文件夹里打开pascal_voc.py文件: 把self.classes里的除了背景和飞机类都删掉。改掉后文件如图所示: 3.进...原创 2018-09-19 21:42:05 · 324 阅读 · 0 评论 -
【caffe 深度学习】关于错误Check failed: FLAGS_solver.size() > 0 (0 vs. 0) Need a solver definition to train.
在写train批处理文件中 运行后出现如下错误:改了很久又重新做了数据也还是如此,后来在检查批处理文件的时候发现末尾多了一个空格,将所有多余空格删除后,批处理文件正常运行,不知道其他人有没有遇到过这种错误,空格去掉后就一切正常。...原创 2018-06-08 20:17:54 · 1398 阅读 · 1 评论 -
【caffe 深度学习】8.自定义网络训练数据
1.准备数据集,下面是一些图片数据下载网址:animal: http://www.robots.ox.ac.uk/~vgg/data/pets/flower: http://www.robots.ox.ac.uk/~vgg/data/flowers/plane: http://www.robots.ox.ac.uk/~vgg/data/airplanes_side/airplanes_side.t...原创 2018-04-24 23:19:40 · 536 阅读 · 0 评论 -
【caffe 深度学习】7. win10 caffe gpu版本安装
1.准备好NVIDIA的显卡,下载安装CUDA 我这里是1060的显卡下载地址:https://developer.nvidia.com/cuda-downloads?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exelocal安装好之后把CUDA安装目录下的bin和lib\x64添...原创 2018-04-24 01:43:33 · 2316 阅读 · 0 评论 -
【caffe 深度学习】6.GoogleNet实现图像识别
1.到caffe的github上去下载训练好的GoogleNet模型https://github.com/BVLC/caffe 训练好的模型意思的一些参数比如权值和观测值都已经被训练好,都存在这个模型中。注:deploy文件是模型结构的描述文件。我们用之前第四篇博客模型可视化的方法用draw_net.py将该模型画出来: 网络比较长,层数多,宽度宽,我这里只上传一个小截图,就不把全部图片上传...原创 2018-04-22 21:14:44 · 1040 阅读 · 0 评论 -
【caffe 深度学习】5.特征图可视化以及loss和accuracy曲线可视化
1.特征图可视化: 对网络中各层特征图的可视化可用python来实现,具体实现如下:# coding: utf-8import numpy as npimport matplotlib.pyplot as pltfrom PIL import Imageimport osimport sysimport caffe#网络结构描述文件deploy_file="E:/...原创 2018-04-18 15:38:43 · 3622 阅读 · 9 评论 -
【caffe 深度学习】4.Caffe的python接口安装以及模型可视化
一. python接口安装 1.pip install protobuf 2.pip install pydot (用于绘制网络图) 3.安装graphviz并添加环境变量 网上很多,自行下载安装。添加如下环境变量: 4.修改CommonSettings.props文件 <PythonSupport> &...原创 2018-04-16 19:47:49 · 337 阅读 · 0 评论 -
【caffe 深度学习】3.各类优化器介绍
目录1.主要优化器:2.各种优化器对比:2.1SGD:2.2Momentum:2.3AdaGrad2.4Adam:2.5NAG(Nesterov accelerated gradient):2.7Adadelta:2.7RMSprop: 3.各种优化器表现4.优化器选择1.主要优化器:tf.train.GradientDescen...原创 2018-04-13 20:14:03 · 1113 阅读 · 0 评论 -
【caffe 深度学习】2.caffe文件详解
这篇博客主要是对上篇博客提到的文件作一个详解。1.MNIST数据集 下载下来的数据集被分成两部分:60000张图片的训练数据集和10000张图片的测试数据集。 每张图片包含28*28个像素,图片里的每个像素都是8位的,也就是说每一个像素值的强度介于0-255之间。2.下载的原始数据集为二进制文件,需要转换为LEVELDB或LMDB LMDB-闪电般的内存映射型数据库管理器...原创 2018-04-12 23:40:50 · 420 阅读 · 0 评论 -
【caffe 深度学习】1. mnist手写体数字识别
mnist数据集分类大致分为9步:1.下载数据集 http://yann.lecun.com/exdb/mnist/2.下载的原始数据集为二进制文件,需要转换为LEVELDB或LMDB3.修改网络模型描述文件caffe-windows\examples\mnist\lenet_train_test.prototxt4.修改超参数文件caffe-windows\examples\mnist\l...原创 2018-04-09 23:48:11 · 405 阅读 · 0 评论 -
【caffe 深度学习】9.迁移学习和Snapshot使用
迁移学习:finetune 对训练好的模型进行微调。fInetune的原理是除了最后一层外,都是载入以前训练好的模型的参数,但最后一层会重新赋值重新初始化重新训练。所以我们微调主要调的是最后一层。1.打开之前下载好的caffenet文件夹,打开readme复制此链接到浏览器,下载一个训练好的模型。下载到:打开caffe官方提供的fintune文件夹里面有:2.修改网络模型文件train_val.p...原创 2018-04-25 19:53:12 · 2502 阅读 · 1 评论 -
【tensorflow 深度学习】1.tensorflow的启动,变量的使用以及fetch和feed的使用
1.tensorflow基本概念 使用图(graphs)来表示计算任务 在被称之为会话(Session)的上下文(context)中执行图 使用tensor表示数据 通过变量(Variable)维护状态 使用feed和fetch可以为任意的操作赋值或者从其中获取数据 Tensorflow是一个编程系统,使用图(graphs)来表示计算任务,图(graph...原创 2018-05-02 19:02:51 · 280 阅读 · 0 评论 -
【tensorflow 深度学习】10.用tensorflow处理自己的数据
1.数据 再kaggle里下载猫狗的图片数据,各12500张作为训练集,下载另外12500张作为训练集。这是一个二分类问题,可以让猫的标签为0,狗的标签为1。2.步骤 (1).生成图片和图片对应标签的lists。 (2).用lists列表生成tensorflow queue队列。 (3).使用一种tensorflow中的读取器读取队列。 (4).使用一种tensorf...原创 2018-05-29 11:03:38 · 835 阅读 · 0 评论 -
【tensorflow 深度学习】8.训练图片分类模型
1.训练图片分类模型的三种方法 (1).从无到有,先确定好算法框架,准备好需要训练的数据集,从头开始训练,参数一开始也是初始化的随机值,一个批次一个批次地进行训练。 (2).准备好已经训练好的模型,权值参数也都已经确定,只训练最后一层,因为前面的参数都是经过大量图片的训练来的,所以参数都比较好,比如卷积层主要的作用的对图像特征的提取,我们要做自己的分类模型的话也得对图像进行特征提取,做...原创 2018-05-11 16:13:21 · 5396 阅读 · 0 评论 -
【tensorflow 深度学习】9.验证码识别,多任务学习做法
1.验证码的生成。 首先安装库:pip install captcha 在当前目录下新建文件夹captcha再新建文件夹images,运行程序:# coding: utf-8# In[1]:# 验证码生成库from captcha.image import ImageCaptcha # pip install captchaimport numpy as npfrom ...原创 2018-05-11 16:13:37 · 1723 阅读 · 4 评论 -
【tensorflow 深度学习】4.tensorboard可视化
1.上篇博客程序优化:主要是将学习率设置为逐渐减小import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data#载入数据集mnist = input_data.read_data_sets("MNIST_data",one_hot=True)#每个批次的大小batch_size = ...原创 2018-05-03 20:47:13 · 180 阅读 · 0 评论 -
【tensorflow 深度学习】6.RNN 递归神经网络
1.RNN介绍 要处理文字或语音问题,要把它们看成连续的整体,所以给神经网络加上了反馈回路,会把上一个时间输出的信息作为下一个时间的输入来进行处理。比如我们把一段文字分成一个个的词语,然后把这段文字输出到神经网络中,第一次X0输入第一个词,得到一个结果,把处理完的结果往下传,传到下一个时间,下个时间传入第2个词,第2个词传进来后会结合上一个词...原创 2018-05-04 00:10:36 · 163 阅读 · 0 评论 -
【tensorflow 深度学习】5.卷积神经网络mnist分类
import tensorflow as tfimport tensorflow.examples.tutorials.mnist.input_data as input_data# 读取MNIST数据集mnist = input_data.read_data_sets('MNIST_data/', one_hot=True)sess = tf.InteractiveSession()...原创 2018-05-03 21:37:59 · 352 阅读 · 2 评论 -
【tensorflow 深度学习】3.代价函数、过拟合现象、优化器
1.二次代价函数 (1) 其中,C表示代价函数,x表示样本,y表示实际值,a表示输出值,n表示样本的总数。为简单起见,同样一个样本为例进行说明,此时二次代价函数为: ...原创 2018-05-02 23:22:41 · 476 阅读 · 0 评论 -
【tensorflow 深度学习】2.非线性回归与Mnist数据集分类
1.非线性回归例子import tensorflow as tfimport numpy as npimport matplotlib.pyplot as plt#使用numpy生成200个随机点x_data=np.linspace(-0.5,0.5,200)[:,np.newaxis]#增加一个维度 使其成为200行1列noise=np.random.normal(0,0.02,x...原创 2018-05-02 21:26:40 · 636 阅读 · 0 评论 -
【tensorflow 深度学习】7.保存、载入模型模块,inception-v3图像识别
1.save模块,保存模型主要执行语句:saver = tf.train.Saver()saver.save(sess,'net/my_net.ckpt')程序如下:# coding: utf-8# In[1]:import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data# In[...原创 2018-05-08 21:00:27 · 564 阅读 · 0 评论