![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
原来zz
坐车厢朝着南下方向
展开
-
【深度学习】python用RNN中LSTM进行正弦函数拟合
深度学习框架:Tensorflow 0.8.0 Python:2.7.6关于LSTM的基础理解参考牛津大学的机器学习视频:Lecture 11 RNN&&LSTM, 系列课程目录:Machine Learning: 2014-2015 本文主要从具体的tf代码实现角度来进行预测。 数据的两种输入模型: ①data和label是同一个变量,整个模型相当于自回归(本文先演示第一种)原创 2017-04-28 13:43:26 · 4472 阅读 · 2 评论 -
【深度学习】Depthwise Sparable Convolution(Xception的核心模块)
Depthwise Separable Convolution1.简介Depthwise Separable Convolution 是谷歌公司于2017年的CVPR中在论文”Xception: deep learning with depthwise separable convolutions”中提出。2.结构简介对输入图片进行分通道卷积后做1*1卷积。结构如下图: 举例原创 2018-01-28 15:12:44 · 1600 阅读 · 0 评论 -
【深度学习】tensorflow加载VGG16的网络结构和模型参数
文件介绍synset.txt:标签列表 vgg16-20160129.tfmodel:pre-trained vgg16的网络结构和结点参数定义输入placeholderimages = tf.placeholder("float", [None, 224, 224, 3])加载模型with open("model/vgg16-20160129.tfmodel", mode='rb') as f:原创 2017-12-08 15:25:23 · 5164 阅读 · 0 评论 -
【深度学习】初始化笔记
He Initialization 用在使用ReLu作为激活函数的神经网络中。 初始化方式:np.random.randn((layer_dims[i],layer_dims[[i-1]))*np.srqt(2./layer_dims[i-1])原创 2017-09-28 16:25:02 · 547 阅读 · 2 评论 -
【深度学习】Tensorflow模型保存与恢复
tf.train.Saver()的定义与使用Saver对象:用于在tf中保存,恢复Session 定义model_path="/tmp/model.ckpt"saver=tf.train.Saver()Saver保存操作:saver.save(sess,model_path)save_path=saver.save(sess,model_path)Saver恢复操作:saver.restore(原创 2017-07-20 10:16:20 · 791 阅读 · 0 评论 -
【深度学习】GANs与DCGAN
GANsGANs(Generative Adversarial Networks),生成对抗网络,由Ian Goodfellow 提出。 Yann Lecun评价“the most insteresting idea in the last 10 years in ML”。下面以图片识别来简单解释一下GANs的博弈过程。 GANs同时训练两个网络。第一个网络记作判别器(Discriminator原创 2017-06-11 21:04:14 · 2445 阅读 · 0 评论 -
【深度学习】反卷积(transposed convolution)介绍
反卷积与卷积反卷积,顾名思义是卷积操作的逆向操作。为了方便理解,假设卷积前为图片,卷积后为图片的特征。卷积,输入图片,输出图片的特征,理论依据是统计不变性中的平移不变性(translation invariance),起到降维的作用。如下动图: 反卷积,输入图片的特征,输出图片,起到还原的作用。如下动图: 我们知道卷积结合池化的降维作用,将神经网络推向深度学习,开启神经网络原创 2017-06-05 20:13:40 · 18621 阅读 · 4 评论 -
【深度学习】深度学习中RNN梯度消失
RNN中梯度消失的分析原创 2017-04-23 23:17:07 · 7579 阅读 · 0 评论 -
【深度学习】RNN中梯度消失的解决方案(LSTM)
上个博客里阐述了梯度消失的原因,同时梯度消失会造成RNN的长时记忆失效。所以在本博客中,会阐述梯度消失的解决方案:①梯度裁剪(Clipping Gradient)②LSTM(Long Short-Term Memory)。梯度裁剪(Clipping Gradient) 既然在BP过程中会产生梯度消失(就是偏导无限接近0,导致长时记忆无法更新),那么最简单粗暴的方法,设定阈值,当梯度小于阈值时,原创 2017-04-26 11:50:25 · 19015 阅读 · 4 评论 -
【深度学习】yolo2目标检测 object detection从原理到实践
yolo2目标检测 object detection从原理到实践本文主要介绍经典的目标检测算法yolo2的原理以及对应实现,实现地址见github:https://github.com/mjDelta/yolo2-keras。觉得实现效果不错的同学,欢迎star,fork,follow。原理部分笔者觉得要理解yolo2的原理,最主要理解anchor box的概念以及作用,所以整篇博...原创 2018-06-07 10:51:21 · 1478 阅读 · 1 评论