深度学习
Xiacedar
如果有引用未注明来源,烦请私信联系我,删除或加上资料来源
展开
-
深度学习常见tricks
转载自VALSE 本文主要给出了在实现网络或者调节代码过程使用的以及平时看一些文章记录下来的一些小技巧,主要针对卷积网络和图像处理。就个人感受,有些技巧还是非常有效的,而且通常可以通过看开源库的一些文档或者源代码来发掘这些内容,最后能够称为自己所用。1.构造validation set 一般数据集可能不会给出验证集,所以自己会从给的训练集中按照一定比例(9:1)分离出验证集。2.增加训练数据转载 2017-11-22 18:17:34 · 332 阅读 · 0 评论 -
关于VGG16预训练的理解与实践
今天看到了迁移学习的相关内容但是,感觉并不是很清楚,问了一波大概有了比较清楚的认识,结合网上相关内容,记录如下。1.概念:迁移学习(Transfer Learning)的目标是将从一个环境中学到的知识用来帮助新环境中的学习任务。2.迁移学习的适用情况目前大多数机器学习算法均是假设训练数据以及测试数据的特征分布相同。然而这在现实世界中却时常不可行。例如我们我们要对一个任务进行分类,但是此任务中数据不充原创 2017-12-15 20:49:01 · 7867 阅读 · 0 评论 -
深度学习中的优化器(optimizer)
今天学习tensorflow的过程中看到了tf.train.GradientDescentOptimizer 、tf.train.AdamOptimizer Adam、tf.train.MomentumOptimizer 这些,发现自己对优化器的认识还仅仅停留在随机梯度下降的水平,遂找了几个博客,看了一下,现总结如下: 1.如何选择优化器 optimizer,这篇文章介绍了9种优化器,原创 2018-01-25 21:59:14 · 3751 阅读 · 0 评论 -
模型解读1--LeNet
http://yann.lecun.com/exdb/publis/pdf/lecun-01a.pdf 温故知新,越来越发现,不在于看了多少,而在于懂了多少 网络的结构如下: LeNet-5共有7层,不包含输入,每层都包含可训练参数;每个层有多个Feature Map,每个FeatureMap通过一种卷积滤波器提取输入的一种特征,然后每个FeatureMap有多个神经元。 CNN通过感原创 2017-12-16 11:17:42 · 1028 阅读 · 0 评论 -
tensorflow中的问题
ValueError: Variable rnn/basic_rnn_cell/kernel already exists, disallowed. Did you mean to set reuse=True or reuse=tf.AUTO_REUSE in VarScope? tensorflow版本的问题,0到1版本的更迭是断代式的,更换tensorflow版本可以解决,但是目前只有0.原创 2018-02-05 09:07:53 · 820 阅读 · 0 评论 -
实现txt2img
前一段时间在前人的基础上跑通了img2txt,这次参考github上面的相关代码,实现了flower数据集上的txt2img,语言相对于图像来说更加概括,如何实现wordvector到像素,这是非常难的,Generative Adversarial Text to Image Synthesis这篇文章是非常经典的,我们研究的代码也是建立在这篇论文的基础上,闲话少说。1.github上面的代码原创 2018-02-05 21:02:07 · 1839 阅读 · 1 评论 -
深度学习概念解释
参数(parameter)参数是模型中的数,它们决定了模型的性能,如果我们把模型定义为一个公式,这些参数就是其中的系数,这些参数不是我们手动设计的是根据训练得到的。超参数(hyper parameter)在训练模型的时候我们需要设定学习率等参数,这些参数是我们手动设定的,不是模型里面的数,这些是超参数。超参数决定如何得到最优参数。批次(Batches)我们在训练模型的时...原创 2018-01-29 21:00:24 · 1256 阅读 · 0 评论 -
目标检测中的概念
内容来源于互联网交并比(Intersection-over-Union,IoU)【1】目标检测中使用的一个概念,是产生的候选框(candidate bound)与原标记框(ground truth bound)的交叠率,即它们的交集与并集的比值。最理想情况是完全重叠,即比值为1。 Python实现def calculateIoU(candidateBound, groundT...原创 2018-03-16 10:57:43 · 968 阅读 · 0 评论 -
论文集
1.RCNNhttps://arxiv.org/abs/1311.2524 http://blog.csdn.net/wopawn/article/details/52133338 https://baijiahao.baidu.com/s?id=1582389133028031369&wfr=spider&for=pc原创 2018-03-16 13:37:15 · 135 阅读 · 0 评论