deep learning
文章平均质量分 93
青青大肥羊
一个学艺不精的半料子
展开
-
反向传播和梯度消失
注:最近想把以前写的笔记拿出来整理一下,因为是直接从蚂蚁笔记复制粘贴过来的,所以格式上可能有些不规范,将就着看看吧,懒得再改了……一、经验风险最小化统计机器学习算法由模型、策略和算法三个要素构成,当选择了一种算法模型后,下一步就要考虑选择什么样的策略或准则来最优化模型损失函数是机器学习中用于衡量模型一次预测结果好坏的目标函数常用的损失函数有: 1、0-1损失函数:非凸函数,...原创 2018-06-04 17:06:27 · 1942 阅读 · 0 评论 -
卷积神经网络-由简单到复杂
matlab中BP神经网络训练误差很大的原因; 1、没归一化 2、没初始化 3、数据结构问题 4、学习函数选择不当 5、隐藏层设置不当 6、数据太少,摆动不大卷积神经网络的参数调节: 一般说来,提高网络泛化能力的主要方法有: 1、正则化 2、增加网络层数 3、使用正确的代...转载 2018-06-04 17:17:40 · 481 阅读 · 0 评论 -
The One Hundred Layers Tiramisu: Fully Convolutional DenseNets for Semantic Segmentation
今天介绍一篇文章,FCN和DenseNet的超强结合体,2017CVPR,一起来欣赏下吧!文章地址:https://arxiv.org/abs/1611.093261、 FC-DenseNet提出背景FCN:FCN是首个在传统CNN的基础上解决像素级语义分割问题的网络。同过加入上采样层,使得输出图像尺寸和输入一样大小,也即网络的输入可以是任意大小的图像,不需要像AlexNet那样需要统...原创 2018-06-11 22:04:46 · 946 阅读 · 0 评论 -
全卷积神经网络FCN
卷积神经网络(CNN)介绍传统CNN的强大之处就在于它的多层结构能自动学习特征,并且可以学习到多个层次的特征:较浅的卷积层感知域较小,学习到一些局部特征;较深的卷积层感知域较大,能够学习到更加抽象的特征。这些抽象特征对物体的方向、大小、位置等敏感性更低,从而有助于识别性能的提高。缺点:抽象的特征对分类很有帮助,可以判断出一幅图像中的物体属于哪一类。但由于抽象特征丢失了物体的一些细节,不能很...原创 2018-06-05 15:24:18 · 5820 阅读 · 1 评论 -
GAN及其变体CGAN、WGAN
生成式对抗网络GAN(无监督)GAN由Goodfellow在2014年提出,启发自博弈论中的二人零和博弈。由一个生成模型G和一个判别模型D组成。生成模型捕捉样本数据的分布,判别模型是一个二分类器,判别输入的数据是真实数据还是生成的数据。G和D一般都是非线性映射函数,例如多层感知器、卷积神经网络等。生成模型输入的是一个服从某一简单分布(高斯分布)的噪声变量z,输出的是与训练图像相同尺寸的伪图...原创 2019-01-14 15:54:49 · 3011 阅读 · 0 评论