深度学习
炸毛的小黑猫
这个作者很懒,什么都没留下…
展开
-
深度学习计划(2)常见网络
LeNet-5 1.LeNet-5阐述了图像中像素特征之间的相关性能够由参数共享的卷积操作所提取,同时使用卷积、下采样(池化)和非线性映射这样的组合结构,是当前流行的大多数深度图像识别网络的基础。结构如下: 2.LeNet-5 有7层,包括3个卷积层,2个下采样层,3个全连接层。其中下采样层和池化层类似,但是在池化过后,对输出数据还乘上权重,加上偏差,所以得到的参数量是(1+1)x6而不是零。网络配置如下: 3.C3卷积层可训练参数并未直接连接中所有的特征图(Feature Map),.转载 2020-09-22 20:25:09 · 168 阅读 · 0 评论 -
深度学习计划(1)损失函数
1.损失函数 信息熵代表的是随机变量或整个系统的不确定性,熵越大,随机变量或系统的不确定性就越大 交叉熵,其用来衡量在给定的真实分布下,使用非真实分布所指定的策略消除系统的不确定性所需要付出的努力的大小。 交叉熵越低,这个策略就越好,最低的交叉熵也就是使用了真实分布所计算出来的信息熵。 相对熵,其用来衡量两个取值为正的函数或概率分布之间的差异 方差代价函数非常好理解,即 最小化样本标签和模型输出的距离。但我们常常不用方差函数 作为代价函数,这是因为方差代价函数的两个缺点: ...原创 2020-09-19 14:45:26 · 194 阅读 · 0 评论