深度学习
文章平均质量分 50
xytywh
这个作者很懒,什么都没留下…
展开
-
卷积神经网络经过卷积/池化之后的图像尺寸及参数个数以及FLOPs
设输入图像尺寸为WW3,卷积核尺寸为F,步幅为S,Padding使用P,共有M个卷积核,则经过该卷积层后输出的图像尺寸为:(W-F+2P)/S + 1    *  &原创 2018-10-25 10:27:29 · 7018 阅读 · 0 评论 -
sigmoid、softmax和交叉熵损失函数
这几个概念看似简单,但很多人应该还是模模糊糊,并没有十分搞清楚,主要疑惑的点应该就是下面几个问题。1.sigmoid和softmax的关系?参考2.二分类时,最后的输出层应该是1个神经元还是2个神经元?参考3.多分类包括了两种(单标签多分类,例如常见的mnist十分类,每一个样本都只可能属于0-9中的其中一个,多标签多分类,一个样本可以属于多个标签)参考...原创 2019-06-29 17:35:13 · 6976 阅读 · 0 评论 -
概率分布之间的度量
参考:1.概率分布之间的距离度量以及python实现原创 2019-03-25 15:01:43 · 1218 阅读 · 0 评论 -
熵、相对熵(K-L散度)、交叉熵
如何通俗的解释交叉熵与相对熵?原创 2019-01-24 11:20:00 · 438 阅读 · 0 评论 -
深度学习(深度神经网络)中最基本的三个概念:Epoch, Batch, Iteration
mnist 数据集有 60000 张图片作为训练数据,10000 张图片作为测试数据。假设现在选择Batch Size = 100对模型进行训练。迭代30000次。每个 Epoch 要训练的图片数量:60000(训练集上的所有图像) 训练集具有的 Batch 个数:60000/100=600 每个 Epoch 需要完成的 Batch 个数:600 每个 Epoch ...原创 2018-06-08 16:16:24 · 31415 阅读 · 11 评论 -
k-fold validation (k折验证)
1、给定若干个模型:比如说具有不同超参数的CNN,假设有十个:2、利用现有的数据,利用交叉验证的方法计算误差,假设如上图所示,分为3折,那么一个CNN就要训练3次,选取3次的平均验证分数作为该CNN的得分;3、选择得分最高的模型;...原创 2018-10-25 10:33:39 · 1940 阅读 · 0 评论