经过了一段时间的学习,对神经网络的结构有了一丢丢了解,那么,你在用的过程中,如果使用了一个神经网络,结果发现它表现的不是很好,可能在训练集上表现不好,可能在验证集上,或者是在最后的测试集,那么我们该怎么调整这个神经网络并且不影响其他的阶段呢?
这就需要正则化。
1、一个好的验证集+单一化评估指标
2、开发集和测试集要来自同一分布
3、再次强调,在大数据时代,只需要98%,1%,1%的配比
4、根据实际情况改变评估指标,比如改变权重。
5、贝叶斯最优误差:永远不会被超越。
Comparing to human-level performance
human-level performance 是指人类认知水平误差,通常可以用来估算贝叶斯误差,来代表所能达到的最小误差
对于人类认知误差的定义,应该是选已知的最小误差(医生判断X光片的例子),不过主要看你的系统的用途
end to end deeplearning
端到端的深度学习前提是要有较大的数据集