- 博客(2)
- 收藏
- 关注
转载 EM算法总结
EM算法(Expectation-Maximum)算法。 1,要解决的问题 在一些情况下,我们得到的观察数据有未观察到的隐含数据,此时我们有未知的隐含数据和模型参数,因而无法直接用极大化对数似然函数得到模型分布的参数。怎么办呢?这就是EM算法可以派上用场的地方了。 算法思路 假设未知的隐含数据为z,模型参数为θθ\theta。 已知的输入数据为: x=(x(1),x(2),.....
2018-04-19 11:20:21 550
转载 Batch normalization
传统的神经网络,只是在将样本x输入输入层之前,对x进行标准化处理(减均值,除标准差),以降低样本间的差异性。BN是在此基础上,不仅仅只对输入层的输入数据x进行标准化,还对每个隐藏层的输入进行标准化。 传统方法 Batch Normalization BN 使用(小)批计算的均值和方差对特征进行归一化,以简化优化使非常深的网络能够融合。批量统计的随机不确定性也可以作为一个正...
2018-04-16 16:15:27 162
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人