算法
de坚果
这个作者很懒,什么都没留下…
展开
-
Boosting & AdaBoost算法
提升和自适应提升方法 Boosting & AdaBoost 1 算法起源 在机器学习领域中,关键问题就是如何利用观测数据通过学习得到精确估计。但是,在实际应用领域中,构造一个高精度的估计几乎是不可能的。Boosting就给出了一个解决上述问很好的思路。Boosting是一种提高任意给定学习算法准确度的方法。它的思想起源于 valiant在1984年提出的 PAC ( Probabl原创 2015-12-29 09:06:59 · 6174 阅读 · 0 评论 -
Deep Residual Learning for Image Recognition
Deep Residual Learning for Image Recognition中提出的152层网络结构在ILSRC 2015获得第一名,集成后的网络在ImageNet分类错误率3.57%,作者微软研究院的何凯明等。 上图中两条曲线分别为20层和56层的“plain”网络在训练集和测试集上的错误率,这里的“plain”是指一般的无环的“直流”卷积网络。按照以往的经原创 2016-01-08 18:57:25 · 1549 阅读 · 0 评论 -
Training Very Deep Networks
这篇文章提出一种训练深层网络的训练结构-highway,主要的来源于LSTM中的阀门开关的思想。highway的提出使得可以使用梯度下降可以直接训练较深的卷积神经网络。 plain网络前向过程为: 其中H为非线性激活函数。对于highway网络来说在上述的基础上又引入了两个非线性变换T和C,则highway为: 其中T为transform gate,C为carry gat原创 2016-01-08 20:08:04 · 701 阅读 · 0 评论