- 博客(6)
- 收藏
- 关注
转载 BPTT深度理解
本博客适合那些BP网络很熟悉的读者一 基本结构和前向传播符号解释:1. cltctl:t时刻第l层的神经元的集合,因为cltctl表示的是一层隐藏层,所以图中一个圆圈表示多个神经元。2. hlthtl:第l层在t时刻的输出。因为hlthtl是一层隐藏层的输出,所以表示的是一个向量。3. LjLj:表示的是在j时刻,网络的输出的值和目标输出值的平方差,L表示的是所有时刻的平方差的和。4. WvWv:...
2018-04-27 21:07:36 7861 1
转载 从boost到Adaboost再到GBRT-GBDT-MART
先弄明白以下三个公式:1)Boost(提升法)=加法模型(即基函数的线性组合)+前向分步算法+损失函数2)Adaboost=Boost+损失函数是指数函数(基函数可以任意)3)提升树=Boost+基函数是决策树(损失函数可以任意) 由此可以看出:1)Boost是一种算法框架,而这种框架是由加法模型和前向分步算法构成的。2)Adaboost和提升树都是Boost的子集,都是由限定了Boost中某一部...
2018-04-15 16:53:38 229
转载 Bagging和Boosting 概念及区别
Bagging和Boosting都是将已有的分类或回归算法通过一定方式组合起来,形成一个性能更加强大的分类器,更准确的说这是一种分类算法的组装方法。即将弱分类器组装成强分类器的方法。首先介绍Bootstraping,即自助法:它是一种有放回的抽样方法(可能抽到重复的样本)。1、Bagging (bootstrap aggregating)Bagging即套袋法,其算法过程如下:A)从原始样本集中抽...
2018-04-08 00:30:13 127
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人