机器学习
三好街扛把子
本科:东北大学自动化
研究生:东北大学系统工程
展开
-
LSTM
原创 2020-08-20 11:19:15 · 217 阅读 · 0 评论 -
SVM的KTT条件
原创 2020-08-04 16:00:33 · 407 阅读 · 0 评论 -
SVM的目标函数
原创 2020-08-04 15:59:44 · 1495 阅读 · 0 评论 -
逻辑回归的目标函数
原创 2020-08-03 13:56:22 · 804 阅读 · 0 评论 -
Adam RMSprop 动量梯度下降
原创 2020-07-13 14:44:26 · 259 阅读 · 0 评论 -
修正线性单元Relu
Relu = rectified linear unit修正指的是,取值大于0使用Relu函数而不是Sigmoid函数的原因是:在x较大时,Sigmoid函数值接近于1,导数接近0,梯度下降特别慢。而Relu函数的梯度在X>0时一直为1,梯度下降快...原创 2019-09-04 14:36:42 · 2240 阅读 · 0 评论 -
bootstrap采样技术和Jackknife采样技术的思想
从统计学的角度来说,总体可能永远都无法知道,能利用的只有有限的样本,那么样本该怎样利用呢?Bootstrap的思想是:既然样本是抽出来的,那何不从样本中再抽样(Resample)?Jackknife的思想是:既然样本是抽出来的,那在作估计、推断的时候“扔掉”几个样本点效果怎么样?两种采样技术的共同思想都是:既然估计的稳定性会受到质疑,那么就用样本的样本去证明估计的稳定性。...原创 2019-09-12 09:58:27 · 2664 阅读 · 0 评论 -
随机森林的袋外数据--OOB
随机森林在构建每棵树时,会对训练集使用不同的bootstrap sample(随机且有放回地抽取)。对于每棵树而言(假设对于第k棵树),大约有一半的训练实例没有参与第k棵树的生成,这一半的数据就称为第k棵树的袋外数据样本。...原创 2019-09-12 10:01:52 · 7638 阅读 · 0 评论