- 博客(4)
- 收藏
- 关注
RSS订阅原创 集成学习
Boost 加法模型 前向分步算法 梯度提升 1.如果每一步的弱预测模型生成都是依据损失函数的梯度方向，则称为梯度提升 2，损失函数的确定（目标即为损失函数在训练集上的期望最小） 3， GDBT(梯度下降提升树） 基函数：决策树（CART回归树） 损失函数： 优缺点： AdaBoost 1.标准AdaBoost用来分类 2.损失函数：指数损失函数 3.α和w的权重更新公式（归一化因子） 4.优缺点...
2018-09-30 16:00:45
182
原创 SVM
SVM(Support Vector Machine） 基本概念 1.支持向量机的基本模型是在特征空间上找到最佳的分离超平面使得训练集上正负样本几何间隔最大 2.拉格朗日对偶问题 3.KKT条件 4.核函数 5.SVR 常见问题 ...
2018-09-17 22:28:53
115
原创 LR
LR(Logistic Regression) 理论基础 Logistic分布 分布函数，对数几率 其实，LR就是一个线性分类的模型，与线性回归不同的是：LR将线性方程输出的很大范围的数压缩到了[0,1]区间上。即：LR就是一个被logistic方程归一化后的线性回归。 LR参数求解过程 极大似然估计 1.在这里，最大化对数似然函数与最小化对数似然损失函数其实是等价的； 2.对于每一个样本出现概率...
2018-09-17 22:21:06
647
原创 新的开始
缘由 转眼已经大三，当初做出的不考研的决定如今看来确实很有挑战性，每天脑子都很混乱，要学的要看的要弄懂的感觉太多，时而妄自菲薄，时而盲目自信，时而。。。实在学不进去了，昨天刚刚去参加了人生中第一次正规的职场面试，再想想秋招还有两三个月，感觉自己已经学了很多，可是还是没有成竹在胸的感觉，于是乎，便想到了写写博客，梳理心情，整理所学内容，也是对自己所学知识的交代了。 内容 我自己是学数学专...
2018-08-10 16:32:16
84
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人