统计学习方法
yuyijie_1995
半路出家菜鸡程序员一枚
展开
-
统计学习方法---朴素贝叶斯
朴素贝叶斯也是一种用于分类的算法 回顾统计学习模型的几种分类: 按照模型不同来分 另一种分类方法 生成模型就是x,y的条件分布除以x的边际分布 把三者拿到一起来讲(因为判别模型和决策函数相同类型) 首先是第一种形式:不考虑x,y的随机性 第二中形式:只考虑y的随机性,给定x后,y有随机分布 第三种:x,y的随机性都要考虑,因为不但有y的条件分布,还有x的边际分布和xy的联合分布 像第二章感知...原创 2020-03-11 16:09:02 · 134 阅读 · 0 评论 -
统计学习方法---K近邻
始终需要训练数据参与,不需要训练,没有显示的模型形式 要素1: 要素2: 要素3: 多数表决 作业原创 2020-03-11 00:15:42 · 68 阅读 · 0 评论 -
统计学习方法——第二章感知机模型
导读 w控制直线的旋转,b控制平移 感知机模型的对偶形式 对偶算法更新的数据量能少很多,因为w是个向量,每次要求w和x的内积,而对偶算法的内积能提前算好,实例之间的内积可以提前得到 随机梯度下降 梯度方向是函数值增速最快的方向,所以要下降就是往这个梯度的反方向更新 每次用一个实例更新,更新后再用的的w和b去判断实例是否是误分类点 算法收敛性修正 假设感知机模型是线性可分的 做了...原创 2020-03-10 23:52:42 · 176 阅读 · 0 评论 -
统计学习方法笔记——第一章
1.模型 带^的是最优值 不带^的是所有的假设空间中的值 找最优θ的问题 找条件概率的方式也是同理 2.策略 模型评估和模型选择 带^的是训练集上的经验风险,训练集上的经验风险和期望风险之间差值用一个误差delta可以控制 (N样本量 d备用模型个数 delta) 生成模型还需要考虑X,Y的联合分布,在判别方法中不去考虑X是不是随机的,但是在生成方法中X,Y是随机的 回归问题...原创 2020-03-03 12:16:22 · 501 阅读 · 0 评论