李航 机器学习
李航老师 《统计机器学习》 相关文章
Коснтантин
这个作者很懒,什么都没留下…
展开
-
统计学习方法-代码实现-朴素贝叶斯
目录贝叶斯定理朴素贝叶斯算法贝叶斯估计代码实现贝叶斯定理其中所以朴素贝叶斯分类器为因为分母是一定的,与Y无关,所以简化为朴素贝叶斯算法贝叶斯估计因为可能为0,则无法计算所以将朴素贝叶斯修正为贝叶斯估计代码实现import numpy as npimport pandas as pdimport matplotlib.pyplot as plt%matplotlib inlinefrom sklearn.datasets import load_iris原创 2020-06-05 23:00:08 · 433 阅读 · 0 评论 -
李航 统计学习方法 第三章 课后题
参考书上例题即可原创 2020-06-05 21:51:52 · 476 阅读 · 0 评论 -
统计学习方法-代码实现-k近邻
目录K近邻算法模型:距离度量,k的选择,分类决策规则距离度量K值的选择分类决策规则k邻近算法的实现构造kd树搜索kd树代码实现线性搜索sklearnkd树K近邻算法模型:距离度量,k的选择,分类决策规则距离度量不同的距离度量所选择的最近邻点是不同的(K=1)K值的选择k值较小,意味着只有与实例非常近似的点会纳入考量,即近似误差减小。但是如果近似的点是噪声,则会对最后结果产生很大的影响,即估计误差增大。k值很小也意味着,模型很复杂,很容易过拟合。k值较大,意味着将会有更多的更远的点纳入到原创 2020-06-05 18:22:35 · 211 阅读 · 0 评论 -
李航 统计学习方法 第二章 课后题
输入x1输入x2输出110101011000上图中是线性不可分的,所以无法用感知机这是对书中例题2.1的应用原创 2020-06-04 23:21:07 · 348 阅读 · 0 评论 -
统计学习方法-代码实现-感知机
目录感知机感知机感知机是一种二分类的线性模型几何意义上是一个分离输入空间的超平面:w+b=0w+b=0w+b=0感知机的损失函数为:minw,bL(w,b)=−∑xi∈Myi(w⋅xi+b) \min _{w, b} L(w, b)=-\sum_{x_{i} \in M} y_{i}\left(w \cdot x_{i}+b\right) w,bminL(w,b)=−xi∈M∑yi(w⋅xi+b)Markdown将文本转换为 HTML。...原创 2020-06-04 20:57:54 · 159 阅读 · 0 评论 -
统计学习方法-代码实现-最小二乘法
目录最小二乘法预备知识参考来源最小二乘法import numpy as npimport scipy as spfrom scipy.optimize import leastsqimport matplotlib.pyplot as plt%matplotlib inline# 目标函数def real_func(x): return np.sin(2*np.pi*x)# 多项式def fit_func(p, x): f = np.poly1d(p) ret原创 2020-06-04 18:01:44 · 176 阅读 · 0 评论 -
李航 统计学习方法 第一章 课后题
第一章 习题1.11.21.1统计学习方法三要素:模型:所要学习的条件概率分布或决策函数策略:从假设空间中选择最优模型所用的损失函数或风险函数算法:用什么样的方法求解最优模型,最小化损失函数极大似然估计-统计学习方法三要素:模型:所要学习的概率分布函数策略:极大化似然函数算法:求导贝叶斯估计-统计学习方法三要素:模型:所要学习的概率分布策略:极大化贝叶斯估计函数算法:求导极大似然估计计算:贝叶斯估计计算贝叶斯估计认为θ不是一个确定的值而是一个概率分布1.2原创 2020-06-03 19:38:42 · 322 阅读 · 0 评论