![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
李航 机器学习
李航老师 《统计机器学习》 相关文章
Коснтантин
这个作者很懒,什么都没留下…
展开
-
统计学习方法-代码实现-朴素贝叶斯
目录贝叶斯定理朴素贝叶斯算法贝叶斯估计代码实现 贝叶斯定理 其中 所以朴素贝叶斯分类器为 因为分母是一定的,与Y无关,所以简化为 朴素贝叶斯算法 贝叶斯估计 因为 可能为0,则无法计算 所以将朴素贝叶斯修正为贝叶斯估计 代码实现 import numpy as np import pandas as pd import matplotlib.pyplot as plt %matplotlib inline from sklearn.datasets import load_iris原创 2020-06-05 23:00:08 · 428 阅读 · 0 评论 -
李航 统计学习方法 第三章 课后题
参考书上例题即可原创 2020-06-05 21:51:52 · 472 阅读 · 0 评论 -
统计学习方法-代码实现-k近邻
目录K近邻算法模型:距离度量,k的选择,分类决策规则距离度量K值的选择分类决策规则k邻近算法的实现构造kd树搜索kd树代码实现线性搜索sklearnkd树 K近邻算法 模型:距离度量,k的选择,分类决策规则 距离度量 不同的距离度量所选择的最近邻点是不同的(K=1) K值的选择 k值较小,意味着只有与实例非常近似的点会纳入考量,即近似误差减小。但是如果近似的点是噪声,则会对最后结果产生很大的影响,即估计误差增大。k值很小也意味着,模型很复杂,很容易过拟合。 k值较大,意味着将会有更多的更远的点纳入到原创 2020-06-05 18:22:35 · 194 阅读 · 0 评论 -
李航 统计学习方法 第二章 课后题
输入x1 输入x2 输出 1 1 0 1 0 1 0 1 1 0 0 0 上图中是线性不可分的,所以无法用感知机 这是对书中例题2.1的应用原创 2020-06-04 23:21:07 · 346 阅读 · 0 评论 -
统计学习方法-代码实现-感知机
目录感知机 感知机 感知机是一种二分类的线性模型 几何意义上是一个分离输入空间的超平面: w+b=0 w+b=0 w+b=0 感知机的损失函数为: minw,bL(w,b)=−∑xi∈Myi(w⋅xi+b) \min _{w, b} L(w, b)=-\sum_{x_{i} \in M} y_{i}\left(w \cdot x_{i}+b\right) w,bminL(w,b)=−xi∈M∑yi(w⋅xi+b) Markdown将文本转换为 HTML。 ...原创 2020-06-04 20:57:54 · 153 阅读 · 0 评论 -
统计学习方法-代码实现-最小二乘法
目录最小二乘法预备知识参考来源 最小二乘法 import numpy as np import scipy as sp from scipy.optimize import leastsq import matplotlib.pyplot as plt %matplotlib inline # 目标函数 def real_func(x): return np.sin(2*np.pi*x) # 多项式 def fit_func(p, x): f = np.poly1d(p) ret原创 2020-06-04 18:01:44 · 174 阅读 · 0 评论 -
李航 统计学习方法 第一章 课后题
第一章 习题1.11.2 1.1 统计学习方法三要素: 模型:所要学习的条件概率分布或决策函数 策略:从假设空间中选择最优模型所用的损失函数或风险函数 算法:用什么样的方法求解最优模型,最小化损失函数 极大似然估计-统计学习方法三要素: 模型:所要学习的概率分布函数 策略:极大化似然函数 算法:求导 贝叶斯估计-统计学习方法三要素: 模型:所要学习的概率分布 策略:极大化贝叶斯估计函数 算法:求导 极大似然估计计算: 贝叶斯估计计算 贝叶斯估计认为θ不是一个确定的值而是一个概率分布 1.2原创 2020-06-03 19:38:42 · 312 阅读 · 0 评论