Statistical Learning Methods
文章平均质量分 90
统计学习方法
timerring
知行合一
展开
-
李航《统计学习方法》笔记之朴素贝叶斯法
第4章朴素贝叶斯法朴素是整个算法的强假设,即变量之间是强相互独立的。例子路人拿出来3颗豆,两颗红豆1颗绿豆,我和路人各自抽了一颗,路人发现自己抽中的是绿豆,他想用剩下的那颗和我换,我换不换?换不换豆,抽中红豆概率一样吗?P(A \mid B)P(A∣B) 表示在B发生的条件下发生A的概率。P(A \mid B)=\frac{P(A B)}{P(B)}=\frac{P(B \mid A) P(A)}{P(B)}P(A∣B)= P(B)P(AB) = P(B)P(B∣A)P(A)原创 2022-07-31 23:29:18 · 1057 阅读 · 0 评论 -
李航《统计学习方法》笔记之k近邻法
K近邻思想物以类聚K近邻没有显式的训练过程(新样本与原来样本计算距离度量)距离度量(1)欧式距离两点之间直线(2)曼哈顿距离城市街区距(3)切比雪夫距离棋盘距离分类决策规则多数表决httpshttpshttps。......原创 2022-07-31 23:26:18 · 1689 阅读 · 0 评论 -
李航《统计学习方法》笔记之感知机perceptron
1.一条直线不分错一个点,这就是好的直线。2.模型要尽可能找到好的直线。3.如果没有好的直线,在差的直线中找到较好的直线。4.判断直线多差的方式分错的点到直线的距离求和,距离越大则模型越差。(感知机)假设输入空间(特征空间)是$\mathcal{X}\subseteq\mathbf{R}^{n}$,输出空间是$\mathcal{Y}={+1,-1}$。输入$x\in\mathcal{X}$表示实例的特征向量,对应于输入空间(特征空间)的点;w∈Rnw。......原创 2022-07-31 23:24:07 · 1588 阅读 · 0 评论 -
李航《统计学习方法》笔记之监督学习Supervised learning
学习方法的泛化能力(generalizationability)是指由该方法学习到的模型对未知数据的预测能力,是学习方法本质上重要的性质。现实中常通过测试误差来评价学习方法的泛化能力。但这种评价是依赖于测试数据集的。因为测试数据集是有限的,很有可能由此得到的评价结果是不可靠的。因此统计学习理论试图从理论上对学习方法的泛化能力进行分析。首先给出泛化误差的定义。如果学到的模型是f^\hat{f}f^,那么用Rexp(f^)=EP[L(Y,f^(X。......原创 2022-07-31 23:20:45 · 2476 阅读 · 0 评论