![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
统计学习方法
lbf-523
这个作者很懒,什么都没留下…
展开
-
第一章 统计学习方法概论
第一章 统计学习方法概论第一章 统计学习方法概论1.1统计学习1.2 监督学习1.2.1 基本概念1.2.2 问题的形式化1.3 统计学习三要素1.3.1 模型1.3.2 策略1.3.2.1 损失函数和风险函数1.3.2.2 经验风险最小化和结构风险最小化1.3.3 算法1.4 模型评估与模型选择1.4.1 训练误差与测试误差1.4.2 过拟合与模型选...原创 2018-06-30 16:11:47 · 212 阅读 · 0 评论 -
第二章 感知机
第二章 感知机第二章 感知机模型策略算法感知机(preceptron)是二分类的线性模型,其输入为实例的特征向量,输出为实例的类别,去 +1+1+1 和 −1−1-1 。旨在求出将训练数据进行现行划分的分离超平面。方法:导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型。模型f(x)=sign(w⋅x+b)f(x)=s...原创 2018-07-01 14:56:16 · 142 阅读 · 0 评论 -
第三章 k近邻法
第三章 kkk 近邻法kkk 近邻法(k-nearest neighbor, k-NN)是一种基本分类与回归方法。输入:实例的特征向量,对应于特征空间的点;输出:实例的类别,可以去多类。算法思想:给定一个训练数据集,对新的输入实例,在训练数据集中找到与该实例最邻近的 kkk 个实例,这 kkk 个实例的多数属于某个类,就把该输入实例分为这个类。输入:训练数据集 T={...原创 2018-07-01 16:55:11 · 168 阅读 · 0 评论 -
支持向量机算法与实现
文章目录1 算法思想2 算法步骤2.1 线性可分支持向量机2.2 SVM的二次凸函数和约束条件2.3 非线性类问题——核技巧(kernel trick)3 算法实现1 算法思想支持向量机(support vector machines) 是找到一个超平面(hyperplane)将数据划分为一类与其他类的一种二类分类模型,分离间隔最大而区别于感知机。适用于:数据可直接分为两类(采用erro...原创 2018-10-18 18:06:22 · 17097 阅读 · 1 评论 -
范数与低秩
范数+低秩文章目录范数+低秩L1与L2范数L0范数与L1范数为什么L1范数会使权值稀疏?为什么要稀疏?L2范数L2范数如何防止过拟合?L2范数的好处是什么呢?优化的两大难题:为什么要范数?L1和L2的差别为什么一个让绝对值最小,一个让平方最小,会有那么大的差别呢?核范数与规则项参数选择核范数低秩矩阵在图像中的意义几个典型应用矩阵填充(Matrix Completion)鲁棒PCA背景建模变换不变...转载 2019-05-07 14:58:45 · 3763 阅读 · 4 评论