![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 71
charon____
这个作者很懒,什么都没留下…
展开
-
k近邻(笔记提纲)
0 综述k近邻法: 基本的分类与回归方法 输入:实例的特征向量 输出:实例的类别 不具有显式的学习过程 使用训练数据集对特征向量空间进行划分 三个基本要素 k值选择 距离度量 分类决策规则 1 算法给定一个训练集,对于新的输入,在训练集中找到与该输入最邻近的k个实例,这k个实例的多数属于哪个类,就将输入实例划分到这个类。特殊情况: k = 1时,称为最近邻算法,将训练集中与输入最邻近点的类作为输原创 2017-03-28 12:21:58 · 578 阅读 · 1 评论 -
L0,L1,L2
L0范数向量中非0的元素的个数L1范数向量中各个元素绝对值之和别名 “稀疏规则算子”(Lasso regularization) L0 L1都可以实现稀疏, L1比L0有更好的优化求解特性 L0范数难求解,NP难问题 L1是L0范数的最优凸近似,更易于求解 稀疏优点 特征自动选择 稀疏规则化算子的引入就是为了完成特征自动选择的光荣使命,它会学习地去掉这些没有信息的特征,也就是把这些特征对应的权重置原创 2017-03-24 21:32:36 · 471 阅读 · 0 评论 -
统计学习基础
统计学习基础脑图查看效果更好统计学习机器学习:统计机器学习基本假设:同类数据(某种共同性质的数据)具有一定的统计规律性目的:对数据预测与分析方法:基于数据构建统计模型包括监督学习、非监督学习、半监督学习、强化学习等步骤:(1)有限训练数据集(2)学习模型集合(所有可能模型的假设空间)(3)确定学习策略–模型选择准则(4)学习算法–求解最优模型(5)使用模型对数据进行预测或分析监督学习输入(出)空间:原创 2017-03-26 10:58:54 · 1066 阅读 · 0 评论 -
感知机(笔记提纲)
0 综述感知机: 二分类 线性模型 判别模型 目的:求出将训练数据进行线性划分的分离超平面1 模型输入空间 到 输出空间 函数 f(x) = sign(w · x + b)2 学习策略最小化损失函数–误分类驱动 随机梯度下降3 收敛性输入数据集必须线性可分4 对偶形式待补充原创 2017-03-27 10:57:00 · 452 阅读 · 0 评论