![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 96
ccxuxuxu
这个作者很懒,什么都没留下…
展开
-
支持向量机1-线性可分支持向量机
线性可分支持向量机一.支持向量机分类二.函数间隔与几何间隔三.线性可分支持向量机3.1 线性可分支持向量机的定义3.2 线性可分支持向量机的目标函数与优化一.支持向量机分类SVM 是一种二分类模型, 包含三种类型:线性可分支持向量机,线性支持向量机以及非线性支持向量机;线性可分支持向量机:当训练数据可分时, 通过硬间隔最大化, 学习一个线性的分类器线性支持向量机:当训练数据近似线性可分时,...原创 2018-10-11 11:37:33 · 773 阅读 · 0 评论 -
机器学习算法-逻辑回归
机器学习算法-逻辑回归一. 逻辑回归模型1.1 逻辑回归定义1.2 逻辑回归模型二. 代价函数求解2.1 定义代价函数的方法2.2 代价函数求解方法-梯度下降三. Sklearn 参数说明四. 常见问题参考一. 逻辑回归模型1.1 逻辑回归定义LR 是一种简单、高效的常用分类模型,能处理二分类或者多分类。1.2 逻辑回归模型sigmoid 函数:对线性回归的结果做一个在函数g上的转换,...原创 2018-10-11 16:59:13 · 1007 阅读 · 0 评论 -
机器学习算法-线性回归
机器学习笔记-线性回归一. 理论基础1.1 凸函数1.2 线性1.3 极大似然估计二. 线性回归模型(目标函数)2.1 线性回归定义2.2 线性回归模型三. 损失函数求解3.1 定义损失函数的方法3.1.1 最小二乘法3.1.2 极大似然法3.2 代价函数求解3.2.1 正规方程3.2.2 梯度下降3.2.3 正规方程和梯度下降比较四. 模型评估五. Sklearn 参数说明六. 理解L1和L2参...原创 2018-10-08 13:50:11 · 2245 阅读 · 0 评论 -
支持向量机2-线性支持向量机和核函数
线性支持向量机一.线性可分支持向量机存在的问题二.线性支持向量机2.1 线性分类SVM的软间隔最大化2.2 软间隔最大化目标函数的优化2.3 线性分类SVM算法总结2.4 软间隔最大化时的支持向量一.线性可分支持向量机存在的问题有些时候样本中混入了异常点,导致不能线性可分, 如下两种情况:图一中蓝色异常点的引入导致线性不可分;图二中因为引入了蓝色点,导致超平面由红色视线变成了黑色虚线, 模型...原创 2018-10-15 23:38:26 · 3326 阅读 · 0 评论 -
主成分分析(PCA)
一.理论基础1.1 协方差与协方差矩阵样本协方差,随机变量协方差,协方差矩阵1.2 矩阵的迹矩阵的迹及特性1.3 矩阵的特征值,特征向量矩阵特征值二.PCA主成分分析是最重要的降维方法之一,在数据压缩消除冗余和数据噪音等领域有广泛的引用。选择一个超平面对 正交空间里的样本点进行有效的描述,需要注意两点:最近重构性:样本点到这个超平面的距离都足够近最大可分性: 样本点到这个...原创 2018-10-25 20:03:28 · 985 阅读 · 0 评论 -
自然语言算法-HMM
自然语言算法-HMM学习笔记一. 马尔科夫模型二. 隐马尔科夫模型2.1 隐马尔科夫模型定义2.2 隐马尔可夫模型三个问题2.3 解决三个问题的算法以及相关实现参考一. 马尔科夫模型马尔科夫模型描述了一类的重要随机过程。如果一个系统有N个 有限状态 S={s1,s2,s3,......,sn}S=\{s1,s2,s3,......,sn\}S={s1,s2,s3,......,sn}, 随着时...原创 2018-12-29 20:29:44 · 858 阅读 · 1 评论