![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
Justin-wu
最好的你在路上!
展开
-
SVM算法原理分析
SVM算法: 算法背景:支持向量机方法是建立在统计学习理论的VC 维理论和结构风险最小原理基础上的,根据有限的样本信息在模型的复杂性(即对特定训练样本的学习精度,Accuracy)和学习能力(即无错误地识别任意样本的能力)之间寻求最佳折衷,以期获得最好的推广能力(或称泛化能力)。 两个基本概念:经验风险,置信风险 经验风险:代表了分类类在给定样本上的误差,真实可以估计! 置信风险:代表了我们原创 2017-07-23 08:15:16 · 3410 阅读 · 0 评论 -
高斯核函数解决线性问题的利器
之所以高斯核函数解决线性不可分的情况如此广泛,主要的原因是,高斯核函数可以看作特征无穷维的扩展,越靠前面的特征收到的重视成都越大!证明: 对高斯核函数进行泰勒展开,即可得到结果,具体的证明略。...原创 2018-06-04 14:03:29 · 1053 阅读 · 0 评论 -
一图了解机器学习底层原理
机器学习脉络框架如下图所示: 由极大似然估计可以推导出KL散度、贝叶斯估计、贝叶斯参数估计、HMM参数估计以及正态参数估计。 首先针对KL散度,KL散度是距离度量的一种方式。距离度量的方式还包含着:欧式距离、余玄距离、杰卡德相似系数、Hellinger距离、交叉熵、困惑度等。其中Hellinger距离可以推导出KL散度,根据KL散度可以推导出交叉熵,根据交叉熵可以推导出困惑度。针对余玄相似度,可以...原创 2018-12-24 19:08:11 · 1497 阅读 · 0 评论