![](https://img-blog.csdnimg.cn/20191106185115883.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
Pandora-ml
机器学习基础理论知识
ReLuJie
计算机视觉.
展开
-
MoG & EM-Algorithm
问题的提出 --> Figure_1假设我们有一堆如图(b)所示的数据集X,它们由3个独立的高斯分布生成,样本在空间中存在交叠,上帝知道它的本来面目(如图(a)所示),一个自然的问题是:能否根据数据集X,估计出生成它们的分布的参数呢?答案是肯定的,下面来分析如何求解模型参数。混合高斯模型我们假设X的...原创 2018-12-19 19:01:35 · 1541 阅读 · 2 评论 -
MLE vs. MAP
极大似然估计(Maximum Likelihood Estimate,MLE)思想精髓:存在的即是最合理的。在假设数据{X,Y}服从分布P(X,Y|),寻找最能解释数据集的参数,从而使得分布能够最好地刻画数据集.一般流程:step -1. 假设数据集的分布为P(X,Y|),其中表示确定的参数;step -2. 求解如下的优化问题:最大后验估计(Maximum A Posteri...原创 2018-12-19 19:05:22 · 381 阅读 · 0 评论 -
正则项:L1-norm和L2-norm
前言对于有监督学习任务而言,它的目标函数函数往往具有如下的格式: 其中红色部分表示数据拟合项(损失项),它度量了用模型f(x,theta)来拟合数据标签y时所带来的偏差(error/loss);绿色的部分则是模型正则项,它度量了模型的复杂度。因此上述格式的目标函数蕴含着...原创 2019-07-17 19:14:46 · 1546 阅读 · 0 评论 -
损失函数
常见的分类损失函数 图1. 机器学习常见损失函数备注: 图1中很坐标表示样本x的得分score...原创 2019-03-12 09:01:12 · 1205 阅读 · 1 评论