统计学习方法
freshZero_
这个作者很懒,什么都没留下…
展开
-
数学之美番外篇:平凡而又神奇的贝叶斯方法
数学之美番外篇:平凡而又神奇的贝叶斯方法概率论只不过是把常识用数学公式表达了出来。——拉普拉斯目录0. 前言 1. 历史 1.1 一个例子:自然语言的二义性 1.2 贝叶斯公式 2. 拼写纠正 3. 模型比较与贝叶斯奥卡姆剃刀 3.1 再访拼写纠正 3.2 模转载 2017-04-07 17:15:05 · 1594 阅读 · 0 评论 -
L0/L1/L2范数
L0/L1/L2范数的联系与区别标签(空格分隔): 机器学习最近快被各大公司的笔试题淹没了,其中有一道题是从贝叶斯先验,优化等各个方面比较L0、L1、L2范数的联系与区别。L0范数L0范数表示向量中非零元素的个数:||x||0=#(i) with xi≠0||x||0=#(i) with xi≠0也就是如果我们使用L0范数,即希望w的大部分元素都转载 2017-03-29 14:24:06 · 429 阅读 · 0 评论 -
统计学习方法
三要素模型 确定模型和假设空间策略 定义经验损失函数,并将损失函数最小化过拟合问题解决过拟合问题的方法:可以使用正则化方法,在损失函数中加入正则化项,从而使用结构风险最小化,来避免过拟合。还可以增加实验样本数量,当实验样本数量足够大的时候,在一定程度上也可以避免出现过拟合的情况发生原创 2017-03-29 14:22:41 · 248 阅读 · 0 评论 -
三类参数估计方法
本文主要介绍三类参数估计方法-最大似然估计MLE、最大后验概率估计MAP及贝叶斯估计。1、最大似然估计MLE首先回顾一下贝叶斯公式这个公式也称为逆概率公式,可以将后验概率转化为基于似然函数和先验概率的计算表达式,即最大似然估计就是要用似然函数取到最大值时的参数值作为估计值,似然函数可转载 2017-04-01 16:40:20 · 2469 阅读 · 0 评论