gejun318的博客

频率派- Frequentist - Maximum Likelihood Estimation (MLE，最大似然估计)： 频率学派认为世界是确定的，有一个本体，这个本体的真值是不变的，我们的目标就是要找到这个真值或真值所在的范围。 频率学派：存在唯一真值θ。当数据量趋于无穷时，这种方法能给出精准的估计；然而缺乏数据时则可能产生严重的偏差。贝叶斯派 - Bayesian - Maximum A Posteriori (MAP，最大后验估计)： 贝叶斯学派认为世界是不确定的，人们对世界先有一个预判

SVM间隔最大化，求凸二次规划问题，找到最优超平面划分为二类1. 线性可分 w*x+b=0求解法向量w，截距b。如何求解：函数间隔：几何间隔：2. 线性不可分3. 非线性可分（通过核函数低维空间映射到高维空间）...

优缺点生成式模型得到的是联合概率分布，能够得到更多信息，但是付出代价需要样本较多，计算更多；当样本数据较多，能够快速收敛（隐马尔科夫、朴素贝叶斯、LDR）判别式模型得到条件概率分布；样本数据需求较少， 得到的信息较少，节省计算资源，准确率一般比生成式模型高；（SVM、感知机、KNN、决策树）例子判断狗是哈士奇还是金毛：判别式只学习一种模型；生成式模型学习多种模型，根据金毛学习一个模型，根据哈士奇学习一个模型，有多少类别生成多少模型；生成式模型可以检测异常点；...