leijinyi-CSDN博客

原创 2016-02-28机器学习笔记

学习理论：看完NG的公开课之后，最大的感触就是，所谓经验风险最小化就是指训练出来的分类器可以尽可能的将正负样本进行分隔，SVM和Logistic regression，分别是从直观的分隔角度和概率的角度对经验风险最小化进行的近似。 VC维将样本数量和特征数量进行了约束，让人们在进行算法调试的时候对特征数量有一个大概的估计。对于一个特定的机器学习问题，一定要深入地去挖掘学习问题的本质，才能

2016-02-28 21:08:26 241

原创 2016-02-19机器学习笔记

朴素贝叶斯：之前学习的机器学习算法（线性回归，logistic回归）都属于最大化Y的后验概率（判决学习算法），而高斯决策和朴素贝叶斯属于先最大化X的后验概率，然后根据贝叶斯公式计算Y的后验概率（生成学习算法）。判决学习算法的主要特点是：对于预测值Y进行建模。生成学习算法的主要特点是：对于不同的类别的特征分别进行建模。生成学习算法进行训练时，步骤简单，根据最大似然估计就可以得到相应的

2016-02-19 19:58:13 234

原创 2016-02-17机器学习笔记

线性回归模型：通常假设偏差属于高斯分布，这就使得预测值Y属于均值依赖输入和线性模型参数的高斯分布；（大多数应用场景满足偏差属于高斯分布假设） logistic回归模型：预测值只有0,1，属于伯努利分布，这就使得预测值的概率分布为P(Y)=Q；根据两者都属于指数分布族的特例，导出概率Q和输入的依赖关系，才会产生Logistic函数形式的假设模型；线性回归模型和L

2016-02-17 17:42:17 285

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人