- 博客(4)
- 资源 (28)
- 收藏
- 关注
RSS订阅原创 机器学习（四）：逻辑回归
逻辑回归通过使用逻辑函数来估计概率，从而测量分类独立变量与一个或多个非独立变量之间的关系，而逻辑函数就是所谓的累积逻辑分布.从更多的数学观点来看，逻辑回归比线性回归对数据有更加强烈的假设： 逻辑回归是判别模型，因此可以直接学习p(y|x): 所有的数学计算过程如下： 使用MLE或者MAP进行权值估计： 损失函数——交叉熵损失 Q: 学习率与交叉熵损
2016-08-30 16:40:48
425
原创 机器学习（三）：支持向量机
支持向量机是一种判别模型，它构建一个超平面使得距离这个超平面最近的点的距离最大。支持向量机的任务是在较低的模型泛化误差下寻找一个合适的超平面。 如果超平面的函数是如下表达式： 那么超平面与数据点（label=1）之间的几何关系为： 定义：几何间隔和函数间隔 因此，转换为带约束的优化问题： 我们无法保证数据是线性可分的，因此需要添加损失和松弛变量： 新
2016-08-30 16:11:10
571
原创 机器学习（二）：线性回归
简单的线性回归标准的线性回归模型通过一系列的预测参数的线性组合来预测一个数字变量，其系数通过最小化训练集上的平方预测误差的总和进行学习。 线性回归严重依赖于数据的假设，其更多的数学观点如下： 普通最小二乘法与上述假设之间的关系： 使用MLE或MAP进行权重估计： 损失函数——最小平方损失： Q：模型与损失函数之间有什么关系？
2016-08-20 16:58:45
299
原创 机器学习（一）：一些常识
生成模型与判别模型先给个例子感受一下：如果要判断说话者说的哪种语言，我们应该怎么做？ 对于输入的数据x，为了得到它的标签y，那么生成模型需要学习联合概率分布，而判别模型需要学习条件概率分布. 参数学习与非参学习参数学习 非参学习（并不是没有参数） 偏差与方差首先定义常规的监督学习模型： 偏差与方差的定义： 用一组实例来理解偏差与方差：
2016-08-14 11:25:09
524
HTK孤立词语音识别系统所有文件
2013-12-23
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人