- 博客(5)
- 收藏
- 关注
RSS订阅原创 机器学习之EM算法
预备知识1 jensen不等式回顾优化理论中的一些概念。设f是定义域为实数的函数，如果对于所有的实数x，，那么f是凸函数。当x是向量时，如果其hessian矩阵H是半正定的（），那么f是凸函数。如果或者，那么称f是严格凸函数。 Jensen不等式表述如下： 如果f是凸函数，X是随机变量，那么 特别地，如果f是严格凸函数，那么当且仅当...
2018-09-06 22:02:23
147
原创 机器学习之支持向量机
1. 间隔和支持向量在数据集D,,基本思想是基于训练集D在样本空间中找到一个划分超平面，将不同类别的样本分开。划分超平面可用：,其中为法向量，决定了超平面的方向；b为位移项，决定了超平面与原点之间的距离。记为。样本空间中任意一点 x 到超平面的距离为 (1)假设超平面能使训练样本正确分类，对于,若,则有，若,则有。令...
2018-09-06 10:14:47
252
原创 机器学习之决策树
一颗决策树通常包括一个根节点，若干内部节点，若干叶节点。叶节点对应决策结果，其他节点则对应一个属性测试，每个节点包含的样本集合根据属性测试划分到子节点当中；根节点包含全部样本集。从根节点到每个叶节点的路劲对应了一个判定序列。其策略为“分而治之“。1 划分选择1.1 信息增益信息熵：度量样本集合纯度的一种常用指标，假定当前样本集合D中第类样本所占的比列为,则D的信息熵定义为Ent...
2018-09-04 18:07:44
192
原创 机器学习之线性模型
1 线性回归1.1 基本形式给定由d个属性描述的样本,其中是X在第i个属性上的取值，线性模型是一个通过属性的线性组合来进行预测的函数一般形式如下：一般用向量形式写成如下：其中。w和b学得之后，模型得以确定。1.2 线性回归给定数据集，其中。线性回归试图学得一个线性模型尽可能准确的预测实值输出标记。试图学得，使得。如何确定w和b, 关键在于衡量和之间的差别。在...
2018-09-03 22:43:50
340
原创 正则表达式
1、常用元字符”*“表示匹配前面的子表达式零次或者多次。例如，zo* 能匹配 "z" 以及 "zoo"。* 等价于{0,}。”+“表示匹配前面的子表达式一次或者多次。例如，'zo+' 能匹配 "zo" 以及 "zoo"，但不能匹配 "z"。+ 等价于 {1,}。”？”表示匹配前面的子表达式零次或者一次。匹配前面的子表达式零次或一次。例如，"do(es)?" 可以匹配 "do&am
2018-06-19 18:32:07
83
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人