机器学习
文章平均质量分 84
复方尿维氨滴眼液
吃什么外卖!
展开
-
隐马尔可夫模型学习笔记
定义 隐马尔可夫模型是关于时序的概率模型,描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列,再由各个状态生成一个观测而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的状态的序列,称为状态序列;每个状态生成一个观测,而由此产生的观测的序列称为观测序列。序列的每一个位置又可看做是一个时刻。 设Q是所有可能的状态的集合,V是所有可能的观测的集合。 Q={q1,q2,⋯,qn},V=原创 2016-05-08 23:18:57 · 2256 阅读 · 0 评论 -
KKT条件--约束问题最优化方法
KKT条件在约束条件下求解非线性规划问题很有用,是确定某点为最优点的一阶必要条件。而对于凸规划问题而言,KKT条件是局部极小点的一阶必要条件,同时也是充分条件,而且局部极小点就是全局极小点。原创 2016-04-06 23:33:36 · 27492 阅读 · 0 评论 -
EM算法
EM算法 用X表示观测随机变量,Z表示隐随机变量。X和Z连在一起称为完全数据(complete-data),Y为不完全数据(incomplete-data)。给定训练样本X={x1,x2,⋯,xn}X=\{ x_1, x_2, \cdots, x_n \},样例间独立,EM算法通过迭代求样本的极大似然估计L(θ)L(\theta)来估计模型参数: L(θ)=∑i=1nlogp(xi|θ)=∑i=原创 2016-05-08 18:20:31 · 718 阅读 · 0 评论 -
最大熵模型
信息熵介绍例子:称硬币的问题,说有5个硬币,其中有一个是假的,这个假硬币的重量很轻,所以打算用一个天平称称,问需要最少称几次就能够保证把这个假硬币给找出来? 假设x∈X={1,2,3,4,5}x\in X=\{1,2,3,4,5\}是那个假硬币的序号,y∈Y={1,2,3}y\in Y=\{1,2,3\}是第ii次称重时的结果。通过求解|X|=|Y|n|X|=|Y|^n中的n,可以获知需要n原创 2016-07-05 10:56:20 · 709 阅读 · 0 评论