- 博客(3)
- 收藏
- 关注
RSS订阅原创 狄利克雷过程（dirichlet process ）的五种理解
狄利克雷过程（dirichlet process ）是目前变参数学习（non parameter）非常流行的一个理论，很多的工作都是基于这个理论来进行的，如HDP（hierarchical dirichlet process）。下面我们谈谈dirichlet process的五种角度来理解它。第一种：原始定义：假设存在在度量空间\Theta上的分布H和一个参数\alpha，如果对于度量空间
2012-03-11 22:09:27
86215
5
原创 EM算法
我所知道的最简单的EM算法推导：预备知识： jessen不等式这里不详细讲解Jessen不等式，大家可以google，这里只大概讲解其意思，就是对于凹函数f(x)（即大肚子向上，口子向下，国外和国内的定义不同，特此注明），f(E(x)) >= E(f(x)); 若是凸函数，不等号的方向相反。等号成立的条件是x是常变量，即各个值相等推导： 假设X是已知变量，H是隐藏变量，\
2012-03-10 17:38:07
15799
3
原创 什么叫共轭先验或者共轭分布？
如果你读过贝叶斯学习方面的书或者论文，想必是知道共轭先验这个名词的。现在假设你闭上眼睛，你能准确地说出共轭分布是指哪个分布和哪个分布式共轭的吗？我之前就常常把这个关系弄错，现在记录如下，以加强印象。贝叶斯学派和频率学派的区别之一是特别重视先验信息对于inference的影响，而引入先验信息的手段有“贝叶斯原则“（即把先验信息当着均匀分布）等四大类其中有重要影响的一类是：共轭先验
2012-03-10 16:58:00
72617
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人