概率统计
文章平均质量分 93
TomHeaven
选择了另一条路,就要承受你预见到的和没有预见的得失。
展开
-
Cramer-Rao下界
在参数估计和统计中,Cramer-Rao界限(Cramer-Rao bound, CRB)或者Cramer-Rao下界(CRLB),表示一个确定性参数的估计的方差下界。命名是为了纪念Harald Cramer和Calyampudi Radhakrishna Rao。这个界限也称为Cramer-Rao不等式或者信息不等式。它的最简单形式是:任何无偏估计的方差至少大于Fisher信息的倒数。一个达到了下原创 2017-01-11 13:36:32 · 41363 阅读 · 0 评论 -
机器学习中的玻尔兹曼分布——最小代价和极大似然
看了一些机器学习的论文,我一直有一个困惑:有的文章训练时写的公式是最小化代价函数,有的文章训练时写的是一个跟自然对数有关的概率分布,这是为什么?经过一番学习,终于有了答案。在这个过程中,还有一个意外收获:那就是著名的逻辑斯第函数的由来。物理上和统计上的玻尔兹曼分布热平衡在物理学领域通常指温度在时间或空间上的稳定。在统计学习中,如果我们将需要学习的模型看成高温物体,将学习的过程看成一个降原创 2017-03-14 23:04:11 · 20245 阅读 · 6 评论