![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
统计学
文章平均质量分 86
水言车
数据挖掘,网页开发,机器学习,嵌入式
展开
-
最大似然估计
先贴一下我的参考:维基百科 东北师范大学课件 知乎 由于年代久远,所以以前学的概率全忘了,所以复习下。首先,回想下统计学的核心,以样本去估计整体,我为什么要去求得这个最大似然估计, 例如:我有一个黑盒子,盒子里放了200个球,我次拿出一个,记录颜色,然后放回,摇匀,其中8个黑球,2个白球,同时,设拿到黑球的概率为p{p} 。这时,我所掌握的信息就是:每次拿出的不同的球的概率是相等的,即样本相互原创 2017-05-19 20:21:38 · 766 阅读 · 0 评论 -
限制玻尔兹曼机 Restricted Boltzmann Machine (RBM)
1.基础知识要理解限制玻尔兹曼机,需要的基础知识为: 1.最大似然估计,这是我的上一篇博客。 2.玻尔兹曼分布(Boltzmann distribution) Boltzmann分布是一个系统中各种状态时,粒子的概率分布,概率测量或频率分布:F(state)∝e−EkTF(state)\propto e^-\frac{E}{kT} ∝\propto是正比于符号,EE是状态能量,kk是玻尔兹曼原创 2017-05-21 15:37:05 · 2539 阅读 · 1 评论 -
Adam
Adam方法同样融合了 AdaGrad和RMSProp,更新公式如下: wt=wt−1−α∗mt^vt^−−√+ϵw_{t} = w_{t-1} - \alpha * \frac{\hat {m_t}}{\sqrt{\hat{v_t}}+\epsilon} 其中tt表示次数,mt^\hat{m_t}为mtm_t的纠正,vt^\hat{v_t}为vtv_t的纠正mt^=mt1−βt1\hat{m_原创 2018-02-09 19:50:56 · 1408 阅读 · 0 评论 -
协方差矩阵
1.协方差矩阵的格式与意义协方差矩阵为对称半正定矩阵。假定其格式为: Cov=⎡⎣⎢⎢⎢⎢⎢cov11cov21⋮covn1cov12cov22⋮covn2cov13cov23⋮covn3⋯⋯⋱⋯cov1ncov2n⋮covnn⎤⎦⎥⎥⎥⎥⎥Cov= \begin{bmatrix} cov_{11} & cov_{12} & cov_{13} & \cdots & cov_{1n} \原创 2018-04-02 17:19:00 · 2158 阅读 · 1 评论