![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
统计机器学习
philpy_used
这个作者很懒,什么都没留下…
展开
-
两个多维高斯分布的Kullback-Leibler divergence(KL散度)
两个高斯分布分别为:p(x)=N(xj;μ,∑) &...原创 2020-04-02 11:42:38 · 3495 阅读 · 3 评论 -
多维矩阵Fisher信息量的一个重要性质的证明
F(θ)=∫(∂∂θlogq(x;θ))(∂∂θTlogq(x;θ))q(x;θ)dxF(\theta)=\int\bigg(\frac{\partial}{\partial\theta}logq(x;\theta)\bigg)\bigg(\frac{\partial}{\partial\theta^T}logq(x;\theta)\bigg)q(x;\theta)dxF(θ)=∫(∂θ∂lo...原创 2020-04-02 09:31:59 · 1920 阅读 · 0 评论 -
人生苦短,我能受这气?| 我用Python轻松解决了这个简单又恼火的问题
今天统计学老师布置了一道题,题目是这样的:很简单的一个题目,就是估计一下置信区间而已,用t估计,先求出来 X‾=132(13.0+...+17.6)\overline{X}=\frac{1}{32}(13.0+...+17.6)X=321(13.0+...+17.6)然后S=1n−1∑i=1n(xi−x‾)2S=\sqrt{\frac{1}{n-1}\sum_{i=1}^{n}(x_i-...原创 2020-03-24 21:34:15 · 456 阅读 · 1 评论 -
统计机器学习-多元高斯分布
多元高斯分布:假设 y1,y3,...,ydy^1,y^3,...,y^dy1,y3,...,yd 分布独立,服从分布 N(0,1)N(0,1)N(0,1)联合分布 y=(y1,y2,...,yd)y=(y^1,y^2,...,y^d)y=(y1,y2,...,yd) 服从分布g(y)=∏j=1d12πe−(yj)22=1(2π)d2e−12yTyg(y)=\prod_{j=1}^d...原创 2020-03-19 16:47:01 · 1005 阅读 · 0 评论 -
统计机器学习-Multinoulli分布、多项式分布
Multinoulli分布(多元伯努利分布):模型: Mu(p)Mu(p)Mu(p) d面????获得每一面的概率: p1,p2,...,pdp_1,p_2,...,p_dp1,p2,...,pd分布函数:p(x∣p)=∏k=1dpkxkp(x|p)=\prod_{k=1}^d p_k^{x_k}p(x∣p)=k=1∏dpkxkE(X)=pE(X)=pE(...原创 2020-03-16 11:21:44 · 2288 阅读 · 0 评论 -
统计机器学习-Gamma分布、Beta分布、Dirichlet分布
1. Gamma 分布 (参考https://zhuanlan.zhihu.com/p/37976562)模型假设事件单位时间内发生α\alphaα次,则发生xxx次所经过的时间1.1 Gamma 函数Gamma函数定义为∫0+∞tα−1e−tdt\int_{0}^{+\infty}t^{\alpha-1}e^{-t}dt∫0+∞tα−1e−tdt形象理解为用一个伽马刀,对 α\alp...原创 2020-03-10 10:14:41 · 2053 阅读 · 0 评论 -
统计机器学习-泊松分布
泊松分布:模型:假设单位时间内发生时间λ\lambdaλ次,求单位时间内事件发生x次的概率。分布函数:p(x)=e−λλxx!p(x)=\frac{e^{-\lambda}\lambda^x}{x!}p(x)=x!e−λλx矩母函数:Mx(t)=E(etx)=∑x=0∞etxe−λλxx!M_x(t)=E(e^{tx})=\sum_{x=0}^∞ \frac{e^{tx}e^{-\la...原创 2020-03-10 09:55:08 · 2683 阅读 · 0 评论 -
统计机器学习-伯努利与二项分布
矩母函数:Mx(t)=E(etx)={∑xetxf(x) (离散的)∫etxf(x)dx(连续的)M_x(t)=E(e^{tx})=\begin{cases}\sum_xe^{tx}f(x)\qquad\qquad\qquad \ \ (离散的)\\\\\displaystyle \int e^{tx} f(x)dx\qquad\qquad\qquad(连续的) ...原创 2020-03-09 16:23:43 · 1483 阅读 · 0 评论 -
统计机器学习-贝叶斯公式
概率论的两大基本规则:加法规则:P(X)=∑YP(X,Y)P(X)=\sum_Y P(X,Y)P(X)=Y∑P(X,Y)乘法规则:P(X,Y)=P(Y)P(X∣Y)=P(X)P(Y∣X)P(X,Y)=P(Y)P(X|Y)=P(X)P(Y|X)P(X,Y)=P(Y)P(X∣Y)=P(X)P(Y∣X)演化得:贝叶斯公式:P(Y∣X)=P(X∣Y)P(Y)P(X)P(Y|X)=\frac {...原创 2020-03-08 19:44:35 · 714 阅读 · 0 评论