数学的魅力
潜心修行的研究者
潜心修行
展开
-
方差、协方差、协方差矩阵和相关系数(全称皮尔逊相关系数)
一,方差方差衡量的是当我们对x依据它的概率分布进行采样时,随机变量x的样本值会呈现多大的差异,或者说方差是对随机变量x取值集中或分散的一种对量。1,方差公式Var(X)=E((X−E(X))2)=E(X2)−(E(X)2)Var(X)=E((X−E(X))2)=E(X2)−(E(X)2)Var(X) =E((X-E(X))^2) =E(X^2)-(E(X)^2) 标准差为Va...原创 2018-02-05 12:13:16 · 9023 阅读 · 0 评论 -
信息论基础(包含最大熵模型)
一,基础1,熵如果X 是一个离散型随机变量,其概率分布为p(x)=P(X=x)p(x)=P(X=x)p(x) = P(X = x),x∈Rx∈Rx\in R。X 的熵H(X) 为H(X)=−∑x∈Rp(x)log2p(x)H(X)=−∑x∈Rp(x)log2p(x)H(X)=-\sum_{x\in R}{p(x)log_2p(x)}其中,约定0log 0 = 0。 H(X) 也可以写...原创 2018-04-03 23:50:31 · 1165 阅读 · 0 评论