机器学习之数理统计与参数估计

开宗明义:本系列基于小象学院机器学习课程,小白,会一点一点推导公式,一步一步爬到最高,嘿嘿嘿,旨在理解和交流,重在记录,望各位大牛指点!


机器学习之数理统计与参数估计



1、统计量

1.1 期望/方差/偏度/峰度


在这里插入图片描述
在这里插入图片描述

A、B相互包含的信息量 I ( A , B ) I(A,B) I(A,B): 给定事件A、B,若有 P ( A B ) = P ( A ) P ( B ) P(A B)=P(A) P(B) P(AB)=P(A)P(B),则事件A、B相互独立。那么A、B相互包含的信息量定义为 I ( A , B ) I(A,B) I(A,B)

期望
在这里插入图片描述
在这里插入图片描述
方差
在这里插入图片描述
偏度
在这里插入图片描述
在这里插入图片描述
峰度
在这里插入图片描述


1.2 协方差和相关系数

协方差
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
相关系数
在这里插入图片描述


1.3 独立和不相关

在这里插入图片描述
X 、 Y X、Y XY 独立,则:
Var ⁡ ( X Y ) = Var ⁡ ( X ) Var ⁡ ( Y ) + Var ⁡ ( X ) E 2 ( Y ) + Var ⁡ ( Y ) E 2 ( X ) \operatorname{Var}(X Y)=\operatorname{Var}(X) \operatorname{Var}(Y)+\operatorname{Var}(X) E^{2}(Y)+\operatorname{Var}(Y) E^{2}(X) Var(XY)=Var(X)Var(Y)+Var(X)E2(Y)+Var(Y)E2(X)


2、大数定律/中心极限定理

切比雪夫不等式
在这里插入图片描述
均值:X样本采样中心点,方差:以中心点为圆点,标准差为半径的球范围采样取点

大数定律
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
中心极限定理
在这里插入图片描述
在这里插入图片描述


3、矩估计

在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3.1 中心矩和原点矩

在这里插入图片描述
在这里插入图片描述
下面举例子
在这里插入图片描述
在这里插入图片描述
下面这个很重要哦
在这里插入图片描述

4、最大似然估计

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值