为什么很多都模型假设变量服从正态分布,尤其是回归模型?

1.正态分布的奇妙之处就在于它是自然分布,任何看似没有规律可寻的随机事件其实是服从一个表达式就能表达的正态分布,不受人为影响。
eg:打靶,你每次射中点离中心的距离就是误差+方差,如果你每次射中点离中心点都离好远,那你就得提高自身的水平,即距离中心点的宽度(也就是方差),但你就算对自己的水平无限提高,你还是不能每次都射中中心点,这就是所谓的误差,所以如果你想射中点偏离中心点较小,就只能提高方差,也就是改变正态分布的方差,但是误差是呈现正态分
2.正态分布的信息熵最大,是最没有规则的分布,所以大自然嗜好这种分布。
为什么熵大好,这个要说很多分类模型中的特征选择标准了,想了解的童鞋请参见上篇简文信息增益与信息增益比
3.在线性回归中,使用最小二乘法估计是最小方差的无偏估计,所以要求误差项必须满足正态分布,那么在设定x值固定的情况下,y也满足正态分布,所以要求噪声u服从正态分布,即因变量服从正态分布
4.以数学理解为中心极限定理,即所有的随机事件取样本均值足够多的情况下都服从正态分布,所以就产生了对变量正态分布的假设(这个理解主要来自于中心极限定理概念里面提出的当随机变量受综合因素影响,且每一个因素影响较小时,该变量都服从正态分布的定理)而且虽然中心极限定理的前提条件是变量独立且同分布,但这也不是必要条件,粗略的就可以理解为如果一些变量服从相似的分布且相关性较弱,那么他们的平均值就接近正态分布
最后,怎么使自己的数据转换成正态分布,这个一般使用box-cox转换

  • 3
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值