稳健估计、M估计、最小二乘法

最新推荐文章于 2024-03-08 06:03:45 发布
最新推荐文章于 2024-03-08 06:03:45 发布
阅读量709 收藏 3
点赞数 1
原文链接：https://blog.csdn.net/baidu_35570545/article/details/55212241
版权

摘要：稳健估计是在粗差不可避免的情况下，选择适当的估计方法使未知量估计尽可能减免粗差的影响，得出正常模式下的最佳估计。本文先介绍基于最小二乘法的多元线性回归理论，再引出基于M估计的加权最小二乘估计。
关键词：稳健估计，M估计，最小二乘法，加权，极限学习机

这里写图片描述

这里写图片描述

这里写图片描述

这里写图片描述

这里写图片描述

这里写图片描述

4、结尾

文章的最后就要提极限学习机了，黄广斌提出的极限学习机的原理虽说是单隐层前馈神经网络，说白了就是以最小二乘为基础的，所以说最小二乘估计的思想必须牢牢掌握。

参考文献：
[1]胡义函, 张小刚, 陈华, and 李晶辉: ‘一种基于鲁棒估计的极限学习机方法’, 计算机应用研究, 2012, 29, (8), pp. 2926-2930

意志上的巨人
关注
稳健性估计—— M 估计
weixin_42141390的博客
06-15 6098
M 估计法，估计均值 M 估计法算均值的原理在于求解下述方程： ave[f(xi−TnSn)]=0 \text{ave}[ f(\frac{x_i-T_n}{S_n})] = 0 ave[f(Sn​xi​−Tn​​)]=0 其中 TnT_nTn​ 是对均值的估计值（方程的解即为 M 算法估计均值的结果），SnS_nSn​ 为对方差平方根（标准差）的估计。 对于小样本来说（n∈[4,8]n\in[4, 8]n∈[4,8]），SnS_nSn​ 取 MAD，即： MADn(X)=1.4826×medn(∣xi−m
最小二乘法
m0_54902013的博客
03-16 1651
假设有一系列数据点(xi,yi)(i=1,...,m)(x_i, y_i)(i=1,...,m)(xi​,yi​)(i=1,...,m)，线性回归就是要找到一个拟合函数，使之尽可能地逼近这些数据点。假设拟合函数为h(x)=kx+bh(x)=kx+bh(x)=kx+b，那么每个样本的估计量就是h(xi)h(x_i)h(xi​)，进而实际值和估计量的残差为：ri=h(xi)−yir_i=h(x_i)-y_iri​=h(xi​)−yi​ 对于残差rir_iri​，有三种相关的范数： ∞\infin∞-范数：残差
广义线性模型的M-估计 (2011年)
05-25
用M-估计来估计广义线性模型中的未知参数β.首先,在一定的假设条件下,根据已有的对广义线性模型中未知参数β的极大似然估计方法,应用大数定律及鞍中心极限定理,证明了广义线性模型的M-估计的两个重要性质,即相合性及渐近正态性.其次,将固定设计的思想引入M-估计,并与广义线性模型相结合,证明了其相合性及渐近正态性.最后通过数值模拟证明了估计的优良性.
M估计（稳健估计）的matlab实现
u014230360的博客
07-21 5714
在进行样本点线性拟合时，一个偏离严重的点（这种点通常称为离群点，又称局外点、外点、出格点）产生的误差相比其他多数正常点占主导地位，这些误差会导致拟合过程中产生巨大的偏差。产生这种后果的原因就是误差被平方了。一个很自然的想法就是给那些离群点更小的权重。常用的一个权重函数为，其中为尺度参数，调节权重衰减的快慢，为残差。显而易见，该权重函数给残差大的点分配更小的权重，当残差趋于无穷大，权重也趋于0，符合直觉想法。M估计法就是基于这种权重分配思想设计的，其其完整处理流程如fig1所示(参见《计算机视觉——一种现代方
最小二乘法和最小二乘估计和M估计式什么关系？
qq_42537872的博客
07-20 932
最小二乘法和最小二乘估计和M估计式什么关系？
稳健估计/M估计/最小二乘法
水浴月
02-15 3万+
稳健估计是在粗差不可避免的情况下，选择适当的估计方法使未知量估计尽可能减免粗差的影响，得出正常模式下的最佳估计。本文先介绍基于最小二乘法的多元线性回归理论，再引出基于M估计的加权最小二乘估计。
Huber稳健估计
10-16
鲁棒估计中的Huber估计，C#源码，仅供参考
5.6 稳健最小二乘法
jhshanvip的博客
05-02 2436
5.6 稳健最小二乘法 稳健最小二乘法是一种能有效抑制强影响点对回归结果造成影响的方法，利用加权最小二乘法的思想，对残差大的测量点赋予低权重，残差正常的测量点赋予相同权重，则可以抑制异常点对结果的影响，获得较为稳定的估计值，不易受强影响点的影响。假设第 iii 个测量点的残差为 δi\delta_iδi​ ，权重为 wiw_iwi​ ，最常用的权重取值方式如下，即著名的Huber函数。 wi={1...
LS1.zip_估计_最小二乘法_辅助变量法_递推辅助变量
09-24
在实际应用中，如果误差项不是独立同分布的，GLS将提供比普通最小二乘法更稳健的参数估计。 压缩包中的"LS1.m"文件很可能是一个MATLAB脚本，用于实现上述概念的算法。MATLAB是一种广泛用于数值计算和数据分析的编程...
最小二乘法_最小二乘法_
10-01
最小二乘法是一种在数学和统计学中广泛使用的优化技术，用于从一组数据点估计模型参数。这种方法在处理线性和非线性问题时都十分有效，尤其在数据分析、信号处理和工程领域中有着广泛应用。标题提到的是使用MATLAB...
suanfa.rar_参数估计_最小二乘_最小二乘 递推_最小二乘估计_递推最小二乘
09-24
最小二乘法是一种广泛使用的优化技术，它的基本思想是通过最小化误差平方和来估计模型参数。在最简单的线性回归模型中，最小二乘法用于找到一条直线（或更一般地说，超平面），使得所有数据点到这条直线的垂直距离...
半小时学习最小二乘法
热门推荐
小楼吹彻玉笙寒
04-20 4万+
这里是我的个人网站： https://endlesslethe.com/easy-to-learn-ols.html 有更多总结分享，最新更新也只会发布在我的个人网站上。排版也可能会更好看一点=v= 前言 最小二乘法在统计学的地位不必多言。本文的目的是全面地讲解最小二乘法，打好机器学习的基础，后面的系列文章会继续讲解最小二乘的正则化。 至于非线性最小二乘和广义线性模型，如果以后有时间...
最小二乘法（带你 原理 实践）
2303_79387663的博客
03-08 2884
最小二乘法作为一种重要的数学优化技术，在回归分析中发挥着至关重要的作用。它通过最小化残差平方和来确定模型的参数，使得模型的预测值与观测值之间的误差最小。虽然最小二乘法存在一些缺点和不足，但在实际应用中，我们可以结合具体问题的特点和需求，选择适当的方法和技巧来克服这些缺点，提高模型的准确性和可靠性。随着大数据时代的到来，数据分析和挖掘的需求越来越强烈。最小二乘法作为一种基础的数据分析工具，将在未来的数据分析领域继续发挥重要作用。
Matlab最小二乘法：线性最小二乘、加权线性最小二乘、稳健最小二乘、非线性最小二乘与剔除异常值效果比较
大数据部落
05-10 2558
原文链接：http://tecdat.cn/?p=26624 原文出处：拓端数据部落公众号 matlab软件在拟合数据时使用最小二乘法。拟合需要一个参数模型，该模型将因变量数据与具有一个或多个系数的预测数据相关联。拟合过程的结果是模型系数的估计。 为了获得系数估计，最小二乘法最小化残差的平方和。第i个数据点ri的残差定义为观测因变量值yi与拟合因变量值ŷi之间的差值，并标识为与数据相关的误差。 残差的平方和由下式给出 其中n是拟合中包含的数据点的数量， S是误差估.......
m估计及其c++简单实现
xinxiangwangzhi_的博客
02-25 1240
m估计理论与实现
m估计及其推到公式
sinat_37789134的博客
04-01 9507
为什么要有m-估计？ 当我们通过在全部事件的基础上观察某事件出现的比例来估计概率时，例如：P=nc/n.，其中nc为该类别中的样本数量，n为总样本数量。若n=5，当P=0.6时，则nc为3。多数情况下该比例是对概率的一个良好的估计。但当nc很小时估计会较差，例如：P=0.08，样本中同样有5个样例，那么对于nc最可能的取值只有0,。这会导致两个问题： 1、nc/n产生了一个有偏的过低估
稳健估计方法
m0_51327832的博客
04-10 2674
最小二乘法得到的估计量为 1.Huber回归估计量为 其中，为预先给定的阈值。 由上式可以看出，在残差绝对值小于阈值时，仍然采用平方损失。在残差绝对值大于阈值时，认为该数据值为异常值，通过绝对值损失来降低对应数据点的权重。平方损失可以得到无偏估计，但对于异常值敏感，而绝对值损
vtk-9.3.0-cp312-cp312-win_amd64.whl
最新发布
10-07
vtk-9.3.0-cp312-cp312-win_amd64.whl
机器人学中的稳健估计与应用
作者们来自ETH苏黎世的自主系统实验室，详细探讨了为什么非线性最小二乘法面临挑战、损失函数与鲁棒估计的关系、迭代重加权非线性最小二乘法，并提供了M-估计的理论背景，包括影响曲线、大误差敏感性、最大偏差曲线...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值