稳健估计/M估计/最小二乘法

最新推荐文章于 2024-02-25 21:34:19 发布
最新推荐文章于 2024-02-25 21:34:19 发布
阅读量2.9w 收藏 140
点赞数 19
分类专栏： 数学 文章标签： 稳健估计 最小二乘 M估计 ELM 回归
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/baidu_35570545/article/details/55212241
版权

摘要：稳健估计是在粗差不可避免的情况下，选择适当的估计方法使未知量估计尽可能减免粗差的影响，得出正常模式下的最佳估计。本文先介绍基于最小二乘法的多元线性回归理论，再引出基于M估计的加权最小二乘估计。
关键词：稳健估计，M估计，最小二乘法，加权，极限学习机
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述

4、结尾

文章的最后就要提极限学习机了，黄广斌提出的极限学习机的原理虽说是单隐层前馈神经网络，说白了就是以最小二乘为基础的，所以说最小二乘估计的思想必须牢牢掌握。

参考文献：
[1]胡义函, 张小刚, 陈华, and 李晶辉: ‘一种基于鲁棒估计的极限学习机方法’, 计算机应用研究, 2012, 29, (8), pp. 2926-2930

水裕月
关注
  • 19
    点赞
  • 踩
  • 140
    收藏
    觉得还不错? 一键收藏
  • 12
    评论
专栏目录
稳健性估计—— M 估计
weixin_42141390的博客
06-15 5736
M 估计法，估计均值 M 估计法算均值的原理在于求解下述方程： ave[f(xi−TnSn)]=0 \text{ave}[ f(\frac{x_i-T_n}{S_n})] = 0 ave[f(Sn​xi​−Tn​​)]=0 其中 TnT_nTn​ 是对均值的估计值（方程的解即为 M 算法估计均值的结果），SnS_nSn​ 为对方差平方根（标准差）的估计。 对于小样本来说（n∈[4,8]n\in[4, 8]n∈[4,8]），SnS_nSn​ 取 MAD，即： MADn(X)=1.4826×medn(∣xi−m
M-estimator M估计法 用于几何模型建立
热门推荐
Rachel Zhang的专栏
04-11 2万+
M-estimators是一类广泛估计函数，定义为所给数据上的最小和函数。最小平方估计和极大似然估计都是M估计法。M估计法由鲁棒的数据作为运行保证。一般地，一个M-estimation定义为一个估计函数为0的情况。这个估计函数经常是一些统计函数。比如令一个由参数定义的极大似然函数为0，因此一个极大似然估计值往往是一个能量函数取得极值得点。在很多应用中，这样的M估计可以用于参数估计。 最小平方
Huber稳健估计
10-16
鲁棒估计中的Huber估计，C#源码，仅供参考
M估计稳健回归（M-estimation）
蚕样起趁的博客
06-25 8455
M估计稳健回归的基本思想是采用迭代加权最小二乘估计回归系数，可以将目标优化函数写为： 相较于最小二乘估计目标优化函数为： 其中，称为影响函数。 令对求偏导，并令倒数等于0，得 其中，为的导函数 ...
m估计及其c++简单实现
最新发布
xinxiangwangzhi_的博客
02-25 1041
m估计理论与实现
M估计（稳健估计）的matlab实现
u014230360的博客
07-21 5094
在进行样本点线性拟合时，一个偏离严重的点（这种点通常称为离群点，又称局外点、外点、出格点）产生的误差相比其他多数正常点占主导地位，这些误差会导致拟合过程中产生巨大的偏差。产生这种后果的原因就是误差被平方了。一个很自然的想法就是给那些离群点更小的权重。常用的一个权重函数为，其中为尺度参数，调节权重衰减的快慢，为残差。显而易见，该权重函数给残差大的点分配更小的权重，当残差趋于无穷大，权重也趋于0，符合直觉想法。M估计法就是基于这种权重分配思想设计的，其其完整处理流程如fig1所示(参见《计算机视觉——一种现代方
广义线性模型的M-估计 (2011年)
05-25
用M-估计来估计广义线性模型中的未知参数β.首先,在一定的假设条件下,根据已有的对广义线性模型中未知参数β的极大似然估计方法,应用大数定律及鞍中心极限定理,证明了广义线性模型的M-估计的两个重要性质,即相合性及渐近正态性.其次,将固定设计的思想引入M-估计,并与广义线性模型相结合,证明了其相合性及渐近正态性.最后通过数值模拟证明了估计的优良性.
m估计及其推到公式
sinat_37789134的博客
04-01 9143
为什么要有m-估计？ 当我们通过在全部事件的基础上观察某事件出现的比例来估计概率时，例如：P=nc/n.，其中nc为该类别中的样本数量，n为总样本数量。若n=5，当P=0.6时，则nc为3。多数情况下该比例是对概率的一个良好的估计。但当nc很小时估计会较差，例如：P=0.08，样本中同样有5个样例，那么对于nc最可能的取值只有0,。这会导致两个问题： 1、nc/n产生了一个有偏的过低估
数据挖掘导论 笔记5
ccyyawsl的博客
07-17 5605
其他分类模型 基于规则的分类器 ri是规则，R=是规则集 每一个分类规则可以表示为形式 规则左边称为规则前件(rule antecedent)或前提(precondition)。它是属性测试的合取，即 规则右边称为规则后件(rule consequent)，包含预测类yi 分类规则的质量可以用覆盖率(coverage) 和准确率(accuracy) 来度量 覆盖率定义为D中满足规则r的记录所占的比例 准确率或置信因子定义为类标号等于y占触发r的比例 基于规则的分类器的工作原理 互斥规则(Mutuall
最小二乘法和最小二乘估计和M估计式什么关系？
qq_42537872的博客
07-20 842
最小二乘法和最小二乘估计和M估计式什么关系？
大地电磁和转换函数的稳健估计程序birrp
05-11
代码由fortran77写成，需要参考格式写一个parameters.h文件，基于非参数估计方法
R语言_稳健性估计_R语言实例分析_内附R代码_分析数据见资其它资源
12-25
R语言_稳健性估计_R语言实例分析_内附R代码_分析数据见资其它资源.pptx
遥感图像几何精纠正中更为有效的稳健估计方法
06-20
针对遥感图像的几何精度纠正,通过仿真实验,以含有不同观测值数量和粗差数量及不同粗差大小的几何精纠正为例,比较了13种常用稳健估计方法消除或减弱粗差的能力。仿真实验说明L1法和German-McClure法是遥感图像几何精纠正中相对更为有效的稳健估计方法。
基于递推近似最小一乘的多传感器系统偏差稳健估计算法
01-12
对此,提出一种具有递推形式的近似最小一乘稳健估计算法,以减少异常噪声对偏差估计的不利影响.使用平方根平滑逼近函数替代最小一乘法的目标函数,基于牛顿方向及其秩1修正推导出该方法的递推求解框架.基于条件数分析,...
测量稳健估计
11-27
测量程序实现，通过调整权的大小用matlab实现稳健估计
稳健估计的两种粗差探测方法
05-24
在测量数据服从正态分布的情况下,最小二乘估计具有最优化统计性质,它是应用最广泛的一种估计方法.针对测量数据由于过失误差而偏离正态分布,最小二乘估计并没有抵抗异常值的能力,需要寻求具备抗粗差能力的估计理论和...
GNSS高程拟合中的稳健估计粗差剔除方法
06-28
针对GNSS高程拟合中最小二乘估计不具备抗粗差的能力,至使含有粗差数据拟合结果失真的问题,将稳健估计引入到数据预处理中,建立了稳健估计选权迭代方法。研究结果表明:该方法有效地解决了在精度允许的范围内数学模型...
单目相机位姿估计的稳健正交迭代方法
01-26
该算法采用稳健估计方法自动识别粗差点,并赋予其较小权值,以提高算法的稳健性。实验结果表明,稳健正交迭代算法求解精度高、稳健性好,可有效抑制不同个数、不同水平的粗差影响。当20个观测点中存在8个水平为60 pixel...
稳健最小二乘法python实现
09-12
稳健最小二乘法（Robust Least Squares）是一种用于拟合数据的统计方法，它能够处理包含异常值或噪声的数据。在Python中，可以使用Scipy库中的optimize模块来实现稳健最小二乘法。 下面是一个简单的Python示例代码，演示如何使用Scipy库实现稳健最小二乘法： ```python import numpy as np from scipy import optimize # 生成带有噪声的数据 np.random.seed(0) x = np.linspace(0, 10, 100) y_true = 2 * x + 5 y_noise = y_true + np.random.normal(size=len(x)) # 定义拟合函数 def linear_func(params, x): a, b = params return a * x + b # 定义误差函数 def error_func(params, x, y): return linear_func(params, x) - y # 初始参数估计值 initial_guess = [1, 1] # 使用LevMarLSQFitter进行拟合 robust_fit = optimize.least_squares(error_func, initial_guess, args=(x, y_noise), loss='soft_l1') # 输出拟合结果 print("拟合参数：", robust_fit.x) # 绘制原始数据和拟合曲线 import matplotlib.pyplot as plt plt.scatter(x, y_noise, label='Noisy Data') plt.plot(x, linear_func(robust_fit.x, x), 'r', label='Robust Fit') plt.plot(x, y_true, 'k--', label='True Line') plt.legend() plt.show() ``` 在上面的代码中，我们首先生成了一个带有噪声的线性数据集。然后，定义了拟合函数和误差函数（即拟合函数与观测数据之间的差异）。接下来，我们通过调用`optimize.least_squares`函数来执行稳健最小二乘拟合，其中`loss='soft_l1'`指定了使用Soft L1损失函数。最后，我们绘制了原始数据、拟合曲线和真实曲线的图形。 希望这个例子对你有帮助！

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 12
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值