✅作者简介:热爱科研的Matlab仿真开发者,修心和技术同步精进,代码获取、论文复现及科研仿真合作可私信。
🍎个人主页:Matlab科研工作室
🍊个人信条:格物致知。
更多Matlab完整代码及仿真定制内容点击👇
🔥 内容介绍
加权最小二乘法 (Weighted Least Squares, WLS) 和加权最小最大法 (Weighted Minimax, WMM) 是两种常用的优化方法,用于解决在不同数据点上权重不同的最小化问题。本文将深入探讨这两种方法的理论基础,并结合Matlab编程语言,详细阐述其具体实现步骤以及在实际应用中的优缺点。
一、加权最小二乘法 (WLS)
最小二乘法旨在找到一组参数,使得模型预测值与观测值之间的平方误差之和最小。然而,在实际应用中,不同数据点的可靠性往往不同,例如,一些数据点可能受到噪声的干扰更大,或者其测量精度较低。此时,简单的最小二乘法无法有效地利用所有数据的信息,加权最小二乘法应运而生。
WLS的基本思想是为每个数据点赋予一个权重,权重越大表示该数据点越可靠,对最终结果的影响也越大。假设我们有n个数据点 (xi,yi)(xi,yi),以及相应的权重 wiwi,模型为 y=f(x,θ)y=f(x,θ),其中 θθ 为待估计的参数向量。WLS的目标函数为:
J(θ)=∑i=1nwi(yi−f(xi,θ))2J(θ)=∑i=1nwi(yi−f(xi,θ))2
最小化该目标函数即可得到参数 θθ 的最优估计。当 f(x,θ)f(x,θ) 为线性模型时,即 f(x,θ)=Xθf(x,θ)=Xθ,其中 XX 为设计矩阵,则WLS的解为:
θ^=(XTWX)−1XTWyθ^=(XTWX)−1XTWy
其中,W=diag(w1,w2,...,wn)W=diag(w1,w2,...,wn) 为权重矩阵。
Matlab实现:
% 数据
x = [1, 2, 3, 4, 5];
y = [2, 3, 5, 4, 7];
w = [1, 2, 1, 0.5, 2]; % 权重
% 设计矩阵
X = [ones(size(x)), x];
% 权重矩阵
W = diag(w);
% 计算参数
theta = (X'*W*X)\(X'*W*y);
% 绘图
x_fit = linspace(min(x), max(x), 100);
y_fit = [ones(size(x_fit)), x_fit]*theta;
plot(x, y, 'o', x_fit, y_fit);
legend('数据', '拟合曲线');
这段代码实现了对一组数据进行线性加权最小二乘拟合。用户可以根据实际情况修改权重向量 w
和设计矩阵 X
。 对于非线性模型,可以使用迭代算法,如高斯-牛顿法或列文伯格-马夸特法进行求解。
二、加权最小最大法 (WMM)
WMM旨在最小化最大加权误差。与WLS不同,WMM关注的是最大的误差,而不是误差的平方和。其目标函数为:
J(θ)=maxi=1,...,n{wi∣yi−f(xi,θ)∣}J(θ)=maxi=1,...,n{wi∣yi−f(xi,θ)∣}
最小化该目标函数等价于求解如下线性规划问题:
mintmint
s.t.−t≤wi(yi−f(xi,θ))≤t,i=1,...,ns.t.−t≤wi(yi−f(xi,θ))≤t,i=1,...,n
其中,tt 为一个辅助变量,表示最大加权误差。
Matlab实现:
对于线性模型,WMM可以转化为线性规划问题,使用Matlab的 linprog
函数进行求解。 对于非线性模型,通常需要使用迭代算法,例如改进的单纯形法或其他非线性规划算法。 以下是一个线性模型的例子:
% 数据 (与WLS例子相同)
x = [1, 2, 3, 4, 5];
y = [2, 3, 5, 4, 7];
w = [1, 2, 1, 0.5, 2];
% 设计矩阵
X = [ones(size(x)), x];
% 线性规划问题
f = [0, 0, 1]'; % 目标函数系数
A = [-diag(w)*X, ones(5,1); diag(w)*X, ones(5,1)];
b = [w.*y; -w.*y];
lb = [-inf; -inf; 0]; % 下界
ub = [inf; inf; inf]; % 上界
options = optimoptions('linprog','Algorithm','dual-simplex');
[theta_wmm,~,exitflag] = linprog(f,A,b,[],[],lb,ub,options);
%判断求解是否成功
if exitflag > 0
% 绘图 (类似于WLS的绘图部分)
x_fit = linspace(min(x), max(x), 100);
y_fit = [ones(size(x_fit)), x_fit]*theta_wmm(1:2);
plot(x, y, 'o', x_fit, y_fit);
legend('数据', '拟合曲线');
else
disp('线性规划求解失败!');
end
这段代码利用linprog
函数求解线性规划问题,得到WMM的解。 需要注意的是,linprog
函数的求解效率和稳定性会受到问题的规模和性质的影响。
三、WLS与WMM的比较
WLS和WMM各有优缺点:
-
WLS: 对离群点敏感,容易被少数离群点影响最终结果。计算相对简单,效率较高,尤其在处理线性模型时。
-
WMM: 对离群点不敏感,更注重控制最大误差,结果更稳健。但计算复杂度较高,尤其是非线性模型,求解过程可能收敛较慢或难以收敛。
选择哪种方法取决于具体的应用场景和数据特点。如果数据质量较高,没有明显的离群点,则WLS是更有效的选择;如果数据存在离群点或需要控制最大误差,则WMM更合适。 实际应用中,也可能需要结合两种方法的优点,或者采用其他更先进的鲁棒优化方法。
四、结论
本文详细介绍了加权最小二乘法和加权最小最大法的理论基础和Matlab实现,并比较了两者的优缺点。 选择合适的优化方法需要根据具体问题进行分析,并结合实际情况进行权衡。 未来研究可以探索更高级的加权优化算法,以提高计算效率和鲁棒性,并扩展到处理更大规模的数据集和更复杂的模型。
⛳️ 运行结果
🔗 参考文献
🎈 部分理论引用网络文献,若有侵权联系博主删除
🎁 关注我领取海量matlab电子书和数学建模资料
👇 私信完整代码和数据获取及论文数模仿真定制
1 各类智能优化算法改进及应用
生产调度、经济调度、装配线调度、充电优化、车间调度、发车优化、水库调度、三维装箱、物流选址、货位优化、公交排班优化、充电桩布局优化、车间布局优化、集装箱船配载优化、水泵组合优化、解医疗资源分配优化、设施布局优化、可视域基站和无人机选址优化、背包问题、 风电场布局、时隙分配优化、 最佳分布式发电单元分配、多阶段管道维修、 工厂-中心-需求点三级选址问题、 应急生活物质配送中心选址、 基站选址、 道路灯柱布置、 枢纽节点部署、 输电线路台风监测装置、 集装箱船配载优化、 机组优化、 投资优化组合、云服务器组合优化、 天线线性阵列分布优化、CVRP问题、VRPPD问题、多中心VRP问题、多层网络的VRP问题、多中心多车型的VRP问题、 动态VRP问题、双层车辆路径规划(2E-VRP)、充电车辆路径规划(EVRP)、油电混合车辆路径规划、混合流水车间问题、 订单拆分调度问题、 公交车的调度排班优化问题、航班摆渡车辆调度问题、选址路径规划问题
2 机器学习和深度学习方面
2.1 bp时序、回归预测和分类
2.2 ENS声神经网络时序、回归预测和分类
2.3 SVM/CNN-SVM/LSSVM/RVM支持向量机系列时序、回归预测和分类
2.4 CNN/TCN卷积神经网络系列时序、回归预测和分类
2.5 ELM/KELM/RELM/DELM极限学习机系列时序、回归预测和分类
2.6 GRU/Bi-GRU/CNN-GRU/CNN-BiGRU门控神经网络时序、回归预测和分类
2.7 ELMAN递归神经网络时序、回归\预测和分类
2.8 LSTM/BiLSTM/CNN-LSTM/CNN-BiLSTM/长短记忆神经网络系列时序、回归预测和分类
2.9 RBF径向基神经网络时序、回归预测和分类