PLSR的基本原理与推导,我在这篇博客中有讲过。
0.
偏最小二乘回归集成了多元线性回归、主成分分析和典型相关分析的优点,在建模中是一个更好的选择,并且MATLAB提供了完整的实现,应用时主要的问题是:
注意检验,各种检验参数:有关回归的检验以及有关多元分析的检验
系数众多,容易混淆
要清楚原理才能写好论文
注意matlab函数plsregress的众多返回值
例如累计贡献度,建模时最好列出表格
1.
问题:
自变量组 X = [x1,x2…xn] (n组自变量)
因变量组 Y = [y1,y2,…yp] (p组因变量)
考虑到X、Y内部之间的多重相关性,可以使用PLSR建立Y对X的多元回归模型。这是一种多对多回归的模型。
偏最小二乘回归的实现步骤:
X、Y标准化。若考虑标准化的不对等特性,考虑实现对应分析。
求相关系数矩阵。可以把X、Y统一放到一个增广矩阵中,实现求列向量之间的相关系数矩阵(corrcoef实现无需标准化,直接使用原始数据)
求主成分对。(求出自变量与因变量的成分,类似于典型相关分析)这里对数其实是min(n-1,p)。求出、… 实际上,u、v是原始变量标准化后的线性组合、即投影。
计算贡献率表格。计算前k个主成分u对原始变量X的贡献率、v对Y的贡献率(函数直接返回结果)。
根据贡献率表格,选取k个主成分对。一般累计贡献率达到90%合适。
求出原始变量X对这k个主成分u的回归方程以及Y对u的(不是v!)回归方程。
根据6的结果,可以求出因变量组Y与自变量组X的回归方程,但这其实是标准化了的(常数项一定是0),进一步可以还原为真实原始变量的回归方程,这也是我们所要求得的。
模型的解释与检验。
首先得进行一个回归检验:判定系数R方的检验(接近于1)。计算每一个回归方程的R方,可以列出表格。
之后进行交叉有效性检验:交叉系数Qh方 = 1 – (PRESS(h) / SS(h-1))。这是从主成分分析的角度的检验,即检验提取的k个主成分。(这个检验比较复杂,详细看推导)
2.