数学很差,简单谈谈对PLS的理解
偏最小二乘,可以看做对最小二乘的改进,最小二乘的缺点对引用了X变量中的全部数据,无关的变量同时牵涉其中,对结果造成了影响。偏最小二乘主要使用成分提取的理念,PCA的想法,用指定的成分数量,对数据进去最大程度提取,不断从残差中,提取有效信息,对最终结果进行求解,得到拟合系数。稀疏偏最小二乘,在此基础上,对一些贡献较小的变量进行了删除,尽可能少的引入变量,同时尽量使得最终的预测值达到目标值。
后续打算从最小二乘法的各个算法全部实现一遍,力求推导公式和代码做到统一清晰,加深对PLS的理解
详情如下,持续更新:
- 偏最小二乘法(NIPALS经典实现--未简化)
- 偏最小二乘法 基本性质推导
- 偏最小二乘法(SIMPLS---未简化)
- PLSR的扩展性质
- PLS中的权值和载荷
- OLS,PCA,CCA,PLS和CR的关系总结及几何解释