前述知识:
与TSVM相比,LS-TSVM 的关键优势是 LS-TSVM 是一种非常快速和简单的算法。ELS-TWSVM(基于能量的双最小二乘支持向量机) 的目的是改善 LS-TSVM 的鲁棒性。
基于能量的 LS-TSVM 为每个超平面的引入能量的概念来提高其鲁棒性,引入能量后的原始最优化问题为(以其中一个超平面为例):
其中另一个超平面的最优化问题类似:
将原始最优化问题的等式约束添加到最小化项中得到:
求其对 的偏导并等于 0 得到:
结合两项可以得到:
就可以解得:
得到两个超平面后,对于需要预测的点,它的类别就是离它近的超平面所属的类别。与 LS-TSVM 相比:
- LS-TSVM的约束要求超平面与另一类的点的距离正好为1,它使得LS-TSVM对异常值很敏感;ELS-TSVM为每个超平面引入了一个能量,根据先验知识或网格搜索,选择了不同的能量参数,以减少噪声和异常值的影响
- 其次,ELS-TSVM 和 LS-TSVM 的决策函数完全不同。从原始问题中直接得到了 ELS-TSVM 的决策函数。但是,在 LS-TSVM 中,计算点到平面的垂直距离。