摘要
背景
1、支持向量机有点
2、支持向量机计算复杂度高,大规模不行,广义特征值(GEPSVM)和双支持向量机(TWSVM)(找到了两个非平行的超平面,而不是一个决策超平面)更快,TWSVM上有很多延展
3、SVM的鲁棒性和泛化能力是另一个重要方向,svm早期0-1损失函数(N-P难问题),𝐶-SVM采用Hinge损失(噪声敏感性和重新采样不稳定性),。。。。稀疏性缺点
4、综合优势,提出了一种基于L2范数钉球损失函数的分类器,称为平滑钉球双支持向量机(SP-TSVM)。定义了一种新的损失函数:半平滑L2范数钉球损失函数–》半平滑钉球双支持向量机(SSP-TSVM)。
贡献
- 所提出的SP-TSVM采用了平滑且处处可微的损失函数,与分位数距离密切相关,使模型更加鲁棒。
- 所提出的SP-TSVM对特征噪声不敏感,特别是对位于决策超平面附近的噪声。
- SP-TSVM模型不仅遵循最大化间隔原则,还避免了矩阵求逆运算。
- 由于SP-TSVM没有稀疏性,本文进一步提出了半平滑L2范数的损失函数,并建立了SSP-TSVM模型。它不仅继承了SP-TSVM的优点,还能抑制异常点的负面影响。
- 由于SSP-TSVM是一个非凸优化模型,本文采用方便易用的凹凸过程(CCCP)优化方法来解决它。在迭代过程的每一步中,SSP-TSVM解决一系列类似SP-TSVM的问题。
- 我们对19个无噪声和有噪声的数据集进行了数值实验,结果验证了所提出模型的有效性。
问题(晦涩点)
-
凸优化
先懂数值优化
2、对偶函数
3、拉格朗日乘子 -
List item