SVM对噪声敏感原因

今天看西瓜书，然后看到习题关于 “SVM对噪声敏感原因”，看了几个答案，感觉不够系统，说的太细了，反而有种不太全面的感觉。我想了一下，大约应该是会 过拟合。因为SVM约束条件就是对于每个样本要正确分类，至于间隔最大是在这个约束条件的基础上进行的，所以如果约束条件成立就已经导致模型非常复杂，然后过拟合，那么就算是用 min WW 进行约束，也已经效果不大。就跟“扬汤止沸不如釜底抽薪”一样。我的这个想法是源自正则化。正则化是通过添加结构化风险使得经验风险不会太小，防止过拟合。而对于SVM来说，经验风险已经是0了，如果数据结构不是接近线性的话，过拟合的可能性就很大的。