这篇博客深入探讨了SVM的合页损失函数与原始最优化问题的等价性证明。作者指出李航老师书中关于等价性的表述可能不够清晰，并提供了一个详细的解释。通过分析1−yi(w⋅xi+b)的两种情况，当其大于等于0时，等式成立；小于0时，样本点不在超平面上，松弛变量ξi为0，满足不等式约束。通过对合页损失函数的讨论，进一步证明了等价性。
李航老师的书中写的不是很详细，想了一番参考了一下这个博客，终于明白了这个等价性是怎么来的。
原始最优化问题
合页损失函数
等价性证明
书中，令
实际上我觉得这个表述不对，等式应该直接按后文书中给出的，如下表示：
[ 1 − y i ( w ⋅ x i + b ) ] + = ξ i , ξ i ⩾ 0 ( 7.641 ) \left[1-y_{i}\left(w \cdot x_{i}+b\right)\right]_{+}=\xi_{i}, \quad \xi_{i} \geqslant 0 \qquad (7.641) [1−yi(
最低0.47元/天 解锁文章
扫一扫
1884
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
