(书接上文)
对偶问题的求解-SMO算法
前文已经推导出了原问题的对偶问题,那么如何求解它呢?比较好的方法就是利用SMO算法。
SMO 的基本思路是先固定向之外的所有参数,然后求上的极值。由于存在约束条件
,若固定
以外的其它变量,则
可由其它变量导出。于是,SMO每次选择两个变量
和
,并固定其它参数。这样,在参数初始化后,SMO不断执行以下两个步骤直到收敛:
1)选取一对需要更新的变量和
;
2)固定和
意外的参数,求解(公式10)获得更新后的
和
。
解出后,求出
和b即可得到模型,如下:
至此,我们已经完成了超平面方程的求解,这是svm模型的原理所在。