约束条件:函数间隔为1
1:为什么要增加约束条件:函数间隔为1
原因:简化公式
2:为什么能增加约束条件
原因:增加约束条件后对分类平面的选取并无影响
推导:
因为约束条件为y(i)(wTx(i)+b)>=
γ
^
\hat{γ}
γ^,
令i=k(k为常数且k∈i)使得y(i)(wTx(i)+b)>= y(k)(wTx(k)+b)=
γ
^
\hat{γ}
γ^
观察y(k)(wTx(k)+b)=
γ
^
\hat{γ}
γ^
可以令
γ
^
\hat{γ}
γ^=1,即y(k)(wTx(k)+b)=1,得到当前的w与b
也可以令
γ
^
\hat{γ}
γ^=
1
n
\frac{1}{n}
n1,即y(k)(wTx(k)+b)=
1
n
\frac{1}{n}
n1,
将此式左右两边同乘n,可得ny(k)(wTx(k)+b)=1,
即不管
γ
^
\hat{γ}
γ^怎么变化,都可以将
γ
^
\hat{γ}
γ^=1时的w和b同乘一个常数后得到。
又因为分类平面为wTx(i)+b=0,所以将w和b同乘一个常数后分类平面不发生变化。
相关术语:
函数间隔:
γ
^
\hat{γ}
γ^(i)=y(i)(wTx(i)+b)
函数间隔最小值:
γ
^
\hat{γ}
γ^=mini=1,2,…m
γ
^
\hat{γ}
γ^(i)
几何间隔:γ(i)=y(i)( wTx(i)+b||w||)
函数间隔最小值:γ=mini=1,2,…m γ(i)