感知机算法的基本原理
模型:
其中
感知机的损失函数(loss function)为:
其中I为计数函数,为非连续函数,用于统计分类出错的样本点的个数,由于I的性质不强,我们将L(w)转化为如下的函数
D为统计出错的样本点,这样的L(w)就可以求导。加上负号是因为使得函数值为正。
对w求偏导
然后采用梯度下降法 寻找
其中w为学习率 或者步长
其中
感知机的损失函数(loss function)为:
其中I为计数函数,为非连续函数,用于统计分类出错的样本点的个数,由于I的性质不强,我们将L(w)转化为如下的函数
D为统计出错的样本点,这样的L(w)就可以求导。加上负号是因为使得函数值为正。
对w求偏导
然后采用梯度下降法 寻找
其中w为学习率 或者步长