Passive Aggressive Alogrithm

原始论文：Online Passive-Aggressive Algorithms by Crammer at al.

本文主要参考对象：Passive-Aggresive Blog by Giuseppe Bonaccorso

PA模型在分类和回归上都可以运用，在文本，我们主要讨论二元分类问题。

PA属于online learning，自然也拥有了OL的优点，也就是，当数据分布随着时间改变而改变时，PA的权重也会逐渐改变，使得新算法能够更好地预测。

PA的预测方式是：

就像SVM一样，PA的损失函数也是Hinge Loss function。
注意，在预测准确时，恒为正，在预测错误时，恒为负。所以，当预测结果是正确的时候，而且远离margin时，模型不必要被修改，除此之外，模型都需要被调整&#x