Classification:Online Passive Aggressive

Online Passive Aggressive

Online Passive Aggressive 是在线学习算法，在线学习算法与其它算法的区别在于每次只能得到一个样本点，无法保留历史数据，对每一个新的样本点进行分析，根据分析的结果更新分类器。

 

Steps

1. 设置参数C (C>0)

2. 设定W的初值wi=(0,...,0)

3. 每接收一个样本Xt, 计算Yt=sign(Wt*Xt)

    获取类别yt, 取值为-1或1

4. 计算损失值： lt= max{0, 1-Yt}

5. 更新权值

    (1)计算Tt

         三种方法

         a. Tt =  lt/||Xt||²  

           

           b. Tt =  min{C, lt/||Xt||²} 

 

           c.  Tt =  lt/(||Xt||²+1/2C)

     (2) 更新权值

          Wt+1 = Wt + Tt*Yt*Xt  

 

Reference

http://www.google.com.hk/url?sa=t&source=web&cd=1&ved=0CCIQFjAA&url=http%3A%2F%2Fciteseer.ist.psu.edu%2Fviewdoc%2Fdownload%3Bjsessionid%3DF4743238B0EF35EB396A5ABFF1332021%3Fdoi%3D10.1.1.61.5120%26rep%3Drep1%26type%3Dpdf&rct=j&q=online%20passive%20aggressive&ei=elvWTa6jBcfHrQf8o52KBg&usg=AFQjCNGqNjaHyWgT4Z3QrK7hEqSTGM10YQ&sig2=-szWIrzBLoQ52jBER9-I0Q&cad=rja