Confidence Linear Classification

本质上还是一种linear classifcation，但是非常有意思的一点是，对于绝大多线性分类模型，我们都是先有了参数，然后再去计算参数的方差。一般来讲，参数的方差都是和模型的参数相关的，会有一个公式来描述这二者的关系。

但是在这个模型里，我们假设线性分类模型的参数，服从一个正态分布，却并没有用一个公式来描述均值与方差之间的关系。在普通的linear classifcation里，我们做最优化的objective function一般都是loss function，但是在confidence linear classifcation里，我们最优化的是两个模型之间的距离。

这online learning的一种。

Abstract: We introduce confidence-weighted linear classifiers, which add parameter confidence information to linear classifiers. Online learners in this setting update both classifier parameters and the estimate of their confidence. The particular online algorithms we study here maintain a Gaussian distribution over parameter vectors and update the mean and covariance of the distribution with each instance.

文献：Confidence-Weighted Linear Classification by Dredze at al.