逻辑回归

逻辑回归

逻辑回归（Logistic Regression,LR）是一种很常用的分类算法，对于一般的二分类情况，给定N个训练样本，$(x_1,y_1)，(x_2,y_2)...(x_N,y_N)$，其中$x_i\in R^n$是一个n维向量，$y_i\in \{-1,+1\}$表示了其对应样本的标签，1代表正样本，-1代表负样本。一般的，逻辑回归模型就是使用sigmoid函数$\sigma(x)=\frac{1}{1+exp(-x)}$将样本特征向量与其属于正样本的概率联系起来：

p(yi=+1|xi,w)=σ(wTxi)=11+exp(−wTxi)