线性回归,逻辑回归,Softmax分类器,LinearSVM等算法都能够简单的分解成scoreFunction的设计与LossFunction的求解两部分,具体分解如下表所示:
ClassifierName | ScoreFunction | LossFunction |
---|---|---|
LinearSVM | s=WTX | L=max(0,1−s) |
LinearRegression | s=WTX | L=(s−label)2 |
LogisticRegression | s=WTX | p=11+e−s;L=label∙log(p)+(1−label)∙log(1−p) |
SoftmaxClassifier | s=WTX |