分类与线性回归二者都是回归里的问题,分类问题又是逻辑回归。
网络结构不同
两者的输出不同,通过下图简单了解:
图1是线性回归,图2是逻辑回归。我们能看到线性回归只有一个输出,而分类问题的输出具有多个,如图表示了三个类别的分类,o_1代表了类别1的可能性,o_2代表了类别2的可能性。
数学计算不同
两者从数学表达式方面理解如下:
损失函数/最后一层激活函数不同
线性回归的损失函数常使用MSE/MAE作为损失函数(或者叫L_2/L_1范数,个人觉得L_2/L_1范数定义并不准确),最后一层输出并不做很大的处理。
分类问题的损失函数常使用Cross Entropy交叉熵作为损失函数。最后一层会增加softmax函数作为激活函数。