线性回归 线性分类模型小结
线性模型(Linear Model)是机器学习中应用最广泛的模型,指通过样本特征的线性组合来进行预测的模型。
1.首先区分回归和分类
输出为连续值–回归问题
输出为离散值–分类问题
注意:
线性回归用于解决回归问题,而 LR (Logisitic Regression逻辑回归)和 SVM(支持向量机)等线性模型用于解决分类问题。具体线性分类概况如下图。
Fisher线性判别准则
分类能力最强的分类线,他的垂线能让两类数据之间隔得最远,而让同一类数据靠的最紧密。
2.Logistic回归(对数几率回归)
把线性函数的值域从实数区间“挤压”到了(0,1)之间,可以用来表示概率。
3.Softmax回归
Softmax Regression,也称为多项(Multinomial)或多类 (Multi-Class)的 Logistic 回归,是 Logistic 回归在多分类问题上的推广。
4.感知机
感知机 由 Frank Rosenblatt 于1958年提出,是 一种广泛使用的线性分类器 。 感知器可谓是最简单的人工神经网络, 只有一个神经元。 模拟生物神经元行为的机器,有与生物神经元相对应的部件,如权重(突触)、 偏置(阈值)及激活函数(细胞体),输出为+1或-1。
5.线性分类模型小结:
部分选自链接:https://blog.csdn.net/qq_45956730/article/details/125688529