机器学习-有监督学习-分类算法：逻辑回归/Logistic回归（二分类模型）【值域符合二项分布律 ==似然函数最大化==＞ 交叉熵/对数损失函数】、Softmax回归（多分类模型）【交叉熵损失函数】

Logistic回归、Softmax回归都可以看做是输入层到输出层的直接的全连接神经网络，用的激活函数为Sigmode函数。

一、Logistic(逻辑)回归【LR模型】

逻辑回归：分类问题的首选算法，主要用于解决二分类问题

1、什么是逻辑回归

逻辑回归(Logistic Regression)：是一种对数几率模型，虽然被称为回归，但其实际上是分类算法模型。从大的类别上来说，逻辑回归是一种有监督的统计学习方法，主要用于对样本进行分类。
线性回归模型中：输出一般是连续的，例如 y = XΘ = θ 1 x 1 +