回归模型梳理

本文所述回归模型包括：线性回归、逻辑回归、softmax回归

一. 线性回归

二. 逻辑回归

逻辑回归产生的原因：1、线性回归也可以用于分类，但容易被极端的数据影响，数据分布不规则时，对函数值影响较大，函数值分类指标容易产生较大误差。2、线性回归的值是从负无穷到正无穷，而分类问题的值是0-1的。

三. softmax回归

选择e为底的原因：函数值不为负，可以保证概率介于0-1；函数值越大，通过e指数变化，函数值更大，差距越来越明显，放大正确的类别与错误类别概率值的差距。

深度学习的本质是，对输入数据深度提取特征，后接可进行梯度下降的分类器，主要是接逻辑回归或softmax回归。