【机器学习】023_Softmax模型Part.1_模型原理、损失函数

一、模型类型

回归：

        · 单连续数值输出

        · 自然区间

        · 跟真实值的区别作为模型损失

分类：

        · 通常有多个输出，对应类别的个数

        · 输出的第 i 个元素是预测为第 i 类的置信度

Softmax是一个分类模型

        · 分类模型不同于回归模型预测连续值，其预测的是一个离散类别

二、模型算法

· 对类别进行一位有效编码

        

        y 表示输出结果，是一个有 n 个元素的向量，第n个元素的值代表取该类别的概率（置信度）

 · 采用交叉熵损失来衡量模型损失

        推导过程：

· 输出匹配概率（非负，各元素概率之和为1）

        将整个包含n个元素的向量o利用Softmax()函数转化为预测值 ，预测值表示输入值对应每个类别的概率（非负，各元素之和为1） 

        对  各元素的预测值作以下指数操作，将其转化为概率值

        将概率  和  的区别作为模型损失