回归
- 预测的是一个连续的数值,如房价预测。
- 输出所在的区间是一个自然区间
分类
- 预测的是一个离散的类别,如判断图片中是猫还是狗。
- 输出的是该输入所在类别的置信度
Argmax
- 该函数的输入为softmax()输出的各类别的概率,然后通过找到最大的概率来输出对应的预测类别。
Softmax
- Softmax就是将多个神经元的输出映射为一个概率。
- Softmax首先是将输出进行指数运算,这样可以将所有输出映射到非负数值
- 确保每个类别预测概率的和为1
计算公式示例
假设有四个类别(1,2,3,4)预测的结果为 -2,-1,0,1
- 首先进行指数映射
y1 = exp(-2) ≈ 0.1353352832366127
y2 = exp(-1) ≈ 0.36787944117144233
y3 = exp(0) = 1
y4 = exp(1) ≈ 2.718281828459045 - 然后求得每一类的概率
f(1) = y1 / ( y1 + y2 + y3 + y4 ) ≈ 3.21%
f(2) = y2 / ( y1 + y2 + y3 + y4 ) ≈ 8.71%
f(3) = y3 / ( y1 + y2 + y3 + y4 ) ≈ 23.69%
f(4) = y4 / ( y1 + y2 + y3 + y4 ) ≈ 64.40% - 使用argmax()函数输出概率最大的类别,即类别4