损失函数一直不变_【知识星球】softmax损失相关的小问题

欢迎大家来到《知识星球》专栏，这里是AI1000问小专题。

作者&编辑 | 言有三

1 Softmax相关的问题

Softmax在图像分类，分割任务中是很常见的，关于它有些常见的小问题，供大家思考学习。

有三AI1000问-机器学习篇

为什么分类任务softmax损失输入是2通道，sigmoid损失是1通道

想必大家都玩过图像分类了，为什么同样是2分类任务，softmax损失函数的输入是2通道而sigmoid损失函数的输入是1通道？

作者/编辑 言有三

归根结底还是因为这两个损失根本就不是用于同一个任务，尽管在二分类的时候它们恰好是同一个问题。

我们首先看一下softmax损失函数定义，i表示第i个样本，k表示第k类，C表示总类别数，yik是第i个样本第k类的标签，f(xik)即样本i属于第k类的概率。

在k=0到C中，只有一个yik非零，