softmax笔记

https://blog.csdn.net/bitcarmanlee/article/details/82320853

理解:

是 有限项·离散概率分布·的梯度对数归一化。

所以它的输出就不能是类别具体值 只能是值的概率分布

input   list[ cnt(X = xi) ] /  list[ weight(X = xi) ] 

output list[ P(X = xi)=exp.(cnt(X = xi)) / sum(exp.(cnt(X = xi))) ]

 

适合解决多分类问题(类别数为k):

softmax vs k个二元分类器

类别间互斥:用soft

不互斥:用k个二元分类器

 

疑问

直接用统计概率值？