前言:博主最近在复现代码的时候遇到一个问题,有的代码使用softmax有的使用sigmod,两者使用到底有什么区别呢?
一、softmax函数
1.1公式
(一般只用于最后一层进行分类)深度学习中使用Softmax进行分类。
1.2举例
如果我们的结果有3类,那么最后的神经元输出就是3,也就是输出有3个数,但是直接输出这3个数有时候并不是特别好。通过softmax这个函数,上面的3个数就转换为了概率,输出还是3个数,它们加起来就等于1。如下图所示
1.3总结
softmax要综合考虑n个类,属于每个类的概率,这n类相互影响,加起来是等于1的.