深度学习分类损失函数

损失函数softmax_cross_entropy、binary_cross_entropy、sigmoid_cross_entropy之间的区别与联系，以及其在tensorflow中的用法。 文章]

softmax_cross_entropy（keras中为categorical_crossentropy）用于多分类任务，且每个样本只能属于一类。
binary_cross_entropy用于二分类任务，注意二分类任务不能使用softmax_cross_entropy，在二分类时如果用softmax_cross_entropy，则网络只对错分的正样本损失函数的值才大于0，此时的网络权值才会得到调整，最终的结果是正样本预测精度会很高，但负样本基本上相当于随机猜测，详见。
sigmoid_cross_entropy用于多标签分类任务，使用softmax_cross_entropy将使得模型难以收敛，原因见上面的连接。