多分类问题,在Softmax函数之后,将神经网络的输出变成了一个概率分布。
在只有一个正确答案的分类问题中,tf.nn.sparse_softmax_cross_entropy_with_logits函数可以加速计算过程。
(分类问题:常用的损失函数——交叉熵; 回归问题:对具体数值的预测,常用损失函数——均方误差MSE)
tf.nn.softmax_cross_entropy_with_logits # 预测目标是概率分布,一个样本可以属于多类,labels可以是one-hot编码。使用时有更大的自由度。
tf.nn.sparse_softmax_cross_entropy_with_logits # 只能是实际预测值,表示一个样本只能属于一类,labels是int型。
所以mnist中:
cross_entropy = tf.nn.sparse_softmax_cross_entropy_with_logits(logits=y, labels=tf.argmax(y_, 1))
或者:cross_entropy = tf.nn.softmax_cross_entropy_with_logits(y, y_)
注意:tf.nn.softmax_cross_entropy_with_logits(y, y_) 这个可能会报错
ValueError: Only call `softmax_cross_entropy_with_logits` with named arguments (labels=..., logits=..., ...)
因为: tf.nn.softmax_cross_entropy_with_logits() 已经过时
替换成:tf.nn.softmax_cross_entropy_with_logits_v2(y, y_)