python如何画损失函数图_TensorFlow损失函数专题详解

一、分类问题损失函数——交叉熵(crossentropy)

交叉熵刻画了两个概率分布之间的距离，是分类问题中使用广泛的损失函数。给定两个概率分布p和q，交叉熵刻画的是两个概率分布之间的距离：

我们可以通过Softmax回归将神经网络前向传播得到的结果变成交叉熵要求的概率分布得分。在TensorFlow中，Softmax回归的参数被去掉了，只是一个额外的处理层，将神经网络的输出变成一个概率分布。

代码实现：

import tensorflow as tf

y_ = tf.constant([[1.0, 0, 0]]) # 正确标签

y1 = tf.constant([[0.9, 0.06, 0.04]]) # 预测结果1

y2 = tf.constant([[0.5, 0.3, 0.2]]) # 预测结果2

# 以下为未经过Softmax处理的类别得分

y3 = tf.constant([[10.0, 3.0, 2.0]])

y4 = tf.constant([[5.0, 3.0, 1.0]])

# 自定义交叉熵

cross_entropy1 = -tf.reduce_mean(y_ * tf.log(tf.clip_by_value(y1, 1e-10, 1.0)))

cross_entropy2 = -tf.reduce_mean(y_ * tf.log(tf.clip_by_value(y2, 1e-10, 1.0)))

# TensorFlow提供的集成交叉熵

# 注：该操作应该施加在未经过Softmax处理的logits上，否则会产生错误结果

# labels为期望输出，且必须采用labels=y_, logits=y的形式将参数传入

cross_entropy_v2_1 = tf.nn.softmax_cross_entropy_with_logits(labels=y_, logits=y3)

cross_entropy_v2_2 = tf.nn.softmax_cross_entropy_with_logits(labels=y_, logits=y4)

sess = tf.InteractiveSession()

print('[[0.9, 0.06, 0.04]]:', cross_entropy1.eval())

print('[[0.5, 0.3, 0.2]]:', cross_entropy2.eval())

print('v2_1', cross_entropy_v2_1.eval())

print('v2_2',cro