经典的损失函数有四种,也可以自己定义损失函数
有几种不同的代价函数,不同的代价函数适用于不同的场景
有二次代价函数,交叉熵代价函数(适用于s型曲线,选择合适的代价函数,可节省训练时间),对数似然代价函数
# 二次代价函数(又叫均方误差(MSE ))
# loss = tf.reduce_mean(tf.square(y - prediction))
计算公式如下:
其中yi为一个batch中第i个数据的正确答案,而y′为神经网络给出的预测值。
Tensorflow中实现均方误差损失函数:
mse = tf.reduce_mean(tf.square(y_ - y)),
其中输入为矩阵,输出为一个数
#交叉熵代价函数
loss = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(labels