第二讲-神经网络优化-损失函数

5、损失函数

损失函数是前向传播计算出的结果y与已知标准答案y_的差距。神经网络的优化目标，找出参数使得loss值最小。

本次介绍损失函数有：均方误差（mse，Mean Squared Error）、自定义、交叉熵(ce,Cross Entropy)

• 均方误差（ y_表示标准答案，y表示预测答案计算值）

                               

        tensorFlow : lose_mse =tf.reduce_mean(tf.square(y-y’))

示例：预测酸奶日销量y，x1,x2是影响因素。建模前，应预先采集数据：每日x1,x2和销量y_。拟造数据集X，Y_：y_=x1+x2  噪声：-0.05~+0.05.

代码：

import tensorflow as tf
import numpy as np
SEED = 23455

rdm = np.random.RandomState(seed=SEED)      # 生成[0,1)之间的随机数
x = rdm.rand(32,2)     # 随机制造训练数据x和 y_
y_ = [[x1 + x2 + (rdm.rand()/10.0-0.05)] for (x1,x2) in x]    # 生成噪声[0,1)/10=[0,0.1); [0,0.1)-0.05=[-0.05,0.05)
x =