反向传播的核心是计算图
神经网络的发展
MSE 平均平方误差
损失函数:
import numpy as np
import matplotlib.pyplot as plt
x_data = [1.0, 2.0, 3.0]
y_data = [2.0, 4.0, 6.0]
def forward(x):
return x*w
def loss(x, y):
y_pred = forward(x)
return (y_pred - y)**2
w_list = []
mse_list = []
for w in np.arange(0.0, 4.1, 0.1):#生成0.0到4.1之间且间隔为0.1的序列
print("w=", w)
l_sum = 0
for x_val, y_val in zip(x_data, y_data):
y_pred_val = forward(x_val)
loss_val = loss(x_val, y_val)
l_sum += loss_val
print('\t', x_val, y_val, y_pred_val, loss_val)
print('MSE=', l_sum/3)
w_list.append(w)
mse_list.append(l_sum/3)
plt.plot(w_list,mse_list)#这四行为绘图代码,结果如下
plt.ylabel('Loss')#纵坐标
plt.xlabel('w')#横坐标
plt.show()
由图可知,当权值w取2.0的时候,整个损失函数loss的值最小。
(作业)三维的图怎么画呢???