视频连接 - 刘二大人:https://www.bilibili.com/video/BV1Y7411d7Ys
学习步骤:
1. DataSet 准备数据集
2. Model 模型的选择或设计
3. training 大部分模型都需要进行训练
例子:
Supervised learning
数据集能否将分布D(x, y)表示出来
Training Set(训练集)
x:1 y:2
x:2 y:4
x:3 y:6
Test Set(测试集)
x:4 y:?(已知的,要与测试的结果进行对比)
模型设计:(找到y=f(x)函数,函数类型是多样的)
常用模型:
1.线性模型(最基本的)
Linear Model (线性模型):y = x * w + b(确定 w b的值)
evaluate Model error(评估模型):
Training Loss (Error) loss和cost公式如下:
找最优权重w的值:
1.穷举法
首先,经过测试w在某个区间可能存在最优解
则可以将区间的所有取值都计算一下损失(loss),可以得到一个曲线,曲线的最低点即是最优的权重w
代码实现部分如下:
import numpy as np
import matplotlib.pyplot as plt
x_data = [1.0, 2.0, 3.0]
y_data = [2.0, 4.0, 6.0]
def forward(x):
return x * w
def loss(x, y):
y_pred = forward(x)
return (y_pred - y) * (y_pred - y)
w_list = []
mse_list = []
for w in np.arange(0.0, 4.1, 0.1):
print('w =', w)
l_sum = 0
for x_val, y_val in zip(x_data, y_data):
y_pred_val = forward(x_val)
loss_val = loss(x_val, y_val)
l_sum += loss_val
print('\t', x_val, y_val, y_pred_val, loss_val)
print('MSE = ', l_sum / 3)
w_list.append(w)
mse_list.append(l_sum / 3)
plt.plot(w_list, mse_list)
plt.ylabel('Loss')
plt.xlabel('w')
plt.show()
可以画出损失函数为:
线性模型作业
作业题目:实现线性模型(y = w * x + b)并输出loss的3D图像。
实现代码:
import numpy as np
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3D
# y = 2 * x + 1
x_data = [1.0, 2.0, 3.0]
y_data = [3.0, 5.0, 7.0]
def forward(x):
return x * w + b
def loss(x, y):
y_pred = forward(x)
return (y_pred - y) * (y_pred - y)
mse_list = []
w_list = np.arange(0.0, 4.1, 0.1)
b_list = np.arange(0.0, 4.1, 0.1)
[w, b] = np.meshgrid(w_list, b_list)
l_sum = 0
for x_val, y_val in zip(x_data, y_data):
y_pred_val = forward(x_val)
loss_val = loss(x_val, y_val)
l_sum += loss_val
# 绘制图片
fig = plt.figure()
# 设置为3D图片类型
ax3d =fig.add_axes(Axes3D(fig))
ax3d.set_xlabel("w")
ax3d.set_ylabel("b")
ax3d.set_zlabel("Loss")
ax3d.plot_surface(w, b, l_sum/3)
plt.show()
ax3d = Axes3D(fig)# 画不出图片可以改为
ax3d =fig.add_axes(Axes3D(fig))