p3 回归 p4 回归演示

最新推荐文章于 2024-06-29 22:55:06 发布

auto@

最新推荐文章于 2024-06-29 22:55:06 发布

阅读量131

点赞数

文章标签：机器学习人工智能深度学习

本文链接：https://blog.csdn.net/qq_42255693/article/details/121389506

版权

P3 回归定义和应用例子

回归定义

Regression 就是找到一个函数 functionfunction ，通过输入特征 xx，输出一个数值 ScalarScalar。

应用举例

股市预测（Stock market forecast）
- 输入：过去10年股票的变动、新闻咨询、公司并购咨询等
- 输出：预测股市明天的平均值
自动驾驶（Self-driving Car）
- 输入：无人车上的各个sensor的数据，例如路况、测出的车距等
- 输出：方向盘的角度
商品推荐（Recommendation）
- 输入：商品A的特性，商品B的特性
- 输出：购买商品B的可能性
Pokemon精灵攻击力预测（Combat Power of a pokemon）：
- 输入：进化前的CP值、物种（Bulbasaur）、血量（HP）、重量（Weight）、高度（Height）
- 输出：进化后的CP值

模型步骤

step1：模型假设，选择模型框架（线性模型）
step2：模型评估，如何判断众多模型的好坏（损失函数）
step3：模型优化，如何筛选最优的模型（梯度下降）

Step 1：模型假设 - 线性模型

一元线性模型（单个特征）

以一个特征 x_{cp}xcp 为例，线性模型假设 y = b + w·x_{cp}y=b+w⋅xcp ，所以 ww 和 bb 可以猜测很多模型：

f_1: y = 10.0 + 9.0·x_{cp} \ f_2: y = 9.8 + 9.2·x_{cp} \ f_3: y = - 0.8 - 1.2·x_{cp} \ ···f1:y=10.0+9.0⋅xcpf2:y=9.8+9.2⋅xcpf3:y=−0.8−1.2⋅xcp⋅⋅⋅

虽然可以做出很多假设，但在这个例子中，显然 f_3: y = - 0.8 - 1.2·x_{cp}f3:y=−0.8−1.2⋅xcp 的假设是不合理的，不能进化后CP值是个负值吧~~

多元线性模型（多个特征）

在实际应用中，输入特征肯定不止 x_{cp}xcp 这一个。例如，进化前的CP值、物种（Bulbasaur）、血量（HP）、重量（Weight）、高度（Height）等，特征会有很多。

所以我们假设 线性模型 Linear model：y = b + \sum w_ix_iy=b+∑wixi

x_ixi：就是各种特征(fetrure) x_{cp},x_{hp},x_w,x_h,···xcp,xhp,xw,xh,⋅⋅⋅
w_iwi：各个特征的权重 w_{cp},w_{hp},w_w,w_h,··wcp,whp,ww,wh,⋅⋅
bb：偏移量

注意：接下来的内容需要看清楚是【单个特征】还是【多个特征】的示例

Step 2：模型评估 - 损失函数

【单个特征】: x_{cp}xcp

收集和查看训练数据

这里定义 x^1x1 是进化前的CP值，\hat{y}^1y1 进化后的CP值，\hat{}^ 所代表的是真实值

将10组原始数据在二维图中展示，图中的每一个点 (x_{cp}^n,\hat{y}n)(xcpn,y^n) 对应着进化前的CP值和进化后的CP值。

如何判断众多模型的好坏

有了这些真实的数据，那我们怎么衡量模型的好坏呢？从数学的角度来讲，我们使用距离。求【进化后的CP值】与【模型预测的CP值】差，来判定模型的好坏。也就是使用损失函数（Loss function）来衡量模型的好坏，统计10组原始数据 \left ( \hat{y}^n - f(x_{cp}^n) \right )^2(yn−f(xcpn))2 的和，和越小模型越好。如下图所示：

如果觉得看着这个图会晕，忽略图4，直接看公式推导的过程：

\begin{aligned} L(f) & = \sum_{n=1}^{10}\left ( \hat{y}^n - f(x_{cp}^n) \right )^2，将【f(x) = y】, 【y= b + w·x_{cp}】代入 \ & = \sum_{n=1}^{10}\left ( \hat{y}^n - (b + w·x_{cp}) \right )^2\ \end{aligned}L(f)=n=1∑10(y^{n−f(xcpn))2，将【f(x)=y】,【y=b+w⋅xcp】代入=n=1∑10(y}n−(b+w⋅xcp))2

最终定义损失函数 Loss function：L(w,b)= \sum_{n=1}^{10}\left ( \hat{y}^n - (b + w·x_{cp}) \right )^{2L(w,b)=∑n=110(y}n−(b+w⋅xcp))2

我们将 ww, bb 在二维坐标图中展示，如图所示：

图中每一个点代表着一个模型对应的 ww 和 bb
颜色越深代表模型更优

可以与后面的图11（等高线）进行对比

Step 3：最佳模型 - 梯度下降

【单个特征】: x_{cp}xcp

如何筛选最优的模型（参数w，b）

已知损失函数是 L(w,b)= \sum_{n=1}^{10}\left ( \hat{y}^n - (b + w·x_{cp}) \right )^{2L(w,b)=∑n=110(y}n−(b+w⋅xcp))2 ，需要找到一个令结果最小的 f^*f∗，在实际的场景中，我们遇到的参数肯定不止 ww, bb。

先从最简单的只有一个参数ww入手，定义w^* = arg\ \underset{x}{\operatorname{\min}} L(w)w∗=arg xminL(w)

首先在这里引入一个概念学习率：移动的步长，如图7中 \etaη

步骤1：随机选取一个 w^0w0
步骤2：计算微分，也就是当前的斜率，根据斜率来判定移动的方向
- 大于0向右移动（增加ww）
- 小于0向左移动（减少ww）
步骤3：根据学习率移动
重复步骤2和步骤3，直到找到最低点

步骤1中，我们随机选取一个 w^0w0，如图8所示，我们有可能会找到当前的最小值，并不是全局的最小值，这里我们保留这个疑问，后面解决。

解释完单个模型参数ww，引入2个模型参数 ww 和 bb ，其实过程是类似的，需要做的是偏微分，过程如图9所示，偏微分的求解结果文章后面会有解释，详细的求解过程自行Google。

整理成一个更简洁的公式：

梯度下降推演最优模型的过程

如果把 ww 和 bb 在图形中展示：

每一条线围成的圈就是等高线，代表损失函数的值，颜色约深的区域代表的损失函数越小
红色的箭头代表等高线的法线方向

梯度下降算法在现实世界中面临的挑战

我们通过梯度下降gradient descent不断更新损失函数的结果，这个结果会越来越小，那这种方法找到的结果是否都是正确的呢？前面提到的当前最优问题外，还有没有其他存在的问题呢？

其实还会有其他的问题：

问题1：当前最优（Stuck at local minima）
问题2：等于0（Stuck at saddle point）
问题3：趋近于0（Very slow at the plateau）

注意：其实在线性模型里面都是一个碗的形状（山谷形状），梯度下降基本上都能找到最优点，但是再其他更复杂的模型里面，就会遇到问题2 和问题3 了

w和b偏微分的计算方法

####（注：对b求偏导最后少了一个-1，特此更正）

如何验证训练好的模型的好坏

使用训练集和测试集的平均误差来验证模型的好坏我们使用将10组原始数据，训练集求得平均误差为31.9，如图所示：

然后再使用10组Pokemons测试模型，测试集求得平均误差为35.0 如图所示：

更强大复杂的模型：1元N次线性模型

在模型上，我们还可以进一部优化，选择更复杂的模型，使用1元2次方程举例，如图17，发现训练集求得平均误差为15.4，测试集的平均误差为18.4

这里我们又提出一个新的问题：是不是能画出直线就是线性模型，各种复杂的曲线就是非线性模型？其实还是线性模型，因为把 x_{cp}^1xcp1 = (x_{cp})^2(xcp)2 看作一个特征，那么 y = b + w_1·x_{cp} + w_2·x_{cp}^1y=b+w1⋅xcp+w2⋅xcp1 其实就是线性模型。

过拟合问题出现

在模型上，我们再可以进一部优化，使用更高次方的模型，如图所示

训练集平均误差【15.4】【15.3】【14.9】【12.8】
测试集平均误差【18.4】【18.1】【28.8】【232.1】

在训练集上面表现更为优秀的模型，为什么在测试集上效果反而变差了？这就是模型在训练集上过拟合的问题。

如图所示，每一个模型结果都是一个集合，5次模型包 \supseteq 4次模型 \supseteq 3次模型5次模型包⊇4次模型⊇3次模型所以在4次模型里面找到的最佳模型，肯定不会比5次模型里面找到更差

将错误率结果图形化展示，发现3次方以上的模型，已经出现了过拟合的现象：

步骤优化

输入更多Pokemons数据，相同的起始CP值，但进化后的CP差距竟然是2倍。如图21，其实将Pokemons种类通过颜色区分，就会发现Pokemons种类是隐藏得比较深得特征，不同Pokemons种类影响了进化后的CP值的结果。

Step1优化：2个input的四个线性模型是合并到一个线性模型中

通过对 Pokemons种类判断，将 4个线性模型合并到一个线性模型中

Step2优化：如果希望模型更强大表现更好（更多参数，更多input）

在最开始我们有很多特征，图形化分析特征，将血量（HP）、重量（Weight）、高度（Height）也加入到模型中

更多特征，更多input，数据量没有明显增加，仍旧导致overfitting

Step3优化：加入正则化

更多特征，但是权重 ww 可能会使某些特征权值过高，仍旧导致overfitting，所以加入正则化

ww 越小，表示 functionfunction 较平滑的， functionfunction输出值与输入值相差不大
在很多应用场景中，并不是 ww 越小模型越平滑越好，但是经验值告诉我们 ww 越小大部分情况下都是好的。
bb 的值接近于0 ，对曲线平滑是没有影响

总结

Pokemon：原始的CP值极大程度的决定了进化后的CP值，但可能还有其他的一些因素。
Gradient descent：梯度下降的做法；后面会讲到它的理论依据和要点。
Overfitting和Regularization：过拟合和正则化，主要介绍了表象；后面会讲到更多这方面的理论

P4 回归演示

代码到放在Regression-Demo.md中，自取哦！

现在假设有10个x_data和y_data，x和y之间的关系是y_data=b+w*x_data。b，w都是参数，是需要学习出来的。现在我们来练习用梯度下降找到b和w。

import numpy as np
import matplotlib.pyplot as plt
from pylab import mpl

# matplotlib没有中文字体，动态解决
plt.rcParams['font.sans-serif'] = ['Simhei']  # 显示中文
mpl.rcParams['axes.unicode_minus'] = False  # 解决保存图像是负号'-'显示为方块的问题
x_data = [338., 333., 328., 207., 226., 25., 179., 60., 208., 606.]
y_data = [640., 633., 619., 393., 428., 27., 193., 66., 226., 1591.]
x_d = np.asarray(x_data)
y_d = np.asarray(y_data)
x = np.arange(-200, -100, 1)
y = np.arange(-5, 5, 0.1)
Z = np.zeros((len(x), len(y)))
X, Y = np.meshgrid(x, y)
# loss
for i in range(len(x)):
    for j in range(len(y)):
        b = x[i]
        w = y[j]
        Z[j][i] = 0  # meshgrid吐出结果：y为行，x为列
        for n in range(len(x_data)):
            Z[j][i] += (y_data[n] - b - w * x_data[n]) ** 2
        Z[j][i] /= len(x_data)

先给b和w一个初始值，计算出b和w的偏微分

# linear regression
#b = -120
#w = -4
b=-2
w=0.01
lr = 0.000005
iteration = 1400000

b_history = [b]
w_history = [w]
loss_history = []
import time
start = time.time()
for i in range(iteration):
    m = float(len(x_d))
    y_hat = w * x_d  +b
    loss = np.dot(y_d - y_hat, y_d - y_hat) / m
    grad_b = -2.0 * np.sum(y_d - y_hat) / m
    grad_w = -2.0 * np.dot(y_d - y_hat, x_d) / m
    # update param
    b -= lr * grad_b
    w -= lr * grad_w

    b_history.append(b)
    w_history.append(w)
    loss_history.append(loss)
    if i % 10000 == 0:
        print("Step %i, w: %0.4f, b: %.4f, Loss: %.4f" % (i, w, b, loss))
end = time.time()
print("大约需要时间：",end-start)
# plot the figure
plt.contourf(x, y, Z, 50, alpha=0.5, cmap=plt.get_cmap('jet'))  # 填充等高线
plt.plot([-188.4], [2.67], 'x', ms=12, mew=3, color="orange")
plt.plot(b_history, w_history, 'o-', ms=3, lw=1.5, color='black')
plt.xlim(-200, -100)
plt.ylim(-5, 5)
plt.xlabel(r'$b$')
plt.ylabel(r'$w$')
plt.title("线性回归")
plt.show()

输出结果如图

横坐标是b，纵坐标是w，标记×位最优解，显然，在图中我们并没有运行得到最优解，最优解十分的遥远。那么我们就调大learning rate，lr = 0.000001（调大10倍），得到结果如下图。

我们再调大learning rate，lr = 0.00001（调大10倍），得到结果如下图。

结果发现learning rate太大了，结果很不好。

所以我们给b和w特制化两种learning rate

# linear regression
b = -120
w = -4
lr = 1
iteration = 100000

b_history = [b]
w_history = [w]

lr_b=0
lr_w=0
import time
start = time.time()
for i in range(iteration):
    b_grad=0.0
    w_grad=0.0
    for n in range(len(x_data)):
        b_grad=b_grad-2.0*(y_data[n]-n-w*x_data[n])*1.0
        w_grad= w_grad-2.0*(y_data[n]-n-w*x_data[n])*x_data[n]
    
    lr_b=lr_b+b_grad**2
    lr_w=lr_w+w_grad**2
    # update param
    b -= lr/np.sqrt(lr_b) * b_grad
    w -= lr /np.sqrt(lr_w) * w_grad

    b_history.append(b)
    w_history.append(w)
# plot the figure
plt.contourf(x, y, Z, 50, alpha=0.5, cmap=plt.get_cmap('jet'))  # 填充等高线
plt.plot([-188.4], [2.67], 'x', ms=12, mew=3, color="orange")
plt.plot(b_history, w_history, 'o-', ms=3, lw=1.5, color='black')
plt.xlim(-200, -100)
plt.ylim(-5, 5)
plt.xlabel(r'$b$')
plt.ylabel(r'$w$')
plt.title("线性回归")
plt.show()

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-UiN1wZ0n-1637158949391)(https://datawhalechina.github.io/leeml-notes/chapter4/res/chapter4-4.png)]

有了新的特制化两种learning rate就可以在10w次迭代之内到达最优点了。

pha=0.5, cmap=plt.get_cmap(‘jet’)) # 填充等高线
plt.plot([-188.4], [2.67], ‘x’, ms=12, mew=3, color=“orange”)
plt.plot(b_history, w_history, ‘o-’, ms=3, lw=1.5, color=‘black’)
plt.xlim(-200, -100)
plt.ylim(-5, 5)
plt.xlabel(r’ $b$ ’)
plt.ylabel(r’ $w$ ’)
plt.title(“线性回归”)
plt.show()


[外链图片转存中...(img-UiN1wZ0n-1637158949391)]

有了新的特制化两种learning rate就可以在10w次迭代之内到达最优点了。

auto@

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫