参考链接：https://github.com/datawhalechina/leeml-notes
文章目录
一、回归定义和应用例子
1.1回归定义
回归（Regression）就是找到一个函数（ f u n c t i o n function function ），通过输入特征 x x x，输出一个数值标量（ S c a l a r Scalar Scalar）。
1.2应用举例
- 1.股市预测（Stock market forecast）
- 输入：过去10年股票的变动、新闻咨询、公司并购咨询等
- 输出：预测股市明天的平均值
- 2.自动驾驶（Self-driving Car）
- 输入：无人车上的各个sensor的数据，例如路况、测出的车距等
- 输出：方向盘的角度
- 3.商品推荐（Recommendation）
- 输入：商品A的特性，商品B的特性
- 输出：购买商品B的可能性
- 4.Pokemon精灵攻击力预测（Combat Power of a pokemon）：
- 输入：进化前的CP值、物种（Bulbasaur）、血量（HP）、重量（Weight）、高度（Height）
- 输出：进化后的CP值
二、模型步骤
- step1：模型假设，选择模型框架（线性模型）。
- step2：模型评估，如何判断众多模型的好坏（损失函数）。
- step3：模型优化，如何筛选最优的模型（梯度下降）。
2.1模型假设（线性模型）
2.1.1一元线性模型（单个特征）
以一个特征
x
c
p
x_{cp}
xcp 为例，线性模型假设
y
=
b
+
w
⋅
x
c
p
y = b + w·x_{cp}
y=b+w⋅xcp ，所以
w
w
w 和
b
b
b 可以猜测很多模型，如：
f
1
:
y
=
10.0
+
9.0
⋅
x
c
p
f
2
:
y
=
9.8
+
9.2
⋅
x
c
p
f
3
:
y
=
−
0.8
−
1.2
⋅
x
c
p
⋅
⋅
⋅
f_1: y = 10.0 + 9.0·x_{cp} \\ f_2: y = 9.8 + 9.2·x_{cp} \\ f_3: y = - 0.8 - 1.2·x_{cp} \\ ···
f1:y=10.0+9.0⋅xcpf2:y=9.8+9.2⋅xcpf3:y=−0.8−1.2⋅xcp⋅⋅⋅
虽然可以做出很多假设，但在这个例子中，显然 f 3 : y = − 0.8 − 1.2 ⋅ x c p f_3: y = - 0.8 - 1.2·x_{cp} f3:y=−0.8−1.2⋅xcp 的假设是不合理的，因为进化后CP值不可能是个负值。
2.1.2多元线性模型（多个特征）
通常情况下，输入特征不止 x c p x_{cp} xcp 这一个。例如，进化前的CP值、物种（Bulbasaur）、血量（HP）、重量（Weight）、高度（Height）等特征就有多个。
所以假设 线性模型 （Linear model）： y = b + ∑ w i x i y = b + \sum w_ix_i y=b+∑wixi，其中：
- x i x_i xi：各种特征(fetrure) x c p , x h p , x w , x h , ⋅ ⋅ ⋅ x_{cp},x_{hp},x_w,x_h,··· xcp,xhp,xw,xh,⋅⋅⋅
- w i w_i wi：各个特征的权重 w c p , w h p , w w , w h , ⋅ ⋅ w_{cp},w_{hp},w_w,w_h,·· wcp,whp,ww,wh,⋅⋅
- b b b：偏移量
2.2模型评估（损失函数）
对【单个特征】: x c p x_{cp} xcp进行分析。
2.2.1收集和查看训练数据
定义： x 1 x^1 x1 是进化前的CP值， y ^ 1 \hat{y}^1 y^1 进化后的CP值， ^ \hat{} ^ 所代表的是真实值。
将10组原始数据在二维图中展示，图中的每一个点 ( x c p n , y ^ n ) (x_{cp}^n,\hat{y}^n) (xcpn,y^n) 对应进化前的CP值和进化后的CP值。
2.2.2如何判断众多模型的好坏
从数学的角度来考虑，可以使用距离。求【进化后的CP值】与【模型预测的CP值】差，来判定模型的好坏。即使用损失函数（Loss function） 来衡量模型的好坏，统计10组原始数据 ( y ^ n − f ( x c p n ) ) 2 \left ( \hat{y}^n - f(x_{cp}^n) \right )^2 (y^n−f(xcpn))2 的和，和越小模型越好。如下图所示：
公式推导如下：
L
(
f
)
=
∑
n
=
1
10
(
y
^
n
−
f
(
x
c
p
n
)
)
2
，
将
【
f
(
x
)
=
y
】
,
【
y
=
b
+
w
⋅
x
c
p
】
代
入
=
∑
n
=
1
10
(
y
^
n
−
(
b
+
w
⋅
x
c
p
)
)
2
\begin{aligned} L(f) & = \sum_{n=1}^{10}\left ( \hat{y}^n - f(x_{cp}^n) \right )^2，将【f(x) = y】, 【y= b + w·x_{cp}】代入 \\ & = \sum_{n=1}^{10}\left ( \hat{y}^n - (b + w·x_{cp}) \right )^2\\ \end{aligned}
L(f)=n=1∑10(y^n−f(xcpn))2，将【f(x)=y】,【y=b+w⋅xcp】代入=n=1∑10(y^n−(b+w⋅xcp))2
最终定义损失函数 Loss function：
L
(
w
,
b
)
=
∑
n
=
1
10
(
y
^
n
−
(
b
+
w
⋅
x
c
p
)
)
2
L(w,b)= \sum_{n=1}^{10}\left ( \hat{y}^n - (b + w·x_{cp}) \right )^2
L(w,b)=∑n=110(y^n−(b+w⋅xcp))2
将
w
w
w,
b
b
b 在二维坐标图中展示，如下图所示：
- 图中每一个点代表着一个模型对应的 w w w 和 b b b
- 颜色越深代表模型更优
2.3最佳模型（梯度下降）
对【单个特征】: x c p x_{cp} xcp进行分析。
2.3.1如何筛选最优的模型（参数w，b）
已知损失函数： L ( w , b ) = ∑ n = 1 10 ( y ^ n − ( b + w ⋅ x c p ) ) 2 L(w,b)= \sum_{n=1}^{10}\left ( \hat{y}^n - (b + w·x_{cp}) \right )^2 L(w,b)=∑n=110(y^n−(b+w⋅xcp))2 ，需要找到一个令结果最小的 f ∗ f^* f∗，在实际场景中，出现的参数不止 w w w, b b b，还会有很多，这里只介绍这两个参数。
先从最简单的只有一个参数
w
w
w入手，定义
w
∗
=
a
r
g
min
x
L
(
w
)
w^* = arg\ \underset{x}{\operatorname{\min}} L(w)
w∗=arg xminL(w)
引入一个新的概念——学习率 ：移动的步长，如上图中的 η \eta η。
- 步骤1：随机选取一个 w 0 w^0 w0
- 步骤2：计算微分，也就是当前的斜率，根据斜率来判定移动的方向
- 小于0向右移动（增加 w w w）
- 大于0向左移动（减少 w w w）
- 步骤3：根据学习率移动
- 重复步骤2和步骤3，直到找到最低点
步骤1中，我们随机选取了一个
w
0
w^0
w0，如上图所示，找到当前的最小值并不是全局的最小值，需要进一步解决。
解释完单个模型参数 w w w，引入2个模型参数 w w w 和 b b b ， 其实过程是类似的，需要做的是偏微分，过程如下图所示。
整理成一个更简洁的公式：
2.3.2梯度下降推演最优模型的过程
把 w w w 和 b b b 在图形中展示：
- 每一条线围成的圈就是等高线，代表损失函数的值，颜色约深的区域代表的损失函数越小。
- 红色的箭头代表等高线的法线方向。
2.3.3梯度下降算法在现实世界中面临的挑战
会面临很多问题：
- 问题1：当前最优（Stuck at local minima）
- 问题2：等于0（Stuck at saddle point）
- 问题3：趋近于0（Very slow at the plateau）
注意：在线性模型里都是一个山谷形状，梯度下降基本上都能找到最优点。
2.3.4 w和b偏微分的计算方法
三、如何验证训练好的模型的好坏
3.1 平均误差
使用训练集和测试集的平均误差来验证模型的好坏
我们使用将10组原始数据，训练集求得平均误差为31.9，如图所示：
然后再使用10组Pokemons测试模型，测试集求得平均误差为35.0 如图所示：
四、步骤优化
- Step1优化：将多个线性模型合并到一个线性模型中。
- Step2优化：将更多参数，更多特征融入模型中。
- Step3优化：加入正则化。
五、总结
- Pokemon：原始的CP值极大程度的决定了进化后的CP值，但也会受到一些其他因素的影响。
- Gradient descent：梯度下降法应用于各种算法中，许多有效算法都是以它为基础进行改进和修正而得到。
- Overfitting和Regularization：过拟合和正则化，过拟合是为了得到一致假设而使假设变得过度复杂，可以使用正则化解决过拟合问题。
272
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
