在线性回归中,西瓜书 P54 页有如下公式:
∂E(ω,b)∂ω∂E(ω,b)∂b=2(ω∑i=1mx2−∑i=1m(yi−b))=2(mb−∑i=1myi−ωxi)(640)(641)
(640)
∂
E
(
ω
,
b
)
∂
ω
=
2
(
ω
∑
i
=
1
m
x
2
−
∑
i
=
1
m
(
y
i
−
b
)
)
(641)
∂
E
(
ω
,
b
)
∂
b
=
2
(
m
b
−
∑
i
=
1
m
y
i
−
ω
x
i
)
然后令上面两个式子分别等于零然后求解,可以得到下面的表达式:
ω=∑mi=1yi(xi−x¯)∑mi=1x2i−1m(∑mi=1xi)2
ω
=
∑
i
=
1
m
y
i
(
x
i
−
x
¯
)
∑
i
=
1
m
x
i
2
−
1
m
(
∑
i
=
1
m
x
i
)
2
b=1m∑i=1m(yi−ωxi)
b
=
1
m
∑
i
=
1
m
(
y
i
−
ω
x
i
)
但是书中并没有给出具体的求解过程,由于公式比较难打上来,这里直接贴上图片:
后续会继续补充相关的内容。