偏导数的推导

事例如下：

求 f(x1,x2) = x1 ^ 2 + x1 * x2 + x2 ^ 2 的偏导数。

由于对两个自变量分别求导，所以在针对其中一个变量求导时，将另一个变量看作常数即可。

对x1求偏导，将x2看作常数后求导
f '(x1) = 2 * x1^1 + 1 * x2 + 0 = 2 * x1 + x2

对x2求偏导，将x1看作常数后求导
f '(x2) = 0 + x1 * 1 + 2 * x2 ^ 1 = x1 + 2 * x2

如上是大体推导事例

原函数为 f(x) = ax + b
假设最优的直线：离所有点的距离尽可能近的直线是 h(x) = θ0 + θ1x(假设函数)

x = [6,8,10,14,18]

f(x) = [7,9,13,17.5,18]

h(x) = [θ0+6θ1,θ0+8θ1,θ0+10θ1,θ0+14θ1,θ0+18*θ1]

f(θ0, θ1) = (θ0+6θ1 - 7)^2 + (θ0+8θ1 - 9)^2 + (θ0+10θ1 - 13)^2 + (θ0+14θ1 - 17.5)^2 + (θ0+18*θ1-18)^2对θ0和θ1分别求偏导。

对θ0求偏导，将θ1看作常数后求导可得：
f’(θ0) = (2θ0+12θ1-14)+(2θ0+16θ1-18)+(2θ0+20θ1-26)+(2θ0+28θ1-35)+(2θ0+36θ1-36)=10θ0+112θ1-129

对θ1求偏导，将θ0看作常数后求导可得：
f’(θ1) = (72θ1+12θ0-84)+(128θ1+16θ0-144)+(200θ1+20θ0-260)+(392θ1+28θ0-490)+(648θ1+36θ0-648)=1440θ1+112θ0-1626

令f’(θ0) =0,f’(θ1)=0，可将两式联立求得：
θ0 ≈ 2，θ1 ≈ 0.97
因此h(x) = 0.97*x + 2
当x=20时，h(x)=21.4