1.一元的配方法
首先回顾一元的配方法
y
=
a
x
2
+
b
x
+
c
=
a
(
x
+
b
2
a
)
2
+
(
c
−
b
2
4
a
)
\begin{aligned} y &= ax^2+bx+c\\ &= a(x + \frac{b}{2a})^2 + (c-\frac{b^2}{4a}) \end{aligned}
y=ax2+bx+c=a(x+2ab)2+(c−4ab2)
可以发现,对任何的二次项系数
a
a
a和一次项系数
b
b
b,都可以配成一个二次项加一个常数项的形式。
2.多元二次函数的配方
首先定义问题。将其写成矩阵形式,得到
设
x
x
x,
b
b
b为列向量,
A
A
A为对称矩阵,可以将多元二次函数写成:
y
=
x
T
A
x
+
x
T
b
+
b
T
x
y = x^TAx+x^Tb+b^Tx
y=xTAx+xTb+bTx
对我们要配成的形式定义我们希望得到
y
=
(
x
+
u
)
T
Λ
(
x
+
u
)
+
c
y = (x + u)^T\Lambda(x+u) + c
y=(x+u)TΛ(x+u)+c
将上边的函数展开,我们得到
y
=
x
T
Λ
x
+
u
T
Λ
x
+
x
T
Λ
u
+
u
T
Λ
u
+
c
y = x^T\Lambda x + u^T\Lambda x + x^T\Lambda u + u^T\Lambda u +c
y=xTΛx+uTΛx+xTΛu+uTΛu+c
对比上述形式,我们需要
A
=
Λ
b
=
Λ
u
\begin{aligned} A &= \Lambda\\ b &= \Lambda u \end{aligned}
Ab=Λ=Λu
观察上边的形式,我们发现,如果用
A
A
−
1
b
AA^{-1}b
AA−1b代替
b
b
b该写原等式,由于
A
A
A是对称阵,可以得到
y
=
x
T
A
x
+
x
T
A
A
−
1
b
+
(
A
A
−
1
b
)
T
x
=
x
T
A
x
+
x
T
A
A
−
1
b
+
(
A
−
1
b
)
T
A
T
x
=
x
T
A
x
+
x
T
A
A
−
1
b
+
(
A
−
1
b
)
T
A
x
\begin{aligned} y &= x^TAx+x^TAA^{-1}b + (AA^{-1}b)^Tx\\ &= x^TAx+x^TAA^{-1}b + (A^{-1}b)^TA^Tx\\ &=x^TAx+x^TAA^{-1}b + (A^{-1}b)^TAx \end{aligned}
y=xTAx+xTAA−1b+(AA−1b)Tx=xTAx+xTAA−1b+(A−1b)TATx=xTAx+xTAA−1b+(A−1b)TAx
我们让
Λ
=
A
,
u
=
A
−
1
b
\Lambda =A,u = A^{-1}b
Λ=A,u=A−1b即可。
配方得到
y
=
(
x
+
A
−
1
B
)
T
A
(
x
+
A
−
1
B
)
−
(
A
−
1
B
)
T
A
(
A
−
1
B
)
y = (x + A^{-1}B)^TA(x+A^{-1}B) - (A^{-1}B)^TA(A^{-1}B)
y=(x+A−1B)TA(x+A−1B)−(A−1B)TA(A−1B)