二次型x^TAx梯度(求导)推导过程

最新推荐文章于 2023-09-01 09:53:21 发布

BAOYANG dl

最新推荐文章于 2023-09-01 09:53:21 发布

阅读量2.1w

点赞数 26

文章标签：数学线性代数

本文链接：https://blog.csdn.net/weixin_43342476/article/details/121562958

版权

本文解析了向量y=xTAx的偏导数dy/dx，展示了如何利用矩阵乘法规则计算梯度，特别指出当A为实对称矩阵时的简化形式。关键步骤包括展开项和利用向量与矩阵乘积的性质。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

$y=x^TAx$ ,其中x是n维向量，A是n阶方阵，求 $d y / d x$
记 $A=\left[a_{i j}\right]$ . $\in \mathbb{R}^{n}, x=\left(x_{1}, \ldots, x_{n}\right)^{T}$ , 则 $y=\sum_{i=1}^{n} \sum_{j=1}^{n} a_{i j} x_{i} x_{j}$
故
$\begin{aligned} \frac{\partial y}{\partial x_{k}} &=\sum_{i \neq k} \frac{\partial}{\partial x_{k}}\left(\sum_{j=1}^{n} a_{i j} x_{i} x_{j}\right)+\frac{\partial}{\partial x_{k}}\left(\sum_{j=1}^{n} a_{k j} x_{k} x_{j}\right) \\ &=\sum_{i \neq k}\left(\frac{\partial}{\partial x_{k}}\left(\sum_{j \neq k} a_{i j} x_{i} x_{j}\right)+\frac{\partial}{\partial x_{k}}\left(a_{i k} x_{i} x_{k}\right)\right)+\sum_{j \neq k} \frac{\partial}{\partial x_{k}}\left(a_{k j} x_{k} x_{j}\right)+\frac{\partial}{\partial x_{k}}\left(a_{k k} x_{k}^{2}\right) \\ &=\sum_{i \neq k}( 0+a_{i k} x_{i})+\sum_{j \neq k} a_{k j} x_{j}+2 a_{k k} x_{k} \\ &=\sum_{i=1}^{n} a_{i k} x_{i}+\sum_{j=1}^{n} a_{k j} x_{j} \\ &=\left(x^{T} A\right)_{k}+(A x)_{k} \end{aligned}$
其中 $\left(x^{T} A\right)_{k}$ 是行向量 $x^{T} A$ 的第k个分量， $A x)_{k}$ 是列向量 $A x$ 的第k个分量。因此 $\frac{\partial y}{\partial x_{k}}=\left(x^{T} A\right)_{k}+\left(x^{T} A^{T}\right)_{k}$ .
所以
$\nabla y=x^{T} A+x^{T} A^{T}=x^{T}\left(A+A^{T}\right)$
特别地，如果A是实对称矩阵，则
$\nabla y=x^{T} A+x^{T} A^{T}=2x^{T}A$