Hessian矩阵与多元函数极值

Hessian矩阵与多元函数极值

海塞矩阵(Hessian Matrix),又译作海森矩阵,是一个多元函数的二阶偏导数构成的方阵。尽管它是一个具有悠久历史的数学成果,但是在机器学习和图像处理(例如SIFT和SURF特征检测)中,我们也常常遇到它。所以本文就来向读者道一道Hessian Matrix的来龙去脉。本文的主要内容包括:

  • 多元函数极值问题
  • 泰勒展开式与Hessian矩阵

多元函数极值问题

回想一下我们是如何处理一元函数求极值问题的。例如, f ( x ) = x 2 f(x)=x^2

  • 28
    点赞
  • 65
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 7
    评论
Hessian矩阵是多元函数判定的重要工具。对于一个具有n个变量的多元函数f(x1, x2, ... , xn),Hessian矩阵是一个n×n的矩阵,其元素为二阶偏导数。Hessian矩阵的定义如下: Hessian矩阵的第i行第j列元素,即Hessian矩阵的第(i, j)元素,表示函数f对第i个变量x_i和第j个变量x_j的混合偏导数。 多元函数可能出现在驻点 (critical point)或者临界点 (boundary point)上,通过Hessian矩阵可以判断一个驻点的类型。具体的判断方法如下: 1. 首先,计算函数f的一阶偏导数,求出所有的驻点。 2. 对于每个驻点,计算Hessian矩阵。 3. 判断Hessian矩阵的正定性(positive definite)、负定性(negative definite)、不定性(indefinite)或者半定性(positive semi-definite和negative semi-definite)。 - 如果Hessian矩阵在驻点处是正定的,则该点为函数点; - 如果Hessian矩阵在驻点处是负定的,则该点为函数点; - 如果Hessian矩阵在驻点处是不定的,则该点既不是点也不是点; - 如果Hessian矩阵在驻点处是半定的,则需要进一步分析。 4. 进一步分析半定性的情况。 - 如果Hessian矩阵在驻点处是半正定的,则该点可能是函数点,也可能是鞍点; - 如果Hessian矩阵在驻点处是半负定的,则该点可能是函数点,也可能是鞍点; - 如果Hessian矩阵在驻点处即半正定又半负定,则该点既可能是函数点又可能是点。 通过以上步骤,我们可以利用Hessian矩阵来判断多元函数的驻点的类型,从而找到函数点。需要注意的是,Hessian矩阵为对称矩阵,而且其元素的函数的表达式有关,要根据具体问题进行计算,以得到准确的判定结果。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

白马负金羁

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值