【机器学习】二次规划

其他机器学习系列文章见于专题:机器学习进阶之路——学习笔记整理,欢迎大家关注。

  在介绍二次规划问题前,我们先介绍正定矩阵和半正定矩阵的定义:

  正定矩阵:设 M M M n n n阶方阵,如果对任何非零向量 z z z,都有 z T M z > 0 z^T Mz>0 zTMz>0,则称 M M M为正定矩阵。

  半正定矩阵:设 M M M n n n阶方阵,如果对任何非零向量 z z z,都有 z T M z ≥ 0 z^T Mz≥0 zTMz0,则称 M M M为半正定矩阵。

  二次规划(Quadratic Programming,简称QP)是一类典型的优化问题。二次规划问题的一般形式为:
min ⁡ x 1 2 x T Q x + c T x s.t. A x ⩽ b \begin{array} { c l } { \min _ { x } } & { \frac { 1 } { 2 } x ^ { T } Q x + c ^ { T } x } \\ { \text {s.t.} } & { A x \leqslant b } \end{array} minxs.t.21xTQx+cTxAxb

  (1)若 Q Q Q半正定矩阵,则上面的目标函数是凸函数,相应的二次规划为凸二次规划问题;此时若约束条件 A x ⩽ b { A x \leqslant b } Axb定义的可行域不为空,且目标函数在此可行域有下界,则该问题有全局最小值

  (2)若 Q Q Q正定矩阵,则该问题有唯一的全局最小值

  (3)若 Q Q Q非正定矩阵,则该问题是有多个平稳点和局部极小点的NP难问题。

  常用的二次规划问题求解方法有:椭球法、内点法、增广拉格朗日法、梯度投影法等。

参考文献:

  1. 《机器学习》附录B.1——周志华
  • 2
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值