Barrier Function for constrained optimization problem

Given
minf(a,b,Σ)
s.t.a>0,b>0,Σpd

we can utilize the barrier function to prevent the a and b not to be negative, and Σ to be pd.

add the barrier function for each constraint, e.g.
B(a)=(a1)log(a)0<a<=1
B(a)=0a>1
B(a)=+a<=0

for Σ , the barrier function is
B(Σ)=logdetΣ,Σp.d.
B(Σ)=+,others

the bound ‘1’ here can be scaled. 因为这是个minize的问题,如果是gradient descent 的话 xk+1=xk+akpk , 这里如果 xk 是一个0到1的数,那么他对应的gradient就是负无穷,那么 pk 就是正无穷,所以下一步的更新值 xk+1 就会被拉回到正数区间。

但是如果用conjugate gradient descent, 这里是无效的,因为 pk 与gradient 不是正相关。如果用lbfgs是可以的

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值