Basis Pursuit ADMM

c笔记 ref.      distr_opt_stat_learning_admm.html

Basis pursuit is the equality-constrained \mathit{l}_{1} minimization problem

In ADMM form, basis pursuit can be written as
\text{minimize} \, \, f(x) + \left \| z \right \|_1 \\ \text{subject to} \,\, x-z = 0

The ADMM algorithm is then

x^{k+1} :=\Pi\left(z^k-u^k\right) \\ z^{k+1} :=S_{1 / \rho}\left(x^{k+1}+u^k\right) \\ u^{k+1} :=u^k+x^{k+1}-z^{k+1},

The x-update, which involves solving a linearly-constrained minimum Euclidean norm problem, can be written explicitly as
 

x^{k+1}:=\left(I-A^T\left(A A^T\right)^{-1} A\right)\left(z^k-u^k\right)+A^T\left(A A^T\right)^{-1} b

4.4.3 Soft Thresholding

where the soft thresholding operator S is defined as
S_\kappa(a)= \begin{cases}a-\kappa & a>\kappa \\ 0 & |a| \leq \kappa \\ a+\kappa & a<-\kappa\end{cases}

S_\kappa(a)=(1-\kappa /|a|)+a

the comments on efficient computation from §4.2 apply

We can interpret ADMM for basis pursuit as reducing the solution of a least \mathit{l}_{1} norm problem to solving a sequence of minimum Euclidean norm problem

  • 7
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Projection Pursuit(投影追踪)是一种统计学习方法,旨在通过寻找具有最大统计信息的投影,来寻找数据中的有用特征。在MATLAB中,可以使用Projection Pursuit算法来进行数据分析和特征提取。 在MATLAB中,可以使用ppursuit函数来实现Projection Pursuit算法。该函数有很多参数可以调整,允许用户自定义投影寻找的过程。其中最常用的参数是输入数据和目标输出数据。 在执行Projection Pursuit算法时,MATLAB会根据输入数据和目标输出数据,自动寻找最佳投影。它会迭代地对数据进行投影和优化,直到找到最佳投影为止。根据数据的不同,最佳投影可以是线性或非线性的。 使用Projection Pursuit算法,可以在数据中提取出具有高度相关性和有用性的特征。这些特征可以用于数据降维、分类、聚类等任务。例如,在图像处理中,可以使用Projection Pursuit算法提取具有代表性的图像特征,用于图像分类和识别。 在MATLAB中,Projection Pursuit算法的使用非常灵活,可以根据具体需求进行相应的参数选择和调整。此外,MATLAB还提供了一系列功能强大的数据可视化工具,可以帮助用户直观地理解和展示Projection Pursuit算法的结果。 总而言之,Projection Pursuit算法是一种强大的数据分析和特征提取方法,可以在MATLAB中方便地实现。它可以帮助我们从数据中提取有用的信息,并加以利用。无论是在科学研究、工程应用还是商业决策中,Projection Pursuit算法都具有广泛的应用前景。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值