[Paper-Preview1]Global and Quadratic Convergence of Newton Hard-Thresholding Pursuit

最新推荐文章于 2024-06-13 12:16:07 发布
最新推荐文章于 2024-06-13 12:16:07 发布
阅读量405 收藏 1
点赞数 2
分类专栏： Paper Review 文章标签： 机器学习 算法 matlab
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Cplus_ruler/article/details/118052877
版权

[Paper-Preview1]Global and Quadratic Convergence of Newton Hard-Thresholding Pursuit

这次机器学习的final project是选ICML或者JMLR最近三年的论文，并且将论文复现，因为这次可以组队，最多三人一队，但是我室友义正言辞地和我说已经和学姐联系好了，抛弃了我（虽然在我预料之中）。我问了几个学长，他们也不准备多加人，因为我也不想随便找其他人，所以我干脆自己单干了。本来材料都找好了，刚要开动时突然发现选中的那篇论文被其他同学选走了，郁闷了好久，最后选了这篇，说实话，关于这篇论文涉及到的知识，老师上课讲的比较少，所以对我来说也是一种挑战。最后在将近一个星期的爆肝中，终于将这个project圆满完成。在做project的过程中自学了LaTex以及一些相关的背景知识，感觉还是有很多提升的，关于latex的内容我之后会专门写几篇心得。
首先，附上文章Global and Quadratic Convergence of Newton Hard-Thresholding Pursuit

研究的问题与背景

在这里插入图片描述

动机（Motivation）

在这里插入图片描述

算法的框架与算法

实际上这个算法的框架是套用了一个已有的框架，当然这个框架非常经典，根据各个步骤选择不同的策略可以得到不同的算法
在这里插入图片描述
在这里插入图片描述

算法相比前人算法的优化与表现

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

代码实现

我找到了原文作者的代码，所以我就不献丑复现了
附上github的地址实现代码

Report

根据要求我用LaTeX写了一份report,之后会发现我的github上，各位可以下载下来，和我之后LaTeX讲解做一个对照，如果可能的话能不能帮我star一下呢
我先附上输出的pdf版本
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

结语

感觉这次机器学习final project收获还是很大的，由于本人只有大二所以水平有限，如果有幸作者看见了，请嘴下留情，轻点喷

Cplus_ruler
关注
  • 2
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
【2011-2016】 NIPS汇总 - Advances in Neural Information Processing Systems
Testing的博客
10-02 1万+
Advances in Neural Information Processing Systems 24 (NIPS 2011) The papers below appear in Advances in Neural Information Processing Systems 24 edited by J. Shawe-Taylor and R.S. Zemel and P.L.
a primal-dual interior-point method for conic quadratic optimization.pdf
04-08
凸优化工具
Meta-learning algorithms for Few-Shot Computer Vision 论文解读（二）
weixin_44340538的博客
01-04 1755
Meta-learning algorithms for Few-Shot Computer Vision 论文解读（二）贡献部分（一）高度集成代码库复现的结果评估时支持集中标签噪声的影响未来工作参考文献 未完待续 贡献部分（一） 高度集成代码库 这部分作者的主要贡献是整理了一套包含四种算法的代码，在之前工作的基础上将代码更加高度集成，方便对比和使用，尤其是data managers这部分，整合了几个数据集小样本插曲形式的采样方法，方便复用，修改。 介绍了四种算法，在miniImageNet和Cal
【精读AI论文】dropout----(A Simple Way to Prevent Neural Networks from Overfitting)
深度不学习！！的博客
04-13 2924
文章目录前言摘要 (Abstract)引言 (Introduction)灵感来源 (Motivation)相关工作 (Related Work)dropout模型介绍(Model Description)训练过程 (Learning Dropout Nets) 前言 前两天看的那个hinton作者的dropout（笔记在这里），据说他是第一个提出dropout的人，今天看的这个论文是dropout里比较普遍熟知的论文。 题目： A Simple Way to Prevent Neural Networks
高数篇（五）-- 硬阈值(Hard Thresholding)函数与软阈值(Soft Thresholding)函数解读
CarpeDiem
05-17 1万+
本篇主要用来学习使用，阈值函数包括软阈值和硬阈值的公式推导以及代码实现，主要把原文内容进行了重新整合，详细内容可以参考文后文章。
压缩感知重构算法之迭代硬阈值(IHT)
热门推荐
彬彬有礼的专栏
07-31 2万+
本篇来介绍IHT重构算法。一般在压缩感知参考文献中，提到IHT时一般引用的都是文献【1】，但IHT实际上是在文献【2】中提出的。IHT并不是一种凸优化算法，它类似于OMP，是一种迭代算法，但它是由一个优化问题推导得到的。文献【1】和文献【2】的作者相同，署名单位为英国爱丁堡大学(University ofEdinburgh)，第一作者的个人主页见参考文献【3】，从个人主页来看，作者现在已到英国南安普敦大学(University of Southampton)，作者发表的论文均可以从其个人主页中下载。
迭代硬阈值算法IHT:Iterative Hard-Thresholding
weixin_43522927的博客
09-03 3966
迭代硬阈值算法IHT:Iterative Hard-Thresholding前言硬阈值函数迭代硬阈值算法参考 前言 最近在学习压缩感知的重构算法，重构算法整体来看分为三大类： ①贪婪迭代类算法：即MP和OMP及其改进算法。通过迭代选择原子的方式，进行逼近重构。 ②凸优化类算法：即BP（基追踪）和BPDN（基追踪降噪）。通过将原始的非凸问题转化为凸优化问题，然后通过线性规划的方式来求解。 ③组合算法：还未涉猎，后续跟进~ 当前已经将贪婪迭代类的算法都实验过了，最近开始学习凸优化方法。首先说一下凸优化方法：即将
ICML 2018 paper(oral)
qq_34848537的博客
10-08 5101
参考链接 icml 2018 oral Paperlist Optimal Tuning for Divide-and-conquer Kernel Ridge Regression with Massive Data Predict and Constrain: Modeling Cardinality in Deep Structured Prediction Transfer Learn...
randraw.zip_Pareto-Fisher_nakagami_quadratic_truncated pareto_vo
07-14
Quadratic, Rademacher, Rayleigh, Rice, Semicircle, Skellam, Student s-t, Triangular, Truncated Normal, Tukey-Lambda, U-shape, Uniform (continuous), Von Mises, Wald, Weibull, Wigner ...
Solvability-of-a-quadratic-function.zip_Visual_C++_
08-11
一元二次方程求根公式，一元二次方程求根公式式用c程序编写
ViterbiQAM.rar_qam_quadratic_viterbi-viterbi QAM
07-13
matlab code for Viterbi Algorithm for a Quadratic Amplitude Modulation (QAM )
thermal with loss.zip_The Power_hydro _hydro-power_quadratic_the
07-14
Consider unit 1 and unit 2 are thermal power plants and the third unit is hydro power plant, and consider power loss. Note: Regarding the transmission loss consider quadratic function taking the ...
【机器学习】支持向量机（个人笔记）
Mount256的博客
06-12 902
源代码文件请！
机器学习在医学领域中的应用｜文献精析·24-06-13
最新发布
qq_45404805的博客
06-13 930
本节介绍机器学习（ML）的类型、方法和技术的背景，并随后讨论ML在医疗领域的应用。
【Python】 了解二分类：机器学习中的基础任务
2333333
06-09 912
二分类（Binary Classification）是指将数据分为两类的一种分类任务。换句话说，模型的输出只有两个类别。这两个类别通常被表示为 0 和 1，或者 -1 和 1，代表两个不同的类别或状态。二分类是机器学习中一个基础而重要的任务，广泛应用于各种实际场景中。通过理解二分类的概念、常用算法及其应用，你可以更好地构建和优化二分类模型，解决实际问题。希望本文能帮助你深入了解二分类，并在实际项目中有效应用这些知识。
机器学习常见知识点 2：决策树
m0_63997099的博客
06-09 906
纯度选择最优特征分裂熵基尼不准度均方误差。
额定值高于 1 kW 的电机驱动应用使用 GaN 逆变器 IC
Jesse0257的博客
06-13 277
2019 年，ePower Stage IC 系列产品重新定义了功率转换，将所有必需的电源片上系统功能集成到单个 GaN-on-Si IC 中，并以更高的电压和更高的频率水平（超出了硅的范围）。在该板上，三相 GaN 逆变器的每个半桥由两个 EPC23101 IC 组成，其 PWM 信号交叉连接，允许插入源分流器来读取电流，如图 3 和部分原理图所示。当这些参数结合起来时，由于 GaN 晶体的临界场高 10 倍，因此与硅 MOSFET 相比，电端子之间的距离可以近 10 倍。GaN逆变器IC的应用。
GaN VCSEL：工艺革新引领精准波长控制新纪元
qq_28126171的博客
06-13 278
更令人瞩目的是，它们所展现出的壁插效率峰值已超越20%的界限，这对于氮化镓垂直腔面发射激光器而言，无疑是一项令人叹为观止的成就。日本工程师们凭借精湛的技艺，开创了一种革命性的生产工艺，让VCSEL的制造达到了前所未有的高效与精准。这类激光器独特的结构，包括由交替的AlInN和GaN层形成的电介质顶部镜和底部镜，不仅简化了制造过程，更在性能上实现了质的飞跃。这种特殊方法的应用，不仅体现了工程师们的智慧与勇气，更为氮化镓基VCSELs的未来发展奠定了坚实基础。这一改进的成功实施，极大地提升了器件的性能稳定性。
Local-to-Global Self-Attention in Vision Transformers
03-29
Vision Transformers (ViT) have shown remarkable performance in various vision tasks, such as image classification and object detection. However, the self-attention mechanism in ViT has a quadratic ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值