- 博客(13)
- 收藏
- 关注
原创 ADMM算法
ADMM算法,全称为交替方向乘子法(Alternating Direction Method of Multipliers),是一种用于解决优化问题的迭代算法,特别是那些可以分解为多个子问题的优化问题。ADMM结合了拉格朗日乘子法和分裂方法的特点,通过交替优化原问题的分裂子问题和更新乘子来逼近全局最优解。它在处理大规模和分布式优化问题时特别有效,广泛应用于机器学习、信号处理、统计学习、图像处理等领域。ADMM算法的基本思想是将一个复杂的优化问题分解为几个更简单的子问题,这些子问题可以更容易或更高效地求解。
2024-02-26 16:36:31 1883 1
原创 Ptychography 和压缩感知(个人学习笔记)
基本概念:Ptychography是一种计算显微技术,通过移动样品相对于照明光束并记录一系列重叠的衍射图案来恢复样品的相位和振幅信息。这种技术利用了重叠区域提供的额外信息来解决相位恢复问题,从而能够以超出传统限制的分辨率重建物体。应用领域:层析成像技术在材料科学、生物医学成像和纳米技术等领域中特别有用,用于观察微观尺度上的结构细节。(这张图来自论文压缩感知(Compressed Sensing, CS)是一种信号处理技术,它利用信号的稀疏性质来从远少于奈奎斯特采样定理所要求的采样点数目中重建出完整信号。
2024-02-24 01:24:21 838
原创 阅读论文《Vision Transformer with Super Token Sampling》
这篇论文是CVPR2023的一篇论文,主要工作是对于Vision Transformer的自注意力机制进行了魔改。我感觉这篇文章或许对我的工作有帮助,因此,今天精读一下。(侵权删)(非常欢迎来argue,指正我的错误)
2023-06-06 15:28:56 2684
原创 (debug记录)pytorch导入模型时的error :size mismatch for fution.weight
完整报错:error :size mismatch for fution.weight: copying a param with shape torch.Size([28, 56, 1, 1]) from checkpoint, the shape in current model is torch.Size([28, 28, 1, 1])这是由于在加载模型的预训练权重时,遇到了一个size不匹配的问题,预训练模型和当前模型之间存在结构差异。这个子函数也可以去掉!
2023-04-11 15:48:16 1383
原创 Transformer is all you need(doge)
仅为个人学习笔记,综合了很多笔记和论文,侵权删,仅供学习参考!!!发现错误非常欢迎来argue。以上为我个人综合各种各样的笔记,我希望能够帮助大家理解,如果有错误,非常非常欢迎大家来argue我。我认为基于transformer框架的模型,可以排列组合各种机制来试出最好的搭配,现在的encoder-decoder和attention已经有非常多的创新和架构了,大部分也都是开源的,我打算照这个思路去实现我的问题。
2023-04-04 16:57:35 356
原创 数学建模A题常用matlab函数
本人本次数学建模国赛就打算和队友针对A题准备了,A题根据以往的题型来看,都是微分方程一类的模型,主要是考验数学功底,像21年的国赛A题的优秀论文们就是大部分都是自己对抛物线的一些性质进行运用(看的时候感觉高中数学忘的真的快),而之前常考的就是热传递方程,20年的炉温曲线,18年的高温作业服则是偏微分方程,采用有限差分法求解。19年的高压油管则主要考验了常微分方程的建立,但对于求出数值解的水平也有一定要求。16年的A题是一道多段力学分析,和今年的深圳杯D题类似,我们需要针对每一段进行参数求解。
2022-12-20 12:40:31 517
原创 数学建模常用读取excel和txt代码
在数学建模比赛的过程中,为了能够验证算法,就需要导入题目给出的数据,但我们每次寻找代码费时费力,我在这里把之前的建过的模型中常用的数据读取代码总结起来,数学建模常用的两种语言是matlab和python,我在这里也给出这两种语言的读取代码。...
2022-07-23 16:39:31 1244
原创 稀疏信号和可压缩信号模型
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录一、矢量空间简介二、基和框架1.引入库2.读入数据总结一、矢量空间简介我们在大一曾经学过应该都学过线性代数,在那时我们引入了欧几里得空间的概念,我们将这个空间简记为RNR^NRN。RNR^NRN中的标准内积定义为⟨x,z⟩=zTx=∑i=1Nxizi\langle x, z\rangle=z^{\mathrm{T}} x=\sum_{i=1}^{N} x_{i} z_{i}⟨x,z⟩=zTx=i=1∑Nxizi.
2022-05-06 14:55:51 804
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人