- 博客(27)
- 收藏
- 关注
RSS订阅原创 最优化(11)：信赖域算法、非线性最小问题二乘算法
4.7 非线性最小二乘问题算法——第一小节给出了非线性最小二乘问题的一般形式，第二小节主要介绍高斯-牛顿算法，第三小节主要介绍Levenberg-Marquardt方法(主要包括LM、LMF)。4.6 信赖域算法——第一小节给出了信赖域算法的框架，第二小节讨论了信赖域子问题的求解方法(迭代法、截断共轭梯度法)，第三小节主要介绍算法收敛性；
2024-07-28 11:58:40
409
原创 论文复述：AGTC
论文: Attention-Guided Low-Rank Tensor Completion, 作者为Truong Thanh Nhat Mai, Edmund Y. Lam and Chul Lee.
2024-07-26 17:51:18
398
原创 论文复述：分层高斯先验模型的贝叶斯矩阵补全
论文: Bayesian Matrix Completion with Hierarchical Gaussian Prior Models, 作者为Linxiao Yang, Jun Fang, Huiping Duan, Hongbin Li and Bing Zeng.
2024-07-21 12:38:01
570
原创 图像处理(2)：灰度变换与空间滤波
2.3节介绍了空间滤波的相关概念，并介绍了一些常用的滤波器。2.1节介绍了一些基本的灰度变换函数；2.2节介绍了直方图处理方法；
2024-07-20 10:08:55
414
原创 最优化(10)：牛顿类、拟牛顿类算法
4.5 拟牛顿类算法——引入割线方程，介绍拟牛顿算法以及拟牛顿矩阵更新方式，然后给出了拟牛顿法的全局收敛性，最后介绍了有限内存BFGS方法。4.4 牛顿类算法——介绍了经典牛顿法及其收敛性，并介绍了修正牛顿法和非精确牛顿法；
2024-07-10 18:14:21
332
原创 张量笔记(4)：张量网络
张量分解通常是将高维张量分解成一系列较低维的张量，表示能力相对较低。而张量网络可以表示复杂的高维数据结构，通过连接多个张量形成网络结构，可以更灵活地表示和处理复杂的数据关系。2.5.2 TT分解——给出了TT分解的定义，并给出了TT分解的ALS算法，然后介绍了TR分解的定义及算法，最后粗略介绍了TT分解的其他推广，如PEPS、HCL、MERA。2.5.1 HT分解——首先我们引入了维度树的相关定义，然后给出了HT分解的定义以及一个例子，并给出了HT分解的两种算法，最后给出了HT分解的一个推广：TTNS；
2024-07-10 11:25:38
446
原创 最优化(9)：梯度类算法、次梯度算法
4.3 次梯度算法——主要介绍次梯度算法的结构与收敛性。我们在这里指出：如果目标函数是光滑的，梯度类算法通常更高效；如果目标函数是非光滑的，次梯度算法则更为适用。4.2 梯度类算法——主要介绍梯度下降法、BB方法，并给出了Tikhonov正则化模型的求解例子；
2024-07-04 09:32:01
532
原创 最优化(8)：线搜索方法
本节主要介绍线搜索准则——Armijo准则、Goldstein准则、Wolfe准则以及非单调线搜索准则；给出了线搜索算法如回退法、基于多项式插值的线捜索算法；最后不加证明地给出了算法的收敛性。
2024-07-03 17:20:11
496
原创 图像处理(0)：前言
准备写一份图像处理的笔记，参考书为Rafael C. Gonzalez, Richard E. Woods编著的Digital Image Processing, Fourth Edition。本书一共700多页，所以准备自己汇总出一份简短的笔记，学习的同时也方便今后查询。
2024-06-28 13:58:32
194
原创 最优化(7)：带约束凸优化问题的最优性理论
3.6.1 Slater约束品性与强对偶原理——定义相对内点集(是内点集的推广)，介绍了Slater约束品性以及与强对偶原理的关系。3.6.2 一阶充要条件——主要介绍凸问题KKT条件。
2024-06-28 11:56:57
129
原创 最优化(6)：一般约束优化问题的最优性理论
3.5.1 一阶最优性条件——主要介绍切锥、线性化可行方向锥的定义，给出了几何最优性条件、LICQ、MFCQ、线性约束品性，并给出了Farkas引理以及KKT条件；3.5.2 二阶最优性条件——给出了临界锥的定义，以及二阶必要条件和充分条件，最后给出了一个例子。
2024-06-27 22:33:58
436
原创 最优化(5)：无约束最优性理论、对偶理论
3.4 对偶理论——定义了拉格朗日函数和拉格朗日对偶函数，介绍了弱对偶原理和强对偶原理，之后将问题推广至适当锥中进行讨论。3.3 无约束不可微问题的最优性理论——给出了凸优化问题一阶充要条件和复合优化问题一阶必要条件；3.2 无约束可微问题的最优性理论——定义了下降方向，给出了一阶必要条件和二阶最优性条件；3.1 最优化问题解的存在性——主要介绍Weierstrass定理；
2024-06-26 11:27:48
380
原创 论文复述：RPCA via ScaledGD
所复述的论文是Fast and Provable Tensor Robust Principal Component Analysis via Scaled Gradient Descent，作者为Harry Dong, Tian Tong, Cong Ma, Yuejie Chi.
2024-06-25 19:02:20
246
原创 最优化(4)：典型优化问题
本章主要介绍一些典型优化问题：线性规划、最小二乘问题、复合优化问题、随机优化问题、半定规划、矩阵优化。最后给出了一个凸优化问题的代码示例，使用的是matlab中的cvx工具箱和python中的cvxpy库。Python 中使用的是 cvxpy 库, 可直接通过 pip install cvxpy 进行安装.
2024-06-25 09:41:03
560
原创 最优化(3)：共轭函数、次梯度
1.6 共轭函数——主要介绍共轭函数、二次共轭函数的定义，并给出Fenchel不等式；1.7 次梯度——主要介绍次梯度的定义和性质，以及次梯度的计算规则。
2024-06-24 12:45:02
331
原创 最优化(1)：范数、导数、广义实值函数
1.2 导数——内容包括Fréchet可微、Gâteaux可微、Taylor展开、梯度利普希茨连续，并指出了梯度利普希茨连续的函数具有二次上界；1.3 广义实值函数——主要介绍适当函数、下水平集、上方图、闭函数、下半连续函数的定义，并给出了闭函数和下半连续函数的等价性。1.1 范数——主要介绍向量和矩阵的相关范数及其性质；
2024-06-21 08:35:33
246
原创 深度学习：RNN、LSTM、DBN及论文简述
内容选自Michael Nielsen的Neural Network and Deep Learning第六章 6.4, 6.5, 6.6 部分，书中只给出了部分内容概述，并没有给出过多的细节。这里笔者补充了相应的细节，并给出了RNN、LSTM、DBN的简单入门。相关链接我放在了本文末尾。
2024-06-20 09:56:08
833
原创 深度学习：反向传播算法
深度学习这部分做的笔记比较少，所展示的笔记是组会时个人汇报的部分。本文参考Michael Nielsen的Neural Network and Deep Learning第2章，给出了反向传播的四个基本方程及证明、反向传播算法步骤，以及代码示例。最后给出BP算法的代码示例：（注意，代码中使用了mnist_loader.py，有需要的可自行在下面中下载）
2024-06-19 09:22:09
461
原创 论文复述IIT(2)-用于图像照明控制的本征图像传输算法
Article：Intrinsic Image Transfer for Illumination ManipulationLink：https://www.semanticscholar.org/reader/9848252ecc5db67354b29fce52958ae468a232b3Matlab：https://github.com/QingXin96/Intrinsic_image_transfer
2024-06-16 23:14:45
198
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人