Mr_LeeCZ
算法工程师,主要关注模式识别、机器学习、计算机视觉等人工智能领域,重点关注无监督学习方法,特别是高维数据分析。数学是基础,算法是灵魂,编程是工具,三者需要紧密结合方能凸显数学之美和算法之能。
展开
-
高维数据建模 || 13. 局部线性自表达模型及其聚类
好原创 2022-12-11 15:09:08 · 216 阅读 · 0 评论 -
高维数据建模 || 4. 图谱聚类 | 4.2 基于拉普拉斯矩阵分解的谱聚类
好原创 2022-12-05 23:27:56 · 42 阅读 · 0 评论 -
高维数据建模 || 11. 鲁棒PCA
好原创 2022-11-29 22:30:30 · 189 阅读 · 0 评论 -
高维数据建模 || 4. 图谱聚类 | 4.1 拉普拉斯算子与图拉普拉斯
好原创 2022-11-29 22:28:29 · 80 阅读 · 0 评论 -
高维数据建模 || 3. 非线性降维 | 3.3 t-SNE
无原创 2022-11-23 20:11:59 · 38 阅读 · 0 评论 -
高维数据建模 || 3. 非线性降维 | 3.2 Laplacian Eigenmap (LE)
好原创 2022-11-23 20:02:00 · 111 阅读 · 0 评论 -
高维数据建模 || 3. 非线性降维数 | 3.1 局部线性嵌入(LLE)
所谓LLE(局部线性嵌入)即”Locally Linear Embedding”的降维算法,在处理所谓流形降维的时候,效果比PCA要好很多。首先,所谓流形(Manifold),我们脑海里最直观的印象就是 Swiss roll, 在吃它的时候喜欢把它整个摊开成一张饼再吃,其实这个过程就实现了对瑞士卷的降维操作,即从三维降到了两维。降维前,我们看到相邻的卷层之间看着距离很近,但其实摊开成饼状后才发现其实距离很远,所以如果不进行降维操作,而是直接根据近邻原则去判断相似性其实是不准确的。原创 2022-11-23 19:42:27 · 36 阅读 · 0 评论 -
高维数据建模 || 10. 奇异值阈值(Singular Value Thresholding,SVT)
好原创 2022-11-24 19:45:38 · 499 阅读 · 0 评论 -
高维数据建模 || 9. Lasso回归中的ADMM方法
好原创 2022-11-24 19:41:53 · 446 阅读 · 1 评论 -
高维数据建模 || 8. 最小绝对偏差(LAD)的ADMM方法
好原创 2022-11-24 09:43:13 · 217 阅读 · 0 评论 -
高维数据建模 || 2. 线性降维 | 2.4 主成分分析的矩阵秩极小化视角下的模型选择问题
PCA的秩极小化视角原创 2022-11-09 12:41:44 · 111 阅读 · 0 评论 -
高维数据建模 || 2. 线性降维 | 2.3 主成分分析的矩阵秩最小化视角
优化模型(4)虽然看似简洁,但求解过程并不容易,因此优化目标函数非凸,同时需要解决面临的两个问题:①该优化问题和PCA是等价的;②如何解决模型选择问题,即如何选取参数。**定理:**PCA可通过秩极小化获得,对于去均值矩阵。对于公式(5)中的优化问题,我们需要同时优化。对于第二个问题,如何确定最优的参数。,我们将放在下一节模型选择问题里。因此,优化问题(2)可变形为。此时,将最优值代入(5)式得。矩阵的各列已经被中心化,即。,我们可采用分步求解的方式。时,两个约束条件可变形为。则优化模型(3)可简化为。原创 2022-11-22 21:19:32 · 122 阅读 · 0 评论 -
高维数据建模 || 2. 线性降维 | 2.2 主成分分析的几何视角
主成分分析有不同的视角,本部分是从代数几何的视角进行建模。原创 2022-11-06 10:54:39 · 346 阅读 · 0 评论 -
高维数据建模 || 2. 线性降维 | 2.1 主成分分析的统计学视角
主成分分析系列模型在高维数据分析与建模过程中起到重要的作用,本系列将会介绍主成分分析系列模型理论及案例实现。原创 2022-10-23 09:35:41 · 198 阅读 · 0 评论 -
高维数据建模 || 1.基础 | 1.2 矩阵的基本运算(二)
本部分来源于网络内容的整理,因时间久远找不到出处了,如有雷同,请告知原创 2022-10-26 16:05:11 · 105 阅读 · 0 评论 -
高维数据建模|| 1. 基础 | 1.1 矩阵的基本运算(一)
矩阵运算在高维数据建模中是最基本的运算,本文整理了常用的矩阵运算以备用原创 2022-10-26 16:02:07 · 355 阅读 · 0 评论