![](https://img-blog.csdnimg.cn/20191102204954200.jpeg?x-oss-process=image/resize,m_fixed,h_224,w_224)
数据挖掘与矩阵
主要内容:数学&&矩阵
萝卜丝皮尔
统计学、管理科学与工程
展开
-
【SVD】奇异值分解 -- 学习笔记
参考资料:数值分析若A为Hermite阵,可用-酉相似变换-将其化为对角形式:Q∗AQ=ΛQ^{*}AQ=\LambdaQ∗AQ=Λ,即得到谱分解,也就是特征值分解;谱分解保持矩阵的秩和特征值不变。若A非Hermite阵,可用-初等变换-化为比较简单的对角形式,A=P[I000]QA=P\begin{bmatrix}I&0\\0&0\end{bmatrix}QA...原创 2020-03-07 17:14:14 · 1545 阅读 · 2 评论 -
大创项目笔记(2)
在文献《Randomized LU Decomposition》中的算法4.1,如下图:首先,把输入矩阵A投影到一个随机矩阵G上,得到了矩阵Y,这个矩阵可以反映出输入矩阵A 值域的很大一部分;然后,对矩阵Y应用RRLU分解,得到基底Lk和Uk,并对输入矩阵A进行再次投影,得到矩阵B;之后,再对矩阵B进行列选主元的LU分解从而得到新基底Lb和Ub;最后,得到L=LkLb,U=Ub。在实现...翻译 2019-11-24 14:45:47 · 764 阅读 · 0 评论 -
大创项目部分笔记(1)
研读了《Randomized LU Decomposition》,这篇文章将随机SVD方法的思想扩展到传统方法LU分解上从而形成随机LU分解算法。随机算法对大数据时代下产生的大型稀疏矩阵的低秩近似和分解有着很关键的作用。据此,我们首先研读了英文文献《Randomized LU Decomposition》,这篇文章将随机SVD方法的思想扩展到传统方法LU分解上从而形成随机LU分解算法,并对已有随...翻译 2019-11-23 14:54:27 · 920 阅读 · 0 评论 -
数据挖掘--非负矩阵分解
交替最小二乘法:如果同时解下图绿色方程的两个矩阵W和H,属于非线性问题,考虑先初始化一个矩阵W,再在非负矩阵的限制下求出矩阵H,再利用求出矩阵H反过来解矩阵W,…,直到满足误差限为止,这种方法叫交替最小二乘法。考虑到这样分解出的矩阵W和H是不唯一的,而且有可能会出现负元素,我们还需要对每次迭代出的结果进行标准化。活跃集方法:在F范数下,进行矩阵的分解,可以看作是对矩阵A的每一列在二范数意...翻译 2019-11-14 16:46:33 · 1151 阅读 · 0 评论 -
数据挖掘--MATLAB实现k-means聚类算法
在数据压缩和数据分类中有一个很重要的算法叫聚类算法。一个聚类表示在某一范数下距离最小的点的集合。可以考虑取出每一类的均值作为这一类的代表。取二范数来衡量两个向量的距离。黄色字体:分类指标集;蓝色字体:每一类的中心向量;绿色字体:最终结果的衡量标准,要使它尽可能地小;具体算法展示:初始化分类集,计算初始分类集的中心向量,计算初始状态下的Q值,将迭代次数t值为1;为每一个样本向...原创 2019-11-13 19:29:17 · 1314 阅读 · 0 评论 -
数据挖掘实验--求解PageRank问题
根据网络结构所给出的无向图或者有向图,可以构建它所对应的邻接矩阵Q。另外,对第i个PageRank值是其他网页PageRank值的线性组合,各个组合系数是对应网页的链出个数的倒数。据此,可以建立方程r=Qr,其中向量r就是各个网页的PageRank值所构成的向量,因此求给网页排序的问题就转化成了求向量r的问题,也就是求该方程组的特征值问题。下面分别用Jacbi迭代的方法和乘幂法求解:Jacb...原创 2019-11-13 18:28:41 · 1399 阅读 · 0 评论 -
数据挖掘实验--非负矩阵分解
注:活跃集方法速度比较慢,尚且没验证上述活跃集算法的MATLAB程序是否可执行????原创 2019-11-13 18:26:16 · 516 阅读 · 0 评论 -
数据挖掘--矩阵的SVD分解
QR分解虽然很有用,而且具有较为稳定的性质,但也有不足之处:QR分解只能提供原矩阵A的列的一组正交基。现在介绍的SVD分解可以分别提供对应原矩阵的行、列的正交基。矩阵U、矩阵V的列向量都是奇异向量;中间的对角矩阵的对角元是奇异值。上图中的两种表示方法展现了两种SVD,前者为FULL型的,后者为THIN型的(也称经济型的)% MATLAB函数[U,S,V]=svd(A) %第一种的S...翻译 2019-11-12 20:20:34 · 1518 阅读 · 0 评论 -
数据挖掘--矩阵的QR分解
矩阵的QR分解:A=QR,其中Q为正交矩阵,R为上三角矩阵。具体可以通过HouseHold变换做到,分步进行,如下图:如果矩阵A是可逆矩阵的话,那么分出的矩阵R一定是列线性无关的。此时,R的对角线元素一定是非零:根据上面的绿色字体,这是因为一旦对角线元素为零,那么这一列就可以被它左边的列共同线性表示出来,也就是线性相关了。经济型的QR分解:对上述分解出的Q矩阵进行矩阵分块,如下...翻译 2019-11-12 11:34:44 · 2740 阅读 · 2 评论