MTandHJ的博客

论文背景：面对来袭的数据，连续样本不一定是不相关的，甚至不是同分布的。当前，大部分在线PCA都只关注准确性，而忽视时效性！噪声？数据缺失，观测有偏，重大异常？论文内容：Section 2Online SettingsOnline PCA, 就是在观察到x1,x2,x3,…,xt−1x1, x2, x3, \dots, x_{t-1}x1,x2,x3,…,xt−1​后，“构造”一...

文章目录ProblemMatrix Stochastic Gradient算法(MSG)步骤二（单次迭代）算法单步SVD$project()$算法$rounding()$从这里回溯到此文章，这篇文章得作者是之前那篇文章的第三作者，里头提到的算法也及其相似，所以算是前者的基础吧。Problem这篇文章同样是关于PCA（在线或者说随机），试图寻找一个合适的k−k-k−维的子空间去压缩数据。普通...

这些天看了一些关于采样矩阵（大概是这么翻译的）的论文，简单做个总结。FAST MONTE CARLO ALGORITHMS FOR MATRICES I: APPROXIMATING MATRIX MULTIPLICATION算法如下：目的是为了毕竟矩阵的乘积AB， 以CR来替代。其中右上角带有i_t的A表示A的第i_t列，右下角带有i_t的B表示B的第i_t行。关于 c 的选择，...

文章目录Oja's rule背景Hebbian learning主要的一些理论论文里面一些主要的假设引理1引理2引理3定理1LEMMA 3（ALL）引理 4定理 2定理 3（关于特征值）Oja's rule引理 5（关于$\gamma_k$的选择）定理 3数值实验代码Oja’s rule这俩天看了Oja的俩篇论文，被其中的证明弄得云里雾里，但愿我的理解没有出太大问题吧。Oja’s rule ...

文章目录Setup of Batch PCA and Online PCAHedge Algorithm改进算法用于矩阵$rounding()$前俩次，都用到了rounding()rounding()rounding(),遗憾的是，都没有讲清楚，这次稍微具体地讲下这篇论文。但是说实话，我感觉，我还是没有领会到这篇文章的精髓。Setup of Batch PCA and Online PCAB...