![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
降维算法
文章平均质量分 91
降维算法是数据处理的强大工具。它能将复杂高维数据简化,去除冗余。本专栏深入解析多种降维算法,如主成分分析、奇异值分解等。通过实例展示如何降低数据维度,提升处理效率,挖掘数据核心价值,轻松应对数据挑战。
Jr_l
这个作者很懒,什么都没留下…
展开
-
主成分回归和局部线性嵌入
通过找到每个数据点的局部邻域并计算其在邻域内的线性重构权重,然后在低维空间中找到这些权重的最佳嵌入,保持局部线性结构不变。主成分回归(PCR)是一种结合主成分分析(PCA)和线性回归的降维方法,通过在回归之前使用 PCA 将数据投影到低维空间,可以有效减少多重共线性对模型的影响。局部线性嵌入(LLE)是一种非线性降维方法,它通过保留数据局部邻域的线性结构,将高维数据嵌入到低维空间,广泛用于数据可视化和流形学习。降维操作,特别是在高维数据集(如MNIST)上使用非线性方法(如LLE)时,可能会非常耗时。原创 2024-08-07 15:30:00 · 827 阅读 · 0 评论 -
因子分析和非负矩阵分解
我们将使用 Olivetti 面部图像数据集,该数据集包含 400 张面部图像,每张图像是 64x64 像素的灰度图像。代码展示了如何利用因子分析对高维数据进行降维,并通过可视化直观地展示了因子与原始特征的关系,有助于理解因子分析在数据特征提取中的应用。代码展示了如何利用 NMF 对高维数据进行降维,并通过可视化直观地展示了基向量,有助于理解 NMF 在数据特征提取中的应用。NMF 是一种矩阵分解方法,它将一个非负矩阵分解成两个非负矩阵的乘积,广泛用于数据降维、主题建模和推荐系统。原创 2024-08-07 09:00:00 · 479 阅读 · 0 评论 -
t-分布随机邻域嵌入和多维尺度分析
我们将使用经典的MNIST数据集,它包含了大量的手写数字图片,每张图片是28x28像素的灰度图像,共有10个类别(0到9)。代码展示了如何利用t-SNE对高维数据进行降维,并通过可视化直观地展示了降维后数据的分布情况,有助于理解数据集的结构与特征之间的关系。代码展示了如何利用MDS对高维数据进行降维,并通过可视化直观地展示了降维后数据的分布情况,有助于理解数据集的结构与特征之间的关系。MDS 是一种非线性降维方法,通过保留样本点之间的距离关系将高维数据嵌入低维空间,主要用于数据的可视化和相似性分析。原创 2024-08-06 09:15:00 · 531 阅读 · 0 评论 -
独立成分分析和奇异值分解
与 PCA 不同,ICA 最大化的是信号的非高斯性,而不是方差。代码展示了如何利用ICA对混合信号进行分离,并通过可视化直观地展示了分离前后的信号情况,有助于理解ICA在信号处理中的应用。SVD 是一种矩阵分解方法,将一个矩阵分解成三个矩阵的乘积,常用于降维、压缩和数据降噪。其中,U 是 m×m 正交矩阵,Σ 是 m×n 对角矩阵,V 是 n×n 正交矩阵。其中,U 是左奇异矩阵,Σ 是奇异值对角矩阵,V 是右奇异矩阵的转置。其中,X 是观测数据矩阵,A 是混合矩阵,S 是独立信号矩阵。原创 2024-08-06 09:00:00 · 511 阅读 · 0 评论 -
主成分分析和线性判别分析
我们将使用经典的MNIST数据集,它包含了大量的手写数字图片,每张图片是28x28像素的灰度图像,共有10个类别(0到9)。代码中展示了如何利用PCA对高维数据进行降维,并通过可视化直观地展示了降维后数据的分布情况,有助于理解数据集的结构与特征之间的关系。代码展示了如何利用LDA对高维数据进行降维,并通过可视化直观地展示了降维后数据的分布情况,有助于理解数据集的结构与特征之间的关系。其中,μi 是第 i 类的均值向量,μ 是所有样本的总体均值向量,Ni 是第 i 类的样本数,c是类别数。原创 2024-08-05 15:00:00 · 1526 阅读 · 0 评论