网上关于各种降维算法的资料参差不齐,同时大部分不提供源代码。这里有个 GitHub 项目整理了使用 Python 实现了 11 种经典的数据抽取(数据降维)算法,包括:PCA、LDA、MDS、LLE、TSNE 等,并附有相关资料、展示效果;非常适合机器学习初学者和刚刚入坑数据挖掘的小伙伴。阅读大概需要15分钟
Follow小博主,每天更新前沿干货
01 为什么要进行数据降维?
所谓降维,即用一组个数为 d 的向量 Zi 来代表个数为 D 的向量 Xi 所包含的有用信息,其中 d 通常,我们会发现大部分数据集的维度都会高达成百乃至上千,而经典的 MNIST,其维度都是 64。
![959d6d8c0c0764118debe4ba5588d73c.png](https://i-blog.csdnimg.cn/blog_migrate/4e95f4080eff908270b0b57c7c0fc9db.jpeg)
使得数据集更易使用
确保变量之间彼此独立
降低算法计算运算成本
去除噪音
![64c1c4ea528647d515f82e83941d8403.png](https://i-blog.csdnimg.cn/blog_migrate/921b3be083973f0805f3fdba6db72362.jpeg)
02 数据降维原理
往往高维空间的数据会出现分布稀疏的情况,所以在降维处理的过程中,我们通常会做一些数据删减,这些数据包括了冗余的数据、无效信息、重复表达内容等。 例如:现有一张 1024*1024 的图,除去中心 50*50 的区域其它位置均为零值,这些为零的信息就可以归为无用信息;而对于对称图形而言,对称部分的信息则可以归为重复信息。
![3b60992af29a1580eba3aae6d6a5e9e1.png](https://i-blog.csdnimg.cn/blog_migrate/4fd7e62908e92a30b883822de5dabac1.jpeg)
线性降维方法:
非线性降维方法:
03 主成分分析(PCA)降维算法
PCA 是一种基于从高维空间映射到低维空间的映射方法,也是最基础的无监督降维算法,其目标是向数据变化最大的方向投影,或者说向重构误差最小化的方向投影。它由 Karl Pearson 在 1901 年提出,属于线性降维方法。与 PCA 相关的原理通常被称为最大方差理论或最小误差理论。这两者目标一致,但过程侧重点则不同。
![1995748a7eb65e6bb7975a3f104d4357.png](https://i-blog.csdnimg.cn/blog_migrate/6867ab28ba8db4247ad675836a1442ab.png)
算法输入:数据集 Xmxn;
按列计算数据集 X 的均值 Xmean,然后令 Xnew=X−Xmean;
求解矩阵 Xnew 的协方差矩阵,并将其记为 Cov;
计算协方差矩阵 COv 的特征值和相应的特征向量;
将特征值按照从大到小的排序,选择其中最大的 k 个,然后将其对应的 k 个特征向量分别作为列向量组成特征向量矩阵 Wnxk;
计算 XnewW,即将数据集 Xnew 投影到选取的特征向量上,这样就得到了我们需要的已经降维的数据集 XnewW。
![d71636325a7fe5a43950b02677431fbf.png](https://i-blog.csdnimg.cn/blog_migrate/9d38925f17f2534414e69e96e699d18c.png)
详细步骤可参考《从零开始实现主成分分析 (PCA) 算法》: https://blog.csdn.net/u013719780/article/details/78352262
04 主成分分析(PCA)代码实现
![ec0f20084500134e917f5c9b3946c932.png](https://i-blog.csdnimg.cn/blog_migrate/28a9ecda64ecf94e1d633a8409a413f7.png)
from __future__ import print_functionfrom sklearn import datasetsimport matplotlib.pyplot as pltimport matplotlib.cm as cmximport matplotlib.colors as colorsimport numpy as np
%matplotlib inlinedef shuffle_data(X, y, seed=None):if seed:
np.random.seed(seed)
idx = np.arange(X.shape[0])
np.random.shuffle(idx)return X[idx], y[idx]# 正规化数据集 Xdef normalize(X, axis=-1, p=2):
lp_norm = np.atleast_1d(np.linalg.norm(X, p, axis))
lp_norm[lp_norm == 0] = 1return X / np.expand_dims(lp_norm, axis)# 标准化数据集 Xdef standardize(X):
X_std = np.zeros(X.shape)
mean = X.mean(axis=0)
std = X.std(axis=0)# 做除法运算时请永远记住分母不能等于 0 的情形# X_std = (X - X.mean(axis=0)) / X.std(axis=0)for col in range(np.shape(X)[1]):if std[col]:
X_std[:, col] = (X_std[:, col] - mean[col]) / std[col]return X_std# 划分数据集为训练集和测试集def train_test_split(X, y, test_size=0.2, shuffle=True, seed=None):if shuffle:
X, y = shuffle_data(X, y, seed)
n_train_samples = int(X.shape[0] * (1-test_size))
x_train, x_test = X[:n_train_samples], X[n_train_samples:]
y_train, y_test = y[:n_train_samples], y[n_train_samples:]return x_train, x_test, y_train, y_test# 计算矩阵 X 的协方差矩阵def calculate_covariance_matrix(X, Y=np.empty((0,0))):if not Y.any():
Y = X
n_samples = np.shape(X)[0]
covariance_matrix = (1 / (n_samples-1)) * (X - X.mean(axis=0)).T.dot(Y - Y.mean(axis=0))return np.array(covariance_matrix, dtype=float)# 计算数据集 X 每列的方差def calculate_variance(X):
n_samples = np.shape(X)[0]
variance = (1 / n_samples) * np.diag((X - X.mean(axis=0)).T.dot(X - X.mean(axis=0)))return variance# 计算数据集 X 每列的标准差def calculate_std_dev(X):
std_dev = np.sqrt(calculate_variance(X))return std_dev# 计算相关系数矩阵def calculate_correlation_matrix(X, Y=np.empty([0])):# 先计算协方差矩阵
covariance_matrix = calculate_covariance_matrix(X, Y)# 计算 X, Y 的标准差
std_dev_X = np.expand_dims(calculate_std_dev(X), 1)
std_dev_y = np.expand_dims(calculate_std_dev(Y), 1)
correlation_matrix = np.divide(covariance_matrix, std_dev_X.dot(std_dev_y.T))return np.array(correlation_matrix, dtype=float)class PCA():"""
主成份分析算法 PCA,非监督学习算法.
"""def __init__(self):
self.eigen_values = None
self.eigen_vectors = None
self.k = 2def transform(self, X):"""
将原始数据集 X 通过 PCA 进行降维
"""
covariance = calculate_covariance_matrix(X)# 求解特征值和特征向量
self.eigen_values, self.eigen_vectors = np.linalg.eig(covariance)# 将特征值从大到小进行排序,注意特征向量是按列排的,即 self.eigen_vectors 第 k 列是 self.eigen_values 中第 k 个特征值对应的特征向量
idx = self.eigen_values.argsort()[::-1]
eigenvalues = self.eigen_values[idx][:self.k]
eigenvectors = self.eigen_vectors[:, idx][:, :self.k]# 将原始数据集 X 映射到低维空间
X_transformed = X.dot(eigenvectors)return X_transformeddef main():# Load the dataset
data = datasets.load_iris()
X = data.data
y = data.target# 将数据集 X 映射到低维空间
X_trans = PCA().transform(X)
x1 = X_trans[:, 0]
x2 = X_trans[:, 1]
cmap = plt.get_cmap('viridis')
colors = [cmap(i) for i in np.linspace(0, 1, len(np.unique(y)))]
class_distr = []# Plot the different class distributionsfor i, l in enumerate(np.unique(y)):
_x1 = x1[y == l]
_x2 = x2[y == l]
_y = y[y == l]
class_distr.append(plt.scatter(_x1, _x2, color=colors[i]))# Add a legend
plt.legend(class_distr, y, loc=1)# Axis labels
plt.xlabel('Principal Component 1')
plt.ylabel('Principal Component 2')
plt.show()if __name__ == "__main__":
main()
最终,我们将得到降维结果如下。其中,如果得到当特征数 (D) 远大于样本数 (N) 时,可以使用一点小技巧实现 PCA 算法的复杂度转换。
![d2af6b469d6d84359d047bc1a0a21fc7.png](https://i-blog.csdnimg.cn/blog_migrate/6b4052f0d2bf12c059aa26dabec59bbf.png)
05 其它降维算法及代码地址
KPCA(kernel PCA)
![5bcb910ee89c729b405f64399d57f774.png](https://i-blog.csdnimg.cn/blog_migrate/43fac97ea07d92c896c6407305cfbaaa.png)
详细内容可参见 《Python 机器学习》之特征抽取——kPCA: https://blog.csdn.net/weixin_40604987/article/details/79632888 代码地址: https://github.com/heucoder/dimensionality_reduction_alo_codes/blob/master/codes/PCA/KPCA.py
LDA(Linear Discriminant Analysis)
![b788318cafd29b10d81542627afaef8b.png](https://i-blog.csdnimg.cn/blog_migrate/222ec74aa632a09de762e2b362dc924b.png)
详细内容可参见《数据降维—线性判别分析(LDA)》: https://blog.csdn.net/ChenVast/article/details/79227945 代码地址: https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/LDA
MDS(multidimensional scaling)
![934e8749bce7c63f4d46ef27368efc03.png](https://i-blog.csdnimg.cn/blog_migrate/46434b0a962913d51bb0edc515896e4a.png)
详细内容可参见《MDS 算法》 https://blog.csdn.net/zhangweiguo_717/article/details/69663452 代码地址: https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/MDS
ISOMAP
![d92d5b283a68134cbf37f3eb20ce5a24.png](https://i-blog.csdnimg.cn/blog_migrate/7efa5e333022b84a885e37ca8af7b4a2.jpeg)
详细内容可参见《Isomap》 https://blog.csdn.net/zhangweiguo_717/article/details/69802312 代码地址: https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/ISOMAP
LLE(locally linear embedding)
![347e4420c8cf31ab9544e58b01faa575.png](https://i-blog.csdnimg.cn/blog_migrate/db035ef86b55172b6ddd06b291b66966.png)
详细内容可参见《LLE 原理及推导过程》 https://blog.csdn.net/scott198510/article/details/76099630 代码地址: https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/LLE
t-SNE
![3b83ad1726462943a306d3c8cb73fcb2.png](https://i-blog.csdnimg.cn/blog_migrate/fc0dbe89b2878306cf882c2e9006e1a4.jpeg)
详细内容可参见《t-SNE 使用过程中的一些坑》: http://bindog.github.io/blog/2018/07/31/t-sne-tips/ 代码地址: https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/T-SNE
LE(Laplacian Eigenmaps)
![d93483962c99d9632506097419df51a3.png](https://i-blog.csdnimg.cn/blog_migrate/2dd549d44b5775c4f11fcd56a0efd148.jpeg)
详细内容可参见《拉普拉斯特征图降维及其 python 实现》: https://blog.csdn.net/HUSTLX/article/details/50850342 代码地址: https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/LE
LPP(Locality Preserving Projections)
![ad06f4b891612b88122c8aeed343e46d.png](https://i-blog.csdnimg.cn/blog_migrate/4ea8de48485794b6905e8223ef7c4802.jpeg)
05 算法刷题神器:解题PDF
如果刷题还是建议去Leetcode刷。 除此之外,这里再跟大家推荐一本前不久火爆 GitHub 的 LeetCode 中文刷题手册: LeetCode Cookbook 。 GitHub: https://github.com/halfrost/LeetCode-Go![24ff0c72fd33a177fb1a052b76758d27.png](https://i-blog.csdnimg.cn/blog_migrate/d9d32deedeab842463fcdbcb3813d135.jpeg)
详情请参见《局部保留投影算法 (LPP) 详解》: https://blog.csdn.net/qq_39187538/article/details/90402961 代码地址: https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/LPP
Github 项目地址: https://github.com/heucoder/dimensionality_reduction_alo_codes
![57ae80b4548be56bcaf13f8eceb60ae3.png](https://i-blog.csdnimg.cn/blog_migrate/5f2b14306a2fe5a8030d405368857055.jpeg)