《三体》二向箔的降维打击——PCA算法

最新推荐文章于 2024-08-12 19:18:27 发布

木南木

最新推荐文章于 2024-08-12 19:18:27 发布

阅读量293

点赞数

文章标签：算法

本文链接：https://blog.csdn.net/m0_74086448/article/details/131663076

版权

PCA是一种数据降维技术，通过找到数据的主要成分来减少维度，同时保持重要信息。它涉及方差、协方差的概念，通过计算协方差矩阵的特征值和特征向量来实现。PCA算法将数据投影到新的基底上，由最大特征值对应的特征向量构成，从而实现降维。文章通过代码示例展示了如何用PCA将三维数据降至二维。

摘要由CSDN通过智能技术生成

在刘慈欣的《三体》中，歌者文明在2403年向太阳系投掷了二向箔，同年太阳系和大多数地球人被二维化而灭亡。那么究竟是如何实现的降维呢？接下来介绍一个算法——pca算法

B站的一位up主讲得很好，言简意赅：
主成分分析（PCA）的原理和简单推导_哔哩哔哩_bilibili

PCA是一种常用的数据降维技术，用于减少高维数据集的维度，同时保留数据中最重要的信息。它通过寻找数据中的主成分，将原始特征转换为新的一组互相不相关的变量，这些变量称为主成分。主成分按照方差的大小排序，前几个主成分所包含的方差越大，代表它们能够解释更多的数据变异性。

基本概念

方差（Variance）：方差是用来衡量随机变量离其期望值的距离的度量。对于一个向量或者一组数据，其方差表示数据在各个维度上的离散程度。方差越大，表示数据在该维度上的变化范围越广。公式如下：

$s^2(x)=\frac{1}{n}\sum_{i=1}^{n}(x_{i}-\bar{x})$
其中， $x_{i}$ 表示第 $i$ 个数据点， $\bar{x}$ 表示数据的平均值， $n$ 表示数据点的总数。
协方差（Covariance）：用于描述两个随机变量之间的线性关系。对于两个随机变量X和Y，可以使用以下公式计算它们的协方差：

$cov(x, y) = \frac{1}{n-1}\sum_{i=1}^{n}(x_{i}-\bar{x})(y_{i}-\bar{y})$

其中， $x_{i}$ 和 $y_{i}$ 分别表示第 $i$ 个数据点的 $x$ 和 $y$ 的取值， $\bar{x}$ 和 $\bar{y}$ 分别表示 $x$ 和 $y$ 的平均值， $n$ 表示数据点的总数。
协方差矩阵（Covariance Matrix）：描述数据集中各个维度之间协方差的矩阵形式。假设有一个n维数据集，其中每个数据点包含m个维度的取值，可以使用以下公式计算协方差矩阵：

$C=\begin{bmatrix} s^2(x) &cov(x,y) \\ cov(x,y) & s^2(y) \end{bmatrix}=\frac{1}{n-1}AA^T$
其中，A表示将数据中心点移至原点的矩阵的矩阵，T表示矩阵的转置。

PCA算法描述：

即将协方差的d个特征向量作为基底，再将原数据投影再新基底上

代码展示

import numpy as np
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3D

def PCA(data, k):
    data = data - np.mean(data, axis=0)             # 将中心点移到原点
    cov_matrix = np.cov(data, rowvar=False)         # 计算协方差矩阵
    # rowvar=False:这表示每一列代表一个特征,每一行代表一个样本。
    # 如果设为True,则表示每一行代表一个特征,每一列代表一个样本。
    eigvalues, eigvactors = np.linalg.eig(cov_matrix)   # 计算特征值和特征向量
    # 选特征值最大的k给特征向量作为基底
    new_base = eigvactors[:,np.argsort(-eigvalues)[:k]]
    transformed_data = np.dot(data, new_base)       # 降维
    return transformed_data

生成数据，降维展示

# 生成三维数据
data = np.random.rand(200, 3)
fig = plt.figure()
ax = fig.add_subplot(111, projection='3d')
ax.scatter(data[:, 0], data[:, 1], data[:, 2])
plt.show()
# 使用 PCA 将数据降维到 2 维
transformed_data = PCA(data, 2)
# 画出降维后的数据点
plt.scatter(transformed_data[:, 0], transformed_data[:, 1])
plt.show()

展示：

木南木

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
《三体》二向箔的降维打击——PCA算法

在刘慈欣的《三体》中，歌者文明在2403年向太阳系投掷了二向箔，同年太阳系和大多数地球人被二维化而灭亡。那么究竟是如何实现的呢？接下来介绍一个算法——B站的一位up主讲得很好，言简意赅：PCA是一种常用的数据降维技术，用于减少高维数据集的维度，同时保留数据中最重要的信息。它通过寻找数据中的主成分，将原始特征转换为新的一组互相不相关的变量，这些变量称为主成分。主成分按照方差的大小排序，前几个主成分所包含的方差越大，代表它们能够解释更多的数据变异性。
复制链接

扫一扫