【每日AI】什么是维数？

维数

在处理各种数据集时，维数通常是一个令人困惑的概念。从物理角度看，维度是空间维度：长度、宽度和高度。（为了简单起见，我们不把时间当作第四维度来深入研究物理学。）在任何现实生活的场景中，我们遇到的都不超过这三个维度。

但是，当我们处理用于机器学习的数据时，通常有几十个、数百个甚至更多个维度。为了理解这些高维度，我们需要研究维度的基本性质。

空间维度的定义使得每个维度都与其他两个维度垂直或正交。这种正交性对于三维空间中的所有点都有唯一表示至关重要。如果维度不是互相正交的，则空间中的相同点可以具有多种表示形式，并且基于此的整个数学计算将失败。

例如，如果我们将三个坐标设置为长度、宽度和高度，并具有任意的原点（原点的精确位置仅会更改坐标值，但不会影响唯一性属性，因此只要它在整个计算过程中保持不变，任何原点的选择都是可以的。）

坐标（0,0,0）标记原点本身的位置。坐标（1,1,1）将标记一个点空间，该点空间在每个维度中均距原点1个单位，并且是唯一的。没有其他坐标系可以表示空间中的相同位置。

现在，让我们将这个概念扩展到更高的维度。在数学上添加更多的维度相对容易，但是很难在空间上可视化它们。如果我们添加第四个维度，则它必须与之前的所有三个维度都正交。在这样的四维空间中，原点的坐标为（0,0,0,0）。三维空间中的点（1,1,1）可以在四维空间中具有坐标（1,1,1,0）。

只要确保正交性，就可以保证坐标的唯一性。同样地，我们可以有任意数量的维度，所有的数学计算仍然成立。

就拿鸢尾花数据示例，输入有4个特征：萼片和花瓣的长度和宽度。由于这4个特征相互独立，所以它们可以看作是正交的。因此，当使用鸢尾花数据解决问题时，即依据这四个因素对数据进行分类时，我们实际上是在处理四维输入空间。

 维数灾难

即使从数学的角度来看，增加任意数量的维度都是可以的，但是仍然存在一个问题。随着维度的增加，数据的密度呈指数下降。

例如，如果我们在训练数据中有1000个数据点，并且数据具有3个独有的特征。假设所有特征的值在1～10之间。所有这1000个数据点都位于一个大小为10×10×10的立方体中。因此，密度为1000/1000或每单位立方体1个样本。如果有5个独有的特征而不是3个，那么数据的密度很快就会下降到每单位5维立方体0.01个样本。

数据的密度很重要，因为数据的密度越高，找到一个好模型的可能性就越大，模型准确性的置信度就越高。如果密度很低，则使用该数据的训练模型的置信度就会很低。因此，尽管高维在数学上是可以接受的，但是人们需要注意维数，以便能够开发出具有高置信度的良好的机器学习模型。

结语： 在机器学习中的维数可以理解为数据的特征，依据这些维数（特征）进行分类，所以说可以有很多维度，用坐标来表示（0，1，0，1，……）

当数据量一定时，我们要对数据进行分类，即训练出模型（可以理解为一个模型代表一类），当维数越多时，即训练出单个模型所依据的数据变少，即数据密度降低，不利于训练出模型，即是维数危机。

十年脑血栓：

十年脑血栓是几年

哈哈哈，如果你笑了别忘了给个一键三连哟！！！