简介
多维缩放(Mutiple Dimensional Scaling)是一种经典的降维方法,可以缓解在高维情形下出现的数据样本稀疏和距离计算困难等问题,即“维数灾难”.
感性认知
只是直观是这样的感觉真实的计算需要查看原理部分
原本样本的维数
样本 | 特征1 | 特征2 | 特征3 | 特征4 |
A | 1 | 0 | 2 | 3 |
B | 2 | 0 | 4 | 8 |
C | 4 | 0 | 5 | 9 |
距离矩阵
样本 | A | B | C |
A | 0 | 2-1+4-2+8-3=8 | 4-1+5-2+7-3=10 |
B | 8 | 0 | 4-2+5-4+9-8=4 |
C | 10 | 4 | 0 |
经过多维缩放(MDS)之后特征(直观示例)
样本 | 特征1 | 特征3 | 特征4 |
A | 1 | 2 | 3 |
B | 2 | 4 | 8 |
C | 4 | 5 | 9 |
降维后的距离矩阵
样本 | A | B | C |
A | 0 | 2-1+4-2+8-3=8 | 4-1+5-2+7-3=10 |
B | 8 | 0 | 4-2+5-4+9-8=4 |
C | 10 | 4 | 0 |
降维后仍然使距离矩阵不变