MDS算法中一些疑问的记录以及解答

MDS算法的基本介绍

假定m个样本在原始空间的距离矩阵为 $D\in R^{m\times m}$，其第 i 行 j 列的元素 $dis{t}_{ij}$ 为样本 $x_i$ 到 $x_j$ 的距离，我们的目标是获得在 $d^{\prime }$ 维空间的表示 $Z\in R^{d^{\prime }\times m}，d^{\prime }<<d$且任意两个样本在$d^{\prime }$维空间中的欧氏距离等于原始空间的距离，即 $||z_i-z_j||=dis{t}_{ij}$
令 $B = Z^{T}Z ∈ R^{m\times m}，之中B为降维后样本的内积矩阵，
$b_{ij}=z_i^T{z}_j$，有如下公式：
$$dis{t}_{ij}^2=||z_i-z_j|{|}^2=||z_i|{|}^2+||z_j|{|}^2-2z_i^T{z}_j=b_{ii}+b_{jj}-2b_{ij}$$

• 为什么需要满足 $||z_i-z_j||=dis{t}_{ij}$ 这个条件？
   解答：$||z_i-z_j||$在此处表示L2范数，即各个元素平法和的 $\frac{1}{2}$平方，在这里表示欧式距离，$||z_i-z_j||$表示降维之后的两点之间的欧氏距离，$dis{t}_{ij}$表示降维之前两点之间的欧式距离，这两个相等则保持了数据降维前后的欧氏距离不变
• 为什么 $D\in R^{m\times m}$，而 $Z\in R^{d^{\prime }\times m}，d^{\prime }<<d$ ？
   解答：D是各个样本之间距离矩阵，而Z表示的相当于是降维之后的维度矩阵，每一个样本的维度为 $d^{\prime }$，那么降维之前的维度矩阵，在这里我们假设为P，则P应该为$P\in R^{d\times m}$，表示每一个样本的维度为 $d$
• 为什么要取特征值矩阵的前 $d^{\prime }$ 个最大特征值来构成对角矩阵？
   解答：注：这个答案目前只是猜测，可能不对  因为大特征值对应着占比例大的成分，求出前k大的特征向量就可以近似刻画出数据点中的信息（看的别人的解答，但是自己还是没理解透彻）