无监督学习t-SNE(t-distributed stochastic neighbor embedding)

t-SNE

１．t-SNE主要是用来对高维数据进行降维可视化，它是一种非线性降维算法
２．t-SNE将点与点之间的相似度转换为条件概率
　　
　　对于原始高维数据$x^i$和$x^j$之间的相似率：
$$\begin{array}{r}P(x^j|x^i)=\frac{S(x^i,x^j)}{{\sum }_{k̸=i}S(x^i,x^k)}\end{array}$$
　　对于降维之后的数据$z^i$和$z^j$相似概率：
$$Q(z^j|z^i)=\frac{S^{\prime }(x^i,x^j)}{{\sum }_{k̸=i}(z^i,z^k)}$$
３．计算出$P(x^j|x^i)$和$Q(z^j|z^i)$之后，我们需要使得$P$和$Q$的连接分布最接近，也就是$KL$散度尽可能的小。
$$\begin{array}{rl}L& =\sum _{i}KL\left(P\left(\ast |x^i\right)||Q\left(\ast |z^j\right)\right)\\ & =\sum _i\sum _{j}P(x^j|x^i)log\frac{P(x^j|x^i)}{Q(x^j|x^i)}\end{array}$$

参考
无监督学习之t-SNE
李宏毅t-SNE