原型聚类之学习向量量化及Python实现

学习向量量化(Learning Vector Quantization)

学习向量量化(Learning Vector Quantization,简称LVQ)属于原型聚类，即试图找到一组原型向量来聚类，每个原型向量代表一个簇，将空间划分为若干个簇，从而对于任意的样本，可以将它划入到它距离最近的簇中，不同的是LVQ假设数据样本带有类别标记，因此可以利用这些类别标记来辅助聚类。
学习向量量化算法如下 ( 摘自于周志华《机器学习》)

---

输入：样本集$D=\left \{ (x_{1},y_{1}),(x_{2},y_{2}),...,(x_{m},y_{m}) \right \}；$
   原型向量个数$q$，各原型向量预设的类别标记$\left \{ t_{1},t_{2},...,t_{q} \right \}$
   学习率$\eta \in \left ( 0,1 \right )$

过程：
1. 初始化一组原型向量$\left \{ p_{1},p_{2},...,p_{q} \right \}$
2. repeat
3.  从样本集中随机选择样本$(x_{j},y_{j})$ ;
4.  计算样本$x_{j}$与 pj