李哈哈的模式识别笔记【part 1：模式识别系统】

李哈哈的模式识别笔记【part 1：模式识别系统】

特征与特征空间

知识点：
从样本 sample 中可以提取特征 feature ，这些特征共同组成了特征空间 feature space ，特征与特征之间可以通过某种方式度量其相似度 similarity ，这样，相似度高的特征空间可以归类为一个类 class 。
识别的过程就是根据特征分类的过程
不同类型的特征空间：
向量空间，集合空间。

有监督学习和无监督学习

主要在于分类集中的样本是否添加标签。
有标签则为有监督学习，这种学习的上限是人脑对于该问题的认知处理能力。
无标签则为无监督学习，这种学习是机器通过寻找样本特征本身之间的相似度，自动划分类别，达到识别的目的，是更高级的识别手段。
同类样本间的相似度大于不同类样本间的相似度

紧致性