输入空间、输出空间、特征空间与假设空间

一、输入空间

 

        输入所有可能的取值集合。可以是有限个元素的集合，也可以是整个欧式空间（欧几里得发明的一个特别的度量空间）。

二、输出空间

        输出所有可能的集合。与输入空间对应。同样可以是有限个元素的集合，也可以是整个欧式空间（欧几里得发明的一个特别的度量空间）。

三、特征空间

        每个具体的输入是一个实例，通常由特征向量表示。所有的特征向量存在的空间成为特征空间。特征空间的每一维对应于一个特征。

        特征向量：

        其中，A是一个方阵，也就是行数和列数相同的矩阵；是一个不为零的向量，一般是列向量；是实数。

        注：有时候假设输入空间和特征空间是相同的空间，对它们不予区分；但有时候也假设他们是不同的空间，把实例从输入空间映射到特征空间。模型实际上都是定义在特征空间的。

四、假设空间

        输入空间到输出空间映射的集合。这一映射由模型来表示，换句话说，这是学习模型的集合。