CS231n 学习笔记（三）

时间：2019/3/25
内容：线性分类

课时6：线性分类

线性分类器是深度学习应用程序中最基本的构建模块之一，是参数模型中最简单的例子。

在KNN算法中没有设置参数，通常会保留所有种类的是训练集并在测试时使用。但现在，在一个参数化的方法中，我们将总结我们对训练数据的认识并将其运用到参数W中，测试时只需要W。

注意：x是一个长向量；b是偏置项，它不与训练集数据交互，而只会给我们一些数据独立的偏好值。例如，当数据集中猫的数量多于狗时，则与猫对应的偏差元素就会比其他的高。

注意：线性分类器几乎是一种模板匹配方法

线性分类器只允许每个类别只能学习一个模板，如果这个类别出现了某种类型的变体，那么它将尝试求去所有不同变体的均值，并且只使用一个单独的模板来识别其中的每一个类别。对于神经网络和其他更复杂的模型，没有以上的限制，因此能达到更高的准确率。

线性分类器的另一个观点是回归到图像，作为点和高维空间的概念。它在先行决策边界上尝试画一个线性分类面来决策类别

线性分类过程中无法解决的问题：

• 奇数偶数划分问题
• 多分类问题
  有多模态数据，例如一个类别出现在不同的领域空间中