CS231n课程笔记2.2：线性分类器

CS231n简介

详见 CS231n课程笔记1：Introduction。
注：斜体字用于注明作者自己的思考，正确性未经过验证，欢迎指教。

课程笔记

这篇是CS231n课程笔记2.1：图像分类问题简介&KNN的下篇，两篇一起构成Lecture2的笔记。
上一篇介绍了kNN，那个是无参数的算法，只需要记录训练集即可，所以对于大数据集，kNN的模型很大。
这里先简介线性分类器，线性体现在score的获得是与输入特征成线性关系，但是Loss的计算可以是非线性的。不同的Loss Function以及正则项对应于不同的分类器。

1. 线性分类器的解释

1. 权值表示每个pixel对于某类的重要程度，类似于模板匹配（不同于pixel与模板对应值相同，而是大小的趋势相同）。
   
   注：由这个解释可知，线性分类器很容易欺骗，而且能力低下，例如马的权值需要整合两个方向的马头。而且对于线性分类器，很大程度依赖于颜色，例如飞机的分类基本都是蓝色。
2. 每张图片是分布在高维空间中的点，分类器去学习一个分割高维空间的超平面。