1.线性分类器
线性映射:f(xi,W,b)=Wxi+b
以CIFAR-10为例,xi就是第i个图像的像素信息,每个图像数据都被拉长为一个长度为D 的列向量,大小为[D x 1]。其中大小为[K x D]的矩阵W 和大小为[K x 1]列向量b 为该函数的参数。参数W被称为权重,b被称为偏差向量。
输入数据(xi,yi)是给定不可改变的,但是参数W和b是可控制改变的,我们的目标就是通过设置这些参数,使得计算出来的分类分值情况和训练集中图像数据的真实类别标签相符。yi就是图像的分类标签。
深入理解线性分类器:
计算图像中3个颜色通道中所有像素的值与权重的矩阵乘,从而得到分类分值。
根据我们对权重设置的值,对于图像中的某些位置的某些颜色,函数表现出喜好或者厌恶(根据每个权重的符号而定)。
举个例子,可以想象“船”分类就是被大量的蓝色所包围(对应的就是水)。那么“船”分类器在蓝色通道上的权重就有很多的正权重(它们的出现提高了“船”分类的分值),而在绿色和红色通道上的权重为负的就比较多(它们的出现降低了“船”分类的分值)。
首先将图像像素拉伸为一个列向量,与W进行矩阵乘,然后得到各个分类的分值。需要注意的是&#x