线性分类器--分类模型

记录学习 北京邮电大学计算机学院 鲁鹏

为什么从线性分类器开始？

 形式简单、易于理解
 通过层级结构（神经网络）或者高维映射（支撑向量机）可以
形成功能强大的非线性模型

什么是线性分类器？

线性分类器是一种线性映射，将输入的图像特征映射为类别分数。

线性分类器定义

第i个类的线性分类器：

x 代表输入的d维图像向量
c 为类别个数

$$w_i=[w_{i1}...w_{id}{]}^T$$
为第i个类别的权值向量，$b_i$ 为偏置

每个类都有自己的参数w和b

For example
任务：为图片分配类别标签（汽车类、猫类、鸟类）

线性分类器决策步骤
1.图像表示成向量

2.计算当前图片每个类别的分数

3. 按类别得分判定当前图像
4.

按照矩阵来表示

CIFAR 10 数据集分类任务的分类器 W，x , b 的维度是多少？

CIFAR10有10个类别且图像大小为32x32x3，因此:
x是图像向量，其维度是3072维；
w是权值矩阵，其维度是10x3072；
b是偏置向量，其维度为10X1的向量；
f是得分向量，其维度为10X1的向量

线性分类器的权值向量

线性分类器的决策边界