计算机机器视觉原理之分类器2

一.对于损失函数

损失函数：

单样本的多累支撑向量机损失：

线性分类器：

1.多类支撑向量机损失L;的最大/最小值会是多少?
最大：MAX；最小值：0

2:如果初始化时w和b很小，损失L会是多少?
令w和b为0，Sij恒等于0，带入公式，Li为类别数的个数，L为1，这种情况可以验证编码的正确性，初始化w与b为0，正确L得到1，其他就说明编码错误。

3:考虑所有类别(包括j = yi)，损失L会有什么变化?

会出现自己和自己相比的情况，Li会加1，其实对损失的影响不大，只是这一项加进来意义不大，就没加

4:在总损失L计算时，如果用求和代替平均?
实际上没什么影响，只是将数放大了N倍，最大最小都放大了N倍

5:如果使用
将所有的值放大一个平方，会让分类器的性能发生细微的变化

二.正则项与超参数

问题:假设存在一个W使损失函数L=0，这个W是唯一的吗?
不是唯一的

示例:假设两个线性器分类

，其中,W2=2 W1。对于下面图像，
已知分类器1的打分结果(如表所示)，请计算分类器2的打分结果，以及两个分类器对当前样本的多类支撑向量机损失:

将以上结果套用公式之后，发现损失值都为0，因此W不是唯一的