CS231n简介
详见 CS231n课程笔记1:Introduction。
注:斜体字用于注明作者自己的思考,正确性未经过验证,欢迎指教。
作业笔记
SVM的Loss Function请参考 CS231n课程笔记3.1:线性分类器(SVM,softmax)的误差函数、正则化。
1. 非向量的误差计算
这部分属于作业自带部分,使用loop计算,如果margin大于0,就叠加,最后加入正则项。
2. 非向量的梯度计算
通过上部分所示,loss为诸多margin的和,所以只需要在累加margin的部分同时计算反向传播。注意反向传播的时候,反向传播的初始值为1,即dLoss=1(不是Loss,也不是-1)。
num_classes = W.shape[1]
num_train = X.shape[0]
loss = 0.0
for i