闲敲棋子落灯花

原创 神经网络笔记 - 交叉熵续

为什么选择交叉熵(Why Cross-Entropy)为了解决学习速度下降的问题,我们希望 ∂C∂wj=xj(a−y) \frac{\partial C}{\partial w_j}=x_j(a-y) ∂C∂b=(a−y) \frac{\partial C}{\partial b} = (a-y) 如上文所述, 当代码函数为均方误差时: ∂C∂b=∂C∂aδ′(z) \frac{\parti