1、梯度的数值估计 在代价函数随参数变化的曲线中,我们可以采用下面的方法来估计代价函数在各个参数上的偏导: 接着,就是使用后向传播算法计算参数的梯度向量DVec,然后看估计值gradApprox是否和参数梯度向量DVec相似,如果是,则后向传播算法工作正常。注意,在训练之前最好应该关闭梯度检测,否则计算量会很大。