调试CNN的说明书

没有调试前必备的条件：
1.使用适当的日志记录和有意义的变量名称。在TF中能够通过名称来跟踪不同的变量，并在TF的可视化工具TensorBoard中显示出计算图。
最重要的是，每隔几个训练步骤都要确保记录了相关的值，例如：step_number, accuracy, loss, learning_rate。适用的话，加上更具体的度量标准（例如在图像分割任务中使用mean_intersection_over_union，即mean_iou）。之后，就可以根据训练步骤画出损失曲线。
IoU，预测窗口与标记窗口之间的交并比。
2. 确保你的网络连接正确。使用TensorBoard或其他调试技术确保计算图中每个操作的输入和输出都准确无误，还要确保在将数据和标签送入网络之前对其进行适当的预处理和匹配。
3. 实施数据扩充（data augmentation）技术。虽然这一点并不是对所有情况都适用，但是如果处理图像的话，应用简单的数据扩充技术（例如镜像，旋转，随机裁剪和尺度变换，添加噪声，elastically deforming等），大部分时候会带来巨大的性能提升。而且TF具有大多数这些操作的内置函数，十分良心了。
4. 对所有层使用权重初始化和正则化。不要将权重初始化为相同的值，更糟的是将其初始化为0。这样做会带来对称性（symmetry）和潜在的梯度弥散问题，在大多数情况下会导致可怕的结果。通常，如果在权重初始化时遇到问题，可以考虑将Batch Normalization层添加到网络中。
5. 确保正则项不会“压倒”损失函数中的其他项。关闭正则化，找出“损失”的数量级，然后适当地调整正则项大小。确保随着正则化强度的增加，损失也在增加。
6. 尝试过拟合一个小数据集。关闭正则化/随机失活/数据扩充，使用训练集的一小部分，让神经网络训练几个周期。确保可以实现零损失，如果没有，那么很可能什么地方出错了。
在某些情况下，将损失降到0尤其具有挑战性。例如，在图像语义分割中，如果你的损失涉及每个像素的softmax-ed logits和ground truth labels之间的交叉熵，那么可能真的难以将其降低到0。不过，你应当寻求达到接近100％的准确率，通过获取softmax-ed logits的argmax并将其与ground truth labels进行比较来计算。
在机器学习中，“ground truth”一词指的是监督学习技术中训练集分类的准确性，简单地说就是正确标注的数据。
7.在过拟合上述小数据集的同时，找到合适的学习率。下面的内容直接引自Bengio的论文：最优学习率通常接近于不会增加训练误差的最大学习率，一种可以指导启发式设置学习率的观测方法是，例如，以较大的学习率开始，如果训练误差发散，就用最大学习率除以3再试试，直到观察不到发散为止。
8. 执行梯度检验（gradient checks）。如果你在计算图中使用自定义操作——即不是内置的TF操作，则梯度检验尤其重要。下面的链接有一些实现梯度检验的技巧。
损失函数没有改善的话：
如果你训练了几个周期，损失还是没有改善，甚至还越来越大，则应该考虑下面几个步骤了：
1.确保使用了合理的损失函数，而且优化的是正确的张量。此处提供常见的损失函数列表。
https://en.wikipedia.org/wiki/Loss_functions_for_classification
2. 使用一个得当的优化器，此处提供了常用优化器列表。
https://keras.io/optimizers/
3. 确保变量真的在训练。为了检查这一点，你可以查看TensorBoard的直方图，或者编写一个脚本，在几个不同的训练实例中计算每个张量的范数（L1或 L∞），并打印出这些张量的名称。
如果你的变量未按预期进行训练，请参阅下列文章
https://gist.github.com/zeyademam/0f60821a0d36ea44eef496633b4430fc#variable-not-training
4. 调整初始学习率并实施适当的学习率计划（learning rate schedule），这可能是最具影响力的“修复”。如果损失越来越严重，可能是初始学习率太大了。另一方面，如果损失几乎不变，可能是初始学习率太小了。无论如何，一旦确定了有效的初始学习率，就应该进行学习率衰减。像ADAM这样的优化器会在内部实现学习率衰减，但是，这些学习率的更新通常会很慢，在优化器之上实现自己的学习率计划会是个好主意。
5. 确保没有过拟合。有一些方法可以实现过拟合，也有一些方法可以避免它。绘制损失值与训练周期的曲线图，如果曲线看起来像抛物线，那么很可能过拟合了。
变量没按预期训练的话：
1. 确保TF将其视为可训练的变量。查看TF GraphKeys以获取更多详细信息。
https://www.tensorflow.org/api_docs/python/tf/GraphKeys
2. 确保没发生梯度弥散。如果下游变量（接近输出的变量）训练正常但上游变量（接近输入的变量）几乎不变，则可能遇上了梯度弥散的问题。
请参阅下面的文章：
https://gist.github.com/zeyademam/0f60821a0d36ea44eef496633b4430fc#vanishingexploding-gradients
3. 确保ReLus还在“放电”。如果大部分神经元“电压”被“钳制”为零，那么应该重新修正权重初始化策略，尝试使用不太激进的学习率计划，并尝试减少正则化（权重衰减）。
ReLu，线性整流函数，又称修正线性单元，是一种人工神经网络中常用的激活函数。
梯度弥散或爆炸的话：

1. 考虑使用更好的权重初始化策略。如果在训练开始时梯度更新非常小，则这点尤其重要。
2. 考虑换一下激活函数。如果正在使用ReLus，请考虑使用leaky ReLu或MaxOut激活函数替换它们。你应该完全避免sigmoid激活函数，并远离tanh。
   3．如果用递归神经网络的话，考虑使用LSTM。
   详情请看这篇文章：
   https://medium.com/@karpathy/yes-you-should-understand-backprop-e2f06eab496b
   过拟合的话：
   过拟合就是网络“记住”了训练数据的情况。如果网络在训练集和验证集上，准确率差别很大，可能它就过拟合了。
   参见此处的Train / Val准确率部分：
   http://cs231n.github.io/neural-networks-3/
3. 实施数据扩充技术。可上翻至本文第一节“故障排除前”中的内容。
4. 实施随机失活（dropout）。随机失活指在训练期间每个步骤随机地忽略掉一些神经元，在前向传播期间这些神经元的贡献被移除并且在反向传播期间它们不被更新。
   了解更多信息：
   https://machinelearningmastery.com/dropout-regularization-deep-learning-models-keras/
5. 增加正则化。
6. 实施批规范化操作（Batch normalization）。
   详情请看这里：
   https://arxiv.org/abs/1502.03167
7. 实施基于验证集的早期停止（early stopping）。由于网络训练了太多个周期，因此可能会发生过拟合，早期停止有助于消除这个问题。
   参考这里：
   https://en.wikipedia.org/wiki/Early_stopping#Validation-based_early_stopping
   6.如果其他一切都失败了，请使用较小的网络。这真的应该是你的最后手段，事实上这里的课程讲义对这种做法保持谨慎。
   除以上之外还可以再：
8. 考虑使用加权的损失函数（weighted loss function）。例如，在图像语义分割中，神经网络对输入图像中的每个像素进行分类。与其他类相比，某些类可能很少出现，在这种情况下，权衡少见的类可能会改进mean_iou度量。
9. 更改网络架构。你之前的网络可能太深或太浅。
10. 考虑使用集成模型。
11. 用小数步长卷积（strided convolutions）替换最大值汇合层和平均值汇合层。
12. 执行彻底的超参数搜索。
13. 更改随机数种子。