深度学习训练的trick

深度学习训练的trick

1.numpy+TF减少随机性
numpy+TF减少随机性的知乎专栏
固定开始时随机数的种子数
numpy.random.seed()来指定随机数生成时所用算法开始的整数值.
为了在用同样的数据训练同一网络时确保得到同样的结果,需要设置随机数字生成器的种子,在TensorFlow中设置的方法是:

from tensorflow import set_random_seed
set_random_seed(2)

这里种子点参数可以设置别的整数.
2.tensorflow模型的保存和复原（）
checkpoint和meta还有events文件到底是什么关系？tensorboard到底有什么用呢？
无论保存还是复原需要先设置一个Saver类：
saver = tf.train.Saver(…)
位于 tf.train.Saver()之后的变量将不会被存储？？？？？
https://zhuanlan.zhihu.com/p/31417693
http://blog.sina.com.cn/s/blog_6e32babb0102y5ee.html 很好的关于while_loop的说明文档