tensorflow训练过程的日志与监控

Logging and Monitoring Basics with tf.contrib.learn


https://www.tensorflow.org/get_started/monitors


这篇文档的准备是 tf.estimator Quickstart，
https://www.tensorflow.org/get_started/estimator
对应的博客在：
http://blog.csdn.net/vagrantabc2017/article/details/77479632
最终的参考代码：
https://github.com/tensorflow/tensorflow/blob/r1.3/tensorflow/examples/tutorials/monitors/iris_monitors.py


小结下Getting Started教程，前5篇在讲模型，后5篇都在讲可视化，可视化本身地TF的一大特点。
作用：在训练模型的过程中实时跟踪和评估模型的成熟度，以免欠拟合或过拟合。
重点：logging能力和Monitor API。
先不看最终代码，从网页给的代码看起。拷入IDE，把iris_training.csv和iris_test.csv拷入同级目录。
estimator那篇有个问题就是没有过程日志，直接给了结果，没办法跟踪。
模型是否收敛？early stopping是否适当？没日志就没有过程感觉。
方式一：把training划分为若干个更小的fit调用，步骤更小，每调完一次，可以做一次评估，逐步渐近，但很慢，不推荐。
方式二：tf.contrib.learn Monitor API.可以在模型训练的同时度量指标并完成模型评估。
解决三个问题：
1.如何打开log?
2.如何设置ValidationMonitor完成流式评估？
3.如何在TensorBoard中看度量数据？


问题一：如何打开log?
tensorflow使用五级日志：DEBUG, INFO, WARN, ERROR, and FATAL. 没什么特别的，使用过log4j的人表示很习惯。
一般设到WARN级比较合适，但调试日志会设到DEBUG级。与log4j差不多。
解决这个问题要使用tf.logging模块，位置在tensorflow\python\platform\tf_logging.py，这个模块基于python3的logging模块创建。
例：把日志设置为INFO级别
tf.logging.set_verbosity(tf.logging.INFO) <