TensorBoard是TensorFlow的可视化工具,它可以通过TensorFlow程序运行过程中输出的日志文件可视化TensorFlow程序的运行状态。TensorBoard和TensorFlow程序跑在不同的进程中,TensorBoard会自动读取最新的TensorFlow日志文件,并呈现当前TensorFlow程序运行的最新状态。
1、TensorBoard简单介绍:
以下的简单代码完成了TensorBoard日志输出的功能。运行完以下程序后,需要在Terminal中运行以下命令来启动TensorBoard。
import tensorflow as tf
#定义一个简单的计算图,实现向量加法的简单操作
input1 = tf.constant([1.0,2.0,3.0],name='input1')
input2 = tf.Variable(tf.random_uniform([3]),name='input2')
output = tf.add_n([input1,input2],name='add')
#生成一个日志的writer
writer = tf.summary.FileWriter('/log',tf.get_default_graph())
writer.close()
如图1.1所示,点击图中链接便会跳转到TensorBoard页面(图1.2)中,
2、TensorFlow计算图的可视化:
2.1命名空间的使用
上节样例程序中只定义两个加法操作,但是不知道大家有没有发现总共有四个节点。多出来的一个节点就是变量初始化过程中系统生成的。
为了更好的组织可视化效果图中的计算节点,可以通过命名空间来整理可视化效果图上的节点。这里有两个函数可以管理变量的命名空间,tf.variable_scope和tf.name_scope函数,区别就是在使用tf.get_variable函数时(有什么区别这里不再赘述)。
上节实例改进后的代码:
import tensorflow as tf
#定义一个简单的计算图,实现向量加法的简单操作
with tf.name_scope('input1'):
input1 = tf.constant([1.0,2.0,3.0],name='input1')
with tf.name_scope('input2'):
input2 = tf.Variable(tf.random_uniform([3]),name='input2')
output = tf.add_n([input1,input2],name='add')
#生成一个日志的writer
writer = tf.summary.FileWriter('/log',tf.get_default_graph())
writer.close()
如图2.1所示,为运行后的TensorBoard结果 。可以选择在节点上右击鼠标,选择去掉节点,但是不是真正的去掉节点,而是从主图上移除,刷新后还会回到主图上,当计算图复杂时,这一操作是很给力的。
2.2节点信息
TensorBoard还可以直观的展现所有节点在运行时消耗的时间和内存。在TensorBoard左侧的Color栏中Compute time和Memory这两个选项将可以被选择(也需要写相应的代码来实现,将节点的时间和空间消耗写入日志中)。由于目前没有代码可以展示,所以这里就不展示效果了。
3、监控指标可视化
TensorBoard界面中还提供了SCALARS、IMAGES、AUDIO、DISTRIBUTIONS、HISTOGRAMS和TEXT六个界面来可视化其他的监控指标。下表给出了可用的函数:
TensorFlow日志生成函数 | TensorBoard界面 | 展示内容 |
tf.summary.scalar | EVENTS | TensorFlow中标量(scalar)监控数据随着迭代进行的变化趋势。 |
tf.summary.image | IMAGES | TensorFlow中使用的图片数据。 |
tf.summary.audio | AUDIO | TensorFlow中使用的音频数据。 |
tf.summary.text | TEXT | TensorFlow中使用的文本数据。 |
tf.summary.histogram | DISTRIBUTIONS、HISTOGRAMS | TensorFlow中张量分布监控数据随着迭代轮数的。变化趋势 |