tensorboard-tutorial

    tensorboard是TensorFlow的可视化工具，在网络训练过程中可以动态查看参数的变化、分布等，能显示网络的整体结构，十分有用。

要用好tensorboard，首先需要搞清楚variable_scope和name_scope两个概念和用法，参考：https://blog.csdn.net/shenxiaoming77/article/details/79141078

tensorboard的用法网上到处都有，参考：https://blog.csdn.net/wangyao_bupt/article/details/70404823

以mnist为例子的示例网上很多，照着做也能做出来。只是，projector这个功能可能平时用的不是很多，有时候也很奇怪，tensorboard中显示不出来，重启下电脑又好了。。

cmd中开启tensorboard的命令：tensorboard --logdir=logpath

注意1：

    用variable_scope和name_scope来整理网络拓扑，让网络看起来井然有序。

注意2：

    tensorboard中scalars、histogram等都是按name scope和variable scope来分组的

注意3：

histogram中的一条线（比如图中黑色线）表示tensor在对应一轮训练中的分布，比如权重值的分布。histogram和distribution有点像，就是展示方式不太一样。

图中可以看到。随着迭代次数的增加，weights的分布越来越扁平，向两边拓展开。bias的分布图中这样的现象更加明显

注意4：

embedding在实际应用中不知道多不多，可以可视化输入数据，比如看看数据是否线性可分。tsv文件是用来区分每个样本的，里面存放每个样本的标签，一行一个。这样可以让相同的样本用相同的颜色的显示