（九）Tensorflow的Tensorbard的使用

可视化模型结构

api的介绍

命名空间的使用

通过命名空间的使用可以使模型结构更加清新！

一般空间里没有get_variable的话使用name_scope，否则可能使用variable_name命名空间！

更高级的模型可视化，Memory   and  Compute time

可视化参数分布

 

可视化训练过程

 

可视化Embedding数据分析

就是一串代码，然后进行降维进行可视化的过程（通过PCA或者T-SNE）！不做过多阐述！

一些模型调优手段

1.图像数据的各种仿射变换。安装库：https://github.com/mdbloice/Augmentor

2.参数初始化！

3.优化器的选取！

4.归一化操作！

5.学习率的选取！

太大可能会导致loss爆炸，太小可能会导致loss变化很小，一般先设置大一点有需要在慢慢进行调整！

6.Batch_size的选取！（此参数很有必要，会有影响的）

7.ensemble  model！（模型融合，进行提升）

同样的模型结构，不同的初始化方法！（bagging）

不同的模型，选取最好的几个模型结构！

8.过拟合一般进行系数加正则项 / dropout / early stopping（一般是验证集的准确率连续下降，认为过拟合了）