深度学习 | TensorFlow 可视化

最新推荐文章于 2020-11-18 18:13:35 发布
最新推荐文章于 2020-11-18 18:13:35 发布
阅读量691 收藏 4
点赞数
分类专栏： 深度学习 TensorFlow 深度学习系统学习教程与实战案列 文章标签： 深度学习 DeepLearning TensorFlow tensorboard 可视化
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/NGUever15/article/details/90732489
版权

————————————————————————————
原文发表于夏木青 | JoselynZhao Blog，欢迎访问博文原文。
————————————————————————————

深度学习教程与实战案列系列文章

深度学习 | 绪论
深度学习 | 线性代数基础
深度学习 | 机器学习基础
深度学习 | 实践方法论
深度学习 | 应用
深度学习 | 安装conda、opencv、pycharm以及相关问题
深度学习 | 工具及实践（TensorFlow）
深度学习 | TensorFlow 命名机制和变量共享、变量赋值与模型封装
深度学习 | TFSlim介绍
深度学习 | TensorFlow可视化
深度学习 | 训练及优化方法
深度学习 | 模型评估与梯度下降优化
深度学习 | 物体检测
深度学习| 实战1-python基本操作
深度学习 | 实战2-TensorFlow基础
深度学习 | 实战3-设计变量共享网络进行MNIST分类
深度学习 | 实战4-将LENET封装为class，并进行分类
深度学习 | 实战5-用slim 定义Lenet网络，并训练测试
深度学习 | 实战6-利用tensorboard实现卷积可视化
深度学习 | 实战7- 连体网络MINIST优化
深度学习 | 实战8 - 梯度截断
深度学习 | 实战9- 参数正则化

TensorFlow 可视化

TensorBoard简介

什么是TensoBoard

TF 提供的可视化工具，通过网页浏览的方式可视化展示与我们 TF 构建的模型相关的信息

Tensorboard 能帮助我们看到什么

  • 看网络结构:graph
  • 看训练过程中的指标:loss、acc…
  • 看参数变化:参数均值、方差、分布
  • 看中间结果:中间生成图像、语音等
  • 看数据关系:样本、分类结果分布

怎样启动 Tensorboard?

1 在 TF 程序中添加记录并存储日志 events…xxxx
2. 命令行启动读取日志文件
3. tensorboard –logdir=logs (logs 目录不能包含中文，或者空格) 4. 打开浏览器(用 chrome)，按命令行提示输入本机地址和 tensorboard 通讯端口，刷新浏览例:http://DESKTOP-xxx:6006 5. 输入:http://127.0.0.1:6006 也可以

Tensorboard 基础

Summary 类： 负责汇总数据 并写入事件文件
使用TensorBoard 展示数据，需要在执行TensorFlow计算图的过程中，将各种类型的数据汇总并记录到日志文件中。 然后使用TensorBoard读取这些日志文件，解析数据并产生数据可视化的web页面，让我们可以在浏览器中观察各项中汇总数据。

在这里插入图片描述

TF 程序中添加 Tensorboard 日志记录方法

  1. TF程序中添加TensorBoard日志记录方法：
    对感兴趣 tensor 添加记录操作:summary operation：
    例如tf.summary.scalar(′ name′ , variable)

  2. 汇总需要写入日志的记录：

使用merged = tf.merge_all_summaries()

  1. 实例化一个日志书写器：
    使用summary_writer = tf.summary.FileWriter(logdir, graph = None, flush_secs = 120, max_queue = 10)
    可选同时传入模型graph。 或之后用`add_graph(graph,global_step= None) 添加

  2. 运行汇总节点，得到汇总结果：summary = sess.run(merged)

  3. 调用书写器实例将汇总日志写入文件summary_writer.add_summary(summary, global_step = i)

  4. 缓存写入磁盘文件，关闭文件：summary_writer.flush() 写入，否则flush_secs间隔写入summary_writer.close(),写入加关闭文件

通过TensorBoard查找编程错误

tf.summary.FileWriter(n)：一个用于输出 Tensorboard 数据的Python类

sess = tf.Session()
writer  = tf.summary.FileWriter(LOGDIR+'2')
writer.add_graph(sess.graph)
  • 在 TensorBoard 里指定变量名，提高流图可读性*

输出中间数据

  • Summary(n) 用于输出中间数
    据
  • tf.summary.scalar (标量)
  • tf.summary.image (图片)
  • tf.summary.audio (声音)
  • tf.summary.histogram (统计数 据)

添加代码以查看中间数据

tf.summary.image('input',x_image,3)
tf.summary.scalar('cross_entropy',cross_entropy)
tf.summary.scalar('accuracy',accuracy)

在这里插入图片描述
在这里插入图片描述

变量不能都初始化为 0

在这里插入图片描述
我们的损失是 cross entropy，要和 softmax 一起配对使用

TensorBoard进行超参数搜索

不同学习率以及卷积层数

在这里插入图片描述

梯度、特征可视化

CNN可视化

卷积核:滤波器、模式相关性
有意义的卷积核:有一定规律的 pattern，不是特别随机，特别是 底层
不同层的模式规律不同
参数的泛化性能?冗余?稀疏？

CNN 可视化 -卷积核

weight 可视化出来的效果图，左图存在很多噪点，右图则比较平滑，
举例:下图两张图都是将一个神经网络的第一个卷机层的 filter 出现左图这个情形，往往意味着我们模型训练过程出现了问题。

在这里插入图片描述

梯度可视化

梯度可视化对网络调参的好处在训练过程中，由于设置了较高的 学习率，学习跨度太大，中间层的梯度可能会随着训练过程的推进逐 渐变为 0。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

梯度消失当出现梯度消失或梯度弥散时，梯度图能很好的表现出
来。

数据分布可视化

_Summer tree
关注
专栏目录
tensorflow训练过程可视化 简单代码实现
08-05
tensorflow训练过程可视化 简单代码实现 代码里面有详细说明
Tensorflow 深度学习笔记（四）可视化
CherishJoy_zx的博客
02-29 234
过拟合 当网络模型较为复杂而数据集相对较少时，容易产生过拟合现象。相当于未知量的个数远大于已知方程的个数，无法求出正解。 解决方法： 增加数据集 正则化方法 dropout ...
【深度学习】Tensorflow可视化教学
天真不无邪，hello和world
08-17 426
为Tensorflow 2017 打造的新版可视化教学代码，转自莫烦pythonhttps://github.com/MorvanZhou/Tensorflow-Tutorial   If you'd like to use PyTorch, no worries, I made a new PyTorch Tutorial just like Tensorflow. Here is th...
tensorflow深度学习 tensorboard可视化
On the road
07-21 718
tensorflow 完整基础代码 代码 # 创建图形 graph = tf.Graph() # 默认图形 with graph.as_default(): # 占位符 a = tf.placeholder(tf.float32, name="a") b = tf.placeholder(tf.float32, name="b") # +, -, *, / plus = tf.add(a, b, name="a_plus_b") minus =
深度学习-CNN tensorflow 可视化
weixin_30950887的博客
01-16 314
tf.summary模块的简介 在TensorFlow中，最常用的可视化方法有三种途径，分别为TensorFlow与OpenCv的混合编程、利用Matpltlib进行可视化、利用TensorFlow自带的可视化工具TensorBoard进行可视化。这三种方法，在前面博客中都有过比较详细的介绍。但是，TensorFlow中最重要的可视化方法是通过tensorBoard、tf.summary和tf....
深度学习：Tensorflow变量op和可视化TensorBoard
彭世瑜的博客
03-01 1908
变量op 变量也是一种op，是一种特殊的张量 能够进行存储持久化，它的值就是张量，默认被训练 变量op特点： 1、变量op能够持久化保存，普通张量op是不行的 2、当定义一个变量op的时候，一定要在会话中去运行初始化 3、name参数，在tensorboard显示名字，区分相同op 变量的创建 tf.Variable(initial_value=NOne, name=None, trainable...
21个项目玩转深度学习基于TensorFlow的实践详解源码.zip
08-04
《21个项目玩转深度学习基于TensorFlow的实践详解源码》是一份极其珍贵的教育资源，它涵盖了深度学习领域的多个重要应用，旨在帮助学习者通过实际操作来掌握TensorFlow这一强大的机器学习框架。该资源主要面向对深度...
Python库 | tensorflow-checkpoint-reader-0.1.0.tar.gz
03-11
`tensorflow-checkpoint-reader`就是这个生态中的一个实用工具，它简化了对TensorFlow模型权重的访问，从而推动了AI和深度学习项目的实施。 总结来说，`tensorflow-checkpoint-reader`库是TensorFlow开发人员的得力...
PyPI 官网下载 | tensorflow-extenteten-0.0.21.tar.gz
01-30
《PyPI官网下载 | tensorflow-extenteten-0.0.21.tar.gz——深度学习与TensorFlow扩展库解析》 在Python的世界里，PyPI（Python Package Index）是广大开发者获取开源软件包的重要平台，它提供了丰富的第三方库，极...
Python库 | tensorflow-2.6.1-cp36-cp36m-win_amd64.whl
02-20
**TensorFlow 2.6.1 - Python 中的深度学习基石** TensorFlow 是一个开源的机器学习库，由 Google Brain 团队开发并维护。它主要用于构建和训练复杂的深度学习模型，广泛应用于人工智能、计算机视觉、自然语言处理...
深度学习-Tensorflow2.2-Tensorboard可视化{5}-可视化基础-17
gemoumou的python学习实记
11-15 301
Tensorboard可视化简介 TensorBoard是一款为了更方便 TensorFlow 程序的理解、调试与优化发布的可视化工具。你可以用 TensorBoard 来展现你的 TensorFlow 图像，绘制图像生成的定量指标图以及附加数据。 TensorBoard 通过读取 TensorFlow 的事件文件来运行。 TensorFlow 的事件文件包括了你会在 TensorFlow 运行中涉及到的主要数据。 Tensorboard随着tensorflow的安装一并被安装好 Tensorboard主要
梯度下降算法_深度学习——梯度下降可视化(Adam，AdaGrad，Momentum，RMSProp)
weixin_39895283的博客
11-18 235
一图胜千言，什么？还是动画，那就更棒啦！A Visual Explanation of Gradient Descent Methods (Momentum, AdaGrad, RMSProp, Adam) by Lili Jianghttps://towardsdatascience.com/a-visual-explanation-of-gradient-descent-methods-mom...
TensorFlow从入门到理解（六）：可视化梯度下降
weixin_33697898的博客
11-10 127
运行代码： import tensorflow as tf import numpy as np import matplotlib.pyplot as plt from mpl_toolkits.mplot3d import Axes3D LR = 0.1 REAL_PARAMS = [1.2, 2.5] INIT_PARAMS = [[5, 4], ...
tensorflow keras 实现xor 异或的网络实现 Python3代码
power的专栏
03-28 740
代码托管在github https://github.com/sofiathefirst/AIcode 程序运行环境和版本 a@ubuntu:~/Desktop/mytf$ python3 Python 3.5.2 (default, Nov 12 2018, 13:43:14) [GCC 5.4.0 20160609] on linux Type "help", "copyrigh...
【135】TensorFlow利用神经网络学习XOR(异或)并部署成java代码
zhangchao19890805的专栏
04-13 543
本文python代码使用 python 3。 本文参考了《深度学习》第107页，6.1 实例：学习XOR XOR 函数也称为异或。输入两个布尔型的变量 x1 和 x2 。当 x1 和 x2 不相同的时候，返回True。当 x1 和 x2 相同的时候返回 False。为了方便计算机处理，我用 1 表示True，0 表示False。 我创建一个CSV文件XOR_train.csv，里面内容就是异或的...
深度学习-caffe可视化（自画图+在线可视化工具）
感性企鹅的专栏
08-14 1009
背景 caffe的神经网络定义是用的protobuf，调理虽然清晰，但是网络大了以后还是不容易观看，下面来做一下caffe神经网络的可视化 自画图 又caffe提供的画图工具 /Users/wang/soft/caffe/python/draw_net.py 命令如下： python draw_net.py ~/Desktop/bak_model/mobilenet_train_test.prot...
深度学习：原理简明教程17-深度学习:CNN可视化——作者：Ling
yimoxingnian的博客
04-16 2152
深度学习：原理简明教程17-深度学习:CNN可视化——作者：Ling，作者链接： http://www.bdpt.net/cn欢迎转载，作者：Ling，注明出处：深度学习：原理简明教程17-深度学习:CNN可视化 本文将讨论CNN可视化相关问题。 人们常说深度学习模型是黑盒模型，很难知道里面参数含义，但是对于CNN而言，研究者们已经提出各种可视化方法，使得CNN不再黑盒。 对于CNN可视化主要有以...
《TensorFlow技术解析与实战》第3章 可视化TensorFlow
潘多拉星系的专栏
05-07 281
可视化tensorflow目录3.1 PlayGround3.3 TensorBoard可视化的例子一1、运行word2vec_basic.py2、在tensorboard中显示3.2 TensorBoard可视化例子二1、scalars面板2、images面板3、graphs面板4、distributions面板5、histograms面板总结参考资料   可视化是认识程序的最直观的方式。在做数...
tensorflow卷积层可视化的实现。基于VGG-19.
donkey_1993的博客
04-16 6377
#导入包 import scipy.io import numpy as np import os import scipy.misc import matplotlib.pyplot as plt import tensorflow as tf #import seaborn as sns #用来画热度图 #定义网络结构，本文用的是VGG-19 def _conv_layer(inp...
TensorFlow可视化：深度解析TensorBoard
"TensorBoard是TensorFlow提供的一个强大的可视化工具，用于呈现神经网络的结构、训练过程中的指标变化以及数据分布等。它是一个基于Web的应用程序，可以帮助用户在训练模型时更好地理解和调整参数。" 在机器学习...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

_Summer tree

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值