tensorflow学习笔记
学习tensorflow的知识点记录,以备忘和交流。
LxDamon
Stay hungry,Stay foolish
慢慢来,比较快!!!
展开
-
BatchNorm层测试出现nan的查bug之旅
BatchNorm层测试出现nan的查bug之旅1、前言在caffe中使用BatchNorm层很简单,只要注意一点,在训练时将use_global_states设为false,测试前向阶段将use_global_states设为true即可。在tensorflow中,其实也不难(具体可参考我的另一外博客:https://blog.csdn.net/LxDamon/article/details/108762087),稍微复杂一点点,只要注意batchnorm的mean和variance不是train原创 2020-09-23 21:43:54 · 3514 阅读 · 6 评论 -
tensorflow中如何正确使用BatchNorm(涵盖所有BN的坑)
tensorflow中如何正确使用BatchNorm(涵盖所有BN的坑) 在caffe中使用BatchNorm层很简单,只要注意一点,在训练时将use_global_states设为false,测试前向阶段将use_global_states设为true即可。在tensorflow中使用batchnorm层有几个地方需要注意,不然会踩坑导致训练不收敛或者测试时准确率降低很多,推荐使用tf.layers.batch_normalization函数实现BN归一化。1、训练时trainin...原创 2020-09-23 21:27:32 · 2142 阅读 · 0 评论 -
基于tensorflow搭建LeNet5网络实现手写数字MNIST识别任务
基于tensorflow搭建LeNet5网络实现手写数字MNIST识别任务任务准备利用深度学习解决的任务无外乎以下几个关键步骤:1、明确任务需求,准备训练数据2、搭建网络模型3、计算损失函数4、定义优化器5、迭代训练6、测试1、明确任务,准备数据由于手写数字识别的任务需求是构建算法模型使其具有对手写的从0到9一共10个数字进行识别的功能。所以训练样本就是一定数量的0到9的...原创 2020-08-28 16:56:37 · 1209 阅读 · 0 评论 -
基于tensorflow使用softmax算法训练手写数字MNIST识别任务
基于tensorflow使用softmax算法训练手写数字MNIST识别任务任务准备利用深度学习解决的任务无外乎以下几个关键步骤:1、明确任务需求,准备训练数据2、搭建网络模型3、计算损失函数4、定义优化器5、迭代训练6、测试1、明确任务,准备数据 由于手写数字识别的任务需求是构建算法模型使其具有对手写的从0到9一共10个数字进行识别的功能。所...原创 2020-08-13 21:08:27 · 395 阅读 · 0 评论 -
tensorflow基本用法(图,会话,tensor,变量等)
tensorflow基本用法使用 TensorFlow, 你必须明白 TensorFlow:使用图 (graph) 来表示计算任务. 在被称之为会话 (Session)的上下文 (context) 中执行图. 使用 tensor 表示数据. 通过变量 (Variable)维护状态. 使用 feed 和 fetch 可以...转载 2020-08-13 17:31:34 · 330 阅读 · 0 评论 -
tensorflow在window和linux/ubuntu上的成功安装(极简安装方法)
方法一:windows上利用Anaconda方式安装tensorflow方法二:windows上利用pip方式安装tensorflow原创 2020-08-13 17:08:43 · 434 阅读 · 0 评论