Tensorflow
而与你及
这个作者很懒,什么都没留下…
展开
-
Tensorflow笔记(四)
MNIST数据集滑动平均模型代码实现MNIST手写数字识别超参数和验证集 滑动平均模型 Tensorflow使用tf.train.ExponentialMovingAverage()实现滑动平均模型,在使用随机梯度下降方法训练神经网络时候,使用这个模型可以增强模型的鲁棒性(robust),可以在一定程度上提高模型在测试数据集上的表现。即如果在测试过程中,出现了一些噪声数据,滑动平均模型可以很好地应...原创 2019-07-07 14:47:11 · 178 阅读 · 0 评论 -
Tensorflow笔记(八)
模型持久化保存模型加载模型持久化的MNIST手写数字识别PB文件 保存模型 train_Saver()类是Tensorflow提供的用于保存和还原一个神经网络模型的API。 //定义Saver()类对象用于保存模型 saver = tf.train.Saver() with tf.Session() as sess: //saver中的sess参数用于指定要保存的模型会话 saver.sav...原创 2019-07-11 17:12:35 · 194 阅读 · 0 评论 -
Tensorflow笔记(三)
优化网络的方法梯度下降批梯度下降随机梯度下降反向传播自适应学习率算法Tensorflow提供的优化器 梯度下降 通过反向传播算法计算损失函数对每一个参数的梯度,再根据梯度和学习率使用梯度下降算法更新每一个参数。 批梯度下降 在实际训练时,参与训练的数据往往很多,并且损失函数J(W)J(W)J(W)是在所有训练数据上的损失和。 随机梯度下降 在每一轮迭代中随机选择某一个或多个训练数据上的损失函数进行...原创 2019-07-06 00:14:04 · 447 阅读 · 0 评论 -
Tensorflow笔记(二)
Tensorflow实现深度网络深度前馈神经网络激活函数损失函数交叉熵损失均方误差损失自定义损失函数 深度前馈神经网络 前馈神经网络模型是前向的,在模型的输出和模型本身之间并不存在连接,也就不构成反馈。只通过线性变换,任意多层的全连接神经网络模型和单层全连接神经网络模型的表达能力没有区别,因为它们都是线性模型,而深度学习强调的是非线性。 激活函数 线性模型只能解决线性可分的问题,使用激活函数可以使...原创 2019-07-05 15:54:53 · 299 阅读 · 0 评论 -
Tensorflow笔记(一)
Tensorflow基础计算图张量会话会话的定义Session参数配置变量创建变量集合(collection)管理变量的变量空间get_variable()函数 计算图 计算图:Tensorflow程序的计算过程表示一个计算图,与流程图相似。计算图中每一个操作视为一个节点,节点之间的边表示数据的流动。 在编写Tensorflow程序时,系统会自动维护一个默认的计算图,Tensorflow会自动将定...原创 2019-07-04 19:01:50 · 249 阅读 · 0 评论 -
Tensorflow笔记(七)
数据读取TFRecord格式TFRecord格式介绍TFRecord格式转换示例代码编码阶段解码阶段队列数据队列文件队列使用多线程处理输入的数据组织数据batch TFRecord格式 TFRecord格式介绍 TFRecord数据文件是一种将图像数据和标签统一存储的二进制文件,能更好的利用内存,在tensorflow中快速的复制,移动,读取,存储等。TFRecord文件中的数据都是通过tf.tr...原创 2019-07-09 16:50:54 · 247 阅读 · 0 评论 -
Tensorflow笔记(十)
加速计算查看执行运算的设备并行训练的原理 查看执行运算的设备 //log_device_placement=True用来打印执行每一个节点的相应设备 with tf.Session(config=tf.ConfigProto(log_device_placement=True,allow_soft_placement=True)) as sess: 当一台机器上含有多个GPU时,在默认情况下,T...原创 2019-07-13 10:51:58 · 128 阅读 · 0 评论 -
Tensorflow笔记(六)
图像数据处理图像编解码处理翻转图像图像色彩调整图像标准化处理调整图像的大小图像的标注框 图像编解码处理 图像在存储时并没有直接记录矩阵中的数字,而是记录了经过压缩编码之后的结果,所以要将一幅图像还原成一个三维矩阵,需要解码的过程。 import matplotlib.pyplot as plt import tensorflow as tf //读取图像 image = tf.gfile.Fas...原创 2019-07-08 19:48:04 · 227 阅读 · 0 评论 -
Tensorflow笔记(五)
卷积神经网络卷积卷积函数池化池化函数实现卷积神经网络的简例(Cifar-10数据集分类) 相对于全连接神经网络而言,卷积神经网络相对进步的地方是卷积层结构和池化层结构的引入。卷积核类似于全连接神经网络中的权重系数。 卷积 卷积的重要特性: 稀疏连接:通过将卷积核大小限制为远小于输入的大小来达到,与全连接神经网络相比降低了参数数量。卷积运算的稀疏连接借鉴了感受野的概念,因为图像的空间联系也是局部的...原创 2019-07-08 11:23:56 · 240 阅读 · 0 评论 -
Tensorflow笔记(九)
TensorBoard可视化Tensorboard简要介绍MNIST手写数字识别的可视化 Tensorboard简要介绍 FileWriter就是一个用于写日志文件的类。TensorBoard会自动读取最新的Tnesorflow日志文件,并呈现当前Tensorflow程序运行的最新状态。放置日志文件的文件夹内最好不要放入一个以上的日志文件,因为Tensorflow往往会读取最新的日志文件。 //生...原创 2019-07-12 15:26:40 · 135 阅读 · 0 评论