linux_win的博客

开源书籍关于TensorFlow的内核详细原理与运行机制，请查阅我的开源技术书籍：TensorFlow内核剖析。TensorFlow是什么？TensorFlow基于数据流图，用于大规模分布式数值计算的开源框架。节点表示某种抽象的计算，边表示节点之间相互联系的张量。计算图实例TensorFlow支持各种异构的平台，支持多CPU/GPU，服务器，移动设备，具有良好的跨平台的特性...

TensorFlow 是用数据流图做计算的，因此我们先创建一个数据流图（也称为网络结构图），如图 下图 所示，看一下数据流图中的各个要素。　　图 讲述了 TensorFlow 的运行原理。图中包含输入（input）、塑形（reshape）、Relu 层（Relulayer）、Logit 层（Logit layer）、Softmax、交叉熵（cross entropy）、梯度（gradient...

最基本的 TensorFlow 提供了一个库来定义和执行对张量的各种数学运算。张量，可理解为一个 n 维矩阵，所有类型的数据，包括标量、矢量和矩阵等都是特殊类型的张量。 TensorFlow 支持以下三种类型的张量：常量：常量是其值不能改变的张量。 变量：当一个量在会话中的值需要更新时，使用变量来表示。例如，在神经网络中，权重需要在训练期间更新，可以通过将权重声明为变量来实现。变量...

　在训练深度网络时，为了减少需要训练参数的个数（比如LSTM模型），或者是多机多卡并行化训练大数据、大模型等情况时，往往就需要共享变量。另外一方面是当一个深度学习模型变得非常复杂的时候，往往存在大量的变量和操作，如何避免这些变量名和操作名的唯一不重复，同时维护一个条理清晰的graph非常重要。因此，tensorflow中用tf.Variable(), tf.get_variable, tf.Var...

批标准化，是Sergey Ioffe和Christian Szegedy在2015年3月的论文BN2015中提出的一种简单、高效的改善神经网络性能的方法。论文BN2015中，Ioffe和Szegedy指出批标准化不仅能应用更高的学习率、具有正则化器的效用，还能将训练速度提升14倍之多。本文将基于TensorFlow来实现批标准化。问题的提出批标准化所要解决的问题是：模型参数在学习阶段的变化...

每个神经元都必须有激活函数。它们为神经元提供了模拟复杂非线性数据集所必需的非线性特性。该函数取所有输入的加权和，进而生成一个输出信号。你可以把它看作输入和输出之间的转换。使用适当的激活函数，可以将输出值限定在一个定义的范围内。如果 xi 是第 j 个输入，Wj 是连接第 j 个输入到神经元的权重，b 是神经元的偏置，神经元的输出（在生物学术语中，神经元的激活）由激活函数决定，并且在数学上表示如下...

本节将介绍在不同的操作系统（Linux、Mac和Windows）上如何全新安装 TensorFlow 1.3。首先了解安装 TensorFlow 的必要要求，TensorFlow 可以在 Ubuntu 和 macOS 上基于 native pip、Anaconda、virtualenv 和 Docker 进行安装，对于 Windows 操作系统，可以使用 native pip 或 Anacond...

在任何计算机语言中学习的第一个程序是都是 Hello world，本教程中也将遵守这个惯例，从程序 Hello world 开始。上一节进行 TensorFlow 安装验证的代码如下：  下面一起看一下这段简单的代码：导入tensorflow，这将导入 TensorFlow 库，并允许使用其精彩的功能： import tensorflow as if 由于要打印的信息是...