Knowledgebase的博客

我将导入一份新的训练数据副本进行处理，因为我希望在原始数字上训练我的模型，而不是在分类数字上。你也可以访问 TensorFlow 的官方网站，查看其他优化器（在这里我使用的是 Adam）以改善你的模型。在这篇博客中，我们将讨论 DNN，它是“神经网络”的复杂版本，能够接收和输出数字。但为了对更复杂的数据进行建模，我们需要找到更多的特征，因此我们添加了一个隐藏层，在这里真正的“魔法”发生。这是我们可以制作的最简单的神经网络。在图像中，输入层有 3 个节点，输出层有 1 个节点，但它可以有我们需要的任意数量。

TensorFlow 主要提供简化各种平台上机器学习和深度学习解决方案部署的功能，包括计算机 CPU、GPU、移动设备，最近还包括浏览器。此外，TensorFlow 提供了许多有用的功能，用于创建和大规模运行机器学习模型。2019 年，TensorFlow 2 发布，重点在于提高易用性，同时保持良好的性能。这就是为什么如果你想利用 GPU 的能力需要安装 CUDA，并且为什么你不能使用其他硬件制造商的 GPU 的原因。我们将使用一个由两个全连接层（称为 Dense 层）组成的非常简单的架构。

在构建深度神经网络模型时，需要执行许多数学运算。与其从头开始构建模型，不如利用 TensorFlow 和 PyTorch 等深度学习框架。在这篇博客中，我们探讨了 TensorFlow，并看到了它在实现深度学习项目方面的强大方法。其工作原理非常简单：首先将数据转换为张量，然后构建深度学习模型以提取其中的隐含模式。

1. 构建您的第一个神经网络 (https://www.tensorflow.org/tutorials/quickstart/beginner) — 按照 TensorFlow 的官方教程创建一个用于图像分类的基本神经网络。2. TensorFlow 数据类型 (https://www.tensorflow.org/api_docs/python/tf/dtypes/DType) — 探索 TensorFlow 中的不同数据类型。🎉 您已经迈出了进入 TensorFlow 世界的第一步。

然而，它们也有一些限制，例如在处理非常高维数据时可能会遇到困难，或者在某些任务上不如更专门的架构高效（例如，用于图像数据的卷积神经网络）。总结一下，在这个特定的情况下，Scikit-Learn的多层感知器（MLPC）表现优于Keras TensorFlow的MLPC。训练MLP的过程涉及调整神经元之间连接的权重，以最小化损失函数，该函数度量预测输出与实际目标输出之间的差异。然后，我使用Scikit-Learn创建了一个多层感知器，努力将其调整到与我在Keras TensorFlow中使用的相同的超参数：-

了解何时使用NumPy进行即时计算以及何时利用TensorFlow进行复杂的机器学习任务对于任何处理数据的人来说都是至关重要的，无论是在油井上还是在机器学习研究实验室。在基于Python的科学计算和机器学习中，有两个基本的库突出出来：NumPy 和 TensorFlow。总之，NumPy和TensorFlow是Python生态系统中的两个不可或缺的工具，每个都有不同的用途。每两天，您会收集测量数据，并使用NumPy进行计算，如计算平均值、识别异常值或评估数据中的趋势。

就像不同的玩具满足您宠物的各个方面的发展（比如吸引注意力的吱吱声的玩具 🐦，咀嚼玩具用于换牙 🦷，球用于锻炼 🎾），TensorFlow为我们提供了各种工具，旨在教会计算机如何从数据中学习并做出决策，就像训练我们的宠物坐下、停留或取东西一样！想象你的第一个项目就是你的地图，为你绘制出这片茂密的丛林中的道路，而Python和TensorFlow则是你值得信赖的指南针，引导你穿越丛林并走向你的目标。因此，你的机器学习和适应，确保每一杯咖啡（或AI做出的决策）都更接近完美，受到以往的冲泡（或数据）的启发！

在本章中，我们将了解可以使用 TensorFlow 框架实现的神经网络训练的各个方面。以下是可以评估的十个建议 −反向传播（Back Propagation）反向传播是计算偏导数的简单方法，包括适用于神经网络的基本组合形式。随机梯度下降（Stochastic Gradient Descent）在随机梯度下降中，一个批次（batch）是用户在单次迭代中用来计算梯度的示例的总数。到目前为止，假设批次是整个数据集。最佳示例是在谷歌规模上工作；数据集通常包含数十亿甚至数千亿的示例。

dataset_image文件夹包含相关的图像，需要加载这些图像。我们将专注于具有我们公司标志的图像识别。图像是使用“load_data.py”脚本加载的，该脚本有助于跟踪其中各种图像识别模块的信息。TensorFlow包含一项特殊的图像识别功能，这些图像存储在特定的文件夹中。使用相对相似的图像，可以轻松实现此逻辑以用于安全目的。对图像进行训练有助于存储在指定文件夹中的可识别模式。图像识别代码实现的文件夹结构如下所示 −。上述代码生成的输出如下所示 −。

偏微分方程（PDE）是一种涉及未知函数的偏导数以及多个独立变量的微分方程。关于偏微分方程，我们将重点关注创建新图形。步骤 2 − 包括用于将 2D 数组转换为卷积核和简化的 2D 卷积操作的函数。现在，我们将计算偏微分方程并使用它来形成相应的图形。考虑以下步骤来计算图形。步骤 3 − 包括迭代次数并计算图形以相应地显示记录。假设有一个尺寸为 500*500 的池塘 −。步骤 1 − 导入用于模拟的库。生成的图形如下所示 −。

包括必要的模块，并通过它们声明 x 和 y 变量，我们将通过这些变量来定义梯度下降优化。我们可以看到输出中显示了计算出的必要的 epochs 和迭代次数。初始化必要的变量，并调用优化器来定义并调用具有相应函数的优化器。梯度下降优化被认为是数据科学中的一个重要概念。上述代码行生成的输出如下所示的屏幕截图 −。考虑以下步骤以了解梯度下降优化的实现 −。

在本章中，我们将学习如何使用 TensorFlow 实现 XOR。在开始 TensorFlow 中的 XOR 实现之前，让我们先看一下 XOR 表的数值。使用XOR密码的实现概念是定义一个XOR加密密钥，然后对用户尝试加密的指定字符串中的字符执行与此密钥的XOR操作。现在，我们将专注于使用TensorFlow进行XOR实现，如下所示 −。XOR密码加密方法基本上用于加密难以使用暴力破解方法破解的数据，即通过生成与适当密钥匹配的随机加密密钥。上述代码行生成的输出如下所示的屏幕截图 −。

优化器是扩展类，其中包含训练特定模型所需的附加信息。优化器类使用给定的参数进行初始化，但重要的是要记住不需要 Tensor。优化器用于提高训练特定模型的速度和性能。- 带梯度剪切的随机梯度下降（Stochastic Gradient Descent with Gradient Clipping）这个类在 tensorflow/python/training/optimizer.py 的指定路径中定义。在我们的后续章节中，我们将专注于梯度下降优化以及优化器的实现。TensorFlow 的基本优化器是 −。

在本章中，我们将专注于从已知点集（称为 x 和 f(x)）中学习的网络。一个单隐藏层将构建这个简单的网络。这里以W的形式表示了两个数据集，它们分别是训练数据和验证数据，如图例部分所示，以不同颜色表示。解释感知器隐藏层的代码如下所示 −。以下是函数层近似的表示方式 −。

MLP网络通常用于监督学习格式。MLP网络的典型学习算法也称为反向传播算法。多层感知器定义了人工神经网络中最复杂的架构。它由多层感知器构成。现在，我们将专注于使用MLP解决图像分类问题的实现。多层感知器学习的图形表示如下所示 −。上述代码行生成以下输出结果 −。

在这里，我们将专注于 TensorFlow 中的 MetaGraph 形成。这将帮助我们理解 TensorFlow 中的导出模块。MetaGraph 包含了训练、执行评估或在先前训练过的图上运行推断所需的基本信息。其中一个典型的用法模型如下所述 −。以下是相应的代码片段 −。

步骤 2 − 创建一个具有一个节点的 TensorFlow 集群。让这个节点负责一个名为 "worker" 的任务，并且将在 localhost:2222 上运行。步骤 4 − 启动一个 TensorFlow 会话，将执行引擎设为服务器。使用 TensorFlow 创建一个本地服务器，并使用 lsof 查找服务器的位置。步骤 3 − 执行以下命令可以计算服务器配置及其相应的会话 −。步骤 5 − 查看此会话中可用的设备，并关闭相应的会话。步骤 1 − 导入必要的模块，用于分布式计算。

它专注于理解深度学习技术，例如创建神经网络层并保持形状和数学细节的概念。我们将使用Jupyter Notebook来执行并显示如下所示的输出 -这一步可以被定义为“导入库和模块”，这意味着导入所有库和模块是初始步骤。第一步 - 首先实施加载数据和预处理加载数据，以执行深度学习模型。考虑以下八个步骤来创建Keras中的深度学习模型 -第二步 - 在这一步中，我们将定义模型的架构 -第四步 - 现在我们将使用训练数据来拟合模型 -第三步 - 现在让我们编译指定的模型 -5. 训练指定的模型。

在本章中，我们将关注CNN和RNN之间的区别 -

TFLearn可以被定义为TensorFlow框架中使用的模块化和透明的深度学习工具。TFLearn的主要目标是为TensorFlow提供一个更高级别的API，以便于进行新的实验和研究。4. 它包括强大的辅助函数，用于训练内置张量，这些张量接受多个输入、输出和优化器。2. 它包括简单的概念，用于构建高度模块化的网络层、优化器和嵌入其中的各种指标。以下示例显示了使用随机森林分类器实现TFLearn的情况 -5. 它提供了易于使用和美观的图形可视化。1. TFLearn易于使用和理解。

在本章中，我们将重点讨论使用TensorFlow实现线性回归的基本示例。本章的目标是建立一个模型，使用户可以预测自变量和一个或多个因变量之间的关系。这两个变量之间的关系被认为是线性的。如果y是因变量，x被视为自变量，那么这两个变量的线性回归关系如下方的方程所示 -导入必要的模块以绘制线性回归模型是重要的。我们将设计一个用于线性回归的算法。现在，我们将学习有助于设计线性回归算法的步骤。输入的点的数量被视为输入数据。线性回归的示意图表示如下 -定义逻辑回归所需的系数数量。设计线性回归算法的步骤。

单层感知器的计算是在输入向量的每个值与权重向量的相应元素相乘后计算输入向量的总和。显示在输出中的值将是激活函数的输入。最好的例子来说明单层感知器是通过“逻辑回归”的表示。逻辑回归用于描述数据并解释一个依赖的二元变量与一个或多个名义或独立变量之间的关系。与节点连接的模式、总层数以及在输入和输出之间的节点级别与每个层中的神经元数量定义了神经网络的架构。2. 对于训练集的每个元素，计算误差，即期望输出与实际输出之间的差异。3. 重复这个过程，直到整个训练集上的误差不小于指定的阈值，或者达到最大迭代次数。

词嵌入是将诸如单词之类的离散对象映射到向量和实数的概念。这对于机器学习的输入非常重要。该概念包括标准函数，可以有效地将离散输入对象转换为有用的向量。Word2vec是最常用的无监督词嵌入技术方法。它通过使用跳跃图来训练模型，以使给定的输入词通过预测单词的上下文来预测。TensorFlow提供了许多实现这种类型模型的方法，具有不断增加的复杂性和优化，使用多线程概念和更高级别的抽象。词嵌入输入的示例如下所示 -

这允许更好地分析图，重点关注计算图的主要部分。这些算法将节点折叠成高级块，并突出显示具有相同结构的特定组，这些组将高度节点分开。因此，创建的TensorBoard对于调整机器学习模型非常有用，被视为同样重要。这个可视化工具是为配置日志文件而设计的，其中包含需要显示的摘要信息和详细信息。TensorFlow包括一个称为TensorBoard的可视化工具，用于分析数据流图，也用于了解机器学习模型。TensorBoard的重要功能包括以垂直对齐的方式查看有关参数和任何图形的详细信息的各种类型的统计信息。

步骤2 - 我们的主要目标是使用循环神经网络对图像进行分类，其中我们将每个图像行视为像素序列。现在，我们将处理每个样本的28个序列，每个序列有28个步骤。步骤6 - 从步骤1到步骤5重复，直到我们确信已经适当地定义了用于获取输出的变量。步骤1 - TensorFlow包括用于循环神经网络模块的特定实现的各种库。如上所述，这些库有助于定义输入数据，这是循环神经网络实现的主要部分。步骤5 - 为了追踪误差，它通过相同的路径传播，其中也调整了变量。步骤4 - 将生成的实际结果与期望值进行比较，将产生一个误差。

现在，重要的是要理解我们创建了图形和会话，它们管理张量并生成适当的输出。借助图形，我们可以指定张量之间的数学计算来生成输出。张量代表了流程图中的连接边，称为数据流图。张量的秩可以描述为张量的阶数或n维度。我们将首先了解张量的数据结构。一维张量是一个普通的数组结构，包含一组相同数据类型的值。可以通过指定行号和列号作为索引来跟踪二维张量的特定元素。在这一节中，我们将学习有关张量处理和操作的内容。类型描述了分配给张量元素的数据类型。行数和列数一起定义了张量的形状。用于创建“二维张量”的是一系列数组。

在本文中，我们概述了机器学习和深度学习，包括示例和区别，还关注了未来趋势。深度学习算法关注数据中的高级特征。深度学习需要大量的时间来训练，因为它包括许多参数，比通常需要更长的时间。特征工程是将领域知识放入指定的特征中，以减少数据的复杂性并使学习算法能够识别出模式的过程。随着在工业中使用数据科学和机器学习的趋势增加，每个组织都将有必要将机器学习融入其业务中。深度学习是机器学习的一个子领域，其中的算法受到了人工神经网络的结构和功能的启发。目前，深度学习的所有价值都来自于监督学习或从带标签的数据和算法中学习。

在创建TensorFlow的基本应用程序之前，了解TensorFlow所需的数学概念是很重要的。矩阵的大小由行长度和列长度定义。如果矩阵具有相同的维度，那么可以对两个或多个矩阵进行加法。被定义为一组数字的数组，可以是连续的或离散的。考虑上述具有“m”行和“n”列的矩阵，矩阵的表示将被指定为“m*n矩阵”，从而定义了矩阵的长度。矩阵的减法操作方式与两个矩阵的加法类似。只要矩阵的维度相等，用户就可以对两个矩阵进行减法运算。矩阵A的转置，通常表示为AT（转置），其维度为n*m，通过将列向量转置为行向量而获得。

遵循机器学习概念的程序的能力是改善其对观测数据的性能。数据转换的主要动机是为了提高其知识，以便在未来实现更好的结果，为特定系统提供更接近所期望的输出。监督学习或监督训练包括一个过程，其中训练集作为输入提供给系统，在这个过程中，每个示例都带有一个期望的输出值标签。在这种类型的训练中，使用特定损失函数的最小化来表示输出与所期望的输出系统之间的误差。在无监督学习或无监督训练中，包括未被系统标记其所属类别的训练示例。最好的示例来说明“无监督学习”是一组没有包含信息的照片，用户使用分类和聚类来训练模型。

步骤2 - 用户可以选择任何机制在系统中安装TensorFlow。Pip是用于在Python中执行和安装模块的命令。要安装TensorFlow，重要的是在您的系统中安装了Python。步骤5 - 使用pip在系统中安装“Tensorflow”。在安装TensorFlow之前，我们需要在系统中安装Anaconda框架。步骤4 - 在成功设置环境之后，重要的是激活TensorFlow模块。在成功安装之后，了解TensorFlow的示例程序执行非常重要。步骤1 - 验证正在安装的Python版本。

TensorFlow是一款面向所有开发人员的开源机器学习框架。它用于实现机器学习和深度学习应用程序。为了开发和研究人工智能领域的有趣想法，Google团队创建了TensorFlow。TensorFlow是使用Python编程语言设计的，因此被认为是一个易于理解的框架。本教程适用于专注于使用各种机器学习和深度学习算法进行研究和开发的Python开发人员。本教程的目标是描述TensorFlow的所有对象和方法。在继续本教程之前，您需要具备任何Python编程语言的基本知识。对人工智能概念的了解将是一个优势。

步骤5 - 让我们将输出扁平化，准备用于全连接的输出阶段 - 在两层步幅为2的池化层后，将维度从28 x 28变为14 x 14或至少7 x 7的x，y坐标，但输出通道为64。要创建具有“dense”层的全连接层，新的形状需要是[-1, 7 x 7 x 64]。如果我们观察上面的表示，每个连接都学习了与隐藏神经元相关联的权重，同时与从一层到另一层的连接有关。步骤6 - 另一层使用特定的Softmax激活函数，与所需的优化器一起定义了准确性评估，从而完成初始化操作的设置。这会添加一个摘要以存储数据的准确性。