TensorFlow入门知识-CSDN博客

本文链接：https://blog.csdn.net/qq_30379689/article/details/131093831

TensorFlow是集齐了很多深度学习相关的算法的框架，你可以利用他搭建自己的神经网络模型。对于开发者来说，告诉TensorFlow一批特征数据和最终的答案数据，让其通过一个神经网络模型进行训练，最终输出模型。模型将应用于应用端，给他一个输入特征值，就能预测出一个答案。

神经网络模型的输入是一组特征，中间经过一段黑盒一层层的计算处理，输出一个预测值，整个模型的数据处理流程大概如图

在这里插入图片描述

1、数据预处理

在很多特征数据中，数据会有不固定的数值，多个特征之间的值相差非常大，此时就需要对数据进行归一化，让数据等比缩小成为较小的浮点数。具体如图

在这里插入图片描述

2、模型层+激活函数

在这里插入图片描述

3、损失函数

可以把损失函数比作是一位老师，他会根据学生的答案与正确答案之间的差距来评价学生的表现。如果学生的答案与正确答案一致，那么损失函数会给予较低的评价，反之则会给予较高的评价。在机器学习中，我们希望通过最小化损失函数来让模型的预测结果更加接近实际结果，从而提高模型的准确性。

4、正则化惩罚项

可以把正则化惩罚项比作是一位教练，他会要求运动员在训练中不仅要达到一定的成绩，还要保持身体的健康和稳定。在机器学习中，我们希望模型在训练时不仅要在训练集上取得好的效果，还要在比赛数据中表现良好，并且不过度拟合训练集的噪声或异常点。

在这里插入图片描述

5、优化器

可以把优化器比作是一位导游，他会带着我们找到一条最短的路径，使得我们可以更快地到达目的地。在机器学习中，优化器会根据损失函数的梯度信息来更新模型参数，从而使模型能够朝着更优的方向前进。

1、卷积神经网络

卷积神经网络：简称CNN，一种深度学习算法，它主要用于处理图像、语音和文本等数据。这种算法也是模型层的一层，期间会经过卷积->池化的过程，池化层通常与卷积层交替使用，构成卷积神经网络的基本结构。
卷积操作：就是将一个小的矩阵（称为卷积核或过滤器）在输入数据上滑动，计算卷积核和输入数据对应位置的乘积，然后将所有乘积相加得到一个输出值。通过在不同位置应用不同的卷积核，CNN可以提取不同的特征，例如边缘、纹理、形状等。
池化操作：用于减少特征图的尺寸和数量，从而降低模型的计算复杂度和内存占用，同时可以增加模型的鲁棒性和泛化能力。它的作用类似于压缩操作，将卷积后过大的尺寸进行压缩，可以减少模型的参数数量和过拟合的风险。

在这里插入图片描述

2、递归神经网络

递归神经网络：简称RNN,一种深度学习算法，它主要用于处理序列数据，例如文本、语音、时间序列等。相比于传统的前馈神经网络，RNN在处理序列数据时具有更好的效果。RNN的特点是可以保存之前的状态，并将其作为下一个时间步的输入，形成一个循环的网络结构。这样可以对序列数据进行建模，捕捉到序列中的时序关系和长期依赖关系。
优点：下一次计算会结合上一次的计算结果，相当于可以处理有序的数据。
缺点：过多的前面的数据会导致计算越往后会把前面的值考虑进来，有点过长时间记忆的感觉。

在这里插入图片描述

3、长短时记忆网络

长短时记忆网络：简称LSTM，它是一种特殊的递归神经网络，弥补了RNN的缺点，它可以在处理序列数据时更好地捕捉长期依赖关系，并防止梯度消失或爆炸等问题。LSTM的核心是增加一个遗忘参数C，在每一次递归中，它可以选择性地更新、保留或丢弃记忆单元中的信息。

在这里插入图片描述

1、词向量

2、CBOW

在这里插入图片描述

3、Skip-gram模型

Skip-gram模型是一种基于神经网络的词向量训练算法，它通常用于生成高质量的词向量。Skip-gram模型的主要思想是通过当前词语来预测上下文中的其他词语。

在这里插入图片描述

import tensorflow as tf
import numpy as np

tf.__version__