TensorFlow基础

最新推荐文章于 2022-09-06 15:48:35 发布
最新推荐文章于 2022-09-06 15:48:35 发布
阅读量345 收藏 4
点赞数 2
分类专栏： tensorflow 文章标签： 神经网络 tensorflow 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Ritannn/article/details/117566263
版权

TensorFlow进阶

数据类型

数值类型

标量

如果要使用TF提供的功能函数，必须通过TF规定的方式去创建张量，而不能使用PY语言的标准创建方式。

向量

与标量不同，向量的定义必须通过List容器传给tf.constant函数。

矩阵

多维张量

字符串类型

深度学习算法主要是以数值类型张量为主，字符串类型的数据使用频率较低。

布尔类型

数值精度

读取精度

对于某些只能处理指定精度类型的运算操作，需要提前检验输入张量的精度类型，并将不符合要求的张量进行类型转换。

类型转换

待优化张量

由于梯度运算会消耗大量的计算资源，而且会自动更新相关参数，对于不需要优化的张量，如神经网络的输入X，不需要通过tf.Variable封装；

相反，对于需要计算梯度并优化的张量，如神经网络层的W和b，需要通过tf.Variable包裹以便TF跟踪相关梯度信息。

创建张量

从数组、列表对象创建

创建全0或全1张量

创建自定义数值张量

创建已知分布的张量

正态分布和均匀分布是最常见的分布之一，创建采样自这两种分布的张量非常有用。

创建序列

张量的典型应用

标量

标量的一些用途是误差值的表示、各种测量指标的表示，例如准确度Accuracy、精度Precision和召回率Recall。

向量

通过高层接口类Dense()方式创建的网络层，张量W和b存储在类的内部，由类自动创建并管理。

矩阵

三维张量

可以看到x_train张量的shape为[25000,80]，其中25000表示句子个数，80表示每个句子共80个单词，每个单词使用数字编码方式表示。

通过layers.Embedding层将数字编码的单词转换为长度是100个单词的向量。

经过Embedding层编码之后，句子张量的shape变为[25000, 80, 100]，其中100表示每个单词编码长度是100的向量。

四维向量

神经网络中一般并行计算多个输入以提高计算效率，故b张图片的张量可表示为[b, h, w, 3]。

索引与切片

通过索引与切片操作可以提前张量的部分数据。

索引

当张量的维度数较高时，使用[][][][][]的方式书写不太方便，可以采用[i,j,k]的方式索引，它们是等价的。

切片

切片方式格式总结
切片方式意义
start:end:step从start开始读取到end，不包含end，步长为step
start:end

从start开始读取到end，不包含end，步长为1

start:

从start开始读取完后续所有元素，步长为1

start::step从start开始读取完后续所有元素，步长为step
:end:step从0开始读取到end，不包含end，步长为step
:end

从0开始读取到end，不包含end，步长为1

::step步长为step采样
::读取所有元素
:

读取所有元素

 

···切片方式总结
切片方式意义
a,...,b

a维度对其到最左边，b维度对齐到最右边，中间的维度全部读取，其他维度按a/b的方式读取

a,...a维度对其到最左边，a维度后的所有维度全部读取，a维度按照a方式读取。这种情况等同于a索引/切片方式
...,bb维度对其到最右边下，b之前的所有维度全部读取，b维度按b方式读取
...读取张量所有数据

维度变换

在神经网络运算过程中，维度变换是最核心的操作。

改变视图

在存储数据时，内存并不支持这个维度层级概念，只能以平铺的方式按序写入内存，因此这种层级关系需要人为管理，也就是说，每个张量的存储顺序需要人为跟踪。

为了方便表达，把张量shape列表中相对靠左侧的维度称为大维度，shape列表中相对靠右侧的维度称为小维度。

例如[2,4,4,3]的张量中，图片数量维度与通道数量相比，图片数量称为大维度，通道数量称为小维度。

[b,h,w,c]
b,h*w,c理解为b张图片，h*w个像素点，c个通道
b,h,w*c理解为b张图片，h行，每行的特征长度为w*c
b,h*w*c理解为b张图片，每张图片的特征长度为

改变视图是神经网络中非常常见的操作，可以通过串联多个reshape操作来实现复杂逻辑，但是在通过reshape改变视图时，必须始终记住张量的存储顺序，新视图的维度顺序不能与存储顺序相悖，否则需要通过交换维度操作将存储顺序同步过来。

增加、删除维度

增加维度

tf.expand_dims的axis为正时，表示在当前维度之前插入一个新的维度；为负时，表示在当前维度之后插入一个新的维度。

删除维度

增加维度的逆操作，与增加维度一样，删除维度只能删除长度为1的维度，也不会改变张量的存储。

交换维度

通过tf.transpose完成维度交换后，张量的存储顺序已经改变，视图也随之改变，后续的所有操作必须基于新的存续顺序和视图进行。

复制数据

Broadcasting广播机制

数学运算

加减乘除运算

乘方运算

指数和对数运算

如果希望计算其他底数的对数，可以根据对数的换底公式来计算。

矩阵相乘运算

Ritannn
关注
  • 2
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
5个简单的步骤掌握Tensorflow的Tensor
TensorFlowNews
10-16 928
作者|Orhan G. Yalçın 编译|VK 来源|Towards Datas Science 如果你正在读这篇文章，我相信我们有着相似的兴趣，现在/将来也会从事类似的行业。 在这篇文章中，我们将深入研究Tensorflow Tensor的细节。我们将在以下五个简单步骤中介绍与Tensorflow的Tensor中相关的所有主题： 第一步：张量的定义→什么是张量？ 第二步：创建张量→创建张量对象的函数 第三步：张量对象的特征 第四步：张量操作→索引、基本张量操作、形状操作、广播 第五步：特殊张
TensorFlow2-基础（三）：创建Tensor【从numpy、list创建】【zeros, ones】【fill、random、constant、Application】
u013250861的博客
04-16 354
一、从Numpy, List创建Tensor 二、tf.zeros()、tf.zeros_like()、tf.ones()、tf.ones_like() 1、tf.zeros() 2、tf.zeros_like() 3、tf.ones()、tf.ones_like() 三、fill、random、constant、Application 1、fill 2、random 2.1 random.Normal 2.2 random.Uniform 2.3 Permutation 3、constan
TensorFlow-Python：创建空列表list与append的用法
aizhouqian5537的博客
04-09 3251
1.空list的创建： l = list() 或者： l = [] 2.list中元素的创建和表达 fruits = ['apple', 'banana', 'pear', 'grapes', 'pineapple', 'watermelon'] fruits[2] #从0开始数起，第三个元素 pear 3.list中元素的更改 fruits[2] ...
大模型系列文章集锦
公众号：瑞行AI
05-17 1227
大模型搭建应用和prompt
深度学习（6）TensorFlow基础操作二: 创建Tensor
weixin_43360025的博客
08-09 2146
深度学习（6）TensorFlow基础操作二: 创建Tensor一. 创建方式1. From Numpy，List2. zeros，ones(1) tf.zeros()(2) tf.zeros_like()(3) tf.ones()与tf.ones_like()3. Fill4. Normal（正态分布）6. Random Permutation（随机打散）二. 典型应用1. Scalar标量在神经网络中的呈现方式（[]）2. Vector在神经网络中的呈现方式3. Matrix在神经网络中的呈现方式4.
TensorFlow基础入门
菜鸟成长之路-wei的博客
07-23 4603
神经网络 前向传播 # 神经网络--前向传播 import tensorflow as tf # 2*3的矩阵 变量 w1 = tf.Variable(tf.random_normal((2,3),stddev=1,seed=1)) # 随机矩阵,标准差是1,随机种子是1,意味着w1和w2是一模一样的 # 3*1的矩阵 w2 = tf.Variable(tf.random_normal(...
TensorFlow基础介绍
最新发布
03-13
1.TensorFlow概念 2.TensorFlow的环境与安装 3.Tensor含义与张量基本操作
Tensorflow基础代码
09-06
以下是TensorFlow的一些基础代码资源，涵盖了CNN（卷积神经网络）、逻辑回归、RNN（循环神经网络）、线性回归等内容。 CNN（卷积神经网络）: 示例代码：cnn_mnist.py 数据集：MNIST手写数字数据集 说明：该代码...
TensorFlow基础教程01
03-16
**TensorFlow基础教程01** 在当今的科技领域，人工智能（AI）正逐渐渗透到各个行业，而深度学习是推动这一变革的关键技术。在众多深度学习框架中，TensorFlow因其强大的功能和广泛的社区支持，成为了许多开发者的...
tensorflow的数据类型
影子
09-06 863
tensorflow的数据类型，以及如何把list和numpy转换为tensor，以及tf.Variable的作用介绍，numpy默认是64位，tensor可以dtype设置为32位的
tensorflow中显示 list 无法使用tf.cast()
言论的花
07-13 337
num_examples = 10000 num_iter = int(math.ceil(num_examples / batch_size)) true_count = 0 total_samples_count = num_iter * batch_size step = 0 while step < num_iter: image_batch,label_batch = se...
tensorflow2 运行时报错 AttributeError: ‘list‘ object has no attribute ‘_in_graph_mode‘
weixin_48306625的博客
01-15 1972
原代码 variavles = [convc_net.trainable_variables + fc_net.trainable_variables] for epoch in range(30): for step, (x, y), in enumerate(db_train): with tf.GradientTape() as tape: out = convc_net(x) out =
tensor转换为list_tensorflow学习笔记2：tensor 变换
weixin_35920143的博客
12-10 2513
矩阵操作：#对于2-D #所有的reduce_...，如果不加axis的话，都是对整个矩阵进行运算 tf.reduce_sum(a, 1） #对axis1 tf.reduce_mean(a,0) #每列均值第二个参数是axis，如果为0的话：对每列进行操作。 如果是1的话，对每行进行操作。#关于concat，可以用来进行降维 3D->2D , 2D->1D tf.concat(conc...
tf中list和tensor的转换
liangbaqiang的博客
03-18 1万+
input_shape = [4,224,224,4] input = tf.random_normal(input_shape) #转成tensor inputs_shape = input.get_shape().as_list() #转成list print(inputs_shape) [4,224,224,4]
tensorflow之tf.Variable()函数
qq_43636375的博客
09-20 2万+
tf.Variable()函数用于创建变量(Variable),变量是一个特殊的张量()，其可以是任意的形状和类型的张量。 语法格式如下： w = tf.Variable(<initial-value>, name=<optional-name>) 注意： 在启动图时（进行操作之前），所有的变量必须被明确定义。变量常用来储存和更新参数，在计算图过程中其值会一直保存至程序运行结束，这点正是区别于一般的张量。一般的Tensorflow张量在运行过程中仅仅是从计算图中流过，并不会被保存下
tensorflow中常用的计算操作
赵大宝的博客
10-22 1110
1、tf.reduce_sum 从tensor的维度上面计算元素之和 tf.reduce_sum( input_tensor, # 输入 axis=None, # 表示在哪个维度进行sum操作。 keepdims=None, # 表示是否保留原始数据的维度，False相当于执行完后原始数据就会少一个维度。 name=None, reduction_ind...
3、TensorFlow 的数据模型-----张量(Tensor)
热门推荐
Man
11-26 2万+
一、Tensor 类简介 Tensor 定义 A Tensor is a symbolic handle to one of the outputs of an Operation. It does not hold the values of that operation’s output, but instead provides a means of computing those ...
Tensorflow基础训练
04-05
Tensorflow是一个开源的机器学习框架，由Google开发。它被广泛应用于深度学习、神经网络和其他机器学习算法的开发和部署。 以下是Tensorflow基础训练的步骤： 1. 安装Tensorflow Tensorflow可以通过pip命令安装。在命令行中输入以下命令即可： pip install tensorflow 2. 创建Tensorflow图 在Tensorflow中，图是指一系列的操作。创建图的第一步是创建一个空白的图，然后向其中添加操作。在Tensorflow中，所有的操作都是节点，它们可以接受输入并产生输出。以下是创建一个简单的图的示例： import tensorflow as tf # 创建一个空白的图 graph = tf.Graph() # 向图中添加节点 with graph.as_default(): a = tf.constant(5) b = tf.constant(2) c = tf.add(a, b) 3. 运行Tensorflow图 在Tensorflow中，我们需要创建一个会话来运行图。会话是Tensorflow中用于执行图的对象。我们可以使用会话执行图中的操作，并获取它们的输出。以下是运行上面创建的图的示例： import tensorflow as tf # 创建一个图 graph = tf.Graph() # 向图中添加节点 with graph.as_default(): a = tf.constant(5) b = tf.constant(2) c = tf.add(a, b) # 创建一个会话 with tf.Session(graph=graph) as session: # 运行图中的操作 result = session.run(c) print(result) 输出结果为： 7 4. 使用Tensorflow变量 在Tensorflow中，变量是指可以在图中持久化存储的值。我们可以使用变量来存储模型的参数。以下是创建和使用Tensorflow变量的示例： import tensorflow as tf # 创建一个变量 x = tf.Variable(0, name='counter') # 创建一个操作 increment_op = tf.assign(x, x+1) # 创建一个会话 with tf.Session() as session: # 初始化变量 session.run(tf.global_variables_initializer()) # 运行操作 print(session.run(increment_op)) print(session.run(increment_op)) print(session.run(increment_op)) 输出结果为： 1 2 3 5. 保存和加载Tensorflow模型 在Tensorflow中，我们可以使用Saver对象将模型保存到磁盘上，并在需要时加载它们。以下是保存和加载Tensorflow模型的示例： import tensorflow as tf # 创建一个变量 x = tf.Variable(0, name='counter') # 创建一个操作 increment_op = tf.assign(x, x+1) # 创建一个Saver对象 saver = tf.train.Saver() # 创建一个会话 with tf.Session() as session: # 初始化变量 session.run(tf.global_variables_initializer()) # 运行操作 print(session.run(increment_op)) print(session.run(increment_op)) print(session.run(increment_op)) # 保存模型 saver.save(session, 'my-model') # 加载模型 with tf.Session() as session: # 加载模型 saver.restore(session, 'my-model') # 运行操作 print(session.run(increment_op)) print(session.run(increment_op)) print(session.run(increment_op)) 输出结果为： 1 2 3 4 5 6 以上就是Tensorflow基础训练的步骤。Tensorflow是一个非常强大的机器学习框架，它提供了丰富的工具和函数库，可以帮助我们开发和部署各种机器学习模型。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值