(一)Tensorflow函数解析:变量及会话

最新推荐文章于 2022-04-12 16:53:29 发布
最新推荐文章于 2022-04-12 16:53:29 发布
阅读量320 收藏
点赞数 1
分类专栏： # TensorFlow1.x 文章标签： constant shape tensor

环境

  • 每篇10个函数
  • Tensorflow1.12.0
  • Ubuntu18.04
  • numpy1.15.4

1 tf.constant()

tf.constant(value, shape=None, dtype=none, name=‘Const’ ,verify_shape=False)

1.0 变量列表

序号参数描述
1value输出类型的值
2dtype结果张量的类型
3shape可选张量的形状
4name张量名称
5verify_shape布尔值,确定值的形状

1.2 例解

import tensorflow as tf 

a = tf.constant([1.0, 2.0], name="a")
b = tf.constant([2.0, 3.0], name="b")
c = tf.constant([1, 2, 3, 4, 5, 6])
d = tf.constant([[1,2,3],[4,5,6]])
result = a + b
print(a)
print(result)
print(c.shape)
print(c.get_shape())
print(tf.shape(c))
print(d)
print(d.shape)
print(d.get_shape())
print(tf.shape(d))

with tf.Session() as sess:
	print(sess.run(result))
	print(a.eval())

【结果】

Tensor("a:0", shape=(2,), dtype=float32)
Tensor("add:0", shape=(2,), dtype=float32)
(6,)
(6,)
Tensor("Shape:0", shape=(1,), dtype=int32)
Tensor("Const_1:0", shape=(2, 3), dtype=int32)
(2, 3)
(2, 3)
Tensor("Shape_1:0", shape=(2,), dtype=int32)
Tensor("Shape:0", shape=(1,), dtype=int32)
[ 3.  5.]
[ 1.  2.]

【解读】

0.tf.constant参数说明：value表示给变量赋值，值可为数值或列表；shape为变量维度(行，列)。
1.tf.constant是一个计算，结果是一个张量，如print(a)，结果为Tensor("a:0", shape=(2,), dtype=float32)。其中，a:0是属性名字，张量的唯一标识符。
2.张量的维度：c.shape=c.get_shape()，tf.shape(c)是c的整体结构。
3.维度shape(row, column)。d的shape，为(2, 3)，2行3列。
4.tf.Session()执行定义的运算。sess.run运行计算，可通过tf.Tensor.eval函数获取张量的取值。如a.eval(),result.eval()。

2 Session()

2.1 初始化参数

__init__(
		target=' ',
		graph=None,
		config=None
)

2.2 参数列表

序号参数描述
1target连接的执行引擎
2graph载入的图结构
3configConfigProto协议状态配置会话

2.3 例解

2.3.1. 创建默认会话

  • Demo1
import tensorflow as tf
tf.reset_default_graph()

v1 = tf.Variable([250], name="v_1")

sess = tf.Session()
init_op =  tf.global_variables_initializer()
sess.run(init_op)
# 在这种模式下,不能使用eval(),因为没有注册session
# print("variable value: {}".format(sess(v1.eval())))
print("variable value: {}".format(sess.run(v1)))
sess.close()
  • Result
variable value: [250]
variable value: [250]
  • Demo2
import tensorflow as tf

v1 = tf.Variable(250, name="v_1")
with tf.Session() as sess:
    init_op =  tf.global_variables_initializer()
    sess.run(init_op)
    print("variable value: {}".format(v1.eval()))
    print("variable value: {}".format(sess.run(v1)))
  • Result
variable value: 250
variable value: 250
  • Analysis
    (1) 新建会话有两种默认方式,with结构或tf.Session(),然后关闭;
    (2) 获取张量值,有两种方法,eval()和直接运行run();

2.3.2 交互会话

import tensorflow as tf

sess = tf.InteractiveSession()
print(result.eval())
sess.close()

2.3.3. 上下文管理器会话

import tensorflow as tf
tf.reset_default_graph()
# 新建图
g = tf.Graph()
# 新图作为默认的图,构建图结构
with g.as_default():
    v1 = tf.Variable([250], name="v_1")

with tf.Session(graph=g) as sess:
    # 初始化变量
    init_op = tf.global_variables_initializer()
    sess.run(init_op)
    print("variable tensor: {}".format(v1))
    print("variable name: {}".format(v1.name))
    print("variable value: {}".format(sess.run(v1)))
  • Result
variable tensor: <tf.Variable 'v_1:0' shape=(1,) dtype=int32_ref>
variable name: v_1:0
variable value: [250]

2.3.4 ConfigProto Protocol Buffer会话

import tensorflow as tf

config = tf.ConfigProto(allow_soft_placement=True, log_device_placement=True)
sess1 = tf.InteractiveSession(config=config)
sess2 = tf.Session(config=config)

3 ConfigProto

  • ConfigProto(allow_soft_placement=True, log_device_placement=True)
1.ConfigProto可配置类似并行的线程数，GPU分配策略、运算超时时间等参数。
2.allow_soft_placement设为True，GPU上的运算可移植到CPU上，不会报错。
3.log_device_placement生产环境中，设置为False减少日志量。

4 tf.Variable

Tensorflow通过变量名称创建或获取变量。
tf.Variable()

4.1 初始化参数

__init__(
		initial_value=None,
		trainable=True,
		collections=None,
		validate_shape=True,
		caching_device=None,
		name=None,
		variable_def=None,
		dtype=None,
		expected_shape=None,
		import_scope=None,
		constraint=None,
		use_resource=None,
		synchronization=tf.VariableSynchronization.AUTO,
		aggregation=tf.VariableAggregation.NONE
)

4.2 参数功能

序号参数描述
1initial_value张量或python对象转换的张量,初始值,若没有指定形状,则validate_shape=False,若需要返回值,则需指定数据类型dtype
2trainable默认True,即该变量为可训练的变量,可以添加到图的集合中
3collections新建图中集合的键列表,新建的变量可添加到集合中
4validate_shape若为False,则可不指定数据形状,默认为True,需要指定数据形状
5caching_device选择处理变量的设备
6name变量名称,实际在计算图中的名称
7variable_defVariableDef协议状态,若不空,则从图中存在的变量重新建立变量,如载入模型过程中,新建图结构时定义的变量,即利用模型中的变量进行定义
8dtype变量类型,有int32, float32等
9expected_shape张量形状,若设置则将张量设置为该形状
10import_scope给变量添加命名空间,即将变量添加到命名空间中
11constraint优化器更新后应用与变量的可选投影函数
12use_resource是否使用源变量
13synchronization未使用
14aggregation未使用

5 tf.get_variable

5.1 初始化参数

tf.get_variable(
		name,
		shape,
		dtype=None,
		initializer=None,
		regularizer=None,
		trainable=True,
		collections=None,
		caching_device=None,
		partitioner=None,
		validate_shape=True,
		use_resource=None,
		custom_getter=None
		constraint=None,
		variable_def=None,
		synchronization=tf.VariableSynchronization.AUTO,
		aggregation=tf.VariableAggregation.NONE
)

5.2 参数功能

序号参数描述
1name新建或存在变量的名称,实际在计算图中的名称
2shape新建或存在变量的形状
3dtype新建或存在变量的形状,默认为float
4initializer初始化变量
5regularizer函数,将新建的变量结果添加到集合中
2trainable默认True,即该变量为可训练的变量,可以添加到图的集合中
3collections新建图中集合的键列表,新建的变量可添加到集合中
5caching_device选择处理变量的设备
4partitioner分割器,接受完全定义的张量形状和新建的变量类型
4validate_shape若为False,则可不指定数据形状,默认为True,需要指定数据形状
10use_resource是否使用源变量
12custom_getter作为第一个参数接受真正的getter,允许你重写内部get变量方法
13constraint优化器更新后应用与变量的可选投影函数
14synchronization未使用
15aggregation未使用

注：shape在卷积神经网络中为4个列向量，如[3, 3, 3, 16]

第n个数字描述
13表示滑动窗口宽
23表示滑动窗口高
33表示当前图像深度
416表示卷积计算后下一层网络输入图像的深度

6 rnn_cell

6.1 MultiRNNCell

功能:创建一个由多个RNNCells按序列组成的RNN单元, 返回tensor或tensor列表.
警告:未来版本2.0中将会移除,使用tf.keras.layers.StackedRNNCells代替.

序号参数描述
1cellsRNNCells的列表将按照这个cells顺序组成
2state_is_tuple为True接受并返回的状态是n维的tuple,n=len(cells),若为False,状态都按照列连接

6.2 BasicLSTMCell

功能:基本LSTM循环神经网络单元.
基于:http://arxiv.org/abs/1409.2329
高级功能使用LSTMCell.

__init__(
		num_units,
		forget_bias=1.0,
		state_is_tuple=True,
		activation=None,
		name=None,
		variable_def=None,
		dtype=None,
		**kwargs
)
序号参数描述
1num_unitsint,在LSTM单元中的单元数量
2forget_biasfloat,遗忘门的偏置,从CudnnLSTM训练节点中载入时需要手动设为0.0
3state_is_tuple若为True,接受并返回c_state和m_state的2维tuple,若为False,则依据列排序
4activationstates中的激活函数,默认为tanh
5reuseboolean重复使用scope变量的标志位,True重复使用,False重复使用
6name新建或存在变量的名称,实际在计算图中的名称
7dtype默认的layer类型
8**kwargsdict,通用layer属性的关键词名称

6.3 LSTMCell

功能:LSTM循环神经网络单元.
未来2.0版本将使用tf.keras.layers.LSTMCell代替.

__init__(
		num_units,
		use_peepholes,
		cell_clip,
		initializer,
		num_proj,
		proj_clip,
		num_unit_shards,
		num_proj_shards,
		forget_bias=1.0,
		state_is_tuple=True,
		activation=None,
		name=None,
		variable_def=None,
		dtype=None,
		**kwargs
)
序号参数描述
1num_unitsint,在LSTM单元中的单元数量
2use_peepholesbool,设True启用diagonal/peephole连接
3cell_clip可选,float值,若在单元输出激活之前单元状态被该值截断
4initializer可选,用于权重和投影矩阵的初始值设定
5num_proj可选,投影矩阵的输出维度,若为None,则没有投影
6proj_clip可选,float值,若num_proj>0且pro_clip不为空,投影值在[-proj_clip,proj_clip]之间
7num_unit_shards将被variable_scope代替
8num_proj_shards将被variable_scope代替
9forget_biasfloat,遗忘门的偏置,从CudnnLSTM训练节点中载入时需要手动设为0.0
10state_is_tuple若为True,接受并返回c_state和m_state的2维tuple,若为False,则依据列排序
11activationstates中的激活函数,默认为tanh
12reuseboolean重复使用scope变量的标志位,True重复使用,False重复使用
13name新建或存在变量的名称,实际在计算图中的名称
14dtype默认的layer类型
15**kwargsdict,通用layer属性的关键词名称

[参考文献]
[1]https://tensorflow.google.cn/api_docs/python/tf/constant
[2]https://tensorflow.google.cn/api_docs/python/tf/Variable
[3]https://tensorflow.google.cn/api_docs/python/tf/get_variable
[4]https://tensorflow.google.cn/api_docs/python/tf/session
[5]https://www.tensorflow.org/versions/r1.13/api_docs/python/tf/nn/rnn_cell?hl=en

持续更新ing
天然玩家
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
TensorFlow 堆叠循环神经网络（深层循环神经网络）
weixin_42272768的博客
01-15 1966
堆叠循环神经网络，又叫深层循环神经网络，就是将多个循环神经网络堆叠起来。在TensorFlow中，提供了tf.keras.layers.StackedRNNCells()类来封装堆叠神经网络的单元。要注意的是，这相当于是神经元，还要通过tf.keras.layers.RNN()封装成一个网络层才能正常使用。 下图对堆叠循环神经网络的解释： 左侧为堆叠循环神经网络，右侧为展开图。 代码如下： import tensorflow as tf mnist = tf.keras.datasets.mnist (x
【tensorflow基础学习】会话
Mosu_的专栏
10-12 361
会话--tensorflow运行模型 一、tensorflow系统结构的概述 从图中可以看出tensorflow的整个系统在结构上大体可以分为两个子系统—前端系统和后端系统。其中前端系统提供编程模型，负责构造计算图；后端系统提供运行时环境，负责执行计算图。 我们重点关注系统中Client、Distributed Master、work Services和Kernel Implements...
关于numpy数组shape的理解 比如：(3,) (2,3) (2,3,2) 以及对维度的小认识
sinat_26753005的博客
04-12 5139
shape大概有3种 —————————————————————————————— （2，） 有一个数字，表示数组只有1个维度 '2’说明有这个维度上有2个元素 array = np.array([996,888]) —————————————————————————————— （2，3） 有两个数字，表示数组有2个维度，可以理解为我们熟悉的矩阵 ‘2’说明第一个维度上有2个元素，可以理解为矩阵有2行； ‘3’说明第二个维度上有3个元素，可以理解为矩阵每一行上有3个元素 array = np.array(
python中shape用法
elephant_my的博客
04-12 4万+
一维矩阵 二维矩阵 更详细讲解：Python里对于shape()的理解 Python里对于shape()的理解 （1）shape（）含义 在笔者debug深度学习相关代码的时候，很容易出现shape()这样形式的东西，用来告知输出数据的形式，由于shape（）里出现的数字数量不同，还经常有shape（？，64，512）这样的数据存在，因此上网查了一些信息，作出比较通俗易懂的解释： import numpy as np a = np.array([[[1,2,3],[4,5,6]]]) print(a.s
TensorFlow 获取张量形状的操作 tf.shape()、属性shape 及 方法get_shape() 的基本用法及实例代码
sdnuwjw的博客
01-09 1万+
一、环境 TensorFlow API r1.12 CUDA 9.2 V9.2.148 cudnn64_7.dll Python 3.6.3 Windows 10   二、官方说明 1、tf.shape(tensor) 获取输入张量 input 的形状，以 1 维整数张量形式表示 https://tensorflow.google.cn/api_docs/python/tf/s...
批标准化 tf.keras.layers.BatchNormalization 中的trainable参数与training参数比较
wzg2016的博客
03-26 3160
摘要： 在tensorflow中，training参数和trainable参数是两个不同的参数，具有不同的约束功能。 training: True/False,告诉网络现在是在训练阶段还是在inference(测试)阶段。 trainable:True/False, 设置这一层网络的参数变量是可在训练过程中被更新，是可训练还是不可训练。 代码1：tf.keras.layers.BatchNormalization的使用示例，及training参数和trainable的影响分析 import te.
1.3 TensorFlow 会话
AaronPaul的博客
04-27 143
session是执行定义好的运算 计算完成之后要关闭会话来帮助系统回收资源 一般会用两种方式来调用会话模式 1. 用sess.close() 控制 import tensorflow as tf # 创建会话 sess = tf.Session() # 执行会话 这里是伪代码，不要直接跑 sess.run() # 关闭会话释放资源 sess.close() 2. 用with 控制 # 创建一个会话并用上下文管理 with tf.Session() as sess: sess.run(
TensorFlow Session会话控制&Variable变量详解
09-20
TensorFlow作为目前最流行的机器学习框架之一，其核心概念包括Session和Variable。下面我将详细解析这两个核心概念，并结合代码示例说明其使用方法和注意事项。 首先，我们来了解Session的用法。在TensorFlow中，...
TensorFlow 技术解析与实战源代码
01-08
本资源集合了 TensorFlow 的技术解析和实战案例，由李嘉璇专家进行讲解，旨在帮助读者深入理解和掌握 TensorFlow 的核心概念及应用技巧。 **一、TensorFlow 基础** 1. **张量（Tensor）**: TensorFlow 的核心是...
tensorflow动态设置trainable
11-17 1470
tensorflow中定义的tf.Variable时，可以通过trainable属性控制这个变量是否可以被优化器更新。但是，tf.Variable的trainable属性是只读的，我们无法动态更改这个只读属性。在定义tf.Variable时，如果指定trainable=True，那么会把这个Variable添加到“可被训练的变量”集合中。 把trainable指定为布尔变量是不管用的，t...
解决Keras TensorFlow 混编中 trainable=False设置无效问题
09-16
主要介绍了解决Keras TensorFlow 混编中 trainable=False设置无效问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
tensorflow笔记 ：常用函数说明
热门推荐
Multiangle's Notepad
10-13 10万+
本文章内容比较繁杂，主要是一些比较常用的函数的用法，结合了网上的资料和源码，还有我自己写的示例代码。建议照着目录来看。1.矩阵操作1.1矩阵生成这部分主要将如何生成矩阵，包括全０矩阵，全１矩阵，随机数矩阵，常数矩阵等tf.ones | tf.zerostf.ones(shape,type=tf.float32,name=None) tf.zeros([2, 3], int32) 用法类似，都是产
TensorFlow笔记（三）——tf.Variables(): 创建、初始化、保存和加载
qq_37764129的博客
06-20 3503
引言 当你训练一个模型的时候，你使用变量去保存和更新参数。在Tensorflow中变量是内存缓冲区中保存的张量（tensor）。它们必须被显示的初始化，可以在训练完成之后保存到磁盘上。之后，你可以重新加载这些值用于测试和模型分析。 本篇文档引用了如下的Tensorflow类。以下的链接指向它们更加详细的API： tf.Variable类。 tf.train.Saver类。 ...
shape (2,)与(2,1)区别
Alla
08-01 876
[1,2]的shape值(2,)，意思是一维数组，数组中有2个元素。 a = np.array([1,2,3]) a.shape 输出为(3,) 它更多的是和多维做对比，表示一维数组，如果非要从行列的角度考虑。如果 W.shape = (2, 4), x.shape = (2, ) np.dot(W.T, x)：此时x是列向量, np.dot(x, W) 此时 x 是行向量，两种情况下返回的也均是一维向量，无所谓行列的概念。 [[1],[2]]的shape值是(2,1)，意思是一个二维数组，每行有1.
shape 函数，以及shape(2,)和shape（2，1）区别
weixin_38859557的博客
06-22 1万+
1：一般的数组如：【22，33】 shape是（2，）：他表示他是一个一维数组，数组中有两个元素；注意他和shape（2，1）的区别，他两个不一样。2：[[22],[33]]  他的shape是(2,1),表示二维数组，每行有一个元素3：[[22,33]] shape是（1，2） 他表示一个二维数组，每行有两个元素...
np.array 的shape (2,)与(2,1)的分别是什么意思
lz_901的博客
03-28 6222
一般情况下： [1,2]的shape值(2,)，意思是一维数组，数组中有2个元素。 [[1],[2]]的shape值是(2,1)，意思是一个二维数组，每行有1个元素。 [[1,2]]的shape值是（1，2），意思是一个二维数组，每行有2个元素。 ...
python中 shape(2,1)和shape(2,)的区别
Virgo的博客
03-26 8911
import numpy as np x = np.array([1, 2]) y = np.array([[1],[2]]) print x.shape print y.shape >>> (2,) (2, 1) x[1,2]的shape值(2,)，意思是一维数组，数组中有2个元素 y[[1],[2]]的shape值是(2,1)，意思是一个二维数组，2行1列 ...
shape=(2,) (2,1) (1,2) 的区别
weixin_30820077的博客
06-27 3396
1. 一般的数组如：[22，33] shape是（2，）：他表示他是一个一维数组，数组中有两个元素； 注意他和shape（2，1）的区别，他两个不一样。 2. [[22],[33]] 他的shape是(2,1),表示二维数组，每行有一个元素 3. [[22,33]] shape是（1，2） 他表示一个二维数组，每行有两个元素 转载于:https://www.cnblogs.com/Bell...
tensorflow2学习第一天
仓小小鼠
04-11 229
第一天学习数据类型 数据类型 import tensorflow as tf tf.constant(1) <tf.Tensor: id=0, shape=(), dtype=int32, numpy=1> 就是一个整数类型的1 tf.constant(1.) <tf.Tensor: id=1, shape=(), dtype=float32, numpy=1.0>...
TensorFlow入门指南：变量、卷积与流程图解析
"Tensorflow是一个强大的开源库，用于各种机器学习和深度学习任务。它通过定义计算图来工作，其中变量需要初始化并在会话(session)中执行。文档涵盖了Tensorflow的基础，包括feature模块、wide and deep模型的参数...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值