Theano Tutorial文档翻译（三） - 基础张量功能

最新推荐文章于 2024-08-30 15:13:47 发布
最新推荐文章于 2024-08-30 15:13:47 发布
阅读量1.6k 收藏
点赞数 1
分类专栏： Theano 文章标签： theano

源地址：http://deeplearning.net/software/theano/library/tensor/basic.html#libdoc-basic-tensor

Basic Tensor Functionality 基础张量功能

  • Theano支持任何Python的对象，但是他更多关注的是符号矩阵表达。当你输入
    x = T.fmatrix()

  • 这里的x是一个TensorVariable的实例。T.fmatrix对象本身是一个TensorType的实例。Theano知道变量x的类型是因为x.type指向了T.fmatrix。

  • 这张将介绍不同创建张量变量的方法，张量的属性和TensorVariable和TensorType的方法，以及不同的基础数学符号和算法。

Creation 创建

  • Theano提供一系列预定义的张量类型可以被用来新建张量变量。变量可以被命名以便调试，所有这些构造器接受一个可选择的参数name。例如，下面每个创建的TensorVariable实例都代表一个0维德ndarray的整数，被命名为myvar：
x = scalar('myvar', dtype='int32')
x = iscalar('myvar')
x = TensorType(dtype='int32', broadcastable=())('myvar')

Constructors with optional dtype 可选择的类型构造器

  • 这些都是最简单而且经常被使用来创建符号变量的方法。默认地，他们构建浮点变量（由config.floatX决定，见floatX），所以如果你使用这些构造器，转换不同精度是很简单的。
    theano.tensor.scalar(name=None, dtype=config.floatX)
    返回一个0维的ndarray变量
    theano.tensor.vector(name=None, dtype=config.floatX)
    返回一个1维的ndarray变量
    theano.tensor.row(name=None, dtype=config.floatX)
    返回一个2维变量，行数一定为1
    theano.tensor.col(name=None, dtype=config.floatX)
    返回一个2维变量，列数一定为1
    theano.tensor.matrix(name=None, dtype=config.floatX)
    返回一个2维的ndarray变量
    theano.tensor.tensor3(name=None, dtype=config.floatX)
    返回一个3维德ndarray变量
    theano.tensor.tensor4(name=None, dtype=config.floatX)
    返回一个4维的ndarray变量

All Fully-Typed Constructors 所有全类型构造器

  • 下面的Tensor类型是被theano.tensor模板提供的实力。他们都是可以调用，都有一个name参数。
from theano.tensor import *

x = dmatrix()
x = dmatrix('x')
xyz = dmatrix('xyz')
前缀含义
bint8
wint16
iint32
lint64
dfloat64
ffloat32
ccomplex64
zcomplex128
构造器维数形状广播机制
scalar0()()
vector1(?,)(False,)
row2(1,?)(True, False)
col2(?,1)(False, True)
matrix2(?,?)(False, False)
tensor33(?,?,?)(False, False, False)
tensor44(?,?,?,?)(False, False, False, False)

Plural Constructors 符合构造器

  • 下面的构造器可以一次性构造不同的变量。这些在练习中不经常被使用，但是在本次指导中会被使用来节省空间。
    iscalars, lscalars, fscalars, dscalsrs
    返回一个或多个标量变量
    ivectors, lvectors, fvectors, dvectors
    返回一个或多个向量变量
    irows, lrows, frows, drows
    返回一个或多个行变量
    icols, lcols, fcols, dcols
    返回一个或多个列变量
    imatrixs, lmatrixs, fmatrices, dmatrices
    返回一个或多个矩阵变量

  • 每一个复合构造器接受一个整数或多个字符串。如果输入一个整数，方法会返回愈多变量；如果输入一个字符串，它会使用变量名为每个字符串创建一个变量。例如：

from theano.tensor import *

x, y, z = dmatrices(3)
x, y, z = dmatrices('x', 'y', 'z')

Custom tensor types 自定义tensor类型

  • 如果你想要构建一个张量变量，它没有标准的广播模式，或者维度很高，你需要新建一个你自己的TensorType实例。你要新建这样一个实例，通过传入dtype和广播模式来构造。例如，你要新建一个你自己的5维张量：
dtensor5 = TensorType('float64', (False,)*5)
x = dtensor5()
z = dtensor5('z')
  • 你也可以重新定义一些已经提供的类型，他们会正确地相互作用：
my_dmatrix = TensorType('float64', (False,)*2)
x = my_dmatrix()
my_dmatrix == dmatrix # True

Converting from Python Objects 从python对象转换

  • 另外一个创建TensorVariable就是使用shared()。
    x = shared(numpy.random.randn(3,4))

  • 这会返回一个共享变量，.value属性是numpy的ndarray。变量的维数dtype都是从给定的ndarray参数推算出来的。共享的参数不会被复制，随后的变量改变会影响x.value

  • 更多的信息，请看shared()文档。

  • 最后，当你在算法表达式的TensorVariable实例中使用numpy的ndarray或者一个Python number，他的结果是一个TensorVariable。究竟ndarray或number发生了什么？Theano要求输入所有变量实例的表达式，所以Theano自动地把他们包装成TensorConstant。
    注意：Theano在使用表达式时为每个ndarray创建一个副本，所以随后的ndarray改变不会对Theano的表达式有影响

  • 对于numpy的ndarray，dtype是给定的，但是广播模式一定要被分配。TensorConstant用一个匹配的dtype被赋予一个type，所有形状维度是1的都被赋予广播模式True。

  • 对于python的number， 广播模式是（）， 但是dtype一定要被推算。Python的整数被储存在一个最小的dtype，所以小整数像1被储存在bscalar。以此类推，Python的float被储存在fscalar如果fscalar足够完美地储存，否则就用dscalar。
    注意：当config.floatX==float32.Python的float会用单精度存储

theano.tensor.as_tensor_variable(x, name=Noen, ndim=None)
- 把参数x转换成 TensorVariable 或 TensorConstant。
- 很多tensor的运算都会使用这个函数做预处理。
- 当x是一个Python的number，dtype像上述描述。
- 当x是一个list或tuple，它会被传到numpy.asarray
- 如果ndim不为空，它必须是个整数，输出会被广播。

TensorType and TensorVariable 张量类型和张量变量

class theano.tensor.TensorType(Type)
Type的类被用来表示numpy.ndarray的值
- broadcastable
一个对于每维True/False的元组。True在i的位置意味着在评估时间里，ndarray在第i维大小为1。

模式含义}
[]标量
[True]1D标量（长度为1的向量）
[True, True]2D标量（1*1矩阵）
[False]向量
[False, False]矩阵
[False]*nnD张量
[True, False]行（M*1矩阵）
[False, True]列（1*M矩阵）
[False, True, False]一个M*1*P张量(a)
[True, False, False]一个1*N*P张量(b)
[False, False, False]一个M*N*P张量(a+b的模式)

维度广播是Flase的，长度可以是1或更多。True的一定要是1。
当两个有不同维度的参数使用元素依次操作（element-wise），广播通过在最左扩展True属性。例如[False]会被扩展成[True, False]。
middle_broadcast = TensorType('complex64', [False, True, False])

  • ndim
    变量值的维度数，在构建表达图前一定要知道

  • dtype
    `int8, int16, int32, int64, uint8, uint16, uint32, uint64, float32, float64, complex64, complex128’

  • __init__(se;f, dtype, broadcastable)

TensorVariable

class theano.tensor.TensorVariable(Variable, _tensor_py_operators)
class theano.tensor.TensorConstant(Variable, _tensor_py_operators)
class theano.tensor.TensorSharedVariable(Variable, tensor_py_operators)

class theano.tensor.__tensor_py_operators
这个混杂类有方便的属性，方法并且支持TensorVariable， TensorConstant和TensorSharedVariable。

  • type
  • ndim
  • reshape(shape, ndim=None)

  • dumshuffe(*pattern)
    pattern的一些例子：
    (‘x’) -> 令一个0维（标量）变成1为向量
    (0,1) -> 2维向量
    (1,0) -> 第一第二维反转
    (‘x’,0) -> N变成1*N
    (0,’x’) -> N变成N*1
    (2,0,1) -> A*B*C变成C*A*B
    (0,’x’,1) -> A*B变成A*1*B
    (1,’x’,0) -> A*B 变成 B*1*A
    (1,) -> 1*A 变成 A

  • flatten(ndim=1)

未完待续，实在太多了，而且最近TI比赛多，看比赛去了。。

Viggo_yuan
关注
专栏目录
PyTorch 的并行计算——PyTorch 中文文档
AI天才研究院
08-09 1497
近年来，随着深度学习模型规模和数据集的不断增长，训练时间成为了制约模型性能提升的关键因素。为了加速模型训练，并行计算技术应运而生，并逐渐成为深度学习领域的研究热点。PyTorch 作为一款流行的深度学习框架，提供了丰富的并行计算功能，可以帮助开发者轻松实现模型的并行训练，从而大幅缩短训练时间。实现数据并行，将模型复制到多个 GPU 上，并将数据分发到不同的 GPU 进行计算。实现分布式训练，支持多种后端，如 MPI、Gloo 和 NCCL。
Theano---scan函数
pmt123456的博客
05-05 892
def scan(fn, sequences=None, outputs_info=None, non_sequences=None, n_steps=None, truncate_gradient=-1, go_backwards=False, mode=None,
Pytorch学习笔记（一）－－Tensor和Variable
屋顶数☆☆的博客
06-04 1625
本学习笔记均基于ubantu16.04上的pytroch，在正式笔记开始之前有两点 一．安装问题 在安装pytorch时候走了很多弯路和问题 因每个人的问题不同，教程不在此赘述，但总的顺序如下： 安装nvida cuda cudnn gpu版本的pytorch 二．学习教程 本次需系笔记全部基于廖星宇的＜深度学习入门之pytroch＞，git地址如下 https://github.com/L1...
深度学习之张量（Tensor）的创建、常见属性及数据转换
最新发布
m0_68153457的博客
08-30 1088
PyTorch会将数据封装成张量（Tensor）进行计算，所谓张量就是元素为相同类型的多维矩阵。是一个多维数组，通俗来说可以看作是扩展了标量、向量、矩阵的更高维度的数组。张量的维度决定了它的形状（Shape）是 0 维张量，是 1 维张量，是 2 维张量PyTorch中有3种：浮点数、整数、布尔。其中，浮点数和整数又分为8位、16位、32位、64位，加起来共9种。
python中tensor与variable_tensor和Variable
weixin_39603265的博客
12-06 220
初学tensorflow，有点搞不懂tensor和Variable的区别，经过思考，得到以下总结！目录Tensorimport tensorflow as tfx = tf.random_uniform([3,3]) #创建一个Tensorwith tf.Session() as sess:print(type(x))y = sess.run(x)print(type(y)) ...
pytorch教程（1）--张量(tensor)和变量(Variable)
zhuiqiuk的专栏
01-07 1985
把Pytorch当做Numpy用 PyTorch的官方介绍是一个拥有强力GPU加速的张量和动态构建网络的库，其主要构建是张量，所以可以把PyTorch当做Numpy来用，Pytorch的很多操作好比Numpy都是类似的，但是其能够在GPU上运行，所以有着比Numpy快很多倍的速度。 import torch import numpy as np     1     2 # 创建一个nump...
Variable和Tensor的区别？
小花生的博客
10-07 7144
Tensor和Variable的区别 代码： c=a+b import tensorflow as tf a = tf.Variable(1.0,name='a') b = tf.Variable(2.0,name='b') c = tf.add(a,b) sess = tf.Session() sess.run(tf.global_variables_initializer()) pri...
Theano tutorial快速入门教材
01-08
在"Theano Tutorial.pdf"中，读者可以期待深入浅出的讲解，逐步引导从基础概念到实际应用，包括示例代码和练习，以帮助快速掌握Theano的使用。同时，"\no.txt"可能是一个辅助文件，比如笔记或习题解答，进一步加深对...
theano lenet
08-05
2. `13.Deep learning tutorial.pdf`：这可能是一个关于深度学习的教程文档，可能包含了LeNet或其他CNN模型的理论介绍和实现细节。 3. `mlp.py`：多层感知器（MLP）是最早的前馈神经网络形式，但这里提到的`mlp.py`...
Convolution arithmetic tutorial
11-25
Theano是一个开源的Python库，用于定义、优化和评估数学表达式，特别适合于张量操作。在Theano中，可以使用`T.conv2d`函数来实现卷积操作。这个函数接受输入数据张量、滤波器张量、填充和步长等参数，返回卷积结果。...
Deep Learning Tutorial
10-15
4. Theano/Python编程提示：Theano是一个Python库，用于定义、优化和评估数学表达式，特别是张量操作。这部分可能会教授如何使用Theano库进行编程，以及一些编程小技巧。 5. 模型构建与训练：这部分是深度学习的...
tensor和Variable
Dashi_Lu的博客
03-05 523
初学tensorflow，有点搞不懂tensor和Variable的区别，经过思考，得到以下总结！ 目录 Tensor Variable 总结 Tensor import tensorflow as tf x = tf.random_uniform([3,3]) #创建一个Tensor with tf.Session() as sess: print(t...
Pytorch学习笔记（一）张量（Tensor）/ 变量（Variable）
qq_35495464的博客
02-04 2319
这里写目录标题一级目录二级目录三级目录 一级目录 二级目录 三级目录
pytorch的数据结构—tensor和variable
Major_S的博客
10-10 701
一 张量的创建 1.Tensor(张量)的概念 2.Tensor:直接创建 3.Tensor:依据数值创建 4.Tensor:依据概率创建 1.Tensor(张量)的概念 ''' 输出版本 import torch print("hello torch{}".format(torch.__version__)) ''' ''' 张量是一个多维数组 他是标量、向量、矩阵的高纬拓展 variab...
Variable和tensor的计算
嗨皮lemon的博客
08-31 527
变量在torch中是建立一个计算图，但是相比较Tensorflow和Theano中的静态图， 它是动态的，torch没有placeholder，torch只能给计算图传递变量 import numpy as np import torch from torch.autograd import Variable tensor=torch.Tensor([[1,2],[3,4]]) var...
深度学习（三）theano入门学习
热门推荐
hjimce的专栏
07-08 3万+
1、theano.tensor常用数据类型 学习theano，首先要学的就是theano.tensor使用，其是基础数据结构，功能类似于python.numpy，教程网站为：http://deeplearning.net/software/theano/library/tensor/basic.html 在theano.tensor数据类型中，有double、int、uchar、float等各种类型，不过我们最常用到的是int和float类型，float是因为GPU一般是float32类型，所以在编写程序的
Theano学习一：张量、计算图、操作算子等基础知识
智者之家
07-29 3104
张量(tensor)是一个多维的数据存储形式，数据的的维度被称为张量的阶。它可以看成是向量和矩阵在多维空间中的推广,向量可以看成是一维张量,矩阵可以看成是两维的张量。在Python中，一些科学计算库（如Numpy）已提供了多维数组。Theano并不能取代Numpy，但可与之协同工作。Numpy可用于初始化张量。 为了在CPU和GPU上执行相同的计算，采用符号变量，并由张量类、抽象以及有变量节点和应...
theano学习初步(二) 基础Tensor函数
Mr.Phoebe的专栏
09-06 1万+
本文来自于官方文档Creation（声明）Theano有多种方式进行声明变量。变量也可以进行命名，从而便于debug，而且每一种声明方式都能够接受name的参数。 下面这三种声明方式，声明的是0维的整型变量，它的名字是myvar>>> x = scalar('myvar', dtype='int32') >>> x = iscalar('myvar') >>> x = TensorType(dty
如何查看Theano的TensorSharedVariable和TensorVariable变量
沉心修炼
01-20 4210
在Theano调试过程中，TensorSharedVariable类型变量可以用get_value方法和set_value方法获取和设置其值，至于TensorVariable类型变量是没有值的，无法直接获取，只能通过提前赋值或者打印的方法来看。
Theano官方文档：高效数学表达式编译与优化库
"theano文档，官方提供的深度学习库Theano的详细资料，涵盖从安装、教程到优化和扩展的全方位指南。" Theano是Python的一个库，专为定义、优化和高效评估涉及多维数组的数学表达式而设计。这个库在深度学习和机器...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值