theano tutorial(九)Configuration Settings and Compiling Modes（译）

最新推荐文章于 2019-10-22 17:02:00 发布
最新推荐文章于 2019-10-22 17:02:00 发布
阅读量542 收藏
点赞数
分类专栏： python

Configuration

     config 模块包含了几个属性用于修改Theano的行为，其中许多性质在导入Theano模块的时候就进行来检查，还有一些是只读的

     我们规定，用户代码不能用于修改config里面的属性

     Theano的代码给这些属性赋予来默认值，但是你可以在,theanorc文件里面重写这些属性，也可以依次用 THEANO_FLAGS 的环境变量重写这些值

优先顺序为：

1.配置 theano.config.<property>
2.配置 THEANO_FLAGS
3.配置 .theanorc 文件 (或者  THEANORC文件）


你可以在任何时候通过打印 theano.config来输出当前有效的配置情况。例如，如果你想看所有的配置参数，输入以下命令行

python -c 'import theano; print(theano.config)' | less
练习
 
#coding=utf-8

import numpy
import theano
import theano.tensor as T
rng=numpy.random

N=400
feats=784
#astype：复制一个矩阵，映射到特定的类型
# AddConfigVar('floatX',
#              "Default floating-point precision for python casts.\n"
#              "\n"
#              "Note: float16 support is experimental, use at your own risk.",
#              EnumStr('float64', 'float32', 'float16',
#                      convert=floatX_convert, ),
#              )
D=(rng.randn(N,feats).astype(theano.config.floatX),rng.randint(size=N,low=0,high=2).astype(theano.config.floatX))
training_steps=10000

x=T.matrix("x")
y=T.vector("y")
w=theano.shared(rng.randn(feats).astype(theano.config.floatX),name="w")
# asarray:Convert the input to an array
b=theano.shared(numpy.asarray(0,dtype=theano.config.floatX),name="b")
x.tag.test_value=D[0]
y.tag.test_value=D[1]

p_1=1/(1+T.exp(-T.dot(x,w)-b))
prediction=p_1>0.5
xent=-y*T.log(p_1)-(1-y)*T.log(1-p_1)
cost=xent.mean()+0.01*(w**2).sum()
gw,gb=T.grad(cost,[w,b])
train=theano.function(inputs=[x,y],outputs=[prediction,xent],updates=[(w,w-0.01*gw),(b,b-0.01*gb)],name="train")
predict=theano.function(inputs=[x],outputs=prediction,name="predic")
if any([x.op.__class__.__name__ in ['Gemv', 'CGemv', 'Gemm', 'CGemm'] for x in
        train.maker.fgraph.toposort()]):
    print('Used the cpu')
elif any([x.op.__class__.__name__ in ['GpuGemm', 'GpuGemv'] for x in
          train.maker.fgraph.toposort()]):
    print('Used the gpu')
else:
    print('ERROR, not able to tell if theano used the cpu or the gpu')
    print(train.maker.fgraph.toposort())
for i in range(training_steps):
    pred, err = train(D[0], D[1])

print("target values for D")
print(D[1])

print("prediction on D")
print(predict(D[0]))

注意：

        在你的代码里面加上floatX=float32(通过theano.config.floatX)

        在将输入存进一个共享变量之前，进行类型转换

        避免自动转换为int32，也不要从float32转换为float64

Mode

      每次调用theano.function的时候，都会对输入输出的表达式进行编译和优化。进行编译的方式是通过 mode 参数值进行编译的

  • 'FAST_COMPILE': Apply just a few graph optimizations and only use Python implementations. So GPU is disabled.使用一些graph优化，只使用Python实现：所有不能使用GPU

  • 'FAST_RUN': Apply all optimizations and use C implementations where possible.应用所有的优化并且在可能的地方使用C进行实现

  • 'DebugMode': Verify the correctness of all optimizations, and compare C and Python验证所有优化的正确性，比较C和Python

    implementations. This mode can take much longer than the other modes, but can identify several kinds of problems.的实现，这种模式耗费的时间比其他模式长，但能够确定几类问题

  • 'NanGuardMode': Same optimization as FAST_RUN, but check if a node generate nans.和FAST_RUN差不多，但会对是否产生NaN（无穷大）进行检查

The default mode is typically FAST_RUN, but it can be controlled via the configuration variableconfig.mode, which can be overridden by passing the keyword argument to theano.function.默认的模式是 FAST_RUN，但可以通过配置参数config.mode进行控制，config.mode可以通过传递键值参数给theano.function来进行重写

short name Full constructor What does it do?
FAST_COMPILE compile.mode.Mode(linker='py',optimizer='fast_compile') Python implementations only, quick and cheap graph transformations
FAST_RUN compile.mode.Mode(linker='cvm',optimizer='fast_run') C implementations where available, all available graph transformations.
DebugMode compile.debugmode.DebugMode() Both implementations where available, all available graph transformations.
      如果是为了进行调试，还有一种MonitorMode.它可以被用来追踪一个函数的执行

Linkers

       一个mode通常由两部分组成，一个optimezer和一个linker。一些模式，例如NanGuardMode和DebugMode,add logic around the optimizer and linker,NanGuardMode和DebugMode使用自己的linker
       你可以通过config.linker选择使用哪个linker。
linker gc[1] Raise error by op Overhead Definition
cvm yes yes “++” As c|py, but the runtime algo to execute the code is in c
cvm_nogc no yes “+” As cvm, but without gc
c|py [2] yes yes “+++” Try C code. If none exists for an op, use Python
c|py_nogc no yes “++” As c|py, but without gc
c no yes “+” Use only C code (if none available for an op, raise an error)
py yes yes “+++” Use only Python code
NanGuardMode no no “++++” Check if nodes generate NaN
DebugMode no yes VERY HIGH Make many checks on what Theano computes

Using DebugMode

一般情况下，你应该使用FAST_RUN或者FAST_COMPILE模式，但首先使用DebugMode来运行你的代码是非常有用的（尤其是当你在定一个一些信的表达式或者oprimizationde 时候，mode='DebugMode'）DebugMode是用来运行一些自我检查和断言来帮助你发现程序中的错误。注意DebugMode模式比FUST_RUN或者FAST_COMPILE要慢很多，所以在应该在小数据集上使用
      如果检测出来任何问题，DebugMode将会抛出根据错误异常，不过是在调用f([5])的时候还在在编译的时候，这种异常都不应该被忽视
      有一些错误只能在某些特别的输入值下被检测出来。在下面的例子中，我们没有办法保证有人会调用f（-1）
       如果你使用来构造函数而不是关键字DebugMode，你可以通过构造函数的参数来陪著它的行为。而关键字DebugMode(可以通过使用mode='DebugMode'获得）是非常严格的

pmt123456
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Theano学习笔记（五）——配置设置与编译模型
程引的专栏
09-02 2万+
配置 config模块包含了各种用于修改Theano的属性。在Theano导入时，许多属性都会被检查，而有些属性是只读模式。 一般约定，在用户代码内部config模块的属性不应当被修改。 Theano的这些属性都有默认值，但是你也可以在你的.theanorc文件里面修改，并且使用THEANO_FLAGS的环境变量进行修改。 优先顺序是： 1. theano.config.的赋值 2.
Theano tutorial快速入门教材
01-08
下面，我们将通过"Theano Tutorial"的快速入门教材来探讨其核心概念和应用。 1. **安装与配置**： Theano的安装通常通过Python的包管理器pip完成。在命令行输入`pip install theano`即可。为了充分利用GPU计算，...
Paper：Transformer模型起源—2017年的Google机器翻译团队—《Transformer：Attention Is All You Need》翻译并解读-20171206版
热门推荐
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
08-28 1万+
​ Paper：Transformer模型起源—2017年的Google机器翻译团队—《Transformer：Attention Is All You Need》翻译并解读-20171206版 目录 《Transformer：Attention Is All You Need》翻译并解读 Abstract 1、Introduction 2、Background 3、Model Architecture 4、Why Self-Attention 5、Training
Theano2.1.1-基础知识之准备工作
weixin_30900589的博客
06-09 65
来源：http://deeplearning.net/software/theano/tutorial/index.html#tutorial 这里介绍的是使用theano的一些基础知识，虽然theano是用来dl 的，不过其中的一些函数还是挺有用的，可以用在ml 里面。 在python或者ipython的交互模式下，可以按照如下形式来import theano： &gt...
Theano2.1.7-基础知识之设置的配置和编译模式
shouhuxianjian的专栏
06-16 1345
来自：http://deeplearning.net/software/theano/tutorial/modes.html Configuration Settings and Compiling Modes 一、配置     该 config 模块包含了好几个属性用来修改theano的行为。许多属性会在导入theano模块的时候被检查的，其中一些属性是被假定成只读形式的。约定
Awesome Go精选的Go框架，库和软件的精选清单.A curated list of awesome Go frameworks, libraries and software...
浩秦的博客
10-22 2167
Awesome Go financial support to Awesome Go A curated list of awesome Go frameworks, libraries and software. Inspired byawesome-python. Contributing Please take a quick gander at th...
Go 语言相关的优秀框架，库及软件列表
aa110212312的博客
09-11 1841
If you see a package or project here that is no longer maintained or is not a good fit, please submit a pull request to improve this file. Thank you! Contents Awesome Go Audio and Music ...
theano-tutorial:使用Theano的神经网络教程集合
05-23
电影教程 一个基于IPython笔记本的简短教程，介绍了Theano的基本概念，其中包括一个玩具多层感知器... 可以在这里找到更全面的教程： ://deeplearning.net/software/theano/tutorial/此处将其转换为IPython笔记本： :
Theano 1 why (神经网络 教学教程tutorial)
08-31
Theano_1_why_(神经网络_教学教程tutorial)
pi_heif-0.17.0-cp39-cp39-manylinux_2_31_armv7l.whl
最新发布
07-27
pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。
ubuntu20.04-ssh9.8p1-ssl3.0.14-focal-deb-amd64升级加固脚本.zip
07-27
若有新版本请查看文章最后附件地址：https://blog.csdn.net/liuxin638507/article/details/132450367 特点： 1、同时升级openssh与openssl，采用deb包形式，一键快速升级版本，无需每台单独再次进行编译， 2、隐藏openssh-版本号(openssh9.8p1及之后隐藏版本号还未找到方法) 3、已默认安全加固（已有配置跳过） 安装： 执行 bash upgrade_ssl_ssh_ubuntu.sh 进行安装 注意，升级安装后，确保sshd服务正常，请新开终端进行验证测试 验证 openssl版本： openssl version OpenSSL 3.0.14 4 Jun 2024 (Library: OpenSSL 3.0.14 4 Jun 2024) openssh版本： ssh -V OpenSSH_9.8p1, OpenSSL 3.0.14 4 Jun 2024
avif-0.5.0-cp36-cp36m-manylinux1_i686.whl
07-27
python库，可以直接安装使用，再也不怕自己pip下载，出现等待超时的现象。欢迎下载使用，使用过程中如有使用问题，请及时与我沟通交流，帮你解决！ python库，可以直接安装使用，再也不怕自己pip下载，出现等待超时的现象。欢迎下载使用，使用过程中如有使用问题，请及时与我沟通交流，帮你解决！ python库，可以直接安装使用，再也不怕自己pip下载，出现等待超时的现象。欢迎下载使用，使用过程中如有使用问题，请及时与我沟通交流，帮你解决！ python库，可以直接安装使用，再也不怕自己pip下载，出现等待超时的现象。欢迎下载使用，使用过程中如有使用问题，请及时与我沟通交流，帮你解决！ python库，可以直接安装使用，再也不怕自己pip下载，出现等待超时的现象。欢迎下载使用，使用过程中如有使用问题，请及时与我沟通交流，帮你解决！
教务管理系统-毕业设计.zip
07-27
教务管理系统-毕业设计.zip
pillow_jxl_plugin-1.2.5-cp39-none-win_amd64.whl
07-27
基本介绍 名称与起源：Pillow，原名为PIL（Python Imaging Library），但PIL只支持Python 2版本。随着Python 3的普及，Pillow作为PIL的一个分支出现，兼容Python 3并提供更多的功能和改进。 主要功能：Pillow支持多种图像格式的打开、保存、显示以及基本的图像操作和处理，如裁剪、缩放、旋转、翻转、滤镜应用等。 跨平台性：Pillow库可以在不同的操作系统上运行，包括Windows、Linux和MacOS等。 主要功能模块 Pillow库包含多个功能模块，每个模块都提供了特定的图像处理功能。以下是一些常用的模块： Image：用于处理图像文件，提供打开、保存、调整大小、旋转、裁剪、滤镜等功能。 ImageDraw：提供在图像上绘制各种形状（如线条、矩形、圆形）和文本的功能。 ImageFont：用于加载和使用TrueType字体文件，以便在图像上绘制文本时设置字体样式、大小和颜色。 ImageFilter：提供各种滤镜效果，如模糊、锐化、边缘增强等，用于图像增强、特效处理和图像识别等应用。 ImageEnhance：用于调整图像的亮度、对比度、颜色饱和度等参数，使图像更加清晰、明亮或具有特定的调色效果。 高级功能 除了基本的图像处理功能外，Pillow还支持一些高级功能，如色彩空间转换、直方图均衡化等。这些功能可以帮助用户进行更复杂的图像处理和分析。
pi_heif-0.17.0-cp38-cp38-win_amd64.whl
07-27
pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。
[毕设]高效人事考勤管理系统.zip
07-27
[毕设]高效人事考勤管理系统
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值