Keith

记录与分享学习点滴。 QQ:862820505 (有偿咨询)

tensorflow学习笔记(四十五):sess.run(tf.global_variables_initializer()) 做了什么?

当我们训练自己的神经网络的时候,无一例外的就是都会加上一句 sess.run(tf.global_variables_initializer()) ,这行代码的官方解释是 初始化模型的参数。那么,它到底做了些什么?一步步看源代码: global_variables_initializer 返回一个...

2017-10-20 09:05:13

阅读数 34726

评论数 9

tensorflow学习笔记(四十四):用Queue保存更复杂的关系

当查看 tensorflow 中提供的 Queue 的类的时候,会发现有个 dtypes 参数,这个参数代表 Queue 中元素是什么类型的,如果 dtypes=[tf.string, tf.int64] ,这个表示,Queue 中每个元素是 (string, int) 。import tenso...

2017-10-17 12:22:36

阅读数 610

评论数 0

tensorflow学习笔记(四十三):使用 tfdbg 来 debug

由于 tensorflow 在训练的时候是在后台运行的,所以使用 python 的 debug 工具来 debug tensorflow 的执行过程是不可行的,为此,官方提供了一款debug 工具,名为 tfdbg 有很多人觉得,为了 debug tensorflow 的计算过程又要学习一个新的...

2017-08-22 14:14:13

阅读数 7172

评论数 3

tensorflow:使用tfrecords时的注意事项

使用 tfrecords 时的注意事项 确保 string_input_producer 中的文件名字是正确的。 string_input_producer(file_names, num_epochs=100000, shuffle=True) 当指定 num_epochs 时,在初始化模型参...

2017-08-05 12:09:01

阅读数 3401

评论数 1

tensorflow自定义op:梯度

tensorflow自定义op,梯度 tensorflow 是 自动微分的,但是如果你不给它定义微分方程的话,它啥也干不了 在使用 tensorflow 的时候,有时不可避免的会需要自定义 op,官方文档对于 定义 op 的前向过程介绍挺详细,但是对于 梯度 的介绍有点随意。 本文主要介绍在 ...

2017-07-09 21:39:47

阅读数 6823

评论数 3

tensorflow自定义op:work_shard

强行解释 work_shard 在学习 tensorflow 自定义 op 的时候碰到的,google 了一下,也没有找到详细的介绍,难道是姿势不对?? 通过看 了一些示例,这里打算强行解释一波。 概览如果想用 work shard,首先 代码能够并行化计算。work shard ...

2017-07-09 15:44:33

阅读数 1889

评论数 0

ubuntu16.04 显卡驱动与cuda安装

几乎所有的深度学习框架都可以感受到GPU加速的乐趣 准备工作 配置 apt-get 的源 系统设置-> 软件与更新 ->ubuntu 软件 -> Download from -> 把这里改成阿里的源或其它高校的源即可安装依赖sudo apt-get install pyth...

2017-07-03 09:16:48

阅读数 3031

评论数 3

tensorflow:自定义op简单介绍

tensorflow 自定义 op本文只是简单的翻译了 https://www.tensorflow.org/extend/adding_an_op 的简单部分,高级部分请移步官网。可能需要新定义 c++ operation 的几种情况: 现有的 operation 组合不出来你想要的 op 现有...

2017-06-26 13:32:55

阅读数 17513

评论数 4

tensorflow:上下文管理器 与 name_scope, variable_scope

with block 与上下文管理器 上下文管理器:意思就是,在这个管理器下做的事情,会被这个管理器管着。 熟悉一点python的人都知道,with block与上下文管理器有着不可分割的关系。为什么呢?因为with Object() as obj:的时候,会自动调用obj对象的__ente...

2017-06-21 19:35:38

阅读数 6237

评论数 4

tensorflow:AToolDeveloperGuideToTFModelFIles

Tensorflow Model Files最近闲来无聊,想深入理解一下tensorlfow,也不知从何下手,突然间发现了官方文档的Extend模块下还有这个一片文章 A Tool Developer's Guide to TensorFlow Model Files, 所以就打算边翻译,边学习了...

2017-06-09 18:12:32

阅读数 1892

评论数 0

tensorflow: arg_scope

arg_scopetf.contrib.framework.arg_scope(list_ops_or_scope, **kwargs) #或者 tf.contrib.slim.arg_scope(list_ops_or_scope, **kwargs)# 为给定的 list_ops_or_sco...

2017-06-03 16:33:23

阅读数 7820

评论数 0

tensorflow学习笔记(四十二):输入流水线

tensorflow 如何读取数据tensorflow有三种把数据放入计算图中的方式: * 通过feed_dict * 通过文件名读取数据:一个输入流水线 在计算图的开始部分从文件中读取数据 * 把数据预加载到一个常量或者变量中第一个和第三个都很简单,本文主要介绍的是第二种. 考虑一个场景...

2017-05-16 21:16:09

阅读数 7260

评论数 0

tensorflow学习笔记(四十一):control dependencies

tensorflowtf.control_dependencies()设计是用来控制计算流图的,给图中的某些计算指定顺序。比如:我们想要获取参数更新后的值,那么我们可以这么组织我们的代码。 opt = tf.train.Optimizer().minize(loss)with tf.control...

2017-05-14 23:48:46

阅读数 20544

评论数 1

tensorflow学习笔记(四十):tensorflow语音识别 及 python音频处理库

tensorflow 语音识别 最近在做语音识别的项目,现在项目告一段落,就把最近碰到的东西做一个总结。 一些资料 https://medium.com/@ageitgey/machine-learning-is-fun-part-6-how-to-do-speech-recognition...

2017-05-04 20:22:43

阅读数 28954

评论数 2

tensorflow学习笔记(三十九) : 双向rnn (BiRNN)

双向RNN实际上仅仅是两个独立的RNN放在一起, 本博文将介绍如何在tensorflow中实现双向rnn 单层双向rnn 单层双向rnn (cs224d) tensorflow中已经提供了双向rnn的接口,它就是tf.nn.bidirectional_dynamic_rnn(). 我...

2017-05-02 13:53:01

阅读数 30582

评论数 6

使用 tensorflow 时的常见错误及解决方法

记录下使用tensorflow时采的坑. Profiling: libcupti.so cannot be loaded这是使用run_options = tf.RunOptions(trace_level = tf.RunOptions.FULL_TRACE)碰到的错误. 解决方法:Appen...

2017-04-26 14:12:45

阅读数 2814

评论数 1

tensorflow学习笔记(三十八):损失函数加上正则项

tensorflow Regularizers在损失函数上加上正则项是防止过拟合的一个重要方法,下面介绍如何在TensorFlow中使用正则项.tensorflow中对参数使用正则项分为两步: 1. 创建一个正则方法(函数/对象) 2. 将这个正则方法(函数/对象),应用到参数上如何创建一个正...

2017-04-20 16:02:32

阅读数 34080

评论数 2

tensorflow:embedding_lookup

embedding_lookupimport tensorflow as tfembedding = tf.get_variable("embedding", initializer=tf.ones(shape=[10, 5])) look_uop = tf.nn.embedd...

2017-03-22 15:18:47

阅读数 1688

评论数 0

tensorflow学习笔记(三十七):如何自定义LSTM的initial state

如何初始化LSTM的stateLSTM 需要 initial state。一般情况下,我们都会使用 lstm_cell.zero_state()来获取 initial state。但有些时候,我们想要给 lstm_cell 的 initial state 赋予我们想要的值,而不是简单的用 0 来初...

2017-03-21 17:11:37

阅读数 8592

评论数 0

tensorflow错误总结

bias = tf.get_variable("bias", shape=[out_channels], initializer=tf.zeros_initializer()) 中tf.zeros_initializer一定要加括号,不然会报错,因为tf.zeros_initi...

2017-03-14 22:55:00

阅读数 4939

评论数 1

提示
确定要删除当前文章?
取消 删除
关闭
关闭