silent56_th的博客

纯粹搬运工，接受英语的请看原网址：Keras Tensorflow backend automatically allocates all GPU memory。通过设置Keras的Tensorflow后端的全局变量达到。import osimport tensorflow as tfimport keras.backend.tensorflow_backend as KTFdef get_se

虽然一直使用Tensorflow+Keras，但是没有一个关于Tensorflow的整体框架理解，所以趁着暑假刷一下Stanford刚开的关于Tensorflow的课程CS20si。 关于课程的slides, notes以及各种介绍请参照课程官网以及Github Repo。须注明的是课程是一门新课，而且Tensorflow也没有稳定下来的API，所以应该只是当前时刻一个较棒的分享，并不具有太多的权

Keras如果是使用Theano后端的话，应该是自动不使用ＧＰＵ只是用ＣＰＵ的，启动ＧＰＵ使用Theano内部命令即可。 对于Tensorflow后端的Keras以及Tensorflow会自动使用可见的ＧＰＵ，而我需要其必须只运行在ＣＰＵ上。网上查到三种方法，最后一种方法对我有用，但也对三种都做如下记录：使用tensorflow的 with tf.device('/cpu:0'):函数。简单操作

本文是笔者使用EarlyStopping的心得，很多是笔者自己的思考，欢迎大家讨论指教。 具体EarlyStop的使用请参考官方文档和源代码。EarlyStopping是什么EarlyStopping是Callbacks的一种，callbacks用于指定在每个epoch开始和结束的时候进行哪种特定操作。Callbacks中有一些设置好的接口，可以直接使用，如’acc’,’val_acc’,’los

最近从keras转战tensorflow，原先的代码又不想重写，幸好keras代码可以在tensorflow中使用。详情请参考将Keras作为tensorflow的精简接口。 简单应用的话，就是把keras当作tf.layers里面的层来用，placeholder等价于Keras.Input，然后基本和keras里面使用model模块的时候构建方式相同。最后的model也可以使用的，但是我就是想要

几乎所有相关代码都是backend里面，tensorflow与theano共同拥有的函数在backend.common里面，这部分代码无论使用任何backend都可以运行。其中tensorflow相关的位于backend.tensorflow_backend。 如果使用tensorflow backend，几乎所有的Keras.tensor都可以使用tensorflow内部的Operator。

使用backend里面的gradient函数。此函数就是对于tensorflow里面的gradient函数的包装，输入输出都是tensor，可以把此函数想象为Operator。详情请参考backend-functions，tensorflow_backend.py，Gradient Computation。

layer的两个函数：get_weights(), set_weights(weights)。 详情请参考about-keras-layers。

如果在Keras内部多次使用同一个Model，例如在不同的数据集上训练同一个模型进而得到结果，会存在内存泄露的问题。在运行几次循环之后，就会报错OOM。解决方法是在每个代码后面接clear_session()函数，显示的关闭TFGraph，再重启。详情参考 https://keras.io/backend/#backend-functions。from keras import backend as

使用CUDA_VISIBLE_DEVICES.CUDA_VISIBLE_DEVICES=1 python train.py

这里目前为止只是博主阅读Keras中LSTM源码的草稿笔记，内容不全，没有清晰的逻辑，只是堆砌个人想法。参考文献： 1. keras的官方相关文档 2. LSTM原论文 3. keras的RNN源码1. 接口研究1.1. Recurrent接口Recurrent是LSTM的父类（实际是通过SimpleRNN间接继承），定义所有RNNs的统一接口。1.1.1. implementation:im