TensorFlow
暗焰之珩
这个作者很懒,什么都没留下…
展开
-
深度学习EMA的注意事项
目录EMA介绍概念弥补不足:初始数据积累不足的情况深度学习训练中的作用实现典型步骤一个EMA影子变量的例子进一步接近真实情景,让w1变动例2:global_step的trai...转载 2020-03-25 19:00:15 · 3859 阅读 · 1 评论 -
深度学习中EMA的使用场景
在复习《Tensorflow实战Google深度学习框架(第2版)》一书的第5章,第97页时,遇到了一个问题。EMA,大家都知道,指数滑动平均,好处在于1.平滑数据、2.可以存储近似n个时刻的平均值,而不用在内存中保留n个时刻的历史数据,减少了内存消耗。但是,EMA在深度学习中的使用场景是什么?参与了训练过程还是测试过程?哪些场景不需要使用ema?什么是EMA ...原创 2020-03-25 17:13:07 · 8796 阅读 · 2 评论 -
《TensorFlow实战Google深度学习框架》API整理(五)
目录Ch7 图像数据处理TfRecord相关API图像处理APItf.train.Coordinator() 与 tf.train.start_queue_runner()tf.train.match_filenames_once()Dataset数据集的使用方法参考Ch7 图像数据处理TfRecord相关APItf.train.Feature()...原创 2019-11-07 15:33:34 · 1206 阅读 · 0 评论 -
《TensorFlow实战Google深度学习框架》API整理(四)
目录Ch6 图像识别与卷积神经网络基础知识回顾tf.nn.max_pool()/ tf.nn.avg_pool()tf.nn.bias_add()/ tf.add_n()/tf.add()pool2.get_shape().as_list()/tf.sahpe()tf.add_to_collection()np.array()/np.asarray()os.w...原创 2019-11-06 20:53:34 · 1091 阅读 · 0 评论 -
《TensorFlow实战Google深度学习框架》API整理(三)
目录Ch5:MNIST数字识别问题from tensorflow.examples.tutorials.mnist import input_datatf.nn.relu()tf.truncated_normal()tf.argmax()tf.nn.sparse_softmax_cross_entropy_with_logits()tf.contrib.layer...原创 2019-11-06 15:25:52 · 1113 阅读 · 0 评论 -
《TensorFlow实战Google深度学习框架》API整理(二)
目录Ch4 深层神经网络tf.greater()/tf.greater_equal()/tf.equal()tf.where()tf.train.Optimizer(learning_rate).minimize()tf.losses.mean_squared_error()tf.square()指数滑动平均Ch4 深层神经网络tf.greater()/tf.g...原创 2019-11-05 21:28:22 · 1177 阅读 · 0 评论 -
《TensorFlow实战Google深度学习框架》API整理(一)
最近在学习深度学习的相关知识,建议将学习吴恩达老师深度学习视频与学习《TensorFlow实战Google深度学习框架》一书结合起来交错进行。同时推荐一个学习吴恩达老师深度学习的GitHub地址,能够方便地对授课内容进行回顾总结,https://github.com/fengdu78/deeplearning_ai_books。这一系列笔记,主要是对《TensorFlow实战Google深度学习框...原创 2019-11-05 19:48:16 · 1231 阅读 · 0 评论