深度学习
Never-guess
这个作者很懒,什么都没留下…
展开
-
理解LSTM网络
今天看到一篇不错的英文文章介绍LSTM,原文地址http://colah.github.io/posts/2015-08-Understanding-LSTMs/ ,觉得很有用就结合自己的理解部分翻译了一下。本人水平有限,有不足和错误的地方欢迎指正。LSTM(Long ShortTerm Memory长短项记忆)网络是一种特殊的RNN,可以学习long-term中的依赖。Hochreiter& Sc转载 2017-08-04 12:05:46 · 453 阅读 · 0 评论 -
Deep Residual Learning for Image Recognition(ResNet)论文笔记
reference: http://blog.csdn.net/abcjennifer/article/details/50514124http://blog.csdn.net/cv_family_z/article/details/50328175http://blog.csdn.net/yaoxingfu72/article/details/50764087注:主要根据以上整理出笔记。本转载 2017-10-12 14:18:49 · 242 阅读 · 0 评论 -
Batch Normalization 学习笔记
Batch Normalization 学习笔记原文地址:http://blog.csdn.net/hjimce/article/details/50866313作者:hjimce一、背景意义本篇博文主要讲解2015年深度学习领域,非常值得学习的一篇文献:《Batch Normalization: Accelerating Deep Network Training by Reducing转载 2017-10-12 15:05:21 · 193 阅读 · 0 评论 -
Tensorflow--正弦序列预测
Tensorflow对RNN模型的基础结构单元RNN单元和LSTM模型的基础结构单元LSTM单元提供了实现和封装,使用Tensorflow可以轻松的实现一个序列预测模型。 在这里以正弦序列预测为例学习. 运行环境是ubuntu14.04+tensorflow0.10+python2.7. 详细注释过程见代码#coding=utf-8#Tensorflow实现正弦序列预测import rand原创 2017-08-10 18:35:36 · 1976 阅读 · 2 评论 -
Tensorflow一些常用基本概念与函数(1)
1、tensorflow的基本运作为了快速的熟悉TensorFlow编程,下面从一段简单的代码开始:import tensorflow as tf #定义‘符号’变量,也称为占位符 a = tf.placeholder("float") b = tf.placeholder("float") y = tf.mul(a, b) #构造一个op节点 sess = tf.Session()#建立会话转载 2017-08-09 23:36:21 · 300 阅读 · 0 评论 -
Tensorflow--分布式训练
实验任务:集群上多节点多GPU分布式训练CUDA_VISIBLE_DEVICES=” python distributed.py –job_name=ps –task_index=0CUDA_VISIBLE_DEVICES=’0’ python distributed.py –job_name=worker –task_index=0CUDA_VISIBLE_DEVICES=’1’ python d原创 2017-12-28 16:13:44 · 805 阅读 · 0 评论 -
Pytorch--分布式训练(上)
本人出于对分布式训练的需求和兴趣,研究了各种框架的分布式实现,感觉pytorch的资料比较少,在这里和大家分享一下。 首先讲一下官网的教程 Writing Distributed Applications with PyTorch 这个教程实现的是用一个机器的多个进程模拟集群的分布式部署。后端使用的是gloo,默认支持GPU,TCP只支持CPU,MPI需要从源码重新编译。通信方式采用的不是P原创 2018-01-14 17:38:13 · 9175 阅读 · 5 评论 -
Pytorch--分布式训练(下)
看过 Pytorch–分布式训练(上)的朋友肯定有一个疑问,怎么才能实现多节点多gpu中的分布式训练呢? 同样是在官网,找到这样一个imagenet分布式训练的例子 https://github.com/pytorch/examples/tree/master/imagenet 然后可能是由于pytorch版本更新问题,我一开始并没有跑通程序,后来修改了一下就可以了。 修改版本 http原创 2018-01-14 17:50:04 · 18212 阅读 · 17 评论 -
DenseNet算法详解
转自http://blog.csdn.net/u014380165/article/details/75142664 论文:Densely Connected Convolutional Networks 论文链接:https://arxiv.org/pdf/1608.06993.pdf 代码的github链接:https://github.com/liuzhuang13转载 2018-01-28 12:12:44 · 529 阅读 · 2 评论