tensorflow
Ivy_daisy
这个作者很懒,什么都没留下…
展开
-
关于深度学习优化器 optimizer 的选择,你需要了解这些
雷锋网按:本文作者杨熹,原文载于作者个人博客,雷锋网(公众号:雷锋网)已获授权在很多机器学习和深度学习的应用中,我们发现用的最多的优化器是 Adam,为什么呢?下面是 TensorFlow 中的优化器:详情参见:https://www.tensorflow.org/api_guides/python/train在 keras 中也有 SGD,RMSprop,Adagrad,Adadelta,Ada...转载 2018-05-09 11:22:18 · 874 阅读 · 0 评论 -
深度学习中常见的优化方法(from SGD to AMSGRAD)和正则化技巧
转载自【泡泡机器人原创专栏】https://mp.weixin.qq.com/s/NmSVXezxsQOZzK8pne3pCw一.优化方法这里介绍的优化方法包括:SGD,两种带动量的SGD,AdaGrad,RMSProp,Adadelta,Adam, AMSGRAD,基本涵盖了常用的一些优化算法。先介绍一下优化方法,这里需要注意一下,在深度学习当中,优化的问题是在于鞍点而不是所谓的局部最小值点,在...转载 2018-05-30 21:42:52 · 3053 阅读 · 1 评论 -
The Activation Function in Deep Learning 浅谈深度学习中的激活函数
原文地址:http://www.cnblogs.com/rgvb178/p/6055213.html版权声明:本文为博主原创文章,未经博主允许不得转载。激活函数的作用首先,激活函数不是真的要去激活什么。在神经网络中,激活函数的作用是能够给神经网络加入一些非线性因素,使得神经网络可以更好地解决较为复杂的问题。比如在下面的这个问题中:如上图(图片来源),在最简单的情况下,数据是线性可分的,只需要一条直...转载 2018-05-29 19:16:54 · 319 阅读 · 0 评论 -
Windows10下python3.5.2+CUDA8.0+TensorFlow安装日记
Windows10 64位下配置TensorFlow with GPU support 安装日记包括Python3.5.2、 Ipython、 Python IDE、CUDA8.0安装、 cuDNN安装、TensorFlow安装原创 2017-04-04 17:37:37 · 4893 阅读 · 2 评论 -
机器学习的Hello Word——Softmax Regression识别手写数字
TensorFlow 核心概念:计算表示为一个有向图(directed graph),或计算图(computation graph)其中每一步运算操作(operation)作为一个节点(node)节点与节点之间的连线成为边(edge)在计算图边中流动(flow)的数据成为张量(tensor)TensorFlow神经网络开发流程:1、定义算法公式,也就是神经网络for原创 2017-04-06 20:43:31 · 715 阅读 · 0 评论 -
Windows10 TensorFlow “Couldn't open CUDA library cudnn64_5.dll”
环境为:Win10+TensorFlow1.0.1+GTX1060在Windows10上配置TensorFlow with GPU,安装完CUDA和cuDNN,运行程序 时发现:“Couldn't open CUDA library cudnn64_5.dll”>>> import tensorflowI c:\tf_jenkins\home\workspace\原创 2017-04-22 15:27:16 · 7758 阅读 · 3 评论 -
面向机器学习专家的 MNIST 高级教程代码
教程链接:面向机器学习专家的 MNIST 高级教程利用CNN卷积神经网络训练MNIST手写字体,mnist手写字体素材为28*28像素的图片,本程序中采用两层卷积神经网络与密集连接层,利用ReLU激活函数与Adam梯度最速下降方法进行训练代码如下:#下载引入数据集from tensorflow.examples.tutorials.mnist import inp转载 2017-04-22 16:07:49 · 691 阅读 · 0 评论 -
Protobuf学习 - 入门
Protobuf学习 - 入门 古之立大事者,不惟有超世之才,亦必有坚忍不拔之志 -- 苏轼·《晁错论》 从公司的项目源码中看到了这个东西,觉得挺好用的,写篇博客做下小总结。下面的操作以C++为编程语言,protoc的版本为libprotoc 3.2.0。一、Protobuf? 1. 是什么? Google Protocol Buffer(...翻译 2018-03-30 15:32:34 · 226 阅读 · 0 评论 -
tensorflow中slim模块api介绍
博客原文:https://blog.csdn.net/guvcolie/article/details/77686555最近需要使用slim模块,先把slim的github readme放在这里,后续会一点一点翻译github:https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/slimTensorFlow...转载 2018-04-01 10:56:10 · 995 阅读 · 1 评论 -
深度学习的activation function
转载自:https://zhuanlan.zhihu.com/p/25110450TLDR (or the take-away)优先使用ReLU (Rectified Linear Unit) 函数作为神经元的activation function:背景深度学习的基本原理是基于人工神经网络,信号从一个神经元进入,经过非线性的activation function,传入到下一层神经元;再经过该层神经...转载 2018-05-31 19:16:07 · 440 阅读 · 0 评论