![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
qq_41386300
这个作者很懒,什么都没留下…
展开
-
深度学习(七)——keras的使用
简单使用# 序列模型# 序列模型属于通用模型的一种,因为很常见,所以这里单独列出来进行介绍,这种模型各层之间# 是依次顺序的线性关系,在第k层和第k+1层之间可以加上各种元素来构造神经网络# 这些元素可以通过一个列表来制定,然后作为参数传递给序列模型来生成相应的模型from keras.models import Sequential # 用它创建模型from keras.la...原创 2019-10-24 23:50:38 · 262 阅读 · 0 评论 -
深度学习(六)——反向传播计算w对应的梯度
如下图,从下往上是第一阶段,第二阶段是从上往下上图总结如下图上图中正向传播过程是绿色的数字,从左导右上图中反向传播(红色数字,从右到左),算法:求偏导之后将x代入算出结果,比如第一个结点1/x,它的偏导公式在上图中有,把1.37代入得-0.53,注意这里不是把0.73也不是把1当x代入,而是把1.37代入,因为x本来就是1.37,1/1.37才等于0.73,所以x是1.37,依次...原创 2019-10-23 22:14:28 · 717 阅读 · 0 评论 -
深度学习(五)——解决梯度消失的三个思路
1. 什么是梯度消散?如下图u介绍,当用sigmod函数时,当z过大或过小会发现梯度(斜率)接近水平,变成0了,即梯度消失2. 解决方法思路一使用relu函数,因为relu函数z小于0是,结果恒为0,z大于0时,结果为z本身,这样就是一条45度的直线,梯度永远不变,即不会消失不饱和激活函数leaky relu如下图,解决了relu在小于0的时候的不足,需自己实现elu,...原创 2019-10-22 23:43:28 · 1109 阅读 · 0 评论 -
深度学习(一)——初识TensorFlow
1. 认识TensorFlow2. 概念第二行:b就是w0,Variable是变量的意思第三行:unniform是范围是-1到+1之间的均匀分布,w是784行,100列的数据第四行:占位,占了个空,未来有数据可以填进去第五行:relu是一个函数,<0的时候就是0,>0的时候是x,如下图matmul就是矩阵相乘,w乘x3. 代码TensorFlow程序可以通过...原创 2019-09-01 21:55:30 · 288 阅读 · 0 评论 -
深度学习(一)——placeholder的使用
使用placeholderimport tensorflow as tf# 让我们修改前面的代码去实现Mini-Batch梯度下降# 为了去实现这个,我们需要一种方式去取代X和y在每一次迭代中,使用一小批数据# 最简单的方式去做到这个是去使用placeholder节点# 这些节点特点是它们不真正的计算,它们只是在执行过程中你要它们输出数据的时候去输出数据# 它们会传输训练数据给Ten...原创 2019-09-26 14:47:29 · 2069 阅读 · 0 评论 -
深度学习(二)——案例,两层DNN进行图片识别
只有一层隐藏层,一般叫多层感知机深度神经网络DNN每根线上都有wimport tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_dataimport numpy as np# 全连接,通过它进行上下层之间的全连接from tensorflow.contrib.layers import fu...原创 2019-09-26 15:19:03 · 1040 阅读 · 0 评论 -
深度学习(三)——TensorBoard可视化
import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_datamax_steps = 1000learning_rate = 0.001dropout = 0.9data_dir = './MNIST_data_bak'# 日志文件存放的路径log_dir = './logs/mn...原创 2019-09-07 23:30:18 · 175 阅读 · 0 评论 -
深度学习(四)——卷积神经网络CNN
卷积层;如下图,从底层看起把两个矩阵卷积为两个点,第二层再把一个矩阵卷积为一个点,所以这是两层卷积DNN是输入层直接全连接隐藏层而CNN是输入层先连接卷积层,再连接隐藏层如何卷积?例:如下图,从绿色的第0行开始先选33和黄色的33相乘(这里是对应位置相乘)后有4个地方是1,所以红色的第0行0列就填4,然后绿色继续右移Stride=2步,再与黄色的相乘…依次类推,最后的结果就是把4个3...原创 2019-09-26 18:36:28 · 237 阅读 · 0 评论