![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
神经网络
文章平均质量分 77
诗蕊
Put your heart into it
展开
-
TensorFlow——Session会话控制&Variable变量
这篇文章主要讲TensorFlow中的Session的用法以及Variable。Session会话控制Session是TensorFlow为了控制和输出文件的执行语句,运行session.run()就能获得运算结果或者部分运算结果。我们在这里使用一个简单的矩阵相乘的例子来解释Session的两个用法。 首先我们要加载TensorFlow并建立两个矩阵以及两个矩阵所做的运算。这里我们建原创 2018-01-30 22:27:33 · 7505 阅读 · 0 评论 -
用tensorflow建造一个简单的神经网络
reference:https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/3-2-create-NN/ 这篇文章主要讲怎样建造一个完整的神经网络,包括添加神经层,计算误差,训练步骤定义一个添加层神经层函数我们知道一个神经网络可能包含很多个隐藏层,所以如果我们定义一个添加层函数,在后面如果需要增加神经层就只原创 2018-02-02 17:33:40 · 6012 阅读 · 0 评论 -
神经网络预测结果可视化
在用tensorflow建造一个简单的神经网络中建立了一个简单的三层(输入层,隐藏层,输出层)的神经网络。这篇文章主要说怎样将我们构建的神经网络训练的过程以及结果可视化。 在用tensorflow建造一个简单的神经网络中建立神经网络的代码import tensorflow as tfimport numpy as npdef add_layer(inputs, in_size, ou原创 2018-02-02 19:15:37 · 10957 阅读 · 3 评论 -
卷积神经网络(CNN)
在人工神经网络中介绍过神经网络的结构: 卷积神经网络是人工神经网络的变形体,即对功能和形式做了变化,通常用于图像数据处理,结构如下: 从上图中我们可以看出卷积神经网络比起人工神经网络多了很多层级结构,卷积神经网络可以分为: (1)数据输入层(input layer) (2)卷积计算层(CONV layer) (3)ReLU激励层(ReLU layer) (4)池化层(pooli原创 2018-01-22 22:08:06 · 10075 阅读 · 0 评论 -
TensorFlow计算模型——计算图
上图是tensorflow的一个基本构造图以及流向。tensorflow 由两个单词构成:tensor和flow,也就是张量和流,这个名字反映出了张量之间通过计算相互转换的过程。 TensorFlow计算模型——计算图 TensorFlow中每一个计算都是计算图上的一个节点,而节点之间的边描述了计算之间的依赖关系。 上图中每一个节点都是一个运算,而每一条边代表了计算之间的依赖关系。在上图原创 2018-01-28 23:21:05 · 8218 阅读 · 0 评论 -
加速梯度下降的技巧
在用梯度下降的方法训练神经网络时,如果误差曲面本身并不是凸的,那么这个曲面可能包含许多独立于全局最小值的局部最小值,很有可能在局部最小值时训练就停止了,造成结果不佳。另外,即便我们的网络达到了全局最小值也有可能出现过拟合,不能保证模型有很好的泛化性能。下面介绍几种梯度下降的方法。1.随机和小批量随机梯度下降标准的梯度下降每次迭代更新所有的训练数据的子集,SGD是每一次迭代中使用每个样本...原创 2018-04-23 12:44:04 · 2074 阅读 · 0 评论 -
对梯度下降的理解
在神经网络以及很多机器学习模型的训练优化过程中,不可避免的需要用到梯度下降,可以说梯度下降是很多机器学习算法的核心。这篇文章首先介绍了梯度,偏导数等,然后根据一个具体的例子“根据历史数据来预测当前房价”讲解梯度下降及其代码实现,在实例中使用了Mini-Batch梯度下降(Mini-Batch Stochastic Gradient),并解释了其误差迭代曲线的变化趋势和原因。梯度下降的基本概...原创 2018-04-28 12:09:08 · 521 阅读 · 0 评论 -
keras中的卷积层&池化层
文章目录卷积层创建卷积层卷积层的格式及参数:卷积层中的参数数量卷积层的形状池化层keras中的最大池化层参数卷积层创建卷积层首先导入keras中的模块from keras.layers import Conv2D卷积层的格式及参数:Conv2D(filters, kernel_size, strides, padding, activation='relu', input_shape...原创 2019-01-21 09:19:32 · 6856 阅读 · 0 评论 -
RNN
文章目录循环神经网络与前馈神经网络的异同点RNN的展开模型基于时间的反向传播算法调整$W_y$所需的梯度计算:调整$W_s$所需的梯度计算:调整$W_x$所需的梯度计算循环神经网络与前馈神经网络的异同点循环神经网络的原则与前馈神经网络相同,但是也有以下两个主要区别,循环神经网络使用:1. 序列作为训练阶段的输入。2. 记忆要素存储是隐藏层神经与的输出,在接下来训练步骤中将作为网络的额外输入。...原创 2019-03-04 16:53:14 · 2969 阅读 · 0 评论