![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习与tensorflow
文章平均质量分 66
星空记忆
You can do anything you set your mind to,man.
展开
-
什么是神经网络?
1.神经网络是什么?神经网络是一种计算模型,由大量的节点(或神经元)直接相互关联而构成; 每个节点(除输入节点外)代表一种特定的输出函数(或者认为是运算),称为激励函数; 每两个节点的连接都代表该信号在传输中所占的比重(即认为该节点的“记忆值”被传递下去的比重),称为权重; 网络的输出由于激励函数和权重的不同而不同,是对于某种函数的逼近或是对映射关系的近似描述; 说明:在部分网络中,存...原创 2018-09-15 20:29:19 · 30112 阅读 · 1 评论 -
深度学习(七)-可视化
1. 为什么需要可视化? 在训练庞大的深度神经网络,为了能够更好的理解运算过程,需要使用可视化的工具将其过程进行描述,在tensorflow中使用TensorBoard 来绘制图像生成的定量指标图以及附加数据;2. 主要流程TensorBoard 通过读取tensorflow的事件文件来运行,在事件文件中包含运行中设计的主要数据。(1) 创建tensorflow图,对节点进行汇总操...原创 2018-10-16 19:43:38 · 4361 阅读 · 0 评论 -
tensorflow之逻辑回归
逻辑回归(1)手写数字介绍数据集下载网址:http://yann.lecun.com/exdb/mnist/ 数据分为训练集合测试集,数据对应有:特征及标签; 为了方便实现分类,本文使用one-hot 编码方式;(2)手写数字识别加载手写数字集; 分批次训练,定义批次大小; 定义占位符,用于输入x和结果y; 定义网络结构,预测,计算误差,梯度下降优化; 开始训练,定义准...原创 2018-10-06 21:43:14 · 236 阅读 · 0 评论 -
深度学习(八)--CNN
1. 全连接神经网络每个神经元与前后相邻层的神经元都有联系,输入特征值,输出预测值;存在的问题:在处理图像问题时,待优化的参数过多,容易导致模型过拟合;实际应用:对原始图像进行特征提取,把提取到的特征喂给全连接层,让全连接层网络计算分类评估值;2. 卷积有效提取图像特征的方法;优点:参数共享;稀疏连接(连接只与卷积核内的数据相关联);平移不变(图像即使平移后,它最终的特征几...原创 2018-10-17 21:27:46 · 715 阅读 · 1 评论 -
深度学习(五)-代价函数
1.代价函数1.1 代价函数:任何可以衡量模型预测结果值与其真实值之间差异的函数,如果存在多个样本,代价函数统计结果应该为所有样本的差异之和;1.2 代价函数即模型误差,是反向传播中求梯度的基础,同时也是模型最终达到期望效果的衡量指标;1.3 主要的代价函数 a. 二次代价函数(均方误差)当A,B预测值是0.82,0.98,对应真实值为1时,A的梯度大,B的梯度小,...原创 2018-10-11 13:04:21 · 1206 阅读 · 0 评论 -
深度学习(六)--优化
1. 优化器(tensorflow) 1.1 tf.train.GradientDescentOptimizer --梯度下降 表达式: # 传入学习率,目标优化损失tf.train.GradientDescentOptimizer(learning_rate).minimize(loss) 1.2 tf.train.MomentumOptimizer...原创 2018-10-11 12:59:56 · 207 阅读 · 0 评论 -
深度学习(四)--激活函数
1.什么是激活函数?在生物神经网络中,神经元通过树突接收来自其他神经元的信号,其中树突的权重称为突触权值,将和接收的信号相乘。来自树突的信号在细胞体内不断累积,如果信号强度超过特定阈值,则神经元向轴突传递信息。如未超过,则信号被该神经元"杀死",无法进一步传播。 参考生物神经网络,在人工神经网络的神经元上构造函数,负责将有效的神经元输入映射到输出端;2.为什么要用激活函数?增加神经网络...原创 2018-10-08 16:23:24 · 331 阅读 · 0 评论 -
tensorflow之线性回归
线性回归(1)简单线性回归(一元)定义输入变量x,输出变量y; 初始化线性回归中的参数:w,b; 根据公式给出预测结果,计算误差,使用梯度下降优化; 不断的训练,直到达到最大的训练次数(或考虑达到最小的误差要求),结束训练,输出最终的结果;# coding=utf-8'''tensorflow 完成简单的线性回归(隐藏层单神经元)'''import tensorflow ...原创 2018-09-17 13:55:59 · 483 阅读 · 0 评论 -
tensorflow相关概念
0.数据的基本形式标量:数值形式 向量:一维标量 矩阵:二维标量 张量:多维标量1.什么是tensorflow?tensorflow是用于表示某种类型的计算抽象(计算图)的框架; tensor:N维矩阵; flow:基于数据流图的计算; tensorflow:张量从图的一端流到另一端;2.为什么要使用tensorflow?网络训练过程:在训练中,需要连续的将多批新数据输...原创 2018-09-16 10:34:13 · 239 阅读 · 0 评论 -
深度学习(九)--RNN
0. 传统神经网络缺点1)不能处理输入样本是连续序列且长度不统一的情况;2)网络不能共享(学习到的知识不能应用于后边的学习)1. RNN( 循环神经网络)1)特点:处理序列数据的神经网络(序列数据,指的是数据会随着时间、空间等某一维度,前后数据存在一定关联性),网络可以处理单元之间存在的内部反馈连接,同时可以处理前馈连接;2)主要的RNN网络Hopfield网络、Elman...原创 2018-10-24 16:09:08 · 406 阅读 · 0 评论