tensorflow学习笔记
文章平均质量分 64
explore翔
安徽某985小硕,记录日常学习生活,欢迎大家交流指教。
展开
-
RNN、LSTM应用于MNIST数字图片识别
1、RNN和LSTM介绍两者在语音识别文本识别,机器翻译等方面有很好的应用,因为这些数据存在着前后联系,输入长度不确定。这正是前馈神经网络的缺点:每次网络的输出只依赖当前的输入,没有考虑不同时刻输入的相互影响;输入和输出的维度都是固定的,没有考虑到序列结构数据长度的不固定性。我们通常所说的RNN实际上有两种,一种是Recurrent Neural Networks,即循环神经网络,一种是Recursive Neural Networks,即递归神经网络。循环神经网络是首先被提出的,它是一种时间上进行线性原创 2021-02-28 13:25:05 · 1317 阅读 · 1 评论 -
卷积神经网络CNN实现MNIST数据分类
1、普通神经网络的缺点:参数太多,样本也要求很多我们举个例子,假设我们训练的图片是100100像素点的,那么输入层就要有10000个输入,假设隐藏层神经元也是10000个,那么要训练的参数是1万1万,就是一亿个参数,参数只要亿点点(哈哈哈),况且我们生活中照片像素多的话几千*几千的,那么参数将会更多,我们的电脑将不堪重负。另一方面,参数越多,那么就需要大量样本进行训练。有一种说法,样本最好是未知数的五到十倍,当然这只是经验之谈。上亿个参数就要上亿个样本,这是很难做到的。2、卷积神经网络(大家应该都知道原创 2021-02-18 22:29:30 · 1116 阅读 · 0 评论 -
tensorboard的应用
1、tensorboard的网络结构想看到网络结构,就是给每个步骤起名字(tf.name_scope),然后在主函数中写writer=tf.summary.FileWriter(‘logs/’,sess.graph)会生成一个tensorboard的网络结构。先看代码吧,加深一下理解:#tensorboard结构import tensorflow.compat.v1 as tftf.compat.v1.disable_eager_execution()import numpy as npimp原创 2021-02-17 15:48:01 · 224 阅读 · 0 评论 -
tensorflow手写数字识别的改进----改变代价函数、dropout、优化方式
1、交叉熵代价函数和二次代价函数的区别。二次代价函数的不足:在误差越大的情况下,训练收敛的就越慢。我们希望的是误差越大,我们梯度下降的幅度可以大一点,加快收敛速度。比如当激活函数是sigmoid函数时,可以看出梯度下降的多少和激活函数的梯度(导数大小)成正比,而sigmoid函数在靠近1时导数几乎等于0,如果要朝着0的方向收敛的话,速度会很慢。我也想过换个代价函数不就完事了(比如线性函数),大家应该也有这种想法,但是这种sigmoid、tanh函数之所以能够广泛运用,说明在某方面他们有着别的函原创 2021-02-13 22:18:39 · 316 阅读 · 0 评论 -
用tensorflow实现手写数字识别
1、案例简介这次我们要实现的是用一个两层的神经网络实现手写数字识别。样本的话网上一搜就有,样本包含了四个压缩文件,分别是六万张训练图片和标签,一万张测试图片和标签。2、上代码#实现手写数字识别,softmax分类(简单版本)Yan LeCun's website#六万个样本,一万个测试样本import tensorflow.compat.v1 as tftf.compat.v1.disable_eager_execution()import numpy as npimport matplo原创 2021-02-11 21:12:18 · 626 阅读 · 0 评论 -
用tensorflow实现线性回归案例
1、案例介绍本次学习的目的是如何用tensorflow实现线性回归,最重要的是熟悉如何搭建一个神经网络框架,接下来这个例子的神经网络有三层,输入层-中间层-输出层。先上代码: import tensorflow.compat.v1 as tftf.compat.v1.disable_eager_execution()import numpy as npimport matplotlib.pyplot as pltx_data=np.linspace(-0.5,0.5,200)[:,np.new原创 2021-02-10 21:36:45 · 308 阅读 · 0 评论 -
tensorflow基本知识
1、一些基本概念tensorflow是一个框架,Google 开源的基于数据流图的科学计算库,适合用于机器学习、深度学习等人工智能领域.Tensor(张量)意味着N维数组,Flow(流)意味着基于数据流图的计算,TensorFlow为张量从流图的一端流动到另一端计算过程。这些听着可能有些抽象,没关系,我们可以根据具体案例学习。还有一个重要的概念----会话(session),用来计算任务。2、创建图,启动图import tensorflow.compat.v1 as tftf.compat.v1.d原创 2021-02-09 20:51:01 · 210 阅读 · 0 评论 -
关于tensorflow等python第三方库的安装
392555@TOCPython第三方库的安装心得准备工作**重要的事情说三遍,一定要把电脑中python环境了解清楚!一定要把电脑中python环境了解清楚!**一定要把电脑中python环境了解清楚!比如有的朋友电脑里有3版本和2版本(但是如果都是3版本的或者2版本的就无法指定了),下载的时候会默认c盘的版本,除非你下载时指定版本。如果对自己的Python环境不清楚,那就把他们都删除干净,重新下载。换源方式因为第三方库一般的pip install命令通常很慢,无法下载成功下面介绍一种最万原创 2021-02-06 21:24:50 · 780 阅读 · 0 评论