tensorflow
红鱼鱼
这个作者很懒,什么都没留下…
展开
-
tensorflow学习笔记——常用的激活函数
1.sigmoid公式:图像:从图中可以看到,sigmoid激活函数会将所有输入都转到0-1范围内。如此之外,它的倒数有一个常用到的性质:即它的倒数可由自身表示。优点:它输出映射在0-1内,单调连续,可以用来作分类,并且求导比较容易; 缺点:具有软饱和性,一旦输入过大或过小,一阶导数就变得接近于0,很容易产生梯度消失的现象。tesorflow使用:tf.sig...原创 2020-02-16 18:04:28 · 1905 阅读 · 4 评论 -
tensorflow学习笔记——验证码识别(四)模型测试
这里对之前训练好的模型进行测试,代码如下:import osimport tensorflow as tf from PIL import Imagefrom nets import nets_factoryimport numpy as npimport matplotlib.pyplot as plt # 不同字符数量CHAR_SET_LEN = 10# 图片高度...原创 2020-02-11 22:02:00 · 651 阅读 · 1 评论 -
tensorflow学习笔记——验证码识别(三)模型训练
我们使用的模型为Alexnet,源码在tensorflowtensorflow-master,我们提取tensorflowtensorflow-master里面的net文件夹放入我们的程序路径以便使用,并修改Alexnet模型最后一层为4个分支,来进行多任务学习。(要源码可以找我,官网下载很慢)训练模型的代码如下:import osimport tensorflow as tf fr...原创 2020-02-11 21:52:11 · 696 阅读 · 6 评论 -
tensorflow学习笔记——验证码识别(二)生成tfrecord文件
通常情况下,我们在训练模型之前会生成数据集中的train,test,val这些含有训练信息的文件。这些文件被散列的存着,它们并不是计算机能直接读取的信息,在大小网络的训练中,文件读取速度的问题尤为明显。因此在VOC2007格式的数据集制作完成后,需要将数据集转换成tfrecord文件,tfrecord文件使用于tensorflow网络模型训练的二进制数据编码文件,训练时只需一次性加载一个tfrec...原创 2020-02-10 21:03:55 · 508 阅读 · 0 评论 -
tensorflow学习笔记——验证码识别(一)验证码生成
首先我们需要用到验证码生成的库captchafrom captcha.image import ImageCaptcha # pip install captcha这个库大部分人都没有安装,只需在cmd下输入pip install captcha即可,anaconda用户在anaconda prompt对应环境里安装。完整代码如下:from captcha.image imp...原创 2020-02-10 18:04:06 · 490 阅读 · 0 评论 -
tensorflow学习笔记——使用inception-v3作图像识别
1.下载inception-v3从官网下载训练好的inception-v3模型用于之后的训练,代码如下:(也可直接复制网址http://download.tensorflow.org/models/image/imagenet/inception-2015-12-05.tgz下载)import tensorflow as tfimport osimport tarfileimpor...原创 2020-02-06 15:37:05 · 762 阅读 · 1 评论 -
tensorflow学习笔记——模型参数的保存与调用
在训练前定义一个模型saver:saver = tf.train.Saver()然后在图后面将图保存到模型中:saver.save(sess,'net/my_net.ckpt')训练完成后对应路径下将会生成训练好的模型参数文件:在调用训练好的模型参数时,使用restore将参数调用到图中:saver.restore(sess,'net/my_net.ckp...原创 2020-02-04 11:55:57 · 958 阅读 · 0 评论 -
tensorflow学习笔记——卷积神经网络的简单应用
本文用卷积神经网络实现MNIST数据集分类。可在这个网站下载MNIST数据集。下载后的数据如下图所示:本文使用的网络包括2个卷积层和两个全连接层。卷积核大小为5×5,第一个卷积层有32个卷积核,第二个卷积层有64个卷积核,使用relu激活函数。第一个全连接层有1024个节点,第二个全连接层有10个节点。代码如下:import tensorflow as tffrom tenso...原创 2020-02-02 21:16:34 · 1960 阅读 · 3 评论 -
tensorflow学习笔记——tensorboad使用
TensorBoard是Tensorflow自带的网络模型可视化的工具,使用者可以清楚地看到网络的结构、数据流向、损失函数变化等一系列与网络模型有关的数据。这篇文章以我之前写的MNIST数据集分类的网络来讲述tensorboard的使用。网络结构单纯使用tensorboard查看网络结构只需要在程序里加入下面一行代码:writer = tf.summary.FileWriter('C...原创 2020-02-01 16:13:23 · 2564 阅读 · 2 评论 -
tensorflow学习笔记——MNIST数据集分类
首先在这个网站下载MNIST数据集。下载后的数据如图所示:压缩包不需要解压,直接使用。里面是二进制文件,因为用二进制文件训练网络比较快。代码如下:import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data#载入数据mnist = input_data.read_data_s...原创 2020-01-31 12:13:54 · 570 阅读 · 0 评论 -
tensorflow学习笔记——常见的优化器
SGD:在最小化损失函数中,最常用的就是梯度下降法。梯度下降法主要有三种变体:1.Vanilla 梯度下降:在 Vanilla 梯度下降(也称作批梯度下降)中,在每个循环中计算整个训练集的损失函数的梯度。该方法可能很慢并且难以处理非常大的数据集。该方法能保证收敛到凸损失函数的全局最小值,但对于非凸损失函数可能会稳定在局部极小值处。2.随机梯度下降:在随机梯度下降中,一次提供一个训练样...原创 2020-01-30 12:59:34 · 591 阅读 · 0 评论 -
tensorflow学习笔记——常用的代价函数
二次代价函数 其中,C表示代价函数,x表示样本,y表示实际值,a表示对应的输出值,n代表样本总数。 是激活函数这时,每一个样本的损失函数为:假如我们使用梯度下降法来调整权值参数的大小,权值w和偏置值b的梯度如下: ...原创 2020-01-29 15:21:44 · 511 阅读 · 0 评论 -
tensorflow学习笔记——简单MNIST数据集分类
首先在这个网站下载MNIST数据集。下载后的数据如图所示:代码如下:import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data#载入数据mnist = input_data.read_data_sets("E:/mnist",one_hot=True)#每个批次大小...原创 2020-01-27 17:47:11 · 623 阅读 · 0 评论 -
tensorflow学习笔记——线性回归
import tensorflow as tfimport matplotlib.pyplot as pltimport numpy as np#使用numpy生成200个随机点x_data = np.linspace(-0.5,0.5,200)[:,np.newaxis]noise = np.random.normal(0,0.02,x_data.shape)y_data = n...原创 2020-01-26 17:04:21 · 230 阅读 · 0 评论 -
tensorflow学习笔记——简单的线性模型
import tensorflow as tfimport numpy as np#使用numpy生成100个随机点,数值范围为[0,1)x_data = np.random.rand(100)y_data = x_data*0.1 + 0.2#构造一个线性模型b = tf.Variable(0.5)k = tf.Variable(0.5)y = k * x_data + b...原创 2020-01-25 21:26:35 · 217 阅读 · 0 评论 -
tensorflow学习笔记——Fetch and Feed
Fetch——会话运行完成之后,如果我们想查看会话运行的结果,就需要使用fetch来实现。一个会话可以同时执行多个op,得到运行结果例如:input1 = tf.constant(3)input2 = tf.constant(2)input3 = tf.constant(5)add = tf.add(input2,input3)mul = tf.multiply(add,inp...原创 2020-01-25 16:07:12 · 239 阅读 · 0 评论