卷积神经网络 tensorflow_TensorFlow 卷积神经网络实现

最新推荐文章于 2023-04-30 00:15:00 发布
最新推荐文章于 2023-04-30 00:15:00 发布
阅读量156 收藏
点赞数
文章标签： 卷积神经网络 tensorflow

本节将使用TensorFlow实现一个卷积神经网络，具体模型见下图：

368312c6e69c3b8f42520443b52d05ec.png
Fig.1, 本节RNN卷积神经网络模型图

一，数据导入

导入mnist数据集的方法同前面一样一样的！

import

二，参数的初始化

数据集mnist图像输入为灰度图，所以channel为1，这样像素点数 28*28*1=784，最终需要分类的标签为0到9，十个标签。下面分别是卷积层和全连接层参数定义和初始化。

1，初始化代码

n_input

2，卷积层权重参数定义

权重weight字典参数中定义了卷积层和全连接层的权重参数。

wc1：[3,3,1,64]

  • 第一个3 指定的 filter 中的h，
  • 第二个3指定的 filter 中的w，
  • 第三个参数1是连接的输入数据的深度，这里输入的是灰度图所以为1，
  • 第四个参数64为输出的特征图像个数，这里指定为64.同样的wc2 参数的定义也类似。

wc2：[3,3,64,128]

  • 第1，2 个参数不变。
  • 第三个参数，输入数据的深度应为64，因为第一层卷积后输出特征图像的个数为64.
  • 第四个参数，指定第二层输出特征图像为128个。

下图是官方解释：

08b60465ee24c6851b0b64340d554ecf.png
Fig.2, Filter 参数定义

3，全连接层参数定义

wd1：[7*7*128,1024]

  • 7*7*128 计算下本例子:

公式解释：28 为图像的h，3为 filter 的 h，2 为两倍的 padding，分母 1 为 stride，最后加上1，得到的结果为 28。这说明卷积层并没有减少图像的大小，而是 pooling 层减少了图像的大小，pooling 是从一个 2*2 的窗口矩阵到一个 1*1 的矩阵，图像的 h 和 w 均减小了一半，经过两个同样的 pool 层，所以 28/4=7。第二个 pool2 输出图像的大小为 7*7*128， 128 是定义的 filter 的个数。

Note：这里的 stride 和 padding 都为1。

  • 1024 为定义输出的特征图形的个数，为下一个全连接层的输入。

wd2：[1024,n_output]

为第二个全连接层的权重参数，1024 为定义的filter的个数，n_output 为输出的标签个数。

偏质项初始化：

分别是每个层的要输出的特征图像个数，最后是要分类的10个标签数。

三，卷积和池化操作

1，卷积和池化函数定义代码

先看下定义的代码直观的感受下！

def

2，卷积参数相关解释

首先把输入的数据转化为TensorFlow支持的格式，具体的格式为：

tf.reshape(_input, shape=[-1,28,28,1])

  • shape = [n，h，w，c]
  • n：batch_size 的大小，h：输入图像的h， w：输入图像的w，c：输入图像的channel。
  • -1 代表的意思是TensorFlow自己进行推断。

tf.nn.conv2d(_input_r, _w['wc1'], strides=[1,1,1,1], padding='SAME')

  • _input_r： reshape之后的数据格式
  • _w：初始化定义后的权重参数
  • strides=[1,1,1,1] 参数介绍：
  • Strides 分别表示是： batch_size, 图像h, 图像w，图像的channel。
  • Padding 的两种模式：补全式SAME 进行填充和偷懒式 valid 不进行填充

3，池化相关参数解释

tf.nn.max_pool (_conv1, ksize=[1,2,2,1], strides=[1,2,2,1], padding='SAME')

  • _conv1 为卷积层的输出
  • ksize=[1,2,2,1]
  • 窗口的大小，1 batch_size,第二个1 channel， 2,2 是池化的矩阵窗口大小
  • Strides 和padding意思同前。

tf.nn.dropout(_pool1, _keepratio)

  • 参数 _pool1 是池化层的输出， _keepratio 保持率。
  • 随机的去掉一些神经元

Note：print（help(tf.nn.conv2d)）查看官方帮助文档。

四，卷积模型框架搭建

x

五，模型训练和测试

和前面一样，采用交叉熵作为函数的损失函数，通过梯度下降法进行参数的优化，reduce_mean 进行精确度的计算。

do_train = 1
sess = tf.Session()
sess.run(init)
save_step = 1
saver = tf.train.Saver()

sess = tf.Session()
sess.run(init)

training_epochs = 15
batch_size = 16
display_step = 1

if do_train ==1:
    for epoch in range (training_epochs):
        avg_cost =0.1
        #total_batch = int(mnist.train.num_examples/batch_size)
        total_batch = 10
        # iteration
        for i in range (total_batch):
            batch_xs, batch_ys = mnist.train.next_batch(batch_size)
            #feeds = {x: batch_xs, y: batch_ys, keepratio: 0.7}
            sess.run(optm, feed_dict={x: batch_xs, y: batch_ys, keepratio:0.7})
            #sess.run(optm, feed_dict={x: batch_xs, y: batch_ys, keepratio:0.7})
            avg_cost += sess.run(cost, feed_dict={x: batch_xs, y: batch_ys, keepratio:1.0})/total_batch
        #dispaly 
        if epoch % display_step == 0:
            print ('Epoch: %03d/%03d cost: %.9f' %(epoch, training_epochs,avg_cost))
            #feeds = {x: batch_xs, y:batch_ys}
            train_acc = sess.run(optm, feed_dict={x: batch_xs, y: batch_ys, keepratio: 1.0})
            #print ('Train accuracy: %.3f' % (train_acc))
            #feeds = {x: mnist.test.images, y:mnist.test.labels}
            #test_acc = sess.run(accr, feed_dict=feeds)
            #print ('test accuracy: %.3f' %(test_acc))
        #save Net
        if epoch % save_step == 0:
            saver.save(sess, 'save/nets/cnn_mnist_basic.ckpt-' +str(epoch))
    print ('Optimization finished')
            
else:
    epoch = training_epochs-1
    saver.restore(sess,'save/nets/cnn_mnist_basic.ckpt-' +str(epoch))
    test_acc = sess.run(accr, feed_dict={x: batch_xs, y: batch_ys, keepratio: 1.0})
    print ('Test accuracy: %.3f' %(test_acc))

六，训练结果和预测结果

令 do_train = 1， 取Epoch =15 进行训练然后将结果保存到文件夹中。在之后的测试过程中可以直接的把保存的训练模型download下来，进行预测从而节省训练的时间。

Epoch: 000/015 cost: 6.142920852
Epoch: 001/015 cost: 2.372950006
Epoch: 002/015 cost: 1.567487848
Epoch: 003/015 cost: 1.341774982
Epoch: 004/015 cost: 1.452789736
Epoch: 005/015 cost: 1.172398078
Epoch: 006/015 cost: 1.030768359
Epoch: 007/015 cost: 0.881382990
Epoch: 008/015 cost: 0.735200250
Epoch: 009/015 cost: 0.629416350
Epoch: 010/015 cost: 0.681320167
Epoch: 011/015 cost: 0.621121602
Epoch: 012/015 cost: 0.547099918
Epoch: 013/015 cost: 0.561984229
Epoch: 014/015 cost: 0.481403020
Optimization finished

下面是直接取第15次 Epoch: 014/015 cost: 0.481403020，模型训练的结果进行测试集的预测，结果如下。

INFO:tensorflow:Restoring parameters from save/nets/cnn_mnist_basic.ckpt-14
Test accuracy: 0.875
weixin_39598584
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
一维卷积神经网络Tensorflow2 实现轴承故障诊断
cnjs1994的博客
08-20 2130
一维卷积神经网络做轴承故障诊断
图卷积神经网络(GCN)理解与tensorflow2.0代码实现
VariableX的博客
11-19 9121
图(Graph)，一般用 G=(V,E)G=(V,E)G=(V,E) 表示，这里的VVV是图中节点的集合，EEE 为边的集合，节点的个数用NNN表示。在一个图中，有三个比较重要的矩阵： 特征矩阵XXX：维度为 N×DN\times DN×D ，表示图中有N个节点，每个节点的特征个数是D。 邻居矩阵AAA：维度为 N×NN\times NN×N ，表示图中N个节点之间的连接关系。 度矩阵 DDD：维度为 N×NN\times NN×N ，是一个对角矩阵，即只有对角线上不为零，其他位置元素都是 0 ，表示图中
Tensorflow卷积神经网络
金戈鐡馬
04-30 655
卷积是图像处理中一种基本方法. 卷积核是一个f*f的矩阵. 通常n取奇数,使得卷积核有中心点.对图像中每个点取以其为中心的f阶方阵, 将该方阵中各值与卷积核中对应位置的值相乘, 并用它们的和作为结果矩阵中对应点的值.​卷积核每次向右移动1列, 遇行末向下移动1列直到完成所有计算. 我们把每次移动的距离称为步幅s.​上述操作处理图像得到新图像的操作称为卷积, 在图像处理中卷积核也被称为过滤器(filter).
TensorFlow实现卷积神经网络
健身房
05-31 1825
卷积神经网络概述   卷积神经网络(Convolutional Neural Network，CNN)最初是为解决图像识别等问题设计的，CNN现在的应用已经不限于图像和视频，也可用于时间序列信号，比如音频信号和文本数据等。在早期的图像识别研究中，最大的挑战是如何组织特征，因为图像数据不向其他类型的数据那样可以通过人工理解提取特征。在深度学习之前，我们必须借助SIFT、HoG等算法提取具有良好区分性的特征，再集合SVM等机器学习的算法进行图像识别。   CNN作为一个深度学习架构被提出的最初诉求，是降低对图
Tensorflow2.0 卷积神经网络
Xpy_021101的博客
03-02 263
3层神经网络 ，括号中的第一个参数表示神经元的数量，最后一个有10个单元，因为数据集中有10类标签，这里应该匹配，第一层是一个扁平层输入的形状是28x28，因为我们的图像就是28x28，扁平化是将这个28x28的正方形变成一个简单的线性阵列，中间一层是隐藏层有128个神经元。conv卷积层，要求Keras为我们生成64个过滤器，过滤器是3x3，激活函数是Relu，意味着负值会被丢弃，最后输入形状和之前一样为28x28，通道是1，即灰度图像。优化器是sgd，代表随机梯度下降，损失函数是均方误差。
经典卷积神经网络Python，TensorFlow全代码实现
全栈O-Jay的博客
11-06 2356
经典ImageNet竞赛卷积神经网络python代码全实现！包括LeNet、AlexNet、VGGNet、InceptionNet、ResNet。 还有贴心总结。
python：卷积神经网络（tensorflow）
weixin_42187536的博客
10-08 660
卷积：图片有三色，RGB，通过不断卷积，不断压缩，高度增加，最后变成一个分类器。 patch抽离，步长为stride，跨多少步抽离 两种padding的形式，一种是长宽比原来段，高比原来高，另一种长宽高和原来相同，高度变高 卷积神经网络简单框架 # define placeholder for inputs to network xs = tf.placeholder(tf.float32, [None, 784]) # 28*28 ys = tf.placehold...
使用tensorflow构建卷积神经网络（CNN）
毕业作品网站
05-20 2900
，每一个特征平面由一些矩形排列的神经元组成，同一特征平面的神经元共享权值，这个共享权值就是卷积核。卷积核一般以随机小数矩阵的形式初始化，在网络的训练过程中卷积核将学习得到合理的权值。卷积神经网络分为了三部分，第一部分为输入层，第二部分由若干个卷积层和池化层 组成，第三部分为一个全连接的多层感知分类器构成。注意：Layer L1 为输入层，L2为隐含层，L3为输出层，h（x）为假设函数。设置我们的权重和偏移，损失函数，梯度下降，初始化参数，初始化模型保存。这一步，我们声明了一些神经网络的参数。
tensorflow2.0之卷积神经网络
qq_44971458的博客
07-04 2154
tf.keras实现卷积神经网络 Keras 是一个用 Python 编写的高级神经网络 API，它能够以 TensorFlow, CNTK, 或者 Theano 作为后端运行。 Keras可以很明确的定义了层的概念，反过来层与层之间的参数反倒是用户不需要关心的对象，所以构建神经网络的方法对于普通开发者来说，相对tensorflow，Keras更易上手。 并且Keras也是tensorflow官方在tensorflow2.0开始极力推荐使用的。 卷积神经网络（Convolutional Neural Ne
利用tensorflow keras搭建一个简单的卷积神经网络
猜丁壳
07-26 6013
源码下载点击这里1 运行结果(1)首先我们在cnn.py中建立一个卷积神经网络，建立卷积神经网络，并通过输入：python cnn.py运行程序，程序运行的结果如下所示： 根据图示中的结果可知，在我们搭建的卷积神经网络中需要在线下载mnist手写字体的数据集合。再次运行python cnn.py运行过程如下所示： 在运行过程中，通过12次迭代对6000张手写字体数据集合图片进行训练，如上
tf_卷积神经网络_tensorflow_源码
10-02
本项目“tf_卷积神经网络_tensorflow_源码”显然是一个关于在TensorFlow框架下实现卷积神经网络的示例，特别是针对MNist手写数字识别的数据集。 首先，让我们详细了解一下卷积神经网络的核心概念。CNN的主要特点...
Tensorflow RNN.zip_RNN_TensorFlow rnn_卷积神经网络应用_循环神经网络
09-23
"卷积神经网络应用_循环神经网络"可能暗示教程中也可能涉及到了卷积神经网络（CNN）与RNN的结合应用。 **描述解析：** 描述提到"Tensorflow 实现循环神经网络用于识别手写数字集"，这表明该压缩包中的示例代码或...
Basic_CNNs_TensorFlow2-master_CNN_python_卷积神经网络_tensorflow_
10-02
卷积神经网络（CNN，Convolutional Neural Networks）是一种深度学习模型，主要应用于图像处理、计算机视觉等领域。在TensorFlow2.x中，CNN的实现变得更加简单且高效。本项目"Basic_CNNs_TensorFlow2-master"是一个...
Tensorflow CNN.zip_tensorflow_tensorflow cnn_卷积神经网络_手写数字识别_神经网络
09-23
总之，这个项目展示了如何使用TensorFlow构建和训练一个卷积神经网络来识别手写数字，并且通过与TensorBoard的结合，使得整个过程更加透明和可理解。通过深入理解和实践这样的例子，开发者可以在自己的项目中更好地...
卷积神经网络验证码识别tensorflow实现
07-14
在这个“卷积神经网络验证码识别tensorflow实现”的项目中，我们使用了CNN来解决四位数字和字母组成的验证码识别问题。验证码识别是计算机视觉领域的一个常见任务，它有助于防止自动化机器人和恶意软件对网站的滥用...
pi_heif-0.17.0-pp310-pypy310_pp73-macosx_12_0_x86_64.whl
07-27
pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。
mmexport1722080103662.jpg
07-27
mmexport1722080103662.jpg
matlab 20244a 6
07-27
matlab 20244a 6
pi_heif-0.17.0-cp310-cp310-macosx_12_0_x86_64.whl
最新发布
07-27
pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。
卷积神经网络 tensorflow_神经网络原理演示动画合集
05-16
但是，我可以向您介绍一些关于卷积神经网络和TensorFlow的基本知识。 卷积神经网络（Convolutional Neural Network，CNN）是一种深度学习模型，主要用于图像识别和分类。CNN中最重要的部分是卷积层，它通过应用卷积...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值