卷积网络项目：实现识别鲜花四分类对比LeNet5、VGG16、ResNet18、ResNet34分类网络

已于 2024-05-14 19:40:47 修改
阅读量647 收藏 26
点赞数 30
分类专栏： 经典分类网络 神经网络 深度学习 文章标签： 人工智能 神经网络 机器学习 学习 分类
于 2024-05-14 19:37:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44240478/article/details/138866791
版权

卷积四分类项目

Gitee传送门

分类目标选取

鲜花

  • 杏花 apricot_blossom
  • 桃花 peach_blossom
  • 梨花 pear_blossom
  • 梅花 plum_blossom

模型选择

卷积

  • LeNet5
  • VGG16
  • ResNet18
  • ResNet34

以图搜图

获取相似度前10的搜图结果

数据清洗

鲜花四分类

删除非图片文件

image.png

删除重复图片

image.png
image.png
image.png
image.png
image.png

整理数据集

鲜花四分类

每种类别数据：训练500、测试50、预测10
总训练集：2500
总测试集：250
总预测集：40

训练模型

报错

ValueError: num_samples should be a positive integer value, but got num_samples=0

换了电脑后，数据集的存储位置不同，更换路径后解决

RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor) should be the same

原因：错误内容就在类型不匹配，根据报错内容可以看出Input type为torch.FloatTensor（CPU数据类型），而weight type（即网络权重参数这些）为torch.cuda.FloatTensor（GPU数据类型）
方案：将输入类型转变为GPU类型
输入数据和网络都切换到cuda，但问题仍存在
检查网络，修改模型隐藏层初始化方式后，解决了问题

鲜花

v1：LeNet5：bn

输出4分类

image.png
image.png
image.png

v2：VGG16：bn

数据太差，提前中断了训练
image.png
image.png
image.png

v3：ResNet18：bn

输出4分类
f4_v3：32x32

image.png
image.png
image.png
准确率仍上不去，预估增大迭代次数，准确率能慢慢提升

f4_v3.3：224x224

image.png
image.png
过拟合前最佳：
image.png
测试数据出现过拟合现象，考虑减小数据大小

f4_v3.4：112x112

image.png
image.png
过拟合前最佳：
image.png
再次出现过拟合，提前中断了训练

f4_v3.5：56x56

image.png
image.png
过拟合前最佳：
image.png
再次出现过拟合，提前中断了训练
结论：图片缩放大小无法解决过拟合问题

f4_v3.6：32x32，减4个残差块

image.png
image.png
测试集过拟合前
image.png
最佳
image.png

f4_v3.6：32x32，减4个残差块，transforms减Norm

image.png
image.png
测试集过拟合前
image.png
最佳
image.png

v4：ResNet34：bn

输出4分类

image.png
image.png
image.png
预估：增加迭代次数，可能能缓慢提升准确率

以图搜图

报错

ValueError: Expected more than 1 value per channel when training, got input size torch.Size([1, 512, 1, 1])

image.png
LeNet5模型能正常运行，ResNet18和ResNet34模型报错
image.png正常运行
image.png报错
image.png报错
原因：模型中含有nn.BatchNorm层，训练时需要batch_size大于1，来计算当前batch的running mean and std。自定义数据数量除以batch_size后刚好余1，就发生了上述报错
方案1：在pytorch的Dataloader中设置drop_last=True即可，这样会忽略最后一个batch
尝试在数据集增加drop_last=True，再次训练，尚未解决这个问题
方案2：在添加数据前增加model.eval()
代码原本就有这个语句，仍存在这个问题
方案3：修改训练模型数据预处理中Resize大小32–>224，问题解决

搜图结果

v1：LeNet5：bn

image.png
image.png
没有一个是正确分类

v3：ResNet18：bn

f4_v3：32x32

image.png
image.png
没有一个是正确分类，且相似度差距很大

f4_v3.3：224x224

过拟合前最佳：
image.png
image.png
预测最佳类别中top10图片和原图类别相同，但与top1图片与原图相似度不是0
原因：检索库图片根据特征处理、带参数的模型生成对应的特征文件，更换特征处理方式或参数后，生成的特征文件有所不同，所以计算相似度，哪怕是原图也不为0
解决方案：更换特征处理方式或参数后，重新初始化特征文件，再进行预测，解决了这个问题

v4：ResNet34：bn

f4_v4：32x32

image.png
image.png
没有一个是正确分类，且相似度差距很大

f4_v4.3：224x224

image.png
image.png
出现了一个正确分类，由于时间问题，v4.3版没有完成足够的训练，不确定迭代后的数据能否达到预期效果

特征处理

feat_v3.3.0：tensor

image.png

feat_v3.3.1：tensor+Resize56

image.png

feat_v3.3.2：tensor+Resize56+Norm

image.png

feat_v3.3.3：tensor+crop+Resize56

image.png

feat_v3.3.4：tensor+Resize+crop+Resize56

image.png

feat_v3.3.5：tensor+Resize+crop+Resize224

image.png

feat_v3.3.6：tensor+Resize+crop+Resize112

image.png

feat_v3.3.7：tensor+Resize+crop+Resize32

image.png

总结

feat_v3.3.4.txt版本的特征处理效果最好
特征处理方式：tensor+Resize600+crop400+Resize56

搜图效果

相似度前10的结果，top1是原图，6张正确类别花，3张错误类别花
原因：这四类花本身比较相似，不便于学习；也可能是数据量不够多，训练效果不够好；也可能迭代的次数不够多，模型没有训练到足够好的效果
20240227002214_rec_.gif

饭碗、碗碗香
关注
  • 30
    点赞
  • 踩
  • 26
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
各种卷积神经网络（LeNet5、VGGNet、DenseNet、ResNet、GoogleNet)，在Mnist等数据集上实现
06-07
# CNN-Learning 各种卷积神经网络的实现及其理解，在Mnist、cifar10等数据集上验证通过 ## 实验环境:Keras-cpu2.2+Anaconda-Python3.6+Win10/Centos7 ## 代码运行情况: - LeNet5-Mnist数据集已验证通过 - VGGNet-Mnist数据集已验证通过 - DenseNet-Cifar10数据集已验证通过 - ResNet-Cifar10数据集已验证通过 - GoogleNet-InceptionV3-尚无可用数据集验证通过 Keras(Python).Keras是一个高层神经网络API，Keras由纯Python编写而成并基于Tensorflow、Theano以及CNTK后端。优点为：简易和快速的原型设计；支持CNN和RNN，或二者的结合；无缝CPU和GPU切换。
经典卷积神经网络模型-合集(AlexNet，VGG16Net，GoogLeNet，ResNet18).zip
01-29
这是一个合集——经典卷积神经网络模型，包含AlexNet，VGG16Net，GoogLeNet，ResNet18等四个主要的经典卷积神经网络的code，也包含注释。所有模型均已调试通过，且已经记录博客。跑的时候，建议使用GPU来跑，否则...
运用VGG16神经网络进行花朵识别
qq_44874004的博客
11-05 2810
把数据集的照片进行处理得到向量，花种类名称写入文件class_indices.json中，确定batch_size = 8，运用模型进行训练，反向传播计算梯度，不断更新权重，最终计算损失函数，保存损失最小的模型权重，到vgg16Net.pth文件中。根据vgg16模型建立，在model.py文件中实现，make_features函数确定卷积层和池化层的顺序和参数（卷积核大小，步长等），classifier 确定全连接分类的参数，并初始化权重和前向传播。特色：实现在web进行花朵识别。技术：VGG神经网络。
pytorch实现的Resnet18、VGG16
silentkunden的博客
12-03 1035
''' Resnet18 代码 date:2019/11/30 author:hzp ''' import torch import torch.nn as nn import torch.nn.functional as F class ResidualBlock(nn.Module): def __init__(self, inchannel, outch...
基于VggNet网络与ResNet神经网络的物体分类识别研究-附Matlab代码
m0_70745318的博客
11-27 3387
本文基于CIFAＲ-10 数据集，实现了VGG16 网络与ResNet-18的图像分类识别。 图像分类具有非常强的实际应用价值，一直是计算机视觉方向的一个重要研究课题， 图像分类是将具有相同属性的目标划分为一个类别，从分类的细致程度上分为粗粒度分类和细粒度分类两种。 早期分类类别属性差异较大的分类就是粗粒度分类，比如猫狗猴子的动物类别分类，目前粗粒度分类与人们日常生活息息相关，具有不可或缺的地位，粗粒度分类的研究还有很大发展空间。
数据集及各个分类网络的结构：LeNet、AlexNet、VGG、ResNet(持续更新)
qq_43307824的博客
07-27 973
各个分类网络的结构(持续更新)
图像分类的卷积神经网络LeNet,VGG,GoogLeNet,ResNet通俗解读及其pytorch实现
夏之微风的博客
07-15 1206
一 LeNet 先从LeNet讲起，是最基础的卷积神经网络。先上图。 从网络结构图可看出，LeNet共有7层。假设输入为[1,1,32,32],经过第一层卷积操作之后，形状变为[1,6,28,28]。第一层所用卷积核为filter_size=(5,5)。 第二层为将采样层，降采样层均通过最大池化maxpooling进行实现经过第二层后，输出变为[1,6,14,14]。 第三层为卷积层，经过第三层后输出变为[1,16,10,10]。所用卷积核为filter_size=(5,5)。 第四层为降采样层，输出为[
实验六 卷积神经网络（5）使用预训练resnet18实现CIFAR-10分类
m0_64715292的博客
11-11 3244
预训练resnet18实现CIFAR-10分类
卷积神经网络之经典网络LeNet-5、AlexNet、VGG-16、ResNet
lcczzu的专栏
06-14 2710
一 实例探索 卷积神经网络的基本构建，比如卷积层、池化层以及全连接层这些组件。事实上，过去几年计算机视觉研究中的大量研究都集中在如何把这些基本构件组合起来，形成有效的卷积神经网络。最直观的方式之一就是去看一些案例，就像很多人通过看别人的代码来学习编程一样，通过研究别人构建有效组件的案例是个不错的办法。实际上在计算机视觉任务中表现良好的神经网络框架往往也适用于其它任务，也许你的任务也不例外。也就是...
【深度学习】经典的卷积神经网络模型介绍（LeNet、AlexNet、VGGNet、GoogLeNet、ResNet和MobileNet）
热门推荐
点赞的都能无bug通过！
03-17 3万+
经典的卷积神经网络模型介绍卷积神经网络简介一、LeNet1、INPUT层-输入层2、C1层-卷积层3、S2层-池化层（下采样层）4、C3层-卷积层5、S4层-池化层（下采样层）6、C5层-卷积层7、F6层-全连接层二、AlexNet1、AlexNet特点2、ReLu作为激活函数3、数据增强4、层叠池化5、局部相应归一化6、Dropout7、Alex网络结构8、AlexNet参数数量三、VGG net1、VGG的特点2、VGG网络结构3、VGG优缺点四、GoogLeNet1、GoogLeNet Incepet
基于python的卷积神经网络算法源码（LeNet5、VGGNet、DenseNet、ResNet等)+数据集验证.zip
01-08
1、基于python的卷积神经网络算法源码（LeNet5、VGGNet、DenseNet、ResNet、GoogleNet)+数据集验证.zip 2、该资源包括项目的全部源码，下载可以直接使用！ 3、本项目适合作为计算机、数学、电子信息等专业的课程设计...
深度学习作业-基于resnet50和vgg16网络pytorch框架实现猫狗分类完整源码+代码注释+实验报告.zip
12-14
深度学习作业_基于resnet50和vgg16网络pytorch框架实现猫狗分类完整源码+代码注释+实验报告.zip 猫狗分类，使用Kaggle猫狗分类的原始数据集，实现模型最终的准确率达到90%及以上。本实验的目的： 为了进一步掌握...
各种卷积神经网络的实现（LeNet5、VGGNet、DenseNet、ResNet、GoogleNet).zip
12-18
各种卷积神经网络的实现（LeNet5、VGGNet、DenseNet、ResNet、GoogleNet).zip
神经网络学习小记录55——Keras搭建常见分类网络平台（VGG16、MobileNet、ResNet50）
Bubbliiiing的学习小课堂
01-26 1万+
神经网络学习小记录54——Keras搭建常见分类网络平台（VGG16、MobileNet、ResNet50）学习前言源码下载分类网络的常见形式分类网络介绍1、VGG16网络介绍2、MobilenetV1网络介绍3、ResNet50网络介绍a、什么是残差网络b、什么是ResNet50模型分类网络的训练1、LOSS介绍2、利用分类网络进行训练 学习前言 才发现做了这么多的博客和视频，居然从来没有做过分类网络，做一个科学的分类网络，对身体好。 源码下载 https://github.com/bubbliiiin
强化学习——学习笔记
qq_52302919的博客
05-27 1365
强化学习问题通常可以建模为一个马尔可夫决策过程，包括以下几个要素：1、状态集合 (State Set)：S；2、动作集合 (Action Set)：A；Ps′∣saPs′∣sa，描述在状态s下执行动作a后转移到状态s′s^′s′的概率；Rsas′Rsas′，描述在状态s 下执行动作a并转移到状态s′后获得的奖励。πa∣sπ (a∣s)πa∣s，描述智能体在状态s下选择动作a 的概率。
pytorch学习笔记5
最新发布
drarad的博客
06-02 793
前向钩子（forward hook）在模块的前向传播开始时触发，前向后钩子（forward pre-hook）在前向传播之前触发，反向钩子（backward hook）在反向传播过程中触发。总结来说，钩子提供了一种在 PyTorch 模型的执行过程中插入自定义代码的方法，使得用户可以灵活地调试、监控和扩展模型的功能。作用: 这是一个内部的 C 语言指针，指向张量在底层库（通常是 C++ 实现的 PyTorch 核心）中的具体数据结构。这些钩子可以在张量的梯度计算之前或之后执行自定义的操作。
AI开发初体验：昇腾加持，OrangePi AIpro 开发板
上周的博客
05-27 1301
因为工作需要，以及个人兴趣，本人经常购买开发板进行调试、学习，但具备AI计算的开发板，本人尚未体验过，究其原因，是因为自觉知识储备可能无法胜任AI的开发工作。然而，在体验了OrangePi AIpro 开发板之后，却大大改变了我的看法——AI时代，真的已经来临！OrangePi AIpro 开发板是香橙派联合华为精心打造的高性能 AI 开发板，其内置华为昇腾 AI 处理器，作为国产AI 芯片翘楚，实乃开发板的一大亮点！
AI Agent：人类工作范式的颠覆者还是人机协作新范式？
Baihai_IDP的博客
05-29 658
生成式 AI 只是人工智能发展的开端，未来可能会出现更先进的 AI 智能体系统（AI Agent），我们应当重视 Andrew Ng（译者注：Andrew Ng 是斯坦福大学计算机科学系和电气工程系的客座教授，曾任斯坦福人工智能实验室主任。作者相信人工智能的未来必将呈现出更智能、更自主的 AI Agent 形态。但是 AI Agent 强调的是综合智能，包括但不限于决策制定、环境交互和跨领域的知识应用，这样的智能系统能够适应更复杂的任务需求，并在与人的交流合作中展现出更强的灵活性和实用性。
请选择实现一种网络模型，LeNet、VGG或者ResNet，并在Mnist数据集和Fashion Mnist数据集上进行训练和验证
05-26
好的，我选择ResNet网络模型，这是一种非常经典的深度卷积神经网络模型。 首先，我们需要导入必要的库和数据集。以下是代码： ```python import tensorflow as tf from tensorflow.keras import layers, models, datasets # 加载Mnist数据集和Fashion Mnist数据集 (train_images, train_labels), (test_images, test_labels) = datasets.mnist.load_data() (fashion_train_images, fashion_train_labels), (fashion_test_images, fashion_test_labels) = datasets.fashion_mnist.load_data() # 将像素值缩放到0到1之间 train_images, test_images = train_images / 255.0, test_images / 255.0 fashion_train_images, fashion_test_images = fashion_train_images / 255.0, fashion_test_images / 255.0 ``` 接下来，我们可以构建ResNet模型。以下是代码： ```python def resnet_block(input_data, filters, kernel_size, stride): x = layers.Conv2D(filters, kernel_size=kernel_size, strides=stride, padding='same', activation='relu')(input_data) x = layers.BatchNormalization()(x) x = layers.Conv2D(filters, kernel_size=kernel_size, strides=1, padding='same', activation=None)(x) x = layers.BatchNormalization()(x) x = layers.add([x, input_data]) x = layers.Activation('relu')(x) return x def resnet(input_shape, num_classes): inputs = layers.Input(shape=input_shape) x = layers.Conv2D(64, kernel_size=7, strides=2, padding='same', activation='relu')(inputs) x = layers.BatchNormalization()(x) x = layers.MaxPooling2D(pool_size=(3, 3), strides=2, padding='same')(x) # ResNet blocks x = resnet_block(x, 64, 3, 1) x = resnet_block(x, 64, 3, 1) x = resnet_block(x, 128, 3, 2) x = resnet_block(x, 128, 3, 1) x = resnet_block(x, 256, 3, 2) x = resnet_block(x, 256, 3, 1) x = layers.GlobalAveragePooling2D()(x) # 输出层 outputs = layers.Dense(num_classes, activation='softmax')(x) model = models.Model(inputs=inputs, outputs=outputs) return model # 构建模型 model = resnet((28,28,1), 10) model.summary() ``` 在上述代码中，我们定义了一个ResNet块函数和一个ResNet模型函数。在ResNet模型函数中，我们首先定义了模型的输入层，然后添加一个卷积层和一个批量归一化层。接下来，我们添加了一些ResNet块，以增加模型的深度。最后，我们添加了一个全局平均池化层和一个输出层。 现在我们可以编译和训练模型。以下是代码： ```python # 编译模型 model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy']) # 训练模型 history = model.fit(train_images[..., tf.newaxis], train_labels, epochs=10, validation_data=(test_images[..., tf.newaxis], test_labels)) ``` 在上述代码中，我们使用了Adam优化器和稀疏分类交叉熵损失函数来编译模型。然后，我们使用Mnist数据集来训练模型，并在测试集上进行验证。 我们还可以使用Fashion Mnist数据集来验证模型的泛化能力。以下是代码： ```python # 在Fashion Mnist数据集上进行测试 fashion_loss, fashion_acc = model.evaluate(fashion_test_images[..., tf.newaxis], fashion_test_labels) print('Fashion Mnist accuracy:', fashion_acc) ``` 最后，我们可以绘制训练和验证的准确率和损失函数图表，以便更好地了解模型的性能。以下是代码： ```python import matplotlib.pyplot as plt # 绘制准确率图表 plt.plot(history.history['accuracy'], label='accuracy') plt.plot(history.history['val_accuracy'], label='val_accuracy') plt.xlabel('Epoch') plt.ylabel('Accuracy') plt.ylim([0.5, 1]) plt.legend(loc='lower right') plt.show() # 绘制损失函数图表 plt.plot(history.history['loss'], label='loss') plt.plot(history.history['val_loss'], label='val_loss') plt.xlabel('Epoch') plt.ylabel('Loss') plt.legend(loc='upper right') plt.show() ``` 这样，我们就成功地在Mnist数据集和Fashion Mnist数据集上使用ResNet模型进行了训练和验证。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

饭碗、碗碗香

感谢壮士的慷概解囊！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值