TensorFlow神经网络
文章平均质量分 93
使用TensorFlow2.0构建神经网络
立Sir
专注于深度学习、机器视觉,代码涉及Python、TensorFlow、Pytorch。源码获取加VX:hitsz_zl
展开
-
【神经网络】(22) ConvMixer 代码复现,网络解析,附TensorFlow完整代码
大家好,今天和各位分享一下如何使用 TensorFlow 构建 ConvMixer 卷积神经网络模型.作者证明了PatchEmbedding对VIT的精度影响更大,并提出了一个非常简单的模型ConvMixer,在思想上类似于ViT和MLP-Mixer。模型直接将patch作为输入,分离空间和通道尺寸的混合建模,并在整个网络中保持相同大小的分辨率。......原创 2022-06-09 18:32:08 · 1818 阅读 · 2 评论 -
【神经网络】(21) Vision Transformer 代码复现,网络解析,附TensorFlow完整代码
大家好,今天和各位分享一下如何使用 TensorFlow 构建 ViT B-16 模型。为了方便大家理解,代码使用函数方法。1. 引言在计算机视觉任务中通常使用注意力机制对特征进行增强或者使用注意力机制替换某些卷积层的方式来实现对网络结构的优化,这些方法都在原有卷积网络的结构中运用注意力机制进行特征增强。而 ViT 依赖于原有的编码器结构进行搭建,并将其用于图像分类任务,在减少模型参数量的同时提高了检测准确度。将 Transformer 用于图像分类任务主要有以下 5 个过程:(1)将输入图原创 2022-05-16 10:10:05 · 5765 阅读 · 15 评论 -
【神经网络】(20) GhostNet 代码复现,网络解析,附TensorFlow完整代码
大家好,今天和各位分享一下如何使用 TensorFlow 构建 GhostNet 轻量化卷积神经网络模型。GhostNet 相比于普通的卷积神经网络在生成特征图时使用了更少的参数。它提出的动机是为了改善神经网络中特征图存在着冗余的现象。神经网络中的特征图存在着一定程度上的冗余,这些冗余的特征图一定程度上来说,也增强了网络对特征理解的能力,对于一个成功的模型来说这些冗余的特征图也是必不可少的。相比于有些轻量化网络去除掉这些冗余的特征图,GhostNet 选择低成本的办法来保留它们。GhostNet 的原创 2022-05-14 12:38:06 · 3907 阅读 · 7 评论 -
【神经网络】(19) ConvNeXt 代码复现,网络解析,附Tensorflow完整代码
各位同学好,今天和大家分享一下如何使用 Tensorflow 构建 ConvNeXt 卷积神经网络模型。论文地址:https://arxiv.org/pdf/2201.03545.pdf完整代码在我的Gitee中:https://gitee.com/dgvv4/neural-network-model/tree/master/21年Transformer频频跨界视觉领域,先是在图像分类上被谷歌ViT突破,后来在目标检测和图像分割又被微软Swin Transformer拿下。随着投身视觉Trans原创 2022-03-28 13:59:51 · 6177 阅读 · 7 评论 -
【神经网络】(18) EfficientNetV2 代码复现,网络解析,附Tensorflow完整代码
各位同学好,今天和大家分享一下如何使用 Tensorflow 搭建 EfficientNetV2 卷积神经网络模型。原创 2022-03-20 17:07:13 · 5059 阅读 · 6 评论 -
【神经网络】(17) EfficientNet 代码复现,网络解析,附Tensorflow完整代码
各位同学好,今天和大家分享一下如何使用 Tensorflow 复现 EfficientNet 卷积神经网络模型。EfficientNet 的网络结构和 MobileNetV3 比较相似,建议大家在学习 EfficientNet 之前先学习一下 MobileNetV3MobileNetV3:https://blog.csdn.net/dgvv4/article/details/123476899EfficientNet-B7在imagenet上准确率达到了当年最高的84.3%,与之前准确率最高的.原创 2022-03-17 17:58:06 · 5462 阅读 · 5 评论 -
【神经网络】(16) MobileNetV3 代码复现,网络解析,附Tensorflow完整代码
各位同学好,今天和大家分享一下如何使用 Tensorflow 构建 MobileNetV3 轻量化网络模型。之前我介绍了许多种类的卷积神经网络模型,感兴趣的可以看一下:https://blog.csdn.net/dgvv4/category_11517910.htmlMobileNetV3...原创 2022-03-14 16:23:14 · 10005 阅读 · 12 评论 -
【神经网络】(15) Xception 代码复现,网络解析,附Tensorflow完整代码
各位同学好,今天和大家分享一下如何使用 Tensorflow 构建 Xception 神经网络模型。在前面章节中,我已经介绍了很多种轻量化卷积神经网络模型,感兴趣的可以看一下:https://blog.csdn.net/dgvv4/category_11517910.htmlXception 是一种兼顾了准确性和轻量化的算法。如下图所示,横轴表示计算量,纵轴表示准确率。在准确率上,Xception是排在第一梯队的,且在计算速度上,也算是轻量化网络模型。Xception 使用了 MobileN原创 2022-03-13 16:43:08 · 4334 阅读 · 1 评论 -
【神经网络】(14) MnasNet 代码复现,网络解析,附Tensorflow完整代码
各位同学好,今天和大家分享一下如何使用 Tensorflow 复现谷歌轻量化神经网络 MnasNet通常而言,移动端(手机)和终端(安防监控、无人驾驶)上的设备计算能力有限,无法搭载庞大的神经网络模型。我们需要减少模型参数量、减小计算量、更少的内存访问量、更少的能耗。MobileNet、ShuffleNet 等轻量化网络就非常适合于一些计算能力受限的设备,通过牺牲少量准确率来换取更快的运算速度。在之前的章节中,我介绍了一些经典的轻量化神经网络模型。本篇需要用到MobileNetV1、V2的相关知识.原创 2022-03-12 17:56:01 · 2169 阅读 · 1 评论 -
【神经网络】(13) ShuffleNetV2 代码复现,网络解析,附Tensorflow完整代码
各位同学好,今天和大家分享一下如何使用 Tensorflow 复现轻量化神经网络 ShuffleNetV2。为了能将神经网络模型用于移动端(手机)和终端(安防监控、无人驾驶)的实时计算,通常这些设备计算能力有限,因此我们需要减少模型参数量、减小计算量、更少的内存访问量、更少的能耗。MobileNet、ShuffleNet 等轻量化网络就非常适合于一些计算能力受限的设备,牺牲少量准确率换取更快的运算速度。在之前的章节中,我详细介绍了 MobileNetV1 和 MobileNetV2 网络模型,今天介原创 2022-03-11 21:12:17 · 4512 阅读 · 16 评论 -
【神经网络】(12) MobileNetV2 代码复现,网络解析,附Tensorflow完整代码
各位同学好,今天和大家分享一下如何使用 Tensorflow 复现谷歌轻量化神经网络 MobileNetV2。在上一篇中我介绍了MobileNetV1,探讨了深度可分离卷积,感兴趣的可以看一下:【神经网络】(11) 轻量化网络MobileNetV1代码复现、解析,附Tensorflow完整代码,本节还会继续用到深度可分离卷积的知识。那我们开始吧。1. MobileNetV1的局限上一节中我们认识到,深度可分离卷积能显著地减少参数量和计算量,占用更少的内存。但是,由于MobileNet研发原创 2022-03-11 12:22:24 · 4145 阅读 · 8 评论 -
【神经网络】(11) 轻量化网络MobileNetV1代码复现、解析,附Tensorflow完整代码
各位同学好,今天和大家分享一下如何使用 Tensorflow 复现轻量化神经网络模型 MobileNetV1。为了能将神经网络模型用于移动端(手机)和终端(安防监控、无人驾驶)的实时计算,通常这些设备计算能力有限,因此我们需要减少模型参数量、减小计算量、更少的内存访问量、更少的能耗。下图通过比较GPU和CPU上前向传播的耗时分布,可见,卷积层占用大部分时间。并且 Batch Size 越大,卷积层花费的时间就越长。由于全连接层在目前的许多网络中都不存在了。所以,轻量化网络很大程度上是对卷积层的优化.原创 2022-03-11 09:56:21 · 4255 阅读 · 2 评论 -
【神经网络】(10) Resnet18、34 残差网络复现,附python完整代码
各位同学好,今天和大家分享一下 TensorFlow 深度学习中如何搭载 Resnet18 和 Resnet34 残差神经网络,残差网络利用 shotcut 的方法成功解决了网络退化的问题,在训练集和校验集上,都证明了的更深的网络错误率越小。论文中给出的具体的网络结构如下:Resnet50 网络结构我已经在之前的博客中复现过,感兴趣的可以看一下:https://blog.csdn.net/dgvv4/article/details/121878494感谢简书大佬画的残差网络结构图:h原创 2022-01-09 20:44:42 · 19635 阅读 · 2 评论 -
【神经网络】(9) 迁移学习(CNN-InceptionResNetV2),案例:交通标志4分类
各位同学好,今天和大家分享一下Tensorflow2.0中使用迁移学习的方法,搭载InceptionResNetV2网络进行交通标志分类识别。1. 网络简介网络复现代码见下文:https://blog.csdn.net/weixin_44791964/article/details/103732720。本节使用迁移学习,不复现网络一、Inception基本思想:不需要人为决定使用哪个过滤器,或是否需要池化,而是由网络自行确定这些参数,你可以给网络添加这些参数的所有可能值,然后把这些输出连接起原创 2021-12-18 19:19:20 · 4949 阅读 · 18 评论 -
【神经网络】(8) 卷积神经网络(Mobilenet_v1),案例:cifar图像10分类
各位同学大家好,今天和大家分享一下TensorFlow2.0中如何搭载Mobilenet_v1神经网络。1. 模型简介MobileNet系列是轻量级网络的一个系列,是针对移动端以及嵌入式视觉的应用提出的一类有效的模型。详细见:MobileNet_v1详解 - 灰信网(软件开发博客聚合) (freesion.com)MobileNet是一种基于深度可分离卷积的模型,深度可分离卷积是一种将标准卷积分解成深度卷积以及一个1x1的卷积。对于MobileNet而言,深度卷积针对每个单个输入通道应用单个滤波原创 2021-12-16 20:04:47 · 3164 阅读 · 4 评论 -
【神经网络】(7) 迁移学习(CNN-MobileNetV2),案例:乳腺癌二分类
各位同学好,今天和大家分享一下Tensorflow2.0中如何使用迁移学习的方法构造神经网络。需要数据集的在评论区留个言。1. 迁移学习官方文档:Module: tf.keras.applications | TensorFlow Core v2.7.0 (google.cn)使用迁移学习,可以直接获取官方已经构建好了的网络模型架构,以及训练好的权重参数,可能这些参数和我们处理的问题不太一样。但相比我们建模过程中采用随机初始化的权重参数,预训练的权重参数会让我们的模型训练速度更快,准确率提高..原创 2021-12-14 21:06:09 · 4916 阅读 · 5 评论 -
【神经网络】(6) 卷积神经网络(VGG16),案例:鸟类图片4分类
各位同学好,今天和大家分享一下TensorFlow2.0中的VGG16卷积神经网络模型,案例:现在有四种鸟类的图片各200张,构建卷积神经网络,预测图片属于哪个分类。1. 数据加载将鸟类图片按类分开存放,使用tf.keras.preprocessing.image_dataset_from_directory()函数分批次读取图片数据,统一指定图片加载进来的大小224*224,指定参数label_model,'int'代表目标值y是数值类型,即0, 1, 2, 3等;'categorical'代表o原创 2021-12-12 19:21:44 · 4242 阅读 · 7 评论 -
【神经网络】(5) 卷积神经网络(ResNet50),案例:艺术画作10分类,附数据集
各位同学好,今天和大家分享一下TensorFlow2.0中如何构建卷积神经网络ResNet-50,案例内容:现在收集了10位艺术大师的画作,采用卷积神经网络判断某一幅画是哪位大师画的。数据集:https://pan.baidu.com/share/init?surl=cWMvsl37MOZdxnoOjSGoNQ提取码: 2h5x1. 数据加载在文件夹中将图片按照训练集、验证集、测试集划分好之后,使用tf.keras.preprocessing.image_dataset_from_direc原创 2021-12-11 20:53:52 · 6034 阅读 · 22 评论 -
【神经网络】(4) 卷积神经网络(CNN),自定义网络,案例:彩色图像10分类
各位同学大家好,今天和大家分享一下TensorFlow2.0中如何使用函数方法自定义卷积神经网络。1. 导入数据获取系统自带的10分类图像数据,50k张用于训练,10k张用于测试。# 10分类卷积神经网络import tensorflow as tffrom tensorflow import kerasfrom tensorflow.keras import Sequential,optimizers,layers,datasets#(1)数据获取(x,y), (x_test,原创 2021-12-10 17:19:46 · 2720 阅读 · 3 评论 -
【神经网络】(3) 卷积神经网络(CNN),案例:动物三分类,附python完整代码
各位同学好,今天和大家分享一下TensorFlow2.0深度学习中卷积神经网络的案例。现在有猫、狗、熊猫图片一千张,构建卷积神经网络实现图像的分类预测。1. 数据加载将训练测试数据划分好后放在同一个文件目录下,使用tf.keras.preprocessing.image_dataset_from_directory()函数构造数据集。函数的具体用法见:https://blog.csdn.net/qq_40108803/article/details/110408217对训练数据和验证数据进行on原创 2021-12-09 18:37:18 · 12031 阅读 · 28 评论 -
【神经网络】(2) 网络优化,案例:服装图像分类,附python完整代码
各位同学好,今天和大家分享以下TensorFlow2.0深度学习中对神经网络的优化方法,包括动量、学习率、dropout、交叉验证、正则化。使用数学公式对网络进行优化,增加网络灵活性。1. 数据导入导入系统自带的服装数据集,查看数据集的相关信息。import tensorflow as tffrom tensorflow import kerasfrom tensorflow.keras import datasets, Sequential, layers, optimizers, me原创 2021-12-08 16:45:06 · 2191 阅读 · 2 评论 -
【神经网络】(1) 简单网络,实例:气温预测,附python完整代码和数据集
各位同学好,今天和大家分享一下TensorFlow2.0深度学习中的一个小案例。案例内容:现有348个气温样本数据,每个样本有8项特征值和1项目标值,进行回归预测,构建神经网络模型。数据集免费:神经网络回归预测--气温数据集-机器学习文档类资源-CSDN文库1. 数据获取导入所需要的库文件,获取气温数据import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport tensorflow as tf原创 2021-11-26 17:06:47 · 26553 阅读 · 32 评论