神经网络4

已于 2023-04-20 19:58:13 修改
阅读量53 收藏
点赞数
分类专栏： 神经网络 文章标签： 神经网络 目标检测 深度学习
于 2023-04-20 19:57:56 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45352056/article/details/130273875
版权

目录

目标检测与YOLO

 1 YOLO网络结构

 2 YOLO基本思想

包围框与置信度

1 YOLO包围框

 2 YOLO置信度

3 训练值与预测值

 损失函数

1 YOLO损失函数

 训练与NMS

1 非极大值抑制

 2 数据集训练

 语义分割

1 语义分割

 2 目标

 FCN具体实现

1 FCN实现结构之卷积部分

 2 FCN实现结构之反卷积部分

 

循环神经网络与NLP

1 数据处理基础

 2 文本预处理与词嵌入

 3 RNN模型

 4 LSTM模型

目标检测与YOLO

 1 YOLO网络结构

YOLO官方的模型结构图

网络结构包含24个卷积层和2个全连接层；其中前20个卷积层用来做预训 练，后面4个是随机初始化的卷积层，和2个全连接层。

 2 YOLO基本思想

YOLO网络输入

YOLO v1在PASCAL VOC数据集上进行的训练，因此输入图片为 448 × 448 × 3。实际中如为其它尺寸，需要resize或切割成 要求尺寸。

YOLO模型处理：𝟕 × 𝟕网格划分

  • 将图片分割为 𝑆 2个grid(𝑆 = 7)，每 个grid cell的大小都是相等的  
  • 每个格子都可以检测是否包含目标
  •  YOLO v1中，每个格子只能检测一种 物体（但可以不同大小）

 YOLO网络输出

  • 输出是一个7 × 7 × 30的张量。对应 7 × 7个cell
  •  每个cell对应2个包围框(bounding box, bb)，预测不同大小和宽高比， 对应检测不同目标。每个bb有5个分量， 分别是物体的中心位置(𝑥, 𝑦)和它的高 (ℎ) 和宽 (𝑤) ，以及这次预测的置信度。

YOLO模型输出

 在上面的例子中，图片被分成了49个框，每个框预测2个bb，因此上面的图中 有98个bb

包围框与置信度

1 YOLO包围框

我们有 𝑠^2个框，每个框的bb个数为𝐵，分类器可以识别出𝐶种不同的物体， 那么所有整个ground truth的长度为𝑆 × 𝑆 × (𝐵 × 5 + 𝐶) YOLO v1中，这个数量是30 YOLO v2和以后版本使用了自聚类的anchor box为bb, v2版本为𝐵 = 5, v3中 𝐵 =9

处理细节——归一化

四个关于位置的值，分别是𝑥, 𝑦, ℎ和𝑤，均为整数，实际预测中收敛慢 因此，需要对数据进行归一化，在0-1之间。

 2 YOLO置信度

处理细节——置信度

 Pr(𝑜𝑏𝑗)是一个grid有物体的概率

IOU是预测的bb和真实的物体位置的交并比。

 𝐼𝑂𝑈：图中绿框为真实标注，其余五个颜色框为预测值，可计算对应𝐼𝑂𝑈

3 训练值与预测值

Pr 𝑜𝑏𝑗 的ground truth：三个目标中点对应格子为1，其它为0

 处理细节——训练数据与网络输出

 损失函数

1 YOLO损失函数

 

 

 

 

 训练与NMS

1 非极大值抑制

预训练与训练

保留了这么多边界框，预测中 一个物体可能被多个边界框包 围；实际物体只对应一个边界 框，如何解决个问题呢？NMS

 NMS核心思想是：选择得分最高 的作为输出，与该输出重叠的 去掉，不断重复这一过程直到 所有备选处理完。

NMS算法要点

1. 首先丢弃概率小于预定IOU阈值（例如0.5）的所有边界框；对 于剩余的边界框：

2. 选择具有最高概率的边界框并将其作为输出预测；

3. 计算 “作为输出预测的边界框”，与其他边界框的相关联IoU 值；舍去IoU大于阈值的边界框；其实就是舍弃与“作为输出预 测的边界框” 很相近的框框。

4. 重复步骤2，直到所有边界框都被视为输出预测或被舍弃

 2 数据集训练

预训练与训练

YOLO先使用ImageNet数据集对前20层卷积网络进行预训练，然 后使用完整的网络，在PASCAL VOC数据集上进行对象识别和定 位的训练和预测

训练中采用了drop out和数据增强来防止过拟合。

 YOLO的最后一层采用线性激活函数(因为要回归bb位置)，其它 层都是采用Leaky ReLU激活函数

 

 

 语义分割

1 语义分割

语义分割关注如何将图像分割成属于不同语义类别的区域。值得一提的是， 这些语义区域的标注和预测都是像素级的。下图展示了语义分割中图像有关 狗、猫和背景的标签。可以看到，与目标检测相比，语义分割标注的像素级 的边框显然更加精细。

 2 目标

 

基本思想：滑动窗口

 FCN网络结构

 

 FCN具体实现

1 FCN实现结构之卷积部分

 

 

 

 2 FCN实现结构之反卷积部分

 

 

 

 

循环神经网络与NLP

1 数据处理基础

数值特征与类别特征

 年龄，是一个数值特征
第2列表示性别，是一个只有一位（0，1）的特征0 -> Male, 1 -> Female
第3列表示国籍，目前有197个国家1 -> US, 2 -> China, …
可以用一个整数来表示，或者用一个独热向量来表示, 如US: [1,0, ….,0]
数值特征不适合表示类别，因此一般使用独热编码
国家编码从1开始，1~197，因为实际国籍有可能不填(对应0)


文本处理

 

 2 文本预处理与词嵌入

文本预处理 一篇文章可以被简单地看作一串单词序列，甚至是一串字符序列。 我们将 解析文本的常见预处理步骤。 这些步骤通常包括：

1.将文本作为字符串加载到内存中。

2.将字符串切分为词元（如单词和字符）。

3.建立一个字典，将拆分的词元映射到数字索引。

4.将文本转换为数字索引序列，方便模型操作。

 

 

 3 RNN模型

 

 

 

 

 4 LSTM模型

LSTM网络模型

 

weixin_45352056
关注
专栏目录
PyTorch深度学习实战（3）——使用PyTorch构建神经网络
盼小辉丶的博客
06-13 6万+
PyTorch 是一个用于构建深度神经网络的库，具有灵活性和可扩展性，可以轻松自定义模型。在本节中，我们将使用 PyTorch 库构建神经网络，利用张量对象操作和梯度值计算更新网络权重，并利用 Sequential 类简化网络构建过程，最后还介绍了如何使用 save、load 方法保存和加载模型，以节省模型训练时间。
图神经网络实战（1）——图神经网络(Graph Neural Networks, GNN)基础
盼小辉丶的博客
01-02 6万+
本节全面介绍了图神经网络 (Graph Neural Network, GNN) ，包括其在数据分析和机器学习中的重要性。首先探讨了图作为数据表示的相关概念及其在各个领域的广泛应用；然后深入探讨图学习的重要性，包括不同的应用和技术。最后，重点介绍了 GNN 架构，并对比了它与其他方法之间的原理和性能差异。
机器学习算法——神经网络4（RBF神经网络）
Vicky_xiduoduo的博客
05-17 7998
RBF(Radial Basis Function,径向基函数)网络是一种单隐层前馈神经网络。它使用径向基函数作为隐层神经元激活函数，而输出层是对隐层神经元输出的线性组合。 所以，RBF神经网络是一种三层神经网络，其包括输入层、隐层、输出层。从输入层到隐层的变换是非线性的，从隐层到输出层的变换是线性的。RBF神经网络结构如下图所示。 其中，我们称之为径向基函数，最常见的径向基函数是高斯径向基函数（或称为“高斯核函数”或者RBF核函数）。高斯核函数定义如下： 其中，是第i个神经元的中心点，为高.
BP神经网络预测matlab代码讲解与实现步骤
CJ-leaf的博客
12-07 21万+
文章目录1. BP神经网络的简介和结构参数1.1 BP神经网络的结构组成1.2 BP神经网络训练界面的参数解读2. 实现BP网络的步骤3. matlab代码编写4. BP代码运行结果4.1 预测值和真实值的误差计算（MAE、MSE、MRSE）4.2 BP网络训练的性能分析图像5. 结语6. MATLAB代码 1. BP神经网络的简介和结构参数 神经网络是机器学习中一种常见的数学模型，通过构建类似于大脑神经突触联接的结构，来进行信息处理。在应用神经网络的过程中，处理信息的单元一般分为三类：输入单元、输出单元和
CNN笔记：通俗理解卷积神经网络
热门推荐
结构之法 算法之道
07-02 83万+
2012年我在北京组织过8期machine learning读书会，那时“机器学习”非常火，很多人都对其抱有巨大的热情。当我2013年再次来到北京时，有一个词似乎比“机器学习”更火，那就是“深度学习”。本博客内写过一些机器学习相关的文章，但上一篇技术文章“LDA主题模型”还是写于2014年11月份，毕竟自2015年开始创业做在线教育后，太多的杂事、琐碎事，让我一直想再写点技术性文章但每每恨时间抽不开。然由于公司在不断开机器学习、深度学习等相关的在线课程，耳濡目染中，总会顺带着学习学习。
BP神经网络预测实例（matlab代码，神经网络工具箱）
人工智能方向，计算机视觉
02-16 13万+
目录辛烷值的预测matlab代码实现工具箱实现 参考学习b站： 数学建模学习交流 bp神经网络预测matlab代码实现过程 辛烷值的预测 【改编】辛烷值是汽油最重要的品质指标，传统的实验室检测方法存在样品用量大，测试周期长和费用高等问题，不适用于生产控制，特别是在线测试。近年发展起来的近红外光谱分析方法（NIR），作为一种快速分析方法，已广泛应用于农业、制药、生物化工、石油产品等领域。其优越性是无损检测、低成本、无污染，能在线分析，更适合于生产和控制的需要。实验采集得到50组汽油样品（辛烷值已通过其他方法测
神经网络
qq_46458188的博客
11-27 4090
一、神经网络 1.神经元（节点） 是神经网络的的基础单元，基本形式为wx+b（x1、x2为输入向量，w1、w2为权重，b为偏置，g(z)为激活函数，a为输出）大量神经元相互连接组成神经网络，每个神经元接受一个或多个信号输入，经过激活函数变换后输出，神经元之间用权重连接。 2.激活函数 常见的激活函数有Sigmoid、Tanh、ReLu，前两者用于全连接层，后者用于卷积层。 Sigmoid函数： z是一个线性组合，如b+w1*x1+w2*x2，代入正...
BP神经网络
hcxddd的博客
07-27 1万+
理论加代码
BP神经网络预测（python）
积极向上的mr.d的博客
04-30 8万+
下边是基于Python的简单的BP神经网络预测，多输入单输出，也可以改成多输入多输出，下边是我的数据，蓝色部分预测红色（x,y,v为自变量，z为因变量） 话不多说，直接上代码 # -*- coding: utf-8 -*- """ """ import numpy as np import pandas as pd import matplotlib.pyplot as plt from tensorflow import metrics from sklearn import metrics imp
卷积神经网络（CNN）详细介绍及其原理详解
IronmanJay的博客
01-14 17万+
本文总结了关于卷积神经网络（CNN）的一些基础的概念，并且对于其中的细节进行了详细的原理讲解，通过此文可以十分全面的了解卷积神经网络（CNN），非常适合于作为Deep Learning的入门学习。下面就是本篇博客的全部内容！
BP神经网络的人脸识别matlab代码
06-16
BP神经网络，全称为Backpropagation Neural Network，是一种在机器学习领域广泛应用的多层前馈神经网络。这种网络通过反向传播算法进行训练，能够学习输入与输出之间的复杂非线性关系。在本项目中，BP神经网络被用于...
PyTorch深度学习实战（1）——神经网络与模型训练过程详解
盼小辉丶的博客
05-28 6万+
在本节中，我们将了解传统机器学习与人工神经网络间的差异，并了解如何在实现前向传播之前连接网络的各个层，以计算与网络当前权重对应的损失值；实现反向传播以优化权重达到最小化损失值的目标。并将实现网络的所有关键组成——前向传播、激活函数、损失函数、链式法则和梯度下降，从零开始构建并训练了一个简单的神经网络。
吴恩达深度学习笔记：卷积神经网络（Foundations of Convolutional Neural Networks）2.5-2.6
weixin_43597208的博客
09-29 1441
构建卷积层时，你要决定过滤器的大小究竟是 1×1（原来是 1×3，猜测为口误），3×3 还是 5×5，或者要不要添加池化层。而 Inception 网络的作用就是代替你来决定，虽然网络架构因此变得更加复杂，但网络表现却非常好，我们来了解一下其中的原理。例如，这是你 28×28×192 维度的输入层，Inception 网络或 Inception 层的作用就是代替人工来确定卷积层中的过滤器类型，或者确定是否需要创建卷积层或池化层，我们演示一下。
YOLO11改进|注意力机制篇|引入上下文锚注意力机制CAA
最新发布
A1983Z的博客
10-06 730
YOLO11中添加CAA注意力机制
《深度学习》—— 神经网络中的数据增强
weixin_73504499的博客
09-24 1696
神经网络中的数据增强是一种通过增加训练数据的多样性和数量来提高模型泛化能力的技术。在神经网络训练过程中，尤其是在数据集较小的情况下，模型容易出现过拟合问题，即模型在训练数据上表现良好，但在未见过的数据上表现不佳。数据增强技术通过对原始数据进行一系列变换，生成新的数据样本，从而有效缓解这一问题。
基于CNN+Transformer混合模型实现交通流量时序预测(PyTorch版)
君子不器 大道无方
09-30 1571
本文旨在详细介绍如何使用PyTorch框架实现基于CNN+Transformer的混合模型，并将其应用于交通流量时序预测任务。我们将从模型架构、数据处理、训练优化等多个方面进行深入剖析，力求为读者提供一个全面、系统的学习与实践指南。希望通过本文的介绍，读者能够掌握CNN+Transformer混合模型的基本原理与实现方法，并能够在实际交通流量预测任务中灵活应用，为城市交通管理与规划贡献自己的力量。
深度学习：DCGAN
Landy_Jay的博客
10-01 521
CDGAN（Deep Convolutional Generative Adversarial Networks），是GAN（Generative Adversarial Networks）的一种变体，它特别使用了卷积神经网络（CNNs）作为生成器和判别器的构建模块。DCGAN使用全卷积网络结构代替传统的池化层和全连接层。在生成器中采用转置卷积（也称为分数步长卷积或反卷积）来逐步增加图像的空间维度。在判别器中使用卷积层来逐步减少空间维度并提取特征。
深度学习-----------------机器翻译与数据集
Einstein·Jun
10-03 439
绘制每个文本序列所包含的标记数量的直方图。
国创——基于分离表示的人脸图像生成技术
2301_80073593的博客
10-01 1030
根据用户的个性化需求，对分离得到的形状和纹理表示进行调整。- 在DFGA框架的几何形状生成模块中，根据输入数据（可能是经过预处理的图像特征等），使用特定的算法或模型生成人脸的几何形状。- 分离表示旨在将人脸图像分解为不同的组件，如几何形状（面部结构）、皮肤纹理（颜色、细节等）等表示形式。- 将生成的几何形状和皮肤纹理进行融合，得到最终的个性化人脸图像或者视频帧（如果是从视频序列输入）。- 定义DFGA框架中的各个模块，如数据加载模块、几何形状生成模块、皮肤纹理生成模块、融合模块等。
神经网络入门指南
在神经网络的基本概念部分，作者解释了人工神经网络（Artificial Neural Networks, ANN）是什么。这些网络是受生物神经元结构启发的计算模型，用于处理各种复杂的学习任务，如图像识别、语音识别和自然语言处理等。...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

weixin_45352056

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值