PaddleDetection固化神经网络部分权重

最新推荐文章于 2023-04-25 14:40:11 发布
最新推荐文章于 2023-04-25 14:40:11 发布
阅读量775 收藏
点赞数 1
分类专栏： paddlepaddle 深度学习 神经网络 文章标签： paddledetection paddlepaddle
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/a2824256/article/details/109812017
版权

问题

想要把PaddleDetection(ppdet)的mask-rcnn固化backbone或者其他部分，然后用新的数据集训练做迁移学习，官方文档目前没有找到解决方案。

处理方法

ppdet官方的回答如下，在需要冻结的网络层的输出部分加入如下代码。
官方解决方案

out.stop_gradient = True

目前ppdet并没有一个统一的控制配置，可以自己对框架进行二次开发，添加全局控制变量。
想了解ppdet项目结构请回看这篇文章。
PaddleDetection项目代码结构简介

Alex-Leung
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
Paddle：加载预训练权重以及固定部分权重微调
微风❤水墨
01-13 1729
对于固定网络层：如： stage1→ stage2 → stage3 ，设置 stage2 的输出，假设为。通过设置stop_gradient=True进行实现，比pytorch便捷一些。通过named_parameters来查看，与pytorch基本类似。通过load 和 set_state_dict 函数接口调用实现。，那么， stage1→ stage2 整体都固定了，不再更新。cls0-cls9是网络的10个输出分支，只微调第7个分支权重。3：验证权重固定是否生效。2：固定权重进行微调。
Paddle.fluid之模型freeze
On_theway10的博客
11-22 501
model.freeze #-*- coding:utf-8 -*- import os import paddle import paddle.fluid as fluid from model_zoos import antisp as model def gen_exe(resume = '', use_cuda = False): place = fluid.CUDAPlace(0) if use_cuda else fluid.CPUPlace() exe = fl.
『Python笔记』Python读取PaddlePaddle模型权重文件！
AI新视界
06-05 2025
Python读取Paddlepaddle模型权重文件！ 一. 具体操作过程 要读取的文件是没有格式的，这里使用的是Numpy包fromfile函数。 具体可以参考博客：NumPy 文件存取 tofile，fromfile， load，save import numpy as np import os path = "parse_best_model/weight" path_save ="parse_best_model/weight_now/" if not os.path.exists(p
迁移学习及模型参数冻结
小石子的博客
01-06 2849
迁移学习基础入门篇前言模型迁移学习 前言 面试的时候被问了一个问题，当时没想出来。看完这个，才知道，哦，原来。。。 问题是：什么时候需要把叶子节点固定住？ 我们带着这个问题去看迁移学习。 模型迁移学习 迁移学习一个最大的作用，就是节省训练时间，因为一些大的网络训练是很费功夫的，而别人已经训练好，使得它能提取多种类别的信息了。所以只需要再进行微调学习就能得到小样本任务的训练网络。 一般而言模型的微调任务步骤如下： 1.获取预训练模型参数 2.加载模型（load.state dict） 3.修改输出层 训练方法
PaddleDetection模型参数配置
m0_57173620的博客
12-27 1353
配置系统的大多数功能由ppdet.core.workspace模块提供 register: 装饰器，将类注册为可配置模块；能够识别类定义中的一些特殊标注。 __category__: 为便于组织，模块可以分为不同类别。 __inject__: 如果模块由多个子模块组成，可以这些子模块实例作为构造函数的参数注入。对应的默认值及配置项可以是类名字符串，yaml序列化的对象，指向序列化对象的配置键值或者Python dict（构造函数需要对其作出处理，参见下面的例子）。 __op__: 配合 __appen..
基于RBF神经网络的复合材料固化均匀性优化.pdf
09-25
【基于RBF神经网络的复合材料固化均匀性优化】 在复合材料的固化过程中，由于其导热系数低，尤其是在大厚度结构中，内部温度场和固化度场的非均匀性可能导致残余应力，影响材料的力学性能。为了解决这个问题，文章...
基于BP神经网络的煤矿膏体充填称重系统误差补偿
07-02
【基于BP神经网络的煤矿膏体充填称重系统误差补偿】是一种利用人工智能技术提高煤矿膏体充填过程中称重精度的方法。膏体充填在煤矿开采中扮演着至关重要的角色，因为它对维持井下安全、提高采矿效率具有决定性的影响...
MLP神经网络模型_freehqn_MLP_mlp模型_解析表达式_MLP神经网络_
10-03
虽然这在深度学习模型中并不常见，因为复杂的权重结构很难转化为简单的数学形式，但一些研究尝试将简单的神经网络结构转换为解析表达式，以增进对模型的理解。 **MLP神经网络的应用** MLP神经网络广泛应用于各种...
基于神经网络的辐射源目标快速识别.pdf
09-26
通过对识别样本数据的逐层训练，神经网络可以学习并固化战场目标的特征和规律，改变了传统的特征提取和分类器匹配的方式，提升了目标识别的智能化水平。 2. **非线性映射**：RBF网络的非线性特性使其能有效处理复杂...
基于深度神经网络的ODS合金辐照硬化预测.pdf
09-25
本文主要探讨了利用深度神经网络（DNN）对氧化物弥散强化（ODS）合金的中子辐照硬化进行预测的研究。ODS合金作为一种重要的第四代先进堆和聚变堆结构材料，其抗辐照性能对其在核能领域的应用至关重要。文章通过收集...
PaddleDetection训练参数配置详解（已验证）
Vertira的博客
02-10 8198
PaddleDetection为目标检测库，提供了多种预训练模型和模型配置文件，根据任务需求选择现有的配置文件调整参数即可： YoloV3的优势 ， 1.YOLO网络：单步的目标检测算法，适合目标的实时检测，推算速度较快。丧失部分精度，将图片端到端的进行目标检测，也引入了rcnn的Anchor框体系大幅提升mAP。因为没有进行区域采样，所以对全局信息有较好的表现，前两代网络在小目标检测上表现稍差（一般定义为像素尺寸小于32 * 32的目标或是长宽远小于原图像尺寸的0.1的目标）。但不妨碍成熟的YOLO.
Paddlevideo如何冻结权重
weixin_45879980的博客
04-25 423
找到你使用的网络backbone的路径，可以在config里对应的yaml文件中知道网络使用了哪个backbone。我在训练pptsmv2的时候，想尝试冻结backbone的权重，只训练分类头，但在训练配置（yaml文件）中没有找到冻结权重的参数的设置，因此只能手动进行冻结。这样就冻结成功了，亲测可行。（可以找一个小数据集跑几个epoch，然后用文章开头的代码看看不同的epoch之间权重是否冻结成功。首先我通过以下代码查看了不同epoch之间的权重的值，确认了pptsmv2所有层的权重都没有冻结。
动手学PaddlePaddle（5）：迁移学习
10点43的博客
08-12 2801
本次练习，用迁移学习思想，结合paddle框架，来实现图像的分类。 相关理论： 1. 原有模型作为一个特征提取器: 使用一个用ImageNet数据集提前训练（pre-trained)好的CNN，再除去最后一层全连接层(fully-connected layer)，即除去原有的分类器部分。然后再用剩下的神经网络作为特征提取器应用在新的数据集上。我们只需要用新的训练集训练一个嫁接到这个特征提取...
PaddleDetection-YOLOv3模型结构解析（二）
qq_45684033的博客
12-25 2516
2021SC@SDUSC 本文分析PaddleDetection-YOLOv3模型结构： Head部分算法结构图： modeling/head/yolo_head.py源码解析： 在yaml的配置：/configs/_base_/models/yolov3_darknet53.yml ''' YOLOv3Head:#初始化 anchors: [[10, 13], [16, 30], [33, 23], [30, 61], [62, 45], [59, 119],
PaddleDetection-MaskRcnn结构拆分（二）
qq_45684033的博客
12-26 416
本文章为PaddleDetection-MaskRcnn的结构拆分 首先是Head部分，算法结构图： 首先是在yaml的配置文件：/configs/_base_/models/mask_rcnn_r50_fpn.yml ''' RPNHead: #RPNHead类名 rpn_feat: #rpn特征 name: RPNFeat #类名 feat_in: 256 #输入通道数 feat_out: 256 #输出通道数 anchor_per_position: 3 #
迁移学习——冻结权重学习笔记
QT-Smile
04-05 2837
冻结权重 示例： 这里使用的是tensorflow内置的Xception模型，然后将预训练模型的前100层冻结，训练后32层，加入全局平均池化层和输出层 covn_base = tf.keras.applications.xception.Xception(weights='imagenet',include_top=False) covn_base.trainable = True for layers in covn_base.layers[:-32]: layers.trainable =
迁移学习冻结部分网络层及修改网络层方法
yfvgh的博客
03-30 2815
迁移学习冻结、修改网络层
paddle 42 将任意paddleclas模型作为paddledetection中的backbone使用
a486259的博客
11-25 1034
paddleclas是paddlepaddle官方提出的用于图像分类的开源库，paddledetection是其提出用于目标检测的开源库。在图像分类中的很多模型都可以作为backbone参与目标检测模型中，然而在paddledetection中支持的backbone仅有少部分。所幸，博主发现在paddleclas中通过了海量的预训练模型，为此，打通paddleclas与paddledetection的联系，实现将paddleclas中的预训练模型作为paddledetection中backbone进行训练
关于stop_gradient
weixin_43747587的博客
03-26 4848
paddle有个参数stop_gradient。 结论 对于op里面的参数，使用stop_gradient只影响这个参数本身，即只有这个参数不更新。 对于op的输出，使用stop_gradient，则该点之前的所有层均不再更新。 解释基本想法 设简单的opout = op(x)，一般op里面的参数不会依赖于输入x，out对x的梯度不会用到out对参数的梯度。所以参数设置stop_gr...
python实现bp神经网络数据故障检测
最新发布
06-25
BP神经网络是一种常用的人工神经网络模型，在工业领域中应用广泛，其中数据故障检测是其重要应用之一。Python作为一种常用的编程语言，也可以实现BP神经网络数据故障检测。 具体实现步骤如下： 1. 数据准备：首先...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Alex-Leung

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值