深度学习复盘与论文复现E

已于 2024-07-21 22:06:00 修改
阅读量539 收藏 4
点赞数 21
分类专栏： 机器学习 文章标签： 深度学习 人工智能
于 2024-07-21 22:02:12 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/QuantumYou/article/details/140542166
版权

文章目录


在这里插入图片描述

本期复现论文：Two-stage Temporal Modelling Framework for Video-based Depression Recognition using Graph Representation

https://ieeexplore.ieee.org/document/10572478

在这里插入图片描述

一、项目复现的问题及其解决方案

1、 Cannot find DGL C++ graphbolt library

FileNotFoundError: Cannot find DGL C++ graphbolt library
在这里插入图片描述

  • 解决方法：在命令行终端执行 pip install dgl 没有效果后 在设置package 中进行安装

2、 “is“ with a literal. Did you mean “==“?”

“SyntaxWarning: “is“ with a literal. Did you mean “==“?”
在这里插入图片描述

原因：
从 python 3.8 开始，使用 is 和 is not 运算符时，会抛出 SyntaxWarning 语句警告信息

  • 解决方法：将对应语句中is/is not用== 和 != 代替

MTB_DFE运行结果
在这里插入图片描述

3、运行SEG、SPG查看GATNet的网络结构

序列图表示(SEG)和频谱图表示(SPG)
在这里插入图片描述

在这里插入图片描述

  • 连接服务器运行一下

在这里插入图片描述
在这里插入图片描述

4、关于LI-FPN项目找不到数据粒度不匹配问题

在这里插入图片描述

在这里插入图片描述

  • 解决方法：发现这里的测试数据和训练数据居然是字符串，进行重新按格式导入数据集即可

5、关于LI-FPN项目num_samples为空

在这里插入图片描述

  • 解决方法：还是数据集没有处理好，重新按格式导入数据集即可

6、解决路径问题

  • 输出结果如下贴图，发现243_1/243_1 明显是截取目录出错了

在这里插入图片描述

  • 解决方法：正确引入路径

7、 !ssize.empty() in function ‘resize’

在这里插入图片描述
在这里插入图片描述

  • 解决方法：尝试对一个空的或未正确初始化的数据结构 进行大小调整（resize）操作。正确引入数据即可

8、读取数据问题

在这里插入图片描述

  • 解决方法：还是数据集没有处理好， 导致读取数据问题

9、关于yaml配置文件问题

在这里插入图片描述

  • 解决方法：如下图
    在这里插入图片描述

10、下载所需数据

在这里插入图片描述

  • 解决方法：Failed 原因可能是连接不上，多尝试即可

11、运行Absolution_openface.py

在这里插入图片描述

  • 解决方法：查看结构和shape

12、关于mmcv 的一系列问题

#from mmcv.runner import get_dist_info, init_dist
from mmengine.dist.utils import get_dist_info, init_dist

在这里插入图片描述

  • 解决方法：通过查找官方文档发现

在这里插入图片描述

13、基准安装

在这里插入图片描述
在这里插入图片描述

  • 解决方法：等待安装即可

14、‘dgl.function’ has no attribute ‘copy_src’

AttributeError: module ‘dgl.function’ has no attribute ‘copy_src’
在这里插入图片描述
安装了最新的DGL包，之前的一些功能可能省略，或者是合并成了新功能

在这里插入图片描述

  • 解决方法：修改为 dgl.function.copy_u

在这里插入图片描述

# msg = fn.copy_u(src='h', out='m')
msg = fn.copy_u('h', 'm')

15、ZINC.pkl 缺失问题

在这里插入图片描述

  • 解决方法：等待安装即可

16、 ‘DGLHeteroGraph’ on’dgl.heterograph’

Can’t get attribute ‘DGLHeteroGraph’ on <module ‘dgl.heterograph’

在这里插入图片描述

解决方法

  • 解决方法：找到服务器的lib 库中进行替换 site-packages

在这里插入图片描述

17、 np.ndarray of type numpy.object_.

TypeError: can’t convert np.ndarray of type numpy.object_. The only
supported types are: float64, float32, float16, complex64, complex128,
int64, int32, int16, int8, uint8, and bool.

在这里插入图片描述
在这里插入图片描述

  • 解决方法：
labels = torch.tensor(np.array(labels)).unsqueeze(1)

labels=labels.astype(float)

在这里插入图片描述

labels = torch.tensor(labels, dtype=torch.float32).unsqueeze(1)

18、E: Unable to locate package tmux

sudo apt-get update

sudo apt-get install tmux

在这里插入图片描述

二、项目开始训练

  • 调试了好久BUG 终于开始训练，不过在排除各种各样的BUG的时候学到了许多，收获满满！！ 🚀🔥

在这里插入图片描述

1、关于论文

  • MTB模块：对于AVEC2013和AVEC2014数据集的实验，使用了由三个ResNet-.50网铬组成的MTB模块，这些网络在VG-GFace2上进行了预训练。具体来说，通过三个分支来考虑三个空间尺度，这些分支分别将输入序列(即包含30帧，每帧大小为3×112×112)编码为包含8顿的序列，大小分别为256×28×28、512×14×14和2048×4×4(即特征图的数量、高度和宽度)。

  • MTB模块的最终输出包括三个时序特征图集，每个时序特征图集由1024个特征图组成，大小为1×4×4。最后，将每个特征映射集转换为2048维的一维潜在特征向量，从而形成DFE模块的输入。

  • DFE模块：DFE模块由MTA模块和NS模块组成。MTA模块由三个独立捕获每个时间尺度显著信息的非局部模块和三个增强每个特征对相关信息的相互关注模块组成。NS模块是一个标准的编码器，包含四个1-D卷积层，分别有1024、512、128和32个内核。

  • 在NS模块的训练过程中，共享的无凹陷编码器与凹陷编码器的架构相同。

  • 抑郁症识别模型：采用的GAT模型包含一个GAT层，一个读出层和三个FC层，附加RLU激活函数。特别地，我们采用了“均值”运算来聚合读出层中节点的特征。

python main_molecules_graph_regression.py --dataset ZINC --gpu_id 0 --config   
'configs/molecules_graph_regression_GatedGCN_ZINC_100k.json' # for GPU

python main_molecules_graph_regression.py --dataset AQSOL --gpu_id 0 --config   
'configs/molecules_graph_regression_GatedGCN_AQSOL_100k.json' # for GPU

2、训练完成

在这里插入图片描述
在这里插入图片描述

  • 后续补坑： 关于MAE与预期相差太大，大致原因已经找到，经过Debug发现，读的的源数据就是有问题的😢

在这里插入图片描述
在这里插入图片描述

QuantumYou
关注
  • 21
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
[CSRNet] CSRNet-pytorch 复现过程记录
wpw5499的博客
12-22 7457
目录一、开发环境二、论文代码三、操作步骤导入项目数据准备训练模型 一、开发环境 windows10+Anaconda3+Python3.6+CUDA10.0+Pytorch1.0+Pycharm 二、论文代码 CSRNet代码链接 三、操作步骤 导入项目 1、通过git下载或者zip网页下载，二选一 2、导入项目至pycharm 数据准备 1、数据集 ShanghaiTech 百度网盘：https://pan.baidu.com/s/1cC4wkHAWfJ15VKwG2qjJ6A 提取码：i0xa 2、
基于Pytorch的YoLoV5 backbone 复现(上)
`or 1 or 不正经の泡泡
05-26 1183
文章目录前言V5 数据增强 前言 通过昨天和今天的努力终于是把Yolo系列的论文搞完了，大体的流程，残差的设定都差不多了，包括里面的anchor,正样本，darknet53，里面的损失函数，正样本之类的设定基本上流程是搞懂了，相关的内容也在做整理，现在是进入编码阶段。因为未来的话还是需要使用yolo去整合其他的神经网络去实现我想要的功能。前天晚上加昨天上午，也是从头开始去看看了这个复旦大学的一个和公开课16小时，课程体系和吴恩达的有点像，只是没有吴恩达细致，开拓了不少视野。还发现了一个贼有意思的玩意hopf
深度学习复盘与论文复现B
QuantumYou的博客
06-02 860
GoogLeNet在一个块中将几种卷积核（1×1、3×3、5×5、…）都使用，然后将其结果罗列到一起，将来通过训练自动找到一种最优的组合。（Feature Extraction），最后的 Fully Connected 称为分类（Classification）。Average Pooling 均值池化：保证输入输出宽高一致（可借助padding和stride）总结：一般LSTM 比RNN性能好，但运算性能时间复杂度比较高，所以引出折中的GRU介绍。卷积核通道数=输入通道数，卷积核个数=输出通道数。
深度学习复盘与论文复现C
QuantumYou的博客
06-09 1040
RNN（Recurrent Neural Network，循环神经网络）是一种具有“记忆”功能的神经网络，它特别适合处理序列数据，如文本、语音、时间序列等。RNN通过在其内部结构中引入循环，使得网络能够捕捉序列中的时间依赖性和动态性。RNN 的公式表示在 RNN 中，隐藏状态 和输出 的计算通常使用以下公式：其中：RNN 的问题尽管 RNN 在处理序列数据方面非常有效，但它也面临一些问题：RNN 的变体为了解决这些问题，研究人员提出了 RNN 的多种变体，其中最著名的是 LSTM（Long Short-
深度学习复盘与论文复现A
QuantumYou的博客
05-26 1157
在Python中，有一些特殊的方法（通常被称为“魔法方法”或“双下划线方法”）是由Python解释器预定义的，它们允许对象进行某些特殊的操作或重载常见的运算符。这些魔法方法通常以双下划线（__）开始和结束。初始化方法在创建对象时自动调用，用于初始化对象的状态。字符串表示方法和用于定义对象的字符串表示。__str__用于在print函数中，而__repr__用于在repr函数中。)"比较方法：如等用于定义对象之间的比较操作。算术运算符方法：如等用于定义对象之间的算术运算。容器方法：如等。
深度学习复盘与论文复现D
QuantumYou的博客
07-14 1380
此外还需要实现__len，该方法用于计算样本数据，__len__返回总的样本的个数。一.
实验室只有1080显卡，老师还想让发深度学习论文怎么办？
算法码上来
12-05 1155
你好，我是Giant。上周我在知乎刷到一个有意思的问题，实验室只有1080显卡，老师还想让发深度学习paper，也不给配置好显卡咋办？我想起了3年前。我们实验室最开始也只有1080显卡，8...
深度学习十年感悟，从入门到放弃
yunxinan的专栏
11-15 236
个人发展
DQN算法的原理与复现
CSDNXXCQ的博客
05-28 4771
先来解释下Q-learning 简单来说就是瞬时奖励+记忆经验奖励。 瞬时奖励：做了一个动作就能获得的奖励 经验奖励：按照训练时的经验，上一系列动作发生之后，接下来怎么做才能获得更大的奖励，换句话就是说根据复盘经验去研究如何更好地补刀,从而形成一系列的动作(连招) DQN自然就是加入深度神经网络进行预测，我们先来看看Q-learning是如何运行的 1收集数据(即游戏记录) 2令目标等于以下公式(获得价值最高的选择)： 3目标函数(获得最小的误差) 整体流程 伽马值(就是那个很像r的)用于减少下一步
深度复盘：AI 与脑科学的错位
BAAIBeijing的博客
06-17 470
智源导读：在人工智能领域，以智源“悟道2.0”为代表的大规模预训练模型已经取得了非常大的成功，也代表了人类目前技术的最高峰。然后，在迈向通用智能的征途中，除了大数据、大算力和大模型之外，还...
抖音vs快手深度复盘与前瞻：短视频130页分析框架
04-09
抖音vs快手深度复盘不前瞻——短规频130页分枂框架分析师:分析师:分析师:陈梦竹执业证书编号:S10519110005姚蕾执业证书编号:S10516080006杨仁文执业证书编号:S10...
2020电赛E题复盘详细
08-19
"2020电赛E题复盘详细" 本文主要对2020电赛E题的设计和实现进行了详细的介绍和分析。文章首先介绍了作者的电赛经历，以及参加电赛的动机和经历。然后，文章详细介绍了电赛E题的设计和实现，包括硬件电路的设计和...
基于深度强化学习的自动炒股系统设计与实现
04-13
深度强化学习（Deep Reinforcement Learning, DRL）是一种人工智能技术，它结合了深度学习的特征表示能力和强化学习的决策制定过程。在自动炒股系统中，DRL可以模拟人类投资者的行为，通过不断的学习和优化策略来...
食品饮料行业深度报告：白酒板块的复盘与展望.pdf
03-20
【食品饮料行业深度报告：白酒板块的复盘与展望】 报告深入分析了白酒行业的发展历程，特别是2003年至2012年的历史周期，以及当前行业复苏的现状和未来展望。报告指出，白酒行业的主要驱动力在不同时期有所不同。...
直播电商的复盘与数据分析.pptx
10-26
“直播电商的复盘与数据分析” 直播电商的复盘与数据分析是指对直播电商活动的数据进行收集、分析和解释，以了解直播电商的实际效果，找出问题，并进行有针对性的优化。直播数据分析可以分为四类：用户画像数据指标...
BiLSTM 实现股票多变量时间序列预测(PyTorch版)
君子不器 大道无方
07-17 1162
在本文中，我们将探讨如何使用PyTorch框架实现基于双向长短期记忆网络（BiLSTM）的多变量时间序列预测模型。多变量时间序列预测涉及多个输入变量和一个或多个输出变量，这些变量随时间变化并可能相互影响。通过利用BiLSTM的双向特性，我们的模型将能够同时考虑历史数据和未来趋势，从而更准确地预测时间序列的未来值。
卷积神经网络学习问题总结
weixin_61681867的博客
07-17 545
均方误差函数（MSE）适用于回归任务，如预测房价、预测股票价格等。
3.1-RNN存在的问题以及LSTM的结构
colleges的博客
07-18 678
阐述了RNN存在的梯度消失和梯度爆炸问题；引入LSTM，说明了LSTM的遗忘门、输入门、输出门、新增记忆单元的结构；以及为什么LSTM能够缓解梯度消失从而实现长期记住短期记忆
昇思25天学习打卡营第20天 | LSTM+CRF序列标注
最新发布
嫦娥妹妹等等我的博客
07-21 189
在自然语言处理（NLP）的领域中，序列标注是一个基础且关键的任务，涉及到从文本数据中提取有用信息，如命名实体识别（NER）、词性标注（POS）等。本次学习重点是探索如何结合长短时记忆网络（LSTM）和条件随机场（CRF）来执行序列标注任务，尤其是在命名实体识别上的应用。
mobilenetv3复现
09-20
MobileNetV3是一个神经网络模型，可以用于图像分类和语义分割等任务。关于MobileNetV3的复现，有一些资源可以参考。其中，《Searching for MobileNetV3》是MobileNetV3的论文，可以了解详细的网络结构和设计思路。另外，《神经网络学习小记录39——MobileNetV3（small）模型的复现详解》是一个详细解释了MobileNetV3（small）模型复现过程的博客文章，可以学习到具体的代码实现细节。此外，还有一个PyTorch复现的语义分割模型DeeplabV3plus，其中使用了MobileNetV2作为backbone之一。请注意，这些资源提供的是代码和网络结构的复现，不包含已训练好的模型。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值