论文
文章平均质量分 83
zhilanguifang
这个作者很懒,什么都没留下…
展开
-
NLP经典论文研读--xlnet论文代码复现记录
xlnet这个模型还是相当复杂的,我看了很长一段时间也还是有很多地方没有搞明白,最后又在网上搜了很多大佬写的相关博客,才算是大致弄明白了,想了解xlnet的原理,请参考原论文,这里推荐一位大佬写的博客,写得非常清楚明白,也解决了我的很多困惑。在这里,我重点讲解一下xlnet的代码实现,我这个代码是注:这代码里面没有说实验配置,但是我自己的实验环境是cuda11.3 ,经过实验可以正常运行,我的实验配置供参考,如下:python:3.6。原创 2024-06-27 10:10:13 · 812 阅读 · 0 评论 -
NLP经典论文研读--xlnet论文研读笔记
xlnet论文阅读笔记原创 2024-06-27 09:54:16 · 670 阅读 · 0 评论 -
NLP经典论文研读--transformer-XL论文源码难点记录
transformerXL论文源码研读,这篇论文我看了差不多快10天,555~主要我确实太菜了,代码也看不明白,花了好久的时间才勉强啃下来。现在来记录一下看这篇论文的一些想法。原创 2024-06-27 09:44:07 · 473 阅读 · 0 评论 -
论文阅读笔记(12月15)--DialogXL
本文介绍了我们在使用预训练语言模型进行会话情感识别( ERC )方面的开创性工作。与常规文档不同,会话话语交替出现于不同的参与方,在以往的工作中通常被组织成层级结构。这样的结构不利于XLNet等预训练语言模型的应用。为了解决这个问题,我们提出了一个一体式的XLNet模型,即DialogXL,它具有增强的内存来存储更长的历史上下文和对话感知的自注意力来处理多方结构。具体来说,为了更好地对会话数据进行建模,我们首先将XLNet的递归机制从segment-level修改为utterance-level。其次。原创 2023-12-16 22:28:27 · 3475 阅读 · 0 评论 -
数据集CPED介绍
昨天思考自己的小论文idea(md,到现在还没有idea,555),然后看到了一个中文对话数据集,觉得很不错,记录一下。原创 2023-12-15 16:55:41 · 1214 阅读 · 0 评论 -
Hierarchical Dialogue Understanding with Special Tokens and Turn-level Attention代码复现记录
我没有完全按照作者在readme里面说的,因为我第一次装了那个出了很多bug,我现在也不知道是什么原因,就换了一些版本,总算是跑通了。如regex,tqdm等,这些没有依赖版本的要求的包,我就是直接在创建的虚拟环境里面pip install 安装的。其实呢,我还是有很多地方不清楚,如果有大佬路过,恳请指点一二,不要吝惜您的赐教,在此拜谢~目前只是跑通了,具体的逻辑细节,我还要再看一下。在运行这个命令的时候,有几点细节要注意。原创 2023-12-04 16:36:12 · 320 阅读 · 0 评论 -
论文复现记录:A Bipartite Graph is All We Need for Enhancing Emotional Reasoning with Commonsense Knowledge
经过我的查询,原来每个epoch都要训练、验证、测试,然后看在哪一个epoch上面模型的表现最好就将其保存为最好的模型。哭了,本人实在是太无知了,跨考生如何快速入门科研,如何快速上手实验,如有大佬经过看到此处,愿意留下三言两语指点一二,本人感激不尽~~我大致明白它的意思,这里测试应该加载的是一个训练完的模型,但是我这个指定的是一个目录,里面保存的是每个epoch结束后模型的状态,关键在于我不知道是不是应该指定最后一个epoch训练完的模型状态作为测试用的模型。改回去以后还是报错,特喵的,我要风了!原创 2023-11-19 21:17:41 · 123 阅读 · 0 评论 -
研一下阅读论文--会话情感识别(1)
EmoCaps:Emotion Capsule based Model for Conversationl Emotion Recognition原创 2023-05-17 22:22:31 · 415 阅读 · 4 评论