- 博客(37)
- 收藏
- 关注
RSS订阅原创 NLP经典论文研读--xlnet论文代码复现记录
xlnet这个模型还是相当复杂的，我看了很长一段时间也还是有很多地方没有搞明白，最后又在网上搜了很多大佬写的相关博客，才算是大致弄明白了，想了解xlnet的原理，请参考原论文，这里推荐一位大佬写的博客，写得非常清楚明白，也解决了我的很多困惑。在这里，我重点讲解一下xlnet的代码实现，我这个代码是注：这代码里面没有说实验配置，但是我自己的实验环境是cuda11.3 ，经过实验可以正常运行，我的实验配置供参考，如下：python:3.6。
2024-06-27 10:10:13
855
原创 NLP经典论文研读--transformer-XL论文源码难点记录
transformerXL论文源码研读，这篇论文我看了差不多快10天，555~主要我确实太菜了，代码也看不明白，花了好久的时间才勉强啃下来。现在来记录一下看这篇论文的一些想法。
2024-06-27 09:44:07
501
原创 动手学深度学习加载数据集错误：FashionMNIST
md,太难了下载raw里面的4个压缩文件，不用解压使用网友的代码读取压缩文件加载正确如图：更改读取代码：import osimport sys若佬有更好的方法，欢迎留言。
2024-03-21 21:07:32
214
原创 navicat右边显示无连接怎么办
救命，今天在安装完navicat测试连接的时候发现右边死活是灰色，在网上找个半小时，才解决，原来只要双击一下设置的连接就可以了，好想去撞墙啊~~参考：https://blog.csdn.net/weixin_48576892/article/details/129637232。
2024-01-07 22:50:02
433
原创 李宏毅机器学习2023课程记录(1)--课程介绍
总结：第一节课就是讲解这门课的一些内容、作业规则、评分规则、课程内容等；然后，老师说旁听也可以上传作业到kaggle，但是助教不会批改旁听生的作业(哈哈哈，这不是很正常莫)：这门课虽然叫做机器学习，但是李宏毅老师讲课主要以深度学习的技术，特别是最新的深度学习技术进展为主。在这里，记录我最近听的李宏毅老师的机器学习课程的一些笔记和感想，进行归纳总结同时方便后续复习回顾。：本内容完全根据本人听课的心得体会~下面是我在B站上面听课的几张截图。：2023年12月16日。：课程介绍、作业介绍、
2023-12-17 11:41:38
545
原创 论文阅读笔记(12月15)--DialogXL
本文介绍了我们在使用预训练语言模型进行会话情感识别( ERC )方面的开创性工作。与常规文档不同，会话话语交替出现于不同的参与方，在以往的工作中通常被组织成层级结构。这样的结构不利于XLNet等预训练语言模型的应用。为了解决这个问题，我们提出了一个一体式的XLNet模型，即DialogXL，它具有增强的内存来存储更长的历史上下文和对话感知的自注意力来处理多方结构。具体来说，为了更好地对会话数据进行建模，我们首先将XLNet的递归机制从segment-level修改为utterance-level。其次。
2023-12-16 22:28:27
3508
原创 使用bash文件运行的python深度学习项目如何调试
因为我是第一次调试这种用bash文件运行的项目，故记录以备以后查看。我要运行的bash文件为：在终端运行项目的话，命令是：bash exp_meld.sh。
2023-12-05 15:12:16
807
原创 Hierarchical Dialogue Understanding with Special Tokens and Turn-level Attention代码复现记录
我没有完全按照作者在readme里面说的，因为我第一次装了那个出了很多bug,我现在也不知道是什么原因，就换了一些版本，总算是跑通了。如regex,tqdm等，这些没有依赖版本的要求的包，我就是直接在创建的虚拟环境里面pip install 安装的。其实呢，我还是有很多地方不清楚，如果有大佬路过，恳请指点一二，不要吝惜您的赐教，在此拜谢~目前只是跑通了，具体的逻辑细节，我还要再看一下。在运行这个命令的时候，有几点细节要注意。
2023-12-04 16:36:12
333
原创 复现论文代码的时候老是遇到需要安装各种不同版本的cuda的问题
然后运行 sh cudaxxxxx.run(就是你下载的那个文件名)，由于我不是管理员账号，所以不要sudo,这里要安装在自己账号的路径下面，不然安装不了。参考的博客：https://blog.csdn.net/qq_41917697/article/details/114437924。如图，建立后，又有cudal1,图中浅蓝色为cuda,表示是软链接(看网友说的，我不敢保证一定是这个意思)根据网友的说法，参考：https://www.zhihu.com/question/622711856。
2023-12-03 15:49:43
1295
原创 看transformer源代码时候遇到的问题(ONMT)
这个文件的介绍网友已经写得很仔细了，我就不搬运了，参考：https://zhuanlan.zhihu.com/p/433176170。这里目录也太复杂了，本菜鸟实在不明白每个部分是干啥的，有大佬路过愿意指点一二的话，本人感激不尽。这个我也不太懂，救命，我项目都没怎么跑过呀，研一导师放养过得可快乐了，现在啥也不会。其实我之前看的源代码是另一个版本，这里也贴在这里，我刚刚克隆下来，还没有仔细看。大佬路过指点一下，感激不尽！我放弃了，这个源代码对我来说太复杂了，我决定先看看哈佛团队的。
2023-11-29 10:53:24
346
原创 记录创建虚拟环境和在虚拟环境中安装pytorch的过程
这里版本要根据自己的实际情况来确定。参考博客：https://blog.csdn.net/yup1212/article/details/124277058。每次复现论文都要创建新的环境，安装对应版本的pytorch等，每次都要到处找教程，太麻烦了，所以记下来。conda env list(展示有哪些虚拟环境)
2023-11-27 15:08:56
357
原创 Transformer学习系列(1)
其实我之前一直以为transformer是指具体的一个模型，但是今天在网上查看资料的时候才发现，transformer既可以指具体的一个模型(2017年谷歌的那个模型)，也可以指一类具有某些特征架构的深度学习模型。而BertTokernizer直接一步将话语转成id,还有对应的句子号码(token_type_ids)、是否是填充的token(attention_mask)目前看到的AutoTokenizer是对话语进行分词，是真的分为一个个自然语言里面的词，若要进行后续操作，需要调用相应的函数。
2023-11-24 23:06:01
355
原创 ModuleNotFoundError: No module named ‘torch.utils._pytree‘
conda uninstall pytorch即可（这里因为我使用conda install 命令安装的，所以这么卸载，若是pip命令安装，则要pip uninstall ）该问题为版本不匹配问题，经查询，我当前环境下安装的pytorch版本为1.7.1，而报错的模块为1.8.0以后引入，故需要将现存的pytorch卸载重新安装对应版本。接着，我想尝试一下这个，结果又报错。烦死，这应该是网络的问题。
2023-11-24 22:14:56
4555
原创 论文复现记录：A Bipartite Graph is All We Need for Enhancing Emotional Reasoning with Commonsense Knowledge
经过我的查询，原来每个epoch都要训练、验证、测试，然后看在哪一个epoch上面模型的表现最好就将其保存为最好的模型。哭了，本人实在是太无知了，跨考生如何快速入门科研，如何快速上手实验，如有大佬经过看到此处，愿意留下三言两语指点一二，本人感激不尽~~我大致明白它的意思，这里测试应该加载的是一个训练完的模型，但是我这个指定的是一个目录，里面保存的是每个epoch结束后模型的状态，关键在于我不知道是不是应该指定最后一个epoch训练完的模型状态作为测试用的模型。改回去以后还是报错，特喵的，我要风了！
2023-11-19 21:17:41
153
原创 【无标题】
今天刚刚下载了visio,由于开题报告里面画图有公式，所以想在Visio里面编辑公式，结果发现Visio菜单栏没有插入公式的选项，于是在网上找了一会，把插入公式加入菜单栏里面了。按照这个教程安装mathtype后即可使用，不过这里这个是30天试用版本。到时候可能还能找一个永久激活方法。2. 使用wps(详情不知，我不用wps)1.下载安装mathtype。
2023-11-15 16:20:15
496
原创 ValueError: Connection error, and we cannot find the requested files in the cached path. Please try.
ValueError: Connection error, and we cannot find the requested files in the cached path. Please try.记录自己复现论文代码的过程
2023-10-31 14:04:31
842
原创 could not find git, can not register for you ...巴拉巴拉
could not find git, can not register for you ...巴拉巴拉
2023-10-29 22:00:35
409
原创 pycharm 里面将编译器interpreter改为conda环境下自己创建的环境，就会有问题，求大佬指点。
pycharm使用conda环境出错
2023-09-12 14:35:01
71
原创 研一下阅读论文--会话情感识别(1)
EmoCaps:Emotion Capsule based Model for Conversationl Emotion Recognition
2023-05-17 22:22:31
450
4
原创 研一下学习记录(一)并发网络编程(一)--网络编程
面向连接的传输服务传输特征 ：– 提供了可靠的数据传输，可靠性指数据传输过程中无丢失，无失序，无差错，无重复。– 可靠性保障机制（都是操作系统网络服务自动帮应用完成的）： 确认应答机制 通信结束要正常断开连接三次握手（建立连接）– 客户端向服务器发送消息报文请求连接– 服务器收到请求后，回复报文确定可以连接– 客户端收到回复，发送最终报文连接建立四次挥手（断开连接）– 主动方发送报文请求断开连接– 被动方收到请求后，立即回复，表示准备断开。
2023-03-20 11:41:31
60
原创 研一寒假MySQL数据库学习笔记（四）
(1) 不可重复读是读取了其他事务更改的数据，针对update操作解决：使用行级锁，锁定该行，事务A多次读取操作完成后才释放该锁，这个时候才允许其他事务更改刚才的数据。(2) 幻读是读取了其他事务新增的数据，针对insert和delete操作解决：使用表级锁，锁定整张表，事务A多次读取数据总量之后才释放该锁，这个时候才允许其他事务新增数据。
2023-02-03 17:21:40
113
1
原创 研一寒假MySQL数据库学习笔记（三）
1. 表连接内连接 inner join外连接 left join,right join;2. 视图3. 函数和存储过程delimiter 自定义符号beginsql;return val;end 自定义符号delimiter 自定义符号beginsql;end后续内容，见下一篇笔记整理。
2023-02-03 16:18:30
147
原创 研一寒假MySQL数据库学习笔记（一）
数据库有关系型数据库和非关系型数据库，本课程学习的mysql是开源数据库，具有以下几个特点：1.使用c和c++编写；2. 能够工作在不同平台上；3. 提供了众多语言编程接口。
2023-01-28 14:13:16
53
原创 接上篇文章，记录svmk折交叉验证,一个简单的实验。这里仅仅手动实现了5折。
接上篇文章，记录svmk折交叉验证,一个简单的实验。这里仅仅手动实现了5折。
2022-10-23 19:01:55
345
原创 机器学习入门实验之逻辑回归--批梯度下降法
机器学习入门实验之逻辑回归算法实现，采用批梯度下降法，以交叉熵作为代价函数进行实验。最后通过召回率、精确率、F1值进行算法评估。数据集为alcohol_dataset数据集，来自我的机器学习课本。
2022-10-22 23:10:16
375
3
原创 下载安装mysql教程，记录自己的遇到的问题
很久没用mysql，最近因为要写毕业设计又要开始用到它了，不得不重新下载安装，记录一下安装的过程和遇到的坑下载安装mysql教程下载资源安装过程记录遇到的坑总结下载安装mysql教程下载资源百度网盘资源链接：https://pan.baidu.com/s/1D-QpxFVk6ZGpKE3y81QT8A提取码：6113（这是我自己保存在百度网盘里的资源）安装过程记录从百度网盘下载在本地电脑后，建议不要保存在c盘，之后解压在相同目录下用管理员模式打开cmd端，用cd命令切换到保存的mysql
2021-04-08 21:48:52
114
原创 跨考计算机遇到的问题记录（一）
因为有准备跨考计算机，但是最近遇到了一些问题，学习计算机组成原理存储器一章的时候发现看不懂一些专业术语，什么TTL与非门，MOS，三态门，所以该怎么办呢？不知道该怎么办，所以先看一下数电的知识，欢迎网友交流传授经验，本人信息管理与信息系统专业本科大三在读。...
2020-08-01 19:54:24
253
原创 大三实训记录（二）
今天这篇博文记录一下实验中遇到的问题。1.PermissionError: [Errno 13] Permission denied出现这个问题是因为在代码中打卡了文件却忘记了关闭，因此只要加上f.close就好了。但是随后又出现了这个问题，经过百度，这个问题是因为f.close缩进没有对齐，修改对齐之后，就没有错误了。...
2020-08-01 19:44:55
159
原创 大三实训记录（一）python,数据挖掘
这是我的第一篇博客，我打算记录下实训过程中遇到的问题。#大三实训记录（一）爬虫爬取大数据今天完成的工作是获取大数据，通过爬虫爬取的，代码如下：获取到的大数据存入文档后，如下图：获取到的大数据保存为.csv文件后打开的样子。然后重新开启了一个文件，对数据进行预处理。代码如下：这是新开的那什么用来对读取之前爬取的数据，但是报了错误这个错误我之前没有遇见过，看起来好像很复杂。之后在百度上借鉴了这位下面这位博主的博文https://blog.csdn.net/qq_41200881/article
2020-07-09 21:46:45
778
B站上的视频《论文写作：如何写论文系列讲座合集（1-10），DrLiuResearchTIP》字幕
2023-06-11
东北大学C++课程资料，上传方便自己查收，也给有需要的网友参考 1 introduction
2023-04-27
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人