- 博客(42)
- 收藏
- 关注
RSS订阅原创 Llama3模型参数转hf格式
通过zip下载目前transformers库上的source code，进入仓库代码文件夹然后执行以下命令。脚本在transformers库中，可以通过web search找到。Meta AI官网下载下来的Llama3参数无法直接被。库提供的转Llama2的脚本好像也不能直接使用，报错。之后可用以下命令进行参数格式转换。
2024-05-14 17:22:45
293
1
原创 chmod -R 777 / 抢救，看这篇就够了
在两台Ubuntu 20.04的服务器上错误执行了命令，结果非常酸爽，sudo权限失效，而且ssh也没有用了。在经过了10多个小时的踩坑以后最后在不重装系统的情况下解决了问题，以下记录只记录正确的步骤，照做即可。
2024-05-12 19:56:30
854
原创 vscode卡在setting up ssh host
然后选择连接失败的服务器进行Kill，之后再次尝试连接即可。找一个能登陆的方式登陆账号后，删除。
2024-02-29 20:18:21
806
原创 解决VS Code安装远程服务器插件慢的问题
最近想在服务器上做juypter notebook的代码运行，发现要给服务器安装Jupyter插件，但是安装速度奇慢无比（因为服务器不连外网），一开始查看。，但是感觉还是比较麻烦。
2023-09-19 23:04:51
1227
3
原创 解决Matplotlib显示中文为方框的问题
如上使用matplotlib.matplotlib_fname()，会得到一个路径，在该路径的mpl-data下有一个fonts/ttfs路径，路径下保存的就是matplotlib的字体库了。注意：如果是使用的jupyter notebook环境，最好restart一下notebook。在本例中字体路径就是。
2023-05-11 20:43:46
471
原创 21AAAI_Label Confusion Learning to Enhance Text Classification Models阅读笔记
# Main Contribution* propose a novel label confusion model (LCM) as an effective enhancement component for text classification. It can be applied to mainstream deep learning models without changing its structure and require no extra computation cost in p
2021-11-29 10:35:02
335
原创 2019ACL_Text Level Graph Neural Network for Text Classification阅读笔记
unofficial code: GitHub - Cynwell/Text-Level-GNN: Text Level Graph Neural Network for Text Classification1 Main Contributions Propose to produce a text level graph for each input text instead of building a single corpus level graph and thus reduce muc
2021-11-22 19:19:32
273
原创 2021EMNLP_Deep Attention Diffusion Graph Neural Networks for Text Classification阅读笔记
1 Main Contributions Build a Deep Attention Diffusion Graph Neural Network (DADGNN) that ahcieves broad receptive fields via disffusion mechanism. Propose to decouple the propagation and transformation processes of GNNs and thus construct a GNN lay
2021-11-22 18:12:18
675
原创 配置PEP8代码规范在Pycharm professional
公司要求统一按照PEP8代码规范进行python编码，现在介绍配置方法：首先在我们的Anaconda3的总环境中执行：pip install autopep8然后打开我们的pycharm-》File-》Settings-》Tools-》External Tools进行如下配置：Name: AutoPep8Description: autopep8 your codeProgram: YourPath\anaconda3\Scripts\autopep8.exeArguments
2021-11-04 19:14:40
178
原创 Scala系列文章一：基于IDEA的sbt安装与配置
文章目录请先自行安装scalasbt的安装配置请先自行安装scala本次教程使用scala 2.11.12sbt的安装配置下载sbt-1.5.3.tgzhttp://www.scala-sbt.org/download.html到下载目录下执行以下命令tar zxvf sbt-0.13.5.tgz sudo mv sb /usr/local/建立sbt可执行文件/*选定一个位置，建立启动sbt的脚本文本文件，如/usr/local/sbt/ 目录下面新建文件名为sbt的文
2021-07-04 16:34:50
433
原创 对C语言指针的理解
欢迎参考这个博客：http://c.biancheng.net/c/80/ ，博主写了19篇博客让你30分钟对C指针有一定的了解。
2021-06-23 16:19:39
61
原创 如何用latex插入模型结构图
首先我们用ppt作图，再用visio调整。为了简单起见，这里就画一个矩形：然后我们新建一个visio的空白画布，将图片从ppt复制粘贴过来。复制完成后，依次点击visio的设计，大小，适应绘图。然后点击开发工具，点击显示ShapeSheet，在弹出来的下方框中将四个margin都设置成0。重复一次第1步以保证格式。然后将图片另存为Pdf，在保存Pdf时请按该blog操作，以防止图片插入latex时有边框。如果插入的图片想要在latex论文中占两栏显示，请使用以下代码\begin{fi
2021-06-09 20:03:51
1837
原创 报错：UserWarning: Mixed memory format inputs detected while calling the operator. The operator will o
解决方案在tesnor进行了permute操作之后，对tensor执行contiguous()例如ch_emb = ch_emb.permute(0, 3, 1, 2).contiguous()
2021-02-21 11:47:59
3339
原创 神经网络的强大变种
由于深度学习的迅速发展，现在基于传统的RNNs、CNN、FFNN、attention的工作效果，基于经典模型的本身的改进在顶会中竞争能力可能不再powerful。在github上有一个仓库正在专门进行对强大的变种神经网络的paper及其pytorh、tensorflow源代码的收集整理工作，链接如下：https://github.com/Ruifeng-Tan/More_Powerful_NN...
2021-02-01 21:28:17
243
原创 关于mask的一些操作
关于mask的一些操作本文库环境：pytorch 1.6.0transformers库 博主是一个刚刚开始做科研的科研菜鸡，在我目前的印象里，把mask用火的就是Bert了，现在的NLP task也多基于Bert系列的embedding，当我们进行具体工作时，如果想要对Bert的embedding进行进一步的妙用，就很容易接触到自己mask一些embedding了。除了mask，我们还有可能需要自己添加一些特殊的token。注意：如果添加的token频繁出现，可能就不是简单的fine-tuni
2021-01-28 18:00:43
1005
原创 深度学习实战 (7) 解决pytorch多GPU训练gru时的hx is not contiguous报错
解决pytorch多GPU训练gru时的hx is not contiguous报错和UserWarning: RNN module weights are not part of signle contiguous chunk of memory
2020-12-20 11:23:12
1692
1
原创 理解AutoResetEvent与ManualResetEvent的区别
AutoResetEvent与ManualResetEvent的区别。
2020-12-13 16:07:38
395
1
原创 解决Idea的tomcat日志输出出现中文乱码
问题描述问题如图所示：解决方法①已尝试无效在tomcat配置中添加-Dfile.encoding=UTF-8选项。并且打开IntelliJ IDEA本地安装目录中bin文件夹下的idea.exe.vmoptions和idea64.exe.vmoptions这两个文件，在两个文件末尾都追加一行-Dfile.encoding=UTF-8后重启idea启动工程。②有效解决方案VM options不做任何修改但是在tomcat的安装路径的conf文件夹下找到logging.properties文
2020-11-05 23:34:39
787
2
原创 如何实现Markdown文件之间的跳转
有的时候写markdown，我们不想在一个markdown中长篇大论，比如我只是想在一个markdown中结束下课程大纲，然后你点击我的课程大纲中的章节，就能跳转到另一个专门讲述该章节的markdown文件，这个要怎么实现呢？方法如下：[内容文字](跳转目标文件的相对路径)示例如下：[第一章节笔记](notes/note1.md)值得一提的是，这种跳转并不仅仅只适用于跳转到md文件，你想要跳转到课程ppt或者pdf都是可以的！可以参考武汉大学windows原理课程的教学仓库中的readme写法。
2020-10-10 10:15:08
6530
2
原创 Spring学习：动态代理的实现
动态代理的接口实现问题引出动态代理的两种实现方法1 基于接口的动态代理1.1 写一个Beanfactory1.2配置XML文件再看业务层实现类问题引出我们在编写业务层代码的时候，在使用代理之前我们会发现一个问题，那就是我们可能为了使用某个类地对象，就将其声明为业务层实现类的一个属性，然后就大量地在类中使用该类对象的方法。举黑马程序员的一个代码例子如下：package com.itheima.service.impl;import com.itheima.dao.IAccountDao;impor
2020-09-28 20:45:27
238
原创 深度学习实战（5）NLP数据预处理
NLP工程师必须掌握自然语言数据的预处理技巧：包括truecase, stopwords removel等等
2020-09-15 00:35:40
1813
原创 深度学习实战（3）transformers使用BERT和Roberta做embedding
Pytorch使用最新框架transformers做BERT以及Roberta的embedding
2020-09-10 23:49:35
10852
8
原创 深度学习实战（2）用Pytorch搭建双向LSTM
用Pytorch搭建双向LSTM应最近的课程实验要求，要做LSTM和GRU的实验效果对比。LSTM的使用和GRU十分相似，欢迎参考我的另外一篇介绍搭建双向GRU的Blog:https://blog.csdn.net/icestorm_rain/article/details/108395515参考Pytorch介绍LSTM的官方文档：其中其定义层时的参数声明方法与GRU完全一致：所以，我定义LSTM使用以下代码：torch.nn.LSTM(out_channels, hidden_size, n
2020-09-10 19:36:20
11691
原创 tensorflow/stream_executor/cuda/cuda_dnn.cc:334] Could not create cudnn handle: CUDNN_STATUS_INTERNA
E tensorflow/stream_executor/cuda/cuda_dnn.cc:334] Could not create cudnn handle: CUDNN_STATUS_INTERNAL_ERROR如标题所示，最近博主写代码的时候tensorflow报错Could not create cudnn handle。这可能是因为你的gpu分配出现了问题，所以我们设置config...
2020-04-06 00:23:46
6367
3
原创 如何使用清华镜像conda pytorch
用清华镜像Conda pytorc建议大家查看这个博客https://blog.csdn.net/WannaSeaU/article/details/88427010，写得很详细，我只补充几点。之前的博主只是介绍了如何将清华镜像添加到channel中，但是我们还应该在C盘的Anaconda3的同级目录中找到名为.condarc的文本,删除-defaul的那一行。之后为了方便我们在pycharm...
2019-12-01 20:38:10
2922
3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人