mmmmmm儒丶的博客

原创 服务器VS Code，Anaconda安装，Python调试

1. 界面layout设置：主要在setting和view里的appearance里改。2. VS Code打开新的文件会覆盖窗口中的；3. VS Code里调试Python。

原创 VS Code 如何调试Python文件

VS Code 如何调试Python文件

原创 在MNLI数据集下的BERT模型训练和评估

【代码】在MNLI数据集下的BERT模型训练和评估。

原创 Pycharm远程服务器连接教程

第一步只有Pycharm专业版才能远程连接服务器第二步：远程连接部分点击左上角的+号新建一个连接，起一个名字，比如叫dilab191：设置SSH参数Tools-Development-Options第三步, 添加远程服务器解释器部分File-settings-ProjectFile-Settings-File Encodings, 设置全局和项目编码为UTF-8配置完成至此配置完成，能够成功远程调试运

原创 Linux服务器之间迁移资料

3）最后，用Conda pack压缩源服务器的Miniconda envs，用SCP传送到目标服务器上解压即可使用，详情见。文件夹：scp -P 端口号 -r 源文件夹路径 目标服务器用户名@目标服务器IP:目标文件夹路径。文件：scp -P 端口号 源文件路径 目标服务器用户名@目标服务器IP:目标文件夹路径。2）在目标服务器，安装Miniconda3，详情流程见。1. 迁移数据, 工具代码。2. 迁移Conda环境。

转载 将目录下的所有Shell脚本转换成Unix格式

【代码】将目录下的所有Shell脚本转换成Unix格式。

转载 PDF document contains some fonts that are not embedded.解决方法

使用Adobe工具将PDF字体嵌入

原创 Linux Parallel和wget命令详解

Linux Parallel和wget命令详解

原创 Python文件去重代码

# coding:utf-8import osimport filecmp# 将指定目录下的所有文件的路径存储到all_files变量中def get_all_files(path, dirs): all_files = [] for d in dirs: cur_path = os.path.join(path, d) files = os.listdir(cur_path) for f in files: .

原创 公众号Logo

原创 【2】Pretrained Transformer As Universal Computation Engines

论文标题：Pretrained Transformer As Universal Computation Engines - CoRR 2021原文传送门：https://arxiv.org/abs/2103.05247https://arxiv.org/abs/2103.052471. Abstarct作者研究了在语言上预训练的Transformer以最少的微调泛化到其他模态的能力——特别是在没有微调residual blocks (Self-Attn和FFN Layers)的情况下。他们

原创 【1】Talking-Heads Attention

论文标题：Talking-Heads Attention - Arxiv2020原文传送门：https://arxiv.org/abs/2003.02436​arxiv.orghttps://arxiv.org/abs/2003.02436​arxiv.org1. Abstract & Introduction作者引入了一种MultiHead变种-“talking-heads attention”：在 softmax 之前和之后，跨注意力头维度的引入线性映射。虽然只附加了少量参数

原创 一个好的博客平台需要哪些功能？

发布后可随时随地修改；(微信公众号×) 发布后可设置"仅自己可见"；(知乎×) 可无限制设置专栏数量，最好是套娃一级包含一级那种；(微信公众号、知乎、CSDN×) 足够简单易用的工具；(Github Hexo×) 干净、广告少的展示界面；(CSDN×) 可选择分享权限；(几乎没有)...

原创 Edit distance（编辑距离）python

import numpyimport torchdef levenshteinDistance(s1, s2): if len(s1) > len(s2): s1, s2 = s2, s1 distances = range(len(s1) + 1) for i2, c2 in enumerate(s2): distances_ = [i2+1] for i1, c1 in enumerate(s1): .

原创 Python提取文本的颜色词

import webcolors # pip install webcolorscolors = webcolors.CSS3_NAMES_TO_HEXwith open(r"G:\ubuntu\code\color.txt", 'r', encoding='utf-8') as f: for line in f.readlines(): if line is None: continue _color = [i for i in.

原创 Pytorch求Consine Similarity

import numpy as npfrom sklearn.metrics.pairwise import paired_distancesimport torch.nn.functional as Fimport torchfrom sklearn.metrics.pairwise import cosine_similarityfrom scipy import spatialfrom numpy import dotfrom numpy.linalg import norm# x.

原创 Linux升级gcc,g++,c++版本

非root权限升级(修改当前用户)Linux gcc版本 - 程序员大本营Linux下非root用户解决限制gcc、g++版本升级问题_RYue00的博客-CSDN博客

原创 集群Slurm使用教程

Slurm系统-批量提交任务示例：见job_cpu.sh和job_gpu.sh集群使用方法：(规避一次只能提交3个任务)先指定一个节点：salloc --nodelist gpu1 SSH gpu1; Tmux 打开后台窗口1 code1.sh; Ctrl+b c 快捷键打开后台窗口 2 code2.sh;(另一种做法：直接Tmux 打开后台窗口2，跳过步骤1，直接SSH gpu1)Tmux关闭后台窗口；exit两次退出节点，释放所申请资源； Scancel jobID;...

原创 Pytorch修改模型参数的方法

https://blog.csdn.net/lppfwl/article/details/120055302

原创 Linux 安装Java JDK1.8

Linux中普通用户和ROOT用户对Java JDK的配置_weixin_41887312的博客-程序员宅基地 - 程序员宅基地

原创 ToDesk Linux使用感受

1. 不能复制粘贴，以及Ctrl+C和Ctrl+V；2. 可以文件传输 (我没试过)；3. 对话框复制文字，毫无反应；4. 挂在那里一天，就会自动断开连接，还会莫名其妙占用7~8G的运存，这会让机器变得很卡；5. 屏幕显示，操作流畅度会比Sunlogin（向日葵）快一些，但仍未达到Teamviewer级别；6. 如果同时装有向日葵，则会占用向日葵的开机自启，导致两者都无法开机自启；反馈：已卸载，建议简单使用就用向日葵，频繁使用就用Teamviewer。...

原创 Ubuntu清空CPU运存

sync; sudo sh -c "echo 3 > /proc/sys/vm/drop_caches"

原创 RuntimeError: Function CdistBackward returned an invalid gradient

原因：调用Pytorch.cdist().sum() 计算Loss有问题 ，正确的Lorm计算为torch.dist或者torch.norm(x-y)；

原创 Fairseq 编译setup.py 报错“unrecognized command line option ‘-std=c++14“

问题原因：当前版本g++, gcc, c++，需要升级；系统CentOS7 默认g++, gcc, c++均为4.8.5版本的；升级方法如下：https://blog.csdn.net/chen134225/article/details/109856696 （我用该方法升级）值得注意的是：整个系统用的都是/usr/bin/g++，/usr/bin/gcc，/usr/bin/c++，故一定要将下载在/opt/rh/devtoolset-8/root/usr/bin/g++,gcc,c+.

原创 Pytorch 多标签分类Loss

import torchimport numpy as nppred = np.array([[-0.4089, -1.2471, 0.5907], [-0.4897, -0.8267, -0.7349], [0.5241, -0.1246, -0.4751]])label = np.array([[0, 1, 1], [0, 0, 1], [1, 0, 1]]..

转载 Ubuntu添加新用户

1.https://segmentfault.com/a/1190000019856625

原创 python Matplotlib画图

1.https://juejin.cn/post/6844904145032331272

转载 Ubuntu 16.04升级python3.6及解决终端打不开的bug

1.https://blog.csdn.net/u011254180/article/details/80905055

原创 顶会历年Best Paper

https://jeffhuang.com/best_paper_awards/

原创 如何解释召回率与精确率？

1.https://www.zhihu.com/question/19645541

原创 Anaconda创建虚拟环境

1.https://zhuanlan.zhihu.com/p/94744929

原创 Pytorch和Tensorflow L2范数

import torch.nn.functional as Fimport torchimport numpyimport tensorflow as tfa = numpy.random.randn(2,3).astype(numpy.float32)tr_a = torch.from_numpy(a)print('tr_a')print(tr_a)norm_tr_a = torch.nn.functional.normalize(tr_a, dim=0, p=2)print(no.

原创 Pytorch导入模型参数

1.https://blog.csdn.net/qq_34914551/article/details/87871134

原创 词对齐工具

1. fast_alisgn工具：https://github.com/clab/fast_align2.

原创 使用免费GPU资源

1.Google Colab免费GPU使用教程（一）https://www.cnblogs.com/lfri/p/10471852.html

原创 pytorch张量复制clone()和detach()

1.pytorch张量复制clone()和detach()https://blog.csdn.net/Answer3664/article/details/1044170132.【Pytorch】对比clone、detach以及copy_等张量复制操作https://blog.csdn.net/guofei_fly/article/details/104486708

转载 pytorch禁止/允许计算局部梯度

见网址：https://blog.csdn.net/Answer3664/article/details/99460175

原创 论文框架和写法

Abstract概述：<作为全文内容的浓缩，包括简化版的介绍、背景、方法、实验结果和结论分析>通过描述NMT中自己要改的部分，引出并描述现存的问题； 可适当提及相关思想和方法的背景，提出自己解决该问题的思想或动机； 简单地介绍自己的方法；通过实验证明自己方法的有效，并得到结论分析；Introduction概述：简单描述NMT的工作流程； 引出并介绍现有所存在的问题(包括怎么产生的), 让人感觉研究这个问题很有意义； 具体去解释这个是什么问题，通过实例去清晰地告诉读者这个问题

原创 隐马尔可夫模型(HMM)介绍

理论介绍：1.Python实现HMM（隐马尔可夫模型） - sinat_36005594的博客 - CSDN博客2.HMM进阶（4）——前向算法(python)3.前向-后向算法(Forward-backward algorithm)代码实现：隐马尔可夫模型 HMM 的python实现 - D.Roger - 博客园...

原创 ubuntu装机教程

1.Window10系统下安装Ubuntu双系统教程及一些问题的解决办法（重要） - jiajinrang93的博客 - CSDN博客2.Windows+Ubuntu双系统如何设置Windows为第一启动项 - tensory的博客 - CSDN博客3.Drivers | GeForce4.Ubuntu16.04服务器版安装NVIDIA显卡驱动 - 姿势水平 - CSDN博客5.windows10和ubuntu16.04双系统下时间不对的问题 - VincentQF - 博客园6....