Wennnwin-CSDN博客

原创 git使用指南，工程化管理，无痛入门

修改完代码之后，需要add，暂存修改。如果用git add命令也可以，就是如果有些文件不想提交更改，用git add就需要一个个文件进行选择，不太方便。两种实现方式，第一，手动找到.ssh文件目录，在里面新建config文件。1、具体配置流程如下：设置---->输入git.path---->点击在settings.json中编辑。如果之前已经配置过git config --global，就需要删除，没有配置过就跳过这一步。一般是在网站的个人设置里面配置ssh，不过不同网站不一样，这个就自己找一下啦。

2023-04-08 22:54:20 242

原创 css中的flex布局细节总结，如何用5行核心代码实现双飞翼

双飞翼模型一般是左右两侧宽度固定，中间内容部分宽度自适应。双飞翼模型一般把内容部分，即mid，放在第一个定义，可以使得在dom树构建时先加载内容部分，用户体验更好。可以说是强迫症福音，flex可以轻松实现等间距的整齐排列，且父级盒子自行撑开不会塌陷。就是所谓的弹性布局，比较灵活。就是与之垂直的方向。两个轴主要是用来确定元素排列的方向。主要按照该属性定义在父级元素样式中or子级元素样式中。是默认值，表示主轴为水平方向。此时子元素水平排列。此时子元素垂直排列。给定一个body结构，对此进行flex布局。

2023-03-31 19:40:43 473

原创加上attention mask之后loss出现nan问题的解决方案

attention mask若某一行全是False或者非0，loss出现nan怎么解决

2022-07-28 17:36:41 2540 1

原创 pytorch1.10中MultiheadAttention及TransformerEncoder当中mask的相关代码理解及使用

对pytorch自带的中TransformerEncoder代码中关于mask的内容解释和一些踩坑预警

2022-07-28 17:17:25 1107

原创 Transformer源码注解

transformers代码详解及理解，encoder，decoder，注意力机制，位置编码

2022-07-15 10:34:14 959

原创 python学习笔记4（模块

python学习笔记4（模块）一、模块1.1 import语句1.2 __name__属性三级目录一、模块1.1 import语句1.2 __name__属性如果我们想在模块被引入时，模块中的某一程序块不执行，我们可以用__name__属性来使该程序块仅在该模块自身运行时执行。# Filename: using_name.pyfrom jieba import lcutif __name__=='__main__': a='我真的好喜欢你' s= lcut(a,cut_all=Tru

2022-05-07 16:09:09 54

原创 nlp中TF-IDF模型和python实现

nlp中TF-IDF模型和python实现一、文本向量化存在的不足二、TF-IDF原理概述三、TF-IDF算法实现3.1 CountVectorizer+TfidfTransformer的组合方式3.2直接调用TfidfVectorizer一、文本向量化存在的不足英语为例，I come to China to travel。如果将统计词频后的特征作为文本分类的输入，那么come、China、Travel各出现一次，但to出现两次。但是to的重要性却比词频为1的China、travel要低很多。二、

2020-10-27 11:40:26 533

原创 python学习笔记4（迭代器与生成器&函数）

python学习笔记4（迭代器与生成器&函数）一、迭代器1.1 基本方法1.2 类作为迭代器二、生成器三、函数3.1 定义3.2 参数传递3.3 参数3.4 匿名函数3.5 强制位置参数一、迭代器1.1 基本方法注意：两种基本方法：iter()和 next()。list=[1,2,3]it=iter(list)while True: try: print(next(it)) except StopIteration: exit注意：St

2020-10-27 11:39:49 119

原创中文分词jieba学习笔记

中文分词jieba学习笔记一、分词模式二、自定义词典2.1 命令2.2 使用方式三、关键词抽取一、分词模式二、自定义词典2.1 命令 jieba.load_userdict(filename) filename为自定义词典的路径2.2 使用方式在使用的时候，词典的格式和jieba分词器本身的分词器中的词典格式必须保持一致，一个词占一行，每一行分成三部分，一部分为词语，一部分为词频（可以省略），最后为词性（可以省略），用空格隔开。三、关键词抽取...

2020-10-27 11:39:25 334

原创 sublime text3与anaconda交互，安装jieba库，避免出现DLL load failed while importing _multiarray_umath: 找不到指定的模块的问题

sublime text与anaconda交互一、sublime text中下载anaconda包二、配置环境2.1 解释器路径2.2 设置json格式三、配置Sublime Text3的Anaconda编辑环境踩坑预警，刚开始总是这么难TAT。。。注意：已经安装好anaconda3和sublime text3一、sublime text中下载anaconda包（1）View->“Show Console”,输入：Install Package Control，回车安装。（之前如果安好了就

2020-10-27 11:39:04 1306

原创服务器上用SQuAD进行Bert的总结

服务器上用SQuAD训练Bert总结一、pytorch版本的Bert二、no module named xxx三、RuntimeError: CUDA error: all CUDA-capable devices are busy or unavailable四、一、pytorch版本的Bertgithub上已经有现成的代码，拉取到本地（为了后续基于transformers的学习我将整个工程都拉取了）：git clone https://github.com/huggingface/transfor

2020-10-27 11:36:39 2215

原创 python学习笔记3（循环语句）

python学习笔记3一、循环语句一、循环语句#mermaid-svg-pOVVunMX3g2r0MxF .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-pOVVunMX3g2r0MxF .label text{fill:#333}#mermaid-svg-pOVVunMX3g2r0MxF .node rec

2020-10-22 14:24:31 72

原创两年来预训练模型（PTM）的技术进展

预训练模型一、预训练模型中的强基准：RoBERTa二级目录三级目录一、预训练模型中的强基准：RoBERTa二级目录三级目录

2020-10-13 20:22:36 1318

原创从Word Embedding到Bert模型

从Word Embedding到Bert模型一、Word Embedding1.1 神经网络语言模型（NNLM）1.2 Word2vec二、ELMO2.1 ELMO的第一阶段-预训练2.2 ELMO的第二阶段三、GPT3.1 GPT的第一阶段-预训练3.2 GPT的第二阶段四、BERT4.1 BERT的第一阶段-预训练4.2 BERT的第二阶段一、Word Embedding注意： 1、word embedding相当于预训练，将onehot层到embedding层的参数用矩阵Q初始化了。 2、使用

2020-10-13 13:16:05 623

chloexxx的博客