Deep Learning and NLP Farm

aa = ['a', 'b', 'c']bb = list(itertools.permutations(aa, 2))print(bb)print("######################")cc = list(itertools.combinations(aa, 2))print(cc)话不多说，运行结果解释一些

RNN ( LSTM, GRU ) ：缺点（1）：无法并行，因此速度较慢（2）：RNN无法很好地学习到全局的结构信息，尤其对于序列结构很长的CNN:BERT:

我之前是用Edraw max画图的，但是有一个致命的问题就是在图上写字母的时候与图解释中不一致，所以尝试了一下LaTex画图，哎呀，耗费我一下午的时间呀首先导入包：\usepackage{tikz}源码如下：\begin{figure}[!t]\centering\begin{tikzpicture}\draw[color=black] (-1.8,-1.7) rectangle (3...

tokenizer.tokenize() ：使用 tokenize() 函数对文本进行 tokenization之后，返回的分词的 token 词tokenizer.encoder()：encode() 函数对 文本 进行 tokenization 并将 token 用相应的 token id 表示...

N←\mathop{N} \limits ^{\leftarrow}N←​ :\mathop{N} \limits ^{\leftarrow}但是在知乎博客里的写法是 \mathop{N}^{\leftarrow}， 注意区别\limits 必须是与 \mathop搭配，对符号应用\mathop将其转为数学符号以后才能用\limits如果是数学符号，那么直接用\limits命令放在正下...

源于最近写程序频繁用到了list中元素两两组合问题，特意总结如下：list中相邻元素两两组合：portList = ['a', 'b', 'c', 'd']for i, p in enumerate(portList): if i == len(portList) - 1: break print(p, portList[i + 1]) ...

这两天写程序中需要，查到了一个非常好用的函数，烂笔头比好记性好用，记录下：import torchx = torch.tensor([1, 2, 3])print(x.repeat(4))print("###################################")print(x.repeat(4, 1))运行结果如下：import torchx = torch.te...

pack_padded_sequence和pad_packed_sequence在 看源码的时候看到的，不懂啥意思，特意冲浪了番，记录于此。https://www.cnblogs.com/sbj123456789/p/9834018.html这个网址给出了详细的前因后果，但是我觉得还不够明了，想要好好写下。稍等import torchimport torch.nn as nna = t...

纯粹是因为在看GCN的源码，里面涉及到很多scipy中的方法，对于这些不常用的方法感觉看一遍很快就忘记了，所以汇集在这儿吧。一、比较 todense() 和 toarray()import scipy.sparse as spa = sp.eye(5)print(type(a))print(a)print("------------------------------------")...

random.shuffle():import randoma = [1,2,3,4]b = [[5,6,7,8], [9,10,11,12]]#c = random.shuffle(a) #错误书写方式，该函数返回值为空，原地改变a中元素顺序random.shuffle(a)random.shuffle(b)print(a)print(b)输出的结果是：[4, 3, 1, ...

import torchseed = 2018torch.manual_seed(seed) # 为CPU设置种子用于生成随机数torch.cuda.manual_seed(seed)#为当前GPU设置随机种子；如果使用多个GPU，应该使用torch.cuda.manual_seed_all()为所有的GPU设置种子。a=torch.rand([1,5])b=torch.rand([1,...

再看pytorch-transformer的示例，里面涉及了分布式训练和预测，之前对此一无所知，学起来https://oldpan.me/archives/pytorch-to-use-multiple-gpus

Dependency Parsing目前有两种做法：(1) Transition-Based(2) Graph-Based构建树的过程中有三种解码算法：(1) dynamic programming {Three new probabilistic models for dependency parsing: An exploration}(2) maximum spanning tre...

我先把看到比较好的有关资料挂在此处，最后汇总画个图出来，这样便于记忆，否则看了也是白看，瞧瞧我这没用的小脑瓜。tf.train.Example的用法https://blog.csdn.net/hfutdog/article/details/86244944...

会用Python, 但是绝对称不上精通，因为几乎不会用python的高级特性，对python的基础也了解的不透彻，但好在有自知之明，并有深入了解的觉悟，还是孺子可教的。下面的这些网址都是看过觉得对明晰概念非常有帮助的，目前也在针对python的高级特性做思维导图，而后也会放于此处。https://www.cnblogs.com/zjltt/p/7001982.html...

时长感叹当时没有好好学习计算机的基础知识，导致现在对一些感念都模糊不清，领用零碎的时间补一补：进程和线程http://www.ruanyifeng.com/blog/2013/04/processes_and_threads.html...

最近在看傅里叶变换和拉普拉斯算子，看到的非常好非常好，容易理解又有形象概念的解释：傅里叶变换：如何给文科生解释傅里叶变换？https://www.jianshu.com/p/73f0ab14828a深入浅出的讲解傅里叶变换（真正的通俗易懂）https://zhuanlan.zhihu.com/p/19763358拉普拉斯算子：拉普拉斯变换中的S是个什么鬼https://mp.wei...

https://blog.csdn.net/js54100804/article/details/80463520

NLP四大任务类型：分类、序列标注、文本匹配、文本生成练习地址：https://github.com/FudanNLP/nlp-beginnerhttps://www.zhihu.com/question/324189960

https://www.cnblogs.com/wangqiaomei/p/5818636.htmlhttps://blog.csdn.net/birdben/article/details/49873725