自然语言处理
a1058420631
这个作者很懒,什么都没留下…
展开
-
深度学习环境配置
conda create -n py36 python=3.6 conda activate py36 conda install tensorflow-gpu=1.12 pytorch=1.4 pip install transformers numpy==1.6.4 scikit-learn fitlog sentencepiece==0.1.91原创 2020-06-23 00:28:21 · 292 阅读 · 0 评论 -
Demo for Stanford CoreNLP
1. 安装Java 1.1 安装openjdk yum install java-1.8.0-openjdk java-1.8.0-openjdk-devel 1.2 配置环境变量 vim ~/.bashrc export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.222.b10-0.el7_6.x86_64 export CLAS...原创 2020-02-23 19:59:21 · 316 阅读 · 0 评论 -
这可能是第一篇比较全的ERNIE踩坑笔记——Centos下玩转ERNIE
最近要做一个中文文本匹配的任务,看到百度刚刚发布了sota的模型(中文任务全面超越BERT:百度正式发布NLP预训练模型ERNIE),所以想拿来用一下,但是相对于大火的google发布的Bert,实践ERNIE模型的博客非常少,于是自己跑通模型后写了这篇博客记录一下遇到的坑,如果对小伙伴们有帮助那便是极好的。 因为论文是基于百度的开源框架paddlepaddle,可以说相比较深度学习大火的te...原创 2019-05-15 18:42:45 · 3950 阅读 · 2 评论 -
Word2Vec
Word2Vec Transformer 1.Self-Attetion 矩阵形式(每行表示一个单词) 2.Multiple Heads 结果拼接 整体计算过程 3.使用位置编码表示序列的顺序 位置编码和embedding相加作为输入 4.残差连接 5.decoder The output of the top encod...原创 2019-06-29 20:38:30 · 428 阅读 · 0 评论