- 博客(6)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 Transformer翻译模型Decoder详解（Masking）
写这个博客的原因在于：大部分解释Transformer的文章都只注重讲解Encoder部分，在Encoder中又侧重讲解self-attention原理。为了读者更好地理解整个Transformer的训练过程，我决定结合代码写一篇在理解了Encoder部分怎么理解Decoder模块的博文。参考文章：https://jalammar.github.io/illustrated-transforme...
2020-02-11 18:16:04
9449
1
原创 自然语言词向量模型：Glove和Bert
自然语言预训练模型：Glove和Bert1. 词向量模型2. Glovebert模型bert模型的使用参考资料1. 词向量模型词向量模型包括：word2vec、glove、fastText、elmo、GPT和bert、xlnet等。这里面有些是“一揽子”表示的词向量模型，如word2vec、glove，是用一个固定的向量来表示一个具体的token(单词)。这样的好处是简单且易于使用，预训练完...
2019-06-30 23:13:58
5192
原创 Bert训练MRPC数据集，将预测模型写成API调用，以及简单html界面使用，后台服务使用flask
Bert句子相似度分析，用flask提供调用method用Bert训练MRPC数据集，保存模型（API 以及简易 html 调用），使用模型预测双句代码讲解本文代码已上传到Github：https://github.com/luoyangbiao/bert_flask用Bert训练MRPC数据集，保存模型这里运行官方的run_classifier.py代码就好了，我在Github上的代码也...
2019-06-30 13:29:39
4812
1
原创 github、git 使用操作方法
git使用教程在远程仓库上添加本机的ssh公钥本地安装git命令、创建一个专门用来git的文件夹首先将远程代码clone到本地仓库（在LocalHouse文件夹下运行命令）愉快地写完 / 改完代码，push到远程仓库删除仓库文件参考资料假设git远程仓库已经存在（公司的gitlab或者自己的github）在远程仓库上添加本机的ssh公钥ssh-keygen -t rsa -C "your_...
2019-06-25 13:56:10
181
原创 jupyter远程服务配置
jupyter notebook远程服务配置sha1密码产生配置文件编辑配置文件运行参考资料记录一下配置过程，以后用到就不用到处去找了sha1密码ipythonfrom notebook.auth import passwdpasswd()输两遍得到sha1加密密码产生配置文件jupyter notebook --generate-config编辑配置文件vim ~/....
2019-06-25 11:27:33
296
原创 nlp自然语言处理入门笔记
自然语言处理入门笔记（一）先修课程入门简易指南词向量句向量Bi-LSTM全连接层（dense layer）损失函数及其最小化tensorflow入门跑一个完整的公开数据集（yelp）SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入先修课程Machine Learnin...
2019-06-20 13:54:40
390
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人