BERT使用详解(实战)

最新推荐文章于 2024-03-30 20:01:41 发布

Eric_yq

最新推荐文章于 2024-03-30 20:01:41 发布

阅读量1.3k

点赞数

分类专栏：笔记文章标签： bert 自然语言处理深度学习

本文链接：https://blog.csdn.net/qq_44703354/article/details/125545408

版权

笔记专栏收录该内容

3 篇文章 0 订阅

订阅专栏

BERT模型，本质可以把其看做是新的word2Vec。对于现有的任务，只需把BERT的输出看做是word2vec，在其之上建立自己的模型即可了。

1，下载BERT
BERT-Base, Uncased: 12-layer, 768-hidden, 12-heads, 110M parameters
BERT-Large, Uncased: 24-layer, 1024-hidden, 16-heads, 340M parameters
BERT-Base, Cased: 12-layer, 768-hidden, 12-heads , 110M parameters
BERT-Large, Cased: 24-layer, 1024-hidden, 16-heads, 340M parameters
BERT-Base, Multilingual Cased (New, recommended): 104 languages, 12-layer, 768-hidden, 12-heads, 110M parameters
BERT-Base, Multilingual Uncased (Orig, not recommended) (Not recommended, use Multilingual Cased instead): 102 languages, 12-layer, 768-hidden, 12-heads, 110M parameters
BERT-Base, Chinese: Chinese Simplified and Traditional, 12-layer, 768-hidden, 12-heads, 110M parameters

https://www.jianshu.com/p/bfd0148b292e

链接：https://www.jianshu.com/p/bfd0148b292e
来源：简书