推荐30个以上比较好的中文bert系列的模型

以下是一些中文 BERT 系列的模型:

  1. BERT-Base, Chinese: 中文 BERT 基础版
  2. BERT-Large, Chinese: 中文 BERT 大型版
  3. BERT-WWM, Chinese: 中文 BERT 加入了 whole word masking 的版本
  4. BERT-WWM-Ext, Chinese: 中文 BERT 加入了 whole word masking 且扩展了训练数据的版本
  5. ALBERT-Base, Chinese: 中文 ALBERT 基础版,在 BERT 的基础上进行了参数压缩和优化
  6. ALBERT-Large, Chinese: 中文 ALBERT 大型版
  7. ALBERT-XLarge, Chinese: 中文 ALBERT 超大型版
  8. RoBERTa-Base, Chinese: 中文 RoBERTa 基础版,在 BERT 的基础上进行了进一步优化
  9. RoBERTa-Large, Chinese: 中文 RoBERTa 大型版
  10. RoBERTa-WWM, Chinese: 中文 RoBERTa 加入了 whole word masking 的版本
  11. RoBERTa-WWM-Ext, Chinese: 中文 RoBERTa 加入了 whole word masking 且扩展了训练数据的版本
  12. XLM-RoBERTa-Base, Chinese: 中文 XLM-RoBERTa 基础版,在 RoBERTa 的基础上使用了多语言训练数据
  13. XLM-RoBERTa-Large, Chinese: 中文 XLM-RoBERTa 大型版
  14. GPT-2, Chinese: 中文 GPT-2,自然语言生成模型
  15. T5, Chinese: 中文 T5,自然语言生成模型
  16. ERNIE-Base, Chinese: 中文 ERNIE 基础版,在 BERT 的基础上加入了知识预先训练
  17. ERNIE-Large, Chinese: 中文 ERNIE 大型版
  18. ERNIE-Baidu, Chinese: 百度开发的中文 ERNIE 模型
  19. ERNIE-Gen, Chinese: 中文 ERNIE
  • 0
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
以下是30个以上比较好的中文 BERT 系列模型的 Github 源码: 1. BERT-Base, Chinese: https://github.com/google-research/bert/blob/master/multilingual.md#chinese-pre-trained-models 2. BERT-WWM-Ext, Chinese: https://github.com/ymcui/Chinese-BERT-wwm 3. BERT-WWM-Ext-finetune, Chinese: https://github.com/ymcui/Chinese-BERT-wwm/tree/master/finetune 4. RoBERTa-wwm-ext-large, Chinese: https://github.com/ymcui/Chinese-RoBERTa-wwm-ext 5. BERT-wwm-ext-multilingual: https://github.com/ymcui/BERT-wwm-ext 6. ALBERT-base, Chinese: https://github.com/brightmart/albert_zh 7. ALBERT-tiny, Chinese: https://github.com/brightmart/albert_tiny_zh 8. ALBERT-tiny-finetune, Chinese: https://github.com/brightmart/albert_tiny_zh/tree/master/finetune 9. ALBERT-xlarge, Chinese: https://github.com/brightmart/albert_zh/tree/master/albert_xlarge 10. ERNIE-v1.0, Chinese: https://github.com/PaddlePaddle/ERNIE 11. ERNIE-v2.0, Chinese: https://github.com/PaddlePaddle/ERNIE/tree/v2.0 12. ERNIE-Baidu, Chinese: https://github.com/baidu/ERNIE 13. GPT, Chinese: https://github.com/openai/gpt-2 14. GPT-2, Chinese: https://github.com/openai/gpt-2 15. XLNet, Chinese: https://github.com/ymcui/Chinese-XLNet 16. XLNet-Mid, Chinese: https://github.com/ymcui/Chinese-XLNet/tree/master/mid_data 17. XLNet-Large, Chinese: https://github.com/ymcui/Chinese-XLNet/tree/master/large_data 18. XLM-R, Chinese: https://github.com/ymcui/XLM-RoBERTa 19. Chinese-BART, Chinese: https://github.com/ymcui/Chinese-BART 20. Chinese-BART-finetune, Chinese: https://github.com/ymcui/Chinese-BART/tree/master/finetune 21. MT-DNN, Chinese: https://github.com/namisan/mt-dnn 22. MASS, Chinese: https://github.com/microsoft/MASS 23. T5, Chinese: https://github.com/google-research/text-to-text-transfer-transformer 24. DAE, Chinese: https://github.com/thunlp/DAE 25. DAE-finetune, Chinese: https://github.com/thunlp/DAE/tree

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值