BERT
文章平均质量分 75
Hiweir ·
日常分享NLP自然语言处理的学习笔记,
若大佬们发现了我的学习错误,欢迎大佬们指正,万分感谢
展开
-
20_BERT微调训练
【代码】20_BERT微调训练。原创 2024-09-25 19:24:31 · 502 阅读 · 0 评论 -
BERT训练环节(代码实现)
【代码】BERT训练环节(代码实现)原创 2024-09-24 22:17:16 · 1087 阅读 · 0 评论 -
BERT训练之数据集处理(代码实现)
【代码】BERT训练之数据集处理(代码实现)原创 2024-09-24 17:04:10 · 317 阅读 · 0 评论 -
BERT的代码实现
由于前馈网络的ffn_num_outputs = num_hiddens,没有初始化传入#__init__()里面的参数,是创建类的时候传入的参数#token_embeddings层#segment_embedding层 (传入两个句子,所以第0维为2)#pos_embedding层 :位置嵌入层是可以学习的, 用nn.Parameter()定义可学习的参数#设置Encoder_block的数量。原创 2024-09-22 22:26:03 · 1059 阅读 · 0 评论