- 博客(1)
- 收藏
- 关注
RSS订阅原创 Soft-Masked-Bert网络细节解读
大家好，我是隔壁小王。 Soft-Masked-Bert是复旦大学和字节跳动联合发布的在bert基础上针对文本纠正的网络模型，这里对其细节进行一个梳理。 考虑到我另外一个网络中有讲过bert的细节，因此这里姑且把bert作为一个黑盒，详细介绍下smbert相比与bert改动的部分。 首先上图： 别看它这个图挺唬人，其实改动非常简单，该网络主要加入的是一个错别字的检测网络部分也就是图中的Detection Nerwork。 假设输入的句长是128，embedding后的维度是768，batchs
2020-11-04 10:10:01
2596
13
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人