星空对话机器人-Transformer-可运行在终端设备的Transformer模型MobileBERT架构及完整源码实现

第37章：可运行在终端设备的Transformer模型MobileBERT架构内幕及完整源码实现

1，Compact BERT on resource-limited设备上

2，teacher model数学原理解析

3，MobileBertTokenizer源码完整实现分析

4，load_tf_weights_in_mobilebert源码完整实现分析

5，NoNorm源码完整实现分析

6，MobileBertEmbeddings源码完整实现分析

7，MobileBertAttention源码完整实现分析

8，MobileBertSelfAttention源码完整实现分析

9，MobileBertSelfOutput源码完整实现分析

10，MobileBertIntermediate源码完整实现分析

11，OutputBottleneck源码完整实现分析

12，MobileBertOutput源码完整实现分析

13，BottleneckLayer源码完整实现分析

14，Bottleneck源码完整实现分析

15，FFNOutput源码完整实现分析

16，FFNLayer源码完整实现分析

17，MobileBertLayer源码完整实现分析

18，MobileBertEncoder源码完整实现分析

19，MobileBertPooler源码完整实现分析

20，MobileBertPredictionHeadTransform源码完整实现分析

21，MobileBertLMPredictionHead源码完整实现分析

22，MobileBertOnlyMLMHead源码完整实现分析

23，