文章目录
3_BERT的奇闻轶事
Why does BERT work?
To Learn More
Multi-lingual BERT(多语言BERT)
BERT有跨语言的功能?前提是资料量要够多才能train起来…,过了两天loss掉下去了
BERT还有很多不被理解的,说明可以探究的空间很大
4_GPT的野望
20分钟就可以微调作业7了,但GPT实在太过巨大了,train一个epoch可能都有困难
How to use GPT?
Self-supervise Learning还有更多的领域应用,不止在翻译,还有CV
你也可以做语音版的GPT
语音版的 基准集,10个不同的任务