从 Word Embedding 到 Bert：一起肢解 Bert！

在 NLP 中，BERT 最近很火，是 NLP 重大进展的集大成者，是最近最火爆的 AI 进展之一。对最新的 Google BERT 模型我们有这样的疑问：

1. 什么是 BERT，这个模型是怎么来的；
2. 刷新了很多 NLP 任务的最好性能，有些任务还被刷爆了，BERT 值得这么高的评价吗；
3. 它有重大的理论或者模型创新吗？

这篇 Chat 中除了得到以上疑问的答案，您可以得到：

1. 从图像预训练为例，解释预训练的过程和意义；
2. Word Embedding 的发展历程；
3. Embedding from Language Models，ELMO 模型讲解；
4. Generative Pre-Training，GPT 模型讲解；
5. BERT 的诞生和“肢解”（ELMO 和 GPT 的优势集成）。

阅读全文: http://gitbook.cn/gitchat/activity/5c05f31f2749dc3af26ebd53

您还可以下载 CSDN 旗下精品原创内容社区 GitChat App ，阅读更多 GitChat 专享技术内容哦。