NLP学习笔记（1）—— 深度学习在NLP各方面的应用进展

NLP中的深度学习

在早期的NLP发展中，主要使用词频统计等概率模型完成一些预测任务。目前，NLP已经普遍使用深度学习中的各网络模型完成各项任务。对深度学习在NLP中的认识可以分为三层：适合使用的深度学习模型、各模型如何实现NLP的核心任务、各核心任务的组合实现NLP应用落地。

主要模型

CNN

CNN最开始是在计算机视觉中大放异彩，自然而然的就被联想到在NLP中是否也可实现很好的效果。
CNN最大的优点就是共享权重和不需要对数据做过多的预处理。前者使得计算量大大减少，对巨量语库的建模有了可实现性；后者意味着只要出现kernel所敏感的fe