特征提取算法 知乎_自然语言处理原理到进阶实战

阶段概述：

本阶段讲解，词向量、词嵌入、RNN、LSTM、孪生网络、CNN 在 NLP 中的应用、Attention 注意力机制、Transformer、BERT

达成目标：

通过本阶段学习，掌握 NLP 中词的各种向量表达，从古典的 Word2Vec 方式到现代的 BERT 方式，学好这些 NLP 特征提取的主干网络，才能在 NLP 各项任务中产生好的效果。这阶段 也将掌握大量 NLP 任务的实战开发。

实战教学项目：

• TF 代码实现 Word2Vec 算法项目
• 深度学习用户画像项目
• 电影评论情感分析案例
• 机器写唐诗案例
• 产生式自动聊天机器人
• POS 词性标注案例
• NER 命名实体识别案例
• 语义相似度分析案例
• Bert as service 开源项目

词向量与词嵌入

• TFIDF
• Word2Vec 算法
• Gensim 模块
• Skip-gram
• TF 代码实现 Word2Vec 算法项目
• FastText
• Word Embedding
• 深度学习用户画像项目

循环神经网络原理与优化

• Vanilla RNN
• Basic RNN 实现 MNIST 手写数字图片识别
• LSTM 长短时记忆
• GRU 与双向 LSTM
• 电影评论情感分析案例
• Seq2Seq
• 机器写唐诗案例
• CNN+LSTM+CRF
• POS tagging 词性标注案例
• NER 命名实体识别案例
• 孪生网络
• 语义相似度分析案例

Transformer 和 Bert

• Attention 注意力机制
• Attention 算法流程
• Transformer
• Self-Attention 机制
• Multi-Head Attention
• Bert
• Bert as service 开源项目

知乎视频​www.zhihu.com