fastai--course-nlp--fastai nlp 课 目录

0 原文

0-course-logistics.ipynb

1.what is NLP?

• 这是一个变化的领域
• 资源
• 工具
• python库
• 例子应用程序
• Ethics issues

2. 基于 非负矩阵分解 、奇异值分解 的 主题模型

• 停用词，stemming, lemmatization
• 词-文档 矩阵
• 主题频率-逆文档频率 (TF-IDF)
• 奇异值分解(SVD)
• 非负矩阵分解(NMF）
• 阶段 奇异值分解，随机 奇异值分解

3. 基于 朴素贝叶斯、逻辑回归、n元gram 的 情感分类

• 稀疏矩阵存储
• 计数
• fastai 库
• 朴素贝叶斯
• 逻辑回归
• n元gram
• 基于 朴素贝叶斯，基于三元文法 的 逻辑回归

4 正则表达式

5 基于 深度学习 的 语言模型、情感分类

• 语言模型
• transfer学习
• sentiment 分类

6 基于RNN的翻译

• review 嵌入
• Bleu metric
• 强制教师
• 双向
• 注意力

7 基于transformer结构的翻译

• transformer模型
• 多头 注意力
• 掩盖
• 平滑标签

8 NLP中的 bias 和 ethics

• 词嵌入向量 中的 bias
• bias种类
• 注意力economy
• drowning in fraudulent/fake info