2020-10-29 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入

274 篇文章 24 订阅
233 篇文章 0 订阅

1.视频网站:mooc慕课https://mooc.study.163.com/university/deeplearning_ai#/c
2.详细笔记网站(中文):http://www.ai-start.com/dl2017/
3.github课件+作业+答案:https://github.com/stormstone/deeplearning.ai

自然语言处理与深度学习是特别重要的组合。使用词向量表示和嵌入层,可以训练在各种行业中表现出色的循环神经网络。应用程序示例包括情绪分析、物体识别和机器翻译。

2.1 词汇表征 Word representation

2020-10-29 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.1 词汇表征-为什么要学习或者使用词嵌入 )

2.2 使用词嵌入 Using word embeddings

2020-10-30 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.2 使用词嵌入–词嵌入的迁移学习)

2.3 词嵌入的特性 Properties of word embeddings

2020-11-2 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.3 词嵌入的特性-类比推理/余弦相似度)

2.4 嵌入矩阵 Embedding matrix

2020-11-3 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.4 嵌入矩阵-嵌入矩阵E乘以one-hot向量O=嵌入向量e)

2.5 学习词嵌入 Learning word embeddings

2020-11-4 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.5 学习词嵌入-语言模型问题,输入一些上下文,例如目标词的前4个词然后预测出目标词)

2.6 Word2Vec

2020-11-5 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.6 Word2Vec-Skip-Gram模型,缺点-分级softmax的计算成本非常昂贵)

2.7 负采样 Negative sampling

2020-11-9 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.7 负采样-1个正采样和K个负采样生成训练集,解决softmax计算量大问题)

2.8 GloVe 词向量 GloVe word vectors

2020-11-10 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.8 GloVe 词向量-定义c和t为任意两个位置相近的单词,将他们之间的差距进行最小化处理)

2.9 情绪分类 Sentiment Classification

2020-11-11 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.9 情绪分类-使用RNN模型,考虑词序)

2.10 词嵌入除偏 Debiasing Word Embeddings

2020-11-12 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.10 词嵌入除偏)

课后编程1

2021-1-9 吴恩达-C5 序列模型-w2 自然语言处理与词嵌(课后编程1-Operations on word vectors 词向量运算-含UnicodeDecodeError解决)

课后编程2

2021-1-13 吴恩达-C5 序列模型-w2 自然语言处理与词嵌(课后编程2-Emojify 表情生成器)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值