![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
CS224n课程
然后就去远行吧
我们的目标是星辰大海~
展开
-
CS224n——lecture3课程导学
1.1 复习第一周课程内容1.1.1 word vector词向量的表示方法一般有两种,一种是one-hot representation(独热编码,稀疏表达),还有一种是distributed representation(稠密表达),一般用到的都是分布式表达的词向量表示方法。word2vec是稠密表达的一种算法,是一种自编码的无监督训练算法。word2vec有两种模型,一种是CBOW,一...原创 2020-01-10 18:52:10 · 171 阅读 · 0 评论 -
cs224 - Lecture2: Word Vectors and Word Senses
课程2:词向量和词义原创 2019-12-11 22:10:00 · 95 阅读 · 0 评论 -
CS224n —— lecture2的重难点讲解
1、梯度下降在进行梯度下降的时候,容易陷入局部最小值,还有一种情况是陷入鞍点。所以可以在梯度下降中加入动量Momentum。普通的梯度下降的一般算法流程是:update = step * gdparameters = parameters - update收敛速度会变慢,有时甚至陷入局部最优;加入动量:update = step * gdvelocity = previous_up...原创 2019-12-10 22:48:20 · 181 阅读 · 0 评论 -
cs224 -Lecture 1:Introduction and Word Vectors
1、课程介绍了解有效的现代深度学习方法- 首先回顾一些基础知识,然后介绍NLP中的关键方法:递归网络,注意力机制等。了解人类语言的全貌,以及理解和产生语言的困难理解并有能力为NLP中的主要问题构建系统(在pytorch中)- 单词的意思,依赖解释(dependency parsing),机器翻译,问题回答2、人类语言和词义2.1 我们怎样表达一个词的意思?定义:meaning(...原创 2019-11-19 18:13:57 · 167 阅读 · 0 评论 -
CS224n-week1-课程导学
1. 本章/本节学习内容、学习目标1.1 2019-CS224n课程的改进本课程做了许多精简、节奏加快本课程增加了前沿领域知识;增加了作业,大课程设计;使用pytorch;1.2 深度自然语言处理介绍1.2.1 自然语言处理为什么这么难?一词多义;任意一个词可能在一句话里有不同的意义,并且这个意义是和上下文相关的。上下文相关;一个词在不同的语境中的含义可能是矛盾的;不守语...原创 2019-11-08 23:09:47 · 142 阅读 · 0 评论