CS224n课程Assignment3参考答案

$$Assignment\#3-solutionByJonariguez$$

所有的代码题目对应的代码已上传至github/CS224n/Jonariguez

所有的代码题目对应的代码可查看对应文件夹Assignment3_Code下的.py文件

解：
ii) 只用词本身的话有点像基于统计的方法，面对低频词或者未统计词模型表现不好，有时候词也有二义性，无法确定是否为实体或者是什么实体。
iii) 上下文、词性等。

解：
i) 推算所有变量的形状：

$$x^{(t)}\in {\mathbb{R}}^{1\times V}$$
$$x^{(t)}L\in {\mathbb{R}}^{1\times D}$$
$$e^{(t)}\in {\mathbb{R}}^{1\times (2w+1)D}$$
$$h^{(t)}\in {\mathbb{R}}^{1\times H}$$
$$W\in {\mathbb{R}}^{(2w+1)D\times H}$$
$${\hat{y}}^{(t)}\in {\mathbb{R}}^{1\times C}$$
$$U\in {\mathbb{R}}^{H\times C}$$
$$b_1\in {\mathbb{R}}^{1\times H}$$
$$b_2\in {\mathbb{R}}^{1\times C}$$

ii) 对于1个word的复杂度为：

e ( t ) = [ x