deeplearning.ai中符号表示

deeplearning.ai中符号表示

flyfish

以输入 Harry Potter and Hermione Granger invented a new spell.为例说明

输入x（9个单词）
$x^{\langle 1 \rangle} x^{\langle 2 \rangle} x^{\langle 3 \rangle} ……x^{\langle t \rangle} ……x^{\langle 9 \rangle}$

输出y
$y^{\langle 1 \rangle} y^{\langle 2 \rangle} y^{\langle 3 \rangle} ……y^{\langle t \rangle} ……y^{\langle 9 \rangle}$

输入x(序列)的长度
$T_x=9$

输出y(序列)的长度
$T_y=9$

$x^{(i)\langle t \rangle}$
第 i 个样本x 的第 t 个单词。

$T^{(i)}_x$
表示第 i 个样本的输入的单词总数

$y^{(i)\langle t \rangle}$
第 i 个样本的输出y 的第 t 个单词。

$T^{(i)}_y$
表示第 i 个样本的输出y的的单词总数

$a^{[4]}$
表示第4层激活

$W^{[5]},b^{[5]}$
处于第五层参数,上标字母$[l]$表示关联对象所处的层数

$a^{[l]}_i$
表示在$l$层 激活中的第$i$项,下标$i$表示向量中的第$i$项

$W_{ax}$ 输入$x^{<t>}$到隐藏层
$W_{aa}$ 激活值$a^{<t>}$到隐藏层
$W_{ya}$ 隐藏层到输出值$y^{<t>}$

LSTM

$\Gamma _u$ 更新门update
$\Gamma _f$ 遗忘门forget
$\Gamma _o$ 输出门output