- 博客(3)
- 收藏
- 关注
原创 讲解fasttext
fasttext是Enriching Word Vectors with Subword Information [TACL 2017]提出的,其作者之一Thomas Mikolov是经典词嵌入word2vec[2013]的提出者。
2018-09-03 15:52:41
208
原创 RNN向后传播推导
RNN: Backprop Through Time Learnable parameter matrices denote U,V, W. ∂∂P≜P⎯⎯⎯⎯∂L∂P≜P¯\frac{\partial\mathcal{L}}{\partial P}\triangleq \overline{P}
2018-09-03 15:33:40
395
原创 计算一个简单的两层感知机的梯度
计算一个简单的两层感知机的梯度 损失函数: L=12K∑i=1K‖yi−W2W1xi‖22=12K‖Y−W2W1X‖2FL=12K∑i=1K‖yi−W2W1xi‖22=12K‖Y−W2W1X‖F2\begin{eqnarray*} L &=\frac1{2K}\sum_{i=1}^K\| y_i-W^2W^1x_i\|^2_2 \\ &=\frac1{2K}\| Y-W^2W^1X\|^2_F...
2018-07-26 11:00:15
644
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人