AI算法终端应用
本专栏主要搜集一些deep learning的终端算法应用要点与日常笔记
古仔8934
对自己的专业认可,就好比对篮球的热爱
展开
-
《NLP知识点第三讲》GRU的原理与代码实现
GRU的原理公式:GRU的原理公式:GRU的原理公式:c(t)=tanh(Wc[Γr∗c(t−1),x(t)]+bc)c(t)=tanh(Wc[Γr∗c(t−1),x(t)]+bc)c^{(t)} = tanh(W_c[\Gamma_r * c^{(t-1)}, x^{(t)}] + b_c ) Γu=σ(Wu[c(t−1),x(t)]+bu)Γu=σ(Wu[c(t−1),x(t)]+bu)...原创 2018-09-07 14:36:09 · 2177 阅读 · 2 评论 -
《NLP知识点第二讲》LSTM的原理与代码实现
上一讲我们讲到了普通RNN的原理与代码实现,但是普通RNN存在一个缺点就是梯度消失的问题,并且不能解决长期依赖问题。LSTM通过改变RNN的隐藏层,解决了梯度消失问题,并且实现了网络信息的深层次连接。1. LSTM_cell_forwardLSTM只是改变了RNN的隐藏层,各个gate的输出是0到1,也就是他们可以选择是否保留之前的信息。1就是保存,0就是舍弃。具体代码实现如下:...原创 2018-09-06 17:06:00 · 1055 阅读 · 0 评论 -
《NLP知识点第一讲》RNN的原理以及代码的实现
RNN的原理a<t>=g1(Waaa(t−1)+Waxa(t)+ba)a<t>=g1(Waaa(t−1)+Waxa(t)+ba)a^{} = g1(W_{aa}a^{(t-1)} + W_{ax}a^{(t)} + b_a) y¯¯¯<t>=g2(Wyaa(t)+by)y¯<t>=g2(Wyaa(t)+by)\overline{原创 2018-09-05 19:54:31 · 735 阅读 · 0 评论