Deep Learning
桂小Z
这个作者很懒,什么都没留下…
展开
-
ng Machine Learning课程笔记(3)——Neural Networks神经网络
动机:只是简单的增加二次项或者三次项之类的逻辑回归算法,并不是一个解决复杂非线性问题的好办法。因为当n很大时,将会产生非常多的特征项。任何一个不是输出层或输入层的都被称为隐藏层。如果把前面的输入层和隐藏层遮住,只剩下最后一个隐藏层和输出层,那么这个模型看起来就像是逻辑回归。只不过输入不再是特征x,变成了前面隐藏层的输出。因此,神经网络可以在前面的隐藏层中经过调整θ值(权重),计算出更好的特...原创 2018-12-12 15:23:58 · 160 阅读 · 0 评论 -
Deep contextualized word representations (ELMo) 阅读笔记
ELMo (Embeddings from Language Models)引入了一种新的深度上下文单词表示,不仅能对单词使用的复杂特征(如语法和语义)进行建模,还能根据上下文语境的不同做出改变(一词多义)。与传统的单词类型嵌入不同,每一个token的表示是整个输入句子的函数。它们是在带有字符卷积的两层biLMs上计算的双向语言模型给定N个token的序列,(t1,t2,……,tN...原创 2019-05-26 15:58:59 · 329 阅读 · 0 评论