神经网络
文章平均质量分 83
rexyang97
这个作者很懒,什么都没留下…
展开
-
循环神经网络(RNN)
简介在全神经网络中,我们输入固定大小的vector,输出固定大小的vector。在卷积神经网络中,我们输入固定大小的矩阵,输出固定大小的vector。但是现实生活中,还有非常的的东西是非固定大小的,比如视频,语音,连续文本等等。循环神经网络(RNN)便是一种对序列数据非常有效的时间序列模型。他对于挖掘数据中的时序信息以及语义信息都十分有效。比如之前关于中文语义的一个笑话:领导:你这是什么意思?小明:没什么意思。意思意思。领导:你这就不够意思了。小明:小意思,小意思。领导:你这人真原创 2021-08-07 11:23:34 · 375 阅读 · 0 评论 -
激活函数与梯度消失
在我们搭建神经网络时,通常的做法是每一层后面都需要添加一个激活函数。它的作用是将一个线性的模型转化为非线性模型。因为现实生活中很多场景需要解决的都是非线性问题。而线性模型是有局限性的。比如一层线性神经网络就无法解决异或问题。Sigmodsigmod:1/(1+e^-x)是最经典的激活函数,一层的神经网络加上sigmod其实就是最传统逻辑回归的做法。它能够把任何数映射到[0,1]之间,十分直观。你可以把它想象成一个神经元的放电率,在中间斜率比较大的地方是神经元的敏感区,在两边斜原创 2021-08-04 10:08:00 · 1870 阅读 · 0 评论