![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
寰宇的行者
当学习成为一种习惯
展开
-
对于LSTM可能的一些误解以及其参数个数的计算
LSTM作为RNN的一种,在计算其参数的时候可能会有一些错误的理解。如果对于参数计算过程不理解,那么对网络可能也并不是很理解。如图 上图是一个简单RNN的示意图,为了方便理解,都会画成下面的形式这样就会造成一些误解,将RNN理解为t个不同的模块,并且错误的认为每个模块有不同的参数。其实这里的RNN就只有一个模块。其余的是时间线上的展开。LSTM也类似上图也是时间线...原创 2020-04-02 16:46:47 · 934 阅读 · 1 评论 -
1*1的卷积核和全连接层有什么异同?
当输入的feature map的尺寸是1×1时,两者从数学原理上来看,没有区别。假设输入为c×1×1,输出为n×1×1,那么全连接可以认为是一个c维的向量和n×c大小的矩阵相乘。卷积层可以理解为n个c×1×1的卷积核,分别与输入做内积,跟计算矩阵向量乘没有区别。当输入为c×w×h时,卷积层和全连接层的输出尺寸就不一样了,1×1的卷积输出为n×w×h,全连接的输出是n×1×1。此时,全连接可以等...转载 2020-02-17 19:17:59 · 2417 阅读 · 0 评论