深度神经网络中,经常会遇到需要把张量结合在一起的情况,比如Inception、DenseNet、Resnet等
concatenate操作是网络结构设计中很重要的一种操作,经常用于将特征联合,多个卷积特征提取框架提取的特征融合或者是将输出层的信息进行融合,而add层更像是信息之间的叠加。
Resnet是做值的叠加,通道数是不变的,DenseNet是做通道的合并。你可以这么理解,add是描述图像的特征下的信息量增多了,但是描述图像的维度本身并没有增加,只是每一维下的信息量在增加,这显然是对最终的图像的分类是有益的。而concatenate是通道数的合并,也就是说描述图像本身的特征增加了,而每一特征下的信息是没有增加。
在代码层面就是ResNet使用的都是add操作,而Inception、DenseNet使用的是concatenate
以keras.layers.add()和keras.layer.conatenate()为例
add对张量执行求和运算
concatenate对张量进行串联运算
那么这两个函数有什么区别呢?
add():直接对张量求和
例如:
import keras
input1 = keras.layers.Input(shape=(16,))
x1 = k