关于skip connection中的add和cat的理解

在自己魔改网络时，发现skip connection中既有add又有cat操作。

我在做的任务类似于图像修复，反正是图像先encoder  然后 resnet  然后 decoder，无意中发现输出的图像中有一种情况是每一张推理后的测试集图片都有小黑洞，每张都有说明并不是意外。

通过对比实验发现，其他设置都相同时，skip connection是add的话，模型推理输出图像中基本都会在整张图像像素最低的部分（接近黑色）出现小黑洞。而如果用cat操作却不会有这种情况。

后又知乎看到解释add和cat的区别，https://www.zhihu.com/question/306213462 感觉解释清晰易懂，  在不严格控制计算资源情况下，感觉最好还是用cat，毕竟add的情况是可是用cat学习到的，而add却认为限定了其他可能性。