互卷积网络_从信号分析的角度看，卷积和互相关之间的区别

卷积和相关的含义之间有很多微妙之处。两者都属于线性代数中内积和投影的广义概念，即将一个向量投影到另一个向量上，以确定它在后者方向上的“强度”。

这个想法扩展到了神经网络领域，在这里我们将数据样本投影到矩阵的每一行上，以确定它“适合”该行的程度。每行代表一类特定的对象。例如，每一行可以将字母中的字母分类以进行手写识别。通常将每一行称为神经元，但也可以称为匹配过滤器。

从本质上讲，我们正在测量两件事之间的相似程度，或者试图在某物(例如信号或图像)中找到特定特征。例如，当您用带通滤波器对信号进行卷积时，您试图找出该频带中的内容。当您将信号与正弦波(例如DFT)相关时，您正在寻找信号中正弦波频率的强度。请注意，在后一种情况下，相关性不会滑动，但是您仍在“关联”两件事。您正在使用内部积将信号投射到正弦波上。

那么，有什么区别呢？好吧，考虑到卷积，信号相对于滤波器向后。对于随时间变化的信号，其效果是数据按进入滤波器的顺序进行关联。暂时，让我们简单地将相关性定义为点积，即将一件事投射到另一件事上。因此，首先，我们将信号的第一部分与滤波器的第一部分相关联。随着信号继续通过滤波器，相关性变得更加完整。请注意，信号中的每个元素仅与该时间点“触摸”的滤波器元素相乘。

因此，通过卷积，我们在某种意义上是相互关联的，但是我们也试图保留随着信号与系统交互而发生变化的时间顺序。但是，如果滤波器是对称的(通常如此)，则实际上并不重要。卷积和相关将产生相同的结果。

通过相关性，我们只是比较两个信号，而不是尝试保留事件的顺序。为了比较它们，我们希望它们面向相同的方向，即对齐。我们将一个信号滑到另一个信号上，以便我们可以在每个时间窗口中测试它们的相似性，以防它们彼此异相或者在较大的信号中寻找较小的信号。

在图像处理中，情况有所不同。我们不在乎时间。但是，卷积仍然具有一些有用的数学属性。但是，如果您尝试将较大图像的一部分与较小图像进行匹配(即匹配的过滤)，则您将不希望将其翻转，因为这样会使功能无法对齐。当然，除非滤波器是对称的。在图像处理中，相关性和卷积有时可以互换使用，尤其是在神经网络中。显然，如果图像是二维数据的抽象表示(其中一维是时间)(例如，频谱图)，则时间仍然有意义。

因此，总而言之，相关性和卷积都是滑动的内积，用于随着空间或时间的变化将一件事投射到另一件事上。当顺序很重要时，使用卷积，通常用于转换数据。相关通常用于在较大事物内部找到较小事物，即进行匹配。如果两个“事物”之一至少是对称的，那么使用哪个都无关紧要。