光流的概念在1950年由Gibson首次提出。它是在观察成像平面上空间移动物体的像素移动的瞬时速度。利用图像序列中时域中像素的变化以及相邻帧之间的相关性,找到前一帧与当前帧之间的对应关系,从而计算出相邻帧之间物体的运动信息。一般而言,光流是由前景物体本身的移动,相机的移动或场景中两者的联合移动引起的。
假设我们有两个图像I和J,它们之间有一个小的转换,可以表示如下。
其中,I(x)和J(x)可以看作是一个映射函数,其中像素位置x为自变量,像素灰度为因变量。这两个图像。我们从优化的角度考虑这个问题,如下
通过连续地调整该二维平移d,J和I之间的差异被最小化。
为了解决这个问题,我们首先求解目标函数相对于自变量的导数,可以得到以下公式。
接下来,我们采用J(x + d)的一阶泰勒展开式,然后将其简化为误差函数的导数,如下所示: