傅里叶变换:不只是多项式乘法
动机
我们的信息科学与技术导论课程期末需要做一个project,笔者选择的题目是跟信号处理有关的,而谈到信号处理就必然离不开傅里叶变换。笔者作为一个前OIer,曾经接触过用于求多项式乘法的FFT、NTT算法,并大致了解过生成函数、多项式相关的理论,同时又对数学分析有着浓厚的兴趣,于是就花了一些时间简单学习了一下傅里叶分析,初步了解了它在信号处理中的应用。之后,我决定将我的笔记和我看到的一些资料整理成这篇随笔。
前言
音频信号是什么?
如果你用过Cool Edit,Fruity Loops,Cubase之类的音乐制作软件,你应该看到过类似这样的图像:
这是我用MATLAB读入了一个音频文件之后直接调用plot
函数画出的图像,它的横坐标是时间,纵坐标是信号的强度,也就是说它是关于时间的函数
f
(
t
)
f(t)
f(t)的图像,称为时域图像。
现在我们来看一个简单一点的信号: f ( t ) = sin t 100 f(t)=\sin\displaystyle\frac{t}{100} f(t)=sin100t,它的时域图像如下
利用数学知识容易求得,这个信号的频率是 1 200 π \frac{1}{200\pi} 200π1,注意这里的单位并不是赫兹。这里我没有规定任何一个量的单位,这不重要。
问题来了,一个正弦信号的频率容易求出,那如果是复杂的信号呢?例如像第一张图中那样的信号,它肯定不是像正弦那样只包含一个频率的简单信号,那么你能看出它包含了哪些频率,每种频率的强度是多少吗?
这说明我们需要一种办法,将一个信号的时域函数 f ( t ) f(t) f(t)变换为频域函数 F ( ω ) F(\omega) F(ω),即我们需要一张频域图像,横轴是不同的频率,纵轴代表信号强度。这里,我对第一张图的那个信号作了相应的变换,得到的频域图像如下:
可以看到,这个信号中掺杂了各种频率的信号,但在 2500 H z 2500Hz 2500Hz左右的频率的能量尤其突出。
本文将会介绍这种变换的数学原理,并简单地介绍一些应用。由于笔者水平有限,应用部分仅仅给出两个简单的例子,有兴趣的读者可以自行查阅资料进一步研究。
本文需要一些数学分析的基础,包括积分、级数等基础知识。
本文侧重于定理的应用,因而略去了一些证明。
作者水平有限,如有错误欢迎指出,不胜感激。
傅里叶级数
傅里叶分析来自于一个有趣的猜想。数学家、物理学家傅里叶在研究一维杆状物体的热流问题时,求解了一个偏微分方程组,发现其解可以用一个三角级数表示:
f
(
x
)
=
∑
n
⩾
1
b
n
sin
n
π
l
x
.
f(x)=\displaystyle\sum\limits_{n\geqslant 1}b_n\sin\displaystyle\frac{n\pi}lx.
f(x)=n⩾1∑bnsinlnπx.
这意味着,对于一个事先给定的定义在
[
0
,
l
]
[0,l]
[0,l]上的函数
f
(
x
)
f(x)
f(x),不管这个函数的定义如何,甚至可能有间断点,它也许都能表示成无穷多个三角函数的和
f
(
x
)
=
a
0
2
+
∑
n
⩾
1
(
a
n
cos
n
π
l
x
+
b
n
sin
n
π
l
x
)
,
f(x)=\displaystyle\frac{a_0}{2}+\displaystyle\sum\limits_{n\geqslant 1}\left(a_n\cos\displaystyle\frac{n\pi}{l}x+b_n\sin\displaystyle\frac{n\pi}{l}x\right),
f(x)=2a0+n⩾1∑(ancoslnπx+bnsinlnπx),
也就是无穷多个不同频率、不同振幅的正弦、余弦曲线的叠加?如果真的是这样,那么这些系数又如何确定?
为了正式介绍傅里叶级数,我们首先需要一些基础知识。
周期函数
首先是周期函数
f
(
x
)
f(x)
f(x),设定义域为
R
\R
R,周期为
T
T
T,则
f
(
x
)
=
f
(
x
+
T
)
f(x)=f(x+T)
f(x)=f(x+T)对任意
x
x
x都成立。这是周期函数的基本定义,但我们还可以证明一个有趣的性质:
∫
a
a
+
T
f
(
x
)
d
x
=
∫
0
T
f
(
x
)
d
x
,
\displaystyle\int_a^{a+T}f(x)\mathrm dx=\displaystyle\int_0^Tf(x)\mathrm dx,
∫aa+Tf(x)dx=∫0Tf(x)dx,
即周期函数在一个周期上的积分与起点无关。
证 设
k
∈
Z
k\in\Z
k∈Z满足
a
⩽
k
T
<
a
+
T
a\leqslant kT<a+T
a⩽kT<a+T,则
∫
a
a
+
T
f
(
x
)
d
x
=
∫
a
k
T
f
(
x
)
d
x
+
∫
k
T
a
+
T
f
(
x
)
d
x
=
∫
a
k
T
f
(
x
)
d
x
+
∫
(
k
−
1
)
T
a
f
(
x
)
d
x
=
∫
(
k
−
1
)
T
k
T
f
(
x
)
d
x
=
∫
0
T
f
(
x
)
d
x
.
\begin{aligned} \displaystyle\int_a^{a+T}f(x)\mathrm dx&=\displaystyle\int_a^{kT}f(x)\mathrm dx+\displaystyle\int_{kT}^{a+T}f(x)\mathrm dx\\ &=\displaystyle\int_a^{kT}f(x)\mathrm dx+\displaystyle\int_{(k-1)T}^af(x)\mathrm dx\\ &=\displaystyle\int_{(k-1)T}^{kT}f(x)\mathrm dx\\ &=\displaystyle\int_0^Tf(x)\mathrm dx. \end{aligned}
∫aa+Tf(x)dx=∫akTf(x)dx+∫kTa+Tf(x)dx=∫akTf(x)dx+∫(k−1)Taf(x)dx=∫(k−1)TkTf(x)dx=∫0Tf(x)dx.
证毕。
这个性质在几何上十分显然,读者可以挑一个周期函数画画看。
注意,对于一个周期为 2 l 2l 2l的函数,将它沿 x x x轴按一定比例缩放就可以得到一个周期为 2 π 2\pi 2π的函数,所以周期具体是多少并没有本质上的影响。
周期延拓
对于一个定义在
[
−
l
,
l
]
[-l,l]
[−l,l]上的函数
f
(
x
)
f(x)
f(x),我们可以将它的图像向左、向右复制,将它变成一个定义在
R
\R
R上的周期为
2
l
2l
2l的函数,这就是周期延拓。但是注意,在区间的端点处(即
l
l
l的奇数倍处)规定函数值为
f
(
l
)
+
f
(
−
l
)
2
\displaystyle\frac{f(l)+f(-l)}2
2f(l)+f(−l)。形式化地,定义为
F
(
x
)
=
{
f
(
x
−
2
n
l
)
,
(
2
n
−
1
)
l
<
x
<
(
2
n
+
1
)
l
,
f
(
l
)
+
f
(
−
l
)
2
,
x
=
(
2
n
+
1
)
l
.
F(x)=\begin{cases}f(x-2nl),&(2n-1)l<x<(2n+1)l,\\\displaystyle\frac{f(l)+f(-l)}2,&x=(2n+1)l\end{cases}.
F(x)=⎩⎨⎧f(x−2nl),2f(l)+f(−l),(2n−1)l<x<(2n+1)l,x=(2n+1)l.
如果函数
f
(
x
)
f(x)
f(x)不是定义在
[
−
l
,
l
]
[-l,l]
[−l,l]上的,而是
[
a
,
b
]
[a,b]
[a,b]上的,我们可以令
2
l
=
b
−
a
2l=b-a
2l=b−a,并将它平移到
[
−
l
,
l
]
[-l,l]
[−l,l]上,再作周期延拓即可。因此,以下所有讨论虽然针对周期函数,但只要将结果限制在一个给定的区间上,其结果对于定义在这个区间上的函数是成立的,只是在端点处的结果要视具体情况而定。
偶延拓、奇延拓
对于定义在 [ 0 , l ] [0,l] [0,l]上的函数,我们还可以进行所谓的偶延拓和奇延拓,就是先将它延拓到 [ − l , l ] [-l,l] [−l,l]上的偶函数或奇函数,再作周期延拓,就产生了定义在全体实数 R \R R上的周期函数。
三角函数的正交性
函数列
1
,
cos
x
,
sin
x
,
cos
2
x
,
sin
2
x
,
⋯
,
cos
n
x
,
sin
n
x
,
⋯
1,\cos x,\sin x,\cos 2x,\sin 2x,\cdots,\cos nx,\sin nx,\cdots
1,cosx,sinx,cos2x,sin2x,⋯,cosnx,sinnx,⋯
是所谓的三角函数系,它们具有共同的周期
2
π
2\pi
2π,并且对于任何的
m
,
n
∈
N
m,n\in\N
m,n∈N,有如下三个式子成立
1
π
∫
−
π
π
cos
m
x
cos
n
x
d
x
=
(
1
+
[
m
=
0
]
)
[
m
=
n
]
,
1
π
∫
−
π
π
sin
m
x
sin
n
x
d
x
=
[
m
=
n
]
,
1
π
∫
−
π
π
cos
m
x
sin
n
x
d
x
=
0.
\begin{aligned} \displaystyle\frac{1}{\pi}\displaystyle\int_{-\pi}^\pi\cos mx\cos nx\mathrm dx&=(1+[m=0])[m=n],\\ \displaystyle\frac{1}{\pi}\displaystyle\int_{-\pi}^\pi\sin mx\sin nx\mathrm dx&=[m=n],\\ \displaystyle\frac{1}{\pi}\displaystyle\int_{-\pi}^\pi\cos mx\sin nx\mathrm dx&=0. \end{aligned}
π1∫−ππcosmxcosnxdxπ1∫−ππsinmxsinnxdxπ1∫−ππcosmxsinnxdx=(1+[m=0])[m=n],=[m=n],=0.
证明留给读者。提示:利用积化和差公式。
这三个式子描述了这样一个事实:对于来自三角函数系中的任意两个不同的函数
f
(
x
)
,
g
(
x
)
f(x),g(x)
f(x),g(x),在区间
[
−
π
,
π
]
[-\pi,\pi]
[−π,π]上由如下方法定义的内积
∫
−
π
π
f
(
x
)
g
(
x
)
d
x
\displaystyle\int_{-\pi}^{\pi}f(x)g(x)\mathrm dx
∫−ππf(x)g(x)dx
是
0
0
0。类比向量的内积与正交性的关系,我们说三角函数系是正交的。
R \R R上的周期函数的傅里叶级数
下面让我们做一些大胆的尝试。注意,这里的过程并不严谨,只是一个猜想。伟大的成果往往来自于大胆的猜想。
假设周期为
2
π
2\pi
2π,定义域为
R
\R
R的函数
f
(
x
)
f(x)
f(x)真的可以写成如下三角级数
f
(
x
)
=
a
0
2
+
∑
n
⩾
1
(
a
n
cos
n
x
+
b
n
sin
n
x
)
,
f(x)=\displaystyle\frac{a_0}2+\displaystyle\sum\limits_{n\geqslant 1}\left(a_n\cos nx+b_n\sin nx\right),
f(x)=2a0+n⩾1∑(ancosnx+bnsinnx),
这里为了方便,我们将第
0
0
0项单独拿出来。
现在我们试着求出系数
a
n
a_n
an和
b
n
b_n
bn。我们可以在两边同乘以
cos
m
x
(
m
∈
N
∗
)
\cos mx(m\in\N^*)
cosmx(m∈N∗):
f
(
x
)
cos
m
x
=
a
0
2
⋅
cos
m
x
+
∑
n
⩾
1
a
n
cos
n
x
cos
m
x
+
∑
n
⩾
1
b
n
sin
n
x
cos
m
x
f(x)\cos mx=\displaystyle\frac{a_0}2\cdot\cos mx+\displaystyle\sum\limits_{n\geqslant 1}a_n\cos nx\cos mx+\displaystyle\sum\limits_{n\geqslant 1}b_n\sin nx\cos mx
f(x)cosmx=2a0⋅cosmx+n⩾1∑ancosnxcosmx+n⩾1∑bnsinnxcosmx
接下来,我们试着取
[
−
π
,
π
]
[-\pi,\pi]
[−π,π]上的积分。注意到
∫
−
π
π
a
0
2
cos
m
x
d
x
=
0
\displaystyle\int_{-\pi}^{\pi}\displaystyle\frac{a_0}2\cos mx\mathrm dx=0
∫−ππ2a0cosmxdx=0
是十分显然的,又由三角函数的正交性,
∫
−
π
π
a
n
cos
n
x
cos
m
x
d
x
=
π
a
n
[
m
=
n
]
=
π
a
m
[
m
=
n
]
,
∫
−
π
π
b
n
sin
n
x
cos
m
x
d
x
=
0.
\displaystyle\int_{-\pi}^{\pi}a_n\cos nx\cos mx\mathrm dx=\pi a_n[m=n]=\pi a_m[m=n],\\ \displaystyle\int_{-\pi}^{\pi}b_n\sin nx\cos mx\mathrm dx=0.
∫−ππancosnxcosmxdx=πan[m=n]=πam[m=n],∫−ππbnsinnxcosmxdx=0.
所以
∫
−
π
π
f
(
x
)
cos
m
x
d
x
=
π
a
m
.
\displaystyle\int_{-\pi}^{\pi}f(x)\cos mx\mathrm dx=\pi a_m.
∫−ππf(x)cosmxdx=πam.
但这里是有问题的:我们不经意间交换了无限求和符号和积分符号的顺序,这不是一定成立的。事实上,只有当这个函数项级数一致收敛时,这样的操作才正确。但现在我们为了方便,不妨假设它是一致收敛的,于是我们得到了
a
m
=
1
π
∫
−
π
π
f
(
x
)
cos
m
x
d
x
.
a_m=\displaystyle\frac{1}{\pi}\displaystyle\int_{-\pi}^{\pi}f(x)\cos mx\mathrm dx.
am=π1∫−ππf(x)cosmxdx.
同理,有
b
m
=
1
π
∫
−
π
π
f
(
x
)
sin
m
x
d
x
.
b_m=\displaystyle\frac{1}{\pi}\displaystyle\int_{-\pi}^{\pi}f(x)\sin mx\mathrm dx.
bm=π1∫−ππf(x)sinmxdx.
这里,我们将常数项记为
a
0
2
\displaystyle\frac{a_0}2
2a0而不是
a
0
a_0
a0,是为了让
a
0
a_0
a0的表达式与其它的
a
m
a_m
am一致。我们称由上式给出的
a
n
,
b
n
a_n,b_n
an,bn为傅里叶系数。为了保证傅里叶系数的存在性,我们再假设
f
(
x
)
f(x)
f(x)在
[
−
π
,
π
]
[-\pi,\pi]
[−π,π]上是可积的。在这种情况下,我们就可以计算出傅里叶系数的值,然后构造如下的三角级数
f
(
x
)
∼
a
0
2
+
∑
n
⩾
1
(
a
n
cos
n
x
+
b
n
sin
n
x
)
,
f(x)\sim\displaystyle\frac{a_0}2+\displaystyle\sum\limits_{n\geqslant 1}\left(a_n\cos nx+b_n\sin nx\right),
f(x)∼2a0+n⩾1∑(ancosnx+bnsinnx),
这称为
f
(
x
)
f(x)
f(x)的傅里叶级数。
我们已经作了太多的假设,就这样不明不白地导出了这些式子,难免心里发慌。幸好,狄利克雷(Dirichlet)大师给出了如下的定理:设函数 f ( x ) f(x) f(x)以 2 π 2\pi 2π为周期,
-
如果在任何有限区间上 f ( x ) f(x) f(x)是分段可微的,那么它的傅里叶级数在整个数轴上都收敛,并且
a 0 2 + ∑ n ⩾ 1 ( a n cos n x + b n sin n x ) = f ( x + 0 ) + f ( x − 0 ) 2 , \displaystyle\frac{a_0}2+\displaystyle\sum\limits_{n\geqslant 1}\left(a_n\cos nx+b_n\sin nx\right)=\displaystyle\frac{f(x+0)+f(x-0)}{2}, 2a0+n⩾1∑(ancosnx+bnsinnx)=2f(x+0)+f(x−0),
其中 f ( x + 0 ) f(x+0) f(x+0)和 f ( x − 0 ) f(x-0) f(x−0)分别是函数 f f f在 x x x点处的右极限和左极限。 -
如果在任何有限区间上 f ( x ) f(x) f(x)是分段可微的,并且还处处连续,那么它的傅里叶级数在整个数轴上一致收敛于 f ( x ) f(x) f(x)。
本文略去了狄利克雷定理(以及其他关于收敛性的定理)的证明,因为我们更侧重于应用。有兴趣的读者可以自行查阅相关资料了解。
现在让我们看一个例子:设有函数
f
(
x
)
f(x)
f(x)以
2
π
2\pi
2π为周期,在一个周期
[
−
π
,
π
]
[-\pi,\pi]
[−π,π]内的定义如下:
f
(
x
)
=
{
x
,
0
⩽
x
<
π
0
,
−
π
⩽
x
<
0
.
f(x)=\begin{cases}x,&0\leqslant x<\pi\\0,&-\pi\leqslant x<0\end{cases}.
f(x)={x,0,0⩽x<π−π⩽x<0.
注意这个函数在任何有限区间上都分段可微,但它并不是处处连续的,因此它满足狄利克雷定理的第一条,将会收敛于
f
(
x
+
0
)
+
f
(
x
−
0
)
2
\displaystyle\frac{f(x+0)+f(x-0)}{2}
2f(x+0)+f(x−0)。当
x
x
x是
π
\pi
π的奇数倍时,这个结果是
π
2
\displaystyle\frac{\pi}2
2π;否则就是
f
(
x
)
f(x)
f(x)。
按照定义计算傅里叶系数,这里只需要用到非常基本的定积分计算,过程略去。我们得到
a
0
=
π
2
,
a
n
=
(
−
1
)
n
−
1
n
2
π
,
b
n
=
(
−
1
)
n
+
1
n
.
a_0=\displaystyle\frac{\pi}2,a_n=\displaystyle\frac{(-1)^n-1}{n^2\pi},b_n=\displaystyle\frac{(-1)^{n+1}}{n}.
a0=2π,an=n2π(−1)n−1,bn=n(−1)n+1.
于是我们有
π
4
+
∑
n
⩾
1
(
(
−
1
)
n
−
1
n
2
π
cos
n
x
+
(
−
1
)
n
+
1
n
sin
n
x
)
=
{
f
(
x
)
,
x
≠
(
2
k
−
1
)
π
,
π
2
,
x
=
(
2
k
−
1
)
π
.
\displaystyle\frac{\pi}4+\displaystyle\sum\limits_{n\geqslant 1}\left(\displaystyle\frac{(-1)^n-1}{n^2\pi}\cos nx+\displaystyle\frac{(-1)^{n+1}}{n}\sin nx\right)=\begin{cases}f(x),&x\neq(2k-1)\pi,\\\displaystyle\frac{\pi}2,&x=(2k-1)\pi.\end{cases}
4π+n⩾1∑(n2π(−1)n−1cosnx+n(−1)n+1sinnx)={f(x),2π,x=(2k−1)π,x=(2k−1)π.
这个式子看起来复杂,却又暗藏玄机。如果我们令
x
=
0
x=0
x=0,则
sin
n
x
\sin nx
sinnx都是
0
0
0,
cos
n
x
\cos nx
cosnx都是
1
1
1,又注意到
(
−
1
)
n
−
1
(-1)^n-1
(−1)n−1在
n
n
n为偶数时为零,将式子作适当整理可得
∑
n
⩾
1
1
(
2
n
−
1
)
2
=
π
2
8
.
\displaystyle\sum\limits_{n\geqslant 1}\displaystyle\frac{1}{(2n-1)^2}=\displaystyle\frac{\pi^2}8.
n⩾1∑(2n−1)21=8π2.
进而又可以求出另外几个级数,例如
∑
n
⩾
1
1
n
2
=
∑
n
⩾
1
1
(
2
n
−
1
)
2
+
∑
n
⩾
1
1
(
2
n
)
2
=
π
2
8
+
1
4
∑
n
⩾
1
1
n
2
,
\displaystyle\sum\limits_{n\geqslant 1}\displaystyle\frac{1}{n^2}=\displaystyle\sum\limits_{n\geqslant 1}\displaystyle\frac{1}{(2n-1)^2}+\displaystyle\sum\limits_{n\geqslant 1}\displaystyle\frac{1}{(2n)^2}=\displaystyle\frac{\pi^2}8+\displaystyle\frac14\displaystyle\sum\limits_{n\geqslant 1}\displaystyle\frac{1}{n^2},
n⩾1∑n21=n⩾1∑(2n−1)21+n⩾1∑(2n)21=8π2+41n⩾1∑n21,
移项可得
∑
n
⩾
1
1
n
2
=
π
2
6
.
\displaystyle\sum\limits_{n\geqslant 1}\displaystyle\frac{1}{n^2}=\displaystyle\frac{\pi^2}6.
n⩾1∑n21=6π2.
这是著名的二阶调和数
H
∞
(
2
)
H_\infty^{(2)}
H∞(2),或者是黎曼
ζ
\zeta
ζ函数在
z
=
2
z=2
z=2处的函数值。这个式子的证明方式有很多,这是其中之一。在我的博客 为了求正切的麦克劳林展开式,我复习了伯努利数 中提到了另一种证法。
以上是周期为
2
π
2\pi
2π的周期函数的傅里叶级数,对于周期为
2
l
2l
2l的周期函数,我们当然也有类似的结果(并且狄利克雷定理仍然成立):
f
(
x
)
∼
a
0
2
+
∑
n
⩾
1
(
a
n
cos
n
π
l
x
+
b
n
sin
n
π
l
x
)
,
f(x)\sim\displaystyle\frac{a_0}2+\displaystyle\sum\limits_{n\geqslant 1}\left(a_n\cos\displaystyle\frac{n\pi}lx+b_n\sin\displaystyle\frac{n\pi}lx\right),
f(x)∼2a0+n⩾1∑(ancoslnπx+bnsinlnπx),
其中傅里叶系数为
a
n
=
1
l
∫
−
l
l
f
(
x
)
cos
n
π
l
x
d
x
,
b
n
=
1
l
∫
−
l
l
f
(
x
)
sin
n
π
l
x
d
x
.
a_n=\displaystyle\frac1l\displaystyle\int_{-l}^lf(x)\cos\displaystyle\frac{n\pi}lx\mathrm dx,b_n=\displaystyle\frac1l\displaystyle\int_{-l}^lf(x)\sin\displaystyle\frac{n\pi}lx\mathrm dx.
an=l1∫−llf(x)coslnπxdx,bn=l1∫−llf(x)sinlnπxdx.
有限区间上的函数的傅里叶级数
如果函数 f ( x ) f(x) f(x)仅仅定义在有限区间上,我们只要对它作平移和周期延拓,就可以将它变成定义在 R \R R上的周期函数。这里给出有限区间 [ − l , l ] [-l,l] [−l,l]上的函数的狄利克雷定理:
设函数
f
(
x
)
f(x)
f(x)是定义在
[
−
l
,
l
]
[-l,l]
[−l,l]上的分段可微函数,那么
f
(
x
)
f(x)
f(x)的傅里叶级数收敛于
{
f
(
x
+
0
)
+
f
(
x
−
0
)
2
,
x
∈
(
−
l
,
l
)
,
f
(
−
l
+
0
)
+
f
(
l
−
0
)
2
,
x
=
±
l
.
\begin{cases}\displaystyle\frac{f(x+0)+f(x-0)}{2},&x\in(-l,l),\\\displaystyle\frac{f(-l+0)+f(l-0)}{2},&x=\pm l.\end{cases}
⎩⎪⎨⎪⎧2f(x+0)+f(x−0),2f(−l+0)+f(l−0),x∈(−l,l),x=±l.
如果再增加
f
(
x
)
f(x)
f(x)在
[
−
l
,
l
]
[-l,l]
[−l,l]上连续的条件,并且
f
(
−
l
)
=
f
(
l
)
f(-l)=f(l)
f(−l)=f(l)(这是为了保证周期延拓后仍然连续),那么其傅里叶级数就在
[
−
l
,
l
]
[-l,l]
[−l,l]上一致收敛于
f
(
x
)
f(x)
f(x)。
特别地,我们提一下所谓的正弦级数、余弦级数的概念。对于定义在 [ 0 , l ] [0,l] [0,l]上的函数,如果将它作偶延拓,就会得到一个偶函数 f even ( x ) f_{\text{even}}(x) feven(x),这时 f even ( x ) sin n π l x f_{\text{even}}(x)\sin\displaystyle\frac{n\pi}lx feven(x)sinlnπx是奇函数,在对称区间 [ − l , l ] [-l,l] [−l,l]上的积分恒为零,因此傅里叶系数 b n b_n bn全都是零,傅里叶级数就只剩下了余弦函数,这就是所谓的余弦级数。类似地,作奇延拓之后得到的函数的傅里叶级数是正弦级数。
傅里叶级数的复数形式
我们有著名的欧拉公式
e
i
x
=
cos
x
+
i
sin
x
,
e^{ix}=\cos x+i\sin x,
eix=cosx+isinx,
那么
cos
x
=
e
i
x
+
e
−
i
x
2
,
sin
x
=
e
i
x
−
e
−
i
x
2
i
.
\cos x=\displaystyle\frac{e^{ix}+e^{-ix}}{2},\sin x=\displaystyle\frac{e^{ix}-e^{-ix}}{2i}.
cosx=2eix+e−ix,sinx=2ieix−e−ix.
设定义在区间
[
−
l
,
l
]
[-l,l]
[−l,l]上的函数
f
(
x
)
f(x)
f(x)可以展开成傅里叶级数
f
(
x
)
=
a
0
2
+
∑
n
⩾
1
(
a
n
cos
n
ω
x
+
b
n
sin
n
ω
x
)
,
f(x)=\displaystyle\frac{a_0}2+\displaystyle\sum\limits_{n\geqslant 1}\left(a_n\cos n\omega x+b_n\sin n\omega x\right),
f(x)=2a0+n⩾1∑(ancosnωx+bnsinnωx),
其中
ω
=
π
l
\omega=\displaystyle\frac{\pi}l
ω=lπ,并且系数
a
n
=
1
l
∫
−
l
l
f
(
x
)
cos
n
ω
x
d
x
,
b
n
=
1
l
∫
−
l
l
f
(
x
)
sin
n
ω
x
d
x
.
a_n=\displaystyle\frac1l\displaystyle\int_{-l}^lf(x)\cos n\omega x\mathrm dx,\\ b_n=\displaystyle\frac1l\displaystyle\int_{-l}^lf(x)\sin n\omega x\mathrm dx.
an=l1∫−llf(x)cosnωxdx,bn=l1∫−llf(x)sinnωxdx.
现在将由复指数定义的三角函数代入傅里叶级数,有
f
(
x
)
=
a
0
2
+
∑
n
⩾
1
a
n
−
i
b
n
2
e
i
n
ω
x
+
∑
n
⩾
1
a
n
+
i
b
n
2
e
−
i
n
ω
x
.
f(x)=\displaystyle\frac{a_0}2+\displaystyle\sum\limits_{n\geqslant 1}\displaystyle\frac{a_n-ib_n}2e^{in\omega x}+\displaystyle\sum\limits_{n\geqslant 1}\displaystyle\frac{a_n+ib_n}{2}e^{-in\omega x}.
f(x)=2a0+n⩾1∑2an−ibneinωx+n⩾1∑2an+ibne−inωx.
现在我们试图统一形式,方法是将第二个和式的正整数
n
n
n进行翻转,变成负整数,于是指数上的负号就消失了:
∑
n
⩾
1
a
n
+
i
b
n
2
e
−
i
n
ω
x
=
∑
n
⩽
−
1
a
−
n
+
i
b
−
n
2
e
i
n
ω
x
.
\displaystyle\sum\limits_{n\geqslant 1}\displaystyle\frac{a_n+ib_n}{2}e^{-in\omega x}=\displaystyle\sum\limits_{n\leqslant-1}\displaystyle\frac{a_{-n}+ib_{-n}}{2}e^{in\omega x}.
n⩾1∑2an+ibne−inωx=n⩽−1∑2a−n+ib−neinωx.
合并得
f
(
x
)
=
∑
n
=
−
∞
∞
F
n
e
i
n
ω
x
,
f(x)=\displaystyle\sum\limits_{n=-\infty}^{\infty}F_ne^{in\omega x},
f(x)=n=−∞∑∞Fneinωx,
其中
F
0
=
a
0
2
,
F
±
n
=
1
2
(
a
n
∓
i
b
n
)
.
F_0=\displaystyle\frac{a_0}2,F_{\pm n}=\displaystyle\frac12(a_n\mp ib_n).
F0=2a0,F±n=21(an∓ibn).
这里的
n
n
n取一切整数,而不仅仅是正整数。
卷积
现在介绍一个至关重要的概念:卷积。
设函数
f
(
x
)
,
g
(
x
)
f(x),g(x)
f(x),g(x)在
R
\R
R上可积并且绝对可积,那么积分
∫
−
∞
+
∞
f
(
t
)
g
(
x
−
t
)
d
t
\displaystyle\int_{-\infty}^{+\infty}f(t)g(x-t)\mathrm dt
∫−∞+∞f(t)g(x−t)dt
定义了一个新的函数,称为
f
(
x
)
f(x)
f(x)和
g
(
x
)
g(x)
g(x)的卷积,记作
(
f
∗
g
)
(
x
)
(f*g)(x)
(f∗g)(x)。
卷积满足诸多性质,如交换律
f
∗
g
=
g
∗
f
,
f*g=g*f,
f∗g=g∗f,
结合律
(
f
∗
g
)
∗
h
=
f
∗
(
g
∗
h
)
,
(f*g)*h=f*(g*h),
(f∗g)∗h=f∗(g∗h),
对加法的分配律
(
f
+
g
)
∗
h
=
f
∗
h
+
g
∗
h
.
(f+g)*h=f*h+g*h.
(f+g)∗h=f∗h+g∗h.
读者自证不难。
以上是对于实数集上的可积函数定义的卷积,而事实上还有很多不同类型的卷积。例如,对于数列
{
a
n
}
,
{
b
n
}
\{a_n\},\{b_n\}
{an},{bn},定义其卷积数列为
(
a
∗
b
)
n
=
∑
k
=
0
n
a
k
b
n
−
k
=
∑
i
+
j
=
n
a
i
b
j
,
(a*b)_n=\displaystyle\sum\limits_{k=0}^na_kb_{n-k}=\displaystyle\sum\limits_{i+j=n}a_ib_j,
(a∗b)n=k=0∑nakbn−k=i+j=n∑aibj,
这是一个非常有趣的卷积,因为如果我们考虑这些数列的生成函数
A
(
x
)
=
∑
n
⩾
0
a
n
x
n
,
B
(
x
)
=
∑
n
⩾
0
b
n
x
n
A(x)=\displaystyle\sum\limits_{n\geqslant0}a_nx^n,B(x)=\displaystyle\sum\limits_{n\geqslant 0}b_nx^n
A(x)=n⩾0∑anxn,B(x)=n⩾0∑bnxn,有
A
(
x
)
B
(
x
)
=
∑
n
⩾
0
∑
i
+
j
=
n
a
i
b
j
x
n
,
A(x)B(x)=\displaystyle\sum\limits_{n\geqslant 0}\displaystyle\sum\limits_{i+j=n}a_ib_jx^n,
A(x)B(x)=n⩾0∑i+j=n∑aibjxn,
也就是说,序列的卷积对应了生成函数的乘积。
卷积相关的内容还不止于此,但限于篇幅,我们这里只介绍这两种与本文内容有关的卷积。
傅里叶变换
考虑定义在
[
−
l
,
l
]
[-l,l]
[−l,l]上的
f
(
x
)
f(x)
f(x)的傅里叶级数的复数形式
f
(
x
)
∼
∑
n
=
−
∞
∞
F
n
e
i
n
ω
x
,
f(x)\sim\displaystyle\sum\limits_{n=-\infty}^{\infty}F_ne^{in\omega x,}
f(x)∼n=−∞∑∞Fneinωx,
其中
ω
=
π
l
,
\omega=\displaystyle\frac{\pi}l,
ω=lπ,并且系数
F
±
n
=
1
2
l
∫
−
l
l
f
(
x
)
e
∓
i
n
ω
x
d
x
.
F_{\pm n}=\frac{1}{2l}\int_{-l}^lf(x)e^{\mp in\omega x}\mathrm dx.
F±n=2l1∫−llf(x)e∓inωxdx.
将系数代入傅里叶级数,并记
λ
n
=
n
ω
=
n
π
l
,
Δ
λ
n
=
λ
n
−
λ
n
−
1
=
ω
\lambda_n=n\omega=\dfrac{n\pi}l,\Delta\lambda_n=\lambda_n-\lambda_{n-1}=\omega
λn=nω=lnπ,Δλn=λn−λn−1=ω,则
f
(
x
)
∼
∑
n
=
−
∞
∞
1
2
l
∫
−
l
l
f
(
ξ
)
e
−
i
n
ω
(
ξ
−
x
)
d
ξ
=
∑
n
=
−
∞
∞
1
2
π
∫
−
l
l
f
(
ξ
)
e
−
i
λ
n
(
ξ
−
x
)
d
ξ
Δ
λ
n
\begin{aligned} f(x)&\sim\displaystyle\sum\limits_{n=-\infty}^{\infty}\frac{1}{2l}\int_{-l}^lf(\xi)e^{-in\omega(\xi-x)}\mathrm d\xi\\ &=\displaystyle\sum\limits_{n=-\infty}^{\infty}\frac{1}{2\pi}\int_{-l}^lf(\xi)e^{-i\lambda_n(\xi-x)}\mathrm d\xi\Delta\lambda_n \end{aligned}
f(x)∼n=−∞∑∞2l1∫−llf(ξ)e−inω(ξ−x)dξ=n=−∞∑∞2π1∫−llf(ξ)e−iλn(ξ−x)dξΔλn
这看起来像是一个黎曼和。虽然这里的
λ
n
\lambda_n
λn并不是有限区间上的分割,但是在
l
→
+
∞
l\to+\infty
l→+∞时,上式的一个合理的极限应该是这个积分
f
(
x
)
→
1
2
π
∫
−
∞
+
∞
∫
−
∞
+
∞
f
(
ξ
)
e
−
i
λ
(
ξ
−
x
)
d
ξ
d
λ
=
1
2
π
∫
−
∞
+
∞
e
i
λ
x
∫
−
∞
+
∞
f
(
ξ
)
e
−
i
λ
ξ
d
ξ
d
λ
.
\begin{aligned} f(x)&\to\frac{1}{2\pi}\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}f(\xi)e^{-i\lambda(\xi-x)}\mathrm d\xi\mathrm d\lambda\\ &=\frac{1}{2\pi}\int_{-\infty}^{+\infty}e^{i\lambda x}\int_{-\infty}^{+\infty}f(\xi)e^{-i\lambda\xi}\mathrm d\xi\mathrm d\lambda. \end{aligned}
f(x)→2π1∫−∞+∞∫−∞+∞f(ξ)e−iλ(ξ−x)dξdλ=2π1∫−∞+∞eiλx∫−∞+∞f(ξ)e−iλξdξdλ.
注意,如果将
x
x
x看做时间,
f
(
x
)
f(x)
f(x)看做一个跟时间有关的函数,那么
λ
\lambda
λ就是频率。
但是这又是一个猜想,它真的严谨吗?于是一个新的狄利克雷定理应运而生:
如果定义在
R
\R
R上的函数
f
(
x
)
f(x)
f(x)在任何有限区间上是分段可微的,并且在
R
\R
R上绝对可积,那么对任何
x
∈
R
x\in\R
x∈R,有
1
2
π
∫
−
∞
+
∞
e
i
λ
x
∫
−
∞
+
∞
f
(
ξ
)
e
−
i
λ
ξ
d
ξ
d
λ
=
f
(
x
+
0
)
+
f
(
x
−
0
)
2
.
\frac{1}{2\pi}\int_{-\infty}^{+\infty}e^{i\lambda x}\int_{-\infty}^{+\infty}f(\xi)e^{-i\lambda\xi}\mathrm d\xi\mathrm d\lambda=\frac{f(x+0)+f(x-0)}{2}.
2π1∫−∞+∞eiλx∫−∞+∞f(ξ)e−iλξdξdλ=2f(x+0)+f(x−0).
如果再增加
f
(
x
)
f(x)
f(x)连续的条件,那么上式等于
f
(
x
)
f(x)
f(x)。
定理的证明略去。
现在,我们将这个二重积分的内层积分提出来,令作
F
(
λ
)
F(\lambda)
F(λ),就得到了如下公式:
F
(
λ
)
=
∫
−
∞
+
∞
f
(
ξ
)
e
−
i
λ
ξ
d
ξ
,
f
(
x
)
=
1
2
π
∫
−
∞
+
∞
F
(
λ
)
e
i
λ
x
d
λ
.
F(\lambda)=\int_{-\infty}^{+\infty}f(\xi)e^{-i\lambda\xi}\mathrm d\xi,\\ f(x)=\frac{1}{2\pi}\int_{-\infty}^{+\infty}F(\lambda)e^{i\lambda x}\mathrm d\lambda.
F(λ)=∫−∞+∞f(ξ)e−iλξdξ,f(x)=2π1∫−∞+∞F(λ)eiλxdλ.
我们惊讶地发现,这个
F
(
λ
)
F(\lambda)
F(λ)就是我们要的频域函数,它称为
f
(
x
)
f(x)
f(x)的傅里叶变换,这一组公式称为傅里叶变换的反演公式。经过如此艰苦卓绝的数学推导,我们终于看到了结果。
现在,我们可以考虑它在信号处理上的实际意义了。如果用关于时间
t
t
t的函数
f
(
t
)
f(t)
f(t)来表示一个信号,那么它的频域函数就是
F
(
ω
)
=
∫
−
∞
+
∞
f
(
t
)
e
−
i
ω
t
d
t
,
F(\omega)=\int_{-\infty}^{+\infty}f(t)e^{-i\omega t}\mathrm dt,
F(ω)=∫−∞+∞f(t)e−iωtdt,
而如果我们知道了频域函数
F
(
ω
)
F(\omega)
F(ω),也可以反推出时域函数
f
(
t
)
=
1
2
π
∫
−
∞
+
∞
F
(
ω
)
e
i
ω
t
d
ω
.
f(t)=\frac{1}{2\pi}\int_{-\infty}^{+\infty}F(\omega)e^{i\omega t}\mathrm d\omega.
f(t)=2π1∫−∞+∞F(ω)eiωtdω.
我们可以将
F
F
F记作
F
T
[
f
]
\mathrm{FT}[f]
FT[f](或
F
T
[
f
(
t
)
]
\mathrm{FT}[f(t)]
FT[f(t)],下同),将
f
f
f记作
I
F
T
[
F
]
\mathrm{IFT}[F]
IFT[F],以此展示它们之间紧密的联系。
现在研究傅里叶变换所具有的性质。显然有线性性
F
T
[
α
f
+
β
g
]
=
α
F
T
[
f
]
+
β
F
T
[
g
]
\mathrm{FT}[\alpha f+\beta g]=\alpha\mathrm{FT}[f]+\beta\mathrm{FT}[g]
FT[αf+βg]=αFT[f]+βFT[g]
以及所谓的频移特性:
F
T
[
f
]
(
ω
+
ω
0
)
=
F
T
[
f
(
t
)
e
−
i
ω
0
t
]
(
ω
)
,
\mathrm{FT}[f](\omega+\omega_0)=\mathrm{FT}[f(t)e^{-i\omega_0t}](\omega),
FT[f](ω+ω0)=FT[f(t)e−iω0t](ω),
时移特性:
F
T
[
f
(
t
+
t
0
)
]
(
ω
)
=
(
e
i
ω
t
0
F
T
[
f
]
)
(
ω
)
.
\mathrm{FT}[f(t+t_0)](\omega)=\left(e^{i\omega t_0}\mathrm{FT}[f]\right)(\omega).
FT[f(t+t0)](ω)=(eiωt0FT[f])(ω).
读者自证不难。
除此之外,我们还有著名的时域卷积定理和频域卷积定理:
F
T
[
f
∗
g
]
=
F
T
[
f
]
F
T
[
g
]
,
1
2
π
I
F
T
[
F
∗
G
]
=
I
F
T
[
F
]
I
F
T
[
G
]
.
\mathrm{FT}[f*g]=\mathrm{FT}[f]\mathrm{FT}[g],\\ \frac{1}{2\pi}\mathrm{IFT}[F*G]=\mathrm{IFT}[F]\mathrm{IFT}[G].
FT[f∗g]=FT[f]FT[g],2π1IFT[F∗G]=IFT[F]IFT[G].
这里,我们只给出后者的证明,前者是类似的,读者自证不难。
证 记
I
F
T
[
F
]
=
f
,
I
F
T
[
G
]
=
g
\mathrm{IFT}[F]=f,\mathrm{IFT}[G]=g
IFT[F]=f,IFT[G]=g,那么
I
F
T
[
F
∗
G
]
=
1
2
π
∫
−
∞
+
∞
(
F
∗
G
)
(
ω
)
e
i
ω
t
d
ω
=
1
2
π
∫
−
∞
+
∞
∫
−
∞
+
∞
F
(
u
)
G
(
ω
−
u
)
d
u
e
i
ω
t
d
ω
=
1
2
π
∫
−
∞
+
∞
F
(
u
)
d
u
∫
−
∞
+
∞
G
(
ω
−
u
)
e
i
ω
t
d
ω
,
\begin{aligned} \mathrm{IFT}[F*G] &=\frac{1}{2\pi}\int_{-\infty}^{+\infty}(F*G)(\omega)e^{i\omega t}\mathrm d\omega\\ &=\frac{1}{2\pi}\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}F(u)G(\omega-u)\mathrm du e^{i\omega t}\mathrm d\omega\\ &=\frac{1}{2\pi}\int_{-\infty}^{+\infty}F(u)\mathrm du\int_{-\infty}^{+\infty}G(\omega-u)e^{i\omega t}\mathrm d\omega, \end{aligned}
IFT[F∗G]=2π1∫−∞+∞(F∗G)(ω)eiωtdω=2π1∫−∞+∞∫−∞+∞F(u)G(ω−u)dueiωtdω=2π1∫−∞+∞F(u)du∫−∞+∞G(ω−u)eiωtdω,
令
v
=
ω
−
u
v=\omega-u
v=ω−u,则上式
=
1
2
π
∫
−
∞
+
∞
F
(
u
)
d
u
∫
−
∞
+
∞
G
(
v
)
e
i
(
u
+
v
)
t
d
v
=
1
2
π
∫
−
∞
+
∞
F
(
u
)
e
i
u
t
d
u
∫
−
∞
+
∞
G
(
v
)
e
i
v
t
d
v
=
1
2
π
⋅
2
π
I
F
T
[
F
]
⋅
2
π
I
F
T
[
G
]
=
2
π
I
F
T
[
F
]
I
F
T
[
G
]
.
\begin{aligned} &=\frac{1}{2\pi}\int_{-\infty}^{+\infty}F(u)\mathrm du\int_{-\infty}^{+\infty}G(v)e^{i(u+v)t}\mathrm dv\\ &=\frac{1}{2\pi}\int_{-\infty}^{+\infty}F(u)e^{iut}\mathrm du\int_{-\infty}^{+\infty}G(v)e^{ivt}\mathrm dv\\ &=\frac{1}{2\pi}\cdot2\pi\mathrm{IFT}[F]\cdot 2\pi\mathrm{IFT}[G]\\ &=2\pi\mathrm{IFT}[F]\mathrm{IFT}[G]. \end{aligned}
=2π1∫−∞+∞F(u)du∫−∞+∞G(v)ei(u+v)tdv=2π1∫−∞+∞F(u)eiutdu∫−∞+∞G(v)eivtdv=2π1⋅2πIFT[F]⋅2πIFT[G]=2πIFT[F]IFT[G].
于是频域卷积定理得证。
除了这种傅里叶变换之外,对于定义在 [ 0 , + ∞ ) [0,+\infty) [0,+∞)上的函数,作偶延拓或者奇延拓后再作类似的变换,就可分别得到函数的余弦变换和正弦变换。
向认真读到这里的读者表示钦佩,现在可以稍微休息一下啦~
离散的情形
采样
前面的变换都很美好,但我们得面对现实:你没法在计算机中存储连续定义的函数,更不能对它进行计算。那该如何表示一个信号?
一个听起来很自然的想法:取定义域上的一列等间距的点,将这些点处的函数值保存下来,于是函数变成了数列。这就是采样。
但是这产生了两个问题:
- 间距 T T T(即采样周期)取何值,才能使得丢失的信息尽可能少?
- 采样对傅里叶变换的影响是什么?
为了在数学上很好地定义采样,我们首先给出所谓的单位冲激函数
δ
(
t
)
\delta(t)
δ(t)的定义。单位冲激函数又称狄拉克函数,它由如下两个式子定义:
{
δ
(
t
)
=
0
,
t
≠
0
,
∫
−
∞
+
∞
δ
(
t
)
d
t
=
1.
\begin{cases} \delta(t)=0,t\neq 0,\\ \displaystyle\int_{-\infty}^{+\infty}\delta(t)\mathrm dt=1. \end{cases}
⎩⎨⎧δ(t)=0,t=0,∫−∞+∞δ(t)dt=1.
这是一个非常特殊的函数,它在非零处的值都是零,而零处的值并没有给出。但是它在整个实数轴上的积分是
1
1
1。读者也许会猜想它在
0
0
0处的值为无穷大,但这似乎与一般函数的定义不符。事实上它不是经典意义下的函数,而是一个广义函数,它是单位阶跃函数
u
(
t
)
=
{
1
,
t
>
0
0
,
t
<
0
u(t)=\begin{cases}1,&t>0\\0,&t<0\end{cases}
u(t)={1,0,t>0t<0
的广义导。正因为它的特殊性,我们在使用它的时候必须结合其实际意义来考虑。例如,定义其傅里叶变换为
F
T
[
δ
]
(
ω
)
=
1
\mathrm{FT}[\delta](\omega)=1
FT[δ](ω)=1
是合理的,因为考虑它与某个函数
f
(
t
)
f(t)
f(t)的卷积,可以使用分部积分法得到
∫
−
∞
+
∞
δ
(
τ
)
f
(
t
−
τ
)
d
τ
=
∫
−
∞
+
∞
f
(
t
−
τ
)
d
u
(
τ
)
=
f
(
t
−
τ
)
u
(
τ
)
∣
−
∞
+
∞
−
∫
−
∞
+
∞
u
(
τ
)
d
f
(
t
−
τ
)
=
f
(
−
∞
)
−
∫
0
+
∞
d
f
(
t
−
τ
)
=
f
(
−
∞
)
−
f
(
−
∞
)
+
f
(
t
)
=
f
(
t
)
.
\begin{aligned} \int_{-\infty}^{+\infty}\delta(\tau)f(t-\tau)\mathrm d\tau &=\int_{-\infty}^{+\infty}f(t-\tau)\mathrm du(\tau)\\ &=f(t-\tau)u(\tau)\bigg|_{-\infty}^{+\infty}-\int_{-\infty}^{+\infty}u(\tau)\mathrm df(t-\tau)\\ &=f(-\infty)-\int_0^{+\infty}\mathrm df(t-\tau)\\ &=f(-\infty)-f(-\infty)+f(t)\\ &=f(t). \end{aligned}
∫−∞+∞δ(τ)f(t−τ)dτ=∫−∞+∞f(t−τ)du(τ)=f(t−τ)u(τ)∣∣∣∣−∞+∞−∫−∞+∞u(τ)df(t−τ)=f(−∞)−∫0+∞df(t−τ)=f(−∞)−f(−∞)+f(t)=f(t).
也就是说,
δ
(
t
)
\delta(t)
δ(t)与任何函数
f
(
t
)
f(t)
f(t)的卷积仍然得到
f
(
t
)
f(t)
f(t)本身。注意这里我们用了一个不太严谨的记号
f
(
−
∞
)
f(-\infty)
f(−∞),但无论如何它被抵消了。那么根据时域卷积定理,
F
T
[
δ
]
(
ω
)
\mathrm{FT}[\delta](\omega)
FT[δ](ω)与其它傅里叶变换
F
(
ω
)
F(\omega)
F(ω)的乘积也应当是
F
(
ω
)
F(\omega)
F(ω)本身,所以
F
T
[
δ
]
(
ω
)
=
1
FT[\delta](\omega)=1
FT[δ](ω)=1是合理的。再根据时移特性,我们还能得到
δ
(
t
−
t
0
)
\delta(t-t_0)
δ(t−t0)的傅里叶变换,它是
e
−
i
ω
t
0
e^{-i\omega t_0}
e−iωt0。那么对一个复指数信号
e
−
i
ω
t
0
e^{-i\omega t_0}
e−iωt0进行逆变换就是
1
2
π
∫
−
∞
+
∞
e
−
i
ω
(
t
0
−
t
)
d
ω
=
δ
(
t
−
t
0
)
.
\frac{1}{2\pi}\int_{-\infty}^{+\infty}e^{-i\omega(t_0-t)}\mathrm d\omega=\delta(t-t_0).
2π1∫−∞+∞e−iω(t0−t)dω=δ(t−t0).
现在给出采样的数学定义。对一个信号
f
(
t
)
f(t)
f(t)采样后的结果是
f
∗
(
t
)
=
f
(
t
)
∑
n
=
−
∞
∞
δ
(
t
−
n
T
)
f^*(t)=f(t)\sum\limits_{n=-\infty}^{\infty}\delta(t-nT)
f∗(t)=f(t)n=−∞∑∞δ(t−nT)
它表示为
f
(
t
)
f(t)
f(t)与一个周期冲激串
s
(
t
)
=
∑
n
=
−
∞
∞
δ
(
t
−
n
T
)
s(t)=\displaystyle\sum\limits_{n=-\infty}^{\infty}\delta(t-nT)
s(t)=n=−∞∑∞δ(t−nT)的乘积。其中,
T
T
T是采样周期(或采样间隔),即每隔
T
T
T时间采一个点。通常记
f
s
=
1
T
f_s=\dfrac1T
fs=T1为采样率(或采样频率),即每秒钟采了
f
s
f_s
fs个点;记
ω
s
=
2
π
T
\omega_s=\dfrac{2\pi}T
ωs=T2π为采样角频率。
为了计算
f
∗
(
t
)
f^*(t)
f∗(t)的傅里叶变换,可以使用频域卷积定理。首先计算
s
(
t
)
s(t)
s(t)的傅里叶系数,即如果
s
(
t
)
=
∑
n
=
−
∞
∞
F
n
e
i
n
ω
s
t
,
ω
s
=
2
π
T
s(t)=\sum\limits_{n=-\infty}^{\infty}F_ne^{in\omega_st},\omega_s=\frac{2\pi}{T}
s(t)=n=−∞∑∞Fneinωst,ωs=T2π
则
F
n
=
1
T
∫
−
T
/
2
T
/
2
∑
k
=
−
∞
∞
δ
(
t
−
k
T
)
e
−
i
n
ω
s
t
d
t
=
1
T
∫
−
T
/
2
T
/
2
δ
(
t
)
e
−
i
n
ω
s
t
d
t
=
1
T
F
T
[
δ
]
(
n
ω
s
)
=
1
T
.
\begin{aligned} F_n&=\frac1T\int_{-T/2}^{T/2}\sum\limits_{k=-\infty}^{\infty}\delta(t-kT)e^{-in\omega_st}\mathrm dt\\ &=\frac1T\int_{-T/2}^{T/2}\delta(t)e^{-in\omega_st}\mathrm dt\\ &=\frac1T\mathrm{FT}[\delta](n\omega_s)\\ &=\frac1T. \end{aligned}
Fn=T1∫−T/2T/2k=−∞∑∞δ(t−kT)e−inωstdt=T1∫−T/2T/2δ(t)e−inωstdt=T1FT[δ](nωs)=T1.
于是
s
(
t
)
=
1
T
∑
n
=
−
∞
∞
e
i
n
ω
s
t
s(t)=\frac1T\sum\limits_{n=-\infty}^{\infty}e^{in\omega_st}
s(t)=T1n=−∞∑∞einωst
那么
s
(
t
)
s(t)
s(t)的傅里叶变换
S
(
ω
)
S(\omega)
S(ω)是
S
(
ω
)
=
∫
−
∞
+
∞
s
(
t
)
e
−
i
ω
t
d
t
=
∫
−
∞
+
∞
1
T
∑
n
=
−
∞
∞
e
−
i
t
(
ω
−
n
ω
s
)
d
t
=
1
T
∑
n
=
−
∞
∞
∫
−
∞
+
∞
e
−
i
t
(
ω
−
n
ω
s
)
d
t
=
2
π
T
∑
n
=
−
∞
∞
δ
(
n
ω
s
−
ω
)
=
2
π
T
∑
n
=
−
∞
∞
δ
(
ω
−
n
ω
s
)
,
\begin{aligned} S(\omega)&=\int_{-\infty}^{+\infty}s(t)e^{-i\omega t}\mathrm dt\\ &=\int_{-\infty}^{+\infty}\frac1T\sum\limits_{n=-\infty}^{\infty}e^{-it(\omega-n\omega_s)}\mathrm dt\\ &=\frac1T\sum\limits_{n=-\infty}^{\infty}\int_{-\infty}^{+\infty}e^{-it(\omega-n\omega_s)}\mathrm dt\\ &=\frac{2\pi}{T}\sum\limits_{n=-\infty}^{\infty}\delta(n\omega_s-\omega)\\ &=\frac{2\pi}{T}\sum\limits_{n=-\infty}^{\infty}\delta(\omega-n\omega_s), \end{aligned}
S(ω)=∫−∞+∞s(t)e−iωtdt=∫−∞+∞T1n=−∞∑∞e−it(ω−nωs)dt=T1n=−∞∑∞∫−∞+∞e−it(ω−nωs)dt=T2πn=−∞∑∞δ(nωs−ω)=T2πn=−∞∑∞δ(ω−nωs),
它仍然是周期冲激串。根据频域卷积定理,
f
∗
(
t
)
f^*(t)
f∗(t)的傅里叶变换是
F
∗
(
ω
)
=
1
2
π
∫
−
∞
+
∞
F
(
ω
−
u
)
S
(
u
)
d
u
=
1
2
π
∫
−
∞
+
∞
F
(
ω
−
u
)
2
π
T
∑
n
=
−
∞
∞
δ
(
u
−
n
ω
s
)
d
u
=
1
T
∑
n
=
−
∞
∞
∫
−
∞
+
∞
F
(
ω
−
u
)
δ
(
u
−
n
ω
s
)
d
u
.
\begin{aligned} F^*(\omega)&=\frac{1}{2\pi}\int_{-\infty}^{+\infty}F(\omega-u)S(u)\mathrm du\\ &=\frac{1}{2\pi}\int_{-\infty}^{+\infty}F(\omega-u)\frac{2\pi}{T}\sum\limits_{n=-\infty}^{\infty}\delta(u-n\omega_s)\mathrm du\\ &=\frac1T\sum\limits_{n=-\infty}^{\infty}\int_{-\infty}^{+\infty}F(\omega-u)\delta(u-n\omega_s)\mathrm du. \end{aligned}
F∗(ω)=2π1∫−∞+∞F(ω−u)S(u)du=2π1∫−∞+∞F(ω−u)T2πn=−∞∑∞δ(u−nωs)du=T1n=−∞∑∞∫−∞+∞F(ω−u)δ(u−nωs)du.
如果令
v
=
u
−
n
ω
s
v=u-n\omega_s
v=u−nωs,那么后面的积分是
∫
−
∞
+
∞
F
(
ω
−
n
ω
s
−
v
)
δ
(
v
)
d
v
,
\int_{-\infty}^{+\infty}F(\omega-n\omega_s-v)\delta(v)\mathrm dv,
∫−∞+∞F(ω−nωs−v)δ(v)dv,
这是
F
(
ω
−
n
ω
s
)
F(\omega-n\omega_s)
F(ω−nωs)与狄拉克函数的卷积,前面已经知道这个卷积的结果就是
F
(
ω
−
n
ω
s
)
F(\omega-n\omega_s)
F(ω−nωs)自己,于是
F
∗
(
ω
)
=
1
T
∑
n
=
−
∞
∞
F
(
ω
−
n
ω
s
)
.
F^*(\omega)=\frac1T\sum\limits_{n=-\infty}^{\infty}F(\omega-n\omega_s).
F∗(ω)=T1n=−∞∑∞F(ω−nωs).
这是一个至关重要的式子,它表明:在时域对信号以
T
T
T为周期进行采样,相当于在频域按
ω
s
\omega_s
ωs为周期进行延拓。
这张图片来自Oppenheim的《离散时间信号处理》。图(a)是一个简单的信号傅里叶变换后的结果,其中 Ω N \Omega_N ΩN称为截止频率。图(b)就是我们刚刚给出的 S ( ω ) S(\omega) S(ω),其中 Ω s \Omega_s Ωs就是我们的采样角频率 ω s \omega_s ωs。由于采样的傅里叶变换就是将原信号的傅里叶变换与一个周期冲激串求卷积,并除以 2 π 2\pi 2π,当 Ω s ⩾ 2 Ω N \Omega_s\geqslant 2\Omega_N Ωs⩾2ΩN时采样后的傅里叶变换如图©所示,当 Ω s < 2 Ω N \Omega_s<2\Omega_N Ωs<2ΩN时采样后的傅里叶变换如图(d)所示。可以看到,图©的频谱在每一个整数倍的 Ω s \Omega_s Ωs上仍然保持一个与原信号的频谱完全一样的副本(并在幅度上除以 T T T),而图(d)的频谱发生了混叠,不再含有原频谱的完整信息。于是我们有如下定理:
对于一个信号
x
(
t
)
x(t)
x(t),假设其截止频率为
ω
N
\omega_N
ωN,现对其按角频率
ω
s
=
2
π
T
\omega_s=\dfrac{2\pi}{T}
ωs=T2π进行采样,则当且仅当
ω
s
⩾
2
ω
N
\omega_s\geqslant 2\omega_N
ωs⩾2ωN
时,这个信号能唯一地由它的样本
x
∗
(
n
)
=
x
(
n
T
)
,
n
∈
Z
x^*(n)=x(nT),n\in\Z
x∗(n)=x(nT),n∈Z
所确定。这个定理称为奈奎斯特采样定理(Nyquist-Shannon Sampling Theorem)。频率
ω
N
\omega_N
ωN一般称为奈奎斯特频率,而频率
2
ω
N
2\omega_N
2ωN称为奈奎斯特率。我们称
ω
s
<
2
ω
N
\omega_s<2\omega_N
ωs<2ωN的采样为欠采样,这会使信号的频谱发生混叠。一个直观的例子是高速旋转的车轮看上去向相反方向转。
到此,我们对信号进行采样的想法已经有了基本的理论支持。那么如何从一个采样后的信号恢复出原信号呢?一个简单的办法是先对采样后的信号作傅里叶变换,在频域上截取 [ − ω s , ω s ] [-\omega_s,\omega_s] [−ωs,ωs]这个区间,再作逆傅里叶变换即可。
离散时间傅里叶变换
现在我们有一个采样后的信号
f
∗
(
t
)
=
f
(
t
)
∑
n
=
−
∞
∞
δ
(
t
−
n
T
)
=
∑
n
=
−
∞
∞
f
(
n
T
)
δ
(
t
−
n
T
)
.
\begin{aligned} f^*(t)&=f(t)\sum\limits_{n=-\infty}^{\infty}\delta(t-nT)\\ &=\displaystyle\sum\limits_{n=-\infty}^{\infty}f(nT)\delta(t-nT). \end{aligned}
f∗(t)=f(t)n=−∞∑∞δ(t−nT)=n=−∞∑∞f(nT)δ(t−nT).
试着对它进行傅里叶变换,有
F
∗
(
ω
)
=
∫
−
∞
+
∞
∑
n
=
−
∞
∞
f
(
n
T
)
δ
(
t
−
n
T
)
e
−
i
ω
t
d
t
=
∑
n
=
−
∞
∞
f
(
n
T
)
∫
−
∞
+
∞
δ
(
t
−
n
T
)
e
−
i
ω
t
d
t
.
\begin{aligned} F^*(\omega)&=\int_{-\infty}^{+\infty}\displaystyle\sum\limits_{n=-\infty}^{\infty}f(nT)\delta(t-nT)e^{-i\omega t}\mathrm dt\\ &=\displaystyle\sum\limits_{n=-\infty}^{\infty}f(nT)\int_{-\infty}^{+\infty}\delta(t-nT)e^{-i\omega t}\mathrm dt. \end{aligned}
F∗(ω)=∫−∞+∞n=−∞∑∞f(nT)δ(t−nT)e−iωtdt=n=−∞∑∞f(nT)∫−∞+∞δ(t−nT)e−iωtdt.
注意,我们交换了求和符号和积分符号,这要求级数的一致收敛性,但这里我们忽略了这一点。
注意到冲激信号
δ
(
t
)
\delta(t)
δ(t)的傅里叶变换是常函数
1
1
1,即
∫
−
∞
+
∞
δ
(
t
)
e
−
j
ω
t
d
t
=
1.
\int_{-\infty}^{+\infty}\delta(t)e^{-j\omega t}\mathrm dt=1.
∫−∞+∞δ(t)e−jωtdt=1.
所以
F
∗
(
ω
)
=
∑
n
=
−
∞
∞
f
(
n
T
)
∫
−
∞
+
∞
δ
(
t
)
e
−
i
ω
(
t
+
n
T
)
d
t
=
∑
n
=
−
∞
∞
f
(
n
T
)
e
−
i
ω
n
T
∫
−
∞
+
∞
δ
(
t
)
e
−
i
ω
t
d
t
=
∑
n
=
−
∞
∞
f
(
n
T
)
e
−
i
ω
n
T
.
\begin{aligned} F^*(\omega)&=\displaystyle\sum\limits_{n=-\infty}^{\infty}f(nT)\int_{-\infty}^{+\infty}\delta(t)e^{-i\omega(t+nT)}\mathrm dt\\ &=\displaystyle\sum\limits_{n=-\infty}^{\infty}f(nT)e^{-i\omega nT}\int_{-\infty}^{+\infty}\delta(t)e^{-i\omega t}\mathrm dt\\ &=\displaystyle\sum\limits_{n=-\infty}^{\infty}f(nT)e^{-i\omega nT}. \end{aligned}
F∗(ω)=n=−∞∑∞f(nT)∫−∞+∞δ(t)e−iω(t+nT)dt=n=−∞∑∞f(nT)e−iωnT∫−∞+∞δ(t)e−iωtdt=n=−∞∑∞f(nT)e−iωnT.
这个变换称为离散时间傅里叶变换(Discrete Time Fourier Transform)。注意,这个函数是以
ω
s
=
2
π
T
\omega_s=\dfrac{2\pi}T
ωs=T2π为周期的函数,因为
F
∗
(
ω
+
ω
s
)
=
∑
n
=
−
∞
∞
f
(
n
T
)
e
−
i
(
ω
+
ω
s
)
n
T
=
∑
n
=
−
∞
∞
f
(
n
T
)
e
−
i
ω
n
T
⋅
e
−
i
2
π
n
,
F^*(\omega+\omega_s)=\displaystyle\sum\limits_{n=-\infty}^{\infty}f(nT)e^{-i(\omega+\omega_s)nT}=\displaystyle\sum\limits_{n=-\infty}^{\infty}f(nT)e^{-i\omega nT}\cdot e^{-i2\pi n},
F∗(ω+ωs)=n=−∞∑∞f(nT)e−i(ω+ωs)nT=n=−∞∑∞f(nT)e−iωnT⋅e−i2πn,
而
e
−
i
2
π
n
=
1
e^{-i2\pi n}=1
e−i2πn=1,所以
F
∗
(
ω
+
ω
s
)
=
F
∗
(
ω
)
F^*(\omega+\omega_s)=F^*(\omega)
F∗(ω+ωs)=F∗(ω)。
但是我们想一想,采样实际上是把连续的函数(这里指定义域连续)变成了离散的序列,那么我们完全可以将周期
T
T
T看做“
1
1
1个单位时间”,而
n
T
nT
nT就变成了“第
n
n
n个采样点”,不妨设
x
(
n
)
=
f
(
n
T
)
x(n)=f(nT)
x(n)=f(nT),那么我们有
X
(
ω
)
=
∑
n
=
−
∞
∞
x
(
n
)
e
−
i
ω
n
.
X(\omega)=\displaystyle\sum\limits_{n=-\infty}^{\infty}x(n)e^{-i\omega n}.
X(ω)=n=−∞∑∞x(n)e−iωn.
这里将
T
T
T看作
1
1
1,也就是将采样频率
f
s
f_s
fs看作
1
1
1,这是所谓的频率归一化。
既然有了DTFT,自然也应该有逆离散时间傅里叶变换IDTFT。根据定义有
f
(
n
T
)
=
1
ω
s
∫
−
ω
s
/
2
ω
s
/
2
F
(
ω
)
e
i
ω
n
T
d
ω
.
f(nT)=\frac{1}{\omega_s}\int_{-\omega_s/2}^{\omega_s/2}F(\omega)e^{i\omega nT}\mathrm d\omega.
f(nT)=ωs1∫−ωs/2ωs/2F(ω)eiωnTdω.
频率归一化后就是
x
(
n
)
=
1
2
π
∫
−
π
π
X
(
ω
)
e
i
ω
n
d
ω
.
x(n)=\frac{1}{2\pi}\int_{-\pi}^{\pi}X(\omega)e^{i\omega n}\mathrm d\omega.
x(n)=2π1∫−ππX(ω)eiωndω.
离散傅里叶变换
有了DTFT,我们可以将离散的信号转换为频域信号了。但是这又带来了问题。一方面,输入的时域信号 x ( n ) x(n) x(n)是一个无限长的序列,这仍然无法在计算机中存储。另一方面,输出的 X ( ω ) X(\omega) X(ω)仍然是一个定义域连续的函数。
第一个问题很好解决,因为实际情况下信号都是有限长的, n n n不会取全体整数 Z \Z Z而只能取某个范围(不妨记为 [ 0 , L − 1 ] [0,L-1] [0,L−1])中的整数。
第二个问题则需要动动脑子。也许我们可以考虑,在频谱的一个区间
[
0
,
ω
s
]
[0,\omega_s]
[0,ωs]中只求出等距的
N
N
N个点的值,这感觉有点像在频谱上做“采样”。既然我们已经做了频率归一化,
ω
s
\omega_s
ωs就是
2
π
2\pi
2π。那么第
k
k
k个频率是
k
⋅
2
π
N
,
k\cdot\frac{2\pi}{N},
k⋅N2π,
于是,
X
(
ω
)
X(\omega)
X(ω)就变成了
X
(
k
)
X(k)
X(k),即所谓的“第
k
k
k个频率”:
X
(
k
)
=
∑
n
=
0
L
−
1
x
(
n
)
e
−
i
n
k
2
π
N
,
k
=
0
,
1
,
2
,
⋯
,
N
−
1.
X(k)=\displaystyle\sum\limits_{n=0}^{L-1}x(n)e^{-ink\frac{2\pi}{N}},k=0,1,2,\cdots,N-1.
X(k)=n=0∑L−1x(n)e−inkN2π,k=0,1,2,⋯,N−1.
如果令
W
N
k
=
e
−
i
k
2
π
N
W_N^k=e^{-ik\frac{2\pi}{N}}
WNk=e−ikN2π,那么
X
(
k
)
=
∑
n
=
0
L
−
1
x
(
n
)
W
N
k
n
.
X(k)=\displaystyle\sum\limits_{n=0}^{L-1}x(n)W_N^{kn}.
X(k)=n=0∑L−1x(n)WNkn.
但是要注意,这个
W
N
k
W_N^k
WNk并不是真正的第
k
k
k个
N
N
N次单位根,而是其共轭,不过因为它们具有非常类似的性质,所以我们采用了这个记号。不用
ω
N
k
n
\omega_N^{kn}
ωNkn也是为了防止跟其它的表示频率的
ω
\omega
ω混淆起来。
到这里问题还没有完全解决,因为我们还不知道
N
N
N是什么。一个合理的猜想是
N
=
L
N=L
N=L,因为如果
N
>
L
N>L
N>L,我们可以在输入序列
x
x
x的末尾补上
N
−
L
N-L
N−L个
0
0
0,这不会影响结果。而如果
N
<
L
N<L
N<L,会发现
X
(
k
)
=
∑
n
=
0
N
−
1
x
(
n
)
W
N
k
n
+
∑
n
=
N
L
−
1
x
(
n
)
W
N
k
n
=
∑
n
=
0
N
−
1
x
(
n
)
W
N
k
n
+
∑
n
=
0
L
−
N
−
1
x
(
N
+
n
)
W
N
k
(
n
+
N
)
,
\begin{aligned} X(k)&=\displaystyle\sum\limits_{n=0}^{N-1}x(n)W_N^{kn}+\displaystyle\sum\limits_{n=N}^{L-1}x(n)W_N^{kn}\\ &=\displaystyle\sum\limits_{n=0}^{N-1}x(n)W_N^{kn}+\displaystyle\sum\limits_{n=0}^{L-N-1}x(N+n)W_N^{k(n+N)}, \end{aligned}
X(k)=n=0∑N−1x(n)WNkn+n=N∑L−1x(n)WNkn=n=0∑N−1x(n)WNkn+n=0∑L−N−1x(N+n)WNk(n+N),
其中
W
N
k
(
n
+
N
)
=
W
N
k
n
W_N^{k(n+N)}=W_N^{kn}
WNk(n+N)=WNkn。因此
X
(
k
)
=
∑
n
=
0
N
−
1
x
(
n
)
W
N
k
n
+
∑
n
=
0
L
−
N
−
1
x
(
N
+
n
)
W
N
k
n
.
X(k)=\displaystyle\sum\limits_{n=0}^{N-1}x(n)W_N^{kn}+\displaystyle\sum\limits_{n=0}^{L-N-1}x(N+n)W_N^{kn}.
X(k)=n=0∑N−1x(n)WNkn+n=0∑L−N−1x(N+n)WNkn.
观察发现,这相当于将输入序列中的每个元素
x
(
n
)
x(n)
x(n)都变为
x
(
n
m
o
d
N
)
x(n\bmod N)
x(nmodN),并叠加,再进行变换,这是所谓的时域混叠。因此
N
N
N必须大于等于
L
L
L,那么为了方便,取
N
=
L
N=L
N=L。于是最终我们得到了
X
(
k
)
=
∑
n
=
0
N
−
1
x
(
n
)
W
N
k
n
,
k
=
0
,
1
,
2
,
⋯
,
N
−
1.
X(k)=\displaystyle\sum\limits_{n=0}^{N-1}x(n)W_N^{kn},k=0,1,2,\cdots,N-1.
X(k)=n=0∑N−1x(n)WNkn,k=0,1,2,⋯,N−1.
这就是所谓的离散傅里叶变换(Discrete Fourier Transform),也就是我们在计算机中真正采用的傅里叶变换。
但到这里还没结束,因为我们还需要其逆变换。根据连续函数(指定义域连续)的傅里叶变换的反演公式,我们有理由猜想
x
(
k
)
=
1
N
∑
n
=
0
N
−
1
X
(
n
)
W
N
−
k
n
.
x(k)=\frac{1}{N}\displaystyle\sum\limits_{n=0}^{N-1}X(n)W_N^{-kn}.
x(k)=N1n=0∑N−1X(n)WN−kn.
现在尝试证明。注意到一件有趣的事:从
x
x
x到
X
X
X的变换,可以由这个
N
×
N
N\times N
N×N的矩阵
A
=
[
1
1
1
⋯
1
1
W
N
1
W
N
2
⋯
W
N
N
−
1
1
W
N
2
W
N
4
⋯
W
N
2
(
N
−
1
)
⋮
⋮
⋮
⋱
⋮
1
W
N
N
−
1
W
N
2
(
N
−
1
)
⋯
W
N
(
N
−
1
)
(
N
−
1
)
]
,
A=\begin{bmatrix} 1&1&1&\cdots&1\\ 1&W_N^1&W_N^2&\cdots&W_N^{N-1}\\ 1&W_N^2&W_N^4&\cdots&W_N^{2(N-1)}\\ \vdots&\vdots&\vdots&\ddots&\vdots\\ 1&W_N^{N-1}&W_N^{2(N-1)}&\cdots&W_N^{(N-1)(N-1)} \end{bmatrix},
A=⎣⎢⎢⎢⎢⎢⎢⎡111⋮11WN1WN2⋮WNN−11WN2WN4⋮WN2(N−1)⋯⋯⋯⋱⋯1WNN−1WN2(N−1)⋮WN(N−1)(N−1)⎦⎥⎥⎥⎥⎥⎥⎤,
即
A
i
j
=
W
N
i
j
A_{ij}=W_N^{ij}
Aij=WNij(下标从
0
0
0开始)表示:
X
=
A
x
.
\mathbf{X}=A\mathbf{x}.
X=Ax.
现在要求逆变换,就是要求矩阵
A
A
A的逆矩阵
B
B
B。注意到当
B
B
B满足
B
i
j
=
1
N
W
N
−
i
j
B_{ij}=\displaystyle\frac1NW_N^{-ij}
Bij=N1WN−ij时,有
∑
n
=
0
N
−
1
B
i
n
A
n
j
=
∑
n
=
0
N
−
1
1
N
W
N
−
i
n
W
N
n
j
=
1
N
∑
n
=
0
N
−
1
W
N
n
(
j
−
i
)
.
\displaystyle\sum\limits_{n=0}^{N-1}B_{in}A_{nj}=\displaystyle\sum\limits_{n=0}^{N-1}\frac{1}{N}W_N^{-in}W_N^{nj}=\frac{1}{N}\displaystyle\sum\limits_{n=0}^{N-1}W_N^{n(j-i)}.
n=0∑N−1BinAnj=n=0∑N−1N1WN−inWNnj=N1n=0∑N−1WNn(j−i).
注意,这里的
i
i
i和
j
j
j是两个
[
0
,
N
−
1
]
[0,N-1]
[0,N−1]中的整数,而不是虚数单位。上式是一个等比数列求和的形式,当
j
=
i
j=i
j=i时每一项都是
1
1
1,结果为
1
1
1。当
j
≠
i
j\neq i
j=i时,它等于
1
N
⋅
1
−
W
N
N
(
j
−
i
)
1
−
W
N
j
−
i
=
0.
\frac1N\cdot\frac{1-W_N^{N(j-i)}}{1-W_N^{j-i}}=0.
N1⋅1−WNj−i1−WNN(j−i)=0.
因此,乘积
B
A
BA
BA的第
i
i
i行第
j
j
j列的元素的确等于
[
i
=
j
]
[i=j]
[i=j],所以
B
B
B是
A
A
A的逆矩阵,则由
B
B
B确定的变换
x
(
k
)
=
1
N
∑
n
=
0
N
−
1
X
(
n
)
W
N
−
k
n
x(k)=\frac1N\displaystyle\sum\limits_{n=0}^{N-1}X(n)W_N^{-kn}
x(k)=N1n=0∑N−1X(n)WN−kn
的确是DFT的逆变换IDFT。
现在我们有了离散傅里叶变换,可以类比傅里叶变换的性质,有以下的频移特性
D
F
T
[
x
]
(
k
+
k
0
)
=
D
F
T
[
x
(
n
)
W
N
k
0
n
]
(
k
)
\mathrm{DFT}[x](k+k_0)=\mathrm{DFT}[x(n)W_N^{k_0n}](k)
DFT[x](k+k0)=DFT[x(n)WNk0n](k)
以及时移特性
D
F
T
[
x
(
n
+
n
0
)
]
=
W
N
−
k
n
0
D
F
T
[
x
]
,
\mathrm{DFT}[x(n+n_0)]=W_N^{-kn_0}\mathrm{DFT}[x],
DFT[x(n+n0)]=WN−kn0DFT[x],
注意这里的移动都是循环移动,例如
x
(
n
+
n
0
)
=
x
(
(
n
+
n
0
)
m
o
d
N
)
x(n+n_0)=x((n+n_0)\bmod N)
x(n+n0)=x((n+n0)modN)。
在离散卷积的意义下,我们自然也有对应的时域卷积定理和频域卷积定理,只是有一个地方要注意:我们的信号长度不是无穷大了。比方说考虑两个序列的DFT之积:
(
D
F
T
[
x
]
D
F
T
[
y
]
)
(
k
)
=
∑
i
=
0
N
−
1
x
(
i
)
W
N
i
k
∑
j
=
0
N
−
1
y
(
j
)
W
N
j
k
=
∑
m
=
0
2
(
N
−
2
)
W
N
m
k
∑
i
=
0
min
{
m
,
N
−
1
}
x
(
i
)
y
(
m
−
i
)
.
\begin{aligned} \left(\mathrm{DFT}[x]\mathrm{DFT}[y]\right)(k) &= \displaystyle\sum\limits_{i=0}^{N-1}x(i)W_N^{ik}\displaystyle\sum\limits_{j=0}^{N-1}y(j)W_N^{jk}\\ &= \displaystyle\sum\limits_{m=0}^{2(N-2)}W_N^{mk}\displaystyle\sum\limits_{i=0}^{\min\{m,N-1\}}x(i)y(m-i). \end{aligned}
(DFT[x]DFT[y])(k)=i=0∑N−1x(i)WNikj=0∑N−1y(j)WNjk=m=0∑2(N−2)WNmki=0∑min{m,N−1}x(i)y(m−i).
会发现,它们的乘积有
2
N
−
1
2N-1
2N−1项,但是每一个序列都只有
N
N
N项,于是当
m
>
N
−
1
m>N-1
m>N−1时,后面将不再是完整的卷积形式。但是如果只取乘积的前
N
N
N项,我们有
(
D
F
T
[
x
]
D
F
T
[
y
]
)
N
(
k
)
=
∑
m
=
0
N
−
1
(
x
∗
y
)
(
m
)
W
N
m
k
=
D
F
T
N
[
x
∗
y
]
(
k
)
.
\left(\mathrm{DFT}[x]\mathrm{DFT}[y]\right)_N(k)=\displaystyle\sum\limits_{m=0}^{N-1}(x*y)(m)W_N^{mk}=\mathrm{DFT}_N[x*y](k).
(DFT[x]DFT[y])N(k)=m=0∑N−1(x∗y)(m)WNmk=DFTN[x∗y](k).
这是时域卷积定理,类似地也有频域卷积定理。
快速傅里叶变换
朴素的计算DFT的算法显然是 O ( N 2 ) O(N^2) O(N2)的,但是我们有更快的办法。
考虑单位根的性质:对于偶数
N
N
N有
W
N
k
=
W
N
/
2
k
/
2
=
−
W
N
k
+
N
/
2
,
W_N^k=W_{N/2}^{k/2}=-W_N^{k+N/2},
WNk=WN/2k/2=−WNk+N/2,
如果
N
N
N是奇数,就在后面补一个
0
0
0即可。
我们有
X
(
k
)
=
∑
n
=
0
N
−
1
x
(
n
)
W
N
k
n
=
∑
0
⩽
2
n
+
1
⩽
N
−
1
x
(
2
n
+
1
)
W
N
2
k
n
+
k
+
∑
0
⩽
2
n
⩽
N
−
1
x
(
2
n
)
W
N
2
k
n
=
W
N
k
∑
n
=
0
N
/
2
−
1
x
(
2
n
+
1
)
W
N
/
2
k
n
+
∑
n
=
0
N
/
2
−
1
x
(
2
n
)
W
N
/
2
k
n
.
\begin{aligned} X(k)&=\displaystyle\sum\limits_{n=0}^{N-1}x(n)W_N^{kn}\\ &=\displaystyle\sum\limits_{0\leqslant 2n+1\leqslant N-1}x(2n+1)W_N^{2kn+k}+\displaystyle\sum\limits_{0\leqslant 2n\leqslant N-1}x(2n)W_N^{2kn}\\ &=W_N^k\displaystyle\sum\limits_{n=0}^{N/2-1}x(2n+1)W_{N/2}^{kn}+\displaystyle\sum\limits_{n=0}^{N/2-1}x(2n)W_{N/2}^{kn}. \end{aligned}
X(k)=n=0∑N−1x(n)WNkn=0⩽2n+1⩽N−1∑x(2n+1)WN2kn+k+0⩽2n⩽N−1∑x(2n)WN2kn=WNkn=0∑N/2−1x(2n+1)WN/2kn+n=0∑N/2−1x(2n)WN/2kn.
也就是说,将原序列
x
(
n
)
x(n)
x(n)的奇子列和偶子列分别作为两个新的序列进行DFT,再合并结果即可。合并的时间复杂度为
O
(
N
)
O(N)
O(N),因此该算法运行时间为
T
(
N
)
=
2
T
(
N
/
2
)
+
O
(
N
)
.
T(N)=2T(N/2)+O(N).
T(N)=2T(N/2)+O(N).
根据主定理(或者其它办法),易知时间复杂度为
O
(
N
log
N
)
O(N\log N)
O(NlogN)。
至于逆傅里叶变换,只要将 W N k W_N^k WNk换成 W N − k W_N^{-k} WN−k,并将结果除以 N N N即可。
短时傅里叶变换
有时候,我们可能有一段很长的信号,对它直接作傅里叶变换会得到整个信号的频谱,但这样我们就丢失了时间上的信息:我们并不知道这个频谱中的某些频率是何时出现的。为此我们可以每次截取信号的一小段作傅里叶变换,得到不同时段的傅里叶变换的结果。
分段的过程本质上是给一段信号乘上一个取值不为零的函数,这个函数称为窗函数。最简单的窗函数是矩形窗函数 w ( n ) = 1 w(n)=1 w(n)=1,它相当于直接截取了这段信号。
实际应用中需要考虑信号的特殊性,为了提高频率分辨率,可能需要更复杂的窗函数,例如汉宁窗(Hanning Window)
w
(
n
)
=
1
2
(
1
−
cos
2
π
(
n
−
1
)
N
)
,
w(n)=\frac12\left(1-\cos\frac{2\pi(n-1)}{N}\right),
w(n)=21(1−cosN2π(n−1)),
还有高斯窗、布莱克曼窗等等。
这样的变换称为短时傅里叶变换(Short Time Fourier Transform, STFT)。
简单的应用
应用主要是两块,一块是在信号处理上的应用,一块是在数学上的应用。
电话按键音识别
很久以前有这样一个新闻:一段记者采访360董事长周鸿祎的视频在网上流传开来,视频中有一串电话按键音引起了南京大学一名学生的注意。他通过这段电话按键音识别出了周鸿祎的手机号码,还因此获得了李开复创新工场的邀请。
而事实上这个电话按键音识别一点都不复杂。电话按键音是由两个频率的正弦波叠加而成的:
Frequency (Hz) | 1209 | 1336 | 1477 |
---|---|---|---|
697 | 1 | 2 | 3 |
770 | 4 | 5 | 6 |
852 | 7 | 8 | 9 |
941 | * | 0 | # |
所以只要截取一段按键音频信号,用FT变换到频域,答案就十分显然了。
频分复用
可以在一条音频线路上同时传输多个音频信号。具体的方法是:将这些信号变换到频域,平移到互不干扰的位置进行叠加,再变换回时域进行传输。例如在采样率为44100Hz的线路上,可以同时传输三个采样率为14000Hz的信号。
多项式乘法
考虑两个多项式
A
(
x
)
=
∑
k
=
0
n
−
1
a
k
x
k
,
B
(
x
)
=
∑
k
=
0
n
−
1
b
k
x
k
A(x)=\displaystyle\sum\limits_{k=0}^{n-1}a_kx^k,B(x)=\displaystyle\sum\limits_{k=0}^{n-1}b_kx^k
A(x)=k=0∑n−1akxk,B(x)=k=0∑n−1bkxk,我们希望求出它们的乘积
A
(
x
)
B
(
x
)
=
∑
k
=
0
2
n
−
2
c
k
x
k
,
A(x)B(x)=\displaystyle\sum\limits_{k=0}^{2n-2}c_kx^k,
A(x)B(x)=k=0∑2n−2ckxk,
其中
c
k
=
∑
i
+
j
=
k
a
i
b
j
.
c_k=\displaystyle\sum\limits_{i+j=k}a_ib_j.
ck=i+j=k∑aibj.
朴素的算法时间复杂度当然是
O
(
n
2
)
O(n^2)
O(n2)。为了寻求更快的速度,我们首先要改变多项式的表示方式。原来我们用序列
a
k
,
k
=
0
,
1
,
⋯
,
n
−
1
a_k,k=0,1,\cdots,n-1
ak,k=0,1,⋯,n−1表示一个多项式的各项系数,从而确定一个多项式。但是依拉格朗日插值法,任意
n
n
n个横坐标不同的点都能唯一确定一个次数不超过
n
−
1
n-1
n−1的多项式,于是我们也可以用这样的点-值对
(
x
0
,
A
(
x
0
)
)
,
(
x
1
,
A
(
x
1
)
)
,
⋯
,
(
x
n
−
1
,
A
(
x
n
−
1
)
)
\left(x_0,A(x_0)\right),\left(x_1,A(x_1)\right),\cdots,\left(x_{n-1},A(x_{n-1})\right)
(x0,A(x0)),(x1,A(x1)),⋯,(xn−1,A(xn−1))
来表示一个多项式,这样的表示方法称为点值表示法。
如果我们还能求出
B
(
x
)
B(x)
B(x)在
x
0
,
x
1
,
⋯
,
x
n
−
1
x_0,x_1,\cdots,x_{n-1}
x0,x1,⋯,xn−1处的值,也就是把
B
(
x
)
B(x)
B(x)也表示为
(
x
0
,
B
(
x
0
)
)
,
(
x
1
,
B
(
x
1
)
)
,
⋯
,
(
x
n
−
1
,
B
(
x
n
−
1
)
)
,
\left(x_0,B(x_0)\right),\left(x_1,B(x_1)\right),\cdots,\left(x_{n-1},B(x_{n-1})\right),
(x0,B(x0)),(x1,B(x1)),⋯,(xn−1,B(xn−1)),
那么,计算
A
(
x
)
A(x)
A(x)和
B
(
x
)
B(x)
B(x)的乘积的点值表示是
O
(
n
)
O(n)
O(n)的,只要将每一个
A
(
x
k
)
B
(
x
k
)
A(x_k)B(x_k)
A(xk)B(xk)乘起来即可。注意,由于乘积多项式的次数是
2
n
−
2
2n-2
2n−2,需要
2
n
−
1
2n-1
2n−1个点值对,因此我们也得求出
A
(
x
)
A(x)
A(x)和
B
(
x
)
B(x)
B(x)的
2
n
−
1
2n-1
2n−1个点值对。
所以我们的步骤是:先求出 A ( x ) A(x) A(x)和 B ( x ) B(x) B(x)的点值表示,相乘,再变回系数表示。但是如何快速求出点值表示呢?
回顾DFT:
X
(
k
)
=
∑
n
=
0
N
−
1
x
(
n
)
W
N
n
k
,
X(k)=\displaystyle\sum\limits_{n=0}^{N-1}x(n)W_N^{nk},
X(k)=n=0∑N−1x(n)WNnk,
不难发现,它实际上就是在求多项式
P
(
z
)
=
∑
n
=
0
N
−
1
x
(
n
)
z
n
P(z)=\displaystyle\sum\limits_{n=0}^{N-1}x(n)z^n
P(z)=n=0∑N−1x(n)zn在
z
=
W
N
0
,
W
N
1
,
⋯
,
W
N
N
−
1
z=W_N^0,W_N^1,\cdots,W_N^{N-1}
z=WN0,WN1,⋯,WNN−1处的
N
N
N个值,也就是说对序列进行DFT就可以得到其点值表示。于是利用快速傅里叶变换算法,我们可以在
O
(
n
log
n
)
O(n\log n)
O(nlogn)的时间内求出点值表示,用
O
(
n
)
O(n)
O(n)的时间计算乘积,再用
O
(
n
log
n
)
O(n\log n)
O(nlogn)的时间将乘积的点值表示变换为系数表示,于是总时间复杂度
O
(
n
log
n
)
O(n\log n)
O(nlogn)。
事实上多项式乘法本质上是在求卷积,根据时域卷积定理,我们可以对其做DFT变换到频域,在频域上做乘积,再变换回时域,这和我们刚才的推导是一致的。
范德蒙德矩阵求逆
刚才在计算IDFT时我们用到了这样一个矩阵
A
=
[
1
1
1
⋯
1
1
W
N
1
W
N
2
⋯
W
N
N
−
1
1
W
N
2
W
N
4
⋯
W
N
2
(
N
−
1
)
⋮
⋮
⋮
⋱
⋮
1
W
N
N
−
1
W
N
2
(
N
−
1
)
⋯
W
N
(
N
−
1
)
(
N
−
1
)
]
.
A=\begin{bmatrix} 1&1&1&\cdots&1\\ 1&W_N^1&W_N^2&\cdots&W_N^{N-1}\\ 1&W_N^2&W_N^4&\cdots&W_N^{2(N-1)}\\ \vdots&\vdots&\vdots&\ddots&\vdots\\ 1&W_N^{N-1}&W_N^{2(N-1)}&\cdots&W_N^{(N-1)(N-1)} \end{bmatrix}.
A=⎣⎢⎢⎢⎢⎢⎢⎡111⋮11WN1WN2⋮WNN−11WN2WN4⋮WN2(N−1)⋯⋯⋯⋱⋯1WNN−1WN2(N−1)⋮WN(N−1)(N−1)⎦⎥⎥⎥⎥⎥⎥⎤.
这是一个范德蒙德矩阵。一般地,设有一列数
α
1
,
α
2
,
⋯
,
α
m
\alpha_1,\alpha_2,\cdots,\alpha_m
α1,α2,⋯,αm,矩阵
[
1
α
1
α
1
2
⋯
α
1
n
−
1
1
α
2
α
2
2
⋯
α
2
n
−
1
⋮
⋮
⋮
⋱
⋮
1
α
m
α
m
2
⋯
α
m
n
−
1
]
\begin{bmatrix} 1&\alpha_1&\alpha_1^2&\cdots&\alpha_1^{n-1}\\ 1&\alpha_2&\alpha_2^2&\cdots&\alpha_2^{n-1}\\ \vdots&\vdots&\vdots&\ddots&\vdots\\ 1&\alpha_m&\alpha_m^2&\cdots&\alpha_m^{n-1} \end{bmatrix}
⎣⎢⎢⎢⎡11⋮1α1α2⋮αmα12α22⋮αm2⋯⋯⋱⋯α1n−1α2n−1⋮αmn−1⎦⎥⎥⎥⎤
(或其转置)是一个范德蒙德矩阵。当
m
=
n
m=n
m=n时这是一个方阵,具有行列式
∏
1
⩽
j
<
i
⩽
n
(
α
i
−
α
j
)
.
\prod\limits_{1\leqslant j<i\leqslant n}(\alpha_i-\alpha_j).
1⩽j<i⩽n∏(αi−αj).
对这样一个矩阵求逆,本质上是一个多项式插值/多点求值问题,具体可以参考gzy神仙的博客。
参考资料:
程艺, 陈卿, 李平《数学分析讲义》第一册、第二册
NOI WC2018 《傅里叶变换及其在OI中的应用》by 王逸松
傅里叶变换 - Mathworks 中国(MATLAB官方文档)
胡广书《数字信号处理——理论、算法与实现》第三版
Alan V. Oppenheim, Ronald W. Schafer 《离散时间信号处理》第三版
上海科技大学《信息科学与技术导论》课程课件 by 娄鑫