本系列主要介绍傅里叶变换和离散傅里叶变换的概念及理解,文本为该系列第三篇
离散傅里叶变换
离散傅里叶变换做的是一件什么事呢,是对一段有限长的离散信号,找出它含有的各个频率的正弦波分量。
接着上一篇的取样,如果取样后函数为 f ~ ( t ) \widetilde{f}(t) f (t),其傅里叶变换为 F ~ ( μ ) \widetilde{F}(\mu) F (μ),上一篇说到 F ~ ( μ ) \widetilde{F}(\mu) F (μ)和原函数的傅里叶变换 F ( μ ) F(\mu) F(μ)之间的关系,下面我们从另一个角度来看 F ~ ( μ ) \widetilde{F}(\mu) F (μ)
F ~ ( μ ) = ∫ − ∞ ∞ f ~ ( t ) e − j 2 π μ t d t = ∫ − ∞ ∞ Σ n = − ∞ ∞ f ( t ) δ ( t − n Δ T ) e − j 2 π μ t d t = Σ n = − ∞ ∞ ∫ − ∞ ∞ f ( t ) δ ( t − n Δ T ) e − j 2 π μ t d t = Σ n = − ∞ ∞ f n e − j 2 π μ n Δ T \widetilde{F}(\mu)=\int_{-\infty}^{\infty}\widetilde f(t)e^{-j2\pi \mu t}dt=\int_{-\infty}^{\infty}\Sigma_{n=-\infty}^{\infty} f(t)\delta(t-n\Delta T)e^{-j2\pi \mu t}dt=\Sigma_{n=-\infty}^{\infty}\int_{-\infty}^{\infty} f(t)\delta(t-n\Delta T)e^{-j2\pi \mu t}dt=\Sigma_{n=-\infty}^{\infty}f_ne^{-j2\pi \mu n\Delta T} F (μ)=∫−∞∞f (t)e−j2πμtdt=∫−∞∞Σn=−∞∞f(t)δ(t−nΔT)e−j2πμtdt=Σn=−∞∞∫−∞∞f(t)δ(t−nΔT)e−j2πμtdt=Σn=−∞∞fne−j2πμnΔT
其中 ∫ − ∞ ∞ f ( t ) δ ( t − n Δ T ) d t = f n = f ( n Δ T ) \int_{-\infty}^{\infty} f(t)\delta(t-n\Delta T)dt=f_n=f(n\Delta T) ∫−∞∞f(t)δ(t−nΔT)dt=fn=f(nΔT)
正如上一篇所说, F ~ ( μ ) \widetilde{F}(\mu) F (μ)为周期函数,我们通过对一个周期进行采样来描述 F ~ ( μ ) \widetilde{F}(\mu) F (μ)的一个周期,相当于 F ( μ ) F(\mu) F(μ)。假设我们在 μ = 0 \mu=0 μ=0到 μ = 1 / Δ T \mu=1/\Delta T μ=1/ΔT之间得到M个等间距的样本,即依次在 μ = m M Δ T , m = 0 , 1 , 2 , … , M − 1 \mu=\frac{m}{M\Delta T},m=0,1,2,\dots,M-1 μ=MΔTm,m=0,1,2,…,M−1处采样,得到 F ( m ) = Σ n = 0 M − 1 f n e − j 2 π m n / M F(m)=\Sigma_{n=0}^{M-1}f_ne^{-j2\pi mn/M} F(m)=Σn=0M−1fne−j2πmn/M,同时离散傅里叶反变换为 f n = 1 M Σ m = 0 M − 1 F m e j 2 π m n / M f_n = \frac{1}{M}\Sigma_{m=0}^{M-1}F_me^{j2\pi mn/M} fn=M1Σm=0M−1Fmej2πmn/M
所以其实可以发现,DFT所做的只是选取了在给定长度 M M M内振动了整数个周期的正弦和余弦波作为基,每个正弦余弦波的周期为 2 π 2 π m / M = M m \frac{2\pi}{2\pi m/M}=\frac{M}{m} 2πm/M2π=mM,即在给定长度 M M M内,振动了 m m m个周期。
上面的 F ( m ) F(m) F(m)也可以理解成在所有采样点处得到的 [ f 0 , f 1 , … , f M − 1 ] [f_0, f_1, \dots, f_{M-1}] [f0,f1,…,fM−1]与频率为 2 π m / M 2\pi m/M 2πm/M的基的内积或者相关性。
傅里叶变换与深度学习之间的关系
(1)深度学习在学习的时候是先去学目标函数的低频成分,再逐渐去学目标函数的高频成分
(2)early stopping:如果目标函数在频率空间低频占优,在学好低频的规律之后,可以及时防止去学高频的噪声成分,防止测试误差的上升,泛化性能的下降
参考资料:
《数字图像处理》第三版
上交课程《统计计算与机器学习》
https://www.zhihu.com/question/21314374