FFT学习笔记

概述

多项式乘法是一种很常见的运算。朴素算法的时间复杂度为$O(n^2)$，Karatsuba 乘法的时间复杂度为$O(n^{{\log }_{2}3})$但是常数爆炸。下面介绍的快速傅里叶变换（FFT）可以在$O(n\log n)$的时间内计算两个多项式的乘法。
注：以下多项式均为一元多项式

前置技能

复数

记$i^2=-1$，$i$为虚数单位。
形如$a+bi(a,b\in \mathbb{R})$的数称为复数，其中$a$称为实部，$b$称为虚部。$\sqrt{a^2+b^2}$称为$z$的模长，记作$|z|$。

复平面

建立平面直角坐标系$xOy$，对于复数$z=a+bi$，点$Z(a,b)$为其在坐标系内对应的点，$\overrightarrow{OZ}=(a,b)$为其对应的向量。
显然一定存在$\theta$，使$z=\cos \theta +i\sin \theta$。$\theta$称为$z$的辐角，记作$Arg(z)$，当$\theta \in (-\pi ,\pi )$时，$\theta$称为$z$的辐角主值，记作$arg(z)$。

复数加法

对于$z_1=a_1+b_{1}i,z_2=a_2+b_{2}i$，有$z_1+z_2=(a_1+a_2)+(b_1+b_2)i$。
即在复平面内对应的向量相加。

复数减法

对于$z_1=a_1+b_{1}i,z_2=a_2+b_{2}i$，有$z_1-z_2=(a_1-a_2)+(b_1-b_2)i$。
即在复平面内对应的向量相减。

复数乘法

对于$z_1=a_1+b_{1}i,z_2=a_2+b_{2}i$，有$z_1{z}_2=(a_1{a}_2-b_1{b}_2)+(a_1{b}_2+a_2{b}_2)i$。
可以证明，复数乘法的几何意义为模长相乘，辐角相加，如下图所示。

单位根

方程$z^n=1$的复数根称为$n$次单位根。
$n$次单位根有$n$个，$\cos \frac{2k\pi }{n}+i\sin \frac{2k\pi }{n}(0\le k\le n-1,k\in \mathbb{Z})$。
记${\omega }_n=\cos \frac{2\pi }{n}+i\sin \frac{2\pi }{n}$，则$n$次单位根就是${\omega }_n^0,{\omega }_n^1,{\omega }_n^2,\cdots ,{\omega }_n^{n-1}$。
证明：
显然有$|{\omega }_n^k|=\sqrt{{\cos }^2\frac{2k\pi }{n}+{\sin }^2\frac{2k\pi }{n}}=1$。考虑复数乘法的几何意义，${({\omega }_n^k)}^n$的模长为$1$，辐角为$\frac{2k\pi }{n}\cdot n=2k\pi$，故${({\omega }_n^k)}^n=\cos 2k\pi +i\sin 2k\pi =1$。

单位根的性质

1. ${\omega }_n^k={\omega }_{dn}^{dk}$
2. ${\omega }_n^k=-{\omega }_n^{k+\frac{n}{2}}$
3. ${\omega }_n^0={\omega }_n^n=1$

证明:
还是考虑复数乘法的几何意义。

1. ${\omega }_n^k$与${\omega }_{dn}^{dk}$在复平面内对应的向量相等，且模长都为$1$，故${\omega }_n^k={\omega }_{dn}^{dk}$。
2. ${\omega }_n^k$与${\omega }_n^{k+\frac{n}{2}}$在复平面内对应的向量关于坐标原点对称，故${\omega }_n^k=-{\omega }_n^{k+\frac{n}{2}}$。
3. 显然成立。

复数的代码实现

struct Complex {
  double a, b;
  Complex() { a = b = 0; }
  Complex(double a, double b) : a(a), b(b) {}
};

Complex operator+(Complex x, Complex y) { return Complex(x.a + y.a, x.b + y.b); }
Complex operator-(Complex x, Complex y) { return Complex(x.a - y.a, x.b - y.b); }
Complex operator*(Complex x, Complex y) { return Complex(x.a*y.a - x.b*y.b, x.a*y.b + x.b*y.a); }

多项式的系数表示法与点值表示法

系数表示法

通常，形如$A(x)=a_0+a_{1}x+a_2{x}^2+\cdots +a_n{x}^n$叫做多项式的点值表示法，即最常见的表示法。该多项式的次数为$n$，通常记作$degA=n$。

点值表示法

如果选取$n+1$个数带入多项式进行求值，得到$A(x_0),A(x_1),\cdots ,A(x_n)$，则称 A ( x ) = { ( x i , A ( x i ) ) ∣ 0 ≤ i ≤ n , i ∈ Z } A(x)=\{(x_i,A(x_i))|0 \leq i \leq n ,i \in \mathbb{Z}\} A(x)={(xi​,A(xi​))∣0≤i≤n,i∈Z}为多项式$A(x)$的点值表示法。
点值表示法的优越性在于可以在$O(n)$的时间内计算多项式乘法。
例如：计算$A(x)=a_0+a_{1}x+a_2{x}^2+\cdots +a_n{x}^n$与$B(x)=b_0+b_{1}x+b_2{x}^2+\cdots +b_n{x}^n$的乘积$C(x)$。
在系数表示法中，$C(x)=A(x)B(x)=\sum _{i=0}^{2n}{c}_i{x}^i$，其中$c_i=\sum _{j=0}^i{a}_j{b}_{i-j}$。不难看出，总计算次数为$O(n^2)$。
而在系数表示法中， C ( x ) = { ( x i , A ( x i ) B ( x i ) ) ∣ 0 ≤ i ≤ n , i ∈ Z } C(x)=\{(x_i,A(x_i)B(x_i))|0 \leq i \leq n ,i \in \mathbb{Z}\} C(x)={(xi​,A(xi​)B(xi​))∣0≤i≤n,i∈Z}，总计算次数为$O(n)$。

快速傅里叶变换

前面已经提到过，点值表示法可以在$O(n)$的时间内计算两个多项式的乘积，所以时间复杂度的瓶颈在于点值表示法与系数表示法直接的转化，即多项式的求值与插值。快速傅里叶变换可以在$O(n\log n)$的时间完成求值与插值操作。

求值

现在的问题是，如何选取代入的$n$个点，才能实现快速求值。
考虑到单位根的性质，将$n$次单位根的$n$个值代入多项式，可以简化计算。
设$n-1$次多项式$A(x)=a_0+a_{1}x+a_2{x}^2+\cdots a_{n-1}{x}^{n-1}$。$n=2^m(m\in \mathbb{Z})$，如果不满足则将$n$补成$2^m$的形式。
将$A(x)$按照$x$次数的奇偶性分类。
设$A_0(x)=a_0+a_{2}x+a_4{x}^2+\cdots +a_{n-2}{x}^{\frac{n}{2}-1}$
，$A_1(x)=a_1+a_{3}x+a_5{x}^2+\cdots +a_{n-1}{x}^{\frac{n}{2}-1}$。
可以看出$A(x)=A_0(x^2)+x{A}_1(x^2)$。
现在，将${\omega }_n^k(k<\frac{n}{2})$代入，得
$A({\omega }_n^k)=A_0({\omega }_n^{2k})+{\omega }_n^k{A}_1({\omega }_n^{2k})$
$=A_0({\omega }_{\frac{n}{2}}^k)+{\omega }_n^k{A}_1({\omega }_{\frac{n}{2}}^k)$
同理，将${\omega }_n^{k+\frac{n}{2}}$代入，得
$A({\omega }_n^{k+\frac{n}{2}})=A_0({\omega }_n^{2k+n})+{\omega }_n^{k+\frac{n}{2}}{A}_1({\omega }_n^{2k+n})$
$=A_0({\omega }_{\frac{n}{2}}^{k+\frac{n}{2}})-{\omega }_n^k{A}_1({\omega }_{\frac{n}{2}}^{k+\frac{n}{2}})$
$=A_0({\omega }_{\frac{n}{2}}^k)-{\omega }_n^k{A}_1({\omega }_{\frac{n}{2}}^k)$

可以发现两个式子化简后的结果只有符号的区别，且可以划分为两个子问题解决，于是可以考虑分治（代码暂时不贴）。时间复杂度为$O(n\log n)$

插值

现在要把点值表达式还原成系数表达式。若使用拉格朗日插值，时间复杂度为$O(n^2)$，需要优化。
考虑这是一个解方程的问题。
$\{\begin{array}{llccc}{a}_0{({\omega }_n^0)}^0+& a_1{({\omega }_n^0)}^1+& \cdots & +a_{n-1}{({\omega }_n^0)}^{n-1}& =A({\omega }_n^0)\\ a_0{({\omega }_n^1)}^0+& a_1{({\omega }_n^1)}^1+& \cdots & +a_{n-1}{({\omega }_n^1)}^{n-1}& =A({\omega }_n^1)\\ ⋮& ⋮& ⋮& ⋮& \\ a_0{({\omega }_n^{n-1})}^0+& a_1{({\omega }_n^{n-1})}^1+& \cdots & +a_{n-1}{({\omega }_n^{n-1})}^{n-1}& =A({\omega }_n^{n-1})\end{array}$
写成矩阵的形式
$\left[\begin{array}{cccc}{({\omega }_n^0)}^0& {({\omega }_n^0)}^1& \cdots & {({\omega }_n^0)}^{n-1}\\ {({\omega }_n^1)}^0& {({\omega }_n^1)}^1& \cdots & {({\omega }_n^1)}^{n-1}\\ ⋮& ⋮& \ddots & ⋮\\ {({\omega }_n^{n-1})}^0& {({\omega }_n^{n-1})}^1& \cdots & {({\omega }_n^{n-1})}^{n-1}\end{array}\right]\left[\begin{array}{c}{a}_0\\ a_1\\ ⋮\\ a_{n-1}\end{array}\right]=\left[\begin{array}{c}A({\omega }_n^0)\\ A({\omega }_n^1)\\ ⋮\\ A({\omega }_n^{n-1})\end{array}\right]$
现在可以使用高斯消元，时间复杂度为$O(n^3)$，完美的负优化。。。
尝试去直接构造结果，设系数矩阵为$V$，考虑这样一个矩阵
$D=\left[\begin{array}{cccc}{({\omega }_n^{-0})}^0& {({\omega }_n^{-0})}^1& \cdots & {({\omega }_n^{-0})}^{n-1}\\ {({\omega }_n^{-1})}^0& {({\omega }_n^{-1})}^1& \cdots & {({\omega }_n^{-1})}^{n-1}\\ ⋮& ⋮& \ddots & ⋮\\ {({\omega }_n^{-(n-1)})}^0& {({\omega }_n^{-(n-1)})}^1& \cdots & {({\omega }_n^{-(n-1)})}^{n-1}\end{array}\right]$
设$E=DV$，则$e_{ij}=\sum _{k=0}^{n-1}{d}_{ik}{v}_{kj}=\sum _{k=0}^{n-1}{\omega }_n^{-ik}{\omega }_n^{kj}=\sum _{k=0}^{n-1}{\omega }_n^{k(j-i)}$
当$j=i$时，$e_{ij}=n$；
当$j̸=i$时，$e_{ij}=\sum _{k=0}^{n-1}{\omega }_n^{k(j-i)}=\frac{1-{({\omega }_n^{j-i})}^n}{1-{\omega }_n^{j-i}}=0$。
故$I_n=\frac{1}{n}E$，所以$\frac{1}{n}D=V^{-1}$。
此时可以得到
$\left[\begin{array}{c}{a}_0\\ a_1\\ ⋮\\ a_{n-1}\end{array}\right]=\frac{1}{n}\left[\begin{array}{cccc}{({\omega }_n^{-0})}^0& {({\omega }_n^{-0})}^1& \cdots & {({\omega }_n^{-0})}^{n-1}\\ {({\omega }_n^{-1})}^0& {({\omega }_n^{-1})}^1& \cdots & {({\omega }_n^{-1})}^{n-1}\\ ⋮& ⋮& \ddots & ⋮\\ {({\omega }_n^{-(n-1)})}^0& {({\omega }_n^{-(n-1)})}^1& \cdots & {({\omega }_n^{-(n-1)})}^{n-1}\end{array}\right]\left[\begin{array}{c}A({\omega }_n^0)\\ A({\omega }_n^1)\\ ⋮\\ A({\omega }_n^{n-1})\end{array}\right]$
所以，插值等价于将单位根的倒数代入求值的结果除以$n$。
这样，求值和插值都可以在$O(n\log n)$的时间内完成了。