求线性预测器的最佳预测系数

求线性预测器的最佳预测系数

我们要在最小$E[d^2]$的条件下，确定一组最佳预测系数（不考虑量化误差）。
$$E[d^2]=E\left[(S_k-S_e(k){)}^2\right]=E\left[{\left(S_k-\sum _{i=1}^N{a}_{i}S(k-i)\right)}^2\right]\text{\hspace{1em}(1)}$$
而要求的最佳预测系数$a_i$满足：
$$\frac{\partial E[d^2]}{\partial a_i}=0,i=1,2,\cdots ,N\text{\hspace{1em}(2)}$$

对$i=1,2,\cdots ,N$，代入$(1)$式得：
$$\begin{array}{rl}\frac{\partial E\left[{\left(S_k-{\sum }_{j=1}^N{a}_j{S}_{k-j}\right)}^2\right]}{\partial a_i}& =E\left[\frac{\partial {\left(S_k-{\sum }_{j=1}^N{a}_j{S}_{k-j}\right)}^2}{\partial a_i}\right]\\ & =E\left[2\left(S_k-\sum _{j=1}^N{a}_j{S}_{k-j}\right)\left(-S_{k-i}\right)\right]\\ & =E\left[-2S_k{S}_{k-i}+2\sum _{j=1}^N{a}_j{S}_{k-j}{S}_{k-i}\right]=0\end{array}\text{\hspace{1em}(3)}$$

故
$$\begin{array}{rl}E\left[S_k{S}_{k-i}\right]& =E\left[\sum _{j=1}^N{a}_j{S}_{k-j}{S}_{k-i}\right]\\ R(i)& =\sum _{j=1}^N{a}_{j}R\left(i-j\right)\end{array}\text{\hspace{1em}(4)}$$
其中$R(k)=E\left[x_n{x}_{n+k}\right]=R(-k)$为自相关函数。

对$i=1,2,\cdots ,N$，将$(4)$式展开：
$$\begin{array}{rl}R(1)& =a_{1}R(0)+a_{2}R(1)+\cdots +a_{N}R(N-1)\\ R(2)& =a_{1}R(1)+a_{2}R(2)+\cdots +a_{N}R(N-2)\\ ⋮& \\ R(N)& =a_{1}R(N-1)+a_{2}R(N-2)+\cdots +a_{N}R(0)\end{array}\text{\hspace{1em}(5)}$$
写为矩阵形式即为
$$\mathbf{R}\mathbf{A}=\mathbf{P}\text{\hspace{1em}(6)}$$
其中
$$\begin{array}{rl}\mathbf{R}& =\left[\begin{array}{cccc}R(0)& R(1)& \cdots & R(N-1)\\ R(1)& R(2)& \cdots & R(N-2)\\ ⋮& ⋮& \ddots & ⋮\\ R(N-1)& R(N-2)& \cdots & R(0)\end{array}\right]\\ \mathbf{A}& =\left[\begin{array}{c}{a}_1\\ a_2\\ ⋮\\ a_N\end{array}\right]\\ \mathbf{P}& =\left[\begin{array}{c}R(1)\\ R(2)\\ ⋮\\ R(N)\end{array}\right]\end{array}$$
故最佳系数预测向量
$$\mathbf{A}={\mathbf{R}}^{-1}\mathbf{P}\text{\hspace{1em}(7)}$$