第一章 离散随机信号 笔记

第一章 离散随机信号

1.1 引言

定义 ：设已给概率空间 $(\Omega ,\zeta ,P)$ ,$Z$ 为整数集，若对每一整数 $n(n\in Z)$ ，均有定义在 $(\Omega ,\zeta ,P)$ 上的一个随机变量 $x(n,\xi )(\xi \in \Omega )$ 与之对应，则称依赖与参数 $n$ 的一列随机变量 $x(n,\xi )$ 为一离散时间随机过程或随机序列，记为 { x ( n , ξ ) , ξ ∈ Ω , n ∈ Z } \{x(n,\xi),\xi \in\Omega,n\in Z\} {x(n,ξ),ξ∈Ω,n∈Z} ，简记为 { x n } \{x_n\} {xn​} 。

随机序列有一下特点：

（1）随机序列中的任何一个点上的取值都是不能先验确定的随机变量。

（2）随机序列可以用它的统计平均特性来表征。随机序列在个时间点上的随机变量取值是服从某种确定的概率分布。

（3）平稳随机信号的能量化表示。一随机信号的能量谱称为功率谱密度。一个平稳随机信号的功率谱是确定的，因此功率谱可以统计表征一个随机过程的谱特性。

综上所述，对于离散随机信号的概念和表征问题，有：

（1）一个随机信号在各个时间点上的取值以及不同点上取值之间的相互关联性只能用概率特性或统计平均特性来表征，它的确定值是无法先验表达的。

（2）一个平稳随机信号在各频率点上的能量的取值可以用功率谱，密度函数与自相关函数统计描述。

1.2 离散时间随机信号的时域（统计）表示

一般情况下，我们大多只对离散随机信号的一维概率分布和二维概率分布等有限维度概率分布进行研究。

1.2.1 离散时间随机过程的概率分布

（宽）平稳随机过程：若一个随机过程的数学期望及方差与时间无关，相关函数仅与时间间隔有关，则称这个随机过程为广义平稳随机过程。

（宽）平稳随机过程的三个特征：

（1） $E(x_n)=C_{\xi }$ 均值是一个常数（随机变量）。

（2） $E[x(n)x^{\ast }(n-m)]=R(m)$ 自相关函数只与两点的差有关。

（3） $E[x^2(n)]<+\infty$ 均方值有界。

严平稳随机过程：所谓随机过程严格平稳，是指它的任何n维分布函数或概率密度函数与时间起点无关。

严平稳随机过程特点：其数学期望、方差与时间无关，自相关函数仅与时间间隔有关。

• （宽）平稳随机过程 和 严平稳随机过程 的区别和联系

（1）一个宽平稳过程不一定是严平稳过程，一个严平稳过程也不一定宽平稳过程。

（2）宽平稳过程定只涉及与一维、二维分布有关的数字特征，所以一个严平稳过程只要二阶矩存在，则必定是宽平稳过程。但反过来，一般是不成立的。

（3）正态过程是一个重要特例，一个宽平稳的正态过程必定是严平稳的。

各态历经随机过程：如果一个平稳随机过程，只要满足一些较宽的条件，则一个样本函数在整个时间轴上的平均值可以用来代替其集平均（统计平均值和自相关函数等），这就是各态历经随机过程。

一般来说，在一个随机过程中，不同样本函数的时间平均值是不一定相同的，而集平均则是一定的。因此，一般的随机过程的时间平均≠集平均，只有平稳随机过程才有可能是具有各态历经性的。即各态历经的随机过程一定是平稳的，而平稳的随机过程则需要满足一定条件才是各态历经的。

1.2.2 离散时间随机过程的数字特征

1. 数学期望（均值） 在n点上的

随机变量 $x(n)$ 的均值（用 $m_x(n)$ 表示）定义为
$$m_x(n)=E[x(n)]\triangleq {\int }_{-\infty }^{\infty }x{p}_1(x)dx$$

2. 均方值（功率）

随机变量 $x(n)$ 的均方值定义为 $|x(n){|}^2$ 的期望
$$E[|x(n){|}^2]\triangleq {\int }_{-\infty }^{\infty }|x{|}^2{p}_1(x)dx$$

3. 方差

随机变量 $x(n)$ 的方差（用 ${\sigma }_x^2(n)$ 表示）定义为 $[x(n)-E(x(n))]$ 的均方值
σ x 2 ( n ) ≜ E { ∣ x ( n ) − E ( x ( n ) ) ∣ 2 } ≜ E { ∣ x ( n ) − m x ( n ) ∣ 2 } \sigma_x^2(n)\triangleq E\{|x(n)-E(x(n))|^2\}\triangleq E\{|x(n)-m_x(n)|^2\} σx2​(n)≜E{∣x(n)−E(x(n))∣2}≜E{∣x(n)−mx​(n)∣2}

通过以上公式可以推导出：

平均功率 = 交流功率 + 直流功率
$$\begin{array}{c}{\sigma }_x^2(n)=E[|x(n){|}^2]-|m_x^2(n)|\\ E[|x(n){|}^2]={\sigma }_x^2(n)+|m_x^2(n)|\end{array}\}$$

以上三个特征量仅与一维概率密度 $p_1(x)$ 有关。对于平稳随机过程，其一维概率密度与时间无关，故一个平稳随机序列的 $m_x(n)、E(|x(n){|}^2)、{\sigma }_x^2(n)$ 均是与时间无关的常数，可以将变量 $n$ 去掉。

与二维概率分布有关的统计特性主要有自相关函数和自协方差函数。

4. 自相关函数

一个平稳随机过程的自相关函数用 ${\varphi }_{xx}(m)$ 表示
$$\begin{gathered} {\varphi }_{xx}(m)\triangleq E[x(n_1)x^{\ast }(n_2)]=E[x(n)x^{\ast }(n-m)] \\ ={\int }_{-\infty }^{\infty }{\int }_{-\infty }^{\infty }{x}_1{x}_2^{\ast }{p}_2(x_1,x_2;m)d{x}_{1}d{x}_2 \end{gathered}$$

5. 自协方差函数

一个平稳随机序列的协方差函数用 ${\gamma }_{xx}(m)$ 表示
$${\gamma }_{xx}(m)\triangleq E[(x(n)-m_x)(x(n+m)-m_x{)}^{\ast }]$$

自相关函数 与 自协方差函数 的关系

$${\gamma }_{xx}(m)={\varphi }_{xx}(m)-|m_x{|}^2$$

1.2.3 离散时间平稳过程相关序列与协方差性质

两个实的、平稳相关的平稳随机序列 { x ( n ) } \{x(n)\} {x(n)} 和 { y ( n ) } \{y(n)\} {y(n)} 的 { x ( n ) } \{x(n)\} {x(n)} 的自相关、自协方差及两个序列的互相关和互协方差序列定义为
$$\begin{gathered} {\varphi }_{xx}(m)=E[x(n)x(n-m)] \\ {\gamma }_{xx}(m)=E[(x(n)-m_x)(x(n-m)-m_x)] \end{gathered}$$

$$\begin{gathered} {\varphi }_{xy}(m)=E[x(n)y(n-m)] \\ {\gamma }_{xy}(m)=E[(x(n)-m_x)yx(n-m)-m_y)] \end{gathered}$$

性质 1
$$\begin{gathered} {\gamma }_{xx}(m)={\varphi }_{xx}(m)-m_x^2 \\ {\gamma }_{xy}(m)={\varphi }_{xy}(m)-m_x{m}_y \end{gathered}$$
性质 2
$$\begin{gathered} {\varphi }_{xx}(0)=E[x^2(n)]均方值 \\ {\gamma }_{xx}(0)={\varphi }_{xx}(0)-m_x^2方差 \end{gathered}$$
性质 3 ${\varphi }_{xx}(m)$ 和 ${\gamma }_{xx}(m)$ 都是偶函数
$$\begin{gathered} {\varphi }_{xx}(m)={\varphi }_{xx}(-m) \\ {\gamma }_{xx}(m)={\gamma }_{xx}(-m) \end{gathered}$$
性质 4
$$\begin{gathered} {\varphi }_{xy}(m)={\varphi }_{yx}(-m) \\ {\gamma }_{xy}(m)={\gamma }_{yx}(-m) \end{gathered}$$
性质 5
$$\begin{gathered} |{\varphi }_{xx}(m)|\le {\varphi }_{xx}(0) \\ |{\gamma }_{xx}(m)|\le {\gamma }_{xx}(0) \end{gathered}$$
性质 6 如果 $y(n)=x(n-m)$ ，则
$$\begin{gathered} {\varphi }_{yy}(m)={\varphi }_{xx}(m) \\ {\gamma }_{yy}(m)={\gamma }_{xx}(m) \end{gathered}$$
性质 7 对于大多随机序列，$m$ 愈大则相关性愈小，当 $m$ 趋近无穷大时，可以认为不相关。若平稳随机序列 { x ( n ) } \{x(n)\} {x(n)} 中不含有任何周期分量，则有
KaTeX parse error: No such environment: align at position 8: \begin{̲a̲l̲i̲g̲n̲}̲ \lim\limits_{m…

由以上性质可以得出一下几点：

（1） ${\gamma }_{xx}(m)$ 和 ${\varphi }_{xx}(m)$ 除相差一个常量 $m_x^2$ 外，其它特性相同。

（2） ${\varphi }_{xx}(m)$ 是一个随机过程的最主要的统计特征，它不仅说明了相关性还隐含了 $m_x,{\sigma }_x^2,E[x^2(n)]$ 等主要特征量，例：
$$\begin{array}{rl}& E[x^2(n)]={\varphi }_{xx}(0)\\ & m_x^2={\varphi }_{xx}(\infty )\\ & {\sigma }_x^2=E[x^2(n)]-m_x^2={\varphi }_{xx}(0)-{\varphi }_{xx}(\infty )\end{array}\}$$

对于多为随机向量
$$X\text{X}X=\left[\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right]$$
其均值向量为
$$E[X\text{X}X]=\left[\begin{array}{c}E[x_1]\\ E[x_2]\\ ⋮\\ E[x_n]\end{array}\right]$$
其自协方差阵定义为
c o v [ X ] = E { [ X − E ( X ) ] [ X − E ( X ) ] T } cov[\pmb{X}]=E\{[\pmb{X}-E(\pmb{X})][\pmb{X}-E(\pmb{X})]^T\} cov[XXX]=E{[XXX−E(XXX)][XXX−E(XXX)]T}

其互协方差阵定义为
c o v ( X , Y ) = E { [ X − E ( X ) ] [ Y − E ( Y ) ] T } cov(\pmb{X},\pmb{Y})=E\{[\pmb{X}-E(\pmb{X})][\pmb{Y}-E(\pmb{Y})]^T\} cov(XXX,YYY)=E{[XXX−E(XXX)][YYY−E(YYY)]T}
如果 $X\text{X}X,Y\text{Y}Y$ 不是向量，而是复数，则公式（25）（26）中的转置符号应该为共轭符号，如果 $X\text{X}X,Y\text{Y}Y$ 既是向量，又是复数，则转置符号应该为共轭转置符号。

1.2.4 平稳序列的时间平均与遍历性

随机序列某一点处的均值和自相关函数，可以用平均集来计算，即
KaTeX parse error: No such environment: align at position 8: \begin{̲a̲l̲i̲g̲n̲}̲ &m_x=\lim\limi…
在实践中需要多次大量的实验以获得足够多的（ $N$ 足够大）序列来保证计算的可靠性，显然这是十分困难的。但是我们假设一个平稳过程，集合平均等于一个样本函数在整个时间轴上的时间平均，这样就能使用时间平均对随机序列的均值和自相关函数做出合理近似估计。

定义 设 { x ( n ) } \{x(n)\} {x(n)} 是一个平稳随机序列，如果均值极限
$$<x(n)>\triangleq \underset{N\to \infty }{\lim }\frac{1}{2N+1}\sum _{n=-N}^{N}x(n)$$
存在，称它为 { x ( n ) } \{x(n)\} {x(n)} 的时间均值。进而，如果以概率为 1 有
$$m_x=<x(n)>$$
则称 { x ( n ) } \{x(n)\} {x(n)} 的均值具有遍历性。

​ 对于平稳随机序列 { x ( n ) } \{x(n)\} {x(n)} ，如果对 $\forall m\in Z$ ，均方极限
$$<x(n)x^{\ast }(n-m)>\triangleq \underset{N\to \infty }{\lim }\frac{1}{2N+1}\sum _{n=-N}^N[x(n)x^{\ast }(n-m)]$$
存在，称它为 { x ( n ) } \{x(n)\} {x(n)} 的时间自相关函数。进而，如果以概率为 1 有
$${\varphi }_{xx}(m)=<x(n)x^{\ast }(n-m)>$$
则称 { x ( n ) } \{x(n)\} {x(n)} 的自相关函数具有遍历性。

这里注意，当（30）（32）成立，因为均方收敛必依概率收敛，那么当 $N$ 足够大时，就可以用一次抽样所得的一个现实 { x n ( ξ ) , n ∈ Z } ( ξ ∈ Ω ) \{x_n(\xi),n\in Z\}(\xi\in\Omega) {xn​(ξ),n∈Z}(ξ∈Ω) 所作的时间平均
$$\frac{1}{2N+1}\sum _{n=-N}^{N}x(n,\xi )$$
与
$$\frac{1}{2N+1}\sum _{n=-N}^N[x(n,\xi )x^{\ast }(n-m,\xi )]$$
分别作为 $m_x$ 和 ${\varphi }_{xx}(m)$ 的近似估计。

思考 ：证明，$|{\varphi }_{xy}|\le \sqrt{{\varphi }_{xx}(0){\varphi }_{yy}(0)}$ .

构造：
$$\begin{array}{rl}& E[\lambda x(n)+y(n+m){]}^2\ge 0\\ \Rightarrow & {\lambda }^{2}E[x^2(n)]+2\lambda E[x(n)y(n+m)]+E[y^2(n+m)]\ge 0\\ \Rightarrow & {\varphi }_{xx}(0){\lambda }^2+2{\varphi }_{xy}(m)\lambda +{\varphi }_{yy}(0)\ge 0,n=0\\ 因为& \\ & {\varphi }_{xx}(0)>0，故\Delta =4|{\varphi }_{xy}(m){|}^2-4{\varphi }_{xx}(0){\varphi }_{yy}(0)>0\\ 即& \\ & |{\varphi }_{xy}|\le \sqrt{{\varphi }_{xx}(0){\varphi }_{yy}(0)}\end{array}$$

1.3 离散时间随机信号的 $z$ 域及频域（统计）表示

平稳随机信号无始无终，能量无限，且不满足绝对可和（绝对值的和是一个有限常数）。

故不存在傅里叶变换，也不存在 $z$ 变换，但其功率有限，存在功率谱。

傅里叶变换条件（狄利克雷条件）：

​ 1.函数在任意有限区间内连续，或只有有限个第一类间断点（当t从左或右趋于这个间断点时，函数有有限的左极限和右极限）；

​ 2.在一个周期内，函数有有限个极大值或极小值。

​ 3.x(t)在单个周期内绝对可积。

$z$ 变换条件（充要条件）：

​ 级数绝对可和。使级数绝对可和的成立的所有 $z$ 值称为收敛域。

如果 ${\varphi }_{xx}(m)$ 满足绝对可和，${\sum }_{m=-\infty }^{\infty }|{\varphi }_{xx}(m)|\le \infty$ ，则 ${\varphi }_{xx}(m)$ 存在离散傅里叶变换，且均值 $m_x=0$ 。

1.3.1 自相关函数的 $z$ 变换及其收敛域

设矩形窗口函数：
$$w_R(n)=\{\begin{array}{rl}1,& 0\le n\le N\\ 0,& 其它\end{array}$$
则，
$$x_N(n)=x(n)w_R(n)$$
傅里叶及其共轭的傅里叶变换：
$$\begin{gathered} X_N(\omega )=\sum _{n=0}^{N-1}x(n)e^{-j\omega n} \\ {X}_N^{\ast }(\omega )=\sum _{k=0}^{N-1}{x}^{\ast }(k)e^{-j\omega k} \end{gathered}$$
故
$$\begin{array}{rl}E[|X_N(\omega ){|}^2]& =\sum _{n=0}^{N-1}\sum _{k=0}^{N-1}E[x(n)x^{\ast }(k)]e^{-j\omega (n-k)}\\ & =\sum _{m=-(N-1)}^{N-1}(N-|m|){\varphi }_{xx}(m)e^{-j\omega m}\end{array}$$
由此
$$\begin{gathered} E[|\frac{1}{N}{X}_N(\omega ){|}^2]=\sum _{m=-(N-1)}^{N-1}(1-\frac{|m|}{N}){\varphi }_{xx}(m)e^{-j\omega m} \\ \underset{N\to \infty }{\lim }E[|\frac{1}{N}{X}_N(\omega ){|}^2]=\sum _{m=-\infty }^{\infty }{\varphi }_{xx}(m)e^{-j\omega m} \end{gathered}$$
这里 $|\frac{1}{N}{X}_N(\omega ){|}^2$ 叫做加窗序列周期图， $E[|\frac{1}{N}{X}_N(\omega ){|}^2]$ 平均功率谱密度。

即，功率谱密度和自相关函数互为傅里叶变换和逆变换
$$\begin{gathered} P_{xx}(\omega )=\sum _{m=-\infty }^{\infty }{\varphi }_{xx}(m)e^{-j\omega m} \\ {\varphi }_{xx}(m)=\frac{1}{2\pi }{\int }_{-\pi }^{\pi }{P}_{xx}(\omega )e^{j\omega m}d\omega \end{gathered}$$
对于 $z$ 变换，我们有
$$\begin{gathered} {\Gamma }_{xx}(z)=\sum _{m=-\infty }^{\infty }{\gamma }_{xx}(m)z^{-1},R_{z^{-}}\le |z|\le R_{z^{+}} \\ {\gamma }_{xx}(m)=\frac{1}{2\pi j}{\oint }_C{\Gamma }_{xx}(z)z^{m-1}dz,C\in (R_{z^{-}},R_{z^{+}}) \end{gathered}$$

$$\begin{gathered} {\Phi }_{xx}(z)=\sum _{m=-\infty }^{\infty }{\varphi }_{xx}(m)z^{-1},R_{z^{-}}\le |z|\le R_{z^{+}} \\ {\varphi }_{xx}(m)=\frac{1}{2\pi j}{\oint }_C{\Phi }_{xx}(z)z^{m-1}dz,C\in (R_{z^{-}},R_{z^{+}}) \end{gathered}$$

由于要使得随机信号存在 $z$ 变换，故均值 $m_x=0$ 此时 ${\gamma }_{xx}(m)={\varphi }_{xx}(m)$ .
$$\begin{gathered} x(n)⟷X(z) \\ x(-n)⟷X(z^{-1}) \\ {x}^{\ast }(n)⟷X^{\ast }(z^{\ast }) \end{gathered}$$
因为 ${\varphi }_{xx}(m)$ 是偶函数，所以 ${\Phi }_{xx}(z)={\Phi }_{xx}(z^{-1})$ 。如果 $z=z_1$ 是 ${\Phi }_{xx}(z)$ 的一个极点，则 $z=1/z_1$ 也是 ${\Phi }_{xx}(z)$ 的一个极点。由此可见 ${\Phi }_{xx}(z)$ 和 ${\Gamma }_{xx}(z)$ 的收敛域一定是包含单位圆的圆环。

1.3.2 功率谱分析

既然 ${\Gamma }_{xx}(z)$ 的收敛域包含单位元，那么就可以取单位圆作积分围线，并将 $z=e^{j\omega }$ 代入得：
$$\begin{array}{rl}{\gamma }_{xx}(m)& =\frac{1}{2\pi j}{\oint }_C{\Gamma }_{xx}(z)z^{m-1}dz\\ & =\frac{1}{2\pi }{\int }_{-\pi }^{\pi }{\Gamma }_{xx}(e^{j\omega })e^{j\omega m}d\omega \end{array}$$
令 $P_{xx}(\omega )={\Gamma }_{xx}(e^{j\omega })$ ，则有
$$\begin{gathered} {\gamma }_{xx}(m)=\frac{1}{2\pi }{\int }_{-\pi }^{\pi }{P}_{xx}(\omega )e^{j\omega m}d\omega \\ {\gamma }_{xx}(0)=E[x^2(n)]=\frac{1}{2\pi }{\int }_{-\pi }^{\pi }{P}_{xx}(\omega )d\omega \end{gathered}$$
此时正好反应的是 { x ( n ) } \{x(n)\} {x(n)} 的平均功率密度，而且因为它是相对于频率的平均功率密度，所以又被称为功率谱密度。功率谱密度和自相关函数互为傅里叶变换和逆变换
$$\begin{gathered} P_{xx}(\omega )=\sum _{m=-\infty }^{\infty }{\varphi }_{xx}(m)e^{-j\omega m} \\ {\varphi }_{xx}(m)=\frac{1}{2\pi }{\int }_{-\pi }^{\pi }{P}_{xx}(\omega )e^{j\omega m}d\omega \end{gathered}$$

1.3.3 谱密度的物理意义

在信号与系统中，若设 $x(n)$ 为一确定性的功率信号，则 $x(n)$ 在频率 $\omega$ 处的功率谱密度为
$$P_{xx}(\omega )=\underset{N\to \infty }{\lim }\frac{1}{2N+1}|\sum _{n=-N}^{N}x(n)e^{-j\omega m}{|}^2$$
对于平稳随机序列，则有以下定理

设 ${\varphi }_{xx}(m)$ 是平稳随机序列 { x ( n ) , n ∈ Z } \{x(n),n\in Z\} {x(n),n∈Z} 的自相关函数，如果 ${\varphi }_{xx}(m)$ 绝对可和，则有
$$P_{xx}(\omega )=\underset{N\to \infty }{\lim }\frac{1}{2N+1}E[|\sum _{n=-N}^{N}x(n)e^{-j\omega m}{|}^2]$$
证明：
$$\begin{array}{rl}\frac{1}{2N+1}E[|\sum _{n=-N}^{N}x(n)e^{-j\omega m}{|}^2]& =\frac{1}{2N+1}E[\sum _{k=-N}^N{x}^{\ast }(k)e^{j\omega k}\sum _{n=-N}^{N}x(n)e^{-j\omega n}]\\ & =\frac{1}{2N+1}E[\sum _{k=-N}^N\sum _{n=-N}^N{x}^{\ast }(k)x(n)e^{-j\omega (n-k)}]\\ & =\frac{1}{2N+1}\sum _{k=-N}^N\sum _{n=-N}^N{\varphi }_{xx}(n-k)e^{-j\omega (n-k)}\\ & =\frac{1}{2(2N+1)}\sum _{l-m=-2N}^{2N}\sum _{l+m=-2N}^{2N}{\varphi }_{xx}(m)e^{-j\omega m},m=n-k,l=n+k\\ & =\frac{1}{2(2N+1)}[\sum _{m=-2N}^0\sum _{l=-2N-m}^{2N+m}{\varphi }_{xx}(m)e^{-j\omega m}\\ & +\sum _{m=0}^{2N}\sum _{l=-2N+m}^{2N-m}{\varphi }_{xx}(m)e^{-j\omega m}]\\ & =\sum _{m=-2N}^0(1+\frac{m}{2N+1}){\varphi }_{xx}(m)e^{-j\omega m}\\ & +\sum _{m=0}^{2N}(1-\frac{m}{2N+1}){\varphi }_{xx}(m)e^{-j\omega m}\\ & =\sum _{m=-2N}^0(1-\frac{|m|}{2N+1}){\varphi }_{xx}(m)e^{-j\omega m}\end{array}$$
故
$$P_{xx}(\omega )=\underset{N\to \infty }{\lim }\frac{1}{2N+1}E[|\sum _{n=-N}^{N}x(n)e^{-j\omega m}{|}^2]=\sum _{m=-\infty }^{\infty }{\varphi }_{xx}(m)e^{-j\omega m}$$

综合上面的讨论，可知随机序列的功率谱密度具有以下几个特点：

1）随机序列的自相关函数与它的功率谱密度构成一对离散时间傅里叶变换。

2）随机序列的自相关函数具有离散时间的形式，也称自相关序列，但它的功率谱密度却是变量 $\omega$ 的连续函数。

3）对于非周期离散时间自相关序列，其功率谱密度为一周期信号，周期为 $2\pi$ ，功率谱密度在一个周期内的积分与随机序列的平均功率成正比。

4）随机序列的功率谱密度是周期信号，因此可以展开为傅里叶级数，${\varphi }_{xx}(m)$ 正是傅里叶级数的各谐波分量系数。

5）随机序列的自相关函数与功率谱密度分别从时域、频域反映了随机序列的二阶统计特性，虽然形式不同，但两者包含的信息是一致的。

1.4 线性系统对随机信号的影响

所谓系统，用数学的语言描述，就是从输入序列 { x ( n ) , n ∈ Z } \{x(n),n \in Z\} {x(n),n∈Z} 到输出序列 { y ( n ) , n ∈ Z } \{y(n),n \in Z\} {y(n),n∈Z} 的映射，记为 { y ( n ) , n ∈ Z } = L { x ( n ) , n ∈ Z } \{y(n),n \in Z\}=L\{x(n),n \in Z\} {y(n),n∈Z}=L{x(n),n∈Z} 。如果输入序列与输出序列满足：
$$y(n)=\sum _{k=-\infty }^{\infty }h(k)x(n-k),n\in Z$$
则称 $L$ 为线性时不变系统，称 { h ( k ) , k ∈ Z } \{h(k),k \in Z\} {h(k),k∈Z} 为线性系统的冲激响应，它是线性系统的时域表征，如果 $k<0$ 时 $h(k)=0$ ，则 $L$ 是因果的。此时
$$y(n)=\sum _{k=0}^{\infty }h(k)x(n-k),n\in Z$$
若冲激响应 { h ( k ) , k ∈ Z } \{h(k),k \in Z\} {h(k),k∈Z} 满足条件
$$\sum _{k=-\infty }^{\infty }|h(k)|<\infty$$
就称 $L$ 是稳定的，稳定意味着有界的输入导致了有界的输出，在实践中，常见的系统都是稳定和因果的线性系统。

1.4.1 线性时不变系统对随机输入的响应

$L$ 是线性时不变系统，其冲激响应为 $h(n)$ ，频率响应为 $H(\omega )$ ，且满足

$$\begin{array}{rl}& 1)\sum _{k=-\infty }^{\infty }|h(k)|<\infty \\ & 2)\sum _{k=-\infty }^{\infty }\sum _{n=-\infty }^{\infty }{h}^{\ast }(k)h(n){\varphi }_{xx}(n-k)<\infty \end{array}$$

则有：
$$y(n)=\sum _{k=-\infty }^{\infty }h(k)x(n-k)=h(n)\ast x(n)$$
也是平稳过程。

{ y ( n ) } \{y(n)\} {y(n)} 的均值、自相关函数和功率谱密度
$$\begin{array}{rl}& m_y=m_x\sum _{k=-\infty }^{\infty }h(k)\\ & {\varphi }_{yy}(n,n+m)=\sum _{k=-\infty }^{\infty }h(k)\sum _{r=-\infty }^{\infty }h(r){\varphi }_{xx}(m+k-r)={\varphi }_{yy}(m)\\ & P_{yy}(\omega )=|H(\omega ){|}^2{P}_{xx}(\omega )\end{array}$$

1.4.2 系统输入、输出的互相关函数和互谱密度

现在让我们来讨论关于线性非时变系统的输入和输出之间的互相关函数 ${\varphi }_{xy}(m)$ 及互相关谱密度函数 $P_{xy}(\omega )$ 。

设 线性时不变系统 $L$ 的输入和输出分别为平稳随机序列 { x ( n ) , n ∈ Z } \{x(n),n \in Z\} {x(n),n∈Z} 和 { y ( n ) , n ∈ Z } \{y(n),n \in Z\} {y(n),n∈Z} 且 { x ( n ) } \{x(n)\} {x(n)} 存在谱密度 $P_{xx}(\omega )$ ，则系统的输入 { x ( n ) } \{x(n)\} {x(n)} 和输出 { y ( n ) } \{y(n)\} {y(n)} 平稳相关，且它们的互相关谱密度函数为
$$P_{xy}(\omega )=H(\omega )P_{xx}(\omega ),P_{yx}=H^{\ast }(\omega )P_{xx}(\omega )$$

$${\varphi }_{xy}(m)={\varphi }_{xx}(m)\ast h(m),{\varphi }_{yy}(m)={\varphi }_{xy}(m)\ast h(-m)$$