Digital transformation基本概念

Basic Knowledge

1. 信道编码，映射及调制：

q[l]代表原始二进制码流，c[v]则为经过信道编码后的信息，m[k]则为编码后信息经过mapping后得到的信息。

a) 信道编码： 信道编码通过在发送的数据中添加冗余信息，使得接收端可以检测并纠正传输过程中出现的错误，从而提高数据传输的可靠性

原有长度为K的二进制编码，经过信道编码后长度变为n，因此编码速率为：
$$R_c=\frac{1}{n}ld(2^K)=\frac{K}{n}[\frac{bit}{Codesymbol}]$$
编码冗余：
$${\rho }_c=\frac{1}{n}(ld(M_c^n)-ld(2^K))=ld(M_c)-R_c[\frac{bit}{Codesymbol}]$$

理解编码后为什么总信息量变为$ld(M_c):$
在未编码的情况下，每个symbol只有两个可能的状态，通常用二进制的0和1表示。因此，一个symbol可以携带的信息量是1 bit。
编码后的情况假设我们有种不同的符号，这意味着每个符号可以代表$M_c$种不同的状态。信息量的计算公式是基于信息论中的“自信息”概念，定义为某个事件发生的概率的负对数。对于等概率的$M$种符号，每个符号出现的概率是$\frac{1}{M_c}$
​
自信息（信息量）的计算公式为：
$$I(x)=-lo{g}_{2}P(x)$$
对于等概率情况，$P(x)=\frac{1}{M_c}$，因此：
$$I(x)=-lo{g}_2(\frac{1}{M_c})=lo{g}_2{M}_c$$

例子：
奇偶校验码（Parity Code）：奇偶校验码是一种简单的错误检测编码，它通过在数据中添加一个奇偶校验位来检测单个比特错误。

b）映射：
映射将编码后的符号序列$c[v]$转换为对应的信号编号$m[k]$。这一步骤是将离散的符号转换为可以调制和传输的信号。这些信号编号通常对应于不同的调制状态或幅度，相位等特性。

映射冗余：
$${\rho }_M=ld(M)-\frac{L}{V}ld(M_c)$$

c）调制：
调制将离散的数字信号$m[k]$转换为连续的模拟信号$s_{HF}(t)$（如 ，使其能够通过模拟信道（如无线电波、电话线等）进行传输。

$$s_{HF}(t)=\sum _{k=-\infty }^{\infty }{s}_{m[k]}(t-kT)$$
例子：

Digital rate after modulation:
$$R=R_C\cdot \frac{L}{V}$$
调制必须信号满足时间正交条件：
φ s i , s l ( k T ) = ∫ − ∞ + ∞ s i ( t + k T ) s l ∗ ( t )   d t = { 0 f u ¨ r  ∀ k ∈ Z ∖ { 0 } E i l f u ¨ r  k = 0 \varphi_{s_i,s_l}(kT) = \int_{-\infty}^{+\infty} s_i(t + kT) s_l^*(t) \, dt = \begin{cases} 0 & \text{für } \forall k \in \mathbb{Z} \setminus \{0\} \\ E_{il} & \text{für } k = 0 \end{cases} φsi​,sl​​(kT)=∫−∞+∞​si​(t+kT)sl∗​(t)dt={0Eil​​fu¨r ∀k∈Z∖{0}fu¨r k=0​

d）等效编码及调制：
接收到的信号由于各种原因（例如信号失真、彩色噪声干扰，或者发送端的脉冲成型）导致信号元素不再满足时间正交性。（彩色噪声是指噪声信号在不同频率上的功率谱密度不均匀。这意味着噪声的某些频率分量比其他频率分量更强或更弱。）

例子1：

$s_0(t)和s_1(t)$不满足时间正交原因如下：

处理：将原有的$s_o(t)$，$s_1(t)$组合为若干个新的$s_i(t)$且满足时间正交的信号的叠加

例子2：

原本时间长度为$T$的信号，受到干扰后信号长度拓展为$3T$

$$s_i(t)=\pm g(t)\pm g(t-T)\pm g(t-2T)$$
$s_i(t)长度为T$

脉冲调制

1. 基本概念：脉冲幅度调制（PAM）是一种调制技术，通过改变脉冲信号的幅度来表示不同的数字数据。在PAM系统中，每个脉冲的幅度与要传输的数据成比例。具体来说，数字信息通过一系列幅度不同的脉冲来传输。
$$s(t)=\sum _{k=-\infty }^{\infty }{a}_{m[k]}g(t-kT)$$
其中$g(t)$为基脉冲
例子：

2. 脉冲幅度调制（PAM）信号的平均功率谱密度
对于离散稳态过程$a[k]$，其自相关函数为：
ϕ a a [ κ ] = E { a [ k + κ ] a ∗ [ k ] } \phi_{aa}[\kappa] = \mathbb{E}\{a[k + \kappa] a^*[k]\} ϕaa​[κ]=E{a[k+κ]a∗[k]}
由此可以看到对于稳态过程，其自相关函数只与相对时延$\kappa$有关。
对应频域分量：
$${\Phi }_{aa}(e^{j2\pi F})=\sum _{k=-\infty }^{+\infty }{\varphi }_{aa}[k]\cdot e^{-j2\pi kF}$$
但PAM信号：
$$s(t)=\sum _{k=-\infty }^{\infty }a[k]g(t-kT)$$
不属于稳态过程，因此其自相关函数与时间$t$有关：
$$\varphi (t,\tau )=ϵ(s(t+\tau )s^{\ast }(t))$$
幸运的是其属于循环稳态过程，即：
$$\varphi (t,\tau )=\varphi (t+kT,\tau )$$
稳态信号与循环稳态信号：
稳态信号：
考虑一个稳态信号$s(t)=A\cos (2\pi f_{0}t+\varphi )$，其中 $A$ 和$\varphi$是常数。
自相关函数：
$$R_x(\tau )=E[s(t)s(t+\tau )]$$
$$R_x(\tau )=E[A\cos (2\pi f_{0}t+\varphi )\cdot A\cos (2\pi f_0(t+\tau )+\varphi )]$$
使用三角恒等式：

$$\cos (A)\cos (B)=\frac{1}{2}[\cos (A+B)+\cos (A-B)]$$
我们得到：
$$R_x(\tau )=A^2\cdot \frac{1}{2}E[\cos (4\pi f_{0}t+2\pi f_0\tau +2\varphi )+\cos (2\pi f_0\tau )]$$
由于$\cos (4\pi f_{0}t+2\pi f_0\tau +2\varphi )$在一个周期内的均值为零，只剩下：
$$R_x(\tau )=A^2\cdot \frac{1}{2}\cos (2\pi f_0\tau )$$
由此可见自相关函数$R_x(\tau )$ 仅依赖于时间差$\tau$，而与绝对时间$t$ 无关。
循环稳态信号：
$$s(t)=\sum _{k=-\infty }^{\infty }a[k]g(t-kT)$$
ϕ a a [ κ ] = E { a [ k + κ ] a ∗ [ k ] } \phi_{aa}[\kappa] = E\{a[k + \kappa] a^*[k]\} ϕaa​[κ]=E{a[k+κ]a∗[k]}
自相关函数：
$$R_s(t,\tau )=E[s(t)s^{\ast }(t+\tau )]$$
$$R_s(t,\tau )=E\left[\left(\sum _{k=-\infty }^{\infty }a[k]g(t-kT)\right)\left(\sum _{l=-\infty }^{\infty }a[l]g^{\ast }(t+\tau -lT)\right)\right]$$
展开后：
$$R_s(t,\tau )=\sum _{k=-\infty }^{\infty }\sum _{l=-\infty }^{\infty }E\left[a[k]a^{\ast }[l]\right]g(t-kT)g^{\ast }(t+\tau -lT)$$
$$R_s(t,\tau )=\sum _{k=-\infty }^{\infty }\sum _{l=-\infty }^{\infty }{\varphi }_{aa}[k-l]g(t-kT)g^{\ast }(t+\tau -lT)$$
通过将 $l=k+\kappa$ 代入上式，可以简化为：
$$R_s(t,\tau )=\sum _{k=-\infty }^{\infty }\sum _{\kappa =-\infty }^{\infty }{\varphi }_{aa}[\kappa ]g(t-kT)g^{\ast }(t+\tau -(k+\kappa )T)$$
进一步简化后，我们得到：
$$R_s(t,\tau )=\sum _{\kappa =-\infty }^{\infty }{\varphi }_{aa}[\kappa ]\sum _{k=-\infty }^{\infty }g(t-kT)g^{\ast }(t+\tau -(k+\kappa )T)$$
此表达式显示了自相关函数不仅依赖于时间差 $\tau$，还依赖于时间 $t$ 和 $T$ 的周期性。
具体例子：
考虑信号$s(t)={\sum }_{k=-\infty }^{\infty }a[k]g(t-kT)$，其中$g(t)=\cos (2\pi f_{0}t)$， $a[k]$ 是一个二进制码流，取值 0 或 1。
自相关函数$R_s(t,\tau )$ 定义为：
$$R_s(t,\tau )=E[s(t)s^{\ast }(t+\tau )]$$

代入$s(t)$ 的表达式，我们得到：
$$R_s(t,\tau )=E\left[\left(\sum _{k=-\infty }^{\infty }a[k]\cos (2\pi f_0(t-kT))\right)\left(\sum _{l=-\infty }^{\infty }a[l]\cos (2\pi f_0(t+\tau -lT))\right)\right]$$

展开后：
$$R_s(t,\tau )=\sum _{k=-\infty }^{\infty }\sum _{l=-\infty }^{\infty }E\left[a[k]a[l]\right]\cos (2\pi f_0(t-kT))\cos (2\pi f_0(t+\tau -lT))$$

对于二进制码流$a[k]$，我们有：
$$E[a[k]]=p$$
$$E[a[k]a[l]]=\{\begin{array}{ll}p& \text{if }k=l\\ p^2& \text{if }k\ne l\end{array}$$
其中$p$ 是$a[k]$ 取值为 1 的概率。

代入上述期望值，我们得到：
$$R_s(t,\tau )=\sum _{k=-\infty }^{\infty }E[a[k]]\cos (2\pi f_0(t-kT))\cos (2\pi f_0(t+\tau -kT))+\sum _{k\ne l}E[a[k]a[l]]\cos (2\pi f_0(t-kT))\cos (2\pi f_0(t+\tau -lT))$$

使用三角恒等式：
$$\cos (A)\cos (B)=\frac{1}{2}[\cos (A+B)+\cos (A-B)]$$

展开后：
$$R_s(t,\tau )=\sum _{k=-\infty }^{\infty }p\frac{1}{2}\left[\cos (2\pi f_0(2t+\tau -2kT))+\cos (2\pi f_0\tau )\right]+\sum _{k\ne l}{p}^2\frac{1}{2}\left[\cos (2\pi f_0(2t+\tau -(k+l)T))+\cos (2\pi f_0(\tau -(k-l)T))\right]$$

我们关注主要项，简化后：
$$R_s(t,\tau )=\frac{p}{2}\cos (2\pi f_0\tau )+\frac{p}{2}\sum _{k=-\infty }^{\infty }\cos (2\pi f_0(2t+\tau -2kT))$$

由于第二项在有限周期内求和结果对整个自相关函数影响较小，我们可以简化为：
$$R_s(t,\tau )=\frac{p}{2}\cos (2\pi f_0\tau )+\frac{p}{2}G(t,\tau )$$

这里$G(t,\tau )$ 是一个周期性函数，表示信号随时间$t$ 的变化。这个结果表明，信号$s(t)$ 是一个循环稳态信号，其自相关函数$R_s(t,\tau )$ 与时间$t$ 相关。
ϕ ˉ s s ( τ ) = 1 T ∫ 0 T E { s ( t + τ ) s ∗ ( t ) }   d t = 1 T ∫ 0 T E { ∑ k ∑ l α [ k ] α ∗ [ l ] g ( t + τ − k T ) g ∗ ( t − l T ) }   d t = 1 T ∫ 0 T ∑ k ∑ l E { α [ k ] α ∗ [ l ] } g ( t + τ − k T ) g ∗ ( t − l T )   d t = 1 T ∫ 0 T ∑ κ ∑ l E { α [ k ] α ∗ [ k − κ ] } g ( t + τ − k T ) g ∗ ( t − ( k − κ ) T )   d t \bar{\phi}_{ss}(\tau) = \frac{1}{T} \int_{0}^{T} \mathbb{E} \{ s(t + \tau)s^{*}(t) \} \, dt = \frac{1}{T} \int_{0}^{T} \mathbb{E} \left\{ \sum_{k} \sum_{l} \alpha[k] \alpha^{*}[l] g(t + \tau - kT) g^{*}(t - lT) \right\} \, dt \\ = \frac{1}{T} \int_{0}^{T} \sum_{k} \sum_{l} \mathbb{E} \left\{ \alpha[k] \alpha^{*}[l] \right\} g(t + \tau - kT) g^{*}(t - lT) \, dt \\ = \frac{1}{T} \int_{0}^{T} \sum_{\kappa} \sum_{l} \mathbb{E} \left\{ \alpha[k] \alpha^{*}[k - \kappa] \right\} g(t + \tau - kT) g^{*}(t - (k - \kappa)T) \, dt ϕˉ​ss​(τ)=T1​∫0T​E{s(t+τ)s∗(t)}dt=T1​∫0T​E{k∑​l∑​α[k]α∗[l]g(t+τ−kT)g∗(t−lT)}dt=T1​∫0T​k∑​l∑​E{α[k]α∗[l]}g(t+τ−kT)g∗(t−lT)dt=T1​∫0T​κ∑​l∑​E{α[k]α∗[k−κ]}g(t+τ−kT)g∗(t−(k−κ)T)dt
把 ϕ a a [ κ ] = E { a [ k + κ ] a ∗ [ k ] \phi_{aa}[\kappa] = E \{ a[k + \kappa] a^*[k] ϕaa​[κ]=E{a[k+κ]a∗[k]代入式子中：
$$\frac{1}{T}\sum _{\kappa }{\varphi }_{aa}[\kappa ]\sum _k{\int }_0^{T}g(t+\tau -kT)g^{\ast }(t-(k-\kappa )T)dt$$
因为${\sum }_k{\int }_0^{T}f(t-kT)dt={\int }_{-\infty }^{\infty }f(t)dt$:
$$\frac{1}{T}\sum _{\kappa }{\varphi }_{aa}[\kappa ]{\int }_{-\infty }^{\infty }g(t+\tau )g^{\ast }(t+\kappa T)dt$$
把${\phi }_{gg}(\tau )=g(t)\ast g^{\ast }(-t)={\int }_{-\infty }^{\infty }g(t+\tau )g^{\ast }(t)dt$代入式子中：
$$\begin{array}{rl}{\tilde{\varphi }}_{ss}(\tau )& =\frac{1}{T}\sum _{\kappa }{\varphi }_{aa}[\kappa ]{\phi }_{gg}(\tau -\kappa T)\end{array}$$

频域：
Φ ˉ s s ( f ) = F τ { ϕ ~ s s ( τ ) } = F τ { 1 T ∑ κ ϕ a a [ κ ] φ g g ( τ − κ T ) } = 1 T ∑ κ ϕ a a [ κ ] ⋅ F τ { φ g g ( τ − κ T ) } = 1 T ∑ κ ϕ a a [ κ ] ⋅ F τ { φ g g ( τ ) } ⋅ e − j 2 π f κ T = 1 T ∑ κ ϕ a a [ κ ] ⋅ ∣ G ( f ) ∣ 2 ⋅ e − j 2 π f κ T = 1 T Φ a a ( e j 2 π f T ) ⋅ ∣ G ( f ) ∣ 2 \begin{align*} \bar{\Phi}_{ss}(f) &= \mathcal{F}_{\tau} \left\{ \tilde{\phi}_{ss}(\tau) \right\} \\ &= \mathcal{F}_{\tau} \left\{ \frac{1}{T} \sum_{\kappa} \phi_{aa}[\kappa] \varphi_{gg}(\tau - \kappa T) \right\} \\ &= \frac{1}{T} \sum_{\kappa} \phi_{aa}[\kappa] \cdot \mathcal{F}_{\tau} \left\{ \varphi_{gg}(\tau - \kappa T) \right\} \\ &= \frac{1}{T} \sum_{\kappa} \phi_{aa}[\kappa] \cdot \mathcal{F}_{\tau} \left\{ \varphi_{gg}(\tau) \right\} \cdot e^{-j2\pi f \kappa T}\\ &= \frac{1}{T} \sum_{\kappa} \phi_{aa}[\kappa] \cdot|G(f)|^2\cdot e^{-j2\pi f \kappa T}\\ &= \frac{1}{T} \Phi_{aa}(e^{j2\pi fT}) \cdot |G(f)|^2 \end{align*} Φˉss​(f)​=Fτ​{ϕ~​ss​(τ)}=Fτ​{T1​κ∑​ϕaa​[κ]φgg​(τ−κT)}=T1​κ∑​ϕaa​[κ]⋅Fτ​{φgg​(τ−κT)}=T1​κ∑​ϕaa​[κ]⋅Fτ​{φgg​(τ)}⋅e−j2πfκT=T1​κ∑​ϕaa​[κ]⋅∣G(f)∣2⋅e−j2πfκT=T1​Φaa​(ej2πfT)⋅∣G(f)∣2​

所以基脉冲$g(t)$的最小带宽必须满足大于等于$\frac{1}{T}$，才能保证${\Phi }_{aa}(e^{j2\pi fT})$在这个频率范围内存在一个完整周期。

对于等概率分布的$a_m$，$P(a_m)=\frac{1}{M}$：
ϕ a a [ k ] = { σ a 2 + ∣ m a ∣ 2 , f u ¨ r  k = 0 ∣ m a ∣ 2 , f u ¨ r  k ∈ Z ∖ { 0 } \phi_{aa}[k] = \begin{cases} \sigma_a^2 + |m_a|^2, & \text{für } k = 0 \\ |m_a|^2, & \text{für } k \in \mathbb{Z} \setminus \{0\} \end{cases} ϕaa​[k]={σa2​+∣ma​∣2,∣ma​∣2,​fu¨r k=0fu¨r k∈Z∖{0}​
当$k=0$ 时，自相关函数为：
ϕ a a [ 0 ] = E { a [ i ] a ∗ [ i ] } = E { ∣ a [ i ] ∣ 2 } \phi_{aa}[0] = E \{ a[i] a^*[i] \} = E \{ |a[i]|^2 \} ϕaa​[0]=E{a[i]a∗[i]}=E{∣a[i]∣2}
信号$a[i]$ 的方差和均值关系如下：
σ a 2 = E { ∣ a [ i ] − m a ∣ 2 } \sigma_a^2 = E \{ |a[i] - m_a|^2 \} σa2​=E{∣a[i]−ma​∣2}

将其展开可以得到：
σ a 2 = E { ∣ a [ i ] ∣ 2 − 2 Re ⁡ ( a [ i ] m a ∗ ) + ∣ m a ∣ 2 } \sigma_a^2 = E \{ |a[i]|^2 - 2 \operatorname{Re}(a[i] m_a^*) + |m_a|^2 \} σa2​=E{∣a[i]∣2−2Re(a[i]ma∗​)+∣ma​∣2}

由于$m_a$ 是常数，可以将其从期望中提取出来：
σ a 2 = E { ∣ a [ i ] ∣ 2 } − 2 Re ⁡ ( m a E { a [ i ] } ) + ∣ m a ∣ 2 \sigma_a^2 = E \{ |a[i]|^2 \} - 2 \operatorname{Re}(m_a E \{ a[i] \}) + |m_a|^2 σa2​=E{∣a[i]∣2}−2Re(ma​E{a[i]})+∣ma​∣2

因为$m_a$ 是信号的均值，所以：
E { a [ i ] } = m a E \{ a[i] \} = m_a E{a[i]}=ma​

因此可以得到：
σ a 2 = E { ∣ a [ i ] ∣ 2 } − 2 ∣ m a ∣ 2 + ∣ m a ∣ 2 \sigma_a^2 = E \{ |a[i]|^2 \} - 2 |m_a|^2 + |m_a|^2 σa2​=E{∣a[i]∣2}−2∣ma​∣2+∣ma​∣2

简化后为：
E { ∣ a [ i ] ∣ 2 } = σ a 2 + ∣ m a ∣ 2 E \{ |a[i]|^2 \} = \sigma_a^2 + |m_a|^2 E{∣a[i]∣2}=σa2​+∣ma​∣2
对于独立同分布的信号$a_m$，不同时间点的信号是独立的。
因此，当$k\ne 0$时，有：
ϕ a a [ k ] = E { a m [ i + k ] } ⋅ E { a m ∗ [ i ] } \phi_{aa}[k] = E \{ a_m[i + k] \} \cdot E \{ a_m^*[i] \} ϕaa​[k]=E{am​[i+k]}⋅E{am∗​[i]}

由于$a_m$ 是独立同分布的信号，其均值为$m_a$，所以：
E { a m [ i + k ] } = m a E \{ a_m[i + k] \} = m_a E{am​[i+k]}=ma​
E { a m ∗ [ i ] } = m a ∗ E \{ a_m^*[i] \} = m_a^* E{am∗​[i]}=ma∗​

因此，可以得到：
$${\varphi }_{aa}[k]=m_a\cdot m_a^{\ast }=|m_a{|}^2$$

最终推导结果：
$${\Phi }_{aa}(F)={\sigma }_a^2+\left\{|m_a{|}^2\frac{1}{T}\sum _{\ell =-\infty }^{+\infty }\delta \left(F-\frac{\ell }{T}\right)\right\}$$
$${\bar{\Phi }}_{ss}(f)={\sigma }_a^2\frac{|G(f){|}^2}{T}+{\left|m_a\right|}^2\frac{|G(f){|}^2}{T^2}\sum _{\ell =-\infty }^{+\infty }\delta \left(f-\frac{\ell }{T}\right)$$

因此若幅度系数的均值不为零，则在符号频率 1/T 的间隔处会出现离散谱线，这会导致大部分能量分散到我们不关心的频率上。