An Introduction on Deep Learning for the Physical Layer

An Introduction on Deep Learning for the Physical Layer

代码实现：https://github.com/shengjian3476077/DLforPhy

一、文章的主要工作

1、将通信系统设计视为端到端的重构任务，使用自编码器（autoencoder）实现端到端的通信系统，并在单个过程中共同优化发送器和接收器组件。
2、将上述系统扩展到多发射机和多接受机网络，
3、提出radio transformer networks（RTN），作为将专家领域知识纳入机器学习（ML）模型的手段。
4、使用CNN对IQ采样数据进行调制类型分类

二、自编码器

  图中，虚线蓝色框内就是一个自编码器模型，它由编码器（Encoder）和解码器（Decoder）两部分组成，本质上都是对输入信号做某种变换。编码器将输入信号$x$变换成编码信号$y$，而解码器将编码$y$转换成输出信号$\tilde{x}$，即$\mathrm{y}=f(x)$，$\tilde{x}=g(\mathrm{y})=g(f(x))$。而自编码器的目的是，让输出$\tilde{x}$尽可能复现输入$x$，即tries to copy its input to its output。但是，这样问题就来了——如果$f$和$g$都是恒等映射，那不就恒有$\tilde{x}=x$了么？因此，我们经常对中间信号$\mathrm{y}$（也叫作“编码”）做一定的约束，这样，系统往往能学出很有趣的编码变换$f$和编码$\mathrm{y}$。对于自编码器，我们往往并不关系输出什么（反正只是复现输入），我们真正关心的是中间层的编码，或者说是从输入到编码的映射。可以这么想，在我们强迫编码$y$和输入$x$不同的情况下，系统还能够去复原原始信号$x$，那么说明编码$\mathrm{y}$已经承载了原始数据的所有信息，但以一种不同的形式！这就是特征提取啊，而且是自动学出来的！实际上，自动学习原始数据的特征表达也是神经网络和深度学习的核心目的之一。而自编码器的这种在深度学习中略显鸡肋的功能却在通信系统中占据了得天独厚的优势，我们可以把我们的通信系统的发射端看成Encoder，将接收端看成Decoder，而在信道中传输的便是经由Encoder学习到的$f$映射后得到的编码信号$\mathrm{y}$。

三、autoencoder实现单发射端、单接收端通讯系统

1、信道模型

  发射端通过n个离散的信道发送M个可能的信息之一 s ∈ M = { 1 , 2 , … , M } \mathcal{s}\in\mathcal{M}=\{1,2,…,M\} s∈M={ 1,2,…,M}给接收端。可以认为，发射端即将转换$f:\mathcal{M}\to {\mathbb{R}}^n$应用到消息$s$以生成发送信号$\mathrm{x}=f(s)\in {\mathbb{R}}^n$。通常，发射端的硬件会对$\mathrm{x}$加以限制，例如，能量限制$\Vert \mathrm{x}{\Vert }_2^2\le n$、幅度限制$|x_i|\le 1$ $\forall i$或者是平均功率限制$E[|x_i{|}^2]\le 1$ $\forall i$。该系统的通信速率为$R=k/n$[bit/channel use],其中$k={\log }_2(M)$。在接下来的论文中，符号$(n,k)$表示通讯系统发送$M=2^k$信息（例如：k比特）通过$n$个信道。我们将信道看做是一个条件概率函数$\mathrm{p}(y|x)$，其中$\mathrm{y}\in {\mathbb{R}}^n$为接受信号，而后通过转换$g:{\mathbb{R}}^n\to \mathcal{M}$产生传输信号$s$的估计$\hat{s}$。
  通常，自编码器的目标是在某个中间层找到其输入的低维表示，从而允许以最小误差重建输出。在我们的例子中，autoencoder的目的是不同的。换句话说，通常大多数自编码器是从输入数据中去除冗余的，但这种自编码器（“信道自编码器”）通常是增加冗余的，目的是学习一个对信道扰动具有鲁棒性的中间表示。
  首先，我们需要寻找的自编码器能够学习一种$\mathrm{s}$的表示$\mathrm{x}$（用$\mathrm{x}$来表示$\mathrm{s}$）；其次，这样的一种表示（$\mathrm{x}$）需要在信道损伤（例如：噪声、衰落、失真）的情况下，从$\mathrm{x}$到$\mathrm{y}$的映射是鲁棒的。这样，传输的消息可以以小的错误概率被恢复。
  下图显示了这种自编码器的一个例子。

  发射机由一个具有全连接的前馈NN组成，后面是一个规范化层，确保 x \mathrm{x}