基于Res-DNN的端到端MIMO系统信号检测算法

摘要:

深度学习可通过提取无线通信数据的内在特征提升信号检测效果。针对MIMO系统信号检测存在的性能与复杂度的折中问题，提出一种基于深度学习的端到端MIMO系统信号检测方案。基于残差深度神经网络的编码器和解码器分别替代无线通信系统的发送端和接收端，将它们看作一个整体通过端到端的方式进行训练。编码器首先对输入数据进行特征提取，进而建立通信模型并传入迫零检测器进行初步检测，最终通过解码器重构得出检测信号。仿真结果表明，所提检测方案优于同类型算法，并且在牺牲一定时间复杂度的情况下，检测性能明显优于MMSE检测算法。

关键词：深度学习 ; MIMO系统 ; 信号检测 ; 残差深度神经网络 ; 端到端

0 引言

多输入多输出（MIMO, multiple input multiple output）技术可通过多天线实现更好的复用增益，从而提升无线通信系统的容量及可靠性。MIMO系统的复杂度与天线的数目息息相关，尤其是MIMO 系统信号检测算法的复杂度会随着天线数目的增多呈指数级增长。目前，信号检测算法多为传统算法的改进，所以如何在保证一定系统信号检测性能的基础上降低算法复杂度，依然是该领域的研究热点。

MIMO 系统的信号检测即在接收端设计得到合理的数据恢复算法，从而提高通信系统的检测性能。传统的信号检测算法主要分为线性检测算法和非线性检测算法。非线性检测算法中最大似然估计（MLE, maximum likelihood estimate）是最优的检测算法，复杂度较高，因此一些非线性算法皆以降低MLE算法复杂度为目标，如球形译码算法、半定松弛算法、近似消息传递等。此类非线性检测算法应用于MIMO系统时复杂度仍较高，因此复杂度较低的线性检测算法应用较广，如迫零（ZF, zero forcing）检测算法和最小均方误差（MMSE, m