Sem Comm笔记【1】：语义通信/Semantic Communication概述

1. Sem Comm简介

"Semantic Communication"与“传统通信”最大的区别在于，"Sem Comm"的目的是传输信号的"semantics/information（语义信息）"，而不是像传统通信那样精确地传输信号的每个"bit/symbol".

$Shannon$ 和 $Weaver$ 在论文"The Mathematical Theory of Communication" [1] 中将通信分成三个层面：

1. Level $\text{A}$: how accurately can the symbols of communication
   be transmitted? "(The technical problem)"
2. Level $\text{B}$: how precisely do the transmitted symbols convey
   the desired meaning? "(The semantic problem)"
3. Level $\text{C}$: how effectively does the received meaning affect
   conduct in the desired way? "(The effectiveness problem)"

这表明通过传输信号的语义信息而不是准确的比特或符号序列，以达到更高的通信效率是可行的。1952年，$Carnap$ [2] 在 $Shannon$ 的基础上，于文章"An outline of a theory of semantic information"中首次给出"semantic information theory"的概念。

"Sem Comm"表示源信息的含义和准确性。然而，由于缺乏数学模型，量化"semantics/information"一直具有挑战性。尽管语义通信的理论早在上世纪中就已提出，但直到近年来，随着人工智能的蓬勃发展，基于深度学习神经网络的语义通信系统才受到研究者的大量关注。深度学习的突破使解决许多挑战成为可能，且不需要明确的数学模型的表达，因为深度神经网络有很强大的拟合任意复杂函数的特性。深度学习网络可以提取信号的"semantics/information"，使得"Sem Comm"得以实现，"Sem Comm"中神经网络层的连接以及"loss function"的存在，也让"Sem Comm"可以实现"joint source-channel coding"的优化。再者，基于深度神经网络的语义通信在突破传统通信系统的瓶颈方面显示出巨大的潜力，促进了语义信息的交换。此外，在某些应用中，接收端只需要一些来自源的关键语义信息，因此在通信资源受限的情况下，基于深度学习的"Sem Comm"是下一代通信系统很有前途的解决方案。

2. Reference

[1] C. E. Shannon and W. Weaver, “The Mathematical Theory of Communication,” Champaign, IL, USA: Univ. of Illinois Press, 1949.
[2] R. Carnap and Y. Bar-Hillel, “An outline of a theory of semantic information,” Res. Lab. Electron., Massachusetts Inst. Technol., Cambridge, MA, USA, RLE Tech. Rep. 247, Oct. 1952.