语义元分割学习：一种用于少量样本无线图像分类的TinyML方案

论文标题：Semantic Meta-Split Learning: A TinyML Scheme for Few-Shot Wireless Image Classification 中文标题：语义元分割学习：一种用于少量样本无线图像分类的TinyML方案

作者信息：

• Eslam Eldeeb, Mohammad Shehab, Hirley Alves, Mohamed-Slim Alouini
• Eslam Eldeeb 和 Hirley Alves 来自芬兰奥卢大学无线通信中心（Centre for Wireless Communications, University of Oulu）。
• Mohammad Shehab 和 Mohamed-Slim Alouini 来自沙特阿拉伯国王科技大学（King Abdullah University of Science and Technology）。

论文出处：arXiv:2409.12978v1 [cs.CV] 3 Sep 2024

摘要： 文章介绍了一种新型的TinyML（Tiny Machine Learning）框架，该框架融合了分割学习（split-learning）和元学习（meta-learning），用于处理少量样本的无线图像分类任务。该框架旨在减少终端用户的计算负担，并确保数据隐私。通过分割学习，限制了终端用户执行的计算量，而元学习则利用类似训练任务来加速模型的训练。研究者们使用手写字母图像数据集对所提出的算法进行了测试，并通过共形预测（Conformal Prediction, CP）技术对预测结果的不确定性进行了分析。模拟结果表明，与常规方案相比，Semantic-MSL在分类准确性上实现了20%的提升，并且在使用更少数据点的情况下，训练能耗更低。

第一章 引言： 本章讨论了语义和目标导向（SGO）通信技术的兴起，以及它如何通过只传输对于特定任务有用的信息来节省能源和提高通信系统的频谱效率。同时，指出了语义通信在数据收集、隐私保护和终端用户计算量方面面临的挑战。

第二章 分割学习与元学习： 分割学习是一种分布式机器学习框架，将模型分为设备端和聚合器端。设备端只传输最后一层的输出（即压碎数据）到聚合器，聚合器则传回梯度。元学习，或称为学习如何学习，利用不同任务的配置来推断在新配置中表现良好的模型。

第三章 相关工作： 本章回顾了语义通信领域的相关研究，包括在自动驾驶车辆、无线图像传输、多任务通信等方面的应用。同时，探讨了分割学习在无线通信领域的应用，以及元学习在无线通信中的应用。

第四章 贡献： 本文的主要贡献在于提出了一种结合元学习和分割学习的TinyML框架，用于高效的无线图像传输和分类。提出了使用卷积神经网络（CNNs）的Semantic-MSL方案架构，利用共形预测量化模型的不确定性，并通过模拟结果展示了Semantic-MSL框架在分类准确性、共形预测不确定性和能耗方面显著优于传统深度学习和分割学习。

第五章 系统模型和问题表述： 本章详细描述了系统模型，包括用户集合、任务分布、图像类别和无线信道。同时，定义了主要目标：使用最少数量的图像来估计每张图像的真实类别，并找到最佳的模型参数。

第六章 背景： 本章提供了分割学习和元学习的概述，为提出的基于元分割学习的语义通信系统进行无线传输和少量样本图像分类做准备。

第七章 语义元分割学习框架： 本章介绍了结合了分割学习和元学习的新颖Semantic-MSL学习框架。该方法结合了分割学习和元学习，形成了一个低计算量的设备端架构，用于少量样本的无线图像分类。

第八章 关键性能指标： 本章介绍了评估所提出模型与其他基线方案的关键性能指标，例如分类准确性、覆盖率和低效率。

第九章 数值结果： 本章展示了Semantic-MSL框架的模拟结果。使用Omniglot数据集进行实验，并比较了Semantic-MSL与Semantic-SL和基线DNN模型的性能。

第十章 结论： 本章总结了Semantic-MSL作为一种新颖的TinyML框架，在少量样本无线图像分类方面的优势。Semantic-MSL在准确性、共形预测准确性、共形预测效率和能耗方面均优于基线DNN和Semantic-SL。提出的框架可以进一步应用于无线图像分类之外的任务，如图像重建和强化学习。未来的研究将探索在优化分割学习模型中利用元共形预测。