网络智能化/通信AI 大模型论文-NetGPT-超越个性化生成服务的原生智能网络架构《NetGPT: An AI-Native Network Architecture...

https://arxiv.org/abs/2307.06148 下载：https://arxiv.org/pdf/2307.06148.pdf

NetGPT：超越个性化生成服务的原生智能网络架构

大型语言模型 （LLM） 在通过生成信息增强日常生活方面取得了巨大成功，而 LLM 的个性化可以进一步促进其应用，因为它更好地与人类意图保持一致。在实现个性化生成服务方面，协作式云边缘方法听起来很有前途，因为它有助于异构分布式通信和计算资源的有效编排。论文中，在讨论了几种候选云边协作技术的优缺点后，作者提出了 NetGPT 能够根据其计算能力在边缘和云端部署合适的 LLM。此外，边缘LLM可以有效地利用基于位置的信息进行个性化的提示完成，从而有利于与云LLM的交互。在边缘和云端部署了具有代表性的开源LLM（如GPT-2-base和LLaMA模型）后，基于低秩自适应的轻量级微调，提出了NetGPT的可行性。随后，作者强调了原生人工智能 （AI） 网络架构向 NetGPT 迁移所需的实质性基本变化，特别强调通信和计算资源的更深入集成以及逻辑 AI 工作流程的仔细校准。此外，鉴于边缘 LLM 预测趋势和推断意图的惊人能力，我们展示了 NetGPT 的几个副产品优势，这可能会导致智能网络管理\编排的统一解决方案。简而言之，作者认为 NetGPT 是一种很有前途的原生 AI 网络架构，提供了超越个性化生成服务外更多服务。

论文提出了一种基于大型语言模型（LLMs）的本地AI网络架构NetGPT，旨在超越个性化生成服务。通过有效的云边协作，作者在边缘和云端部署了代表性的开源LLMs（如GPT-2-base和LLaMA模型），并评估了它们的协同性能。此外，作者还强调了NetGPT所需的重大架构变化，并展示了基于边缘LLMs的人气预测和意图推断的性能。综上所述，NetGPT是一种有前景的本地AI网络架构，超越了个性化生成服务。

本论文提出了一种基于大型语言模型（LLMs）的本地AI网络架构NetGPT，旨在超越个性化生成服务。通过有效的云边协作，我们展示了NetGPT在个性化生成服务方面的可行性，并部署了代表性的开源LLMs（如GPT-2-base和LLaMA模型）在边缘和云端，评估了它们的协同性能。此外，我们还强调了NetGPT所需的重大架构变化，并通过展示流行度预测和意图推断的性能，提出了一种可能的网络优化的统一AI解决方案。然而，NetGPT的研究仍处于初级阶段，还有许多问题需要解决，如在终端上实现推理和微调、适应无线环境动态性的在线学习、提高LLMs的严谨性以及开发基于LLMs的物理层等。综上所述，NetGPT是一种有前景的本地AI网络架构，超越了个性化生成服务。

个性化生成服务的云边协作技术有何优缺点？

NetGPT是一种AI本地网络架构，旨在通过协作的云边方法实现个性化生成服务。NetGPT通过有效的云边LLM协同作用，展示了NetGPT在边缘和云端部署一些代表性的开源LLMs（例如GPT-2-base模型和LLaMA模型），并采用低秩适应性参数高效微调技术评估它们的协同性能的可行性。NetGPT通过深度C＆C集成和逻辑AI工作流等实质性架构变化，能够协调适当大小的功能LLMs在边缘和云端协同工作。具体而言，NetGPT可以利用收敛的C＆C在边缘部署较小的LLMs，而在云端部署较大的LLMs，从而有意义地实现协作云边计算，以提供个性化内容生成服务。

图 1. 实现 NetGPT 边缘协作的候选方法的图示。

面向 NetGPT 的 AI 原生网络架构需要哪些本质改变？为什么通信和计算资源的更深层次集成很重要？

NetGPT是一种AI本地网络架构，旨在通过协作的云边方法实现个性化生成服务。NetGPT通过深度C＆C集成和逻辑AI工作流等实质性架构变化，能够协调适当大小的功能LLMs在边缘和云端协同工作。具体而言，NetGPT可以利用收敛的C＆C在边缘部署较小的LLMs，而在云端部署较大的LLMs，从而有意义地实现协作云边计算，以提供个性化内容生成服务。 深度集成通信和计算资源的重要性在于，它可以提高网络资源的利用率和服务质量。通过更深入的集成，网络可以更好地协调和管理分布式计算和通信资源，从而提高网络的效率和性能。这对于实现个性化生成服务非常重要，因为这需要协调和管理分布式计算和通信资源，以确保服务的质量和效率。因此，NetGPT通过深度C＆C集成和逻辑AI工作流等实质性架构变化，能够协调适当大小的功能LLMs在边缘和云端协同工作，从而提供更好的个性化生成服务。

图2.面向NetGPT的协作云边缘计算框架。

创新点

本文的创新点在于提出了一种AI本地网络架构NetGPT，它通过协作的云边方法实现个性化生成服务。NetGPT能够协调适当大小的功能LLMs在边缘和云端协同工作，从而提供更好的个性化生成服务。此外，NetGPT还能够有效利用位置信息，以提高边缘LLMs的个性化提示完成效率。

图 3. NetGPT 的性能展示，用于个性化生成服务，具有边缘 LLM 辅助的快速完成功能。

关于意图推断

意图推断是用来感知客户的实时需求，以便在替换手动配置过程之前，能够更好地应用基于模板的服务于垂直业务。具体来说，意图推断可以帮助NetGPT更好地理解用户的意图和需求，从而生成更加个性化的输出。在实验中，研究人员使用GPT-2模型进行意图推断，并发现它可以显著提高生成服务的质量。

图 . 用于意图推断的 Edge LLM。