生成式AI (Generative artificial intelligence, GenAI or GAI)

安利一个新加坡南洋理工大学的论文总结 The Age of Generative AI (hongyangdu.github.io)
一、什么是生成式AI

Generative AI, sometimes called gen AI, is artificial intelligence (AI) that can create original content—such as text, images, video, audio or software code—in response to a user’s prompt or request. (IBM)

比如说我们之前用到的AI模型是给它一些data，它在分析这些data的基础上完成下游的具体任务，比如说对这些data进行分类（判断猫狗）、回归预测（分析房价和哪些因素相关以及相关的程度）、聚类（无监督学习，就是没有事先定义的label或者sample）

生成式AI最大的突破就在于它的任务是根据用户的提示或者需求生成data (eg. ChatGPT，现在OpenAI新推出的Sora已经可以根据文字生成视频了)

这就相当于把机器学习的进程又推进了一步，原来是通过学习旧的知识能够应用到类似的问题上（你在学校通过上课、做作业的长期学习最后可以在期末考试里取得好成绩），现在是已经掌握这个知识了并且可以自我创造（你已经可以根据老师给的考点自己出题了）

PS. 人类和动物的最大区别在于会生产和使用工具->感觉人工智能取代人类真的指日可待了。。。NVIDIA股价感觉又要涨了。。。虽然有时候ChatGPT生成的文本内容真的没有办法细看，但是这一系列工具还真的是提供了很多便利的

二、GAI和大模型的关系？
其实一直有点迷惑，好像两者经常同时被提起，但是并不明白它们之间的关系

Improvements in transformer-based deep neural networks, particularly large language models (LLMs), enabled an AI boom of generative AI systems in the early 2020s. These include chatbots such as ChatGPT, Copilot, Gemini and LLaMA, text-to-image artificial intelligence image generation systems such as Stable Diffusion, Midjourney and DALL-E, and text-to-video AI generators such as Sora. (Wiki)

Wiki百科这样描述的话，它们的关系和区别就很明确了：

1. GAI是一种想法；
2. 大模型是一类方法的统称，因为需要海量的训练数据而得名，最初提出的时候是为了用于处理和产生文本，现在已经向多模态大模型发展了，可以扩展到图像、视频等领域；

所以说大模型是实现GAI这种想法的具体方式，具有里程碑意义的GAI模型主要有：

• Variational autoencoders (VAEs), which drove breakthroughs in image recognition, natural language processing and anomaly detection.

• Generative adversarial networks (GANs) and diffusion models, which improved the accuracy of previous applications and enabled some of the first AI solutions for photo-realistic image generation.

• Transformers, the deep learning model architecture behind the foremost foundation models and generative AI solutions today.

Transformers现在应该是最热门的，ChatGPT的大模型就是基于这个结构搭起来的

三、GAI在网络通信领域的应用

这一点也很迷惑，网络优化还挺复杂的，GAI是能生成对应的优化决策吗？
感觉应该是从这几个方面：预测网络流量、调整资源分配、监测网络故障
但是不太明白都是基于语言模型交互吗？比如说我给一个调整网络拓扑的指令，GAI就自动生成拓扑图或者配置拓扑的文本指令？

论文太多了。。。让我找时间再研究一下吧。。。不得不说这个方向真还挺有意思的，以后可以搞一个NetGPT，之前去蹭了一个车联网会议就有学者展示了它们的TrafficGPT（和ChatGPT一样通过对话的方式规划道路交通，具体的不太记得了，当时的现场演示出了点问题，没有完全展示出来），就是感觉coding会很难实现。。。哭晕