2023AIGC与存储最新发展趋势分析(上)

前些天在闪存峰会上做了报告演讲，不少朋友希望再聊一聊，因此整理了一下。

2023：生成式AI与存储最新发展和趋势分析（上）

上海市计算机学会 存储专委 陈雪菲

        生成式AI的热潮在短时间内席卷全球，以一种势不可挡的趋势迅速出圈，在某一时间段，似乎出现了“除了IT行业，人人都是AI专家”的盛况。这一轮如火如荼的全民AI热潮迸发至今，业已过半载，待最初的烟花绚烂散去，现如今又情形何如?

1．独角兽OpenAI倒闭倒计时？！

        2023年8月，印度媒体Analytics India Magazine刊载了一份报道，宣称OpenAI有可能在2024年底破产，理由有三：用户量见顶后快速流失，日均70万美元的高昂运营成本和开源对手如Llama2的强大压力。（110亿的微软投资应该能够粉碎这一流言，以2.5亿的年运营成本算，还能支撑40年，但前提是微软投资的确已到账且没有业绩考核等撤出条件）。同时，“ChatGPT变笨”的说法也在网上有所流传，一些用户说AI给出的反馈并不像一开始那么惊艳，有时答案里埋藏了一些谬误，有时甚至会严重到行业用户认为“不可用”。另外，相比GPT-3.5，有观点认为GPT-4并没有带来准确率上面质的提升，按照监管评估机构News Guard专家的说法，反而有所下降，尤其是识别虚假信息能力变低。最后，无论是GPT-3.5还是GPT-4，隐私保护的技术也一直没有明显进展，而这也是大规模应用不可回避的重要问题。

图1： OpenAI每月用户访问量

2. 大模型到天花板了吗？

        一部分业界专家认为到GPT-4为止，当前的大模型也许已经成长到头了。技术上而言，有两个问题已经不可回避：首先，语料用尽是一个重要原因，“人类历史上创造出的优秀资源就这些了”虽然现在各种UGC，MGC网络数据总量仍在时刻增加，但是大多都没有带来新的信息量，反而大量无用甚至是误导的谬误信息充斥其中，真知灼见难觅。无论OpenAI也好，Google或是Meta也好，用于训练大模型的数据语料没有量或者质上的根本差别。其次是模型本身的技术限制，一味单纯追求规模提升似乎效用在递减，Meta首席人工智能科学家Yann LeCun（杨乐春）提出：“ChatGPT背后的生成式人工智能技术已进入了死胡同，有太多局限性无法突破”。即使GPT-5出现，也不会带来颠覆性的进化。这位来自法国的图灵奖得主是CNN之父和深度学习三巨头之一，同时也可能是地球上最懂AI的人之一。但也有不乏继续坚持在规模上做大的参与者，例如Google计划在秋季发布的下一代大模型Gemini，据说参数量还会翻倍。

3.竞争格局如何激烈？

        通用大模型的头部竞争是非常激烈的，先是Google以LaMDA、PaLM 、PaLM 2发起挑战，然后是Meta的Llama 2，OpenAI的强劲竞争对手一直都在，并且在各方面性能上没有出现明显差距。虽然公司名字里有Open，但是迫于各种压力，OpenAI选择闭源并收费的方式提供服务，而Meta很快用开源和可定制两大利器进行了有效的进攻，这迫使OpenAI不得不在8月宣布  GPT-3.5支持定制，有测试表明，经过微调的GPT-3.5 Turbo版本在某些任务中甚至可以超越GPT-4。

        23年5月，Google内部文件泄露，“我们没有护城河，OpenAI也没有”，而两月后，23年7月的一份分析材料指出，GPT-4在技术上是可复制的，未来中美两国的互联网大厂和AI头部企业，都会有能力构建出和GPT-4一样，甚至是超过GPT-4的模型。