第四次科技革命!人工智能算力发展趋势报告 2024

一、“普慧”是未来算力的核心特征

“数字经济的基础设施”和“通用人工智能的核心动力”。

因此,未来算力发展趋势将具备两大特征:算力将在两个关键维度上加速发展:普适(inclusive) 与智慧(intelligent) 。

“普适”意味着算力将成为人人可得(Affordable) 、人人可用 (Available) 、人人适用(Adaptable)的“3A”型基础资源,是发展数字经济的基础。

“智慧”意味着算力将具备自适应(Self-adapting)、自学习(Selflearning) 、自进化(Self-evolving) 为代表的“3S”智能,是实现通用人工智能广泛应用、推动数字经济迈向更高阶段的必然要求。

在这里插入图片描述

图 4 |“普慧”算力概念示意图

提出“普慧”算力(inclusive and Intelligent computing)不仅是面向未来的重大选择,更是立足当下的深刻思考。

当前,算力发展面临着巨大的挑战,体现为传统计算架构缺乏并行管理架构、效率低、能耗高,已然无法适应爆发式增长的算力需求和愈发复杂的计算任务。

CPU、GPU、ASIC、FPGA、NPU、DPU等“XPU芯片的出现使得算力日趋多元化,传统x86架构之外,ARM、RISC-V、MIPS等多种架构也正在被越来越多的芯片公司所采纳,异构计算随之加速崛起。

但是,业界对于未来计算架构的发展方向一直存在争论在实际商业环境中,大部分企业选择根据业务场景、数据类型、支出成本选择合适的计算架构,如何就新型计算架构的技术路线、标准体系达成行业共识成为必答题。

针对现实挑战,“普慧”算力强调立足实际使用需求,安全合理地使用数据,以高效的算法,实现可靠的数字化、智能化效果。

二、算力是数字经济的基础设施

当今世界正经历百年未有之大变局,数字经济正成为重组全球要素资源、重塑全球经济结构、改变全球 竞争格局的关键力量,算力“地基”夯实与否,关系到数字经济这座“大厦”能否巍然屹立。

在这里插入图片描述

图5| 算力全方位支撑数字经济

算力成为衡量数字经济发展关键指标。全球范围内来看,算力对数字经济规模乃至GDP总量的带动作用愈发明显,信通院研究得出,2016-2021年,全球算力规模平均每年增长34%,数字经济规模和GDP年分别增长8%和4%。

作为全球数字经济主导力量之一7,中国自2012年以来数字经济增速已连续11年显著高于GDP增速,2022年数字经济规模更是首次突破了50万亿元。

各级政府正积极推动数字经济转向深化应用、规范发展、普惠共享的新阶段,其中,普惠共享强调数字经济发展成果更广泛、更公平地惠及全体人民,要求在大规模扩张算力规模的基础上,让算力成为人人用得起、用得好的基础性资源,加强算力智能调度和灵活部署,使算力与算法、数据、应用资源相互协同,向经济社会和产业发展各领域厂泛深入渗透,促进数字技术、应用场景和商业模式融合创新,实现全要素生产率提升。

算力与数字产业化互为支撑。

一方面,算力底层融合了集成电路、服务器、数据中心、云计算、人工智 能等数字化技术。例如,云计算将算力资源池化,推动算力成为覆盖端、边、云、网全架构场景的泛在 能力,人工智能促进算力升级,算力与多模态感知技术融合实现智能化应用。

另一方面,随着数字产业 化由规模化发展转向高质量发展,大到5G通信、卫星互联网,小到出行线路规划、外卖订单系统优化、 影视特效制作,都离不开算力支撑。

从超级计算机、数据中心、云计算中心,到智能手机、智能电视等 各类智能终端,算力专用性、可拓展性不断增强,有望与各类信息化技术相结合,充分实现性能功耗的 平衡,广泛融入各类科研机构和大中小科技企业的产品业务之中,全面推动数字经济发展。

算力加速产业数字化“数实融合”。随着实体经济企业借助算力不断将产品、服务和业务流程转化为数 据,数据要素深入渗透实体经济肌理,产业数字化转型的关键任务从“数字化”转变为“数智化”。

在 “数智化”阶段,决定数据要素价值的不再是如何生产数据,而是如何深入挖掘数据价值,不仅要持续 消耗巨量算力,还对算力的质量、效率提出了更高要求。

质量方面,数字化场景越复杂、数据颗粒度越 精细、决策精确度要求越严格,就越需要合理分配算力资源,借助智慧管理系统、智能调度等智能化技 术,全方位统筹协调算力服务的部署位置、实时状态、负载信息、业务需求,算力将以更加智慧的方式 支撑产业数字化;效率方面,智能终端和传感器的广泛部署使得边缘算力需求更加显著,通过云-边-端协 同计算架构将算力下沉到数据源头或关键价值交付点,算力将成为实时流动、快捷可取的资源,高效融 入实体经济的方方面面。

三、算力是通用人工智能的核心动力

对AGI发展来说,数据、算力、算法三大核心要素中,算力向下扎根于数据,向上支撑着算法,将是驱动 AGI发展的核心动力。

深度学习出现之前,用于AI训练的算力增长大约每20个月翻一番,基本符合摩尔定律;深度学习出现之 后,用于AI训练的算力大约每6个月翻一番;2012年后,全球头部AI模型训练算力需求更是加速到每3-4 个月翻一番,即平均每年算力增长幅度达到惊人的10倍;目前大模型发展如火如荼,训练算力需求有望 扩张到原来的10到100倍8,算力需求的指数级增长曲线将更加陡峭。

然而,这也意味着发展AGI需要巨大的算力成本投入,以构建GPT-3为例,OpenAI数据显示9,满足GPT- 3算力需求至少要上万颗英伟达GPU A100,一次模型训练总算力消耗约3,640PF-days(即每秒一千万亿 次计算,运行3,640天),成本超过1,200万美元,这还不包括模型推理成本和后续升级所需的训练成本。

合理且高效地为通用人工智能注入源源不断的核心动力,已逐渐成为产业界共识,算力发展将满足:

  • 大规模: 在大数据、大模型、大算力的相互作用下,全球人均算力有望实现G-T-P三连跳,即从 GFLOPS级别跃升到TFLOPS再到PFLOPS10,乃至更高级别。罗兰贝格测算得出11,当前 全球人均算力12约在100-2,500GFLOPS的量级,而当AGI目标基本达成时,智能场景会实 现所有行业的全覆盖和大部分行业的高渗透,全球人均算力将超过29TFLOPS。正如工业 经济模式下,人均用电量和人民生活质量成正比,在数字经济时代,人均算力也将会是 衡量人民智能化生活水平的重要指标,算力需同电力一样成为规模化发展的公共资源。

  • 低成本:放眼全球,除了几大科技巨头外,几乎没有企业承担得起大模型训练的高昂成本,算力 不实现普惠化,任何关于AI和科技革命的畅想都将是空中楼阁。目前偏大规模的算力需求 以B端和G端为主,算力降本需求十分迫切。算力降本并非减少投入,而是利用有限资金 获取更多元的算力,同时优化算力资源配置和利用效率。如何实现算力投入产出比最优, 给算力供给侧带来挑战的同时,也将催生大量产业机遇。

  • 低能耗:数据中心作为大规模算力聚合、调度、释放的重要节点,是各国算力发展的重中之重, 但也存在着严重的碳排放问题,随着“碳中和”目标成为全球共识,大部分国家都提出 了较为严格的数据中心节能减排要求。电能利用效率(PUE)、水资源利用效率 (WUE)、碳利用效率(CUE)等指标已成为各国建设绿色数据中心的重要抓手,例如, 中国工信部明确提出“到2023年,新建大型及以上数据中心PUE降低到1.3以下,严寒和 寒冷地区力争降低到1.25以下”13,未来,只有绿色低碳算力才符合人类社会可持续发展 的愿景要求。

四、普适、智慧相融合,算力将无处不在

“普适”强调以自然交互的方式提供算力,算力将成为人人可得(Affordable)、人人可用 (Available)、人人适用(Adaptable)的“3A”型基础资源;“智慧”强调以认知驱动的方式提供算 力,算力将具备自适应(Self-adapting)、自学习(Self-learning)、自进化(Self-evolving)为代表 的“3S”智能。对于构建“人-机-物”三元融合系统来说,普适和智慧缺一不可,算力终将无处不在。

在这里插入图片描述

图6| 未来算力将在普适和智慧两个维度上加速发展

‍‍

普适计算的目标在于让人们即取即用算力而不必见,要求计算设备感 知环境变化,并根据环境变化自动调整算力供给方式,人只需少量干 预甚至不用干预算力管理、调度、控制、提供、运维的过程。从技术 落地角度来讲,这意味着计算需要“以人为中心”,人们可以通过可 穿戴设备、移动设备、小型计算设备等“随时、随地、随需”地获取 算力资源,算力表现出大规模、低成本、通用化、共享化等特征。

20 世纪末,以IBM为代表的IT巨头公司已经意识到普适计算将取代主机计 算和桌面计算,成为下一代主流计算模式,纷纷布局普适计算,随着 小型计算设备制造、小型计算设备操作系统、移动通信等相关技术日 渐成熟,普适计算逐步走向落地。

普适”一词来自于普适计算,1991年由施乐公司 PALOATO研究中心的首席科学家Mark Weiser在The Computer for the 21st Century一文中提出14,Mark Weiser认为最深刻的技术是那些已经消失的技术,计算需 要融入到日常生活用品中,使人们能够自然地和计算机进 行交互。

智慧

当前,算力虽然融入了人们的生活空间,人却很难自如地融入物理信 息系统(CPS, Cyber Physical System)。具体体现在,人们在使用 算力时常常会问“我要如何使用相关硬件和应用”才能满足实际需求, 尤其对于企业类客户来说,在解决场景化需求时,问题可能更为棘手。

让人们能随需使用算力而不必问,关键就在于强化算力的“智慧”特 征,使算力更自主地理解需求、强化学习、深度思考,即算力应具备 自适应、自学习、自进化为代表的“3S”智能。例如,可以让机器模 拟人脑神经元的思考过程,推动算力由“感知人”转向“认知人”; 通过多模态学习让机器掌握更全面的信息,增强算力认知的广度;通 过协同训练算法让机器学会多角度思考,增强算力认知的深度。

普适”和“智慧”有机融合

从PC互联网、移动互联网、产业互联网再到元宇宙,实际上是不断构 建“人-机-物”三元融合系统(HCPS, Human–Cyber–Physical system)15的过程。在HCPS中,物理空间分别与信息空间、社会空间 源源不断地进行着信息交互,信息空间与社会空间则进行着计算属性 和认知属性的智能融合,因此,算力的“普适”和“智慧”必然会走 向融合,在这一过程中,“绿色”“安全”“可信”等全新特征也将 融入“普慧”算力的内涵之中,驱动“人-机-物”更加紧密融合,算 力最终将无处不在。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值