当前国内外厂商加速布局大模型,同步带动算力需求爆发式增长,驱动AI服务器行业高景气。
根据TrendForce数据,2023年AI服务器出货量近120万台,占据服务器总出货量的近9%,年增长达38.4%;预计2026年AI服务器出货量为237万台,占比达15%,2024-2026年复合年增长率约25.50%。
价格方面,通用服务器价格一般为几千美金/台,而主流AI服务器价格多在10-15万美金/台,单价也呈现指数型提升。
01 AI服务器行业概览
传统服务器主要以CPU为算力提供者,在运作的过程中需要引入大量分支跳转中断处理,不能满足AI时代的需求。
AI服务器由传统服务器演变发展而来,是专门设计用于执行人工智能、机器学习、深度学习等计算密集型任务的高性能服务器。
AI服务器可以通过收集数据、分析数据和模拟数据来学习如何有效地运行服务器,也可以根据不同的应用程序和用户请求来调整服务器的性能,从而提供更好的服务器性能。
相较于通用服务器具备更强的计算能力,AI服务器主要采用加速卡为主导的异构形式,更擅长大吞吐量的并行计算。
从服务器的硬件架构来看,AI服务器通常配备有高效能的中央处理器(CPU)、图形处理器(GPU)、张量处理器(TPU)或专用的AI加速器,以及大量的内存和存储空间。
AI服务器可以多种组合方式,搭载多个GPU、CPU以及大算力AI芯片。
在异构方式上,AI服务器可以为CPU+GPU、CPU+FPGA、CPU+TPU、CPU+ASIC或CPU+多种加速卡。
AI服务器分类方式:
随着服务器集成需求增量从 CPU 向 GPU 切换, AI 服务器系统集成市场迎来整体增量及格局变迁。
服务器行业演进历程:
资料来源:行行查
02 AI服务器产业链
AI服务器产业链上游主要是算力及零部件厂商,中游是服务器厂商,下游客户包括数据中心、政府、各类企业等。
AI服务器产业链:
资料来源:东海证券
AI服务器上游核心组件包含算力芯片GPU(图形处理器)、DRAM(动态随机存取存储器)、SSD(固态硬盘)和RAID卡、CPU(中央处理器)、网卡、PCB、高速互联芯片(板内)和散热模组等。
AI算力芯片
AI芯片是AI服务器算力的核心,也被称为AI加速器或计算卡。
是专门用于处理人工智能应用中的大量计算任务,针对AI算法(如深度学习等)进行特殊加速设计的芯片,占AI服务器成本约70-75%。
AI芯片在云端兼顾执行人工智能的“训练”与“推理”任务,而在终端主要负责执行“推理”操作。
训练芯片大多部署于云端,要求训练芯片应具有强大的单芯片计算能力;推理芯片大多会部署于云端和边缘侧,对算力的要求较低。
根据技术架构和应用需求,AI芯片可分为GPU、FPGA、ASIC芯片三大类。
资料来源:浪潮信息官网、宽泛科技、CSDN、51CTO、浙商证券、行行查
GPU
GPU是AI服务器的核心,约占近90%AI芯片市场份额,其价值量占AI服务器高达约70%。
GPU是专为处理大量的并行任务而设计的处理器,通常用于图形渲染、数据并行计算以及深度学习等领域,其通用程度高、软件生态丰富、制造工艺相对成熟。
英伟达是全球人工智能计算领域的领导者及全球GPU市场的绝对龙头。
JPR统计数据显示,从出货量角度来看,2023年在全球独立显卡市场,英伟达以80%的市占率处于绝对领先地位。
在2024年GTC大会上,英伟达推出全新Blackwell架构GPU芯片,基于台积电4nm工艺制造,并采用了双芯片设计,芯片间的互联速度高达10TB/s,总晶体管数量达2080亿个,同时搭配8颗HBM3e内存,内存容量达192GB,带宽达到8TB/s,相比Hopper架构平台提升明显。
英伟达芯片发布节奏:
资料来源:Semianalysis 援引英伟达
国产算力GPU的主要厂商包括华为昇腾、海光信息、寒武纪、平头哥、天数智芯、燧原科技、摩尔线程、壁仞科技、沐曦等公司。目前国产算力GPU芯片在推理场景应用较多且具备一定竞争力,部分产品的单卡指标和参数已经与英伟达产品接近或持平。
FPGA
FPGA芯片是可编程的芯片,允许开发者按需定制硬件,在需要特定算法优化时非常有用,可根据算法迭代调整硬件配置。
FPGA提供了一种介于GPU和ASIC之间的灵活解决方案,它的可编程性使硬件能够在算法迭代时进行有效优化,同时在开发周期上比ASIC更为短暂。
FPGA市场供给主要被美国赛灵思(AMD收购)、阿尔特拉(英特尔收购)两家企业垄断,市占率分别为49%和34%,此外美国的Lattice、Microsemi也占据一定市场份额。
国内主要布局厂商包括复旦微电(率先推出亿门级FPGA和PSoC芯片)和紫光国微(国内特种集成电路行业领先者,产品覆盖500多个品种)、安路科技(国内民用FPGA头部厂商)。
ASIC
ASIC是为特定AI应用定制的芯片,能在性能和能效上提供最佳的表现,该类芯片是固定设计,针对一种特定任务或算法进行了优化。
一般来说,ASIC的专业性强,性能高于FPGA。但是可编程性和灵活性较弱,且开发周期较长,且需达到一定生产规模才能实现成本优势。
主要AI芯片对比:
资料来源:智能计算芯世界、行行查
服务器通常具有大量的存储空间和内存,以便存储和处理大量的数据网络能力,附带高速和低延迟的网络连接,以便快速传输大量的数据。
当前AI服务器需求核心在于更大带宽的存储,因此带来存储技术路线变革。
HBM
AI服务器主要使用的存储器除了内存条和固态硬盘外,新增HBM搭配GPU使用,当前主流 GPU芯片的 HBM 用量提升。
HBM,即高带宽内存,是一种新兴的DRAM解决方案,解决了AI发展的存储墙问题。
可以理解为与CPU或SoC对应的内存层级,将原本在PCB板上的DDR和GPU芯片同时集成到SiP封装中,使内存更加靠近GPU。使用HBM可以将DRAM和处理器之间的通信带宽大大提升,从而缓解这些处理器的内存墙问题。
GPU中HBM提供存储:
资料来源:Applied Materials analysis
由于先进制程GPU、GDDR颗粒、2.5D/3D封装技术与产能局限,全球高端HBM呈现寡头垄断格局,三大供应链厂商为SK海力士、三星、美光。
2024年三家国际大厂都将主要量产HBM3与HBM3E,HBM3产品占有率将达到60%以上。
目前,SK海力士仍然是主要供应商,与美光一起,都使用1betanm制程,并且都已开始向英伟达供货。三星使用1alphanm制程,预计于年中开始交付。
此外,据TrendForce,HBM4预计规划于2026年推出,在堆栈的层数上HBM4除了现有的12层外,也将再往16层发展。
HBM主要生产商技术路线图(2022-2026):
资料来源:trendforce
HDD/SSD
AI服务器带来本地存储容量大幅提升,本地存储的选择方案包括HDD和SSD。
硬盘HDD满足大容量的长时存储需求,在服务器中用于数据缓存驱动和操作系统驱动,服务器硬盘一般与RAID(独立磁盘冗余阵列)卡搭配使用。
SSD采用闪存技术来存储数据,相比HDD具有更快的读写速度和更短的访问时间,适用于需要快速随机访问的应用中,如虚拟化、数据库和Web服务器。
数据中心级SSD已不再是一个硬盘,而是一个具备处理、缓存、计算、安全保护的小型系统。
SSD的主要硬件组件包括NANDFlash、主控芯片和DRAM,核心软件为企业级SSD的固件。
存储IC&存储模组供应链:
资料来源:华金证券、行行查
内存接口芯片
内存接口芯片是服务器内存模组的核心逻辑器件。
其主要作用是提升内存数据访问的速度及稳定性,满足服务器CPU对内存模组日益增长的高性能及大容量需求。
内存接口芯片处于服务器产业链上游,在DDR4及之前仅用于服务器,DDR5及之后也可供应PC、笔电,厂商出货与下游服务器采购周期密切相关。
内存接口芯片行业相对封闭,前期需要与内存厂商、服务器厂商进行广泛的互操作测试,认证壁垒高且周期较长,新进入难度较大。
自DDR4时代开始,行业集中度进一步提升,TI、Inphi等厂商相继退出市场,自此内存接口芯片市场参与者仅剩澜起科技(中国),瑞萨和Rambus三家。
03 AI服务器竞争格局
服务器制造商主要分为ODM厂商和品牌厂商。
服务器相关组件准备完成后,将由ODM厂商进行组装代工,再送至品牌服务器厂商处销售,或者是ODM厂商不通过品牌服务器厂商直接与下游(通常是CSP)客户合作,根据客户的需求进行定制化生产。
ODM代表厂商包括广达、超微、工业富联、英业达、纬创、Supermicro等,这些厂商与云端业者、上游芯片厂商深度绑定,有稳定的供应链、快速交付能力以及较低售价等优势。
基于低成本和快速部署服务器以建设大规模数据中心的考量,近年云端业者与ODM厂商合作日益频繁。
国内服务器品牌厂商在AI服务器市场占据优势。据IDC数据,2023年浪潮、新华三、宁畅销售额位居前三,占据70%以上的市场份额。
从2017年开始,浪潮AI服务器一直保持超过50%的市场份额,稳居市场第一。2022年浪潮AI服务器在AI性能评测竞赛MLPerf中获得49个冠军;2023年浪潮推出最新一代融合架构的AI训练服务器NF5688G7,较上代平台大模型实测性能提升近7倍。
新华三AI服务器覆盖各训练负载要求,主要产品型号包括R4900G5、R5300G5、R5500G5等,在MLPerf训练及推理测试中共斩获86项世界第一。
宁畅AI服务器如X640系列,支持新一代Ampere架构A100GPU,具备超强算力,性能可达每秒4亿亿次。
处理器方面,浪潮信息及宁畅产品主要通过搭建四代英特尔CPU+英伟达H800GPU超高算力组合,华为的昇腾系列和鲲鹏系列服务器主要搭载自研鲲鹏处理器及昇腾处理器,中科曙光搭载龙芯处理器满足大算力需求。
中科曙光是亚洲第一大高性能计算机厂商,AI服务器主要采用海光/寒武纪芯片,已和百度“文心一言”展开合作,为其产业化应用提供算力支持。
04 AI服务器应用端
AI服务器的下游应领域用包括云服务提供商(CSP)、运营商、政府、教育、金融等,其中全球几大CSP是AI服务器最主要的采购方,中美科技巨头是主要买家。
从采购份额来看,2023年北美四大云端供应商Microsoft、Google、Meta、AWS合计AI服务器采购量占比约66%。其中,又以搭载英伟达GPU的AI服务器机种占大头,其GPU服务器占整体AI市场比重高达6-7成。
全球 CSP 对高阶 AI 服务器需求占比:
资料来源:集邦咨询
中国AI采购量逐年增长,字节跳动、腾讯、阿里巴巴、百度等科技巨头占比靠前。
此外,三大运营商AI服务器招标进程加速,有望带动AI服务器需求持续释放。
中国移动2024年至2025年新型智算中心采购招标,计划采购人工智能服务器7994台及配套产品、白盒交换机60台。此外,中国电信于2023年10月采购了4175台AI服务器,并于2024年7月公告启动2024-2025年服务器集采,预估采购量为15.6万台,其中G系列,即国产化系列数量达到10.53万台,占比达到67.5%;2024年3月,中国联通发标采购2503台AI服务器。
整体而言,在国内数字基础建设及需求量不断上升的大背景下,我国AI服务器市场有望持续稳定发展。
网络安全学习路线&学习资源

网络安全的知识多而杂,怎么科学合理安排?
下面给大家总结了一套适用于网安零基础的学习路线,应届生和转行人员都适用,学完保底6k!就算你底子差,如果能趁着网安良好的发展势头不断学习,日后跳槽大厂、拿到百万年薪也不是不可能!
初级网工
1、网络安全理论知识(2天)
①了解行业相关背景,前景,确定发展方向。
②学习网络安全相关法律法规。
③网络安全运营的概念。
④等保简介、等保规定、流程和规范。(非常重要)
2、渗透测试基础(一周)
①渗透测试的流程、分类、标准
②信息收集技术:主动/被动信息搜集、Nmap工具、Google Hacking
③漏洞扫描、漏洞利用、原理,利用方法、工具(MSF)、绕过IDS和反病毒侦察
④主机攻防演练:MS17-010、MS08-067、MS10-046、MS12-20等
3、操作系统基础(一周)
①Windows系统常见功能和命令
②Kali Linux系统常见功能和命令
③操作系统安全(系统入侵排查/系统加固基础)
4、计算机网络基础(一周)
①计算机网络基础、协议和架构
②网络通信原理、OSI模型、数据转发流程
③常见协议解析(HTTP、TCP/IP、ARP等)
④网络攻击技术与网络安全防御技术
⑤Web漏洞原理与防御:主动/被动攻击、DDOS攻击、CVE漏洞复现
5、数据库基础操作(2天)
①数据库基础
②SQL语言基础
③数据库安全加固
6、Web渗透(1周)
①HTML、CSS和JavaScript简介
②OWASP Top10
③Web漏洞扫描工具
④Web渗透工具:Nmap、BurpSuite、SQLMap、其他(菜刀、漏扫等)
恭喜你,如果学到这里,你基本可以从事一份网络安全相关的工作,比如渗透测试、Web 渗透、安全服务、安全分析等岗位;如果等保模块学的好,还可以从事等保工程师。薪资区间6k-15k
到此为止,大概1个月的时间。你已经成为了一名“脚本小子”。那么你还想往下探索吗?
7、脚本编程(初级/中级/高级)
在网络安全领域。是否具备编程能力是“脚本小子”和真正黑客的本质区别。在实际的渗透测试过程中,面对复杂多变的网络环境,当常用工具不能满足实际需求的时候,往往需要对现有工具进行扩展,或者编写符合我们要求的工具、自动化脚本,这个时候就需要具备一定的编程能力。在分秒必争的CTF竞赛中,想要高效地使用自制的脚本工具来实现各种目的,更是需要拥有编程能力.
零基础入门,建议选择脚本语言Python/PHP/Go/Java中的一种,对常用库进行编程学习; 搭建开发环境和选择IDE,PHP环境推荐Wamp和XAMPP, IDE强烈推荐Sublime; ·Python编程学习,学习内容包含:语法、正则、文件、 网络、多线程等常用库,推荐《Python核心编程》,不要看完; ·用Python编写漏洞的exp,然后写一个简单的网络爬虫; ·PHP基本语法学习并书写一个简单的博客系统; 熟悉MVC架构,并试着学习一个PHP框架或者Python框架 (可选); ·了解Bootstrap的布局或者CSS。
8、超级网工
这部分内容对零基础的同学来说还比较遥远,就不展开细说了,贴一个大概的路线。感兴趣的童鞋可以研究一下,不懂得地方可以【点这里】加我耗油,跟我学习交流一下。
网络安全工程师企业级学习路线
如图片过大被平台压缩导致看不清的话,可以【点这里】加我耗油发给你,大家也可以一起学习交流一下。
一些我自己买的、其他平台白嫖不到的视频教程:
需要的话可以扫描下方卡片加我耗油发给你(都是无偿分享的),大家也可以一起学习交流一下。

结语
网络安全产业就像一个江湖,各色人等聚集。相对于欧美国家基础扎实(懂加密、会防护、能挖洞、擅工程)的众多名门正派,我国的人才更多的属于旁门左道(很多白帽子可能会不服气),因此在未来的人才培养和建设上,需要调整结构,鼓励更多的人去做“正向”的、结合“业务”与“数据”、“自动化”的“体系、建设”,才能解人才之渴,真正的为社会全面互联网化提供安全保障。
特别声明:
此教程为纯技术分享!本书的目的决不是为那些怀有不良动机的人提供及技术支持!也不承担因为技术被滥用所产生的连带责任!本书的目的在于最大限度地唤醒大家对网络安全的重视,并采取相应的安全措施,从而减少由网络安全而带来的经济损失!!!