2024年人工智能SSD采购容量估计将超过45 EB

市场报告摘要

• 市场背景：根据TrendForce公司的报告，由于人工智能（AI）服务器客户对AI应用的企业级固态硬盘（SSD）需求激增，过去两个季度中企业级SSD订单显著增加。
• 上游供应商动态：上游供应商正加快工艺升级，并计划推出2YY产品，预计将于2025年开始量产，以满足AI应用领域对SSD不断增长的需求。

企业级SSD在AI领域的应用

• 价格变动：由于AI服务器客户对企业级SSD的需求增加，从2023年第四季度到2024年第三季度，此类SSD的合约价格已上涨超过80%。
• 在AI模型训练中的作用：在AI模型训练过程中，SSD主要用于存储模型参数，如权重和偏差等。此外，SSD还用于创建检查点以定期保存AI模型训练进度，以便在中断时能够恢复到特定点。
• 在AI推理服务器中的作用：AI推理服务器中的SSD用于调整和优化AI模型。SSD可以实时更新数据以微调推理模型结果。AI推理主要提供检索增强生成（RAG）和大型语言模型（LLM）服务。SSD存储RAG和LLM使用的参考文档和知识库，以生成更具信息性的响应。随着生成的信息越来越多地以视频或图像形式展现，所需的存储容量也在增加，使得高容量SSD（如TLC/QLC 16 TB或更大容量）成为AI推理应用的首选。

SSD需求增长预测

• AI SSD需求增长率：2024年，AI服务器SSD市场需求显著增加，尤其是16 TB以上的产品自2024年第二季度开始。随着NVIDIA H100、H20和H200系列产品的推出，客户进一步加大了对4 TB和8 TB TLC企业级SSD的订购力度。据TrendForce预测，今年AI相关的SSD采购容量将超过45 EB。
• 未来几年的增长预期：预计未来几年内，AI服务器将推动SSD需求的平均年增长率超过60%，AI SSD需求可能从2024年占总NAND闪存消费量的5%增长到2025年的9%。
• 高容量SSD发展趋势：AI推理服务器将继续采用高容量SSD产品。供应商已经开始加快工艺升级，并计划从2025年第一季度开始大规模生产2YY/3XX层的产品，最终生产出120 TB的企业级SSD产品。

结论

随着AI技术的快速发展和AI服务器市场的扩大，企业级SSD在AI领域的应用越来越广泛，特别是高容量SSD的需求正在迅速增长。上游供应商正在加快工艺升级和技术进步，以满足日益增长的市场需求。