[25'ODCC成果]AI 存储系统需求研究

自 2018 年 Transformer 架构诞生以来，人工智能领域迎来了爆发式增长，大模型参数规模从最初的 0.34B 迅猛跃升至 2024 年的 1.76T，短短六年时间，增长幅度高达 5200 倍。同期 PCIe 单向带宽仅由 15.75 GB/s 提升至 128 GB/s，增长 8.1 倍，形成“剪刀差”超过 100× 的结构性缺口。这一矛盾使得存储系统在 AI 工作负载下，面临着前所未有的压力，数据传输的 “高速公路” 难以匹配数据生产与处理的 “爆发式增长”。在此背景下，为了填补大模型发展与存储能力之间的鸿沟，促进 AI 产业的健康、可持续发展，ODCC 存储技术特设组共同编写了《AI 存储系统需求研究白皮书（2025 版）》。

《AI 存储系统需求研究白皮书（2025 版）》围绕 AI 系统的存储需求展开研究，指出随着大模型参数量从十亿级跃升至万亿级，AI 在训练、推理、本地部署阶段对存储带宽、容量和时延的需求呈指数级增长，PCIe 总线因带宽增速滞后成为系统瓶颈。报告基于 2018–2024 年间 47 篇顶会论文、12 家头部企业公开白皮书与合规测试、5.2 PB云厂商运维日志，首次提出“带宽赤字指数(BDI)”量化模型，系统刻画 AI 全生命周期八大阶段(数据摄取、预处理、训练、Checkpoint、微调、推理、边缘服务、终端离线)的存储压力，并给出“机柜—封装—光子—近存”四层协同技术路线图。

本成果将于今年9月的开放数据中心大会上正式发布!敬请期待!

李军

华瑞数鑫系统架构师

ODCC存储技术特设组联系人

高老师：17614721889(微信同号) 邮箱：gaowei1@caict.ac.cn

ODCC秘书处联系人

刘老师 13488889649(微信同号) 邮箱：liupengyun@caict.ac.cn