ASC分享 | 中国电信天翼云李家伟：以存为基，向智而行——面向AI的天翼云存储能力建设

近日，在 ODCC 先进存力大会上，中国电信天翼云公有云事业部云服务器产品线总监李家伟作了题为《以存为基，向智而行：面向AI的天翼云存储能力建设》的专题分享，围绕存储架构、训练加速、推理加速、AI 应用四大方面，系统介绍天翼云存储面向 AI 的存储能力建设。

李家伟

中国电信天翼云公有云事业部云服务器产品线总监

存储架构

天翼云AI存储产品架构概览

天翼云 AI 存储主要由 ZOS 对象存储、HPFS 并行文件存储、HPKV 大模型推理缓存三大产品构成，覆盖模型训练、模型推理、AI Agent 应用全业务链路。产品矩阵覆盖模型训练、推理服务、Agent 应用全链路场景，可提供毫秒级访问时延、百万级 IOPS 与百 PB 级超大容量，满足 AI 业务从数据预处理、模型训练、线上推理到智能 Agent 落地的一站式存储需求。

训练加速

大模型训练场景下存储加速体系构建

在训练场景，大模型给存储带来容量、性能与效率等多重挑战，天翼云推出高性能并行文件存储 HPFS，支持 NVIDIA、昇腾等异构算力，单节点带宽突破百万 IOPS，并具备系统级、节点级、I/O 级三级高可靠。

在技术层面，HPFS 通过多项创新构筑领先性能：一是 Range Lock，支持多客户端并发读写同一文件，大幅降低锁竞争，适配大模型训练中多 GPU 并发读取数据集的场景;二是端到端 RDMA，精简 IO 路径，降低 CPU 占用，充分释放算力侧资源;三是 IO 免拷贝，前后台 IO 共用数据空间，减少主机侧数据拷贝开销，显著增强海量数据集加载的吞吐能力;四是端到端 NVMe，相比 SAS SSD 随机读性能翻倍，整体时延降低 50%。

推理加速

大模型推理场景下存储加速能力优化

在推理场景，KV Cache 已演进为大模型服务的核心基础设施，天翼云推出大模型推理 KV Cache 加速组件 HPKV，对接 GPU/NPU 异构算力，提供多级缓存、预取与全局共享能力。

HPKV 具备三个核心能力：一是单节点敏捷部署，适合小规模推理快速上线;二是集群级高性能共享，提升多实例缓存命中率;三是高性能存储池弹性扩展，破解长上下文容量受限痛点。通过“以存代算”，HPKV 在长文本、多轮对话、高并发场景中，较原生方案可将首 Token 时延降低 85%，同等业务量下算力成本降低 50%，整体性能提升 4 倍。

AI应用

面向AI应用场景的存储服务能力提升

在 AI 应用场景，向量数据规模正从亿级迈向百亿级，向量存储从"可选组件"跃升为 AI 数据基础设施，天翼云推出 ZOS-Vector 向量存储桶，为 RAG、AI Agent 与企业知识库等应用提供可靠向量底座，让每个用户都能简单、高效、低成本地使用海量向量数据，核心亮点包含三点：一是可扩展性，基于分布式Journal实现存算分离的分布式架构，有效解决存算紧耦合导致的扩展受限难题 ;二是低成本存储，基于数据智能调度系统实现分层存储架构，打造向量存储的低成本优势;三是易用性，复用ZOS特性，具备多租户细颗粒度权限控制与按需付费能力。

以存为基，向智而行。天翼云存储将以毫秒级时延、百万级 IOPS 与百 PB 级容量，为 AI 时代筑牢高性能、高可靠、低成本的数据底座。