《大模型推理集群加速技术研究报告》研讨即将启幕——探寻超长上下文推理的加速新范式

当前，随着大模型Agent应用快速落地，超长上下文、长对话记忆等推理场景持续拓展，推理集群的性能瓶颈正逐步从算力资源转向KV Cache流量的网络协同与存储交互环节。因此，构建统一的推理集群加速体系、明晰算存网协同交互范式，是保障推理算力高性能稳定运行、提升推理资源整体利用效率的关键基础。

《大模型推理集群加速技术研究报告》

编制工作启动

推理集群加速体系在产业落地过程中，仍在概念定义、功能边界、异构适配、交互范式、标准规范建设等方面存在诸多分歧与挑战。为进一步推动推理加速技术创新发展，打通算存网协同链路，中国信通院牵头率先启动《大模型推理集群加速技术研究报告》编制工作，并拟于11月13日在北京举办专题研讨。本次研讨会聚焦推理集群场景，围绕KV Cache、算存网协同等推理集群加速核心技术开展深度技术研讨，旨在凝聚产业共识，对齐演进方向与交互范式，为破解超长上下文推理加速的关键瓶颈提供清晰指引，夯实智能推理算力高质量发展的底座。

未来，中国信通院将持续深耕AI算力基础设施领域研究，依托开放数据中心委员会(ODCC)，持续跟踪Agent、超长上下文等推理负载的演进特征，沉淀典型架构方案与产业实践经验，携手产业链上下游主体，共筑AI推理算力基础设施高质量发展新生态!诚邀产业各界伙伴参与交流研讨。

研讨基本信息

时间：11月13日 下午2:00

地点：北京・中国信息通信研究院(花园北路52号)

报名方式：请有意向参与研讨会的单位及专家于11月11日18:00前扫描下方二维码报名

联系方式：

孙老师 15732071244 suncong@caict.ac.cn

高老师 17614721889 gaowei1@caict.ac.cn

王老师 13701380040 wangshaopeng@caict.ac.cn