NEWS INFORMATION新闻动态

关注微信公众号

首页  >   新闻动态  >   工作组动态

存算网协同·智启推理 |《大模型推理集群加速技术研究报告》研讨会成功召开!

2026-11-16

AI Agent 规模化应用,KV Cache 容量与跨节点流量持续增长,推理传输瓶颈凸显。为破解超长上下文推理加速难题、凝聚产业共识,中国信息通信研究院于11月13日在北京组织召开《大模型推理集群加速技术研究报告》专题研讨会。本次会议聚焦大模型推理集群加速核心技术开展深度研讨,来自百度、中国移动、中国电信、无问芯穹、工商银行、绿算计算、盛科通信、燧原科技、奇异摩尔、云豹智能、远图未来、华为等单位的专家参与研讨。

会议立足推理集群场景,与会专家结合产业落地实践与前沿技术发展趋势,围绕异构PD分离、KV Cache分层存储、存储入参等关键技术方向,深入剖析当前推理集群从“算力瓶颈”向“数据与存储瓶颈”迁移的关键症结,就推理加速的技术路线、可优化环节与评估方法提出了建设性意见,为明晰推理集群加速技术演进方向、完善报告研究内容提供了重要参考。

6401.jpg

下一步,中国信息通信研究院将牵头推进《大模型推理集群加速技术研究报告》编制工作,系统梳理典型架构方案与产业实践,形成技术趋势与产业研判,为后续相关标准制定奠定基础;同时依托开放数据中心委员会(ODCC),打造覆盖大规模集群加速等核心方向的智算领域技术与产业交流平台,汇聚产业智慧,推动智算领域技术与行业场景适配,推进智算领域标准与评测体系的制定与落地,培育健康可持续的大模型推理集群加速技术产业生态,为推理集群高质量发展夯实底座。

联系人:

孙老师  15732071244 suncong@caict.ac.cn

孙老师  18810475791 sunjiazheng@caict.ac.cn

高老师 17614721889 gaowei1@caict.ac.cn

6402.jpg