NEWS INFORMATION新闻动态

关注微信公众号

首页  >   新闻动态  >   行业动态

算力观察 | 养龙虾只是开始:AI智能体全天候运行,算力产业逻辑正在如何改写?

2026-03-16

近期,部署OpenClaw、OpenManus等自主智能体的现象在业内引发关注,有人戏称为“养龙虾”。这背后反映的一个趋势是,算力产业似乎正在经历一次周期转换——从“大模型预训练时代”逐步向“智能体运行时代”过渡。一个比较明显的变化是,算力需求正从过去“离线、脉冲式”的消耗模式,转向一种“在线、恒定式”的供给模式。以“智能任务交付”为核心的计算时代,正在缓缓拉开序幕。

640 (26).png

一、计算逻辑的变化:从静态走向动态

过去几年,算力产业的发展主要由大模型的“预训练”驱动,典型特征是短期内进行高强度的算力投入。随着智能体的增多,这种计算范式正在发生变化。

智能体的运行机制改变了算力消耗的方式。和传统大模型“一问一答、用完即止”的瞬时交互不同,智能体具备自主观察、规划决策、执行行动以及从反馈中学习的能力。这意味着AI正在从一个被动的静态工具,转变为一种7×24小时在线的存在,其持续运行本身就在源源不断地产生算力需求。

推理阶段的算力消耗正在成为新的关注点。从OpenAI的o1系列模型到开源项目OpenClaw,可以看到AI的“智能水平”不仅仅依赖训练阶段的资源堆砌,也开始更多地依赖“推理阶段计算”。智能体为完成复杂任务所进行的长链条逻辑推演,正在推动推理侧的算力消耗呈现上升趋势。

二、基础设施的演进:算力中心变得更复杂

随着智能体的规模化部署,算力需求结构也从单一的GPU堆砌,演变为包含“推理计算、环境模拟、模型训练、边缘处理”在内的复合型需求。

“推理需求超过训练”的临界点正在接近。根据德勤《2026科技、传媒和电信行业预测》的分析,2026年推理算力在整体AI计算中的占比可能达到66%,首次超过训练算力。为了适应这一变化,算力中心的目标也开始从“追求极致的瞬时算力密度”转向“追求极致的推理能效与吞吐”。

环境模拟算力正逐渐成为一种新的需求。智能体需要在接近真实的虚拟环境中进行验证和学习,这推动了对大规模模拟计算的需求。英伟达CEO黄仁勋在近期演讲中提到,未来的数据中心正在演变为“AI工厂”,其核心任务之一是持续生成Token并支撑AI系统的运行。与此同时,数字孪生和大规模模拟技术的发展,使得机器人和智能系统可以先在虚拟环境中完成训练和验证,再部署到现实世界。在这一过程中,计算平台既承担算力生产的角色,也为智能系统提供模拟和迭代的运行环境。

显存带宽的重要性正在上升。智能体处理长链条任务时会产生海量的KV Cache,这对芯片的显存带宽提出了更高要求。业内评估算力设备时,关注点正从单纯的浮点运算能力,转向显存带宽与首字延迟——这两项指标直接关系到智能体响应的敏捷度与流畅性。

三、商业模式的演变:从卖资源到卖任务

算力产业的底层商业逻辑正在发生变化,传统的通用云服务模式也在经历调整。

“智能体工时”可能成为一种新的计费单元。算力交易模式正从“按GPU小时租赁资源”向“按智能体工时或任务完成度付费”的方向演进。用户购买的将不再是抽象的芯片性能,而是“能够自主完成具体工作的数字员工”。

面向智能体的专业化推理云正在兴起。以CoreWeave、Nebius为代表的AI云厂商,通过软硬协同优化,在垂直领域构建起一定的技术壁垒。

端云协同的分布式算力架构也在发展中。智能体对本地实时数据与用户隐私的调用需求,正在推动AI PC与边缘计算节点的发展。未来的算力格局可能会是“中心训练、区域推理、本地执行”的分布式形态,海量异构算力资源有望在智能体的统一调度下被更充分地利用。

四、新周期的门槛:降本是关键

面对智能体时代带来的变化,产业界正在讨论如何构筑一个更友好的算力环境。

在技术层面,“软件定义算力”是一个方向。通过智能体操作系统与动态算力调度算法,有望降低复杂推理任务的算力成本。在基础设施层面,新建算力中心可以考虑针对高性能推理、长上下文处理进行硬件架构调优,国产高带宽显存芯片的适配与应用验证也在推进中。在评价体系层面,产业界正在探索以“任务完成度”为核心的新型标准,推动算力产业从“资源性能指标”向“任务交付质量指标”过渡。

如果说ChatGPT的出现证明了“机器可以思考”,那么今天“养龙虾”现象则让人看到另一个层面:机器需要持续运行才能创造价值。全球算力产业似乎正进入一个需求被进一步放大的新周期。在这个过程中,推理集群的规划、优化与建设水平,将在很大程度上决定单位智能体的运行成本能否降下来——这既涉及智算集群的大小、设备选型、存算比、网络架构等等,也关乎硬件架构对长上下文推理的适配程度,显存带宽、KV Cache优化、推理框架适配等具体技术环节的工程落地。产业界正在推进面向推理场景的标准体系与测评方法,以衡量什么样的集群才能真正支撑起智能体的规模化运行。如何能把这些问题解决好,将在很大程度上决定产业界能否拿到进入下一轮智能经济市场的门票。

联系人:

倪老师 13718335829 nihaozhen@caict.ac.cn

王老师 18601152291 wangyue2@caict.ac.cn

苏老师 13021269299 suhao@caict.ac.cn

算号新动图.jpg