NEWS INFORMATION新闻动态

关注微信公众号

首页  >   新闻动态  >   工作组动态

【ODCC技术】弹性异构边缘一体化平台强化智能体安全

2026-06-03

当OpenClaw成为业界关注的热点后,其存在的各种安全隐患也相继暴露出来,各个企业相继禁止在办公设备以及办公网络中部署OpenClaw。智能体安全,成为伴随第三轮AI浪潮发展所带来的新的安全挑战。

一、AI产品存在“三不可”内生缺陷,

即不可解释性,不可判识性,不可推论性。

(一)不可解释性:决策黑箱,逻辑不可溯源

不可解释性指AI模型的决策路径、权重依据、推理逻辑无法被人类精准拆解、复现与溯源。传统软件依靠显性规则运算,步骤清晰、因果明确;而大模型与深度神经网络依靠海量参数概率拟合生成结果,属于“统计关联”而非“逻辑推导”。

开发者与使用者只能观测输入与输出,无法完全掌握模型中间决策过程。由此带来算法偏见隐性存在、关键场景决策无法举证、事故责任难以界定、模型缺陷难以精准修复等问题,直接制约AI在医疗、金融、司法、自动驾驶等高可信场景的深度应用。

(二)不可判识性:无自省能力,真伪无法自知

不可判识性是指AI不具备元认知与自我校验能力,无法自主判别自身输出内容的真伪、对错、虚实。

AI只会根据训练分布生成“概率最优答案”,不会基于事实、常识、逻辑进行真伪核验。这是AI幻觉、虚构论据、错误推理、一本正经输出虚假信息的底层根源。模型无法识别自身错误,也无法主动抵御提示注入、对抗样本、数据投毒等攻击,导致输出结果看似通顺、实则不可靠,存在极强的隐蔽风险,极易误导决策与舆论。

(三)不可推论性:泛化脆弱,场景不可迁移

不可推论性即AI结论不具备通用推演与举一反三能力。人类学习可以提炼底层规律、迁移至未知场景,而AI的有效性高度依赖训练样本分布,仅适配见过的场景。

一旦出现环境扰动、变量偏移、全新工况、边缘异常场景,模型准确率会急剧衰减,出现推理失效、判断错乱。该缺陷导致AI泛化能力弱、场景适配脆弱、规模化复用成本高,无法满足工业控制、高危作业、关键基础设施等高稳定性要求。

同时,大模型、Agent智能体、插件互联等AI架构持续迭代,导致系统安全暴露面持续扩张。数字实体规模化涌现,攻击暴露面呈指数级拓展;智能体与高权限关联,核心风险可能造成全域渗透;插件供应链风险、知识库数据安全风险持续遭受威胁。这大幅抬高了智能体安全管控难度。

二、智能体技术发展驱动下的安全防护方案演进

当聊天机器人为AI的主要应用时,通过在安全网关中增加的“内容安全模块”以及“数据安全模块”,加强对AI的防护,衍生出AI安全网关类产品。如今为了应对智能体带来的安全风险,针对智能体的特点,需要在现有的AI安全网关中增加“身份管理模块”、“行为管控模块”等。

640.png

图1  智能体安全防护方案演进示意图

三、弹性异构边缘一体化平台方案

AI应用的快速迭代,对于安全防护产品的功能需求也在不断增加。传统的安全防护产品的形态,多为功能化硬件产品,或者虚拟化产品。对于功能化硬件产品,通过增加新的专用设备,实现新的安全功能,如身份管理、行为管理等。新设备的加入,需要调整现有的部署、组网、运维方式,工程量较大。而虚拟化的部署方式,需要确保预留了足够的计算、网络以及存储资源,以运行新的功能模块,如果在初次部署时,没有明确的升级或者扩容规划,会造成资源的浪费。

理想的升级方式是,新功能与新的硬件资源一同升级或扩容。

640 (1).png

图2  弹性边缘一体化平台升级路径示意图

根据这个需求,英特尔推出了弹性边缘一体化平台的方案。该方案适用已有的服务器平台,通过PCIe插槽扩展服务卡(Phantom Lake Service Card),为整机增加算力的同时部署新的业务模块。服务卡使用主机共享的存储以及其他硬件资源,实现硬件资源的最大化利用。

640 (2).png

图3  弹性边缘一体化平台服务器资源扩展示意图

PTL服务卡(Phantom Lake Service Card)为单宽或双宽(10核及以上型号),易于部署且具有多种规格,满足不同的需求。每卡运行独立的操作系统,可独立部署单独的业务模块并通过PCIE与主机的业务模块进行交互,强化智能体安全防护能力。

640 (3).png

图4  PTL服务卡(Phantom Lake Service Card)

四、总结与展望

总体来看,随着大模型、Agent 智能体和插件互联等技术加速发展,AI 安全风险正从内容安全向身份权限、行为管控、数据调用和插件供应链等环节延伸。面对 AI 产品不可解释、不可判识、不可推论等内生缺陷,智能体安全防护亟需从单点防护向体系化、模块化、可扩展的综合防护能力升级。

弹性异构边缘一体化平台为智能体安全能力建设提供了新的技术路径。通过在既有服务器平台上扩展服务卡,可在补充算力资源的同时灵活部署安全业务模块,降低系统升级和运维复杂度,提升资源利用效率,为智能体在企业办公、行业应用和关键场景中的安全落地提供支撑。

未来,随着智能体应用场景持续拓展,安全防护体系将更加重视软硬件协同、弹性扩展和统一管控能力。弹性异构边缘一体化平台有望进一步推动智能体安全能力按需部署和持续演进,为 AI 技术可信、稳定、规模化应用提供基础保障。

作者

王   栋 邮箱:dong1.wang@intel.com

赵骞理 邮箱:qianli1.zhao@intel.com

何绪东 邮箱:  hexudong@caict.ac.cn

周   曼 邮箱:zhouman@caict.ac.cn

审核

吴美希 邮箱:wumeixi@caict.ac.cn

640.jpg

640 (1).jpg