普惠算力行动:训推一体机测评全面启动!
近年来,人工智能技术呈爆发式增长态势,特别是大模型在架构创新与算法优化上持续突破,已从理论研究逐步迈向产业实践深水区,随之带来推理算力需求快速增长,训推一体机产品应运而生,以其“软硬协同、开箱即用、数据安全”的特性,已经成为企业快速部署大模型、赋能业务发展的重要工具。
训推一体机测评介绍
该测评综合考量一体机的技术水平和应用价值,从硬件性能、资源调度、部署推理、模型应用、可靠性和管理运维等多个维度,构建了一套系统性的评价体系。旨在通过科学、严谨的测试方法,衡量一体机的计算能力、资源调度、模型能力、应用能力和产品稳定性等多方面能力,为用户提供客观参考。
中国信通院致力于推动一体机厂商不断提升硬件性能、可靠性、软件可用性和推理能效,为一体机产品的设计研发提供了更加科学的规范,加速了一体机产品的应用与推广,为市场需求方做出采购决策提供参考指引,引导一体机市场朝着更加规范的方向发展。
训推一体机首批测评全面启动
测试对象:训推一体机
面向主体:适用于一体机设备商、电信运营商以及其他一体机提供方。
测试内容:从硬件性能、资源调度、部署推理、模型应用、可靠性、管理运维6个模块开展测试,综合考量一体机的产品性能和应用能力。
测试等级:根据6个模块的测试情况进行等级划分,将产品等级分为“优秀产品”、“推荐产品”和“卓越产品”三类。其中,“优秀产品”为通过基本功能测试的产品;“推荐产品”为通过基本功能和部分高级功能测试的产品;“卓越产品”为通过所有基本功能和高级功能测试的产品。
训推一体机能力子域单项测评
不同行业和应用场景的用户,对一体机的能力需求各异。为积极响应市场差异化需求,进一步推动一体机市场的繁荣发展,训推一体机项目测评在原有多维度综合评价的基础上,同步推出了能力子域单项测评,以期促进市场产品多样化发展,帮助用户根据自身需求提供更加精准、个性化的产品性能信息,同时为厂商提供明确的产品优化方向,鼓励厂商在特定能力子域上进行技术创新和突破。
能力子域单项测评包括:
①硬件性能测评,着重测试基础硬件性能表现;
②资源调度能力测评,重点测试资源优化配置能力;
③部署推理能力测试,聚焦模型部署与推理效能;
④模型应用能力测试,强调预置模型能力与应用开发能力;
⑤可靠性测试,测试一体机稳定性和故障恢复等能力;
⑥运维管理能力测试,覆盖设备运维、监控、管理能力测试。
未来,中国信通院将继续加强一体机标准化工作,携手行业各界,共同推动训推一体机领域的标准化进程,持续助力一体机行业繁荣发展。
联系人
高老师 13312012589 gaoweixuan@caict.ac.cn
张老师 18434306206 zhangjiaqi1@caict.ac.cn
王老师 18601152291 wangyue2@caict.ac.cn