蚂蚁消金与蚂蚁集团GreenOps绿色减碳平台通力合作,成功落地多个场景实践
9月27至29日,以“聚智向新 算领未来”为主题的2024中国算力大会在河南郑州召开。本届算力大会聚集算力领域的院士专家、重点企业代表等在内的行业领军人物,共谋算力产业发展机遇。会上,重庆蚂蚁消金首席信息官刘义以《打造新时代绿色计算体系,迈向绿色可持续发展》为题,在“绿色算力与AI集群分论坛”发表主旨演讲,分享蚂蚁消金实践。
刘义表示,伴随数字化转型在各行业深入推进,以及生成式 AI 的火爆,算力行业迎来蓬勃的发展,随之而来的是算力对于能耗需求的持续上升。面向国家的双碳目标与企业的ESG战略,推行计算的绿色化成为大势所趋。蚂蚁消金自成立以来,坚持践行ESG可持续发展,秉持普惠理念,崇尚金融健康,以科技为驱动,致力于 “让每一位认真生活的人,获得有温度的消费金融服务”,此外,公司通过“完善绿色消费金融服务”“践行绿色运营”“探索绿色计算”等举措持续推进绿色发展,推动面向算力应用环节的绿色化是其中的重要一环。
践行绿色计算技术
蚂蚁消金实现通算时代的节能减碳
自2023年以来,蚂蚁消金在IT和基础设施建设累计投入数十亿金额,并全面应用了包括基础设施智能运维、数据治理、业务应用优化等技术在内的绿色计算技术体系,关键技术如下:
基础设施智能运维技术主要通过离线混部、HPA、容量画像等技术手段,错峰调度流量和资源,实现机器资源的重复利用。
数据治理技术体现为通过冷热数据分离、模型优化等减少数据存储占用,以及通过计算合并、资源动态分配等实现计算资源的充分利用。
业务应用优化技术一是要通过基于资源分析的蓄洪泄洪能力、无服务化的合并部署以及持续的性能优化,提升资源利用率;二是在数据中心碳排放的评估能力上,建立了一套 GreenOps 的评估产品,为用户提供一站式碳排放检测、分析、优化的能力,并且,将碳排放的指标和业务部门的业务指标相关联,算出单位业务的碳排放,引导单位业务碳排放的下降。
根据 GreenOps 的碳排放产品的计算,自2024年1月至7月,在绿色计算技术的应用下,蚂蚁消金减少了357吨二氧化碳当量的碳排放;实现单笔交易SCI(软件碳强度)同比下降58%。
面向未来
进一步构建通智融合的绿色计算体系
消金公司所在的金融行业,在推进全面数字化方面有强烈诉求。为了进一步做好普惠金融,蚂蚁消金制定了数字技术赋能普惠金融的“数智+”战略,形成以“稳定安全、风险控制、成本效能”三大特色为牵引,覆盖“九”大数字化领域,全面提升科技赋能普惠金融的质效,而这对通算,特别是智算能力提出了很高的要求。
“未来,我们会围绕垂直大模型和多智能体技术,从创新服务体验、夯实金融新内核、提升金融新效能三大方向重塑‘数智+’科技战略。建设算力集中的万卡集群,实现异构兼容、训推一体等关键技术,应对大模型的海量算力挑战。”刘义表示。
在大模型时代,如何充分发挥GPU算力资源,降低算力应用成本,规模化发展AI业务,并同时实现ESG的目标?构建通智融合的绿色计算体系是消金公司提出的解法。
刘义指出,新一代的算力基础设施应当具备四个特征:第一,高性能、高可用,只有具有更高的算力密度与更大规模的持续服务能力,才能为大规模的业务提供有效支撑;第二,硬件宽容度,面向不同种类、不同厂商、甚至不同版本的异构硬件,都需要能够兼容并入算力平台并提供高效服务;第三,经济性,需要实现在单位成本上更高的算力和算效,才能支撑上层AI业务应用进一步规模化;第四,绿色低碳,需要实现单位碳成本上更高的算力和算效,才能实现长期的可持续发展。
“企业算力质量就是由这四个因素构成,由性能和硬件宽容度作为分子,决定其可发挥的算力,由成本和碳排放作为分母,决定算力规模化应用的成本。绿色计算是最大化算力质量,在通智融合下构建新一代基础设施的良好实践。”刘义说。