游乐游手机版
首页/AI热点日报/热点详情

国产超算生成式压缩模型训练性能突破 2.16 EFLOP/s 支撑全球遥感数据万倍级压缩

类型:热点整理2026-05-29
该研究工作由清华大学张金潇、中山大学董润敏、清华大学深圳国际研究生院吴羲勇联合担任第一作者,清华大学深圳国际研究生院付昊桓教授与中山大学人工智能学院副教授董润敏共同担任通讯作者。付昊桓教授此前曾于2016年、2017年及2021年三度摘得国际高性能计算应用领域最高荣誉——“戈登·贝尔”奖。作为项目负

该研究工作由清华大学张金潇、中山大学董润敏、清华大学深圳国际研究生院吴羲勇联合担任第一作者,清华大学深圳国际研究生院付昊桓教授与中山大学人工智能学院副教授董润敏共同担任通讯作者。付昊桓教授此前曾于2016年、2017年及2021年三度摘得国际高性能计算应用领域最高荣誉——“戈登·贝尔”奖。作为项目负责人,他主持了国家自然科学基金委交叉学部杰出青年基金项目、科技部重点研发计划项目,并于2025年当选为IEEE Fellow。

国产超算生成式压缩模型训练性能突破2.16 EFLOP/s,支撑全球遥感数据万倍级压缩

先做几个核心判断:全球遥感卫星在天上一圈圈飞过,拍摄回来的数据量早已超越“增长”二字所能概括。多源、多时相、多光谱的遥感影像,为国土监测、生态评估、灾害预警、气候变化研究等关键任务提供了海量的基础数据;但与此同时,存储、传输和计算方面的压力也日益加剧。对于长期连续观测积累下来的全球遥感影像档案,传统压缩方法往往只着眼于像素级别的冗余处理,难以充分挖掘地表目标在地理位置、时间变化和光谱响应方面的长期规律——显而易见,传统技术路径已遇到瓶颈。

近期,来自清华大学、中山大学、新加坡国立大学、国家超级计算深圳中心等机构的研究团队提出了一种全新思路:面向全球地球观测数据的生成式压缩框架D2AR,并在灵晟超级计算机上完成了Exascale级别的训练。

  • 论文标题:《Transforming the Use of Earth Observation Data: Exascale Training of a Generative Compression Model with Historical Priors for up to 10,000x Data Reduction》

  • 论文地址:https://arxiv.org/abs/2605.08633

借助历史先验实现极端压缩数据的重建

D2AR的核心逻辑非常直接:将地球观测数据的压缩,从传统的“单张图像冗余消除”推进到“历史先验建模与生成式重建”这一全新阶段。普通视觉图像只是一帧一帧的,但遥感数据不同——它是在多年尺度上,对同一个地球系统进行持续观测。地理位置、季节周期、地表覆盖、城市结构和多光谱响应之间,存在着长期稳定的内在规律。这些规律完全可以借助大规模生成式模型来学习,进而在极低码率下将原始数据“复原”出来。

在框架设计上,D2AR采用“双解耦”——Dual-Decoupled Asymmetric Compression and Reconstruction的思路,将前端压缩与后端重建彻底分离。前端仅保留极少量关键表征,把多源遥感数据压缩成一段中间比特流,然后映射为控制token;后端则将控制token与地理位置、观测时间等条件信息一同注入生成式重建模型,在一个统一的多光谱潜空间中恢复观测数据。

关键之处在于:压缩器不再承担完整的重建任务,它只负责提取极低码率下的控制信息。真正的重建能力,完全来自后端生成式模型对全球历史遥感数据的深入学习。D2AR基于EQ-VAE构建了统一的潜空间,并引入Flow Matching以逐步恢复遥感影像。这样一来,模型能够充分利用空间、时间和光谱维度上的历史规律,极大提升极端压缩条件下的重建质量和下游可用性。

面向地球观测的历史先验生成式压缩框架概览

(a)算法设计:将全球历史观测档案压缩为具有地理与时间条件约束的生成式先验。(b)重建流程:面向下游应用,从压缩表示中按需恢复观测数据。(c)系统设计:基于灵晟Armv9 CPU超算实现生成式模型的超大规模训练。

面向层级内存与NUMA架构的CPU超算训练优化

要训练这样的生成式重建模型,计算能力必须跟上。研究团队在灵晟超级计算机上专门搭建了一套面向大规模遥感生成式模型训练的软件系统。灵晟是国产E级超算系统,近期在国家超级计算深圳中心的国产算力应用对接会上正式亮相,FP64精度持续浮点性能超过2 EFlops。团队围绕国产Armv9 CPU架构的计算单元、矩阵扩展、层次化内存和高速互连等特点,在并行策略、算子内核、通信后端和运行时调度方面进行了系统性的协同优化,确保模型能在CPU超算上高效、稳定地开展训练。

系统优化方面,团队针对大模型训练中的计算、通信和内存瓶颈,设计了层次化并行策略与内存放置机制,并对关键算子进行了面向国产CPU矩阵扩展的优化。同时,通信与计算重叠、运行时调度优化以及分布式训练软件栈的适配,有效降低了大规模训练中的同步等待和数据搬移开销。单节点实验数据非常说明问题:基于Armv9 LX2和SME的训练效率,已能与单张NVIDIA A100 GPU相当,并且显著优于支持AMX的Intel Xeon 8558P平台。这充分验证了国产CPU架构在大模型训练中的潜力。

Intel Xeon 8558P、NVIDIA A100和LX2平台上单层运算各模块的前向和反向延迟对比

更重要的是,这套优化方案能够直接扩展到全机规模。在20,480个节点的大规模弱扩展实验中,D2AR-rec-6B实现了BFloat16精度下1.54 EFLOP/s的端到端持续性能,训练峰值性能更是超过了2.16 EFLOP/s,弱扩展能力表现十分出色。

对于历史先验生成式压缩而言,这种扩展能力的意义不仅在于训练速度的提升——它还意味着模型可以纳入更大范围、更长时间跨度的全球历史观测数据,从而学习到更完整的地球观测先验。

系统在三种模型规模下的弱扩展性能

从极端压缩走向任务自适应的数据服务

从应用角度来看,D2AR的意义远不止是减少遥感影像存储体积那么简单。它实际上是在尝试建立一种全新的地球观测数据使用方式:将全球历史遥感档案转化为一个可随时调用的生成式先验,在极低码率下按需恢复那些对科学分析有价值的信息。实验结果表明,D2AR在高达10,000倍的极端压缩场景下,仍能显著提升重建质量,在感知质量、结构一致性以及NDVI等遥感相关指标上都有明显改进。进一步的下游土地覆盖分类实验也证实,重建数据依然保留了较强的任务效用——即便压缩倍率很高,分析任务依然能保持良好表现。

不同压缩比下的可视化对比及对应光谱曲线

这项工作也从侧面验证了国产超算在AI for Science场景中的系统支撑能力。通过算法、模型和系统软件栈的协同设计,国产CPU超算不仅胜任传统的科学计算任务,大规模生成式AI训练也同样能够扛得住。对于遥感应用来说,数据价值不再仅仅取决于“采得更多、存得更全”,更在于能否更高效地存储、传输和使用。D2AR为遥感基础模型、科学数据智能压缩以及国产高性能计算生态建设,提供了一条全新的实践路径。

[1] 峰值训练性能按完整前向与反向传播的模型计算量及其在全机训练中的实测执行时间计算,包含运行时调度和kernel launch等实际开销;端到端持续性能则进一步计入数据加载、通信同步和优化器更新等完整训练流程开销。

来源:https://www.jiqizhixin.com/api/article_library/articles/2026-05-28-14

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。