中国信通院近期又有新举措——7月20日,该院依托人工智能软硬件协同创新与适配验证中心,基于AISHPerf基准体系,正式宣布启动“AISHPerf大模型训推工程实践性能基准研究工作”。简而言之,这项工作的核心目标可归纳为三个层面:构建基准、汇聚数据、推动优化。
具体而言,研究将聚焦于千卡至万卡规模的高性能集群,重点攻克训练与推理环节中常见的性能瓶颈。关键指标涵盖:模型算力利用率、显存利用率、线性扩展效率、有效训练时间占比、首词元时延、吞吐量、显存带宽利用率等。这些指标的定义口径以及经验值区间,都将得到系统化梳理。同时,结合业界公开的技术报告与实测数据,最终目标是形成一套可供行业引用、对标和追溯的工程性能参考基准。此举对推动可信智算体系的规范化发展具有重要价值。

