今年1月29日下午,北京一家专注于AI基础设施的企业——清程极智,正式推出了一站式AI评测与API智能路由平台“AI Ping”。该平台以真实业务场景为导向,持续对国内外不同厂商、不同模型API的延迟、稳定性、吞吐量和性价比等关键指标进行长期观测。目前,AI Ping已覆盖30余家国内主流大模型API服务商,能够基于统一的标准与方法论,对各类模型服务能力进行横向对比分析。
清程极智CEO汤雄超表示,从大模型的训练与微调,到实现高性价比的推理部署,再到应用阶段对服务稳定性和使用效率提出更高要求,AI Infra的关注重点正不断演进。随着AI应用与智能体的快速发展,如何让模型能力在真实业务中高效流通,已成为行业面临的新关键课题。
编辑 罗亦丹
校对 卢茜
