7月9日,谷歌正式发布了一篇博文,宣布推出全新LiteRT.js开源库。其核心目标十分明确:显著提升浏览器中运行AI与机器学习任务的执行速度,让Web端AI推理性能迈上新台阶。

具体而言,LiteRT.js 的核心技术路径是采用 WebAssembly 二进制指令格式,并整合 WebGPU 与 WebNN 等硬件加速接口,从而替代 TensorFlow.js 原先基于纯 JavaScript 的计算内核。简而言之,它从底层替换为更高效的引擎,大幅提升浏览器内AI推理的计算效率。
WebAssembly 是一种高效的二进制指令格式,它使网页能够在浏览器中以接近原生应用的性能执行高强度计算任务——对于AI推理这类计算密集型场景,其加速效果尤为关键。这正是LiteRT.js实现性能飞跃的基础。
TensorFlow.js 同样是谷歌推出的开源框架,允许开发者直接在 JavaScript 环境中完成机器学习模型的构建、训练与部署,将TensorFlow预训练的模型无缝集成到浏览器中,实现客户端AI推理。而LiteRT.js的使命,就是在此基础上进一步加速,让浏览器端AI运行更加流畅。
在性能测试中,谷歌使用一台搭载 M4 芯片的 2024 款 MacBook Pro 进行验证,结果显示 LiteRT.js 相比现有方案实现了约3倍的性能提升。不过,官方也坦诚指出:在较旧的硬件设备或使用不同渲染引擎的浏览器中,实际加速效果可能有所差异。这一说明非常务实,因为不同浏览器的底层优化水平各不相同,硬件配置的差异更是客观事实。
总体来看,LiteRT.js 更像是为未来Web端AI应用铺路的基础设施——当硬件升级和浏览器优化都逐步跟进后,这3倍的性能提升将成为可靠的优势。至于当前项目是否采用该库,则需要根据实际兼容性要求来权衡决策。
