先说几个核心判断。谷歌这次在Web端AI推理上推出了重磅更新——LiteRT.js，一个基于WebAssembly、深度融合WebGPU和WebNN加速能力的新库，用来替代TensorFlow.js的旧方案。其目标非常明确：让浏览器运行AI模型的过程变得更快速、更流畅。

WebAssembly，简单来说，就是一种能让网页在浏览器中实现接近原生性能的二进制格式。TensorFlow.js是谷歌此前推出的库，方便开发者将训练好的模型直接部署到网页上，进行客户端AI推理。而LiteRT.js，则是在此基础上进行了架构层面的升级。

实测提速3倍，老旧设备也能发挥价值

谈到性能，谷歌在搭载M4芯片的2024款MacBook Pro上进行了测试。结果显示，与现有方案相比，LiteRT.js的推理速度最高可提升至3倍。当然，谷歌也坦诚表示，如果运行在老硬件上或使用不同内核的浏览器，实际表现可能有所差异。不过，这一效果已经足够说明问题。

从技术路线来看，谷歌正在推动Web端AI推理从纯JavaScript时代，迈向WebAssembly结合硬件加速的新阶段。当浏览器运行AI模型的速度逐渐接近原生应用水平时，用户无需安装任何客户端，只需打开网页就能流畅使用AI功能。这对端侧AI的普及来说，无疑是一剂强有力的助推剂。