时间:2026年7月9日
地点:美国加利福尼亚州山景城
人物:Google(谷歌)
事件详情:Google 7月9日正式发布LiteRT.js,这是针对Web浏览器的高性能AI推理运行时JavaScript绑定。LiteRT.js将Google成熟的本设备端AI推理库LiteRT引入Web平台,使Web开发者能够直接在浏览器中运行机器学习和AI模型,实现完全本地化推理。这意味着用户隐私更强、服务器成本为零、实时应用延迟极低。对于拥有现有.tflite模型的开发者而言,LiteRT.js可无缝部署到移动端和桌面端Web浏览器,是TensorFlow.js在.tflite模型执行方面的强大进化。通过WebAssembly实现原生跨平台运行时,LiteRT.js调用XNNPACK(CPU加速)、ML Drift(GPU加速)以及即将到来的WebNN(NPU加速),实现浏览器端硬件加速推理。
背景:此前Web端AI推理方案如TensorFlow.js主要依赖基于JavaScript的内核,性能受限。LiteRT.js解决了这一根本瓶颈,将经过优化的原生运行时直接通过WebAssembly引入浏览器。Google同时发布了npm包@litertjs/core以及一系列CodePen演示示例,方便开发者快速上手。这是Google在Web AI生态布局中的重要一步,与Google此前推出的MediaPipe、TensorFlow.js等一脉相承,但首次实现了完整的本设备端AI推理能力。
影响:
- 开启Web AI新纪元——开发者现在可在浏览器中运行文本生成、目标检测、音频处理等复杂AI任务,无需依赖云端API,大幅降低AI应用门槛和成本
- 隐私与实时性双赢——完全在用户本设备端运行的数据处理意味着敏感信息不需要离开设备,且无网络延迟带来的体验问题
- Web应用竞争力提升——随着WebNN等新一代Web神经网络API的推进,Web平台在AI任务上的性能有望逐步接近原生应用水平
总结:Google LiteRT.js的发布是2026年Web AI领域的重要里程碑。通过在浏览器中实现高性能的本设备端AI推理,它解决了长期困扰Web开发者的性能瓶颈,为AI驱动的Web应用打开了新的可能性。随着Web AI推理能力的持续提升,未来Web应用有望在AI任务上与原生应用一较高下。
参考来源:
- https://developers.googleblog.com/litertjs-googles-high-performance-web-ai-inference/
- https://developers.google.com/edge/litert/web
- https://ai.google.dev/edge/litert
- https://www.npmjs.com/package/@litertjs/core
- https://codepen.io/collection/PoJBoq









