Jev火了之后，很多人发现它最大的瓶颈其实是网络延迟。每次决策都要等API返回，…

Jev火了之后，很多人发现它最大的瓶颈其实是网络延迟。每次决策都要等API返回，体验上总差那么一口气。现在开源社区有人把Laya移植到了Apple MLX框架，本地跑起来完全不一样。 Laya是一个基于文本输出概率的分类系统，专门做意图决策。移植到MLX之后，在M2 Pro上实测只占用1GB内存，每秒能跑60次决策。我拿它玩了个贪吃蛇，丝滑到完全感觉不到延迟。 跟Jev对比的话，Laya走的是本地推理路线，不需要联网，延迟基本可以忽略。Jev的优势在于模型能力更强，适合复杂场景；Laya的优势在于快，适合需要实时响应的轻量级任务。 从架构上看，这种意图决策模型和LLM是互补关系。LLM负责开放式工作，比如写代码、研究、规划；Laya这类模型负责快速决策，比如路由、风险门控、完成判定。两者配合起来，才是完整的AI Agent系统。 对于想在本地跑AI决策的开发者来说，Laya-mlx是个不错的选择。特别是做游戏AI、实时交互这类对延迟敏感的场景，本地推理的优势很明显。