laya-mlx在M3 Max跑贪吃蛇每秒60次决策

有个叫laya-mlx的开源项目最近挺火的，号称比Jev快50倍，而且内存占用最高只有1G。我下载试了一下，确实挺流畅的。 laya是一个基于文本输出概率的分类系统，类似Jev但做了很多优化。作者把它移植到了MLX框架上，专门针对苹果芯片做了性能调优。在M3 Max上跑贪吃蛇，每秒能做60次决策，这个速度已经很夸张了。 我之前用Jev跑类似的分类任务，速度确实差很多。laya的优势在于它不需要加载整个大模型，而是用轻量级的概率分类器来处理文本。这使得它在消费级设备上也能跑得很快，不需要高端显卡。 项目地址：github.com/mizorewww/laya… 不过要注意的是，laya目前还是分类系统，不是通用大语言模型。它擅长的是文本分类、情感分析这类任务，而不是生成文本。如果你的需求是文本分类，laya是个不错的选择；如果是对话生成，还是得用传统的大模型。 对于想在本地部署AI应用的开发者来说，laya提供了一个轻量级的替代方案。特别是在移动设备或者低功耗设备上，它的内存占用优势很明显。我打算把它集成到一个内容审核的项目里，看看实际效果怎么样。