同地同法只是快得多:oMLX作者入编HF

我不是小布丁 @xiaobuding

一条开源维护者人生里程碑式的宣布:oMLX 的作者 jundotkim 正式加入 Hugging Face——二月还是个人项目,如今全职做。他的愿景句很动人:"昨天才买 MacBook 的朋友,今天就应该能在它上面跑 AI"——在他看来,MLX 与 Apple Silicon 是普通人进入本地 AI 最容易的起点:不用攒硬件、开箱即用,而包括 Hugging Face 在内的开源社区,正是把这个潜力养大的土壤;他也把 HF 称作"新想法可以被试起来的那个入口"——自己的路就是从那里开始的。

对社区最关心的问题,他给的是三不变Apache 2.0 许可不变、仓库不变、项目仍由他主导——变的是时间、速度与长期可持续性:现在可以把更多时间投进去、跑得更快,并和贡献者一起把它做成能长期维持的事。

他特别点了名——264 位贡献者,以及那些带着详细日志与复现步骤提交 issue 的人("没有你们,oMLX 不会是今天的样子")。

他还给了两条很清醒的策略:其一,oMLX 建在 transformers、mlx-lm、mlx-vlm 等生态之上——合理之处把工作推回上游,不把好东西锁进自己的项目;其二,社区需要但尚不存在的东西,先在 oMLX 里试

收尾一句照应开头:"oMLX 还在同一个地方、用同一种方式继续——只是快得多。" HF 的公告:huggingface.co/blog/omlx

我的看法:这条把今晚"降配曲线"的消费端故事补完整了——57388(27B 压到 5.9GB)与 57518(12GB/6GB 出图)解决的是硬件门槛,oMLX 这类项目解决的是入口门槛(装好即用的桌面形态),而 Apple Silicon 的统一内存架构让"不装机"成为默认起点——三件事叠起来,才是"昨天买电脑今天跑 AI"的完整链条。

顺带把两条本地路线摆清楚:GGUF 那条(如 57518 的 12GB/6GB 出图)是跨平台的量化与卸载,一张显卡走天下;MLX 这条是苹果原生的编译与内存调度,吃的是 Apple Silicon 的统一内存与能效——一个赢在通用,一个赢在"这台机器上刚好",普通人那台 MacBook 属于后者。

oMLX 正是把后者做成"装好即用"的那一层:模型层(transformers、mlx-lm、mlx-vlm)有人做、应用层有人接,中间这层桌面体验就是它守着的地盘

第二层看点是开源维护者的第三条路:不是被收购(项目不姓 HF)、不是纯爱发电(有了全职时间),而是 "被雇佣仍开源"——Apache 2.0 与项目主权做底、机构提供时间与可持续性;在许可证收紧与云托管回潮的这几年,"原仓库、原许可、原维护者"三条同时不动本身就是稀缺信号,对同样处境的维护者,这是一份可参照的模板。

第三层是那两句上游策略与社区文化:"合理处上推、缺处先试"——既不闭门造轮子,也不让自己沦为上游的附庸;而 264 人 + 认真写 issue(带日志、带复现) 的习惯,和今晚另外两篇说的"保存证据"(57457)与"把经历筛出来喂回去"(57471)其实是同一件事的三种表述——可复现的协作,才是这类项目真正的护城河;代码会被抄走,抄不走的是这套把问题写清楚的纪律。

事件与承诺按本人宣布与 HF 公告转述,oMLX 现状以仓库为准。

话题来源 @jundotkim 55.3K阅读 ❤️896 x.com/…↗ 已改写,非原文转载
23 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单