Modular

Swift之父打造的统一AI推理平台与Mojo编程语言

LLM大模型 部分免费

Modular Platform 是由 Swift 语言之父 Chris Lattner 联合创立的公司推出的统一 AI 开发与部署平台,核心包含 MAX 推理框架与 Mojo 编程语言两大产品,GitHub 已积累 28,967 个 Star、3,076 次 Fork,是当前最受关注的 AI 基础设施开源项目之一。

MAX 框架定位为统一推理引擎,主打从内核到云端一体化技术路径,支持 NVIDIA、AMD、Apple Silicon、Intel、Qualcomm、TPU、Trainium 等 15 种以上 CPU/GPU/ASIC 架构,真正实现同一套代码无需修改地跨硬件运行。MAX 通过全栈协同优化,在文本、图像、视频生成场景均可实现 2 倍性能提升,并可帮助企业客户降低 50% 以上的推理成本。目前已落地于 MiniMax(音频推理速度提升 70%)、Hippocratic AI(首 token 延迟低于 500ms)、TensorWave(AMD 算力成本降低 70%)以及 AWS(统一基础设施优化)等多个头部客户的生产环境。

Mojo 是 Modular 推出的一套高性能编程语言,设计理念为 Python 的表达能力加 C++ 的性能,语法与 Python 高度兼容,可无缝调用 Python 生态中的 NumPy、Matplotlib 等库,同时通过 MLIR 编译器基础设施直接访问 GPU 和 AI 加速器。Mojo 在计算密集型任务上最高可达到纯 Python 性能的 68,000 倍。2026 年 8 月 18 日,Mojo 正式发布 1.0 稳定版本,标志着这门语言从实验性项目升级为可供生产使用的成熟编程语言,1.0 阶段承诺主要做增量更新,不再做破坏性变更,为生态长期发展奠定基础。

技术层面,modular/modular 仓库包含了 Mojo 编译器、Mojo 标准库、MAX GPU/CPU 内核(超过 45 万行代码、超 6,000 名贡献者)、MAX 推理服务器(兼容 OpenAI API)、MAX 模型管道以及大量代码示例,是目前世界上规模最大的开源 CPU/GPU 内核仓库之一。开发者无需克隆仓库,通过 pip 或 conda 即可安装 Modular 包,并使用 max serve 命令快速启动一个兼容 OpenAI API 的本地推理端点。

该平台采用 Apache 2.0 协议(配合 LLVM 例外条款)开源 Mojo 编译器与内核代码,同时提供 Modular 官方云服务用于企业级托管部署。Modular 已累计获得 3.8 亿美元融资,估值达 16 亿美元,投资方包括 General Catalyst、Greenoaks 等顶级机构。

团队信息

由 AI 猎手自动发现

评论与建议

0 条评论