Modular AI 今日发布

Modular AI 是一个高性能 GenAI 推理平台，由 Chris Lattner（LLVM 与 Clang 编译器之父、Swift 编程语言缔造者）于 2022 年创办。平台核心产品为 Mojo 编程语言和 MAX 推理引擎。Mojo 是 Python 的超集，被称为「Python++」，既保留 Python 易学易用的特性，又能通过硬件加速编写高性能计算代码，在数值算法场景下最高比 Python 快 35000 倍。Mojo 可直接调用 Python 生态所有库（含 NumPy、Pandas、Matplotlib），无需任何转换即可在 GPU 上全速运行。MAX 推理引擎是统一的高性能推理运行时，支持导入 PyTorch（TorchScript）、TensorFlow（SavedModel）和 ONNX 模型，跨 NVIDIA、AMD、Intel、ARM、Apple Silicon 多硬件架构运行，号称比 vLLM 吞吐量提升 2 倍、推理成本降低 70%。平台内置 500+ 预置模型，包括 DeepSeek R3、Kimi 等主流大模型，支持 Cloud VPC 托管或企业本地部署，提供 OpenAI 兼容 API 接口，附有企业级 SLA 保障。目前已有超过 11 万开发者注册 Mojo Playground，Discord 社区规模突破 1.7 万人。企业客户涵盖 Hippocratic AI、Inworld、AWS 等知名组织。