会飞的荧
@feitu
最近看到一本很有意思的开源书籍《深入理解 AI Infra》，作者是写过《深入理解 AI Agent》的bojie_li。
这本书的核心观点是：模型成了 LLM 时代的操作系统，AI Infra 成了 LLM 时代的计算机体系结构。
为什么这么说？因为传统的操作系统、编译器和硬件要为事先未知的各种程序提供通用能力，系统优化总要在可编程性与性能之间取舍。但如今 LLM 成了最重要的应用，可以针对特定的模型和加速器架构优化；模型设计也开始反过来适应硬件，DeepSeek V4/V4.1 重新设计长上下文的表示方式，就是一例。
全书约 500 页，包括 12 章，从模型架构、推理与训练负载、加速器架构，到算子与运行时、超节点、数据中心网络，再到推理优化、分布式推理、训练系统，最后是资源调度与运行环境、端边云协同。
作者说他写这本书的动机是：AI Infra 领域还缺少一本从硬件约束和模型架构出发、量化推导系统设计的书。
如果你对AI底层基础设施感兴趣，这本书值得一读。
项目地址：github.com/bojieli/ai-inf…
话题来源 @bojie_li
126.1K阅读 ❤️1614 x.com/…↗ 已改写，非原文转载
25 浏览 0 评论
0 反应
