写完《深入理解 AI Agent》之后，作者发现要开发好基于模型的应用，还需要理…

写完《深入理解 AI Agent》之后，作者发现要开发好基于模型的应用，还需要理解它赖以运行的基础设施。于是有了这本《深入理解 AI Infra》。 这本书的核心观点是：模型成了LLM时代的操作系统，AI Infra成了LLM时代的计算机体系结构。传统的操作系统、编译器和硬件要为事先未知的各种程序提供通用能力，系统优化总要在可编程性与性能之间取舍。但现在LLM成了最重要的应用，可以针对特定的模型和加速器架构优化。 最近几十年系统领域最重要的变化是编程抽象的上移：从操作系统到模型上下文。模型设计也开始反过来适应硬件，DeepSeek V4/V4.1重新设计长上下文的表示方式，就是一例。 全书约500页，包括12章。从模型架构、推理与训练负载、加速器架构，到算子与运行时、超节点、数据中心网络，再到推理优化、分布式推理、训练系统，最后是资源调度与运行环境、端边云协同。 我之前读过《计算机体系结构：量化研究方法》，那是体系结构领域的入门书。AI Infra领域确实还缺少一本从硬件约束和模型架构出发、量化推导系统设计的书。这本书填补了这个空白。 对于做AI系统开发的人来说，这本书能帮你理解为什么某些优化有效，为什么某些设计选择是必要的。不是泛泛而谈，而是从硬件约束出发，量化推导系统设计。 项目地址：github.com/bojieli/ai-inf… 书已经开源了，欢迎star和提issue/PR。如果你在做AI Infra相关的工作，这本书值得收藏。