AI大土豆
@suanwan
写完《深入理解 AI Agent》之后，作者发现一个现实问题：很多人能搭出Agent应用，但对底层基础设施一知半解。模型怎么跑的、加速器怎么选、分布式推理怎么搞——这些才是决定应用能不能真正落地的关键。
于是有了这本《深入理解 AI Infra》，全书约500页，12章内容，从硬件约束和模型架构出发，量化推导系统设计。
为什么这本书重要？
过去几十年，系统领域最大的变化是编程抽象在不断上移。从操作系统到模型上下文，传统系统要为各种未知程序提供通用能力，优化总要在可编程性和性能之间取舍。
现在LLM成了最重要的应用，可以针对特定模型和加速器架构做优化。模型设计也开始反过来适应硬件，DeepSeek V4/V4.1重新设计长上下文表示方式就是一个例子。
从某种意义上说，模型成了LLM时代的操作系统，AI Infra成了LLM时代的计算机体系结构。
全书12章覆盖了完整的技术栈：
- 初识 AI Infra
- 模型架构
- 推理与训练负载
- 加速器架构
- 算子与运行时
- 超节点
- 数据中心网络
- 推理优化
- 分布式推理
- 训练系统
- 资源调度与运行环境
- 端边云协同
《计算机体系结构：量化研究方法》是体系结构领域的入门书，但AI Infra领域还缺少一本从硬件约束和模型架构出发、量化推导系统设计的书。这本书填补了这个空白。
对于做AI系统开发、模型部署、基础设施优化的人来说，这本书值得收藏。
21 浏览 0 评论
0 反应
