别再东一榔头：LLM 原理的整条路线

github.com/amitshekhariit…

LLM 原理的课件常东一榔头西一棒子，LLM Internals 把整条路线画好了。

主干这么排，从分词、BPE、Transformer 起步，一路走到训练、微调、RAG、Agent，最后收在推理优化。底下四个模块各自成套。注意力那格讲 Q/K/V 怎么算、RoPE 怎么转、掩码怎么遮、GQA 怎么省。

组件那格拆 Transformer、MoE、LoRA、归一化。训练那格从反向传播一路排到 RLHF 和推理模型。推理那格装 KV Cache、Flash Attention、Paged Attention、投机解码。四格都配了博客和视频。

把散落的知识串成一条线，这半句是全场重心。前面几篇讲的都是怎么用模型，这里补的是模型本身怎么长出来的。顺序本身就有价值，先知道零件再造整机。跟前面参考图那篇的偏好也对上，结构摆清楚了，取用才稳。

四个模块的排列也有讲究。从注意力到组件，再到训练和推理，正好是造一个模型的先后手，比按论文章节零散读顺得多。

我留的疑问是深度。路线齐不等于讲透，每个模块的博客是入门级还是进阶级没写，得点开一篇才知道合不合自己的档。

想补课的先挑自己最虚的那一格点进去，看完再决定要不要沿路线往回补。