学习路径

边界与目标：本库要回答的核心问题是「大语言模型从何而来、如何工作、边界在哪、如何被使用与治理」。适用场景包括：为工程应用打机制地基、读懂技术报告与论文、判断模型能力真伪、构建使用层方案。前置知识方面，Python 与高中数学（指数、对数、矩阵乘法）属于本库范围外，请自行补齐；概率基础与神经网络常识会在 kp-002、kp-004 内补足最小必要版本，属于范围内。学完能做到：解释 LLM 训练全流程、估算训练算力、识别幻觉与数据污染、设计含工具调用与 RAG 的应用方案、对安全与争议话题给出有依据的判断。

阶段划分

入门（模块 01 + kp-032）

建立概念地基：什么是 LLM、概率建模视角、词元与向量、发展简史。学完后能用自己的话向他人解释「语言模型在算什么」。

核心（模块 02 + 模块 03 主体 + kp-016/017/020/021/022/023 + 模块 06 大部）

领域主干：预训练目标与数据、Scaling Laws、Transformer 与注意力、对齐总览、评估与局限、解码与 API 生态。学完后能读懂主流技术报告的主体章节。

进阶（kp-008/009/012/013/014 + kp-018/019 + kp-030/031）

工程与前沿细节：分布式训练、训练稳定性、RoPE/FlashAttention/MoE、RLHF 与 DPO、安全与开源生态。

前沿与实践（kp-015、kp-024 及各模块的前沿延伸）

稀疏化规模之路与推理时计算等活跃方向；配合延伸阅读进入论文层。

最小可用路径（约 4.5 小时，13 个知识点）

1. kp-001 大语言模型是什么（建立全景）
2. kp-002 语言建模的概率本质（一切损失的源头）
3. kp-003 词元化与 BPE（文本如何变成数字）
4. kp-005 预训练目标（训练在优化什么）
5. kp-007 Scaling Laws（规模为何有效、算力如何分配）
6. kp-010 Transformer 总览（模型骨架）
7. kp-011 自注意力机制（骨架中的核心算子）
8. kp-016 后训练三阶段总览（从基座到助手）
9. kp-017 指令微调 SFT（对齐的第一步）
10. kp-020 评估体系（如何科学地衡量能力）
11. kp-021 上下文学习与涌现（能力从哪来）
12. kp-022 幻觉（最重要的失效模式）
13. kp-025 解码策略（使用层的第一课）

该路径覆盖「训练 → 对齐 → 评估 → 使用」四个关键环节，可直接作为一次周末学习计划；其余知识点按兴趣与需要补齐。