01-语言模型基础 · 语言模型基础
概率建模、词元化与向量表示的概念地基
Learning Path · 2026
一条主线走通 LLM 全景:语言如何被建模 → 模型如何被训练与对齐 → 能力边界在哪 → 如何被使用、评估与治理。以机制与原理为主,具体模型仅作示例并注明时效。
概率建模、词元化与向量表示的概念地基
训练目标、数据工程、Scaling Laws 与训练系统工程
自注意力、位置编码、归一化演进、长上下文与 MoE
从基座到助手:SFT、RLHF 与 DPO 三条路线总览
基准测试、涌现争议、幻觉、窗口边界与推理能力
解码策略、API、工具调用、结构化输出与 RAG 概览
安全对齐、开源许可、发展简史与争议辨析
本站是 LLM 全景站:机制与原理为主,具体模型版本仅作示例并注明时效性(2026 年视角)。以下主题不在本库展开,各自有独立站点: