备考书籍

推理优化·考点精讲

推理优化：Prefill/Decode 两阶段 + KV Cache（PagedAttention）+ Continuous Batching + 延迟 3 指标 + 成本核算——“算清账”是 AI 落地的核心能力。

章节: 2 章

从第 1 章开始读 →

📑 章节目录

01 第 1 章 · KV Cache、Batching 与延迟指标Prefill/Decode 两阶段 + KV Cache 原理与 PagedAttention + Continuous Batching + TTFT/TPOT/E2E 三指标 + 优化决策树——“瓶颈在哪，优化就在哪”。 🎯 6 题
02 第 2 章 · 成本核算与容量规划每千次成本 1 式 + GPU 账本（卡时/利用率）+ 多模型分级路由 + 语义缓存 + 容量规划（峰值 ×2 冗余）+ 压测验证——AI 落地的“算清账”，老板最关心的一章。 🎯 6 题