五一五天乐 - 大模型相关好书推荐汇总
原
GrissomFI约 1 分钟
GrissomFI约 1 分钟好书推荐 | 《从零构建大模型》：从理论到实践，手把手教你打造自己的大语言模型
大模型时代，智能体崛起：从技术解构到工程落地的全栈指南 ——《大模型技术30讲》
本公众号启用新的 logo 图：
寓意：使用 K8s 管理好 AI Infra（K8s 和 DeepSeek logo 都是鲸鱼）
KEEP THE THREAD GOING
来自同一个声音
Kimi K3 注意力机制深度解析：KDA、Gated MLA 与 AttnRes 的混合架构
2.8 万亿参数的 Kimi K3 原生支持 1M token 上下文窗口。它的注意力系统不是单一种类的升级，而是三种机制的协同设计：69 层 KDA负责高效长上下文处理，24 层 Gated MLA 提供全局精确检索锚点，Attention Residuals 则将"注意力"从序列维度扩展到模型深度维度
阅读全文 ↗：Kimi K3 注意力机制深度解析：KDA、Gated MLA 与 AttnRes 的混合架构国内首本 Spec Driven Develop 图书上市啦！
不要迷恋Vibe Coding，吃透SDD者才能得天下
阅读全文 ↗：国内首本 Spec Driven Develop 图书上市啦！国内首本 Spec Driven Design 图书上市啦！
不要迷恋Vibe Coding，吃透SDD者才能得天下
阅读全文 ↗：国内首本 Spec Driven Design 图书上市啦！SGLang KV Pool 管理：物理存储、Radix Tree 索引与请求视图
SGLang 的 KV cache 管理核心是在有限的 GPU HBM 中高效存储和复用所有请求的 K/V tensor。
阅读全文 ↗：SGLang KV Pool 管理：物理存储、Radix Tree 索引与请求视图vLLM 投机解码方法全景：六种草拟方法的工程选择
vLLM V1 支持六种投机解码方法——ngram、suffix、Medusa、EAGLE、draft_mo
阅读全文 ↗：vLLM 投机解码方法全景：六种草拟方法的工程选择MTP 深度解析：把投机能力训进模型里
MTP 在训练阶段就为模型植入「一次预测 N 个未来 token」的能力，推理时利用这些内置预测头替代独立 draft model，在单次 forward 中同时完成草拟与验证。与投机解码相比，MTP 消除了独立 draft forward 的开销，但代价是无法对已发布模型追加。
阅读全文 ↗：MTP 深度解析：把投机能力训进模型里