SGLang 运行时：通过 RadixAttention 实现复杂 Prompt 模式下的 KV Cache 极致复用 大家好！今天我们来深入探讨 SGLang 运行时中一项关键的优化技术：基于 RadixAttention 的 KV Cache 极致复用。在处理复杂 Prompt 模式，尤其是涉及到循环、条件分支等控制流的 Prompt 时，如何高效地利用 KV Cache，减少计算冗余，是提升 LLM 服务性能的关键。 1. KV Cache 的基本概念与挑战 在深入 RadixAttention 之前，我们先回顾一下 KV Cache 的基本概念。Transformer 模型的核心是自注意力机制，在解码过程中，每个 token 的生成都需要访问之前所有 token 的 Key (K) 和 Value (V) 向量。KV Cache 就是将这些 K 和 V 向量缓存起来，避免重复计算，从而加速推理过程。 然而，传统的 KV Cache 在处理复杂 Prompt 模式时会遇到以下挑战： 控制流复杂性： 循环、条件分支等控制流会导致 Prompt 的执行路径不确定，传统的线性 KV C …