我要投稿

阿里大模型面试原题：LLM推理为什么用KV Cache

发布日期：2024-08-30 06:23:41 浏览次数： 4135

作者：丁师兄大模型

微信搜一搜，关注“丁师兄大模型”

本篇介绍为什么 LLM 推理加速有 KV Cache 而没有 Q Cache。

简单来说，LLM 在 decoding 阶段的每次推理只会用到当前的 Q，这次用的 Q 下次不会用到，所以不用 Cache Q。

但是每次都要用到当前和过去所有的 KV，这次用到的 KV 下次马上就要再用一次，所以 Cache KV 可以加速推理。

下面说明原因：

观察 Attention 公式，这个 K 和 Q 怎么看都很对称，为什么只 Cache K 而不 Cache Q？

把 KQV 写成分块的形式，像这样：

然后 Q 和 K 转置的矩阵乘就变成了这样：

直到这一步，K 和 Q 看上去都很对称。轮换一下 K 和 Q 对结果没有本质影响。

V 的引入破坏了这一对称性。忽略 ?? 系数，第 i 行的 softmax 简写成 ?? ，attention 操作的结果变成了这样：

这是没有 Causal Mask（因果掩码）的情况。

加入 Causal Mask 会变成这样：

可以写一下结果的通项，没有 Causal Mask：

有 Causal Mask：

无论有没有 Causal Mask，Q 和 K 在结果中都是不对称的。

在序列的 t 位置，Q 只有当前位置的 ??q_t 参与了计算，而 K 和 V 多个位置参与了计算，所以需要 KV Cache，而不需要 Q Cache。

在没有 Causal Mask 时，计算 t 位置的 Attention 需要未来的 KV，这在实际进行自回归推理时无法得到；加上 Causal Mask 之后，只需要 1,2,…,t 位置的 KV 就可以进行推理。

来源：https://www.zhihu.com/question/653658936/answer/3545520807

END

加入学习

✅ 我是丁师兄，专注于智能驾驶大模型，持续分享LLM面试干货。

✅ 大模型1v1辅导，已帮助多名同学成功上岸

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-05-09

LLM 输出到这步才算可靠：生产级输出验证与质量工程实战

2026-05-09

OpenAI发布Codex for Chrome，能自动操控浏览器干活了！

2026-05-08

Codex Chrome 插件实测：多标签并行后，AI 浏览器代理终于顺手了

2026-05-08

AI吞噬软件的叙事要分化了？

2026-05-08

民生银行基于规格驱动开发（SDD）的 CodeAgent 私域研发探索与实践

2026-05-08

Agent 时代的生产力悖论：当协作本身成为最大的瓶颈

2026-05-08

OpenAI发布新一代实时语音模型，能够像人说话一样进行推理、翻译和转录

2026-05-07

用Agent评测思路管理AI Coding —— 31万行代码AI重构的实践

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Claude Opus 4.7刚刚曝光！Claude Code一夜重构，7x24小时替你打工

2026-04-15

刚刚Qwen 3.6 Plus上线预览：1M上下文，阿里Coding/Agent翻身战打响

2026-03-31

2026年国内如何注册 Claude 账号教程

2026-03-13

豆包 2.0 模型发布，全信息整理（全网最完整，另附 79 页 Model Card）

2026-02-14

OpenAI Codex CLI 完整使用指南

2026-04-07

独家| DeepSeek-V4终于要来了：梁文锋憋半年大招，多模态+长期记忆全面破局

2026-03-17

全网最详细的Codex入门教程，手把手教你玩转Vibe Coding。

2026-02-09

香港终于能直接用 Gemini 了，内地用户能用上吗？

2026-03-17

编程选GPT-5.4，还是GPT-5.3-Codex？

2026-03-21

全球首个 AI 进化网络 EvoMap，给 Agent 装上 DNA

2026-02-20

大家都在问

AI吞噬软件的叙事要分化了？

2026-05-08

为什么同一个模型，在 Claude Code/Codex CLI 里感觉像换了个脑子？

2026-05-07

「双线实测」Qwen 3.6-Plus，Agentic Coding 已经这么能「扛活儿」了？

2026-04-26

本体化语义层，会是 AI 数据平台的新地基吗？

2026-04-22

设计行业的“棺材板”，要被Claude Design盖上了？

2026-04-18

当所有人都不写代码了，谁来看懂代码？

2026-04-13

什么场景该用 AI Native？

2026-04-12

12MB的Go二进制，让AI操控浏览器只花800 tokens，PinchTab凭什么这么省？

2026-04-07

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部