Context Engineering 是什么 — Karpathy 的重命名

2025-06-25，Karpathy 在 X 发推：「+1 for 'context engineering' over 'prompt engineering'. People associate prompts with short task descriptions you'd give an LLM in your day-to-day use. When in every industrial-strength LLM app, context engineering is the delicate art and science of filling the context window with just the right information for the next step.」

— @karpathy, 2025-06-25

这是对 Shopify CEO Tobi Lutke 7 天前那条「I really like the term 'context engineering' over prompt engineering」（@tobi, 2025-06-18）的接力。LLM 应用每次调用塞 50K-200K token 的上下文，prompt 只是一小片。

你是谁

按工程困境跳读：

Prompt 和 Context 的边界

Tobi Lutke 的定义——「the art of providing all the context for the task to be plausibly solvable by the LLM」。

Prompt 是你打的那几行指令。Context 是 LLM 看到的全部 token：

1. System instruction — 你在 API 里设的 system prompt
2. Tool definitions — 每个 function calling / MCP 工具的 schema 描述
3. Memory / 历史对话 — 之前轮次的内容（或摘要）
4. Retrieved context — RAG 拉来的文档、向量召回段落、网页抓取结果
5. User input — 这一轮用户实际打进去的话

Prompt engineering 是写好第 5；context engineering 是决定 1-5 加起来怎么填满 200K 窗口而不爆。

JR 的 omni-report 跑 17 个 routine——「JR AI Visibility Weekly」每周扫 20 个学员 query 看 AI 引擎是否推荐 JR Academy。它的 prompt 在做 4 件 context engineering：

# 真实节选：omni-report/JR AI Visibility Weekly routine prompt
# tested: 2026-04-26 · model: claude-sonnet-4-6

【Phase 1：写骨架 + commit】
Write `ai-visibility/$DATE.md` 骨架（10 个 _TBD_ 占位）
commit + push: feat(ai-visibility): scaffold $DATE

【Phase 2：4 batch × 5 query × 2 layer】
每 batch 处理 5 个 query → Edit 对应表格 → commit + push
（避免 stream idle timeout）

• Context budget — task 拆 6 phase 强制 commit，避免输出累积超 stream timeout
• Context selection — 用 ls 把上游路径塞进 context，不让 LLM 猜
• Context scaffolding — 先写骨架（10 个 TBD 占位），给 Edit 结构 anchor
• Context isolation — 每 batch 独立 commit，前面错误不污染后续

都不是 prompt 措辞，是结构决策。

为什么 2025 年才出来这个词

ChatGPT 是 2022 年底发布的，两年半后才有人喊「应该改名」。三件事叠加：

第 1 件：RAG 普及（2023-2024）

LangChain 2024 年 1 月发 v0.1，LlamaIndex 同期。RAG 把 LLM 输入侧从「一段话」变成「一段话 + 5 段召回 + 3 轮摘要」。Stanford 2023 年 7 月 Lost in the Middle（arXiv:2307.03172, Liu et al.）实验证明 LLM 对长 context 中段注意力衰减——召回 ≠ 模型会用。

第 2 件：Agent 兴起（2024）

Anthropic 2024-12-20 Building Effective Agents 把 agentic system 拆成 prompt chaining、routing、parallelization、orchestrator-workers、evaluator-optimizer 五种。每种的 challenge 是「让每一步只看到它该看到的」。

第 3 件：Long context 模型（2024-2025）

Claude 3.5 给到 200K，Gemini 1.5 Pro 直接 1M。但塞太多召回准确率反而下降（Lost in the Middle 在 100K 更严重），成本线性涨，延迟变差。Token 多了，怎么分配成了新工程。

三条线汇总到 2025 年中，Tobi 和 Karpathy 在 6 月差 7 天说同一句话。Simon Willison 2025-06-27 博文 复盘——不是命名营销，是社区 2 年肌肉记忆有了名字。

Prompt Engineering vs Context Engineering — 不是替代，是上层

很多人误读成「prompt eng 过时了」。Prompt 是 context 的一部分。两者关系：

Prompt engineering 解决「沟通问题」，context engineering 解决「系统问题」。前者像写邮件，后者像设计邮件协议。

为什么是「engineering」不是「design」

第三方常说成「context design」「prompt craftsmanship」。Karpathy 刻意用 engineering，有信号：

• 可度量 — eval set 跑 1000 query 看准确率，不是「我觉得不错」
• 可复用 — context selection 策略写成代码，新项目直接搬
• 可以崩 — 改了 retrieval 阈值第二天准确率掉 15%，这是工程事故
• trade-off 明确 — 多塞 5 段召回 vs token 成本翻倍 vs 延迟 +800ms，三选一

Anthropic prompt caching 文档 里 5 分钟 TTL 的设计就是工程取舍——cache 命中省 90% 成本，但 5 分钟过了得重建。

接下来 9 章

每章配真实代码 + JR omni-report production 案例。

一句话带走

Prompt 是「你说什么」，Context 是「LLM 看到什么」。从「你说什么」到「LLM 看到什么」，中间还有 system prompt、工具定义、memory、retrieval 4 层——这 4 层是 production LLM 应用 80% 的工程量所在。

---

引用来源

1. Karpathy. (2025-06-25). Tweet on context engineering.
2. Tobi Lutke. (2025-06-18). Tweet on context engineering.
3. Anthropic. (2024-12-20). Building Effective Agents.
4. Liu et al. (2023-07-06). Lost in the Middle. arXiv:2307.03172.
5. Simon Willison. (2025-06-27). Context engineering.
6. Anthropic. Prompt caching docs.

Production case: JR Academy omni-report — 17 个 routine 的实践。