Agentic-Context-Engineering

一句話定義

Context-Engineering 演算法中的更新函式 F 不再由人類工程師寫死,而交給 LLM 自己決定怎麼整理 context——本質 = 用 Prompt-Engineering 來做 Context-Engineering。代表 paper 系列:Dynamic Cheatsheet → Agentic Context Engineering(ACE)→ Recursive Language Model。

核心要點

Vanilla vs Agentic Context Engineering

李宏毅2026-05-02-AI-Agent-Context-Engineering系統化 末段:

F 是什麼怎麼演化
Vanilla Context-Engineering人類工程師寫死的固定函式(OpenCode 那條 if-context-too-long-then-compact)規則固化
Agentic Context Engineering(本頁)一段 prompt + 一個 LLM 呼叫用 prompt engineering 教 LLM 自己改 context
Vanilla:    C_t, I_t, O_t  ──[人類寫死的 F]──►  C_{t+1}
Agentic:    C_t, I_t, O_t  ──[LLM(meta_prompt)]──►  C_{t+1}

重要紀律:通常只改 context 的一部分

  • System prompt(agent identity、不能動的核心規則)通常固定
  • 留一塊區域給 LLM「愛玩什麼就玩什麼」——cheatsheet / playbook / scratchpad / metadata 區。
  • 這跟 Harness-Engineering 的「AGENTS.md 是地圖、不是六法全書」原則同精神:可動 vs 不可動的部分要分清楚。

三個代表 Paper

(a) Dynamic Cheatsheet(早期代表)

  • 把可動的那塊 context 叫 cheatsheet(小抄)——隨時間演化。
  • 流程:呼叫一個 LLM,給它一段 prompt 教它「怎麼修改 cheatsheet 比較好」+ (C_t, I_t, O_t) → 得到 C_{t+1}
  • 核心 prompt 精神:「存下未來能用的東西」——
    • 存:有效的策略 / 可重複用的程式片段 / 關鍵發現
    • 不存:跟當前任務具體綁定、之後用不上的細節

(b) Agentic Context Engineering(ACE,命名來源 paper)

  • 把可動那塊叫 playbook(員工守則)
  • 流程更複雜:context 演化要過 3 個 LLM 模組做不同檢查 → 最終產生「修改 playbook 的指令」。
  • 不直接覆蓋舊 playbook——而是產生 patch 指令再套用——避免直接重寫導致舊資訊被弄壞。
  • 結構性紀律:「改而非寫」是這篇 paper 的關鍵設計。

(c) Recursive Language Model(RLM)

  • 號稱「可吃無窮長 input 的語言模型」——但其實是 Context-Engineering
  • 機制:超長 context 全放 hard disk(= Memory M 部分);prompt 只留 metadata(context 多長 / 切幾段 / 存哪)。
  • LLM 看著 metadata 自己寫程式去 RAG——抽出需要的部分。
  • 見仁見智的部分:細讀其 prompt 會發現「就只差沒明說讓你做 RAG」——但效果在 GPT-5 + 1M token 長文 benchmark 上確實能再拉一段;可外掛在任何現有 LLM 上。

元命題

  • 為什麼 F 一定要人類工程師寫死?讓 LLM 自己來啊」(本流派的核心追問)
  • 用 prompt engineering 來做 context engineering」(落地的本質形式)
  • 改而非寫」(避免直接覆蓋舊 context 把好東西弄丟;ACE paper 的紀律)

與其他概念的關係

  • 父概念:Context-Engineering——本頁是該概念演化函式 F 的「LLM 自主」變體;對位「人類寫死」的傳統 vanilla 路線。
  • 機制基礎:Prompt-Engineering——所有 ACE 系列 paper 的真正工程量都在 meta-prompt 怎麼寫;「用 prompt engineering 做 context engineering」是其本質。
  • 上層工程化載體:Harness-Engineering——ACE 是 harness 在「控制行為(工作流程)」手段下、自我演化軸的具體實作;對位 Lifelong-AI-Agent 中 「模型自己改 AGENTS.md」的 meta-harness 自我演化。
  • 對位 Verbalized-Feedback:兩者都是「LLM 不調參,靠文字自我改進」——ACE 改 context、Verbalized-Feedback 改下一輪行為。
  • 對位 Agent-Memory:RLM 等於把 memory 系統整合到 ACE 流程裡——M 全留硬碟、P 只留 metadata、LLM 自己 RAG。

相關來源

備註

建頁理由李宏毅 在影片末段明確以「Agentic Context Engineering」為小節標題介紹這個流派;它與既有 Context-Engineering 不只是技術變體,而是設計哲學的轉變(人類定 F → LLM 定 F),值得獨立成 umbrella concept;同時為未來 self-improving agent / meta-prompt-engineering / agent-as-engineer 等議題的 ingest 預留錨點。

未來累積方向:(a) Dynamic Cheatsheet / ACE / RLM 三 paper 的具體 prompt 細節;(b) 自我演化 agent 的更多實驗(跨 task / 跨模型);(c) ACE 是否有失敗模式 / 失敗安全機制;(d) 與 Harness-Engineering meta-harness 演化(Opus → Haiku PinchBench)的對位深化。