Augmented-LLM

Properties2
tags狀態/草稿
aliasesAugmented LLM, 增強型 LLM

閱讀時間約 5 分鐘

Augmented-LLM

一句話定義

在 LLM 上加上檢索（retrieval）/ 工具（tools）/ 記憶（memory） 三類能力的基礎結構；agentic 系統的基本元件。

核心要點

Base model 橫軸 vs augmenting LLM 縱軸

2026-05-13-Stanford-AI系統課程 把 LLM 變強分成兩條路：

  • 橫軸：換更強的 base model（例如 GPT-4 → GPT-5）；主要由模型公司投入預訓練資本。
  • 縱軸：在既有 base model 上疊 Prompt-Engineering、RAG、Fine-Tuning、工具、記憶與 Agentic-Workflow；這是一般 AI Builder / AI Engineer 能施力的地方。

因此本概念不是「模型比較」頁，而是回答：當 base model 已經在手上，還能透過哪些外部能力讓它變成可用系統。

  • 三類擴充：
    • 檢索（retrieval）—— 取得外部知識
    • 工具（tools）—— 對環境採取行動
    • 記憶（memory）—— 跨呼叫保留狀態
  • Model-Context-Protocol（MCP）：Anthropic 提出的開放標準，整合第三方工具與資料源到 augmented LLM。
  • 角色：agentic 系統的「樂高基本塊」——所有 Agent 與 5 個 workflow pattern 都建在 augmented LLM 之上。

何時開始加工具（2026-05-02-Agent神文沒告訴你的事 階段 3 觸發信號）

對位 Agent複雜度演化——加工具不是 day 1 該上，而是 prompt 已到頂仍做不好的具體信號：

  • 觸發點：「很多時候它做不好不是系統提示詞寫得不夠好，而是這個任務本身需要的能力它根本就沒有」
  • 典型例子：
    • 要參考網上流行設計 → 模型拿不到網上數據 → 加搜索工具
    • 要寫可用代碼 → 模型無法執行驗證 → 加驗證工具
  • 紀律：在這之前不要再去改系統提示詞了——是能力的缺失，不是寫法的問題

3-4 個工具的湧現現象

  • 加工具初期極爽：每加一個工具明顯變聰明、之前做不了 / 做得勉強的事突然能跑通——忍不住繼續加
  • 3-4 個工具之後：「它開始像一個 Agent 了——它開始自己想清楚該用哪個工具，甚至開始把工具串起來用」——典型 1+1>2 的湧現，工具之間出現協同
  • 重要紀律：在這個階段「還沒做什麼複雜架構」——還沒引入規劃、系統提示詞還是最基礎版本——Agent 已經 work
  • 下一階段觸發點：工具繼續加 → Agent 開始持續性變差（注意力犧牲）→ 才該上 Context-Engineering，對位 Agent複雜度演化 階段 4

與其他概念的關係

  • 是 Agent 的基礎；agent = augmented LLM + 自主規劃 + 迭代與工具呼叫迴路。
  • 是所有 workflow pattern 的基礎：Prompt-Chaining / Routing / Parallelization / Orchestrator-Workers / Evaluator-Optimizer。
  • 與 Context-Engineering 互為實踐：context engineering 是「填什麼進 context window」；augmented LLM 是「LLM 從哪裡取得能力」。
  • 與 RAG 的關係：RAG 是 augmented LLM 中「檢索」最常見的實作。
  • 與 Agent2Agent 互補：augmented LLM 解決單一 agent 如何接工具 / 記憶 / 檢索；A2A 解決多 agent 如何互相協作。

相關來源

備註

反向連結