Parallelization

一句話定義

一種 workflow pattern:同時跑多個 LLM 呼叫。兩種變形——sectioning(拆成獨立子任務並行)與 voting(同任務多次跑取多樣輸出後聚合)。

核心要點

  • Sectioning:把任務切成獨立、可並行的子任務(例:邊跑 guardrail 篩選、邊產生回應)
  • Voting:同一任務跑多次,從多角度取結果並聚合(例:多次 code review 投票決定;多次評估內容適切性以投票閾值決議)
  • 適用情境
    • 並行加速(時間敏感)
    • 多視角增加信心(品質敏感)

與其他概念的關係

  • Anthropic 在「Building Effective Agents」中歸納的 5 個 workflow pattern 之一。
  • 對比 Orchestrator-Workers:parallelization 子任務在啟動時已知;orchestrator-workers 動態決定子任務。
  • 建在 Augmented-LLM 之上。

相關來源

備註