Anthropic 的 Claude Advisor Tool：讓廉價模型擁有 Opus 等級的思考能力

原始來源與檔名：Claude-Advisor-Tool讓廉價模型擁有Opus等級的思考能力.md

來源：Joe Njenga on Medium — 2026-04-11

NAPKIN | 餐巾纸

餐巾紙公式

Agent 成本效益 = (Haiku / Sonnet 作為執行者) + (Opus 作為策略顧問 Advisor)

一句話

Anthropic 新推出的 “Advisor Tool” 實作了柏克萊大學 “Learning to Advise” 論文的理念。它顛覆了以往「大模型負責派工、小模型負責執行」的邏輯，改為讓便宜快速的「小模型 (如 Haiku 或 Sonnet)」全程負責執行與呼叫工具；只有當遇到困難決策時，才呼叫最聰明的「大模型 (Opus)」尋求策略指導 (僅產生 400-700 tokens 的建議)。這使得模型在維持極低成本的同時，大幅提升了在複雜 Agentic 任務 (如寫程式、終端機操作) 上的成功率。

餐巾紙草图

[ Traditional Orchestration vs. Advisor Strategy ]

  ( Traditional )
    Opus (Thinker) -> Writes full plan -> Hands chunks to Haiku -> Opus merges
    * Huge token consumption for the most expensive model.

  ( Advisor Strategy via Claude API )
    Sonnet/Haiku (Executor) runs the loop (Tools, Code, Files)
       ├─ Hits a roadblock.
       ├─ Calls "Advisor Tool" (Opus).
       │    └─ Opus reads transcript -> Returns short strategic plan (500 tokens).
       └─ Sonnet/Haiku continues executing.
    * 85% cheaper, yet achieves near-Opus level quality.

ROUND 1: SKELETON | 骨架掃描

• 核心問題: Frontier 模型 (如 GPT-5, Claude Opus) 具備強大的推理能力，但用它們來全程執行 Agent 工作流 (閱讀大量工具回傳、不斷重試) 成本高昂且速度緩慢。而使用便宜的小模型雖然便宜，但遇到複雜邏輯時容易卡死或產生幻覺。
• 核心答案: Anthropic 在 API 中內建了 “Advisor Tool” (基於柏克萊大學最新的學術研究)。這個架構讓小模型 (Executor) 作為流程的控制者，當它覺得需要幫助時，主動向大模型 (Advisor) 發出請求。大模型只負責閱讀上下文並給予純文字的策略建議 (不呼叫工具也不生成最終結果)，然後退場。這完美平衡了 IQ 與成本。

ROUND 2: DISSECTION | 血肉解剖

• 架構翻轉: 傳統設計是「大腦指揮手腳」；Advisor 架構是「手腳自己工作，卡住時問大腦」。
  • Executor (Sonnet/Haiku): 處理長篇距的生成、呼叫終端機工具、閱讀 Log。
  • Advisor (Opus): 檢閱整個對話歷史與工具執行結果，回傳三種指令：下一步的計畫 (Plan)、對目前錯誤的修正 (Correction)、或停止訊號 (Stop)。
• 驚人的 Benchmark 數據:
  • Sonnet 4.6 + Opus Advisor: 在 SWE-bench 程式設計測試中，準確率提升了 2.7 點 (至 74.8%)，但因為大幅減少了不必要的重試，單一任務成本下降了 11.9%。
  • Haiku + Opus Advisor: 在 BrowseComp 測試中，分數從 19.7% 狂飆至 41.2% (翻倍)，但在 Agentic 任務上的成本仍比單用 Sonnet 便宜 85%。
• 實作與計費細節:
  • 開發者只需在 API 的 tools 陣列中宣告 type: "advisor_20260301" 並指定模型即可。
  • 計費分離: type: "advisor_message" 的 iterations 依據 Opus 費率計費 (通常只有幾百個 Token)；其餘大量的生成與工具回傳，皆依據 Executor (Haiku/Sonnet) 費率計費。支援透過 max_uses 限制大模型的呼叫次數以控管預算。

ROUND 3: SOUL | 靈魂提取

• 深層洞見: 「將 Prompt Engineering 轉變為 Learned Policy (學得策略)。」 過去我們依賴寫死 (Static) 的系統提示詞來規範 Agent 的行為。Advisor 工具本質上是一種「動態的、因地制宜的提示詞」。更深層的意義在於：自然語言建議 (Natural Language Advice) 是具有極高轉移能力 (Transferability) 的。用小模型測試出來的 Advisor Pattern，可以直接無縫切換到大模型上運作，因為它依賴的是語義邏輯，而非模型特定的神經網絡權重。這是構建 Cost-effective Agent System (高性價比智能體系統) 的終極解法。

Multi-Agent Microeconomics (Architectural Deep Dive)

Agent 架構的微觀經濟學

Advisor Tool 徹底改變了我們設計 Agentic System 的成本計算公式 (Unit Economics)。 在設計系統架構時，最大的開銷通常是 Context Window 的重複傳輸。當一個 Agent 嘗試編譯程式碼失敗並獲得 5,000 tokens 的 Error Log 時，如果使用 Opus 重新思考，這 5,000 tokens 會以 Opus 的費率計價。 在 Advisor 架構中：

1. Haiku (Executor) 吞下這 5,000 tokens 的 Error Log，試圖自行修復。如果失敗，它決定呼叫 Opus。
2. Opus 讀取整個 Context，並用 500 tokens 輸出一段高濃度的 “Strategic Reasoning (策略推理)”，例如：「不要去改 Regex，真正的問題出在依賴庫的版本不相容，請去修改 package.json」。
3. Haiku 收到這 500 tokens 的高智商指導，立刻明白並生成後續 2,000 tokens 的修改代碼。 架構師透過這種「智力套匯 (Intelligence Arbitrage)」，巧妙地將大量的字串處理外包給廉價算力，將昂貴算力僅用於「方向盤的微調」。

控制反轉 (Inversion of Control)

傳統的 Hierarchical Agent (階層式智能體) 架構 (例如 AutoGPT 或 LangChain 的 Supervisor 模式) 是「Top-Down (自上而下)」的：大模型作為 Supervisor，決定接下來呼叫哪個小 Agent。 Anthropic 的 Advisor 架構實作了 Inversion of Control (控制反轉)。它變成「Bottom-Up (自下而上)」：低階的執行單位 (Haiku) 掌握著 Control Flow (控制流)，它擁有自己的判斷力來決定「我什麼時候需要呼叫高階 Supervisor」。 從軟體工程的角度來看，Bottom-Up 更加健壯，因為它減少了 Supervisor 的調度開銷 (Orchestration Overhead)，並且避免了 Supervisor 因為微觀管理 (Micro-management) 而陷入無窮迴圈或幻覺。這標誌著多智能體協作網路 (Multi-Agent Swarms) 在架構設計上的重大成熟。