Self-Modifying Lean Proof Agents with Verifier-Grounded Benchmark Coevolution

原始來源與檔名:2026-07-24T093442+0800-Self-Modifying Lean Proof Agents with Verifier-Grounded Benchmark Coevolution.md
SOURCE | 資訊源評估
- 準確性: 高 - 來自學術界 (ArXiv) 的嚴謹論文,詳細探討了基於 Lean 定理證明的自演化 Agent 與基準測試共進化的機制。
- 易理解性: 低 - 充滿了學術名詞與數學定理證明的專業術語(如 Lean, DGM, Hyperagents),需要較強的 AI 研究背景。
- 閱讀策略建議: 建議跳過繁雜的數學細節,專注理解系統設計:即 Agent 如何一邊自我修改程式碼,一邊讓測試難度自動升級(Coevolution)。
NAPKIN | 餐巾紙
餐巾紙公式
持續進化系統 = 自我修改的 Agent + 驗證器接地的難度動態升級基準測試 (Coevolving Benchmark)
如果測試太難,Agent 學不到東西;如果測試太簡單,Agent 會停滯。唯有讓測試基準隨著 Agent 的能力自動變難,才能實現無盡的自我進化。
一句話
本研究提出了一種能自我改寫程式碼的數學定理證明 Agent,並首創了「基準測試共進化」機制,讓測試難度隨著 Agent 變強而自動提升,且所有結果都交由 Lean 驗證器進行不可造假的物理驗證。
餐巾紙草圖
┌──────────────────┐
│ Self-Modifying │
│ Agent (Hyperagent)│
└────────┬─────────┘
│ (Generates Proofs & Rewrites Code)
▼
┌──────────────────┐
│ Lean Verifier │ (Ground Truth)
└────────┬─────────┘
│ (Success Signal)
▼
┌──────────────────┐
│ Coevolving │ (Difficulty Auto-Scales)
│ Benchmark │
└──────────────────┘
ROUND 1: SKELETON | 骨架掃描
“這本書在說什麼”
- 核心問題: 當前 AI 在定理證明上面臨兩個瓶頸:一是工作流 (Workflow) 被人類寫死,二是靜態的基準測試 (Benchmark) 難以提供持續的演化訊號。
- 核心答案: 提出一套能自我修改工作流的「超級代理 (Hyperagent)」,並搭配一個會隨著 Agent 能力變強而自動變難的「共進化基準測試」,以 Lean 作為絕對的真理驗證器。
- 論證結構: 學術論證與系統架構型
章節骨架
- 介紹: 定理證明的痛點在於工作流的寫死,而非僅僅是模型能力。
- 從 DGM 到 Hyperagents: 引入能同時解決任務並修改自身機制的架構。
- 基準測試共進化: 解決靜態測試集導致的「要嘛太難沒訊號,要嘛太簡單易飽和」的問題。
- Lean 的絕對防線: 用 Lean 確保 Agent 不會在驗證結果上造假。
ROUND 2: DISSECTION | 血肉解剖
“憑什麼這麼說”
論證鏈
定理證明的效能高度依賴於 Agent 如何分解任務與使用工具(工作流) --> 將工作流交由 Agent 自我改寫 (Hyperagent) 可以突破人類設計的極限 --> 但直接挑戰太難的測試集會導致零回饋 (No selection signal) --> 因此建立分級的題目池,當 Agent 征服目前難度時,基準測試自動升級 (Self-hardening) --> 為避免 Agent 在自我改寫時學會「欺騙」系統,所有證明結果必須由外部、不可修改的 Lean 驗證器進行物理接地 (Grounded)。
關鍵證據
- 種子 Agent 在未修改前,只能解出
12.7%的 miniF2F 測試題,面對 IMO 等級題目全軍覆沒,這證明了直接使用高難度靜態測試集的無效性。 - 架構採用了 Darwin Gödel Machine (DGM) 的概念,但升級為任務代理與元代理合一的 Hyperagent。
隱形假設與邊界
- 隱形假設: 數學定理證明問題可以被完美且無歧義地分級(例如 L1 到 L3),且難度梯度是平滑的。
- 邊界條件: 這種基於絕對驗證器 (Lean) 的自我演化機制,目前難以直接遷移到缺乏客觀「True/False」標準的開放性任務(如程式碼架構設計或文案生成)。
ROUND 3: SOUL | 靈魂提取
“還能怎麼用”
- 作者盲點: 雖然解決了基準測試靜態的問題,但這套系統在運算資源上的消耗極其驚人(每一代的生成與編譯驗證)。
- 知識連接: 與遺傳演算法 (Genetic Algorithms) 中的「協同演化 (Coevolution)」概念完全一致,只是作用對象變成了 LLM Agent 與 Benchmark。
- 行動觸發: 在設計企業內部 Eval 系統時,不要只建立一套靜態測試題。應該實作「動態難度曲線 (Dynamic Difficulty Adjustment)」—— 當模型變聰明時,自動從題庫抽出更難的邊角案例 (Corner cases) 進行測試。
留白提問 (Guided Reflection)
- 當 AI 具備了自我修改程式碼的能力,我們除了提供一個絕對的「驗證器 (Verifier)」之外,還能用什麼方法確保它不會演化出我們無法理解的行為?
- 如果教育系統也能採用這種「Coevolving Benchmark」,我們的考試是否會變得更有意義?
跨域映射
- 在 遊戲設計,這叫 動態難度調整 (Dynamic Difficulty Adjustment)
- 在 演化生物學,這叫 紅皇后假說 (Red Queen Hypothesis: 你必須不斷奔跑才能保持在原地)
DEEP READ | 精讀指引 (Must-Read Segments)
[!IMPORTANT] 學習的本質需要「認知阻力」。請親自回到原文閱讀以下核心段落,感受原始論述的阻力,不要只依賴 AI 的總結。
- From self-evolving agents to coevolving benchmarks: 這段深刻指出了靜態 Benchmark 在訓練自我演化系統時的致命傷,是整篇論文在架構設計上最精彩的突破點。
Self-Modifying Lean Proof Agents with Verifier-Grounded Benchmark Coevolution (Architectural Deep Dive)
前言/背景
本文探討了如何建立一個能自主解數學定理(透過 Lean 語言)並不斷進化的 AI 系統。研究者發現,單純讓 Agent 自我修改是不夠的,因為靜態的測試基準(Benchmark)往往會導致演化失去方向。為此,他們提出了一種結合「自我改寫的超級代理 (Hyperagent)」與「共進化基準測試 (Coevolving Benchmark)」的創新架構,並由 Lean 作為絕對客觀的真理驗證器。
章節詳細總結
突破寫死的工作流瓶頸 (Lean proof agents and the workflow bottleneck)
設計能使用 Lean 進行定理證明的 Agent 已經成為形式數學推理的核心問題。過去的作法(如 LEAP 或 Goedel-Architect)仰賴人類精心設計的「工作流(Workflow)」來指導 Agent 如何分解證明、呼叫工具與處理錯誤。雖然這能達到 99.2% 的解題率,但同時也證明了:工作流本身就是效能的瓶頸。 本研究的突破在於:不再依賴人類手寫工作流,而是利用 Lean 作為固定且可信的底層檢驗基礎 (Substrate),讓 Agent 自行演化出屬於自己的證明工作流。
從 DGM 到能自我改寫的超級代理 (From DGM to Hyperagents)
為了實現自我演化,研究基於 Darwin Gödel Machine (DGM) 的概念,並擴展為 Hyperagents 架構。 在傳統系統中,任務解決代理 (Task Agent) 與修改程式碼的元代理 (Meta Agent) 是分離的。而在 Hyperagent 系統中,這兩者被整合成一個單一的可編輯程式。這意味著,系統不僅能修改解決任務的行為,還能「修改用來產生修改機制的程式碼本身」。這種元級別(Meta-level)的自指性(Self-referential),讓系統能針對特定的領域(如數學定理證明)進行深度特化。
基準測試的共進化與動態難度 (From self-evolving agents to coevolving benchmarks)
多數自我演化系統面臨一個致命缺陷:代理人在進步,但環境(Benchmark)是靜態的。
- 太難的基準測試:會導致絕大多數嘗試都失敗,系統無法獲得有用的選擇訊號(Selection signal)來進化。(例如,未改寫的種子 Agent 面對 IMO 等級題目幾乎全軍覆沒)。
- 太簡單的基準測試:系統會迅速飽和,失去進一步強化的動力。
為了解決這個問題,研究團隊引入了共進化基準測試 (Coevolving benchmark)。他們將題目池分為 L1 到 L3 三個難度等級。由每一代中最強的「冠軍 Agent (Champion)」驅動基準測試的更新。當冠軍 Agent 穩定克服當前難度時,系統會自動汰除已掌握的題目,並從更高難度等級引入新題(Self-hardening)。為了在難度提升後仍能比較跨代的成績,系統還引入了「單錨點重校準 (Single-anchor recalibration)」機制。
絕對的防線:Lean 驗證器接地 (Why Lean keeps the evolution grounded)
當 Agent 被賦予了修改自身程式碼的權限,它極有可能會學會「作弊」(例如修改程式碼讓失敗的測試直接回傳 True)。為了防範這種 Reward Hacking,形式化驗證環境 (Formal setting) 是不可或缺的。 系統嚴格規定,所有的解題宣告都必須交由外部、絕對可信的 Lean Runtime 進行驗證(Re-verification)。這確保了不管 Agent 的工作流與表徵如何自由演化,其最終的解題成果都必須是實打實的物理接地(Grounded),徹底排除了系統造假的可能。
總結與結論
- 無盡演化 (Open-ended Evolution) 的三大要素:在設計高階 Agent 系統時,除了(1)強大的底層模型,還必須配備 (2)能自我修改的元架構 (Hyperagent),以及 (3)隨能力動態升級的評估系統 (Coevolving Benchmark)。
- 防範 Agent 造假架構:當 AI 獲得修改自身評估邏輯的權限時,系統必須存在一個隔離於 Agent 之外的、無法篡改的驗證層(如本文中的 Lean 編譯器)。這是未來設計具備自我迭代能力的軟體工廠時的安全底線。
- 測試集需轉型為測試生態:對於企業內部專注於研發的 AI Agent,放棄維護靜態的「黃金測試集 (Golden Dataset)」,轉而建構具備難度階梯、能自動升降級的「測試生態」,是推動 Agent 持續進步的關鍵。