Self-Modifying Lean Proof Agents with Verifier-Grounded Benchmark Coevolution

Cover Image

原始來源與檔名:2026-07-24T093442+0800-Self-Modifying Lean Proof Agents with Verifier-Grounded Benchmark Coevolution.md


SOURCE | 資訊源評估

NAPKIN | 餐巾紙

餐巾紙公式

持續進化系統 = 自我修改的 Agent + 驗證器接地的難度動態升級基準測試 (Coevolving Benchmark)

如果測試太難,Agent 學不到東西;如果測試太簡單,Agent 會停滯。唯有讓測試基準隨著 Agent 的能力自動變難,才能實現無盡的自我進化。

一句話

本研究提出了一種能自我改寫程式碼的數學定理證明 Agent,並首創了「基準測試共進化」機制,讓測試難度隨著 Agent 變強而自動提升,且所有結果都交由 Lean 驗證器進行不可造假的物理驗證。

餐巾紙草圖

┌──────────────────┐
│ Self-Modifying   │
│ Agent (Hyperagent)│
└────────┬─────────┘
         │ (Generates Proofs & Rewrites Code)

┌──────────────────┐
│ Lean Verifier    │ (Ground Truth)
└────────┬─────────┘
         │ (Success Signal)

┌──────────────────┐
│ Coevolving       │ (Difficulty Auto-Scales)
│ Benchmark        │
└──────────────────┘

ROUND 1: SKELETON | 骨架掃描

“這本書在說什麼”

章節骨架

  1. 介紹: 定理證明的痛點在於工作流的寫死,而非僅僅是模型能力。
  2. 從 DGM 到 Hyperagents: 引入能同時解決任務並修改自身機制的架構。
  3. 基準測試共進化: 解決靜態測試集導致的「要嘛太難沒訊號,要嘛太簡單易飽和」的問題。
  4. Lean 的絕對防線: 用 Lean 確保 Agent 不會在驗證結果上造假。

ROUND 2: DISSECTION | 血肉解剖

“憑什麼這麼說”

論證鏈

定理證明的效能高度依賴於 Agent 如何分解任務與使用工具(工作流) --> 將工作流交由 Agent 自我改寫 (Hyperagent) 可以突破人類設計的極限 --> 但直接挑戰太難的測試集會導致零回饋 (No selection signal) --> 因此建立分級的題目池,當 Agent 征服目前難度時,基準測試自動升級 (Self-hardening) --> 為避免 Agent 在自我改寫時學會「欺騙」系統,所有證明結果必須由外部、不可修改的 Lean 驗證器進行物理接地 (Grounded)。

關鍵證據

  1. 種子 Agent 在未修改前,只能解出 12.7% 的 miniF2F 測試題,面對 IMO 等級題目全軍覆沒,這證明了直接使用高難度靜態測試集的無效性。
  2. 架構採用了 Darwin Gödel Machine (DGM) 的概念,但升級為任務代理與元代理合一的 Hyperagent。

隱形假設與邊界

ROUND 3: SOUL | 靈魂提取

“還能怎麼用”

留白提問 (Guided Reflection)

跨域映射

DEEP READ | 精讀指引 (Must-Read Segments)

[!IMPORTANT] 學習的本質需要「認知阻力」。請親自回到原文閱讀以下核心段落,感受原始論述的阻力,不要只依賴 AI 的總結。

  1. From self-evolving agents to coevolving benchmarks: 這段深刻指出了靜態 Benchmark 在訓練自我演化系統時的致命傷,是整篇論文在架構設計上最精彩的突破點。

Self-Modifying Lean Proof Agents with Verifier-Grounded Benchmark Coevolution (Architectural Deep Dive)

前言/背景

本文探討了如何建立一個能自主解數學定理(透過 Lean 語言)並不斷進化的 AI 系統。研究者發現,單純讓 Agent 自我修改是不夠的,因為靜態的測試基準(Benchmark)往往會導致演化失去方向。為此,他們提出了一種結合「自我改寫的超級代理 (Hyperagent)」與「共進化基準測試 (Coevolving Benchmark)」的創新架構,並由 Lean 作為絕對客觀的真理驗證器。

章節詳細總結

突破寫死的工作流瓶頸 (Lean proof agents and the workflow bottleneck)

設計能使用 Lean 進行定理證明的 Agent 已經成為形式數學推理的核心問題。過去的作法(如 LEAP 或 Goedel-Architect)仰賴人類精心設計的「工作流(Workflow)」來指導 Agent 如何分解證明、呼叫工具與處理錯誤。雖然這能達到 99.2% 的解題率,但同時也證明了:工作流本身就是效能的瓶頸。 本研究的突破在於:不再依賴人類手寫工作流,而是利用 Lean 作為固定且可信的底層檢驗基礎 (Substrate),讓 Agent 自行演化出屬於自己的證明工作流

從 DGM 到能自我改寫的超級代理 (From DGM to Hyperagents)

為了實現自我演化,研究基於 Darwin Gödel Machine (DGM) 的概念,並擴展為 Hyperagents 架構。 在傳統系統中,任務解決代理 (Task Agent) 與修改程式碼的元代理 (Meta Agent) 是分離的。而在 Hyperagent 系統中,這兩者被整合成一個單一的可編輯程式。這意味著,系統不僅能修改解決任務的行為,還能「修改用來產生修改機制的程式碼本身」。這種元級別(Meta-level)的自指性(Self-referential),讓系統能針對特定的領域(如數學定理證明)進行深度特化。

基準測試的共進化與動態難度 (From self-evolving agents to coevolving benchmarks)

多數自我演化系統面臨一個致命缺陷:代理人在進步,但環境(Benchmark)是靜態的。

為了解決這個問題,研究團隊引入了共進化基準測試 (Coevolving benchmark)。他們將題目池分為 L1 到 L3 三個難度等級。由每一代中最強的「冠軍 Agent (Champion)」驅動基準測試的更新。當冠軍 Agent 穩定克服當前難度時,系統會自動汰除已掌握的題目,並從更高難度等級引入新題(Self-hardening)。為了在難度提升後仍能比較跨代的成績,系統還引入了「單錨點重校準 (Single-anchor recalibration)」機制。

絕對的防線:Lean 驗證器接地 (Why Lean keeps the evolution grounded)

當 Agent 被賦予了修改自身程式碼的權限,它極有可能會學會「作弊」(例如修改程式碼讓失敗的測試直接回傳 True)。為了防範這種 Reward Hacking,形式化驗證環境 (Formal setting) 是不可或缺的。 系統嚴格規定,所有的解題宣告都必須交由外部、絕對可信的 Lean Runtime 進行驗證(Re-verification)。這確保了不管 Agent 的工作流與表徵如何自由演化,其最終的解題成果都必須是實打實的物理接地(Grounded),徹底排除了系統造假的可能。

總結與結論