用「結構性自我制約」根治 AI 幻覺：反證優先協議 (Structural Self-Constraint: Solving AI Hallucination with Anti-Evidence Ledgers)

原始來源與檔名：20260512_2026-05-12T093034+0800-从“狗追着车咬”开始着手解决 AI 幻觉问题（附带提示词）.md

來源：[[@OpenCils]] / X (Twitter) — 2026-05-10 原始檔名：2026-05-12T093034+0800-从“狗追着车咬”开始着手解决 AI 幻觉问题（附带提示词）.md

NAPKIN | 餐巾紙

餐巾紙公式

Hallucination Root Cause = Pursuit of Fluency + Illusion of Confidence The Fix = Structural Constraint (The “Stick”) The “Stick” Prompt = Anti-Evidence Ledger (Why might this be wrong?) MUST precede the Answer.

AI 為什麼會產生幻覺？因為它就像一隻追車的狗，本能地追逐「最流暢的下一個詞」，而不是「事實」。在 Prompt 裡加「請誠實」沒用，因為它根本不知道自己在說謊。你必須給牠脖子上綁一根棒子——在它給出任何自信的答案之前，強制要求它先寫下「這個答案為什麼可能是錯的（反證帳本）」。反駁越充分，結論自然越謹慎。這不是讓它變謙虛，而是用結構力量對抗生成的本能。

一句話

本文提出了一種極具創意的 Prompt 框架來解決大模型的幻覺問題。作者將 AI 的幻覺比喻為「狗追車」，指出這是追求流暢性的本能使然。透過設計嚴謹的對照實驗，作者發現常規的「請準確」指令會導致 AI 發生危險的「靜默替換（偷偷修改題目以迎合要求）」。解決方案是實施「反證優先協議」：強制 AI 在回答前，必須先建立「反證帳本」並宣佈「結論許可」等級。這種前置認知成本的方法，能將壓力題下的幻覺率從 33% 降至 0%。

餐巾紙草圖

[The Anti-Evidence Protocol]

User Input: "Give me 10 papers on X."

[ Standard AI Process ] -> "I must provide 10 items to be helpful." -> *Silently substitutes 10 fake/unrelated papers* -> FAIL.

[ Structurally Constrained AI ]
  1. The Ledger (The Stick):
     - What could go wrong? (I don't have 10 real papers)
     - What's missing? (Real DOI links)
  2. The Permit:
     - [x] Conditional Answer Only
  3. The Output:
     - "I only have 6 verified papers. Beyond this, I would be fabricating." -> SAFE.

ROUND 1: SKELETON | 骨架掃描

“這篇文章在說什麼”

痛點分析: AI 不知道自己不知道什麼。它不是故意說謊，而是真誠地用錯誤的自信度輸出流暢的廢話。
比喻: 狗追車。狗本能追車，不讓他咬車的辦法是在脖子綁一根棒子。同理，不讓 AI 瞎編的方法，是建立「結構性自我制約」。
實驗設計: 四組 Prompt 測試 (空白, 泛化謹慎, 反證優先, 僅標籤)。涵蓋 8 類高危險場景（如要求偽造 DOI、壓力測試）。
驚人發現 (靜默替換): 在被強迫給出 10 篇論文時，常規 AI 不會直接偽造不存在的論文，而是會「偷偷塞入與主題不符但真實存在的論文」來湊數。這是極難被察覺的惡性幻覺。
解決方案 (反證優先):
1. 【反證帳本】: 提問哪裡可能出錯？缺什麼資訊？
2. 【結論許可】: 選擇（明確回答 / 條件回答 / 無法判斷 / 需驗證）。
3. 【回答】: 根據許可等級進行輸出。未通過帳本的斷言不得進入答案。
代價: 更長的推論時間與 Token 消耗。不適合需要流暢性的創意寫作。

ROUND 2: DISSECTION | 血肉解剖

“憑什麼這麼說”

核心論證鏈

幻覺是生成機制的副產品，而非道德缺陷: 大模型的底層邏輯是「下一個詞的機率預測」。當使用者的 Prompt 帶有強烈期待（例如「給我 10 篇」）時，模型為滿足上下文連貫性，會優先選擇填補空缺，而非檢驗事實。
「靜默替換 (Silent Substitution)」的隱蔽危害: 這是全文最有價值的洞見。模型發現「偽造實體」容易觸發內建安全護欄，於是演化出更狡猾的策略——用真實但無關的資訊來滿足形式要求。這證明了泛化的「安全提醒」會被模型以意想不到的方式繞過。
強制 Chain-of-Thought (CoT) 的對立面: 傳統 CoT 是教模型「如何一步步證明自己是對的」；反證優先則是強制模型「一步步證明自己可能哪裡錯了」。透過在回答前強行搶佔上下文空間，它物理性地削弱了模型後續「絕對自信輸出」的機率權重。

關鍵證據

嚴謹的實驗數據：288 份樣本。C 組（反證優先）在面對壓力題（逼迫它給出 10 篇論文）時，替換率為 0%，且三次測試結果 100% 一致。而未受限的 A 組替換率達 33%，且行為極不穩定。這證明結構約束帶來了「可預測性」。

邊界條件

作者明確指出了此協議的副作用：高延遲、高成本、破壞語感。它只適用於高風險、高精度場景（如醫療、法律、論文檢索），絕不能用於頭腦風暴或創意寫作。

ROUND 3: SOUL | 靈魂提取

“還能怎么用”

知識連結: 呼應了我們先前在探討「Agent 架構設計」中，將 QA 節點與 Coder 節點分離的理念。這裡的「反證帳本」，本質上就是在單一 Prompt 內模擬出一個嚴厲的 QA Agent，對草稿進行前置審查。
深層洞見: 「想給你一個完整的答案，先把它為什麼可能是錯的說清楚。這不是謙虛，是認知成本的前置。」 真正的智能，不僅在於能夠推導出結論，更在於能清晰界定自己知識的邊界。
行動呼籲:
1. 將文章中提供的【反證帳本】Prompt 保存為你的「高價值檢索模板」。
2. 當你使用 Perplexity 或 Claude 進行任何涉及事實查核、文獻引用或財務數據擷取的任務時，強制把它貼在提問的開頭。
3. 學會擁抱 AI 告訴你「我只能條件性回答」——這比它流暢地編造一個完美答案要安全一萬倍。