快思慢想與雙系統架構：以 Jev 與語言模型實現 System 1 與 System 2 協同推理

SOURCE | 資訊源評估

• 準確性：極高 - 源自 TypeSafe AI 與 AgentRun 團隊在生產環境多模態視訊檢索與自動化合規審計的實測基準數據。
• 易理解性：極高 - 將 Kahneman《快思慢想》認知模型映射至現代 AI 系統工程架構，對比具象且清晰。
• 閱讀策略建議：聚焦「四拍協同推論循環」與 Jev 類型化置信度門檻設計，掌握高維資料流中削減 95% 推論成本之架構。

NAPKIN | 餐巾紙

• 一句話：停止讓昂貴模型盲目掃描全局；透過「極速型別直覺模型 (System 1) 導航初篩 + 深度多模態推理模型 (System 2) 定點攻堅與回環驗證」，實現 27 倍降本與超高精準度。
• 餐巾紙公式：$$\text{複合推論效能} = \frac{\text{直覺篩選率 } \alpha \times \text{深度推理精度 } \beta}{\text{輕量感知延遲 } t_1 + (1 - \alpha) \times \text{重型計算延遲 } t_2 + \text{回環驗證損耗 } \epsilon}$$

公式白話解析：系統性價比取決於 System 1 能否以極低開銷（$t_1 \approx 0.25\text{s}$, 成本千分之一美分）過濾 95% 雜訊（高 $\alpha$），使高階模型專注關鍵片段並雙向防偽。

• 行動觸發：當 Agent 面臨長視訊或巨型 DOM 導致延遲暴增與帳單失控時，立即導入雙系統過濾閉環。

餐巾紙草圖

[ 原始多模態資料流 / 視訊長度 / DOM 截圖 ]
               |
               v
  +--------------------------+
  | System 1 (Jev 類型化直覺)  | ---> 延遲 0.25s / 成本 0.0001美分
  +--------------------------+
               |
       [ 置信度 >= 0.70 ? ]
         /              \
      (Yes)             (No) ---> [ 立即丟棄無效幀 / 跳過計算 ]
       /
      v
  +--------------------------+
  | System 2 (Gemini 3.8)    | ---> 定點深度語義推理 (僅分析目標 1 分鐘)
  +--------------------------+
               |
               v
  +--------------------------+
  | System 1 (Jev 回環反查)  | ---> 二次評分反向驗證 (攔截時間戳漂移與幻覺)
  +--------------------------+
               |
               v
  [ 產出確定性證據包 / 精確至秒之最終交付物 ]

ROUND 1: SKELETON | 骨架掃描

• 雙系統認知本質：Herbert Simon 指出「直覺無非是模式識別」。System 1 是西洋棋大師的瞬時直覺，System 2 是步步為營的推演；核心在於 System 1 指引 System 2 注意力。
• 模型分工實體化：
  1. System 1 (Jev)：TypeSafe AI 推出的強型別判斷模型，專精布林值、評分與粗粒度框選，耗時 0.25 秒，成本極低。
  2. System 2 (Gemini 3.8 Flash)：長上下文多模態模型，擅長複雜跨模態推演，但推論遲緩且按秒計費昂貴。
• 核心章節骨架：
  • 雙系統哲學與 AI 工程化：從認知心理學到複合 Agent 架構。
  • 基準測試 1：視訊草堆尋針：55 分鐘影片定位 1939 年機器人 Elektro。
  • 基準測試 2：商戶合規審計：Allbirds 結帳頁隱藏支付方式探勘。
  • 四拍協同機制（Four Beats Loop）：雙向注意力引導與驗證流。
  • 架構泛化與 AgentRun 實踐：工作流中的 Sift、Judge 與 Route 原語。

ROUND 2: DISSECTION | 血肉解剖

論證鏈

[ 傳統多模態 Agent: 暴力全量掃描成本過高，單幀獨立檢索則喪失脈絡頻頻誤判 ]
                               |
                               v
[ 引入 Kahneman 雙系統架構: System 1 快速辨識模式，導引 System 2 聚焦攻堅高價值片段 ]
                               |
                               v
[ 實證成效: 視訊尋針成本降 27 倍且精準到秒; 支付合規探勘達 100% 覆蓋與抗幻覺 ]
                               |
                               v
[ 結論: 軟體規則作為宏觀 System 2，搭配 Jev 輕量直覺神經路由，為 Agent 商業化唯一解 ]

關鍵證據與量化數據

• 視訊尋針基準（55 分鐘影片尋找機器人 Elektro）：
  • 單一視訊模型 (Gemini 掃描全片)：命中 3/3，延遲 1 秒，成本 $0.24，耗時 31 秒。
  • 逐幀 LLM 呼叫 (反模式)：失敗（第 11 分鐘誤認黃銅儀表，15 次誤報），成本 $4.13，耗時 10 分 39 秒。
  • 雙系統架構 (Jev 掃描 40 幀 -> Gemini 攻堅 1 分鐘)：命中 3/3，精確到相同秒數，成本 $0.009（降本 27 倍），耗時 24 秒。萬小時推算成本從 $2,600 驟降至 $95。
• 商戶支付合規審計基準（Allbirds 結帳頁面）：
  • 瀏覽 Agent 擷取 37 張截圖（< 6 分鐘，成本 $0.86），Jev 初篩呈現雙峰：無支付畫面 0.010.03，有支付畫面 0.991.00。
  • 覆蓋率：100% 辨識出與人工一致的 14 種支付方式，追加成本僅約 10 美分與 2 分鐘。
  • 逆向抗幻覺測試：注入 38 個宣稱支付（含 13 個時間戳秒誤為分的首頁錯誤），Jev 全數以 0.01~0.02 攔截，76 次校驗成本不足 1 美分。

隱形假設與邊界條件

• 直覺判準邊界：假設 Jev 分類器具備穩健特徵提取能力；物件嚴重形變時低門檻易引發漏檢。
• 採樣步長假設：資料需具時序延續性；極短瞬態事件小於採樣步長易錯失。

ROUND 3: SOUL | 靈魂提取

• 作者盲點 (Author’s Blindspots)：缺乏反向校驗失敗時的確定性收斂演算法；對動態 DOM 防爬混淆適應力未深入探討。
• 知識連接 (Knowledge Mesh)：軟體層對應搜尋引擎「雙階段檢索（向量粗排 + Cross-Encoder 精排）」；認知層對應信號檢測理論（SDT）之 ROC 曲線。
• 行動觸發 (Action Triggers)：海量長資料輸入但有效目標高度稀疏時，嚴禁全量調用高階模型，必須前置部署輕量型別化過濾層。
• 留白提問 (Guided Reflection)：
  • 架構師自省：我們是否因大模型的全能表象，而惰於設計分層過濾架構，導致大量成本浪費在吞吐無效雜訊？
  • 演進思考：當巨型模型推論成本大幅下降，直覺模型是否會因邊緣端即時需求更顯關鍵？
• 跨域映射 (Cross-Domain Mapping)：宛如相機對焦系統：相位對焦感測器（System 1）微秒級預測距離，再由反差對焦演算法（System 2）毫米級精確收斂。

DEEP READ | 精讀指引 (Must-Read Segments)

• 關鍵章節：Part 2 之「2. 視訊草堆尋針基準對比」與「4. 逆向校驗機制與抗幻覺防護欄設計」。
• 原文金句：

  “Intuition is nothing more and nothing less than recognition… Most of the time it’s System 1 that tells System 2 where to put its attention.” （直覺無非就是模式識別……多數時候，是 System 1 告訴 System 2 該將注意力投向何處。）

• 推薦理由：打破「單一大模型解決一切」的迷思，為多模態視訊與 Web Agent 提供了極致性價比架構範本。

STRUCTURE MAP | 全書結構圖

快思慢想與雙系統架構
|
+--- 1. 認知理論工程化映射: System 1 (Jev, 0.25s) vs System 2 (Gemini 3.8, 深度推理)
+--- 2. 四拍協同推論循環: 粗篩定位 -> 聚焦攻堅 -> 回環反查 -> 固化交付
+--- 3. 生產環境驗證基準: 視訊尋針降本 27 倍 ($0.009) / 支付審查 100% 覆蓋與防偽
+--- 4. AgentRun 抽象拓撲: Sift / Pick / Route 輕量原語 + 工具增強 Agent 核心

快思慢想與雙系統架構：以 Jev 與語言模型實現 System 1 與 System 2 協同推理 (Architectural Deep Dive)

前言/背景

自主代理架構長期面臨關鍵瓶頸：推論深度與上下文規模膨脹導致延遲與成本線性攀升。處理小時級視訊、龐大網頁或複雜 UI 時，若直接將原始上下文灌入高階推理模型，不僅帳單高昂，更常因注意力稀釋遺漏細節。

TypeSafe AI 團隊借鑑 Kahneman《快思慢想》雙系統模型，提出複合架構：以極輕量型別判斷模型 Jev 為 System 1，搭配具備深度推導能力的語言模型作為 System 2。透過雙系統協同，在長視訊檢索降本 96% 並秒級定位，合規審查根除幻覺。

章節詳細總結

1. 雙系統認知工程化：Jev 與 Gemini 3.8 的職責劃分

Herbert Simon 指出：「直覺無非是模式識別。」雙系統架構將認知模型具化為軟體契約：

• System 1 (Jev)：以超低延遲（0.25 秒）、極低成本（千分之一美分）執行型別化判斷（布林值、評分、邊界框）。專門充當「注意力北極星」，指出何處值得深究。
• System 2 (Gemini 3.8 Flash)：負責跨模態邏輯推演，處理高複雜任務，但推論遲緩且按秒計費昂貴。

架構權衡 (Trade-offs)

• 優勢 (Pros)：打破快速掃描與深度推演矛盾，大幅節約算力。
• 劣勢與成本 (Cons & Overheads)：多階段管線增加狀態管理開銷。
• 選型建議：輸入維度極高但目標稀疏之多模態場景。

2. 視訊草堆尋針（Needle in a Video Haystack）基準對比

團隊在 55 分鐘紀錄片中測試定位 1939 年機器人 Elektro 走上陽台的精確秒數。

三種架構橫向盲測：

1. 架構 A (Video Model Alone)：整片灌入 Gemini 3.8，成本 $0.24，耗時 31s，檢出但延遲 1 秒。
2. 架構 B (逐幀 LLM 呼叫)：新手反模式，成本 $4.13，耗時 10 分 39 秒，將 11 分鐘黃銅儀表誤判為機器人（誤報 15 次）。
3. 架構 C (Jev + Gemini 雙系統)：Jev 掃描 40 幀鎖定可疑區間，Gemini 僅推理該 1 分鐘片段。秒級精準命中 3/3，耗時 24s，成本僅 $0.009（降本 27 倍）。萬小時視訊庫推算成本由 $2,600 降至 $95。

關鍵在於置信度門檻過濾：面對黃銅儀表，Jev 評分僅 0.34；系統規定評分 $\ge 0.70$ 才喚醒 System 2，徹底杜絕無效調用。

架構權衡 (Trade-offs)

• 優勢 (Pros)：推論成本降 96% 以上，精準度達秒級。
• 劣勢與成本 (Cons & Overheads)：採樣過疏可能漏檢極短瞬態事件。
• 選型建議：長時長且需秒級標註之視訊檢索管線。

3. 商戶合規審查與證據鏈全自動生成

團隊以 Browserbase 無頭瀏覽器代理在 Allbirds 官網實測支付渠道探勘：

1. 自主巡檢截圖：Agent 自動展開選單，6 分鐘截取 37 張畫面（成本 $0.86），不涉及個資。
2. 直覺快速快篩：Jev 初篩呈現陡峭雙峰：無支付畫面得分 0.010.03，具支付畫面 0.991.00。
3. 語義定位與框選：Gemini 解析高分畫面識別 14 種品牌；Jev 審查確認特徵位置（評分 0.77~1.00）；Gemini 繪製邊界框。

產出具法律效力的可審計證據包，涵蓋 14 種支付截圖與邊界框，與人工完全一致，追加成本僅 10 美分與 2 分鐘。

架構權衡 (Trade-offs)

• 優勢 (Pros)：具備確定性證據鏈，根除黑盒子審計盲點。
• 劣勢與成本 (Cons & Overheads)：無頭瀏覽器 DOM 操作為主要延遲源。
• 選型建議：金融合規、KYC 審查與版權取證場景。

4. 逆向校驗機制與抗幻覺防護欄設計

為驗證抗幻覺韌性，團隊注入 38 個宣稱支付方式（含 13 個時間戳秒誤算為分的首頁錯誤畫面）。

在此逆向測試中，Jev 展現出色防護力：

• 精準攔截：對 13 處指向首頁的偽造記錄，Jev 獨立給予 0.01~0.02 評分，全數攔截重審。
• 極低開銷：76 次高密度逆向交叉檢驗耗費不足 0.01 美元。

四拍協同推論循環（Four Beats Loop）：

1. Beat 1 (System 1)：快速掃描全域，給出注意力錨點 (Where to look)。
2. Beat 2 (System 2)：深入錨點區間，展開高階邏輯推理 (Reason there)。
3. Beat 3 (System 1)：接收推論假設，反向審查特徵存在性 (Check it)。
4. Beat 4 (System 2)：整合驗證特徵，產出確定性結論 (Deliver with confidence)。

架構權衡 (Trade-offs)

• 優勢 (Pros)：雙向校驗閉環，顯著壓低幻覺率。
• 劣勢與成本 (Cons & Overheads)：若 System 1 偏差可能引發循環重試。
• 選型建議：支付、法規與合約等高風險決策系統。

5. 通用化架構抽象：AgentRun 工作流中的認知節點

TypeSafe AI 將雙系統思維沉澱為 AgentRun 引擎的核心原語：

• 輕量認知節點：由單次 Jev 呼叫驅動，包括 judge（布林評分）、sift（千中選十）、route（分流 Prompt）。
• 重型代理節點：由綁定 MCP 工具的高階語言模型驅動，專注純化後的上下文。 創辦人 Diogo Almeida 指出：軟體工程是外部 System 2，神經網路是 System 1。未來架構是以確定性軟體邏輯約束輕量神經直覺，以極簡可驗證拓撲征服複雜性。

架構權衡 (Trade-offs)

• 優勢 (Pros)：模組高度解耦，各節點可獨立優化替換。
• 劣勢與成本 (Cons & Overheads)：需具備拆解模式識別與符號推導之架構能力。
• 選型建議：企業級 Agent 編排底座設計。

總結與結論

1. 注意力引導重於參數量：解決 Agent 效能瓶頸關鍵在於建立以 System 1 為守門員的注意力引導機制。
2. 型別化直覺是降本槓桿：Jev 透過極低延遲（0.25s）與強型別輸出，削減 96.25% 檢索成本，將無效推論降至最低。
3. 四拍循環消除幻覺：透過「初篩—攻堅—反查—固化」雙向閉環，以低成本模式匹配驗證高階產物，建立工業級可信度。
4. 符號與直覺共生演進：軟體規則（宏觀 System 2）與神經直覺（System 1）協同編排，是兼顧效益與延遲的架構正道。

Source URL: https://x.com/MiguelriosEN/status/2115146874122596669