46 thoughts on the near future

原始來源與檔名：2026-07-07T092532+0800-46 thoughts on the near future.md

SOURCE | 資訊源評估

本文來自推特長篇貼文（原為 Thread 格式），作者基於對 AI 發展的速度與潛在影響的觀察，提出了 46 點針對近未來的深度思考。涵蓋了智能發展、機器人、資本結構、文化心理、協調合作以及權力與安全等多個維度。文章內容極具洞察力，不僅點出當前技術進展的盲點，還大膽預測未來的風險與機會。對於理解 AI 引發的文明級別變革具有極高的閱讀價值。建議採用全景掃描與重點精讀相結合的策略。

NAPKIN | 餐巾纸

AI 加速起飛 = 演算法 OOM 突破 + 自動化 AI 研究 + 無處不在的具身智能與資本重新定價，這將導致極端的通縮、地緣政治壓力與社會心理巨變。

ROUND 1: SKELETON | 骨架掃描

• 核心問題：AI 在近未來將如何徹底改變智能生產、機器人技術、資本運作、文化心理以及全球權力結構？
• 核心答案：AI 演算法與算力的結合正處於起飛階段，這將帶來呈指數級增長的智能，並迅速滲透到物理世界（機器人）與虛擬世界（科學模擬）。同時也將引發嚴重的資本集中、就業結構重組與潛在的生存級別風險。
• 論證結構：
  1. Intelligence（智能）：指出演算法進步的速度被嚴重低估，AI 將自動化 AI 研究，帶來巨大的算力/智能轉換比突破。
  2. The intelligence supply chain（智能供應鏈）：算力成為核心資源，實驗自動化將重塑開源與封閉實驗室的競爭格局。
  3. Robotics（機器人）：實體機器人的 ChatGPT 時刻即將到來，百萬到億級別的機器人量產在望。
  4. Progress（進步）：科學研究將高度自動化與虛擬化，技術樹的深度與廣度將被重新定義。
  5. Capital and Production（資本與生產）：資本主義極致化導致極端通縮，許多職業可能被取代。
  6. Culture and Psychology（文化與心理）：人類心理需要快速適應，貧富差距與社會不平等將面臨嚴峻挑戰。
  7. Coordination & Power（協調與權力）：國際協調勢在必行，但也面臨深層次的極權、軍備競賽與存在性危機。

ROUND 2: DISSECTION | 血肉解剖

• 核心論證鏈：算力的持續擴展加上演算法的突破（仍有多個 OOM 級別的提升空間） $\rightarrow$ 帶來 AI 研究本身的自動化 $\rightarrow$ 進一步加速物理世界（Robotics）與科學（Science）的自動化 $\rightarrow$ 引發全球供應鏈與資本市場重組 $\rightarrow$ 最終考驗人類的心理適應能力與全球協調治理機制。
• 關鍵證據：當前模型（如 Claude Opus、GPT-4）的發展軌跡；實驗自動化的趨勢；機器人硬體與資料壁壘的打破（例如長視野任務中的糾錯機制取代單純的長上下文訓練）。
• 隱形假設與邊界條件：
  • 深度學習的「算法深度 (algorithmic depth)」仍未見底，還有很多秘密可以被自動化實驗發現。
  • 物理與計算的極限距離我們還很遠。
  • 大規模自動化不會因為社會的反撲或極端事件（如核武/AI 暴走）而提早終止。

ROUND 3: SOUL | 靈魂提取

• 作者盲點：作者預期了極端情況下的人類不平等與權力集中，但對於如何實際建立能抵禦這些風險的「新制度」著墨較少，主要停留在警告層面。
• 知識連結：LeCun 的錯誤累積謬誤（Fallacy of error accumulation）、Move 37（AlphaGo 的神之一手）、Bostrom 的脆弱世界假說（Vulnerable World Hypothesis）、Moloch（協調失敗的代名詞）。
• 留白提問：如果深度學習的算法深度其實很淺，開源與閉源的差距是否會在短期內迅速收斂？當機器人產能達到每年 1 億台時，能源的分配與基礎設施的瓶頸該如何解決？
• 跨域映射與行動觸發：面對極端的自動化，個人應思考自己在「供應鏈中的層級（Intermediate layers）」，越直接面對最終消費者的角色（如創作者、特定服務者）其抗風險能力可能越高。

DEEP READ | 精讀指引

• 精讀段落 1：Intelligence #5 (The idea that long horizon agents always need equivalently long horizon training is wrong…)
  • 推薦理由：直接反駁了長任務需要長訓練的直覺，點出了「糾錯 (Error correction)」機制的關鍵性，這對理解 Agent 架構與模型泛化能力至關重要。
• 精讀段落 2：Capital and Production #3 (One way to think about how this might shape up is how many intermediate layers…)
  • 推薦理由：提供了一個極具實操性的框架來評估職業被取代的風險：即工作在供應鏈中距離消費者的「中間層數」。
• 精讀段落 3：Power, violence, security, liberty #1 & #5 (Bostromian vulnerability & zero days in tech tree)
  • 推薦理由：將 AI 風險具象化為「技術樹上的零日漏洞」，從架構師的防禦視角來看，這是對未來系統安全性最強烈的警示。

46 thoughts on the near future (Architectural Deep Dive)

前言/背景

這篇文章探討了 AI 在未來幾年（近未來）將如何全方位重塑人類社會，包含技術突破的速度、機器人的普及、資本主義的極致化以及深層的地緣與社會風險。這不是一篇單純的技術預測，而是一幅描繪文明級別架構重組的全景圖。

章節詳細總結

Intelligence (智能)

作者指出，世界嚴重低估了演算法的進步速度。目前可能有 4 到 10 個 OOM (數量級) 的智能輸出提升空間。我們正處於「早期起飛 (Early takeoff)」階段，最關鍵的變數是 AI improving AI (AI 改良 AI)。

• 演算法深度與優化債：運算資源仍然稀缺，但由於可以讓 Agent 自主去探索，研究人員的機會成本降低。新想法伴隨的「優化債 (Optimization debt)」現在可以用無監督的 Token 消耗來償還。
• 反駁 LeCun 的錯誤累積謬誤：

  “The idea that long horizon agents always need equivalently long horizon training is wrong because generalization in time exists. Long tasks are not made of longness! This is related to LeCun’s fallacy of (1-e)^n error accumulation. What’s actually going on is error correction.”

  • 這段指出，長任務的關鍵不在於長度的堆疊，而在於糾錯 (Error correction)，從單一 Token 的生成到長任務中的每個步驟都在發生。Agent 正在達到「糾錯逃逸速度 (Error correction escape velocity)」。
• 深度學習的工程化科學：即將出現真正的深度學習工程科學，例如**尺度不變性 (Scale-invariance)**的科學化，可以讓單一 GPU 的實驗結果準確預測十萬張 GPU 的行為，大幅提高實驗回報率。
• Move 37 時刻常態化：各領域都會出現 AlphaGo 的 Move 37 時刻，且很快會讓人覺得稀鬆平常。

The intelligence supply chain (智能供應鏈)

算力在未來幾年將是高度競爭的資源，並將逐漸商品化。

• 競爭格局的轉變：實驗室的優勢原本在於研究人員，但隨著 AI 研究自動化，未來的護城河將轉移至：資本獲取能力、算力規模、特殊數據、商業關係以及產品力。
• 自動化實驗的分佈式特性：演算法秘密的發現比大規模訓練更容易被分佈式執行。
• 開源的困境：市場會將資源導向需求最大的地方（即頂級實驗室）。開源社區即使有資金，也可能面臨嚴重的算力飢渴與機會成本抉擇（例如將 GB300 用於推理還是非前沿的開源研究）。

Robotics (機器人)

硬體領域的 ChatGPT 時刻即將到來。

• 物理規模化的時間表：雖然機器人技術會快速突破，但要達到大規模量產（如每年 1 億台）可能需要到 2030 年。我們現在每年生產 10 億部智慧型手機，這證明了供應鏈的潛力。
• 打破硬限制：過去被視為瓶頸的問題，如樣本效率低、資料稀缺、昂貴的硬體設計（手部、馬達）以及物理世界的碎形複雜度，都將隨著研究擴展定律 (Research scaling laws) 的推進被解決。世界模型 (World models) 將發揮關鍵作用。

Progress (進步)

科學發現的過程正在自動化與虛擬化。

• 虛擬化實驗室：生物學、材料科學等領域將由神經網絡模型、顯式模擬與真實世界實驗相結合。我們正在「自動化那些能直接產出進步的機器」。
• 技術樹的深度：未來的發展取決於物理定律允許的計算深度與廣度。如果是「深」的技術樹，創新將無止盡直到觸及物理極限；如果是「淺」的，我們很快就會達到技術成熟點並開始橫向擴展 (Scale out)。

Capital and Production (資本與生產)

資本與智能的結合將帶來極致的資本主義與嚴重的通縮。

• 無處不在的自動化：挖礦、海陸空運輸、工廠、配送中心甚至供應鏈的維護本身都將被自動化。
• 職業取代的「中間層 (Intermediate layers)」框架：

  “One way to think about how this might shape up is how many intermediate layers there are in the supply chain between a worker of today and the consumer. For a TikTok influencer there are zero layers. For a doctor, there are zero. For a factory worker there are many.”

  • 這個架構思維極為精彩：判斷一個工作是否危險，要看它在供應鏈中距離消費者的層次。層次越多的（如工廠工人），越容易被自動化取代；零層次、直接面對消費者的（如網紅、某些醫療服務），或許能保留更久，因為這涉及到不可替代的「人際關懷 (Human care)」。
• 永久底層階級 (Permanent underclass)：如果生產力或政府效率不足以支撐 UBI (全民基本收入)，可能會出現一群被剝奪代理權 (Agency) 的階級。

Culture and Psychology (文化與心理)

面對極端的劇變，人類心理適應速度成為瓶頸。

• 心理學的千年創新：在短短幾十年內，豐富的智能將推動心理學和精神病學千年的進展。我們將能設計出更適應未來的「心理韌性」，而不僅僅是粗糙的「線路刺激 (Wireheading，意指單純的化學/神經快感)」。
• 權力與虛偽：在極度不確定的世界中，人們會瘋狂追逐權力與地位。頂級富豪聲稱 AI 造福全人類，但絕不願放棄自己的財富去過普通人的生活。社會不公將被極度放大。

Coordination & Power (協調與權力)

• Bostromian 脆弱性：

  “I regret to inform you that our universe might be vulnerable in the Bostromian sense… The algorithmic depth of nukes wasn’t out of reach for the world’s smartest humans. Tomorrow our machines will reach the next rung, and the next.”

  • 技術樹中可能藏著極其危險的「零日漏洞 (Zero days)」——網路、生物、基礎設施、甚至物理層面的破壞性技術。
• MAD (相互保證毀滅) 的失效：基於 20 世紀技術建立的核武 MAD 框架，在經歷千禧年級別的技術飛躍後可能不再適用。軍隊、警察和執法機關將全面自動化且比人類更聰明。
• 實驗室的國有化風險：美國的制度看似不容許，但國防與情報需求的壓力可能迫使 AI 實驗室在實質上被國家接管。

總結與結論

1. 架構設計必須考慮「糾錯」而非單純的上下文擴展：未來 Agent 的強大不在於能塞進多少 Prompt，而在於系統設計中是否具備多層次的 Error Correction 機制（從 Token 級別到任務級別）。這對開發 AI Agent 架構至關重要。
2. 供應鏈層次決定自動化風險：在設計企業架構或職涯規劃時，應運用「中間層」理論。任何處於供應鏈深層、且不直接接觸終端用戶的情感價值的節點，都應優先考慮被 API 或自動化取代。
3. 為「深度未知」的技術樹保留架構彈性：由於我們不知道深度學習的「演算法深度」極限在哪裡，系統架構不能鎖死在當前模型的假設上。必須設計為能快速抽換底層模型、適應 OOM 級別躍升的動態架構。
4. 重視自動化防禦與安全性 (Zero-day in Tech Tree)：AI 將使尋找系統漏洞的速度指數級增加。架構師必須將安全防禦機制（如紅藍對抗）交由 AI 自動化處理，僅靠人類的安全審查將無法應對未來的威脅。