小白AI入門必學的：66 個 AI 高頻詞（人話版）

Cover Image

原始來源與檔名：2026-09-04T094644+0800-小白AI入門必學的：66 個 AI 高頻詞（人話版）.md

SOURCE | 資訊源評估

準確性: 高 - 用通俗語言準確解釋了技術術語
易理解性: 高 - 極大降低了AI名詞的理解門檻
閱讀策略建議: 新手可按章節順序閱讀，建立概念地圖；老手可跳至 MCP, Agent 等新興概念快速核對。

NAPKIN | 餐巾紙

餐巾紙公式

AI 概念體系 = 模型底座 + 提示工程 + 檢索與工具 + 代理與協議 化解術語恐懼，將概念放入對應抽屜中

一句話

用大白話解釋了66個AI領域高頻術語，幫助新手打破「知識的詛咒」，建立清晰的AI技術地圖。

餐巾紙草圖

+-------+     +---------+     +---------+
| LLM   | --> | Prompts | --> | Agents  |
+-------+     +---------+     +---------+
   ^               |               |
   |               v               v
+-------+     +---------+     +---------+
| RAG   |     | MCP/Tool|     | Actions |
+-------+     +---------+     +---------+

ROUND 1: SKELETON | 骨架掃描

“這本書在說什麼”

核心問題: 非技術人員在接觸AI時，常被各種英文縮寫和專有名詞困擾。
核心答案: 對66個高頻AI詞彙進行了六大分類，並用生活化比喻解釋。
論證結構: 分類包含大模型基礎、對話概念、RAG與檢索、Agent與MCP工具、電腦基礎名詞及硬體與開源概念。

章節骨架

認識AI和大模型: AI, LLM, Token, Context 等。
與AI聊天常見詞: Prompt, Hallucination, System Prompt。
讀取資料: RAG, 向量與語義搜尋。
Agent與MCP: Tool, Plugin, MCP, Human-in-the-loop。
電腦基礎詞: API, CLI, Github。
本地模型與硬體: 開源, GPU, VRAM。

ROUND 2: DISSECTION | 血肉解剖

章節詳細總結

底層模型架構與對話互動機制

在初學者入門 AI 的過程中，理解大語言模型（LLM）的底層概念是破除技術黑箱的第一步。LLM 的核心運作機制並非傳統的關聯式資料庫查詢，而是一個基於機率學的「文字接龍（Next-token Prediction）」引擎。它透過吞噬海量的網際網路文本進行預訓練（Pre-training），將人類語言的結構與知識壓縮進神經網路的權重參數（Parameters）中。模型的參數規模（如 8B、70B）直接決定了其知識容量與推理天花板；而模型的上下文窗口（Context Window），則界定了它在單次對話中能處理的輸入與輸出長度上限（如 128k tokens）。一旦輸入的文本超過這個窗口限制，模型就會像得了失憶症一般，遺忘掉對話最開始提供的背景資訊。

在與模型互動（Prompt Engineering）的層面，使用者必須掌握如何精準地調用模型的潛在空間（Latent Space）。「提示詞（Prompt）」就是觸發模型輸出的控制指令，而「系統提示詞（System Prompt）」則是賦予模型特定人設與全局邊界條件的最底層指令。這就如同為作業系統寫入開機設定檔。此外，理解「Token」的概念至關重要。Token 是 AI 處理語言的最小運算單元，一個中文字通常會被拆解為多個 Tokens，這直接影響了 API 呼叫的計費標準與上下文容量的消耗速度。當模型產生「幻覺（Hallucination）」，即一本正經地胡說八道時，通常是因為其訓練資料庫中缺乏相關知識，又受限於文字接龍的生成機制，強行輸出了機率上看似合理但事實上錯誤的詞彙組合。

知識增強檢索（RAG）與外部工具的掛載

為了解決模型先天性的幻覺問題與知識更新停滯（Knowledge Cutoff）的缺陷，業界引入了「檢索增強生成（RAG, Retrieval-Augmented Generation）」架構。RAG 的核心邏輯是「先檢索，後生成」。當用戶提問時，系統不會直接讓 LLM 回答，而是先將用戶的問題轉換為向量（Vector Embeddings），並在掛載的外部知識庫（如企業內部文檔或 PDF）中比對出最相關的片段，最後將這些片段作為上下文（Context）一起餵給模型，強迫模型「基於提供的資料」進行回答。這從根本上收束了模型的生成邊界，確保了答案的真實性與可追溯性。

隨著技術的演進，單純的文本生成已經無法滿足複雜的業務場景，這催生了「Agent（智能體）」與「MCP（Model Context Protocol）」架構。Agent 不僅是一個對話視窗，它還具備了「規劃（Planning）」與「行動（Action）」的能力。當模型被賦予外部工具（Tools）的調用權限（例如：Google 搜尋、執行 Python 腳本、查詢資料庫 API）後，Agent 能夠將一個複雜的宏觀任務拆解為多個步驟，並透過 API 讀寫現實世界中的資料。而 MCP 則是由 Anthropic 等公司推動的一種標準化協議，旨在解決不同模型與不同本地工具之間介面不相容的問題。透過 MCP，模型可以像隨插即用的 USB 一樣，無縫接管開發者電腦上的本地檔案、終端機甚至是第三方應用程式，這標誌著 LLM 從「大腦」正式進化為擁有雙手的「數位員工」。

本地端部署與硬體加速架構

針對資料隱私要求極高的企業或是硬核開發者，「本地部署（Local Deployment）」成為了雲端 API 之外的關鍵選項。要在本地端運行開源大模型（如 Llama 3 或 Qwen），開發者必須跨越硬體與軟體環境的門檻。在軟體層面，Ollama 等工具將複雜的模型權重下載、環境依賴與 API 封裝打包成單一執行檔，極大地降低了本地運行的難度。而在硬體層面，GPU（圖形處理器）與 VRAM（顯示記憶體）是決定模型能否順利加載與快速推理的命脈。

為了在有限的消費級硬體上運行龐大的模型，業界廣泛採用了「量化（Quantization）」技術。這是一種將模型參數精度（如 16-bit 浮點數）壓縮至 8-bit 甚至 4-bit（如 GGUF 格式）的工程降維手段。量化雖然會造成極微小的精度損失，但卻能將模型的記憶體佔用量砍半，使得原本需要專業資料中心才能跑得動的 70B 模型，也能在配置高階顯示卡的個人電腦上流暢運行。這種硬體層級的妥協與優化，是推動 AI 算力平民化，讓高頻詞（如 CUDA、算力、VRAM）走入大眾視野的核心動力。

🔗 Source: https://x.com/AdrianPunk115/status/2094009581651534062

/小白AI入門必學的：66 個 AI 高頻詞（人話版） (Architectural Deep Dive)