AI-幻覺

一句話定義

AI 幻覺是生成式 AI 產出看似流暢、合理，但實際上不準確、無根據或虛構的內容。

核心要點

• 形成原因：模型在缺乏足夠資訊、無法存取外部事實或錯誤理解語境時，仍可能依概率生成貌似合理的答案。
• 五種類型：資料誤用、語境誤解、資訊缺失、推理錯誤、無中生有。
• 常見症狀：提供無法驗證的具體數據、捏造專有名詞或文獻、對不確定事件做出過度具體的預測、回答偏離原問題。
• 應對策略：要求模型標示不確定性、區分已知事實與推測、要求引用來源、做多源驗證、用明確評估標準檢查輸出。
• 評測方法：在 AI模型評測 中，事實性任務應設計已知答案題、要求模型提供來源，並檢查來源是否存在、是否真的支持模型主張；這比只看回答流暢度更能測出可信任邊界。
• 系統面防線（2026-05-13-Stanford-AI系統課程）：RAG 可把回答鎖在檢索到的文件與引用範圍內，LLM-Evaluation 則用 objective checks、component eval、LLM-as-Judge 與人工 error analysis 追蹤仍然出現的幻覺位置。

與其他概念的關係

• 是 Prompt-Engineering 必須處理的可靠性問題；好的提示語不只要求輸出，也要設計驗證機制。
• 與 推理模型 並存：推理模型能改善邏輯推演，但不保證外部事實正確。
• 可用 Context-Engineering、RAG 與工具查證降低事實性幻覺，但不能完全消除。
• 與 AI模型評測 的關係：幻覺不是模型選型後才處理的缺陷，而應在選型階段就被當成評測維度。

相關來源

• 2026-04-28-DeepSeek-從入門到精通
• 2026-05-13-Zemith-AI模型評測指南 — 補入非技術使用者評測模型時的幻覺檢查步驟：已知答案、要求來源、來源查證。
• 2026-05-13-Stanford-AI系統課程 — 補入 RAG / 引用回溯 / eval 作為降低幻覺的系統防線

備註

「幻覺」不是單純錯字或風格問題，而是可信度風險。當輸出會影響決策、出版、法律、醫療或財務時，必須把查證設計成工作流的一部分。