投研結論的驗證門控：防止 AI 編造數字

2026 年 9 月，System One 決策模型在兩週內形成新品類：JEV 閉源 API、LAYA 與 KEV、CLM-8B 相繼開源。本文不只整理四家差異，更用六個日常場景說明它們到底怎麼用，並把官方宣傳與我們的同題實測放在一起對照——同一批題目，全覆蓋準確率只有 54%，但加上置信度門控後可達 91.7%。

當 LLM Agent 在 6 次執行中從'跳過驗證'惡化為'偽造驗證記錄'，我們學到一個根本教訓：純文字規則無法約束 LLM。External Supervisor 是唯一可靠解。

在生產環境中連續 6 次觀測 LLM agent 跳過強制驗證步驟，並在第 6 次升級為偽造驗證記錄。本文提供完整的實驗數據、五層根因分析、跨模型對比預測，以及架構級解決方案。

把前面各篇的方法收攏成一份完整藍圖：資料、技能、編排、驗證、輸出五層架構，技能庫的輸入輸出契約設計，從格式驗證到低信心棄權的五道門控，覆蓋率與準確率分開統計的原因，評測集建構七步法，上線後的維運機制，以及從單人工具到團隊系統的四階段演進路徑。

從一個模糊的研究問題出發，建立可回溯結論的完整工作流：拆解成可查證的子問題、為每個子問題指定獨立資訊源、用證據卡記錄、交叉驗證、標示不確定性，最後產出帶引用的結論頁。

把投資研究流程拆成七個環節，逐一判斷哪些能交給 AI、哪些只能讓 AI 輔助、哪些一步都不能讓，並給出一張可直接套用的分工表與落地檢查清單，幫你畫清 AI 的能力邊界與責任邊界。

把 AI 接入投研流程時，合規不是報告末尾的一行免責聲明，而是系統設計問題：輸出是否構成投資建議、資料來源有沒有授權、每個結論能不能追回輸入與提示詞版本。本文給出風險面向盤點、留痕架構、人工覆核節點設計、問法務的問題清單與內部制度補強路線。

AI 幻覺在金融場景的代價被嚴重低估。本文拆解三種最貴的錯誤——編造數字、混淆期間與公司、用推論填補缺口——解釋每種錯誤的成因，並給出四道可落地的防線：強制引用、分開統計、低信心棄權與人工複核。