RAG(檢索增強生成)
又稱:檢索增強生成 · 知識庫問答 · retrieval augmented generation
先去查資料,把查到的內容連同問題一起給模型,讓它照著資料回答。
你會在什麼時候遇到它
這是讓 AI 回答「你的」資料而不是「它記得的」資料的標準做法。企業知識庫問答幾乎都是它。
打個比方
開卷考試 vs 閉卷考試。閉卷考記憶(會編),開卷考查閱與組織(會抄錯頁)。RAG 是把閉卷改成開卷。
最小範例
沒有 RAG:
問「我們公司的報銷上限是多少」→ 模型不知道,但會編一個數字
有 RAG:
同一個問題 → 先去員工手冊的向量庫撈最相關的兩段 →
把那兩段塞進 prompt → 模型照著回答,並能指出出自哪一段關鍵差異不是「答對」,而是「答錯時查得出來錯在哪一步」:是沒撈到、撈錯、還是撈對了但模型沒用。
最常搞錯的地方
- 以為 RAG 能治幻覺。它降低幻覺,但模型仍然可以無視給它的資料、照自己的記憶回答。
- 只做向量搜索不做重排。語義相近不等於正確,top-k 裡常常混著像但錯的段落。