LLM(大型語言模型)
又稱:大模型 · 大型語言模型 · foundation model · 大語言模型
一個被訓練來預測「下一個 token」的神經網路。它只會輸出文字。
你會在什麼時候遇到它
所有 AI 工具的核心都是它。理解「它只是在預測下一個 token」,你就理解了一半的 AI 出錯原因。
打個比方
像一個讀過極多文字、接話能力極強的人:你說上半句,它能講出最像下半句的東西。它講得像不像,跟它知不知道,是兩件事。
最小範例
輸入:「臺灣最高峰是」
模型內部:對詞彙表裡每個 token 算一個機率
輸出:機率最高的那個 → 「玉山」
然後把「玉山」接回輸入,再算下一個 → 一直重複到結束整個生成過程就是這個迴圈。它沒有「查資料」這個動作,除非外面有程式幫它查。
1/8輸入:一整段提示
系統提示、歷史、文件、這次的問題,全部拼成一個 token 序列送進去。
第 1 步,共 8 步 輸入:一整段提示
最常搞錯的地方
- 以為模型會「上網查」。原生 LLM 不會;能查是因為外面接了工具。
- 以為它知道自己不確定。它輸出的是最像答案的文字,不是帶信心標記的答案。