LLM 基礎
「LLM、Token、Context 與模型差在哪？」
完成後你能：呼叫一個 LLM，並依需求選雲端或本機模型。
📌 學習目標
- 用 Ollama 的本機模型完成第一次 API 呼叫，再用 Anthropic API 做對照。
- 說出模型從 Pre-training、Post-training 到 Inference 的順序。
- 以簡單例子說明 token、context window 與 temperature。
- 從回應的 usage 欄位讀出輸入與輸出 token。
- 用輸入／輸出單價、延遲與資料敏感度解釋模型選擇。
進入條件
已經會 Python、Git 與 API 就可以直接從這站開始；還不熟就先回 Stage 0 補。
🧭 本站課程
按建議順序讀；勾選結果與 /learn 課程頁共用同一份瀏覽器進度。- 01Transformer 架構理解 — Attention Is All You Need
深入理解 Transformer 的核心組件：Self-Attention、Multi-Head Attention、Positional Encoding，以及它們如何取代 RNN 成為現代 LLM 的基礎架構。
7 分鐘 - 02第一次呼叫 LLM API：Token、計費與常見錯誤
用 Python 的 openai SDK 發出第一個 LLM 請求：搞懂 system、user、assistant 三種訊息角色的分工，temperature、max_tokens 與串流輸出的取捨，以及 token 計費概念與用量估算方法，最後整理新手必遇錯誤的排查步驟。
21 分鐘 - 03按下 Enter 之後：從 0.03 秒到 0.85 秒，你的問題經歷了什麼
用一次真實的 API 呼叫拆解一個提問的完整鏈路：建立連線 35 毫秒、切詞微秒級、模型讀完整段問題 474 毫秒、逐字生成 380 毫秒——總計 854 毫秒。附完整可重現的量測方法，以及一個反直覺的結論：96% 的時間不在網絡，而在模型裡面。
13 分鐘 - 04AI 是怎麼計費的：為什麼用一個月可能差十倍
token 是什麼、為什麼長對話越來越貴、免費額度通常限制什麼、訂閱與按量計費怎麼選，以及把第一個月成本壓到接近零的五個具體做法。不列任何具體價格 —— 本站只在人工核實后寫金額。
7 分鐘 - 052026年5月 LLM API 價格全景：DeepSeek、Qwen、GLM、Kimi、MiniMax、豆包完整對比
通過 Exa、Tavily、Brave 等多搜索引擎交叉驗證，整理 DeepSeek V4、Qwen3.6-plus、GLM-5、Kimi K2.5、MiniMax M2.7、火山引擎豆包 Seed 2.0 及 Claude/GPT 的每百萬 Token 定價，附帶 Sub2API 成本設置指南。
12 分鐘 - 06三層框架大模型 API 配置總表：DS V4 Pro、Qwen 3.6、oMLX 本地
在 Hermes Agent、OpenClaw、Claude Code 中配置 DeepSeek V4 Pro、Qwen 3.6-Plus、oMLX 本地 Qwen3 Coder Next 的完整指南。
9 分鐘 - 07Ollama — 本地運行 LLM 的最佳方案
Ollama 讓你在 Mac/Windows/Linux 上一鍵運行 Llama、Mistral、Qwen 等開源模型，完全離線、免費、隱私安全。
6 分鐘
📚 必修閱讀
- 1.OpenAI：模型如何開發⭐⭐⭐⭐⭐先看資料、訓練與模型之間的關係。
- 2.Google ML Crash Course：LLM 調整⭐⭐⭐⭐⭐分清 Prompt Engineering、Fine-tuning 與 Distillation。
- 3.Anthropic Claude 模型總覽⭐⭐⭐⭐型號、context 與價格入口。
🎯 精選資源
| 資源 | 適合誰 | 推薦度 | 為什麼推薦 |
|---|---|---|---|
官方 API 入門 Anthropic Cookbook | 要查 API 範例 | ⭐⭐⭐⭐ | Claude API notebook；可查 tool use、batch 與 prompt cache。 |
官方 API 入門 Anthropic Courses | 想跟官方課程走 | ⭐⭐⭐⭐ | Anthropic 官方課程；從 API 基礎逐步延伸。 |
官方 API 入門 OpenAI Cookbook | 用 OpenAI 路徑 | ⭐⭐⭐⭐ | OpenAI API、structured output 與 function calling 範例。 |
中文教材 datawhalechina/happy-llm | 想用中文理解原理 | ⭐⭐⭐⭐ | 以中文理解 LLM 原理與訓練流程。 |
中文教材 datawhalechina/llm-universe | 想延伸到知識庫 | ⭐⭐⭐⭐ | 從 API 基礎延伸到知識庫與 RAG。 |
英文課程 Hugging Face — LLM Course | 想系統學生態 | ⭐⭐⭐⭐ | Transformer、tokenizer 與 Hugging Face 生態。 |
英文課程 LangChain Academy | 先看免費官方課 | ⭐⭐⭐ | 官方免費課程；包含 RAG 與 agent。 |
本機執行 ollama/ollama | 走本機 Path A | ⭐⭐⭐⭐ | 本章 Path A 的本機執行入口。 |
本機執行 ggml-org/llama.cpp | 想懂量化底層 | ⭐⭐⭐⭐ | 理解量化與本機推論底層。 |
從零理解 Karpathy — Let's build GPT from scratch | 喜歡看影片實作 | ⭐⭐⭐⭐ | 以 PyTorch 示範從零建立 GPT。 |
從零理解 rasbt/LLMs-from-scratch | 想看書一步步做 | ⭐⭐⭐⭐ | 以書本與程式碼深入 tokenizer、attention 與訓練。 |
從零理解 jingyaogong/minimind | 想親手訓練小模型 | ⭐⭐⭐ | 從零實作小型模型訓練；Apache-2.0。 |
🛠 動手練習（官方版）
完整練習與 starter code練習摘要取自上游教材；完整程式碼、成本與延遲估算見官方版。
- 練習 1：LLM API hello world — 五行左右的核心呼叫取得回應，並從 usage 讀出輸出 token（Ollama 本機路徑 $0）。
- 練習 2：Tokens — 用同一組文字實測 input／output token，估算單次成本。
- 練習 3：Pricing／Latency — 用實測 token 與官方費率算出雲端呼叫成本，並量延遲。
- 練習 4–6：跨供應商比較、錯誤處理、本機 LLM — 同一個 prompt 比較不同供應商，處理連線與截斷錯誤，跑通本機模型。
- 推薦 Capstone：個人文件摘要成本／品質比較器 — 用 Ollama 與雲端模型各摘要一次，記錄 token、延遲與成本，用固定檢查表評品質。
✅ 自我檢查
- 說明 API、token 與 context window 各自解決什麼問題。
- 跑通練習 1 的 Ollama Path A，並從 usage 讀到輸出 token。
- 用一次實測的 input／output token 算出一個雲端呼叫成本。
- 為一個場景說明選本機或雲端的理由，並列出一項限制。
本站點改編自 awesome-agentic-ai-zh（MIT 授權，作者 Wenyu Chiou）v2026.09.23，資源連結查核日 2026-08-27。星級為學習優先順序（⭐⭐⭐⭐⭐＝不看會卡住），非人氣排名。 MIT License · 課程結構最後更新：2026-10-03。內容持續補齊中，標記「撰寫中」的課程尚未上線。