本地跑 LLM:資料不出機的隱私方案
2 小時跑通本地模型6 個步驟3 個工具
這個場景解決什麼問題
敏感資料不能上傳雲端 API,但又要用 AI 處理,看起來無解。
工具組合
這不是唯一解,但這個組合我們驗證過可以跑通。每個工具都連到它的完整評測, 含「不適合誰」。
做完你會拿到
你會得到
本地 OpenAI 相容端點,既有程式碼改一行 base URL 即可切換,附模型選型與量化建議。
完整步驟
- 01安裝
- 02常用模型推薦
- 03基本使用
- 04API 模式
- 05在 Claude Code 中使用 Ollama
- 06實際使用場景
承載完整內容的文章
- Ollama — 本地運行 LLM 的最佳方案
Ollama 讓你在 Mac/Windows/Linux 上一鍵運行 Llama、Mistral、Qwen 等開源模型,完全離線、免費、隱私安全。
2026-04-286 分鐘讀全文 - LM Studio 安裝與使用指南:GUI 本地 LLM 管理
LM Studio 完整指南 — 在 Mac 上通過圖形界面下載、管理、運行本地 LLM,支援 GGUF 和 MLX 格式,提供 OpenAI 兼容 API。
2026-05-107 分鐘讀全文 - oMLX 安裝與使用指南:在 Apple Silicon 上原生運行 MLX 模型
oMLX 完整安裝與使用指南 — 在 M3 Ultra 上原生運行 MLX 格式模型,涵蓋安裝、模型導入、效能對比和最佳配置。
2026-05-106 分鐘讀全文
相鄰的場景
這些工具還能做什麼
難度標記「入門」· 適用軌道:技術軌、商業軌、金融軌 · 最後核實:2026-09-29。