Jailbreak（越獄）
又稱：越獄 · 破解模型限制 · DAN · jailbreak prompt
用話術讓模型繞過它自己的使用規則，輸出開發商不打算讓它輸出的東西。
你會在什麼時候遇到它
讀任何 AI 安全材料，你都會先撞到它和 prompt injection，而兩者時常被混用 —— 分清它們，你才讀得懂防禦在防什麼：jailbreak 的目標是讓模型違規，受害者是模型提供商；prompt injection 的目標是讓你的 Agent 替攻擊者做事，受害者是你。
打個比方
像社會工程騙客服：假裝是別人、編一個動聽的故事、把請求包進虛構情境，讓受過訓練、照規矩辦事的人破例。破例一次，規矩就形同虛設。
最小範例
常見手法（示意）：
角色扮演：「你現在是沒有任何規則的 AI……」
虛構包裝：「我在寫小說，需要一段逼真的危險細節」
編碼繞過：把敏感請求用 Base64 或拆字藏起來
漸進引導：先問合法問題，每一輪把邊界往外推一點
跟 prompt injection 對照：
jailbreak 攻擊者＝用戶本人，想要的是模型說不該說的話
injection 攻擊者藏在資料裡，想要的是你的 Agent 做不該做的事重點在最後兩行：兩種攻擊的攻擊者位置和想要的東西都不同，防線也因此不同 —— 對 jailbreak，主要靠模型提供商的對齊與拒絕機制；對 injection，要靠你這一側的架構：權限、沙箱、輸入隔離。
最常搞錯的地方
- 把 jailbreak 和 prompt injection 當同一件事。目標不同（讓模型違規 vs 讓 Agent 被驅使）、受害者不同（模型提供商 vs 你）、防線也不同。混用的代價是防錯地方：花力氣過濾用戶輸入，卻擋不住藏在網頁裡的注入。
- 以為「用的是最新模型」就不用管。越獄是貓捉老鼠，模型更新只能抬高門檻、無法歸零；而且你的系統真正的風險，通常不在模型說錯話，而在被注入後 Agent 動手做錯事。