LLM

有人請你去看一個 AI 系統安不安全，你從哪裡開始？先盤出它收得到什麼、碰得到什麼，再把要測的點收成一張 Checklist。

看 OWASP 第 8 到 10 條要你在哪裡限制權限、記憶誰能寫、外面接進來的東西要驗什麼。

根據 OWASP LLM01:2026 的 11 條建議，看 Prompt Injection 防護每一層擋得住什麼，漏過去之後又靠什麼。

從工具、參數、執行身分到權限範圍，一步步盤點，往往就能看出 Excessive Agency 的問題藏在哪裡。

當模型的回答不是給人看，而是直接送進瀏覽器、資料庫或 Shell，它就跟表單送進來的內容沒有兩樣。

實戰 Break The Prompt 第四、五關，看看系統指示是怎麼被整份翻出來，輸出前的那道過濾器又是怎麼被繞過去的。

實戰 Break The Prompt 第一、二、三關，看看寫在 System Prompt 裡的規則是怎麼一條一條被繞過去的。

當模型開始讀圖片與文件，咒語就不必打在聊天視窗裡了。

間接 Prompt Injection 如何藉由 RAG 污染讓 AI 讀到惡意文件、洩露資料，甚至觸發工具？

有人叫 ChatGPT 扮演過世的奶奶，它就一邊哀悼、一邊唸出五組 Windows 金鑰。越獄想越的，是模型自己那道獄。