LLM

從工具、參數、執行身分到權限範圍，一步步盤點，往往就能看出 Excessive Agency 的問題藏在哪裡。

當模型的回答不是給人看，而是直接送進瀏覽器、資料庫或 Shell，它就跟表單送進來的內容沒有兩樣。

實戰 Break The Prompt 第四、五關，看看系統指示是怎麼被整份翻出來，輸出前的那道過濾器又是怎麼被繞過去的。

實戰 Break The Prompt 第一、二、三關，看看寫在 System Prompt 裡的規則是怎麼一條一條被繞過去的。

當模型開始讀圖片與文件，咒語就不必打在聊天視窗裡了。

間接 Prompt Injection 如何藉由 RAG 污染讓 AI 讀到惡意文件、洩露資料，甚至觸發工具？

有人叫 ChatGPT 扮演過世的奶奶，它就一邊哀悼、一邊唸出五組 Windows 金鑰。越獄想越的，是模型自己那道獄。

為什麼 System Prompt 寫得再嚴，還是擋不住一句話？對 LLM 來說，指令和資料本來就長得一樣。

LLM 產生的是符合上下文的下一段內容，不是經過查證的答案。