AI Security

PHP2Shell 修補還沒出來就有人在打，AI 自動化攻擊從鎖定目標到拿到特權好幾次不到 3 小時，你的修補排程跟告警處理還在用週跟月計算嗎？從這個月的漏洞跟入侵事件看修補跟偵測兩個時間差，以及重新思考哪些決定要先寫進政策、請主管事先簽核。

30 天走到最後一天，回頭看這一路打過的黑魔法，想跟同樣正要走進 AI 安全的你，說幾句真心話。

把我一路在看的框架跟免費靶場整理成一份清單，讓大家可以快速參閱。

攻擊之外，隱私、治理跟法規一樣是 AI 安全的重要一環之一。

有人請你去看一個 AI 系統安不安全，你從哪裡開始？先盤出它收得到什麼、碰得到什麼，再把要測的點收成一張 Checklist。

看 OWASP 第 8 到 10 條要你在哪裡限制權限、記憶誰能寫、外面接進來的東西要驗什麼。

根據 OWASP LLM01:2026 的 11 條建議，看 Prompt Injection 防護每一層擋得住什麼，漏過去之後又靠什麼。

實測 garak 自動化 AI Red Team 工具。

拆解六種只靠查詢就打得到的攻擊，以及 API 該少回哪些欄位。

資料投毒在訓練、微調或回饋流程中改變模型所學的規則；後門則讓污染結果只在特定 Trigger 出現時發作，兩者是一條從教材到模型行為的因果鏈。