快轉到主要內容
  1. Posts/

原來打 AI 不只有 Prompt Injection|HTB Certified Offensive AI Expert(COAE) 心得

·1581 字·4 分鐘

之前我在接觸生成式 AI 的方式,和大部分人一樣,使用 Claude、ChatGPT、Gemini 等 chatbot 來幫助自己工作與學習。今年年初,我決定找一套教材學習攻擊方法,這個算是近幾年才開始受到重視的領域,所以很少完整教材,而我一直很喜歡 Hack The Box Academy 的教材編排方式,剛好 HTB 有出,所以就選擇了 AI Red Teamer Path,剛好課程看到的一半時 HTB Certified Offensive AI Expert(COAE)證照推出了,因此就下定決心要來取得這張證照。

簡介|HTB Certified Offensive AI Expert(COAE) 在學什麼?
#

先簡單介紹一下這張證照,畢竟今年 4 月才推出,知道的人還不算多。

HTB Certified Offensive AI Expert 是 Hack The Box 今年推出的 AI Red Teaming 實作認證,和許多只聚焦在 Prompt Injection 的課程不同,它從 AI 的基礎開始,教你如何分析與評估 AI 系統的安全性,並且利用這些問題進行攻擊,內容包含演算法基礎與各種相關應用攻擊。如果想了解教材內容,我之前也寫過一篇 AI Red Teamer Path 的學習紀錄,有興趣可以再延伸閱讀。

考試心得|程式好難…
#

COAE 是一張完全實作型的證照。整個考試環境包含一台主機、三個 Domain,共需取得 7 個 Flag,至少要拿到 6 個 Flag 才能通過考試。考試總共有 7 天,不會線上監考但寫報告時間是包含在這 7 天之內,最後需要在時間到期之前提交完整的技術報告。

雖然主題是 AI Red Teaming,但整體考試並不是只有單純的與 AI 互動。過程中會有一些簡易的 Web 滲透測試,因此如果本身有網頁滲透的背景,會比較容易快速碰到 AI 系統。

另外,Python 也是必備技能,課程中不少內容都會搭配 Python 範例說明,考試時也會需要撰寫程式,尤其是這項能力攸關到你有沒有辦法取得及格數量的 Flag,在提交報告時也會要求你提交完整程式碼。

而且 AI 演算法本身就離不開程式,因此個人覺得有基本的 Python 能力會相對降低學習門檻,尤其後半段的內容,都需要閱讀和修改 Python 程式(我不太會寫程式,這段學習過程是我最痛苦的一段)。此外個人建議在學習過程中就把範例的程式碼都保存下來,考試時會有幫助。

至於考試內容的部分,自己的感覺是教材和考試的銜接程度很高。只要每個 Module 都有認真完成並理解背後的原理,考試時不會有太大落差感。

我認為這張證照比較適合已經有 Python 和基礎網頁滲透基礎的人。個人建議需要的基礎先打穩,再來挑戰這張證照,學習過程會比較順利。

收穫|學習打 AI 的同時,也更會操作 AI
#

完成整個學習路徑後,從教材中學習到很多針對 AI 系統的攻擊技巧,以前接觸 AI 時,都是站在使用者的角度思考,只關心哪個模型適合做什麼、回答品質好不好,從來沒有學過背後到底是怎麼運作的。

開始學習之後,我才發現之前接觸的 chatbot 和模型選擇只是整個 AI 系統的一部分。這些應用的背後,還有資料來源、RAG、Agent、Tool Calling、外部 API,以及各種不同的資料流。真正的攻擊面,很多時候是這些元件之間互動時的權限設計問題,這也是我學完之後最大的轉變,會把 AI 當成是一整套的系統來思考他,這漾的思考方式影響了我後來建立 Skill 的習慣。我會開始拆分不同角色,例如管理、執行、稽核、回饋等職責,讓每個角色可以互相協作,而不是把所有工作都交給同一個 Agent,也會依據 Skill 需求建立蒸餾過內容的知識庫。

結語
#

AI 的發展速度非常快,幾乎每隔一段時間就會出現新技術、新用法,相比一直追著新的技術跑,我覺得更重要的是先理解 AI 運作的底層邏輯,打好基礎後才能比較快速的理解新技術。

對我來說 HTB COAE 最大的收穫是建立了一套正確看待 AI 的方法,即使在 Prompt Engineer、Context Engineer、Harness Engineer 到 Loop Engineer 的演進上也可以快速理解演進邏輯,也能提升產出品質。

如果你如果也對 AI 有興趣,我認為 HTB AI Red Teamer Path 是一個值得投入的學習路徑,它除了可以從基礎概念告訴你 LLM 的運作,也能幫助你對 AI Cybersecurity 有更深的理解。