Red Team

打 AI 是要找出整個 AI 系統會在哪裡被誤導、濫用、繞過，最後做出超出設計預期的事。

一句 Prompt，可以讓 AI 幫你寫程式、整理文件，甚至操作工具；那如果有人故意寫了一段「壞 Prompt」呢？