技術 AI 黑魔法（06）：站在巨人肩膀上，AI 安全框架怎麼選？

上一篇我們把 AI 的攻擊面拆成資料、模型、應用、系統與供應鏈五塊，畫了一張關聯圖。 這篇我們要來認識 AI 安全框架，你可以把框架想成是別人整理好的懶人包，但...

技術 AI 黑魔法（04）：打 AI 跟打傳統系統有什麼不一樣？AI Red Team 在測什麼？

上一篇我們提到，生成式 AI 已經成為現今防守方與攻擊者的工具，今天要再往前一步，看很多滲透測試工程師第一次接觸 AI 都會遇到的觀念轉換，打 AI 和打傳統系...

技術 AI 黑魔法（05）：AI 的攻擊面有哪些？從資料到供應鏈

上一篇我們談到 AI Red Team 到底在測什麼，也提到一個聊天機器人背後，至少可以拆成資料、模型、應用與系統四個層次，另外還有一條貫穿所有環節的供應鏈，這...

技術 AI 黑魔法（03）：AI 是最好的助手，也是攻擊者的新武器

2024 年跨國工程公司 Arup 的香港分公司發生了一起詐騙案，一名財務人員收到訊息，對方聲稱英國總部的財務長正在處理一筆機密交易，要求他配合匯款，一開始他也...

技術 AI 黑魔法（02）：AI 為什麼會一本正經地胡說八道？從 AI、ML 到 GenAI 的運作原理

2023 年一位美國律師在準備訴訟資料時，請 ChatGPT 幫忙找相關判例，ChatGPT 很快列出六個案例，案件名稱、判決內容、引用格式一應俱全，看起來完全...

技術 AI 黑魔法（01）：AI 為什麼會成為攻擊目標？

大家好，我是 Vivian，一個閒不下來的在職媽媽，目前是一名從事滲透測試工作的工程師。 我一直很喜歡挑戰新事物，也習慣每年替自己設定一個新目標，今年我想挑戰一...

技術 下載 dataset 的那一刻，你其實已經在執行第三方程式

檔名叫 dataset，不代表進到系統裡的只有資料。 很多 AI 團隊的資料流程看起來很單純：下載檔案、解壓縮、套用 template、做前處理，最後寫進內部儲...