iT邦幫忙

2026 iThome 鐵人賽

DAY 2
0

大家好,今天我們直接切入 Domain 1 的核心,聊聊機器學習的三大學習方式。

首先,我們要先搞懂機器學習跟傳統寫程式的差別:
傳統寫程式是我們寫好規則,輸入資料後得出答案。
機器學習則是:我們給它一堆資料和標籤,讓演算法自己去學出規則、產出模型。

因為規則是從資料中「學」出來的,這就代表:如果餵給它的資料被動了手腳,它學出來的規則就會跟著歪掉。這就是所謂的「資料投毒」,後面章節再來討論。

接下來,我們來看這三大範式。

第一種是:監督式學習(Supervised Learning)

簡單說,就是用有「正確答案標籤」的資料來訓練。
比如我們給它十萬封信,並且標好哪些是「垃圾信」、哪些是「正常信」,它學完之後,就能幫忙過濾垃圾郵件。
在資安上,惡意軟體偵測、入侵偵測(IDS)大都是用這種方法。

但這種方法的弱點是:如果駭客在訓練時,偷偷把「惡意樣本」標記成「良性」,模型學完就會對這些惡意軟體放行。這叫「標籤翻轉攻擊」。

第二種是:非監督式學習(Unsupervised Learning)

這種資料是「沒有答案標籤」的。模型必須自己想辦法在資料中找出規律或異常。
最常見的資安應用就是 UEBA(使用者與實體行為分析)。
系統不預設什麼是壞人行為,而是先學出每位員工平常的「正常行為基準」。
當有人突然半夜下載大量資料,系統就會發出警報。
因為它不依賴已知的特徵,所以對防範完全未知的零日攻擊(Zero-day)特別有用。

不過這也有缺點,如果駭客很聰明,故意花很長的時間、慢慢地、分批下載資料。系統可能就會把這種異常行為「學」成是正常的,這樣偵測就會失效了。

第三種是:強化學習(Reinforcement Learning)

就是沒有標準答案,靠獎懲機制來訓練。模型是透過不斷試錯來學習。
這在資安上通常用在自動化滲透測試,或者是自適應的網路防禦,讓 AI 自己去測試哪條防線最穩固。

它的威脅在於「獎勵函數操控」。如果駭客能修改 AI 的獎勵規則,比如讓 AI 誤以為「關掉防火牆」可以提升網路效能(得到更高分),AI 就會往壞的方向去學習。


另一種也很常用的「半監督式學習」(Semi-Supervised Learning)

有時候,在現實的世界裡,就是沒那麼多已經有標籤的資料,用人工來分析進行標示,會讓「標籤」非常昂貴。

半監督式學習就是為了解決這個痛點:
它只用極少量的「有標籤資料」,去引導**大量的「無標籤資料」**來進行訓練。

  • 在資安怎麼用?
    • 惡意軟體偵測:用幾千個已知是病毒的樣本,配上幾百萬個未知的程式檔案,讓模型學會把類似的未知檔案歸類為病毒。
  • 它的威脅是什麼?
    • 它同時具有監督式與非監督式的弱點。如果駭客污染了那極少數的「有標籤資料」(比如標籤翻轉),或是讓惡意行為在無標籤資料中顯得極為普遍,模型一樣會被帶歪。

考試會怎麼考?

現在不管什麼考試,都很愛考情境題,比如:

「某個資安系統沒有任何已標記的攻擊樣本,但需要偵測使用者的異常行為,應該用哪種機器學習範式?」

A. 監督式學習
B. 非監督式學習
C. 強化學習
D. 深度學習

答案是 B。因為題目說了「沒有已標記樣本」、要偵測「異常」,這就是標準的非監督式學習場景。


今天的重點總結一下:

  • 監督式有標籤,弱點是標籤被污染(標籤翻轉)。
  • 非監督式無標籤,讓電腦自己找結構,分析找異常,弱點是壞人行為偽裝成正常基線。
  • 強化學習靠獎勵,弱點是獎勵函數被操控。
  • 半監督式結合極少數標籤與大量無標籤資料,降低人工標註資料的成本,同時利用大量未標註資料提升模型預測的準確度。

明天我們要來看 ML 模型的生命週期,看看模型的一生中,駭客會在哪些階段動手腳。
我們明天見啦!


上一篇
從零開始 SecAI+ 的備考指南
下一篇
ML 模型的一生:從收集資料到上線,每個階段都是攻防戰
系列文
新手上路不當砲灰!30 天一章一章啃完 CompTIA SecAI+ 備考筆記4
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言