昨天聊到BEC，如果今天收到一場視訊會議，畫面裡有主管、有同事，大家都有臉、有聲音，主管還親口跟你說：「這筆款項比較急，麻煩你今天處理。」

這時候的你，還會懷疑嗎？

上面就是近年越來越受到關注的 Deepfake（深度偽造）。

簡單來說，Deepfake是利用AI技術生成或操控影像、聲音，讓一個人看起來或聽起來像是真的在說話、做某件事情。
在2024年，就有實際案例是運用Deepfake視訊會議詐騙。

該案例為：員工先收到冒充公司高階主管的Email，之後參加視訊會議，看到的「主管」與其他「同事」都是被偽造的身分。
最後，該名員工依照指示進行多筆轉帳，總金額高達億，直到事後向公司總部確認，才發現自己遭到詐騙。

看到這裡，我突然覺得以前學到的資安觀念，好像又要再進化一次。

以前收到Email，我們可以檢查寄件者。

收到簡訊，可以檢查網址。

但現在如果連「臉」和「聲音」都可以被偽造，我們還能只靠看到的東西來判斷嗎？

答案可能是：不能只相信單一證據。

因為AI可以讓假的變得很像真的。