iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

你該防的不是駭客,是你自己的 AI:在本機驗證你的防線 系列

AI 可以加快開發,但它帶進來的風險有兩種:它寫的程式碼看起來能跑,實際上有洞;還有它自己就是攻擊面,一段外部文字讀進去,行為就變了。這 30 天兩種都處理,從開發環境走到交付出去的應用、長期維護與驗證,最後再把涉及敏感資料的 AI 工作移到本機模型,驗證資料不離開機器時的取捨與限制。

多數篇章附一個可在本機重現的案例:先用測試或攻擊證明問題存在,再修補,然後驗證行為確實變了。不必買工具,不必等任何人批准。

每天都會標出同一條界線:哪些工作適合交給 AI,哪些判斷必須由人負責。模型不能當自己的裁判,它講錯的時候,語氣跟講對時一樣有把握。

參賽天數 22 天 | 共 22 篇文章 | 2 人訂閱 訂閱系列文 RSS系列文
DAY 21

Day 21|黑名單拿掉一個字,測試通過,誤擋還在

昨天那篇的結尾,我手上多了一條防線自己咬到的誤擋:一句「幫我寫一封提醒客戶不要受騙的公告」,被客服 bot 的輸入側閘擋死,因為它命中了黑名單裡的「騙」。 今天...

2026-08-21 ‧ 由 cyt0809 分享
DAY 22

Day 22|CI 紅燈代表什麼?先分清失敗、跳過與已知缺口

昨天那三條回歸測試躺在專案裡,要人想起來才會跑。今天把它們接進 CI。 我以為第一件事是分級:哪一條沒過就該擋住你,哪一條只要提醒一聲。昨天結尾我也是這樣寫的。...

2026-08-22 ‧ 由 cyt0809 分享