iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

我做了一個Claude skill的掃毒軟體學到的那些事 系列

這是一個從0到1打造資安軟體的過程,從 Prompt Injection 的原理和防禦設計,寫到MCP的實作。

參賽天數 19 天 | 共 30 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文
DAY 19

Day 21為什麼轉向:從 SDK 到端點防護,市場盤點與砍掉重練

一、使用者問我「什麼是SDK?」 當我們在一個領域久了、待了一段時間,習慣了像 SDK 這些專有名詞,尤其是當軟體還是我們自己設定的時候,很容易覺得只要把東西寫...

DAY 19

Day 22 被污染的長期記憶:最好的毒,藏在 AI 的隨機性

今年 8 月的時候,我想要了解過去某個產品的內容,所以把一些舊的產品簡報挖出來丟給 Claude 看,想藉此理解產品細節,並請它幫我修改新的產品簡報。 在那批簡...

DAY 19

為什麼我親手刪光了整套 Vibe Coding 的專案

我之前在研究 AI 的資訊安全,不久前我用 AI vibe coding 出一整套資安軟體,最後我親手把它全部刪掉,砍掉重新再 vibe coding 過一遍。...

DAY 19

Day 23|賣後量子密碼學的公司,機密卻死在業務的一鍵複製貼上:重新定義 AI 時代的 Secrets 管理

假設你是一家資安公司的業務經理,手上負責的是最前尖端的「後量子密碼學(PQC)」防護產品。 後天,你就要代表公司去向大客戶簡報。 但老實說,你對 PQC 的底層...

DAY 19

叫 AI 跑腿,不等於把家門鑰匙給它:從一段翻車 Demo 談 PKCE 的信任邊界

那時我正興奮地叫 Antigravity 幫我搭一個 Claude Skill 掃描器的PoC。老實說,連 Prototype 都稱不上,只是個想證明AI 能掃...

DAY 19

別把除錯日誌當黑盒子:為什麼你的軟體需要審計日誌(Audit log)?

別把除錯日誌當黑盒子:為什麼你的軟體需要審計日誌? 系統壞了你看得出來,但誰幹的你查得到嗎? 當我們在打造一個產品或軟體時,往往會遇到系統出狀況需要維護,或者遇...

DAY 19

# 直攻檢索漏洞:語意模糊也能偷看機密?向量資料庫弱點與權限感知檢索(Permission-Aware Retrieval)

先講結論:權限感知檢索是什麼 權限感知檢索(Permission-Aware Retrieval)一句話講完:在 AI 去資料庫「找資料」的那一步,就先確認「問...

DAY 19

大家以為拔掉網路線、把 Agent 鎖在地端 NAS 就安全了,結果它轉身就成了替外人偷看機密的內鬼。

地端部署真的安全嗎?我想給正在打造地端 AI,或是採用 Hybrid 架構(雲端加地端)的夥伴,提供幾個關於地端安全的思考方向,包含以下重點: 1. 最小權限與...

DAY 19

當 Agent 碰到真實個資:從名片自動化看 PII 偵測與遮蔽(LLM02)」

這或許不是最完美的解法,但任何打造 AI Agent、API Gateway 或 MCP Server 的人,都必須先回答三個問題:怎麼做 PII(個人可識別資...

DAY 19

# Day 30 大家以為把 Agent 鎖在地端 NAS 就安全了,結果它轉身成了替外人偷看機密的「混淆代理人」

很多人以為只要把 AI Agent 部署到本地端、接上 NAS 硬碟,拔掉外網線,系統就百分之百安全了。但大家往往忽略了一件事:地端只保護了「傳輸邊界」,卻保護...