iT邦幫忙

llm相關文章
共有 444 則文章
0 Like 0 留言 193 瀏覽
鐵人賽 AI Engineering DAY 3
AI Guardrails 實戰：用合成資料與評估，打造可驗證的 LLM 應用防護流程 系列 第 3 篇

技術 [ Day3]：「不要洩漏個資」太模糊：怎麼把政策轉譯成 Guardrails 可以測試的控制項？

Day 2 把 Guardrails 可以介入的位置展開了：從使用者輸入、檢索資料，到工具執行前後，都可能需要控制。但架構圖、流程圖畫完，工程師還有一個問題沒得...

nerohin ‧ 2026-09-16
0 Like 0 留言 118 瀏覽
鐵人賽 Security DAY 6
Agentic Era，一年來 LLM 到底都挖了些什麼洞！ 系列 第 6 篇

技術 Day 6. 拆家：Mythos 的流水式奇襲，突破沙盒保護網

回到了 Agent Finding 的一天，今天要講的是 Anthropic Mythos 發現的 twigphp/twig - code injection...

whale120 ‧ 2026-09-15
0 Like 0 留言 143 瀏覽
鐵人賽 AI Engineering DAY 2
AI Guardrails 實戰：用合成資料與評估，打造可驗證的 LLM 應用防護流程 系列 第 2 篇

技術 [ Day 2]：在調用 LLM 的流程中到底可以在哪裡加 Guardrails？拆解 7 個防護時機

上一篇，筆者把問題放在企業的 GRC 需求：政策要求系統控制什麼，又要留下什麼證據，才能說明控制確實發生？ 回顧：《Day1：AI Guardrails 不應...

nerohin ‧ 2026-09-15
0 Like 0 留言 350 瀏覽

My Project DimTrip － 讓 AI 助手直接改真正的行程：權限、即時同步和串流踩過的坑

現在很多 AI 旅遊工具，本質上是「很會講話的建議產生器」：它給你一段漂亮的行程文字，然後你要自己把每個景點、每個時間搬進行程表，一起出發的朋友再各抄一份。 我...

dimtrip ‧ 2026-09-14
0 Like 0 留言 265 瀏覽
鐵人賽 Security DAY 3
Agentic Era，一年來 LLM 到底都挖了些什麼洞！ 系列 第 3 篇

技術 Day3. 什麼？都 2026 了微軟還有 Command Injection！

昨天聊完 ImageMagick 曾經出現過的兩個漏洞，今天終於要來淺析 XBOW 團隊的 A Shell Is Worth a Thousand Images...

whale120 ‧ 2026-09-12
0 Like 0 留言 368 瀏覽
鐵人賽 Security DAY 1
Agentic Era，一年來 LLM 到底都挖了些什麼洞！ 系列 第 1 篇

技術 Day 1. 緣起

大家好，我是鯨魚 (whale120）！ 這是我第一年參加 iThome 鐵人賽，關於我的簡介可以看 iThome 的 profile(link) 以及部落格(...

whale120 ‧ 2026-09-10
1 Like 0 留言 135 瀏覽
鐵人賽 自我挑戰組 DAY 1
AI 不只會回答：30 天打造一套真正能上線的智慧助理 系列 第 1 篇

技術 [DAY 1] 這 30 天不只是寫文章，而是把一個 AI 想法，隨著步驟做成真正可以使用的智慧助理

前言 近幾年，生成式 AI 發展快速，從 ChatGPT, Gemini, On Premises Model (Gemma, Llama, Qwen)，我們只...

aarenhou ‧ 2026-09-13
0 Like 0 留言 196 瀏覽
鐵人賽 AI Security
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 31 篇

技術 LLM 應用資安怎麼學：從威脅地圖、攻擊靶場到紅隊工具

查核資訊： 本文於 2026-08-25 重新確認各項資源的官方頁面。OWASP 清單、靶場內容、模型版本與工具介面都可能變動；開始練習前，仍應回到官方文件確...

Eric ‧ 2026-09-09
0 Like 0 留言 185 瀏覽
鐵人賽 AI Engineering DAY 9
個人知識庫、第二大腦，都用不好？我讓 AI 當維護者，自己只負責讀、想、問 系列 第 9 篇

技術 第九篇 - 知識庫的兩個地基：Git 與建設歷程

考量到知識庫的建設與維護不是一朝一夕，有兩件事建議大家可以先做：Git 和「建設歷程」。 我說：「要有 Git」就有了 Git 一個 prompt 完成 「幫...

毓文 ‧ 2026-09-09
0 Like 0 留言 202 瀏覽
鐵人賽 AI Security DAY 30
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 30 篇

技術 總結：LLM 應用安全檢查清單與心法

查核資訊： 本文於 2026-08-25 查核 NIST AI Risk Management Framework、NIST AI 600-1、NIST SP...

Eric ‧ 2026-09-08
0 Like 0 留言 195 瀏覽
鐵人賽 AI Security DAY 29
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 29 篇

技術 AI Red Teaming 實戰：自動化攻擊測試

查核資訊： 本文於 2026-08-25 查核 NIST 的 AI Red Teaming 定義、NVIDIA garak 與 Microsoft PyRIT...

Eric ‧ 2026-09-07
0 Like 0 留言 144 瀏覽
鐵人賽 AI Security DAY 28
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 28 篇

技術 濫用與成本攻擊：DoS、Token 榨取與速率限制

查核資訊： 本文於 2026-08-25 查核 OWASP LLM10:2025 Unbounded Consumption、MITRE CWE-770 與...

Eric ‧ 2026-09-06
0 Like 0 留言 218 瀏覽
鐵人賽 AI Engineering DAY 5
個人知識庫、第二大腦，都用不好？我讓 AI 當維護者，自己只負責讀、想、問 系列 第 5 篇

技術 第五篇 - 知識庫可以解決使用 AI 時的上下文管理問題

上下文限制、無狀態、脈絡腐化：讓你用 AI 用得不夠暢快 首先：AI 一次能看的東西是有限的。 以 Claude 為例，依模型不同，一次可以處理約數十萬甚至上百...

毓文 ‧ 2026-09-05
0 Like 0 留言 196 瀏覽
鐵人賽 Modern Web DAY 21
前端不寫 Python，照樣 ship 一把網頁無障礙 CLI 系列 第 21 篇

技術 Day 21：九成的檢測碼要靠人判，LLM 補的不是聰明，是可重複

Day 21 · W3 · AI 線 + 無障礙線 · 難度 ★★★☆☆ 本系列由 AI 協作撰寫。 內容、技術判斷、程式碼由 light-design 數位...

Maple | 睞特 ‧ 2026-09-05
0 Like 0 留言 175 瀏覽
鐵人賽 AI Security DAY 27
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 27 篇

技術 觀測性與稽核：看得見才守得住

查核資訊： 本文於 2026-08-25 查核 OpenTelemetry 官方規格與敏感資料指引、OWASP Logging Cheat Sheet、RFC...

Eric ‧ 2026-09-05
0 Like 0 留言 179 瀏覽
鐵人賽 AI Engineering DAY 4
個人知識庫、第二大腦，都用不好？我讓 AI 當維護者，自己只負責讀、想、問 系列 第 4 篇

技術 第四篇 - 建一個可能會被拆掉的知識庫

豪，開工。 今年真的很多知識庫相關的內容，直接搜 Second Brain、NotebookLM、OpenWiki 想必可以搜到很多內容，其實多多少少有點焦慮自...

毓文 ‧ 2026-09-04
0 Like 0 留言 264 瀏覽
鐵人賽 AI Security DAY 26
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 26 篇

技術 敏感資料防護：PII 偵測與遮罩

查核資訊： 本文於 2026-08-25 查核 NIST PII 定義、OWASP LLM02:2026 與 Presidio 官方文件，並引用同日完成的離線...

Eric ‧ 2026-09-04
0 Like 0 留言 188 瀏覽
鐵人賽 AI Security DAY 25
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 25 篇

技術 最小權限與 Agent 沙箱化

查核資訊： 本文於 2026-08-25 查核 OWASP LLM03:2026、OWASP Top 10 for Agentic Applications...

Eric ‧ 2026-09-03
0 Like 0 留言 178 瀏覽
鐵人賽 AI Security DAY 24
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 24 篇

技術 Guardrails 實戰：用框架建立護欄

查核資訊： 本文於 2026-08-24 查核 NeMo Guardrails 0.23.0 release notes、Python check_async...

Eric ‧ 2026-09-02
0 Like 0 留言 238 瀏覽
鐵人賽 AI Security DAY 23
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 23 篇

技術 輸出端防禦：過濾、審核與安全渲染

查核資訊： 本文於 2026-08-23 查核 OWASP LLM10:2026、OWASP Cross Site Scripting Prevention...

Eric ‧ 2026-09-01
0 Like 0 留言 195 瀏覽
鐵人賽 AI Security DAY 22
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 22 篇

技術 輸入端防禦：隔離、標記與驗證

查核資訊： 本文於 2026-08-21 查核 OWASP LLM01:2026、OWASP Prompt Injection Prevention Chea...

Eric ‧ 2026-08-31
0 Like 0 留言 185 瀏覽
鐵人賽 Build on Google AI DAY 30
AI Demo上 Production 之前：AI × Infrastructure 實戰筆記 系列 第 30 篇

技術 Day 30 如果我已經弄了一個 AI 系統，到底怎樣才算 Production-ready？？

我有多年 IT 技術與跨域學習經驗，現在把 AI、Cloud、Infrastructure 串起來 如果我已經弄了一個 AI 系統，到底怎樣才算 Product...

獨孤求勝 ‧ 2026-08-30
0 Like 0 留言 135 瀏覽
鐵人賽 AI Security DAY 21
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 21 篇

技術 第三週回顧：一次端到端的 Agent 攻擊鏈

查核資訊： 本文於 2026-08-16 查核 OWASP LLM01:2026、OWASP Top 10 for Agentic Applications...

Eric ‧ 2026-08-30
0 Like 0 留言 154 瀏覽
鐵人賽 Build on Google AI DAY 29
AI Demo上 Production 之前：AI × Infrastructure 實戰筆記 系列 第 29 篇

技術 Day 29 如果AI Agent 接上 Tools 後，為什麼 Production 變得更複雜？

我有多年 IT 技術與跨域學習經驗，現在把 AI、Cloud、Infrastructure 串起來。 AI Agent 接上 Tools 後，為什麼 Produ...

獨孤求勝 ‧ 2026-08-29
0 Like 0 留言 116 瀏覽
鐵人賽 AI Security DAY 20
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 20 篇

技術 供應鏈風險：模型、套件與 MCP Server

查核資訊： 本文於 2026-08-15 查核 OWASP LLM04:2026、Hugging Face Hub、SLSA v1.2 與 Model Con...

Eric ‧ 2026-08-29
0 Like 0 留言 203 瀏覽
鐵人賽 AI Security DAY 19
LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列 第 19 篇

技術 工具呼叫 / Function Calling 的風險

查核資訊： 本文於 2026-08-15 查核 OpenAI Function calling、OWASP LLM Top 10 2026、CWE-918 與...

Eric ‧ 2026-08-28
0 Like 0 留言 154 瀏覽
鐵人賽 Build on Google AI DAY 28
AI Demo上 Production 之前：AI × Infrastructure 實戰筆記 系列 第 28 篇

技術 Day 28 如果AI 可以正常運作，但它真的安全嗎？

我有多年 IT 技術與跨域學習經驗，現在把 AI、Cloud、Infrastructure 串起來。 如果 AI 可以正常運作，但它真的安全嗎？ Day 27...

獨孤求勝 ‧ 2026-08-28
0 Like 0 留言 167 瀏覽
鐵人賽 Build on Google AI DAY 27
AI Demo上 Production 之前：AI × Infrastructure 實戰筆記 系列 第 27 篇

技術 Day 27 如果AI Service 掛掉了，Production 應該怎麼辦？

我有多年 IT 技術與跨域學習經驗，現在把 AI、Cloud、Infrastructure 串起來。 如果AI Service 掛掉了，Production 應...

獨孤求勝 ‧ 2026-08-27
0 Like 0 留言 270 瀏覽
鐵人賽 Modern Web DAY 12
前端不寫 Python，照樣 ship 一把網頁無障礙 CLI 系列 第 12 篇

技術 Day 12：被我掃的網頁，可以叫我的工具說它通過

Day 12 · W2 · AI 線 · 難度 ★★★☆☆ 本系列由 AI 協作撰寫。 內容、技術判斷、程式碼由 light-design 數位顧問團隊與 C...

Maple | 睞特 ‧ 2026-08-27
0 Like 0 留言 198 瀏覽
鐵人賽 Build on Google AI DAY 26
AI Demo上 Production 之前：AI × Infrastructure 實戰筆記 系列 第 26 篇

技術 Day 26 如果AI 變慢，多加 GPU 就一定有用嗎？

我有多年 IT 技術與跨域學習經驗，現在把 AI、Cloud、Infrastructure 串起來。 AI 變慢，多加 GPU 就一定有用嗎？ Day 25 我...

獨孤求勝 ‧ 2026-08-26
iThome鐵人賽
參賽組數
929 組
團體組數
32 組
累計文章數
20218 篇
完賽人數
534 人
iT+看影片追技術 看影片追技術 看更多
熱門tag
15th鐵人賽 16th鐵人賽 13th鐵人賽 18th鐵人賽 17th鐵人賽 14th鐵人賽 12th鐵人賽 11th鐵人賽 鐵人賽 2019鐵人賽 javascript 2018鐵人賽 python 2017鐵人賽 windows php c# linux windows server css
熱門問題
熱門回答
熱門文章
IT邦幫忙