iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

RE: 從 4,343 筆職缺到 AI Engineer:MLOps × GenAI Engineering 雙主軸實戰 系列

延續 2021 年鐵人賽《從 AI 落地談 MLOps》的探索,本系列再次追問:「AI 如何真正落地?」並以 4,343 筆 AI 相關職缺為線索,重新檢視企業所需的技術與能力。內容採 MLOps × GenAI Engineering 雙主軸,涵蓋資料與模型管理、自動化部署、監控治理、RAG、模型評測、LLMOps 與 AI Agent。透過可執行的專案串聯觀念與工具,帶領讀者打造可部署、可維護、可觀測的 AI 系統,逐步建立 AI Engineer 所需的工程能力。(開賽截止前再次回歸)

參賽天數 26 天 | 共 26 篇文章 | 1 人訂閱 訂閱系列文 RSS系列文
DAY 21

Day 21:Agent(一) — 能用工作流就不要用代理

RAG 讓模型「知道」,Agent 讓模型「能做」。今天進入第二常出現的任務訊號(47.6%)。 但我要先講一個可能讓你意外的建議:你需要的多半不是 Agent...

2026-10-02 ‧ 由 威利斯 分享
DAY 22

Day 22:Agent(二) — MCP、多代理與可靠性護欄

昨天手刻了 ReAct 迴圈,也給了兩個護欄(迭代上限、成本上限)。今天處理讓它能真正上線的三件事:工具怎麼接得可維護、多代理什麼時候值得、怎麼確保它不會闖禍。...

2026-10-03 ‧ 由 威利斯 分享
DAY 23

Day 23:微調 — 什麼時候該做、LoRA 的帳怎麼算

主軸二的最後一個技術主題。前七天我們讓模型「知道」(RAG)、「能做」(Agent),今天讓它「像我們要的樣子」。 我把微調放在最後,是刻意的——因為它是最後才...

2026-10-04 ‧ 由 威利斯 分享
DAY 24

Day 24:評測體系 — LLM-as-a-Judge 與那個沒人算的 κ 值

今天是合流點。前十六天兵分兩路,從今天起的四天,兩條路的人都要看——因為評測、安全、LLMOps、治理,是兩個職務共同的責任。 而評測是其中最關鍵的:它是「做得...

2026-10-05 ‧ 由 威利斯 分享
DAY 25

Day 25:安全 — OWASP LLM Top 10 與提示注入的縱深防禦

先拆解一個真實會發生的事故(Day 22 提過,今天完整分析): 某公司的內部助理具備兩項能力:讀取共享雲端硬碟、寄送郵件。使用者上傳一份廠商報價 PDF,請它...

2026-10-06 ‧ 由 威利斯 分享
DAY 26

Day 26:LLMOps — vLLM、KV cache 與成本工程

今天是雙主軸真正交會的一天。 主軸一的讀者:這是 Day 13(延遲與吞吐)在 LLM 上的延伸,你的直覺全部適用,只是數字大一個量級。 主軸二的讀者:這是你...

2026-10-07 ‧ 由 威利斯 分享