iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

RE: 從 4,343 筆職缺到 AI Engineer:MLOps × GenAI Engineering 雙主軸實戰 系列

延續 2021 年鐵人賽《從 AI 落地談 MLOps》的探索,本系列再次追問:「AI 如何真正落地?」並以 4,343 筆 AI 相關職缺為線索,重新檢視企業所需的技術與能力。內容採 MLOps × GenAI Engineering 雙主軸,涵蓋資料與模型管理、自動化部署、監控治理、RAG、模型評測、LLMOps 與 AI Agent。透過可執行的專案串聯觀念與工具,帶領讀者打造可部署、可維護、可觀測的 AI 系統,逐步建立 AI Engineer 所需的工程能力。(開賽截止前再次回歸)

參賽天數 26 天 | 共 26 篇文章 | 1 人訂閱 訂閱系列文 RSS系列文
DAY 11

Day 11:訓練管線與 CI/CD — 品質門檻設定

資料有版本(Day 09)、實驗有紀錄(Day 10),今天加上最重要會擋人的門,把它們串成一條自動跑也安心的管線。 這是 Level 0 到 Level 1...

2026-09-22 ‧ 由 威利斯 分享
DAY 12

Day 12:容器與 Kubernetes — GPU 排程與那些會讓 Pod 重啟的坑

今天進入 MLOps 職缺中出現頻率最高的領域:AI/ML 平臺與基礎設施(58.5%)。 本日不包含 Kubernetes 的全部——那是一本書的量,而且新入...

2026-09-23 ‧ 由 威利斯 分享
DAY 13

Day 13:推論服務 — 延遲 vs 吞吐的取捨曲線

昨天服務跑起來了。今天回答:它跑得好不好? 面試時很容易被問到的題目,包含「你的服務延遲多少」、「怎麼提升吞吐」及「P99 為什麼重要」?這三題答得好,入職的機...

2026-09-24 ‧ 由 威利斯 分享
DAY 14

Day 14:監控與漂移——模型無聲壞掉的那 14 天

Day 04 曾說過「不能省的三件事」:可重現、監控、評測。Day 08 提到「只能投資一項就選監控」。今天就講為什麼。 如果這 30 天你只讀一篇,建議這篇要...

2026-09-25 ‧ 由 威利斯 分享
DAY 15

Day 15:AI 平臺與成本治理——損益平衡點與 GPU 利用率

前七天,我們一路處理模型如何可靠地上線、持續部署、監控,以及出問題時怎麼發現。今天換一個主管通常更有感的問題: 這套 AI 系統,到底花多少錢? 模型能活著還不...

2026-09-26 ‧ 由 威利斯 分享
DAY 16

Day 16:從 Prompt 到 Context Engineering — 輸入視窗是一份預算

今天進入主軸二:生成式 AI。前八天我們在解決關於 MLOps 的「模型會不會掛」,接下來八天解決「模型會不會智商下線」。 主軸一的讀者會發現,這邊的問題同樣需...

2026-09-27 ‧ 由 威利斯 分享
DAY 17

Day 17:LLM 應用骨架 — 從 LINE Bot 到會自己決定的系統

2020 年我初次參加鐵人賽寫的是《用 LINE 串起多媒體系統》(GitHub),那 30 天在做的事,本質上是:接收使用者訊息 → 判斷意圖 → 呼叫對應的...

2026-09-28 ‧ 由 威利斯 分享
DAY 18

Day 18:RAG(一)索引端 — 八成的失敗在提問之前就決定了

今天進入生成式 AI 職缺中出現頻率最高的主題:RAG(48.1%)。 因為它太重要,我用三天處理:今天講索引端(文件怎麼進去)、明天講檢索端(怎麼找出來)、後...

2026-09-29 ‧ 由 威利斯 分享
DAY 19

Day 19:RAG(二)檢索端 — 混合檢索、重排序與查詢改寫

昨天說明文件的索引,今天處理:怎麼把對的東西找出來。 今天說明的混合檢索、重排序、查詢改寫等3個技術是實務上 CP 值最高的三個優化,而且都不需要換模型。 今天...

2026-09-30 ‧ 由 威利斯 分享
DAY 20

Day 20:RAG(三)生成與評測 — 引用、拒答與量化品質

RAG 三部曲的最後一天。文件進去了(Day 18)、找出來了(Day 19),今天處理怎麼用與怎麼知道好不好。 後半段特別重要——因為 Day 19 提到的所...

2026-10-01 ‧ 由 威利斯 分享