延續 2021 年鐵人賽《從 AI 落地談 MLOps》的探索,本系列再次追問:「AI 如何真正落地?」並以 4,343 筆 AI 相關職缺為線索,重新檢視企業所需的技術與能力。內容採 MLOps × GenAI Engineering 雙主軸,涵蓋資料與模型管理、自動化部署、監控治理、RAG、模型評測、LLMOps 與 AI Agent。透過可執行的專案串聯觀念與工具,帶領讀者打造可部署、可維護、可觀測的 AI 系統,逐步建立 AI Engineer 所需的工程能力。(開賽截止前再次回歸)
RAG 讓模型「知道」,Agent 讓模型「能做」。今天進入第二常出現的任務訊號(47.6%)。 但我要先講一個可能讓你意外的建議:你需要的多半不是 Agent...
昨天手刻了 ReAct 迴圈,也給了兩個護欄(迭代上限、成本上限)。今天處理讓它能真正上線的三件事:工具怎麼接得可維護、多代理什麼時候值得、怎麼確保它不會闖禍。...
主軸二的最後一個技術主題。前七天我們讓模型「知道」(RAG)、「能做」(Agent),今天讓它「像我們要的樣子」。 我把微調放在最後,是刻意的——因為它是最後才...
今天是合流點。前十六天兵分兩路,從今天起的四天,兩條路的人都要看——因為評測、安全、LLMOps、治理,是兩個職務共同的責任。 而評測是其中最關鍵的:它是「做得...
先拆解一個真實會發生的事故(Day 22 提過,今天完整分析): 某公司的內部助理具備兩項能力:讀取共享雲端硬碟、寄送郵件。使用者上傳一份廠商報價 PDF,請它...
今天是雙主軸真正交會的一天。 主軸一的讀者:這是 Day 13(延遲與吞吐)在 LLM 上的延伸,你的直覺全部適用,只是數字大一個量級。 主軸二的讀者:這是你...