現代化的系統絕大多數都會嵌入並使用大量的AI功能,然而 AI服務天生具備的不確定性與高成本的考量會改變系統設計的思路與方向,這次希望透過鐵人賽將個人在AI系統設計的經驗完整彙整呈現,並且針對現在最重要的模型客製化設計進行補強。
引言 前一陣子因為準備 AI 相關職缺的面試,我重新整理了一輪 Generative AI、System Design、RAG、Agent、Fine-tunin...
昨天提到,這次鐵人賽想從 System Engineering 的角度重新整理 AI 系統設計。第二天我想先處理一個最基礎的問題:當 AI 被放進既有的軟體系統...
很多人第一次做 AI System Design,直覺反應是先畫架構圖:資料來源、RAG、Vector Database、LLM、Agent、Memory、To...