AI Demo 很容易,真正讓 AI 進入 Production 卻是另一回事。
我是一名專注於 AI × Infrastructure Solution / Integration 的技術實作者,具備多年 IT、Cloud 與 AI 實作經驗,跨足 LLM、GPU、Docker、Kubernetes、MLOps 與 AI Agent。
本系列將從專業角度,分享 AI Demo從 Prototype、Deployment 到 Production 的實戰思考,拆解「模型能跑,服務為什麼上不了線?」這個問題。
這也是我正在撰寫AI Infrastructure 實戰之書內容。
我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果AI 流量突然增加,GPU 不夠了怎麼辦? Day 2...
我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果Kubernetes 可以增加 Pod,但誰來增加 G...
我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果AI 自動擴展很好,但 GPU 帳單誰來付? Day...
我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果AI 上 Production 後,我到底要監控什麼?...
我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果AI 變慢,我該先看 GPU、Model 還是 Net...
我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 AI 變慢,多加 GPU 就一定有用嗎? Day 25 我...
我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果AI Service 掛掉了,Production 應...
我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果 AI 可以正常運作,但它真的安全嗎? Day 27...
我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 AI Agent 接上 Tools 後,為什麼 Produ...
我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來 如果我已經弄了一個 AI 系統,到底怎樣才算 Product...