iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
Build on Google AI

AI Demo上 Production 之前:AI × Infrastructure 實戰筆記 系列

AI Demo 很容易,真正讓 AI 進入 Production 卻是另一回事。

我是一名專注於 AI × Infrastructure Solution / Integration 的技術實作者,具備多年 IT、Cloud 與 AI 實作經驗,跨足 LLM、GPU、Docker、Kubernetes、MLOps 與 AI Agent。

本系列將從專業角度,分享 AI Demo從 Prototype、Deployment 到 Production 的實戰思考,拆解「模型能跑,服務為什麼上不了線?」這個問題。

這也是我正在撰寫AI Infrastructure 實戰之書內容。

鐵人鍊成 | 共 32 篇文章 | 3 人訂閱 訂閱系列文 RSS系列文
DAY 21

Day 21 如果AI 流量突然增加,GPU 不夠了怎麼辦?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果AI 流量突然增加,GPU 不夠了怎麼辦? Day 2...

2026-08-21 ‧ 由 獨孤求勝 分享
DAY 22

Day 22 如果Kubernetes 可以增加 Pod,但誰來增加 GPU?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果Kubernetes 可以增加 Pod,但誰來增加 G...

2026-08-22 ‧ 由 獨孤求勝 分享
DAY 23

Day 23 如果AI 自動擴展很好,但 GPU 帳單誰來付??

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果AI 自動擴展很好,但 GPU 帳單誰來付? Day...

2026-08-23 ‧ 由 獨孤求勝 分享
DAY 24

Day 24 如果AI 上 Production 後,我到底要監控什麼?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果AI 上 Production 後,我到底要監控什麼?...

2026-08-24 ‧ 由 獨孤求勝 分享
DAY 25

Day 25 如果AI 變慢,我該先看 GPU、Model 還是 Network?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果AI 變慢,我該先看 GPU、Model 還是 Net...

2026-08-25 ‧ 由 獨孤求勝 分享
DAY 26

Day 26 如果AI 變慢,多加 GPU 就一定有用嗎?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 AI 變慢,多加 GPU 就一定有用嗎? Day 25 我...

2026-08-26 ‧ 由 獨孤求勝 分享
DAY 27

Day 27 如果AI Service 掛掉了,Production 應該怎麼辦?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果AI Service 掛掉了,Production 應...

2026-08-27 ‧ 由 獨孤求勝 分享
DAY 28

Day 28 如果AI 可以正常運作,但它真的安全嗎?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果 AI 可以正常運作,但它真的安全嗎? Day 27...

2026-08-28 ‧ 由 獨孤求勝 分享
DAY 29

Day 29 如果AI Agent 接上 Tools 後,為什麼 Production 變得更複雜?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 AI Agent 接上 Tools 後,為什麼 Produ...

2026-08-29 ‧ 由 獨孤求勝 分享
DAY 30

Day 30 如果我已經弄了一個 AI 系統,到底怎樣才算 Production-ready??

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來 如果我已經弄了一個 AI 系統,到底怎樣才算 Product...

2026-08-30 ‧ 由 獨孤求勝 分享