iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
Build on Google AI

AI Demo上 Production 之前:AI × Infrastructure 實戰筆記 系列

AI Demo 很容易,真正讓 AI 進入 Production 卻是另一回事。

我是一名專注於 AI × Infrastructure Solution / Integration 的技術實作者,具備多年 IT、Cloud 與 AI 實作經驗,跨足 LLM、GPU、Docker、Kubernetes、MLOps 與 AI Agent。

本系列將從專業角度,分享 AI Demo從 Prototype、Deployment 到 Production 的實戰思考,拆解「模型能跑,服務為什麼上不了線?」這個問題。

這也是我正在撰寫AI Infrastructure 實戰之書內容。

參賽天數 21 天 | 共 21 篇文章 | 3 人訂閱 訂閱系列文 RSS系列文
DAY 1

Day 01 AI 已經可以快速完成 Demo,但真正進入 Production,問題才正式開始。

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 AI 已經可以快速完成 Demo,但真正進入 Produc...

2026-08-01 ‧ 由 獨孤求勝 分享
DAY 2

Day 02 如果 AI Demo 已經可以跑了,下一步到底需要什麼,才能真正走進 Production?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 我發現 AI Demo 很容易,為什麼上不了 Produc...

2026-08-02 ‧ 由 獨孤求勝 分享
DAY 3

Day 03 如果我已經先跑多 AI Agent了,我為什麼開始研究 AI Infrastructure?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 2022年11底,我接觸ChatGPT等生成式 AI 之後...

2026-08-03 ‧ 由 獨孤求勝 分享
DAY 4

Day 04 如果AI Engineer 不只是會呼叫 LLM API,那我為什麼開始研究 AI Infrastructure?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 從生成式 AI 普及之後,使用 LLM API 已經變得越...

2026-08-04 ‧ 由 獨孤求勝 分享
DAY 5

Day 05 如果AI Demo 成功,不代表 AI 專案成功,因為AI Engineer 的價值,不只是會使用 AI AGNET

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 實做 AI Demo 的時候,我們通常會先問一個問題:「它...

2026-08-05 ‧ 由 獨孤求勝 分享
DAY 6

Day 06 如果AI一問就懂,那AI 到底需要什麼 GPU?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 談到 AI Infrastructure,很多人的第一個印...

2026-08-06 ‧ 由 獨孤求勝 分享
DAY 7

Day 07 如果把記憶體當股票買,為什麼 AI 一直在談 VRAM呢?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 為什麼 AI 一直在談 VRAM呢? 開始研究 AI In...

2026-08-07 ‧ 由 獨孤求勝 分享
DAY 8

Day 08 如果模型越大,就一定需要越大的 GPU 嗎?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果模型越大,就一定需要越大的 GPU 嗎? 開始接觸 L...

2026-08-08 ‧ 由 獨孤求勝 分享
DAY 9

Day 09 如果模型不變,為什麼 Context 越長越吃 VRAM?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 昨日談問到如果模型越大,就一定需要越大的 GPU 嗎?今日...

2026-08-09 ‧ 由 獨孤求勝 分享
DAY 10

Day 10 如果跑同一個 AI 模型,Quantization 真的是免費午餐嗎?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果跑同一個 AI 模型,Quantization 真的是...

2026-08-10 ‧ 由 獨孤求勝 分享