我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。
Day 12 我談到一個 AI 開發很常見的問題:「AI 在我的電腦可以跑,為什麼換一台電腦就不行?」
前幾天的文章分享幾個問題與每日觀點,當問題一路追下去,就會遇到 Docker。
我以前接觸 Docker 時,最直覺的理解是:「把程式裝進 Container 裡。」但Docker 對 AI 的價值,不只是「打包程式」,真正從 AI Infrastructure 的角度思考後,我才發現 Docker 更重要的價值,其實是把原本散落在開發環境中的程式、Runtime、Libraries 與 Dependencies,整理成一個可以被建立、分享與部署的環境。Docker 官方也將 Container 定義為包含應用程式及其 dependencies 的標準化執行單位。Container image 則是這個可分享、可部署環境的標準化套件。
對 AI 來說,這件事情尤其重要。Python 版本、Framework、套件、系統 Libraries 與 GPU 相關 Runtime,只要其中一環不同,就可能讓原本成功的 Demo 無法重現。所以把AI Demo用 DOCKER把執行環境變成可以管理、分享與部署的單位。
因此我開始把 Docker 看成 AI Application 與 Infrastructure 之間的一座橋:不是單純「把程式裝進去」,而是嘗試把執行環境也變成可以被管理與交付的東西。Container 的核心就是:把程式與所需 dependencies、runtime、libraries 等一起封裝,讓它能在不同環境中較一致地執行。
但這裡又出現一個問題:
如果 Docker 可以把 AI 的環境封裝起來,那麼只要有 Dockerfile,就真的能保證任何地方都可以重現同一個 AI 環境嗎?
這也是《AI Infrastructure 實戰:AI Demo 為什麼上不了 Production?》接下來要繼續拆解的問題。
關於作者
我是一名 AI × Infrastructure Solution / Integration 技術實作者,專注於 AI、MLOps、Cloud、Docker、Kubernetes、GPU、LLM 與 AI Agent 等技術的整合與落地,跨足 LLM、GPU、Docker、Kubernetes、MLOps 與 AI Agents,持續研究企業 AI 從 Prototype 到 Production 所需要的工程能力。協助企業理解 AI 從 Prototype 到 Production 所需要的技術能力。
本系列同時是《AI Infrastructure 實戰:AI Demo 為什麼上不了 Production?》的延伸實戰筆記。如果想完整理解這些更深的技術問題,未來可以去看這本書(書中包含了一些的範例與提示詞,特別是AMD W7900 48G的使用技術心得,這些是外面很少有的獨家踩坑經驗,未來買書真的賺到!)。敬請期待唷~