鐵人檔案
LLM、Embedding、ASR 與批次任務同時使用 GPU 時，真正困難的不只是部署，而是如何有效治理有限資源。本系列聚焦 Kubernetes 上的 GPU AI 工作負載，從 GPU Discovery、Scheduling、Affinity、Taints、Priority 與 ResourceQuota，延伸到模型推論服務、資源隔離、VRAM 競爭、故障復原與可觀測性，透過實驗與量測建立可重現的 GPU 工作負載治理方法。
完成「Scheduler 實驗：Affinity、Priority、Sharing 到底改變了什麼」後，下一個問題是「DCGM + Prometheus：Kub...
延續「DCGM + Prometheus：Kubernetes 裡怎麼看懂 GPU」，這篇聚焦「從 Pod 到請求：Logs、Metrics、Tracing 如...
前一篇討論「從 Pod 到請求：Logs、Metrics、Tracing 如何串起 AI Serving」，這篇聚焦「故障注入：Pod、Node、GPU 任一層...
前一篇處理「故障注入：Pod、Node、GPU 任一層出事會怎樣」，這篇進一步討論「PDB、Rolling Update 與 AI 服務可用性」。共同的量測條件...
完成「PDB、Rolling Update 與 AI 服務可用性」後，下一個問題是「模型版本發布：Canary、Shadow 與回滾」能否重跑、否定並留下失敗原...
延續「模型版本發布：Canary、Shadow 與回滾」，這篇聚焦「Kubernetes 安全邊界：GPU Pod 不應該等於特權 Pod」：先定義變因與停止線...
前一篇討論「Kubernetes 安全邊界：GPU Pod 不應該等於特權 Pod」，這篇聚焦「GitOps 與可重現部署：今天能跑，明天也要能重建」，並沿用同...
前一篇處理「GitOps 與可重現部署：今天能跑，明天也要能重建」，這篇進一步討論「備份與災難復原：Kubernetes 不是備份工具」。共同的量測條件是前後比...
完成「備份與災難復原：Kubernetes 不是備份工具」後，下一個問題是「GPU 效率與成本：提高 Utilization 不代表使用者更滿意」能否重跑、否定...
