當網站完成容器化、微服務化與 Kubernetes 編排後,架構設計並不代表就此結束。系統規模持續成長時,團隊還需要重新思考服務拆分是否合理、基礎設施成本是否可控、部署流程是否自動化,以及傳統雲原生架構如何支援生成式 AI、GPU 推理與邊緣運算。
本篇將從現代微服務的反思開始,延伸到 Serverless、GitOps、可觀測性、FinOps,以及 AI 時代的雲原生架構。重點不只是介紹新工具,而是協助讀者理解不同架構選擇背後的成本、限制與適用情境,避免為了追逐新技術而讓網站變得更加複雜。
第一部分將討論微服務過度拆分所產生的技術債。服務拆得越細,不一定代表架構越好。過多的服務會增加網路通訊、部署管理、測試整合、資料一致性與故障排查的難度。對於規模較小或業務邊界仍不穩定的網站,模組化單體可能比微服務更容易維護。透過清楚的模組邊界,可以先在同一個應用程式中管理不同業務,再根據實際流量、團隊分工與部署需求決定是否拆分。
本篇也會介紹 Serverless、Knative 和 FaaS 的應用方式。Serverless 可以讓開發者不需要長時間管理伺服器,而是按照請求或事件執行函式與服務,特別適合圖片處理、通知發送、資料轉換和非同步任務。不過,冷啟動、執行時間限制、狀態保存和供應商綁定等問題,也必須在架構設計時一併考慮。
第二部分聚焦於雲原生生態系統的工程化管理。GitOps 透過 Git 儲存應用程式與 Kubernetes 設定,讓 ArgoCD 根據版本庫內容同步叢集狀態,使部署流程更透明、更容易回溯。可觀測性則透過 Log、Metric 和 Trace 三大支柱,配合 OpenTelemetry,協助團隊從使用者請求一路追蹤到應用程式、資料庫與基礎設施,快速找出效能瓶頸和故障原因。
當網站使用的雲端資源越來越多,成本治理也會成為架構的一部分。FinOps 不只是查看帳單,而是將資源使用量、服務效能、業務價值與團隊責任連結起來。透過 Requests、Limits、混部、閒置資源清理與彈性擴縮,可以提高資源利用率,避免為未使用的 CPU、記憶體和 GPU 持續付費。本篇也會介紹 ACK、EKS 和 GKE 等公有雲託管 Kubernetes 的使用方向。
第三部分則進入 AI 時代的架構革新。網站可以利用生成式 UI 和 AI Agent 提供個人化導購、客服和內容推薦,但背後仍需要可靠的資料服務、權限控制、模型治理與推理平台。當 Kubernetes 開始管理 GPU 資源時,vGPU、MIG 和 RDMA 可以協助提高 GPU 使用率與高速傳輸能力。
在 AI 推理服務方面,vLLM、Triton 與 Kubernetes 可以共同建立可擴展的模型服務,處理模型載入、批次推理、流量分配與彈性擴縮。邊緣運算與 WebAssembly 則適合部署輕量化邏輯,讓部分請求在靠近使用者的位置完成。未來的 AI Serving Stack 還會持續發展,涵蓋機密推理、GPU 共享、彈性資源調度與多模型管理。
透過本篇,讀者將從傳統微服務的反思出發,理解現代網站如何在架構複雜度、開發效率、系統可靠性與雲端成本之間取得平衡,並逐步銜接到 Serverless、FinOps 和 AI 雲原生的實際應用。