前言
今年 AI 的蓬勃發展,特別是大型語言模型 (LLM) 的興起,對運算資源的需求大幅提升。執行像 Mixtral-8x7B 等複雜模型的推論(Infer...
本次目標
透過 K3d 建置一座 Kubernetes
部署 Quarkus 資源
存取 Quarkus 專案 API 資源
Deployment 的回滾
探...
前言
GCP 相比於其他雲,多了 Project(專案) 層級,在規劃 GCP 架構時往往以環境來區分專案,在每個專案下都有各自獨立的 VPC,當規模越來越大...
前言
今天要介紹各種網路相關的設備,這些設備在現代網路架構中發揮著至關重要的作用。就如同咒術師使用的咒具一樣,這些網路設備是每一個網路工程師手中必不可少的武器,...
本次目標
了解 Graceful shutdown
Graceful shutdown 好處
preStop hook
長時間任務運行問題
了解 Grace...
今日目標
了解並使用 Affinity/Anti-affinity 來調度 Pod
Node affinity
Inter-pod affinity/an...