昨天已讓六個 Deployment 各自維持 Pod。現在 api-b 要呼叫 api-a,Gateway 也要把 request 轉送到兩個 API,該填哪個...
這個系列在 Day 2 時曾經講過 AI Infra 的基礎知識,包括為什麼需要 KV cache、prefill 和 decode 差在哪、vLLM 是拿來做...
這次我們建立一個只含假密碼的 Secret,再把它掛載成 Pod 裡的檔案。整個練習都放在 lab,因為 Secret 和使用它的 Pod 必須位於同一個命名空...
昨天學了 Liveness Probe,讓 K8s 在服務掛掉時自動重啟 Pod。今天來看另一種情況:服務明明還沒準備好,K8s 卻已經把流量送過來了,這是 R...
Day 16:大門地圖看板 Ingress,一個網域分流到多個服務
Ingress 忙什麼?
有五個服務要對外。開五個 NodePort,就是五個難記的埠號;開...
昨天處理了 Grafana 裡面的設定,今天處理叢集裡面的東西。
前天盤點出三個洞:Loki 的設定只存在叢集裡、Tempo 全吃預設、五個 chart 的版本...