昨天建立了 dev Namespace,把 Todo App 的資源都部署進去,還設定了 ResourceQuota 限制資源用量。今天要學 HPA,讓 K8s...
延續「多模型部署:一個 Deployment 一個模型,還是集中 Serving」,這篇聚焦「LLM、Embedding、ASR 同叢集:工作負載優先級怎麼訂」...
終於來到最後一天啦!真是辛苦大家了程式碼也都可從這個 Repo 取得,懶得打就直接 clone 也可以 XDhttps://github.com/YIFUNLI...
二十六、systemd 跟 Docker 不是完全互斥
這也是很容易誤會的一點。
不是:
用了 Docker
就完全沒有 systemd
Docker Eng...
今天的工作
用 APISIX 原生的 prometheus 插件,在閘道層收集監控數據
驗證這些數據真的送到 Prometheus
Day15/16 拿到的...
Pod 排程
建立 Pod 時,通常不會直接指定它要在哪個 Node 上執行。Kubernetes 會由 kube-scheduler 替 Pod 選擇合適的...