從程式碼開始
準備事項
基本上,本文都是範例程式都是使用dotnet core作為範例,因此筆者會基於最簡單的API,開始透過Kong Gateway 進行進出...
一、前言:從推理自動伸縮到訓練水平擴展
在上一篇我們聊到 LLM 推理的自動伸縮策略,解決了「模型在服務階段的彈性伸縮」問題。然而,模型要能被穩定部署之前,還得...
● 前言
🔸 在 Kubernetes 部署應用程式時,設定檔(Configuration)與敏感資訊(Secrets)是不可或缺的部分。
🔸 傳統上我們可能會...
今天,我們將深入探討 Loki 的設定檔,了解各個關鍵參數的意義以及如何調整它們以符合不同規模的生產環境需求。
Loki 設定檔結構概覽
Loki 的設定檔(通...
引言:即時彈性調度成為IT運維必修課
隨著企業數位化、服務雲端化與流量的不確定性增加,傳統的靜態資源分配策略已難應對高峰突發與谷底閒置的矛盾場景。舉例來說,依照...
Graylog 採用 Data Node 鏡像以強化搜索後端安全性,透過憑證 (certificates) 管理 OpenSearch 叢集與 Graylog...