Day 7: 本地開發:使用 Docker Compose 模擬微服務環境
在開發機上一鍵啟動整套異構系統的技巧。
1. 微服務帶來的開發痛點
系統從單體走向微...
延續「多模型部署:一個 Deployment 一個模型,還是集中 Serving」,這篇聚焦「LLM、Embedding、ASR 同叢集:工作負載優先級怎麼訂」...
昨天講完 USE 和 RED 兩套方法論,也把三個服務的 RED 九宮格做出來了。今天做另外一半:節點的 USE。
然後我打算做一個小實驗,把 pricing...
昨天叢集開好了,今天要往裡面放東西。
我們要建立一個壞掉的服務,但是不會壞的太明顯。
沒有一個故障是「服務掛掉」。
服務掛掉其實是最好查的,Pod 會變紅、...
前一篇討論「從 Pod 到請求:Logs、Metrics、Tracing 如何串起 AI Serving」,這篇聚焦「故障注入:Pod、Node、GPU 任一層...
ATT&CK TA0001 的防禦面——如何讓 Day 2 的三條入侵路徑全部失效。
防禦總覽
攻擊
防禦措施
層級
S01 SSR...