技術 【Day 5】 自己做 API Server 發行 Pre-Signed URL

說明 前面發行 Pre-Signed URL 需要透過 裝有 AWS CLI 且 安置了 Key 的主機進行，這顯然會阻礙使用上的方便性。 我們接著來做一個 A...

技術 Day22 - vLLM實作篇PART1：安裝到推理 (Linux version)

🚀 vLLM介紹 vLLM是一個速度快、靈活又簡單好用的推理加速框架，主打使用PagedAttention管理kv cache，Model Paralleliz...

技術 Day18 - (攻擊) 介紹攻擊 api server

今天要開始介紹 K8s 一些內部元件設定不當的濫用，基本上都還蠻簡單的。一樣在攻擊前先看手法跟位置。參考 从攻击者视角聊聊K8S集群安全 - 上 一圖，...