iT 邦幫忙::一起幫忙解決難題，拯救 IT 人的一天

0 Like 0 留言 117 瀏覽

鐵人賽 Kubernetes DAY 30

異世界生存戰記：30天煉成GKE大師系列第 30 篇

技術 Day30 GKE 異世界之旅後記

在此恭喜各位！經過這 30 天的 GKE 生存戰記系列文章，我們終於煉成GKE大師了！前言穿越到 GKE 異世界也到了第 30 天了，在 GKE 異世界...

andrewchen930511 ‧ 2024-10-14

0 Like 0 留言 171 瀏覽

鐵人賽 Kubernetes DAY 29

異世界生存戰記：30天煉成GKE大師系列第 29 篇

技術 Day29 GKE 艦隊大軍集結：串連跨區域高可用多集群服務

前言在現代雲原生應用程式中，跨多個 Kubernetes 叢集部署和管理服務變得越來越普遍。Google Kubernetes Engine (GKE) 提...

andrewchen930511 ‧ 2024-10-13

0 Like 0 留言 87 瀏覽

鐵人賽 Kubernetes DAY 28

異世界生存戰記：30天煉成GKE大師系列第 28 篇

技術 Day28 在 GKE TPU 異世界中轉職為詠唱師：Gemma LLM 部署實戰

前言前面幾篇文章介紹了 GKE Nvidia GPU 的應用，今天將要介紹一個特殊硬體 TPU 的應用。將引導您如何在 Google Kubernetes...

andrewchen930511 ‧ 2024-10-12

0 Like 0 留言 147 瀏覽

鐵人賽 Kubernetes DAY 27

異世界生存戰記：30天煉成GKE大師系列第 27 篇

技術 Day27 模型神速啟動！Local SSD 究極奧義，開啟 AI 推論的超次元通道

前言在深度學習應用中，模型的載入速度和推理效率至關重要，尤其是在大規模部署和高併發場景下。直接從雲端儲存（例如 Google Cloud Storage，G...

andrewchen930511 ‧ 2024-10-11

0 Like 0 留言 111 瀏覽

鐵人賽 Kubernetes DAY 26

異世界生存戰記：30天煉成GKE大師系列第 26 篇

技術 Day26 GPU 軟體層級切割魔法 Time-Slicing & MPS

前言前一章節介紹了 Multi-Instance GPUs(MIG) ，屬於硬體層級的分割方法，隔離性強。那有沒有軟體切割法呢？當然有，那就是 Time-...

andrewchen930511 ‧ 2024-10-10

0 Like 0 留言 138 瀏覽

鐵人賽 Kubernetes DAY 25

異世界生存戰記：30天煉成GKE大師系列第 25 篇

技術 Day25 GPU 硬體層級切割魔法 Multi-Instance GPUs(MIG)

前言昨天介紹了如何在 GKE 中使用 GPU 節點部署 Mixtral-8x7B-Instruct-v0.1 模型。然而讀者有沒有發現問題，部署過程中使用需...

andrewchen930511 ‧ 2024-10-09

0 Like 0 留言 266 瀏覽

鐵人賽 Kubernetes DAY 24

異世界生存戰記：30天煉成GKE大師系列第 24 篇

技術 Day24 GKE異世界：LLM 的 GPU 召喚儀式 x DCGM Exporter

前言今年 AI 的蓬勃發展，特別是大型語言模型 (LLM) 的興起，對運算資源的需求大幅提升。執行像 Mixtral-8x7B 等複雜模型的推論(Infer...

andrewchen930511 ‧ 2024-10-08

0 Like 0 留言 77 瀏覽

鐵人賽 Kubernetes DAY 23

異世界生存戰記：30天煉成GKE大師系列第 23 篇

技術 Day23 在 GKE 異世界中掌控深度學習之力 - Training model

前言前一章節，介紹了 Kueue 配置，經常在機器學習的訓練領域使用到。而本章將深入探討如何在 Google Kubernetes Engine (GKE)...

andrewchen930511 ‧ 2024-10-07

0 Like 0 留言 110 瀏覽

鐵人賽 Kubernetes DAY 22

異世界生存戰記：30天煉成GKE大師系列第 22 篇

技術 Day22 資源不夠使用了，調用一些魔力給它吧！ Kueue(二)

前言上一章節，我們已經學會了基本的 Kueue 配置。而本章節將深入探討 Kueue 的運作機制，並闡述其如何透過配額管理來確保不同團隊或用戶之間的公平性，...

andrewchen930511 ‧ 2024-10-06

0 Like 0 留言 156 瀏覽

鐵人賽 Kubernetes DAY 21

異世界生存戰記：30天煉成GKE大師系列第 21 篇

技術 Day21 資源不夠使用了，調用一些魔力給它吧！ Kueue(一)

前言 Kueue 是一個基於配額共享的作業排隊系統，用於管理配額以及作業如何使用配額，尤其適用於像機器學習模型訓練這類資源密集型的工作負載。Kueue 決定何...

andrewchen930511 ‧ 2024-10-05

0 Like 0 留言 156 瀏覽

鐵人賽 Kubernetes DAY 20

異世界生存戰記：30天煉成GKE大師系列第 20 篇

技術 Day20 Grafana + GCP OAuth API 一鍵登入數據聖殿

前言在雲端原生應用盛行的今日，確保應用程式安全存取 Google Cloud Platform (GCP) 資源至關重要。OAuth 2.0 是一種業界標準...

andrewchen930511 ‧ 2024-10-04

0 Like 0 留言 123 瀏覽

鐵人賽 Kubernetes DAY 19

異世界生存戰記：30天煉成GKE大師系列第 19 篇

技術 Day19 GKE 共享的魔法卷軸(二)：硬碟可以掛載的話，那 Cloud Storage 也可以嗎？

前言本文將深入淺出地介紹如何在 GKE 集群中掛載 Google Cloud Storage (GCS)，讓您的應用程式能輕鬆、安全地存取雲端儲存的資料。我...

andrewchen930511 ‧ 2024-10-03

0 Like 0 留言 154 瀏覽

鐵人賽 Kubernetes DAY 18

異世界生存戰記：30天煉成GKE大師系列第 18 篇

技術 Day18 GKE 共享的魔法卷軸(一)：GKE NFS FileStore

前言在 Kubernetes 環境中運行需要持久儲存的應用程式時，可靠且高效能的檔案儲存方案至關重要。Google Kubernetes Engine (G...

andrewchen930511 ‧ 2024-10-02

0 Like 0 留言 209 瀏覽

鐵人賽 Kubernetes DAY 17

異世界生存戰記：30天煉成GKE大師系列第 17 篇

技術 Day17 GKE 秘密封印：External Secret Manager & Reloader

前言 K8s 的 Secret 是儲存應用程式敏感資訊的組件，但是如何管理以及傳遞敏感資訊到 K8s Secret 中是一個重要課題。在本文中，我們將使用 ...

andrewchen930511 ‧ 2024-10-01

0 Like 0 留言 196 瀏覽

鐵人賽 Kubernetes DAY 15

異世界生存戰記：30天煉成GKE大師系列第 15 篇

技術 Day15 Kubernetes 安全遠程操控術(二)：Teleport 讓你的集群隨叫隨到

前言上篇文章建立了 Teleport Auth 和 Proxy，已經可以連接到 VM 了。這個章節會示範連接到 GKE 叢集，結合 K8s 內的 RBAC...

andrewchen930511 ‧ 2024-09-29

0 Like 0 留言 199 瀏覽

鐵人賽 Kubernetes DAY 14

異世界生存戰記：30天煉成GKE大師系列第 14 篇

技術 Day14 Kubernetes 安全遠程操控術(一)：您的 Teleport 外送來了

前言 Kubernetes 的普及，讓管理多個叢集變得越來越複雜。Teleport 提供了一個統一的訪問平台，簡化了對分散式 Kubernetes 環境的管理...

andrewchen930511 ‧ 2024-09-28

1 Like 0 留言 194 瀏覽

鐵人賽 Kubernetes DAY 13

異世界生存戰記：30天煉成GKE大師系列第 13 篇

技術 Day13 API 之門的守護者 API Gateway APISIX

前言在現代雲原生應用程式中，微服務架構已成為主流。然而，隨著微服務數量增加，如何有效地管理和路由外部請求變得至關重要。API Gateway 作為單一入口點...

andrewchen930511 ‧ 2024-09-27

0 Like 0 留言 283 瀏覽

鐵人賽 Kubernetes DAY 12

異世界生存戰記：30天煉成GKE大師系列第 12 篇

技術 Day12 今晚來點不一樣的證書 Cert-Manager

前言前面已經介紹了 Google 代管的 GTS 證書管理工具，而今天要介紹的 Cert-Manager 是一款強大的 Kubernetes 工具，能自動執...

andrewchen930511 ‧ 2024-09-26

0 Like 0 留言 214 瀏覽

鐵人賽 Kubernetes DAY 11

異世界生存戰記：30天煉成GKE大師系列第 11 篇

技術 Day11 GKE Gateway API 輕鬆駕馭微服務流量

前言上一章節講解了 Gateway API Http 沒有設定證書的方法。本章將延續介紹，將網關掛上 GTS 產出的 Wildcard 通用證書後，跨命名空...

andrewchen930511 ‧ 2024-09-25

0 Like 0 留言 292 瀏覽

鐵人賽 Kubernetes DAY 10

異世界生存戰記：30天煉成GKE大師系列第 10 篇

技術 Day10 Ingress 說再見！GKE Gateway API 開啟新紀元

前言隨著雲原生應用程序的普及，入口流量管理的需求也在增加。Kubernetes 的 Ingress 控制器雖然可以滿足基本的入口流量需求，但是它存在一些限制...

andrewchen930511 ‧ 2024-09-24

0 Like 0 留言 127 瀏覽

鐵人賽 Kubernetes DAY 9

異世界生存戰記：30天煉成GKE大師系列第 9 篇

技術 Day9 告別網站危機 Google Trust Services 證書及External DNS

前言 SSL 證書的維護是所有 SRE 的必修課程，有 DV, OV, EV, Wildcard, Multi Domain, Self-Signed, 免費...

andrewchen930511 ‧ 2024-09-23

0 Like 0 留言 154 瀏覽

鐵人賽 Kubernetes DAY 8

異世界生存戰記：30天煉成GKE大師系列第 8 篇

技術 Day8 Kubernetes 流量管理魔法棒 Nginx Ingress Controller

前言昨天我們使用 GCP 雲原生負載均衡的 Ingress，將 Loadbalancer 建立在 GKE 之外，本章將介紹 K8s 最多人使用的 Ingre...

andrewchen930511 ‧ 2024-09-22

0 Like 0 留言 151 瀏覽

鐵人賽 Kubernetes DAY 7

異世界生存戰記：30天煉成GKE大師系列第 7 篇

技術 Day7 掌控流量入門 GKE NEG Service and Ingress

前言在雲端的世界裡，Kubernetes 已經成為容器化應用部署的標準。而 Google Cloud Platform 的 Google Kubernete...

andrewchen930511 ‧ 2024-09-21

0 Like 0 留言 240 瀏覽

鐵人賽 Kubernetes DAY 6

異世界生存戰記：30天煉成GKE大師系列第 6 篇

技術 Day6 GKE 服務的一張身份證 GKE IAM Workload Identity

前言在雲端環境中，安全一直是所有 SRE 至關重要的議題，每個雲服務都有不同的最佳權限控管方式，從 AWS 轉移至GCP 後嘗試了在 GKE 中使用各種方...

andrewchen930511 ‧ 2024-09-20

0 Like 0 留言 175 瀏覽

鐵人賽 Kubernetes DAY 3

異世界生存戰記：30天煉成GKE大師系列第 3 篇

技術 Day3 Terraform 馭雲術：打造我的 GKE 容器帝國

前言在現代雲端運算環境中，快速的部署和管理應用程式至關重要。目前公司所有的服務都運行在 GKE 上，當中分別有 Dev, Stage, Beta, Prod...

andrewchen930511 ‧ 2024-09-17

1 Like 0 留言 248 瀏覽

鐵人賽 Kubernetes DAY 1

異世界生存戰記：30天煉成GKE大師系列第 1 篇

技術 Day1 鐵人賽開始，讓我們穿越到 Google Kubernetes Engine (GKE) 的世界吧！

前言我，一個職業是 SRE 的勇者，一年前被捲入時空裂縫，穿越到資源豐饒卻危機四伏的 GCP 異世界。原本熟悉的 AWS EKS 武器失效，你必須掌握 GC...

andrewchen930511 ‧ 2024-09-15

0 Like 0 留言 1313 瀏覽

鐵人賽自我挑戰組 DAY 28

可能會迷路的航行 - 菜雞的kubernetes學習筆記系列第 28 篇

技術 Day 28 利用 GitLab CI/CD Pipeline 部署程式到 GKE

今明兩天會寫 GitLab CI/CD 的主題，算是 Kubernetes 的應用。是很基本的文章但還是紀錄一下小白如我怎麼理解的。這篇會稍微介紹 GitLa...

wwwxxch ‧ 2023-10-13

0 Like 0 留言 1300 瀏覽

鐵人賽自我挑戰組 DAY 27

可能會迷路的航行 - 菜雞的kubernetes學習筆記系列第 27 篇

技術 Day 27 Google Kubernetes Engine - GKE 新手入門設定

還沒學到怎麼自架 kubernetes，不過雲端服務商都有提供代管 Kubernetes 的服務，AWS 有 EKS、Google Cloud 有 GKE、Az...

wwwxxch ‧ 2023-10-12

1 Like 1 留言 2458 瀏覽

鐵人賽 DevOps DAY 30

現代化小白也要嘗試的容器手札系列第 30 篇

技術 Day 30. 容器小白學習歷程及部落客試金

鬆獅容器小白30連拍告終時間過得好快！轉眼從猶豫是否要再報名自我挑戰，到確定發文的第一天還在擔心文庫內的彈藥存量不多。一轉眼經歷了兩次中秋與雙十連假，埋首撰...

Gary ‧ 2020-10-10

0 Like 0 留言 3840 瀏覽

鐵人賽 DevOps DAY 28

現代化小白也要嘗試的容器手札系列第 28 篇

技術 Day 28. Google GKE 部署自己第一個容器實驗

鬆獅容器小白28連拍 GKE部署自己第一個容器實驗容器部署前有以下幾種方式來指向Registry API後建立映像檔 Artifact API Con...

Gary ‧ 2020-10-08