iT邦幫忙

鐵人檔案

2025 iThome 鐵人賽
回列表
Build on AWS

動漫宅的 30 天 AWS Lakehouse 修行日誌 系列

身為一名動漫宅數據工程師,本系列將用 30 天的時間,透過 AWS Lakehouse 架構來打造一個動漫數據的雲端分析平台。

在這個系列裡,你會接觸到:
- 基礎的資料領域知識
- 從 0 開始的雲端建設之路(S3、Glue、Athena...)
- 動漫數據集如何變身成可視化儀表板

雲端已然成為一個必學的領域,讓我們一起在技術與興趣之間找到學習的樂趣!

參賽天數 23 天 | 共 23 篇文章 | 7 人訂閱 訂閱系列文 RSS系列文 團隊三陳牛肉吉事堡
DAY 11

DAY11 雲端基礎章-建立 VPC

簡介 在上篇 「DAY10 雲端基礎章-VPC 基礎概念篇」 中,介紹 AWS 的網路服務 VPC (Virtual Private Cloud, 虛擬私有雲)...

2025-09-25 ‧ 由 小田 分享
DAY 12

DAY12 雲端基礎章-S3 Data Lakehouse 儲存結構設計

簡介 在 DAY2 知識之章-理解資料本源 與 DAY6 知識之章-儲存的基石 Amazon S3 中,我們分別介紹了本系列所使用的資料檔案和 S3 的儲存機制...

2025-09-26 ‧ 由 小田 分享
DAY 13

DAY13 雲端基礎章-Lambda、EventBridge 概念篇

簡介 在上篇「DAY12 雲端基礎章-S3 Data Lakehouse 儲存結構設計」 中,我們介紹了 Anime Data Lake 架構設計,今天要來介紹...

2025-09-27 ‧ 由 小田 分享
DAY 14

DAY14 雲端基礎章-S3、Lambda、EventBridge 實作篇

簡介 在 DAY12 雲端基礎章-S3 Data Lakehouse 儲存結構設計 中我們介紹了本次將要建立的 S3 Data Lake 儲存架構,並於 DAY...

2025-09-28 ‧ 由 小田 分享
DAY 15

DAY15 淬鍊之章-Glue 概念篇

簡介 我們通過上篇 DAY14 雲端基礎章-S3、Lambda、EventBridge 實作篇,體驗到事件驅動自動化的方便性。 今天我們要進入 淬鍊之章,正式開...

2025-09-29 ‧ 由 小田 分享
DAY 16

Day16 淬鍊之章-Glue 實作篇-1

簡介 我們通過上篇 DAY15 淬鍊之章-Glue 概念篇 了解到了 Glue 的概念與核心功能。 本篇我們要來實際使用 Glue 建立 Silver PySp...

2025-09-30 ‧ 由 小田 分享
DAY 17

Day17 淬鍊之章-Glue 實作篇-2

簡介 在上篇 Day16 淬鍊之章-Glue 實作篇-1 中,我們實作了 Glue 所需的 IAM Role 建立和指派,以及實際建立一支 Glue PySpa...

2025-10-01 ‧ 由 小田 分享
DAY 18

Day18 淬鍊之章-使用 Lambda 呼叫 Glue Workflow

簡介 在 Day17 淬鍊之章-Glue 實作篇-2 中,我們已經介紹了 Glue Workflow,它能將多個 Glue Job 串接成一個完整的資料處理流程...

2025-10-02 ‧ 由 小田 分享
DAY 19

Day19 淬鍊之章-使用 Athena 驗證資料

簡介 在上篇 Day18 淬鍊之章-使用 Lambda 呼叫 Glue Workflow 中,我們已經把資料寫入到 Iceberg。 本篇要介紹 Amazon...

2025-10-03 ‧ 由 小田 分享
DAY 20

Day20 淬鍊之章-多檔案上傳 ETL 流程-設計篇

簡介 在 Day18 淬鍊之章-使用 Lambda 呼叫 Glue Workflow 中,我們成功完成了整個自動化資料處理流程: S3 → EventBrid...

2025-10-04 ‧ 由 小田 分享