從零開始的雲端資料與 AI 實戰紀錄,從 GCP 雲端基礎開始,再到 Compute Engine、Cloud Storage 等核心服務,進一步理解企業級資料湖、資料分層與資料生命週期。實作 ETL、資料清洗、資料品質管理、BigQuery SQL 與 GCP 串流資料處理,理解一套雲端資料平台如何從資料儲存、處理、分析一路延伸到 AI 應用。
第一次接觸雲端服務時,很容易把它想成「租一台遠端電腦」。但如果真的開始使用 Google Cloud,會發現這個理解其實太狹隘。雲端比較接近一座可以透過 API...
建立好雲端環境之後,下一個很自然的問題就是:「資料要放在哪裡?」 Cloud Storage 是 Object Storage,不應該直接把它理解成「網路硬碟」...
前兩天,我們先建立了 GCP 的基本環境,接著把第一份資料放進 Cloud Storage。到了今天,問題開始從「資料放在哪裡?」變成另一個更重要的問題:到底誰...
上一篇 Day 3,我們談到 IAM 與雲端安全,理解「誰可以對什麼資源做什麼」。到了今天,開始真正建立一個雲端運算資源。如果說 Cloud Storage 是...
一開始接觸雲端時,我把注意力放在「怎麼把服務跑起來」。VM 建好了、可以連線,Bucket 也建立完成,看到畫面正常運作,就會覺得事情差不多完成了。但真正讓我開...
一開始我其實把資料處理想得很簡單:CSV 放進 Cloud Storage,資料就算存好了。 這句話沒有錯,但問題是——存好了,然後呢?如果我今天只是把 sam...
資料已經可以查了,SQL 也能正常執行。但我開始注意到一件事情:查詢可以成功,不代表這是一個好的查詢。 尤其在 BigQuery 裡,我不能只看 SQL 結果對...
1. 我原本以為資料湖只是「把檔案集中起來」 我一開始把資料湖理解成一個大型 Cloud Storage Bucket,只要把 CSV、JSON、Log 等資料...
前面我們已經用過 Cloud Storage、BigQuery,也實際建立過 Cloud SQL。做到這裡,開始有一個更根本的疑問:既然它們都能存資料,為什麼還...