2019/10/14
資料平台架構的重要性,這裡不舉成功案例,也不介紹理論做法,我們實際用一個錯誤的失敗案例提供大家參考參考。
我們的客戶是一個零售業者,自有品牌的連鎖商店,北中南和全球各地都有分店,銷售自家設計的產品,每年都會有各式各樣的促銷行動,節慶檔期,會員折價,當地活動,搭配整合,各式各樣的活動檔期,銷售數據,促銷成本,整體效益,歸納檢討,所有促銷活動的資料整理與統計,這是一件非常繁瑣,也需要資料統計分析的能力,以及綜合歸納的呈現討論檢討報告,常常 MIS 人員和行政助理小姐在每次活動結束後就需要加班一個禮拜整理這些相關的資料和報表,提供業務人員和主管做檢討改進會議報告,這樣的事情每一年,每個月,甚至每一週都在重複發生中,所以,IT 和 MIS 技術人員想要透過 BI 視覺化資料分析工具來解決這樣的問題。
IT 和 MIS 技術人員參加了多場的資料分析相關研討會,也觀察研究 survey 了很多資料分析相關工具,決定選用 Power BI 來製作視覺化分析圖表報告,選用的原因不外乎:
所以 IT 和 MIS 人員就開始學習,並且嘗試著開始使用 Power BI Desktop 製作資料分析視覺化圖表報告,首先,先從系統中的資料庫撈取分析所需要的部分資料到 Power BI Desktop 之中,各地分店,或是活動當下產生的數據在 Excel 檔案之中,也一併匯入 Power BI Desktop,透過 Power BI Desktop 提供的資料分析函數,統計計算彙整資料,使用視覺化圖表產生了使用者容易了解的分析報告,業務人員和主管都非常滿意,於是,開始設計很多 Power BI Desktop 資料分析的報表檔案 pbix 檔,分享給所需要的業務人員,行政管理,或是主管長官,讓不同的使用者都可以直接分享開啟 Power BI Desktop 報表。
但是,一兩年之後,隨著時間漸漸的越用越久之後,資料量越來越龐大,資料來源也越來越多樣化,使用者也熟悉 Power BI Desktop 分析工具的進階使用,使用了越來越多的數據集成、匯總、統計的函數,計算量越來越大,某年某月的某一天,悲劇發生了,就在業務人員和主管檢討會議報告之上,Power BI Desktop 呈現的視覺化報表,一個報表需要一分鐘才能跑出來,做一個地區查詢或是日期時間過濾,都需要跑超過 30 秒以上,就在會議上,主管撂下狠話:「我們促銷活動賺那麼多錢,為什麼開會討論要在這邊傻傻的等電腦跑報表,我們用不起更好的電腦嗎?」,隔天,IT 技術人員就被叫進辦公室,開始討論要怎麼解決這些問題。
以上,大致列出 IT 檢討會議的報告,呈報給公司的 CTO,CTO 決定找外面的資訊顧問公司來做一次 Power BI 的總健檢,所以,這時候就輪到我們上場了。
首先,在我們初步了解問題之後,我們建議先不要看 Power BI Desktop 的 Issues List,先從資料分析技術架構介紹起,這樣我們跟技術人員才會有相同的語言,才會有相同的角度來看這些問題與討論,所以,我們先跟 IT / MIS 技術相關的人員介紹了 Power BI 應用架構,也把 Power BI 資料模型的最佳化設計方法介紹給客戶,另外,資料服務平台的架構也是我們介紹的重點,讓我們的客戶知道資料分析服務平台架構的規劃設計應該有哪些部分,需要注意哪些地方,應該要有哪些步驟。
接下來我們就開始討論客戶發生的問題 Issues List,來來回回的討論內容和項目,我們就不多說了,這裡直接列出我們給客戶的健檢結果建議內容:
想要解決資料分析疊層架屋,或是資訊系統越來越複雜龐大,資料量越來越多,資料樣式越來越多樣複雜,這些資料服務架構,或是資料分析應用上的問題,都不是一時三刻可以解決的,也不是新起一個專案來就可以解決這些問題,總歸一句話,資料分析服務應用對企業來說是一件長期永久的事情,循序漸進,慢慢改善,精進結構,延伸架構,這樣的方式才能好好的規劃擴展企業的資料分析服務應用的資料平台。
我們的客戶經過我們的建議,也陸陸續續討論的幾次的資料架構會議,客戶已經進行了資料的總盤點,將某一些主題相關的資料彙整到雲端的 Azure SQL Database,透過 Power BI Service 雲端服務來使用分析報表的呈現與分享,這已經解決了部分的 Power BI Desktop 報表分享和執行速度上的問題。(而且雲端的規劃與架設,非常的方便快速,短短的時間我們就能先解決部分的問題了)
目前,客戶正在依主題分別規劃資料模型之中,將資料集成和處理的作業,預計透過 Azure Data Factory 的作業流程包裝來解決,這樣可以接著把企業組織中的資料先做一個彙整,建立企業數據分析資料倉儲的資料架構。
接下來,建議客戶建置資料分析模型,將資料結構重新整理過一次,重新把資料虛擬化,然後在依照商業主題和領域分開設計資料分析模型,這需要花比較多的時間來做規劃和設計,因為把資料重新打散虛擬化,然後依照商業邏輯組合成資料模型,再使用 Power BI Desktop 設計視覺資料分析互動報表,發布到雲端服務來做儀表板和報表分享的服務。
PS : 客戶目前持續的慢慢規劃演進企業的資料服務平台架構,使用資料數據分析來精進企業營運管理上的輔助與行動,透過資料數據分析來達成企業數位轉型的行動,目前正在進行式當中,持續的演進正向發展。