iT邦幫忙

2021 iThome 鐵人賽

DAY 11
0
AI & Data

資料產品開發與專案管理系列 第 11

[Day 11] 資料產品生命週期管理-原始資料

不同類型的資料產品在其各自專案週期有需要注意的地方,以下我們將說明在處理原始資料時,各階段應該做的事情

Initiate

在初始階段,最重要的就是要了解搜集資料的需求。儘管我們很難知道這些資料未來還需要做哪些用途,但至少要把當下的需求弄清楚。我們可以把常見資料需求分為幾種類型:

  1. 紀錄資訊 - 這邊指的就是單純留存用的紀錄、像是 Log 訊息、系統資訊、Audit 資料,這些記錄會一直被寫入DB 或儲存裝置,寫下去之後也不太會修改。

  2. 分析建模 - 有些資料是為了分析用途,像是統計分析、市場調查,這些資料需要考量到分析和建模的方便,會盡量以「大表」的形式來搜集。

  3. 前端互動 - 像是大家在看的 Blog、或是電商網站等,需要將這些要呈現的資訊、以及跟使用者互動的資料存在後端資料庫,這些資料會根據使用者互動寫入或是被讀取,通常會將資料做正規化。

Design

設計階段當然就是根據之前調查的用途,來決定資料的搜集方式。一般來說在設計上要考量幾點:

  • 資料搜集方式 - 考慮資料要怎麼搜集,是要抽樣呢還是全收、是用系統紀錄還是人工、如果是系統的話要用 DB、Excel 作為後台還是其他方式。
  • 資料內容 - 資料要存哪些內容、需要用什麼格式來存、如果是存 DB 的話、個別欄位又是什麼屬性。
  1. 紀錄資訊 - 由於這些紀錄資料之後可能會被拿來查詢,所以在設計上需要考量到 Log 等級、欄位好不好被檢索、有沒有足夠的資訊、資訊的格式是否一致等等。

細節設計方式可以參考:The Art of Logging

  1. 分析建模 - 有些資料是為了分析用途,像是統計分析、市場調查,這些資料需要考量到分析和建模的方便,會盡量以「大表」的形式來搜集。

關於調查的資料設計可以參考:Survey Data

  1. 前端互動 - 像是大家在看的 Blog、或是電商網站等,需要將這些要呈現的資訊、以及跟使用者互動的資料存在後端資料庫,這些資料會根據使用者互動寫入或是被讀取,通常會將資料做正規化。

資料正規化介紹:
https://en.wikipedia.org/wiki/Database_normalization

Data Model

在設計階段,如果資料很複雜,最重要的事情就是需要整理 Data 之間的關聯,通常會用 Data Model 的方式來呈現。Data Model 的設計除了考量需求之外,也須要一併考量儲存方式和資料內容。

https://ithelp.ithome.com.tw/upload/images/20210912/20141140y3eNzGUWhX.png
(https://www.instaclustr.com/cassandra-nosql-data-model-design-2/)

Implement

在開發階段要注意的事情倒不是很多。只要注意好設計規格,基本上用哪種語言來實作都差不多。

  1. 紀錄資訊:要注意需要在開發時設定好 Logger Level,這樣才能方便調整屆時程式輸出的資訊。Logging facility for Python

  2. 分析建模:如果是一次性的分析資料在開發時更要注意資料的正確性,沒有處理好就付之一炬了。

  3. 前端互動:在開發這種跟資料庫串接的後端程式時有非常多設計方式以及眉角需要注意,不是幾句話就寫得完了,這邊就真的只能給幾個關鍵字讓大家查詢,像是:

Deployment

由於搜集資料的程式壞了就沒救了,部署搜集資料的程式時,需要嚴格的測試來避免資料丟失或髒資料進入,因此在部署之前「通常」會有嚴格的測試和 QA 機制。

https://ithelp.ithome.com.tw/upload/images/20210912/201411408tDPtjL2Mc.png
(https://mohamedradwan.com/2018/01/08/promoting-your-application-deployment-to-different-environments-from-branches-with-and-without-feature-toggle/)

這部分要測試的東西(針對資料的部分)包括幾點:

  • 基本資料規格是否正確
  • 是不是有意外的狀況會產生意外的資料,例如問卷邏輯沒有設定好,造成不可能出現的答案;或是沒有檢查資料的正確性,產生意外的資料(像是不符合 email 規範的 email)。
  • 當資料大量產生時,可能造成的問題(例如資料延遲、儲存空間是否足夠、應用是否可以順利讀寫)

Evaluation

上線之後需要評估的東西基本除了資料規格、資料量、意外的狀況之外,也要特別評估資料是否能夠回答一開始在發想階段的商務需求,是不是有少收的或多收的情況出現。

Iteration

在迭代階段當然就是根據之前的評估結果來做改善,這邊我們特別分為一次性的資料搜集以及持續性的資料搜集來介紹需要留意的地方:

一次性的資料搜集

如果是一次性的資料搜集,像是單次的調查、或是單次的活動,已經搜集的資料並不會影響新的資料時,在迭代上其實就可以放心的改善。

持續性的資料搜集

反之,如果像是 Log 蒐集、交易資料搜集、或是後端資料庫,過去的資料會延續到未來使用時,在迭代上就需要特別小心。例如我們在做資料分析的時候可能都會用到最近半年的資料,如果資料來源在第三個月有經歷改版,那就會影響到分析的狀況,而這個影響會持續三個月,一直到舊版本的資料不再被納入分析為止。或例如像下圖的狀況:在 v1 的時候我們會蒐集使用者的點擊資料。到了 v2 的時候可能因為前端 App 改版,造成點擊量突然提高,發現後緊急更新了 v 2.1 來修正這個異常。

https://ithelp.ithome.com.tw/upload/images/20210912/20141140yEIgSDGxTR.png

因此在持續性的資料蒐集時特別需要留意以下狀況:

  • 資料版本 - 由於資料在蒐集內容上或定義可能有變化,需要區分出不同版本的資料定義。
  • 蒐集資料工具的版本 - 例如 App,有時 App 的改版會造成資料蒐集的異常。
  • 前後資料的呼應:
    • 同一個欄位的定義在改版前後是不是一致?
    • 資料格式是不是一致?
    • 淘汰或是新增的資料?

References

https://www.codeproject.com/Articles/42354/The-Art-of-Logging


上一篇
[Day 10] 每家公司都有資料產品
下一篇
[Day 12] 資料產品生命週期管理-加工資料(一)
系列文
資料產品開發與專案管理30

尚未有邦友留言

立即登入留言