iT邦幫忙

2026 iThome 鐵人賽

DAY 14
0
Software Development

成為產品型工程師吧!從培養產品思維到 PostHog 數據實戰系列 第 14

Day 14|一個數字變好,產品就真的變好了嗎?Primary / Guardrail Metrics

  • 分享至 

  • xImage
  •  

前面幾篇已經開始累積不少 Metric。Activation、Retention、Conversion、Time to Value,加上 Data Sources 裡的訂單、退款、訂閱資料,我們現在很容易看到很多數字。

但如果它們沒有一起往同一個方向變呢?

假設我們正在改善 Checkout。修改流程後,完成付款的比例從 42% 變成 48%。

Checkout completion
42% → 48%

同一時間,退款率也從 3% 變成 5%。

Refund rate
3% → 5%

如果只看 Checkout,這次改動很成功;如果只看 Refund,又好像不應該上線。

這時候就需要先分清楚不同 Metric 的角色。

Primary 是目標,Guardrail 是限制

Day 6 的 GSM 已經談過怎麼從 Goal 找到比較合理的 Metric。到了真正要改善產品時,我們還需要決定:這次主要想改善哪一個結果?同時有哪些代價不能超過?

如果主要目標是提高 Checkout Completion,它可以作為 Primary Metric;Refund Rate 則可以作為 Guardrail Metric

對工程師來說,可以把它想成:

maximize Checkout completion

subject to
Refund rate <= 可接受上限

也就是說,Primary 是 Objective,Guardrail 是 Constraint。

Guardrail 不是第二個也要一起最大化的目標。退款率下降當然很好,但真正要求的是:改善 Checkout 的同時,退款不能壞到超出可以接受的程度。

所以找 Guardrail 時,比起列出所有重要 KPI,我覺得更有用的問題是:

如果我們只想把 Primary 做高,最可能怎麼把產品做壞?

例如為了提高 Checkout Completion,我們可能拿掉確認步驟、預設勾選額外商品,甚至讓取消操作變得不明顯。這些做法可能提高 Primary,同時增加退款、Chargeback 或 Support 成本。

這些副作用才是比較值得放進 Guardrail 的東西。

有些限制幾乎不能交換,例如資料洩漏、權限錯誤或法規問題;但大部分產品指標比較像預算:可以變差一點,但不能超過某個範圍。

不要等看到結果才決定多少算可以

假設我們在看結果前先定義:

Primary
Checkout completion 至少 +3 percentage points

Guardrail
Refund rate 最多 +0.5 percentage point

這裡還不是在談統計顯著性。後面的 Experiment 會處理「這個差異是不是真的存在」。

現在先回答的是:

就算差異是真的,它大到值得我們做決策嗎?

這個標準最好事前決定。否則看到喜歡的版本後,很容易才開始說「其實退款多一點也沒關係」,等於結果出來後才移動球門。

結果衝突時,回到原本的 Trade-off

回到一開始的結果:

Checkout completion
42% → 48%

Refund rate
3% → 5%

Primary 明顯改善,但 Refund Rate 增加了 2 percentage points,超過原本 +0.5 的限制。

按照原本的標準,這個版本就不能直接算成功。

不過,這不代表它一定不能上線。

假設增加的訂單帶來的 Revenue 足以支付額外退款、物流與 Support 成本,團隊可能重新判斷:原本願意接受的 Trade-off 設得太保守。

這時候真正發生的不是「Guardrail 不重要」,而是:

我們改變了願意接受的交換條件。

比較好的做法,是用新的標準重新驗證,而不是看到結果後直接把原本的 Guardrail 忽略掉。

反過來,如果 Checkout Completion 從 42% 降到 39%,Refund Rate 卻從 3% 降到 2%,也不能因為退款變少就說改動成功。

如果原本的 Hypothesis 是提高 Checkout Completion,那它沒有做到。

但這個結果可能提醒我們:真正想改善的也許從來不是單純的 Checkout Completion。如果少掉的剛好都是高退款、高 Support 成本的訂單,那更合理的 Primary 可能是 Net Revenue、Contribution Margin,或者 Successful Purchase without Refund。

這不是在結果出來後偷偷換 Metric,而是承認:原本的 Metric 沒有完整表達產品目標。 下一次應該重新定義要驗證的問題。

所以 Primary / Guardrail 真正有用的地方,不是替每個 Metric 分類,而是讓我們在看到衝突結果時,還能回到原本的產品判斷:

Primary
我們想改善什麼?

Guardrail
最多願意付出什麼代價?

其他像 Mobile / Desktop 差異、哪個步驟 Drop-off 最多、哪種付款方式退款增加,仍然可以繼續觀察,但它們比較像 Diagnostic Metric:幫助我們解釋結果,不一定需要直接參與 Ship / No Ship 的判斷。

後面講到 Experiment 時,這個區分會再派上用場。Experiment 可以告訴我們差異是不是很可能由這次改動造成,但在那之前,我們還是得先知道:什麼改善值得追求,以及我們願意為它交換多少代價。


如果你願意花 30 秒留下回饋,我會用這些意見來調整後續文章:分享你的意見


上一篇
Day 13|產品資料不只在 Analytics:Data Sources 與 Model
下一篇
Day 15|Web Analytics:從流量到頁面體驗
系列文
成為產品型工程師吧!從培養產品思維到 PostHog 數據實戰20
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言