iT邦幫忙

2019 iT 邦幫忙鐵人賽

DAY 25
0
AI & Data

跟著Google學ML系列 第 25

[Day 25] Static vs. Dynamic Inference

Ref.: Static vs. Dynamic Inference

只好先充數般的拿Youtube影片來騙點篇幅。

昨天講Train的差異,今天來講Inference (predict)的差異。

是的,也是有分Static inference vs. Dynamic inference.

  1. Offline(static) inference: 預測我們所有已知的資料
    • 好處
      • 不用擔心預測所需的cost
      • 可能可以用MapReduce處理
      • 發布前可以先驗證預測的正確性
    • 壞處
      • 只能預測我們知道的事情(bad for long tail)
      • 有Latency,要花很多時間update
  2. Online(dynamic) inference: 需要時才開始預測
    • 好處
      • 能預測新的事物(great for long tail)
    • 壞處
      • 密集運算又對Latency敏感,會限制model複雜度
      • 需要Monitor data

如同課後問答題問的:

  • Offline inference而言,我們有點像是look-up table般的預測,所以速度比online快;而且可以在發布前先檢查正確性
  • Online inference而言,則可以預測所有可能的item;但我們也需要很仔細地監控資料。

OK!看起來日子跟文章數不是很夠,我看我要再找點不在目錄上的內容了。


上一篇
[Day 24] Static vs. Dynamic training
下一篇
[Day 26] Data Dependencies
系列文
跟著Google學ML30

尚未有邦友留言

立即登入留言