Ref.: Static vs. Dynamic Inference

只好先充數般的拿Youtube影片來騙點篇幅。

昨天講Train的差異，今天來講Inference (predict)的差異。

是的，也是有分Static inference vs. Dynamic inference.

1. Offline(static) inference: 預測我們所有已知的資料
   • 好處
     • 不用擔心預測所需的cost
     • 可能可以用MapReduce處理
     • 發布前可以先驗證預測的正確性
   • 壞處
     • 只能預測我們知道的事情(bad for long tail)
     • 有Latency，要花很多時間update
2. Online(dynamic) inference: 需要時才開始預測
   • 好處
     • 能預測新的事物(great for long tail)
   • 壞處
     • 密集運算又對Latency敏感，會限制model複雜度
     • 需要Monitor data

如同課後問答題問的：

• 對Offline inference而言，我們有點像是look-up table般的預測，所以速度比online快；而且可以在發布前先檢查正確性
• 對Online inference而言，則可以預測所有可能的item；但我們也需要很仔細地監控資料。

OK！看起來日子跟文章數不是很夠，我看我要再找點不在目錄上的內容了。