本篇要學習靜態和動態推理，這是在機器學習中所要選擇的兩種不同推理。

文章：Static vs. Dynamic Inference

在設計機器學習中，有一環要考慮，就是我們要選擇在線的推理還是離線，也就是做出預測模型的方式。要是靜態的推理，還是持續提供資料不斷的修正模型。

首先介紹兩者的差異：

• Static（Offline Inference）：收集資料後讓模型進行訓練，不會有新的資料近來。

  • 易於檢查所有的資料。
  • 不必擔心成本：因為確定資料量後，就算數據資料太大，也只要增加機器就可以，預算容易計算。例如一秒鐘可以算1萬筆資料，如果有一兆筆，計算時間可以容易計算，想要加速也容易規劃。
  • 但有要在訓練前準備好資料的缺點。有些資料會因為環境或是時間等等因素而改變，無法經由事前準備。
  • 事前準備資料，也容易沒有收到一些特殊極值的狀況。

• Dynamic（Online Inference）：在訓練的時把模型放入電腦中，讓資料隨時進入，可能時時改變模型。

  • 進入的資料無法掌握，如果近來的是極值情況，會導致整個模型往極值發展。
  • 即時計算要考慮「延遲」問題，萬一計算太久，之後的資料近來，會來不及全部計算完產出完整的公式，而導致模型有誤差。但要消除這樣的時間差，可能需要大量的機器設備才有辦法達到。
  • 需要更多人力進行監控，監控輸入與輸出，避免發生問題。

睫毛之聲：

本篇成接著【Day20】3rd：靜態與動態訓練（Static vs. Dynamic Training）而來，前面介紹何謂靜態與動態訓練，這邊，兩篇可以一同參照。