iT邦幫忙

第 11 屆 iT 邦幫忙鐵人賽

DAY 28
0

超參數調整的可能性

如同前一章節提到的,主要的兩種超參數調整,包括Learning Rate及Batch Size。

Google提供了一個非常有用的服務Google Vizier

在GCP上可以利用DataFlow,設定對應的超參數設定在yaml檔案中:

  1. 將每次執行設定成為一個對應的排程檔案,以command-line模式執行
  2. output_dir每次都輸出到不同的位置(避免預設路徑相同而產生混亂)
  3. 對應的hyperparam.yaml中的特定屬性hyperparameters
    • hyperparameterMetricTag關係如何評估
    • maxTrials及相關衍生項目關係需要在GCP平台上最多重複試驗幾次
    • params可以決定batch的設定

當設定好之後,就可以嘗試用CMLE來幫我們試驗出相對來說比較好的超參數結果了。


上一篇
Day27: 超參數 x 複雜度
下一篇
Day29: 評估 x 指標 x 觀察
系列文
初心者的GDC攻略30

尚未有邦友留言

立即登入留言