今天因為工作需要，先跳來看元學習(Meta Learning)

機器可以自動學參數，那是否可以學習超參數(hyperparameters)，像是learning rate 是否也可以透過機器來學習。而不是透過暴力的硬體緼算來獲得。

機器學習的三個步驟:

1. 定義一個具有未知參數的函數(function) f(\theta)
2. 定義一個損失函數函數(loss function) L(\theta)
3. 最佳化: 利用資料來找到 \theta^* 可以讓 loss 最小

而 meta learning 也是三個步驟來做到「學習如何學習」，也就是找一個 Function，這個 Function 是一個 learning algorithm。

1. 定義一個 function F(\theta): 要學出什麼什麼，譬如說網路架構、初始參數，或是學習速率等。這邊用 \phi 來表示。
2. 針對 learning algorithm 來定義 L(\phi) ，這個 L(\phi) 可以針對多個任務來評價這樣學得好不好。也是要用有標示的訓練資料，以及有標示的測試資料看學習演算法的表現。在 meta learnintg 會使用很多的任務來評估學習找到 hyperparamter 的方法好不好。最後把個別任務的 Loss 都相家在禕起
3. 找到 \phi^* 能使 L(\phi^*) 最小。這邊可以用 gradient descent 找，也可以用 reinforcement learning 來找。

Meta learning 與 machine learning 的比較。