遷移式學習概念、策略、應用

遷移式學習Transfer Learning 簡稱TL

• 將現有訓練好的模型稍加調整，應用到另一個相類似新領域的一種機器學習。
• 將一個帶有大量標註資料來源領域Source Domain的知識，遷移到另一個帶小量標註資料的目標領域Target Domain，使其更有效率學習。
• 策略:有的借用舊模型的全部架構、有的只用部分舊模型架構自己再加新層次、全部層次都微調Fine Tune
• 主要應用:
  1.利用風格轉換的AI繪畫-風格轉換的系統架構:①神經網路學習風格②神經網路的學習內容③風格轉換的神經網路
  (利用三種損失的最小化來優化輸出圖像:
  1)內容的損失函數content loss:必定要透過內容損失函數的最小化，來保證輸出的內容一定要像原來的照片。
  2)風格損失函數style loss:必定要透過內容損失函數的最小化，來保證輸出的內容一定要像原來的照片，比需要像畫家筆觸和風格。
  3)總損失函數total loss:極小化內容損失+風格損失)
  風格轉換學習Style Transfer Learning:照片依不同畫家筆觸畫
  2.自駕車的駕駛訓練:模擬器上訓練學到各種不同情境駕駛行為➜實際自駕車。
  3.輿情分析:消費者商品評論➜政見評價。
  4.推薦系統:成熟的電影系統➜冷門產品像是古董產品推薦。
  5.個性化的聊天機器人:如Alexa成熟聊天機器人➜特殊領域對話。
  6.語音辨識:辨識中文語音➜各地區腔調語音判斷。
  7.
  7.文本分析:一般文字理解模式➜特殊領域的文字理解。

透過遷移學習，我們可以去掉最後一層或多層，並從頭開始訓練這幾層(必須具有相同的輸入層，不能突然從圖像識別轉向一些完全其他的問題)

資料來源:https://www.danrose.ai/blog/transfer-learning-from-a-business-perspective

1. 圖像辨識

• 借用原來辨識肺癌的網路模式，遷移到辨識腦癌的任務。
• 借用原來辨識貓的網路模式，遷移到辨識豹的圖像。
• 借用原來辨識白天街景的模式，遷移到夜間的街景辨識。

2. 自然語言處理方面

• 借用原來訓練好辨識英文的自然語言模式，去辨識法文。
• 借用原來分析使用者對家電產品情緒評論模式，遷移到辨識新的網路遊戲評論。

參考來源:人工智慧:概念應用與管理 林東清