iT邦幫忙

第 12 屆 iThome 鐵人賽

DAY 22
0
AI & Data

窺探人工智慧與資料科學的面貌系列 第 22

[Day 22] 增量式學習 Incremental Learning

  • 分享至 

  • xImage
  •  

今天要來介紹一個概念:增量式學習(Incremental Learning)。

當發生以下幾種情況時,可以考慮使用增量式學習:

  1. 批次搜集資料,也就是還在搜集資料的階段,另外,可能是因為資料量太大,一次訓練時間許要很久,在搜集資料的中後期,可以考慮增量式學習。
  2. 使用已開發完成的模型,想要利用新的資料維護更新,可能有或沒有本來訓練的資料,也可以考慮增量式學習。

增量式學習主要的特性及應用在動態式資料庫,一般而言,資料量是逐漸增加的,在面臨新的數據時,演算法要能應對以訓練好的模型進行一些改動,以學習新的資料具備的知識,但又不應該過分更改模型,喪失已從舊有的資料所學習到的知識,而對一個訓練好的模型進行修改的時間成本通常遠低於重新訓練一個模型所花費的成本,這也更加符合人類的思維原理。

增量式學習:每當有新的資料時,不需要重建所有的知識庫、模型,而是在原有的知識庫的基礎上,僅對新增數據所引起的更新,也更加符合人類的思維原理。


上一篇
[Day 21] 模型梯度的資料洩漏 Data Leakage from Gradients
下一篇
[Day 23] 模型剪枝 Model Pruning
系列文
窺探人工智慧與資料科學的面貌30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言