iT邦幫忙

2022 iThome 鐵人賽

DAY 9
0

EfficientNet [3] 模型提出複合模型縮放的方法來同時調整模型的卷積層通道數 ( Width )、網路層數 ( Depth )、輸入解析度 ( Input Resolution ),為有效率的增加準確度,架構提出了一個複合模型方程式用以限制三方向縮放的比例,並且最佳化問題後透過 NAS [4] 的方式求得模型基礎之 Baseline Network,再擴展為一系列的 EfficientNet 高效率模型。
附圖 2-1 中可以看到模型使用到一組固定的縮放係數 φ 將模型均勻縮放,超參數可自行定義使用多少資源於模型縮放上,而公式中 ?∙?^2∙?^2≈2 限制的產生是因為在卷積神經網路中增加卷積層數所增加的運算量是線性的,增加寬度及解析度所需的運算量則是平方倍增加,所以縮放係數 φ 每增加 1,模型所需的運算量將會是 Baseline Network 的兩倍,而 α、β、γ 是對小模型進行網格搜尋所決定的常數。

模型比較圖

複合模型方程式

今日份的歌曲是 光澤 俘虜
https://www.youtube.com/watch?v=da_VtJDMcLg&list=PLZ_d6NX2sE80hOIrDy5J6vaCS53vj0oo7&index=3&ab_channel=GuangZe-Topic


上一篇
Day8 yolov7介紹
下一篇
Day10 EfficientDet 介紹
系列文
數位中介法沒有屏蔽的 AI 大數據大補帖30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言