iT邦幫忙

第 11 屆 iThome 鐵人賽

DAY 24
0
AI & Data

從零開始或許曾經想過但想想還是算了的深度雜技系列 第 24

[DAY 24] 收拾行囊的技巧 : Dataset 的處理 Part.1

  • 分享至 

  • xImage
  •  

前言


我們在 Training 的過程的中,一個很重要的 Part 就是如何出一個 Powerful、Useful 以及 Effcient 的 Model,但另一個很重要的 Part 就是我們對 dataset 的處理。舉個例子來說,如果我們的 dtaset不夠多,我們可以透過一些技巧來增加我們的 dataset 數量,像是一些 argumentation 的方法,而這一部份延伸出去又可以探討這些argumentation 的方法是要在 CPU 上執行還是在 GPU 上執行更有效率等等議題;又或者說,如果我們今天的 dataset 真的很大怎麼辦QQQ,可能全部 dataset 取出來的時候就已經超過 GPU 記憶體大小了QQQQQQQ 那我們可能可以考慮用 CPU 的 RAM 或者用 PICKLE 的方式去存取這個資料等等。這一個部分種類繁多,我們就盡力說吧XDDDD


上一篇
[DAY 23] 進化之路的隨筆紀錄 : Visualize
下一篇
[DAY 25] 收拾行囊的技巧 : Dataset 的處理 Part.2
系列文
從零開始或許曾經想過但想想還是算了的深度雜技30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言