iT邦幫忙

colab相關文章
共有 41 則文章
0 Like 0 留言 11363 瀏覽
鐵人賽 AI & Data DAY 4
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 4 篇

技術 【4】實驗 Batch size大小對訓練模型的影響

Colab連結 相信每個人在學習ML時，都會遇到超參數 Batch size 應該要設置多少才好的問題，一般大家在教科書上學到的大部分是：當 Batch siz...

Capillary J ‧ 2021-09-18
0 Like 0 留言 10836 瀏覽
鐵人賽 AI & Data DAY 10
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 10 篇

技術 【10】多分類問題下 Sparse Cross Entropy 與 Categorical Cross Entropy 的用法差異

Colab連結 要來討論今天主題前，先來複習一下什麼是交叉熵 Cross-Entropy ，我覺得這部影片介紹得很不錯，簡而言之，我們可以將交叉熵當作資訊的亂度...

Capillary J ‧ 2021-09-24
0 Like 0 留言 10437 瀏覽
鐵人賽 AI & Data DAY 9
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 9 篇

技術 【9】各種優化器(Optimizer) 大車拼實驗

Colab連結 今天的主題是要探討優化器（Optimizer）對模型學習的影響，有關優化器該用哪個好，也是一個蠻令人頭痛的問題，大部分的時候優化器都可以讓你成功...

Capillary J ‧ 2021-09-23
2 Like 0 留言 9103 瀏覽
鐵人賽 AI & Data DAY 26
就用 Jetson Nano 來實作 Edge AI 吧！ 系列 第 26 篇

技術 【Day 26】客製化 YOLOv5 模型 (五)：Colab 訓練 YOLOv5 模型

今天將使用「Google Colab」來訓練我們的模型，關於 Colab 的功能在此就不多做贅述了。我們使用的程式碼是由官方提供的 YOLOv5 Colab 程...

Felix Lin ‧ 2022-10-07 ‧團隊超級奶爸康樂團
0 Like 0 留言 6622 瀏覽
鐵人賽 AI & Data DAY 26
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 26 篇

技術 【26】你都把 Batch Normalization 放在 ReLU 前面還是後面

Colab連結 Batch Normalization 到底要放在激勵函數之前還是之後呢？這是之前我在自己練習規劃架構時遇到的問題，我把這個問題拿去網路上查時，...

Capillary J ‧ 2021-10-10
0 Like 1 留言 5655 瀏覽
鐵人賽 AI & Data DAY 28
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 28 篇

技術 【28】遇到不平衡資料(Imbalanced Data) 時 使用 Oversampling 解決實驗

Colab連結 昨天我們使用了降低多數樣本 Undersampling 的方式來解決少數樣本的問題，今天我們要用複製少數樣本 Oversampling 方式來實...

Capillary J ‧ 2021-10-12
0 Like 0 留言 5326 瀏覽
鐵人賽 AI & Data DAY 18
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 18 篇

技術 【18】GlobalAveragePooling 與 Flatten 的差異與比較

Colab連結 今天要探討的主題在模型從CNN Layer 轉變成 Dense Layer 時，使用 GlobalAveragePooling (GAP) 與...

Capillary J ‧ 2021-10-02
0 Like 0 留言 5311 瀏覽
鐵人賽 AI & Data DAY 11
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 11 篇

技術 【11】二分類問題下 Binary Cross Entropy 的使用注意事項

Colab連結 接著昨天討論到的 Cross Entropy ，今天把重點放到了 BinaryCrossEntropy 上，顧名思義，之所以叫 Binary 就...

Capillary J ‧ 2021-09-25
0 Like 1 留言 5238 瀏覽
鐵人賽 AI & Data DAY 29
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 29 篇

技術 【29】遇到不平衡資料(Imbalanced Data) 時 使用 SMOTE 解決實驗

Colab連結 今天要介紹處理不平衡資料的方法叫 SMOTE (Synthetic Minority Oversampling Technique)，其原理就是...

Capillary J ‧ 2021-10-13
1 Like 0 留言 4945 瀏覽
鐵人賽 AI & Data DAY 12
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 12 篇

技術 【12】新手容易忽略的 logit 與 loss 之間的搭配

Colab連結 通常在 model.compile() 時，我們要指定這個訓練應該要使用哪種 loss 來計算，前面幾天我們比較了各種 cross entrop...

Capillary J ‧ 2021-09-26
0 Like 1 留言 4479 瀏覽
鐵人賽 AI & Data DAY 20
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 20 篇

技術 【20】從頭自己建一個 keras 內建模型 (以 MobileNetV2 為例)

Colab連結 雖然 Tensorflow 提供了幾個預訓練模型讓我們可以很快的完成訓練任務，但是有時候想做一需實驗時(比如說微調 mobilenet 的 CN...

Capillary J ‧ 2021-10-04
0 Like 0 留言 4351 瀏覽
鐵人賽 AI & Data DAY 2
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 2 篇

技術 【2】學習率大小的影響與學習率衰減（Learning rate decay）

Colab連結 大家應該聽到爛了，學習率（Learning rate）指的是模型每做完一次 back propagation 後產生的 gradient 再乘上...

Capillary J ‧ 2021-09-16
0 Like 0 留言 4291 瀏覽
鐵人賽 AI & Data DAY 7
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 7 篇

技術 【7】Dataset 的三個API : Shuffle Batch Repeat 如果使用順序不同會產生的影響

Colab連結 今天的主題比較特殊一些，要來探討 tensorflow 中的 Dataset api : shuffle, batch 和 repeat 的順序...

Capillary J ‧ 2021-09-21
0 Like 0 留言 3806 瀏覽
鐵人賽 AI & Data DAY 1
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 1 篇

技術 【1】做不做遷移式學習(Transfer Learning)的差異

關於： 本系列文將借用 Google 提供的 Colab 平台，在上面執行 30 個影像分類訓練任務，每個主題都會探討在不同的狀況或不同的超參數對於同一個任務會...

Capillary J ‧ 2021-09-15
0 Like 0 留言 3800 瀏覽
鐵人賽 AI & Data DAY 21
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 21 篇

技術 【21】不同的模型權重初始化 (Weight Initialization) 對應的使用方式

Colab連結 有關權重如何初始化也是個各派不同的訓練方法，從 tf.keras 官方文檔就看到一大堆的初始化方式，對於開始接觸的人來說，還真是頭痛。 我們知道...

Capillary J ‧ 2021-10-05
0 Like 0 留言 3794 瀏覽
鐵人賽 AI & Data DAY 8
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 8 篇

技術 【8】資料集有沒有事先 shuffle 對訓練所產生的影響

Colab連結 昨天我們介紹了 Shuffle 這支 API 的使用方式，其中特別提到了如果今天資料集本身沒有先打散的話，你後面再做 shuffle 時，如果...

Capillary J ‧ 2021-09-22
0 Like 0 留言 3778 瀏覽
鐵人賽 AI & Data DAY 27
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 27 篇

技術 【27】遇到不平衡資料(Imbalanced Data) 時 使用 Undersampling 解決實驗

Colab連結 不平衡資料集(Imbalanced Dataset) 指的是當你的資料集中，有某部分的 label 是極少數的狀況，在這種狀況下，若單純只用準確...

Capillary J ‧ 2021-10-11
0 Like 0 留言 3763 瀏覽
鐵人賽 AI & Data DAY 14
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 14 篇

技術 【14】如果不做圖片標準化(Normalization)會怎麼樣

Colab連結 圖片標準化 Image Normalization 不做可以嗎？小實驗實測差別 一般我們在處理大部分的機器學習問題時，我們都會將輸入的資料特徵做...

Capillary J ‧ 2021-09-28
0 Like 0 留言 3713 瀏覽
鐵人賽 AI & Data DAY 30
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 30 篇

技術 【30】使用混合精度(Mixed precision) 對訓練產生的影響

Colab連結 一般我們在做機器學習任務時，在模型裡計算的資料型態採用的是 float32 (即佔用32的bits或4個bytes)，而 Nvidia 與 Ba...

Capillary J ‧ 2021-10-14
0 Like 0 留言 3621 瀏覽
鐵人賽 AI & Data DAY 5
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 5 篇

技術 【5】超參數 Batch size 與 Learning rate 的關係實驗

Colab連結 昨天探討了 Batch size 的問題和前天的 Warm-up 問題後，其實在我心中還是有個好奇的問題，也就是 Batch size 和 Le...

Capillary J ‧ 2021-09-19
0 Like 0 留言 3192 瀏覽
鐵人賽 AI & Data DAY 3
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 3 篇

技術 【3】訓練前先暖身 - 學習率 Warm-up 策略

Colab連結 Warm-up 訓練是由這篇 Paper 提出的一種方法，主要的想法是提供模型在正式訓練前，做一個類似暖機的動作，由於模型在初始狀態時，過高的學...

Capillary J ‧ 2021-09-17
0 Like 0 留言 3176 瀏覽
鐵人賽 AI & Data DAY 17
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 17 篇

技術 【17】訓練到一半遇到 nan 嗎? 梯度爆炸與梯度消失的測試實驗

Colab連結 今天大家介紹 Gradient Exploding （梯度爆炸） 與 Gradient Vanishing (梯度消失)，並會簡單做個實驗觸發這...

Capillary J ‧ 2021-10-01
0 Like 0 留言 3172 瀏覽
鐵人賽 AI & Data DAY 22
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 22 篇

技術 【22】正規化方法 L1 與 L2 Regularizers 的比較實驗

Colab連結 正規化 (Regularizers) 是在 Loss Function 中，多加一項權重的懲罰，目的是規範模型在學習過程中，避免權重值過大，達到...

Capillary J ‧ 2021-10-06
0 Like 0 留言 2825 瀏覽
鐵人賽 AI & Data DAY 13
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 13 篇

技術 【13】模型套不套用資料增強 (Data Augmentation) 的比較實驗

Colab連結 資料增強(Data Augmentation)，是一個當今天資料集樣本不多時，透過調整亮度、剪裁、角度等手法來增加多樣性的好方法，Tensorf...

Capillary J ‧ 2021-09-27
0 Like 0 留言 2413 瀏覽
鐵人賽 AI & Data DAY 24
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 24 篇

技術 【24】如果把 Dropout 放在 CNN 之後會發生什麼事

Colab連結 不知道大家有沒有發現，目前現在主流的網路結構中已經愈來愈少看到 Dropout 了，在早期 VGG 還當紅時，Dropout 在 Dense L...

Capillary J ‧ 2021-10-08
2 Like 0 留言 2300 瀏覽
鐵人賽 AI & Data DAY 18
就用 Jetson Nano 來實作 Edge AI 吧！ 系列 第 18 篇

技術 【Day 18】Hello AI World (四)：用 Colab 訓練植物分類模型

以 Jetson Nano 的邊緣裝置的定位，適合拿來做神經網路推論，並不適合（也不合理）跑神經網路訓練，即使可以跑也是會等到天荒地老。既然如此，拿 googl...

Felix Lin ‧ 2022-09-29 ‧團隊超級奶爸康樂團
0 Like 0 留言 2282 瀏覽
鐵人賽 AI & Data DAY 16
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 16 篇

技術 【16】如果把圖片從RGB轉成HSV和灰階再拿去訓練會怎樣

colab連結 普遍我們拿來訓練的圖片都是RGB，普遍都是機器學習的CNN層找到一些局部特徵來做分類，這些局部特徵對我們人來說，即使是轉成視覺化的特徵值，依然是...

Capillary J ‧ 2021-09-30
0 Like 0 留言 2148 瀏覽
鐵人賽 AI & Data DAY 6
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 6 篇

技術 【6】為什麼 Batch size 通常都是設成2的n次方

Colab連結 有沒有人發現幾乎每個在開源的專案上，Batch size 都是2的N次方，像32, 128, 256等，經過我在 stackoverflow 查...

Capillary J ‧ 2021-09-20
0 Like 0 留言 2136 瀏覽
鐵人賽 AI & Data DAY 25
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 25 篇

技術 【25】ReLU 家族評比 個別使用ReLU LeakyReLU PReLU SELU 來訓練

Colab連結 今天要來實驗不同的 ReLU 家族的評比，挑戰者有 基本 ReLU 尾巴翹起來的 Leaky ReLU 帶有參數控制尾巴的 PReLU 比較新...

Capillary J ‧ 2021-10-09
0 Like 0 留言 1892 瀏覽
鐵人賽 AI & Data DAY 19
30 天在 Colab 嘗試的 30 個影像分類訓練實驗 系列 第 19 篇

技術 【19】使用 Pooling 和 Conv 來把圖片變小 (subsampling) 的比較實驗

Colab連結 早期剛學深度學習時，我們 AlexNet 學到了幾個基本的 CNN, Dense, Pooling, Dropout Layers，其中 Poo...

Capillary J ‧ 2021-10-03
iThome鐵人賽
參賽組數
1064 組
團體組數
40 組
累計文章數
22200 篇
完賽人數
602 人
iT+看影片追技術 看影片追技術 看更多
熱門tag 看更多
15th鐵人賽 16th鐵人賽 13th鐵人賽 14th鐵人賽 12th鐵人賽 11th鐵人賽 鐵人賽 2019鐵人賽 javascript 2018鐵人賽 python 2017鐵人賽 windows php c# windows server linux css react vue.js
熱門問題
熱門回答
熱門文章
IT邦幫忙