前言 當神經網路含很多(Deep)神經層時,常會在其中放置一些 Batch Normalization 層,顧名思義,它應該是作特徵縮放,但是,內部是怎麼運作的...
Tensorflow讓最多人卻步的一個地方是很難debug,但其實只要會善用tensorboard圖形化界面,它可以讓很複雜的模型一覽無遺,讓使用者可以更容易知...
今天是鐵人賽的最後一天,我想說來聊聊 Transferring learning 以及 Model serving。今天也會有簡單的Colab實作 (Trans...
什麼是知識蒸餾 Knowledge Distillation 知識蒸餾 Knowledge Distillation 為模型壓縮技術,其中 student 模...
在說明Deep Neural Nework,我們簡單的討論一下DL介紹。從最早DL從Perceptron開始,Perceptron是只有一個neural,其實就...
今天我們來實際來跑簡單的Dataset,就是 DL 101 資料集 - MNIST。透過較為簡單的Dataset 來理解像GAN這種相對難的演算法,應該能較容易...
同時搞定TensorFlow、PyTorch (一):梯度下降。 同時搞定TensorFlow、PyTorch (二):模型定義。 同時搞定Tensor...
同時搞定TensorFlow、PyTorch (一):梯度下降。 同時搞定TensorFlow、PyTorch (二):模型定義。 同時搞定Tensor...
前言 在上一章介紹了PCA降維,但PCA是計算整體的特徵,然而主要特徵如果相同,而降為時非常細微的特徵被忽略掉,這時候PCA就無法達到所需的降維要求。而在人工智...
前言 網路上有許多介紹VAE的文章與影片,但許多解釋公式都無法得知為什麼,但這也是個人對於看paper的功力太差所以才能努力爬文觀看他人解析,而最後終於找到一個...
在 day2 時,我們介紹了如何用 tf.summary.FileWriter() 產生 tfevent 來觀察 graph,但 tfevent 可以存的東西可...
前言 受惠於深度學習框架的多元性,開發者可以選自己喜歡的框架,像是: Theano、Caffe、ONNX、Keras、Tensorflow、Pytorch、DL...
前言 前一篇實作一個簡單的物件偵測(Object Detection),接下來我們來模擬自駕車(Self Driving)如何辨識前方的障礙物,一樣使用Tens...
前言 最近開始記錄學習Tensorflow相關的程式,這篇主要紀錄較常用的API使用方法,若想了解API的參數可前往官網。在Tensorflow中會以張量為主做...
昨天我們去除了 batch normalization 上冗贅的節點,但...其實呢... batch normalization 還可以做一種優化將它 fol...
同時搞定TensorFlow、PyTorch (一):梯度下降。 同時搞定TensorFlow、PyTorch (二):模型定義。 同時搞定Tensor...
今天討論的主題主要是Google這篇曾經在2016年release 在Google Play的app上所做的推薦系統,而他有被open source 在 Ten...
今天會開始說明一下資料處理及數值運算。接下來就會開始進入基本ML及DL了。大夥撐著!把一些基本語法弄熟,之後會更容易上手,且更知道如何去修改一些tutorial...
Colab連結 Batch Normalization 到底要放在激勵函數之前還是之後呢?這是之前我在自己練習規劃架構時遇到的問題,我把這個問題拿去網路上查時,...
前言 之前我們測試過一些內建的Callback,這次筆者要自訂 Callback,將損失寫入 Pandas Data Frame,並且作圖畫出優化的軌跡。 可監...
今天要介紹的東西,可能很多新手寫錯了都還不知道,包括我早期使用時,大家可以檢視一下自己的模型。不知道大家還不記得 day10 所介紹的 batch normal...
前言 在人工智慧當中點對點相乘加上一個偏移值即是一個感知器,今天要介紹兩種基本的預測方法,線性回歸(Linear Regression)和邏輯回歸(Logist...
同時搞定TensorFlow、PyTorch (一):梯度下降。 同時搞定TensorFlow、PyTorch (二):模型定義。 同時搞定Tensor...
如果說,我今天要訓練輸入是圖片,而且我想做資料擴增(data augmentation),那有沒有一個比較好的讀取方式呢?今天就要來跟大家介紹 TFRecord...
前言 Autoencoder 是一個非常重要的模型,它是很多進階模型的基礎,例如風格轉換(Style Transfer)、影像分割(Image Segmenta...
前言 由於 Keras 的引進,使得 Tensorflow 架構變得有點疊床架屋,到底要遵從哪一路徑學習,常令初學者感到困擾,因此,對 Tensorflow 其...
前言 TensorFlow 在去年就不斷的promote v2.0 版,到底它改善的方向有那些呢? 正式版何時release? 整理一些馬路新聞與大家分享。 市...
參考網站1 參考網站2參考網站3 再進入手寫變識前最後要來定義Loss function,這邊使用Cross entropy。對於Cross entropy的作...
Anaconda+Tensorflow+keras 硬體環境 OS: Ubuntu16.04 CPU: I7 8700k GPU: 1080ti 下載並安裝 A...
前言 走過了資料分析、演算法選擇後,我們得知了有些可以改善模型的方向: 解決資料不平衡(Done) 學習率的設定(Done) 訓練輪數(Nice to hav...