零、前言 在上一篇中講到 Model 形成的概念,便是透過模擬人類神經元的 Perceptron感應器而初步建立的 Layers 組合就成為 Model,我們也...
零、前言 在上一篇文章中,我們介紹了 Sequential 和 Functional 模型的用法和 API 架構。這兩種方法雖然簡單易上手,但在資料量增加時,可...
零、前言 在【Day 03】的章節中,我們簡單提到了 Keras API 內的兩個模型,而 Keras 做為 TensorFlow 主要的高級 API 之一,雖...
從 keras 框架運作一路看過來,機器在做學習會有個核心概念,這邊會展現出來讓前後關聯可以串通。 機器學習和很多著名的預測方法如貝氏理論、德爾菲法論等等,都...
當處理的目標是多模型組成,我們可以訓練各種模型至不同的Server 以增加執行與管理的效能: 如果這些訓練好的模型,未來要串接起來,做生成式資料產出,可能會做...
經過前20節的文章,了解模型訓練與預測相關運作後,接著實例應用並比較幾種損失函數與optimizer的搭配比較。這邊拿某集團企業的銷售資料訂單來做訓練範例。...
在上一篇文章中,我們介紹了 TensorFlow 的基本概念與使用方法。本篇文章將繼續介紹 TensorFlow 的應用,我們這次使用 TensorFlow 來...
於此先了解一下 compiler 的 metrics 在模型fit之後的數量變化。 範例一,預設 metrics 內容 from tensorflow.k...
從上一節可以看出,在模型做compiler時,可以指定 loss function,也能自定義客製的 loss function。 一旦 loss funct...
在上篇中完成 TensorFlow 開發環境後,接下來我們就可以透過 TensorFlow,搭配上 Keras API 的輔助,來完成各種機器學習和深度學習的問...
模型在做Compiler時,指定 loss function ,如下: model.compile(optimizer="rmsprop"...
在模型做fit的章節,我們可以看到在訓練前會將Callback實體放入一個Container,然後於真正訓練迭代迴圈時使用。這邊會自定義Callback類別來...
Layer指定使用哪種 activation 有下列方式 (這邊皆以 "relu" 來做範例) : (1) 指定函式名稱 'relu' (...
本節要探討 optimizer 與 learning rate 有哪些初始設定方式,運作,與有什麼影響。 以上一節範例: import tensorflow...
這節會觀察自己定義 initializer。 我們可以使用一個 subClass 來定義一個initializer,前提是這個自定義的 initializer...
層是模型非常重要的角色,也是模型訓練時張量運算的執行者。層也需要經過build的動作,產生對應的初始權重,供訓練時使用。而訓練時也會透過各層的 Call 函式...
從前面Model的文章可以得知,Model繼承base_layer,代表Model也可以當作Layer使用,可以執行 build與 Call。現在要嘗試自訂義...
假設程式不是使用 sequence 來宣告模型,直接使用 model類別的話,差異在哪裡? 會在文中點出差異。 範例程式: from tensorflow.k...
此篇會觀察模型做評估時使用evaluate之運作。 from tensorflow.keras.datasets import mnist (train_im...
此會觀察模型做預測或決定時大致上運作過程,它會怎麼進行。模型訓練好後,可以執行模型實體的 predict 函式來進行判斷訊號。 from tensorflow...
前面文章在說明 Sequence 建構實例時,將layer物件陣列以建構子參數傳入後,Sequence 會自動將 layer物件陣列裡之物件逐一加入到kera...
上節在 model.fit 的敘述中,有提到模型在訓練前會檢查是否有對模型與所包含的層執行過build的動作。而其實可以於model.fit 之前加入程式執行...
當模型有成功compiler後,就可以透過 keras.engine.training.Model 的 fit 執行訓練。 Keras 官網範例: from...
今日大綱 SGD (Stochastic gradient descent) Momentum Adagrad( Adaptive gradient-base...
1. 回顧 下列是過去十天我用各種技巧訓練的模型,只要該技巧對 val acc 或 val loss 有勝過 EFN_base,那我就會將其納入最後的模型實驗。...
前言 受惠於深度學習框架的多元性,開發者可以選自己喜歡的框架,像是: Theano、Caffe、ONNX、Keras、Tensorflow、Pytorch、DL...
前言 走過了資料分析、演算法選擇後,我們得知了有些可以改善模型的方向: 解決資料不平衡(Done) 學習率的設定(Done) 訓練輪數(Nice to hav...
前言 走過了資料分析、演算法選擇後,我們得知了有些可以改善模型的方向: 解決資料不平衡(Done) 學習率的設定(Now) 訓練輪數(To do) 模型深度(...
前言 走過了資料分析、演算法選擇後,我們得知了有些可以改善模型的方向: 解決資料不平衡(Done) 學習率的設定(To do) 訓練輪數(To do) 模型深...
前言 今天我們將稍微講述 Luong 全域注意力機制的原理,並繼續用 Keras 來架構附帶注意力機制的 seq2seq 神經網絡。 Luong Attenti...