在上篇 [魔法小報] 深度學習 vs. 傳統機器學習的文末稍微提到可以用 AutoEncoder 做降維（Dimension Reduction），於是乎，本篇...
今天來談談深度學習跟傳統機器學習的比較，主要從 Data、計算資源、特徵萃取 等三個方向進行討論。 深度學習（Deep Learning）的成功主要是基於大量可...
在前面的 Transformer 的文章中有提到了 auto-regressive 的特質。 在 When Recurrent Models Don't Nee...
要介紹 Attention 機制，就不能錯過這篇經典：Google 在 NIPS2017 上發表的論文《Attention Is All You Need》。本...
[魔法陣系列] Recurrent Neural Network（RNN）之術式解析 中介紹了： Simple RNN LSTM GRU 本篇文章要帶各位見...
繼 Attention model 之後，由於 recurrent 架構的特性一直無法善用 GPU 的資源做加速。 這時 Google Brain 團隊就看到別...
接下來要開始探索深度學習(deep learning)究竟AlphaGO是如何辦到的？！再了解電腦如何擁有類似人類的神經網路系統可以去學習與修正前先來了解一下歷...
繼 Seq2seq model 之後，真正可以做到 end-to-end 翻譯的，很多都是用了 attention model。 Attention model...
[魔法陣系列] Convolutional Neural Network（CNN）之術式解析 中提到 CNN 由下列所組成： Convolution Oper...
當大家正在開心的用著 RNN 跟 LSTM 等等模型之時，就有人跳出來了。 不要再用 RNN 為基礎的模型了！！ 就是這篇 The fall of RNN /...
在上一篇前言提到 AlexNet 是一個歷史分水嶺，這是由於在 AlexNet 之前，Deep Learning 已經沈寂很久，而在2012年的 ImageNe...
Recurrent Neural Network（RNN）是神經網絡的一種，常應用在處理時間、空間序列上有強關聯的訊息，尤其在 NLP （Natural Lan...
電腦視覺（Computer Vision）一直是我非常著迷的領域，旨在模仿人類視覺系統，作為賦予機器人智能行為的助力，在1966年夏季，MIT AI LAB 成...
2012年，Alex Krizhesky 和 Geoff Hinton 提出的 AlexNet 在 ImageNet 的圖像分類競賽中以巨大優勢贏得冠軍，使 C...
其實這篇應該先寫於《精進魔法》系列之前的，但沒關係，只要有 [地圖] 深度學習世界的魔法陣們 指引，你能夠照你想要挑戰的項目去學習。 以下介紹深度學習的魔王們，...
本文主題是「Batch Normalization」，Ian Goodfellow 大大在《Deep Learning》一書中是這麼描述 Batch Norma...
前情提要 在 [精進魔法] Optimization：優化深度學習模型的技巧（上）一文中提及了下面三種優化 deep learning 模型的作法： Batc...
標題這不是一個專有名詞。 在電腦視覺的領域中有幾個有名的問題： 影像辨識（Image recognition） 物件辨識（Object detection）...
上篇提到怎麼避免 Overfitting 的技巧，本文要帶給大家的是如何優化深度學習，提高模型的效能。 Batch & Mini batch 深度學習每...
當開始興致勃勃的嘗試畫魔法陣，搭建神經網絡模型時，也許會遇到下面的情形： 哥布林之吶喊：我明明在訓練集表現很好啊，為什麼實際上線時結果卻崩潰了（抱頭） 那你...
今天我們來談談 activation function 吧！ 先談談線性轉換 談 activation function 之前先要談談線性轉換。 有上到比較後面...
Convolution layer 這邊我們回到我們的 convolution layer，如果把以上的一維向量拓展到二維的矩陣資料會長什麼樣子呢？ 我們先來看...
熱身運動都做好了，接下來我們就一路往影像處理上的重要技術 CNN 前進啦！ Convolutional neural network，顧名思義，他是一種神經網路...
有了先前的 ANN 魔法陣教學後，該是來讓各位見習魔法使實戰演練了，前情提要請參見： [魔法陣系列] Artificial Neural Network (A...
上篇介紹 ANN 魔法陣結構：輸入層（Input Layer）、隱藏層（Hidden Layer）及輸出層（Output Layer）。此外，也解釋了神經元與激...
機器學習的技術已經發展了非常久的時間，我們有非常多的模型可以幫我們做預測，包含像是 regression、classification、clustering、s...
第一個魔法陣：Artificial Neural Network (ANN, 1943) 首先先來看看 ANN 的結構： 圖片來源：https://hack...
剛開始研究 deep learning 時，正好是 AlphaGo 跟南韓棋士李世乭對戰(2016年3月8日到3月15日)的前一兩個月，那時我們小組嘗試用 CN...
接著我們就來到了蠻重要的問題，既然一個 hidden layer 的網路架構就可以逼近任何連續函數，那麼為什麼要深度學習？ 對於這個問題，台大李宏毅老師有非常詳...
2018年堪稱是台灣的「AI 元年」，政府推動產業 AI 化，同時也不遺餘力的培養 AI 種子們。相信不管是在新聞媒體上或是公司內部都可常看到或聽到「AI」字眼...
莉森揪
杜岳華
theneo
iThome鐵人賽
看影片追技術