繼 Seq2seq model 之後,真正可以做到 end-to-end 翻譯的,很多都是用了 attention model。 Attention model...
在上一篇前言提到 AlexNet 是一個歷史分水嶺,這是由於在 AlexNet 之前,Deep Learning 已經沈寂很久,而在2012年的 ImageNe...
2012年,Alex Krizhesky 和 Geoff Hinton 提出的 AlexNet 在 ImageNet 的圖像分類競賽中以巨大優勢贏得冠軍,使 C...
當大家正在開心的用著 RNN 跟 LSTM 等等模型之時,就有人跳出來了。 不要再用 RNN 為基礎的模型了!! 就是這篇 The fall of RNN /...
其實這篇應該先寫於《精進魔法》系列之前的,但沒關係,只要有 [地圖] 深度學習世界的魔法陣們 指引,你能夠照你想要挑戰的項目去學習。 以下介紹深度學習的魔王們,...
本文主題是「Batch Normalization」,Ian Goodfellow 大大在《Deep Learning》一書中是這麼描述 Batch Norma...
前情提要 在 [精進魔法] Optimization:優化深度學習模型的技巧(上)一文中提及了下面三種優化 deep learning 模型的作法: Batc...
標題這不是一個專有名詞。 在電腦視覺的領域中有幾個有名的問題: 影像辨識(Image recognition) 物件辨識(Object detection)...
上篇提到怎麼避免 Overfitting 的技巧,本文要帶給大家的是如何優化深度學習,提高模型的效能。 Batch & Mini batch 深度學習每...
當開始興致勃勃的嘗試畫魔法陣,搭建神經網絡模型時,也許會遇到下面的情形: 哥布林之吶喊:我明明在訓練集表現很好啊,為什麼實際上線時結果卻崩潰了(抱頭) 那你...
今天我們來談談 activation function 吧! 先談談線性轉換 談 activation function 之前先要談談線性轉換。 有上到比較後面...
有了先前的 ANN 魔法陣教學後,該是來讓各位見習魔法使實戰演練了,前情提要請參見: [魔法陣系列] Artificial Neural Network (A...
Convolution layer 這邊我們回到我們的 convolution layer,如果把以上的一維向量拓展到二維的矩陣資料會長什麼樣子呢? 我們先來看...
上篇介紹 ANN 魔法陣結構:輸入層(Input Layer)、隱藏層(Hidden Layer)及輸出層(Output Layer)。此外,也解釋了神經元與激...
熱身運動都做好了,接下來我們就一路往影像處理上的重要技術 CNN 前進啦! Convolutional neural network,顧名思義,他是一種神經網路...
第一個魔法陣:Artificial Neural Network (ANN, 1943) 首先先來看看 ANN 的結構: 圖片來源:https://hack...
剛開始研究 deep learning 時,正好是 AlphaGo 跟南韓棋士李世乭對戰(2016年3月8日到3月15日)的前一兩個月,那時我們小組嘗試用 CN...
機器學習的技術已經發展了非常久的時間,我們有非常多的模型可以幫我們做預測,包含像是 regression、classification、clustering、s...
2018年堪稱是台灣的「AI 元年」,政府推動產業 AI 化,同時也不遺餘力的培養 AI 種子們。相信不管是在新聞媒體上或是公司內部都可常看到或聽到「AI」字眼...
接著我們就來到了蠻重要的問題,既然一個 hidden layer 的網路架構就可以逼近任何連續函數,那麼為什麼要深度學習? 對於這個問題,台大李宏毅老師有非常詳...
汽車向來是最高檔次的消費產品類,封閉的產業;但當AI人工智慧的演算法和複雜架構因著GPU助長了深度學習的進展,微控制器和opensource的快速經驗複製加速了...
先說在前面,採取專利或技術保密,或者開源共同競爭技術門檻或是營造市場,都是正確的商業策略, OpenSource vs 技術保密不公開,這個題目絕不是一翻兩瞪眼...
上個世紀初福特T型車的流水生產線,開啟了人類移動世代, 這個世紀是由擁有多元知識的T型人才,交織出創新的未來, 從2016年9月陸續有人類因為被「主動預防系統預...
為什麼我們學習深度學習與自動駕駛科技?因為行車大數據是要解決現實生活的車禍問題, 2016年的12月底的今天Tesla出現幸運車主,被新版的AutoPilot神...
連俄羅斯美女主播都有興趣,早在2015年12月就報導喬治霍茲,這位26歲就被Tesla伊隆馬斯克找去發展自動駕駛,談不攏沒合作、自己獨立開發出自動駕駛系統、自立...
宅宅駕駛座旁無伊人,莫辜負自幹雙手萬能, 怎沒人響應開源自動駕駛,一起來做沒有人 簡介 今年最火紅的話題的就是電腦視覺、深度學習、自動駕駛, 最近最衝擊的兩新聞...