系列文章
Day 21 資訊熵 Entropy 、交叉熵 Cross-entropy 於 NLP 之應用 介紹篇
今天要談到的是 entropy。Entropy 其實原本是熱力學中的理論，用於度量一個熱力學系統的無序程度（表達原子在空間當中的分布狀況，如果原子分佈愈混亂，e...
Day 22 資訊熵 Entropy 、交叉熵 Cross-entropy 於 NLP 之應用 實作篇
今天使用 iris 資料集分別示範 Python 和 R 如何計算 entropy。 Python Calculate Entropy 計算 entropy 的...
Day 23 馬可夫模型的基礎----馬可夫鏈（Markov Chain）介紹與實作
今天要介紹的是許多機器學習模型的基礎概念----馬可夫鏈（Markov Chain）。馬可夫鏈在數學中有著廣泛的用途，包括經濟學、博弈論、傳播理論、遺傳學和金融...
Day 24 看不見的手？隱馬可夫模型（Hidden Markov Model）介紹與實作
今天要討論的是隱馬可夫模型（Hidden Markov Model, HMM）。既然名字裡面有馬可夫三個字，想必一定和昨天提到的馬可夫模型、馬可夫鏈有關。其實隱...
Day 25 NLP 中的 依存句法分析（Dependency Parsing）介紹與實作
連續看了那麼多天的模型訓練相關知識，我們今天來看看比較「語言學」會做的任務吧！ 句法分析(syntactic parsing )是自然語言處理中一個重要的任務，...
Day 26 循環神經網路 RNN 與 長短期記憶 LSTM 介紹與實作
今天開始就要進入神經網路的世界啦！首先介紹的就是循環神經網路（Recurrent Neural Network, RNN）。RNN 是什麼呢？為什麼要用 RNN...
Day 27 雙向長短記憶網路（Bi-directional Long Short-Term Memory, BiLSTM）
看過昨天的文章的大家應該對 LSTM 有了一定的了解，所以今天要更進一步的看看以 LSTM 為基礎而產生的雙向長短記憶網路 BiLSTM。 開始之前，我們簡單複...
Day 28 NLP 的重要模型 —— BERT 的時代 前篇
聽到 BERT，大家第一個聯想到的是什麼呢？是他嗎？? 還是這個 加上 這個？ 答案應該比較接近後者 XD 沒錯，BERT 就是 Google 所開發的模型...
Day 29 NLP 的重要模型 —— BERT 的時代 中篇
今天要延續昨天的內容，繼續了解 BERT 是什麼，今天會著重在 BERT Pre-training 的過程。為什麼我們要了解 BERT Pre-training...
Day 30 NLP 的重要模型 —— BERT 的時代 後篇 （實作推薦＋完賽感言）
終於來到了第 30 天，就以 NLP 中的重要模型 BERT 作結了！BERT 的實作其實非常多元，中文和英文的實作在網路上都有不少大神分享，內容也解釋得非常詳...