鐵人檔案
今天要談到的是 entropy。Entropy 其實原本是熱力學中的理論，用於度量一個熱力學系統的無序程度（表達原子在空間當中的分布狀況，如果原子分佈愈混亂，e...
今天使用 iris 資料集分別示範 Python 和 R 如何計算 entropy。 Python Calculate Entropy 計算 entropy 的...
今天要介紹的是許多機器學習模型的基礎概念----馬可夫鏈（Markov Chain）。馬可夫鏈在數學中有著廣泛的用途，包括經濟學、博弈論、傳播理論、遺傳學和金融...
今天要討論的是隱馬可夫模型（Hidden Markov Model, HMM）。既然名字裡面有馬可夫三個字，想必一定和昨天提到的馬可夫模型、馬可夫鏈有關。其實隱...
連續看了那麼多天的模型訓練相關知識，我們今天來看看比較「語言學」會做的任務吧！ 句法分析(syntactic parsing )是自然語言處理中一個重要的任務，...
今天開始就要進入神經網路的世界啦！首先介紹的就是循環神經網路（Recurrent Neural Network, RNN）。RNN 是什麼呢？為什麼要用 RNN...
看過昨天的文章的大家應該對 LSTM 有了一定的了解，所以今天要更進一步的看看以 LSTM 為基礎而產生的雙向長短記憶網路 BiLSTM。 開始之前，我們簡單複...
聽到 BERT，大家第一個聯想到的是什麼呢？是他嗎？? 還是這個 加上 這個？ 答案應該比較接近後者 XD 沒錯，BERT 就是 Google 所開發的模型...
今天要延續昨天的內容，繼續了解 BERT 是什麼，今天會著重在 BERT Pre-training 的過程。為什麼我們要了解 BERT Pre-training...
終於來到了第 30 天，就以 NLP 中的重要模型 BERT 作結了！BERT 的實作其實非常多元，中文和英文的實作在網路上都有不少大神分享，內容也解釋得非常詳...
