技術 Day 21 資訊熵 Entropy 、交叉熵 Cross-entropy 於 NLP 之應用 介紹篇

今天要談到的是 entropy。Entropy 其實原本是熱力學中的理論，用於度量一個熱力學系統的無序程度（表達原子在空間當中的分布狀況，如果原子分佈愈混亂，e...

技術 Day 28 NLP 的重要模型 —— BERT 的時代 前篇

聽到 BERT，大家第一個聯想到的是什麼呢？是他嗎？? 還是這個 加上 這個？ 答案應該比較接近後者 XD 沒錯，BERT 就是 Google 所開發的模型...

技術 Day 1 語言學與自然語言處理（NLP）介紹篇

何謂語言學？ 在整個語言學與自然語言處理 NLP (Natural Language Processing)的旅程開始之前，想要先和大家聊聊何謂語言學。其實，大...