技術 Day 28 NLP 的重要模型 —— BERT 的時代 前篇

聽到 BERT，大家第一個聯想到的是什麼呢？是他嗎？? 還是這個 加上 這個？ 答案應該比較接近後者 XD 沒錯，BERT 就是 Google 所開發的模型...

技術 Day 21 資訊熵 Entropy 、交叉熵 Cross-entropy 於 NLP 之應用 介紹篇

今天要談到的是 entropy。Entropy 其實原本是熱力學中的理論，用於度量一個熱力學系統的無序程度（表達原子在空間當中的分布狀況，如果原子分佈愈混亂，e...