技術 LLM Note Day 2 - 神經網路語言模型

簡介 透過文本捕捉語言結構，進而建立一個統計機率模型，廣義而言就可以被稱作一種語言模型。本文主要介紹透過神經網路訓練出來的語言模型，以及常見 Transform...

技術 [常見的自然語言處理技術] 文本相似度(IV): 建立自己的Word2vec模型

前言 原本以為文本相似度這個主題兩天就可以結束了，沒想到花了四天來講。今天將會是介紹自然語言處理基礎的最後一篇，就讓我們做個客製化的 embedding mod...

技術 [常見的自然語言處理技術] 文本相似度(I): Word Embeddings

前言 在我們每日使用的語言當中，我們經常能根據單詞所表的意義區分出同義詞與反義詞，例如英文中形容詞 thoughtful 與 attentive 、 consi...

技術 NLP-台語羅馬字: Word Embeddings Using Keras

在 Word Embeddings 中，每一個字都以一個n維度的稠密向量(n-dimensional dense vector)來表示；相似意義的字會有相似的向...

技術 Day 17： 文字與數字之間的戀愛

前面一直提到要把文字轉乘數值，在前一天也有講到了目前常見的轉換方式。那我們今天直接講一下如何把文字轉成數值。 fasttext 是 Facebook 所提供的...