iT邦幫忙

2019 iT 邦幫忙鐵人賽

DAY 25
0

前面有提到 seq2seq model,我們就從這邊開始。

Seq2seq model 他採用了 encoder-decoder 架構,這時候就要來點 paper 的圖啦!

在以往的 language model 的作法裡,會是把一個 word 塞進 RNN 裡,那麼 RNN 就會立刻吐出一個相對應的 word 出來。

像是放進一個英文字,會吐出一個相對應的法文字,然後將這一層的預測結果帶給下一層。

這麼做雖然很直覺,但是他並不能完整的翻譯一個句子。

語言的語法各不相同,所以很難將詞語一一對映做成翻譯。

這個 seq2seq model 採用了不同的作法,將一組 LSTM 作為 encoder,負責將要翻譯的句子轉換成固定長度的向量,再將這個向量交給另一個 LSTM 轉換成目標句子,後面這個 LSTM 就是 decoder 的角色。

這樣的架構之下將一個模型拆成 encoder 跟 decoder 的兩個部份,讓兩個部份都可以各自接受或是產生不同長度的句子,並且得到很好的分數。

在實作上,的確是將兩個 LSTM 接起來,所以就沒什麼細節好講的。

但是這個模型確實的解決了以不同長度的句子產生不同長度的句子的問題。


上一篇
25 Recurrent model 之死
下一篇
27 Attention model
系列文
機器學習模型圖書館:從傳統模型到深度學習31

尚未有邦友留言

立即登入留言