你的 Tokenizer 是用哪個？既然要從頭訓練的話，要不要考慮 Tokenizer 也重新訓練？比較不容易因為 BPE Tokenizer 會 Fallba...
請問 GPT-4 參數量的資料來源是哪裡? 在官方的論文中並沒有揭露 GPT-4 實際的參數量，而且 GPT-4 也分成 8K 跟 32K 兩個版本，這兩種模型...
而 GPT-3.5 則利用人類反饋強化學習(RLHF)來訓練 GPT-3.5 本身應該還沒有用到 RLHF，RLHF 是在 InstructGPT 裡面使用...
以前經常把雜湊與加密的概念混淆在一起，想說不都是變成看不懂的東西嗎? 雜湊 (Hash) 是個單向操作，如文中所說原則上不可逆。加密 (Encrypt) 與解密...
想請問一下前言提到 LightGBM 是屬於 GDBT 家族中成員之一 是指 Gradient Boost Decision Tree (GBDT) 嗎?如...
大歐派蘿莉的鐵人檔案