昨天我們聊過 LLM 為什麼容易「幻覺」,甚至一本正經地說出錯誤。那我們要怎麼辦?
最快速的方式就是寫出好提示詞,也就是一直都很夯的提示工程。
提示工程各家教法...
一. 前言
圖片來源:Knowledge Graph or Vector Database… Which is Better? By Adam Lucek
相比...
在學習機器學習 (Machine Learning) 的過程中,可能會陷入兩種極端,一種是只會調用套件 (套模),模型背後的機制一知半解,遇到問題只能「換模型試...
前情提要
昨天我們已經將 GQA 分步驟實作完了,目前大部分 LLM 都是走這種架構,所以了解一下。
參考文章 & 圖片來源
https://www.c...
隨著健康意識抬頭,市面上已充斥各式健康數據平台,例如 Apple Health、Fitbit、Huawei Health 等,無論是監測睡眠、步數還是飲食紀錄,...
在前一篇(Day27),我們談到模型的版本控管與自動部署流程。
今天,我們要解決另一個實務痛點——部署後的推論效能與成本問題。
當模型部署上雲端後,工程師常會面...