2024年是大型語言模型（LLMs）蓬勃發展的一年，從CHATGPT4、Claude 3、Llama 3到 Gemini2 等模型的推出，我們看到了這些模型在能力上的顯著躍進。它們在處理複雜任務、多模態輸入和更流暢的對話方面都達到了前所未有的水準。

但同時，開源小型語言模型（SLMs） 例如: Gemma 也在同步持續演進。這有幾個主要原因：

- 資源效率高：

小型模型佔用的計算資源和記憶體更少，這使得它們更適合部署在個人電腦、手機、甚至嵌入式裝置等邊緣設備上。

- 成本效益佳：

由於訓練和推理成本較低，中小企業和個人開發者更容易使用和微調這些模型，降低了開發門檻。

- 客製化能力強：

小型模型更容易針對特定領域或任務進行微調，使其在專業應用中表現出色，例如醫療、法律或客服機器人。

- 隱私保護：

由於可以在本地端運行，使用者資料無需上傳到雲端，有助於保護個人隱私和資料安全。

目前會考慮使用開源小型語言模型的排序是

隱私保護 > 客製化能力強 > 成本效益佳 > 資源效率高

大型模型引領了通用智慧的上限，而小型模型則開拓了AI在各種邊緣裝置和特定應用中的落地可能性。

兩者並非互相取代，而是共同推動著AI技術的普及與發展。