今日事項:
知道四種最主要的生成式 AI 模型玩法-官網介面、模型聚合平台、雲端、本地運行
如果文章對你有幫助的話,歡迎按讚或留言,讓我知道我不是一個人在這裡碎碎念(?),我會很感謝的❤️
我們在 Day4 怪獸的生物分類法-AI 中的科(技)、屬(性)、種(類) 這篇文章中有舉了非常多模型的例子,並知道了「模型」就是一個生成式 AI 的個體
。
但知道了有什麼用?還是不會用啊!
所以說這些模型要怎麼用?要去哪裡用?!
別急別急,這麼模型要用的話方法可多著呢,足以讓你用也用不完。
接下來我們就來看看吧!
雖然說,使用模型有一千種方法,事實上可能甚至超過。
主要是,現在非常多人開發出了不同的聊天介面,你想要用哪一種就用哪一種,完全看個人喜好。
不過呢,如果是要以大概念分的話,可以分成四種:官網介面、模型聚合平台、雲端、本地。
今天我們只來大概看看四種的優缺點,詳細講的話呢,因為每一個的篇幅都偏長,所以分成四天介紹。
方式 | 上手速度 | 隱私與資料控制 | 客製化彈性 | 成本來源 | 優點 | 缺點 | 使用地點範例 |
---|---|---|---|---|---|---|---|
官網介面 | 🥇 快 (隨開隨用) | 🔴 低 | 🔴 低 | 訂閱 | 功能完整 (對話、工具、檔案上傳等)、零設定 |
較難完整客製化 、資料隱私 依廠商而定 |
ChatGPT官網 |
模型聚合平台 | 🟡 中 | 🟡 中 | 🟡 中 | 依用量、選定模型 API 價格 | 不局限 於月費、可使用多家 模型 |
價格略高於原廠商 (因平台抽成 ) |
OpenRouter |
雲端部屬 | 🔴 慢 | 🟡 中 | 🥇 高 (動態調整) | 虛擬 GPU 租用、API 價格 | GPU 資源 可動態調整、可選擇開源免費獲 API 模型 |
需要程式撰寫基礎 、成本硬體規劃 |
HuggingFace |
本地 | 🔴 慢 | 🥇 高 (本地運行) | 🟡 中 | 硬體、電力、管理 | 可離線 使用、保障資料安全 、速率限制低 |
硬體折舊成本 、需程式基礎、管理成本 |
Ollama |
從上面的表格來看,好像他們在不同的領域各擅勝場……官網界面
勝在上手速度;雲端部屬
的客製化彈性高;本地部屬
則可以保有最高的資料安全;而模型聚合平台
則皆穩穩地走中庸之道。
但這樣,我要怎麼選擇哪一個比較好?
可以參考下面圖片的分類:
最先判斷資料敏感度
,因為如果敏感度很高,不管其他方法 CP 值再划算,都沒有用。如果甚至敏感到不能連網,就只有本地部屬這個方法可以選。
至於敏感度之外就是需求
,依照短期 / 長期、用量固定 / 變動的需求去選,這邊決定的是未來的成本
。
當然,如果你完全是個新手
,那直接去官網界面報到吧,等出了新手村之後再想其他的。
今天介紹了四種主要使用模型的方法,後面幾天就會來一個一個認識這些方法啦!
希望之後的四個範例大家都可以跟著操作,會是很有趣的實作體驗ㄛ!