iT邦幫忙

2025 iThome 鐵人賽

DAY 6
0
生成式 AI

30 天打造第一本 AI 圖鑑:把怪獸收服成你的神奇寶貝系列 第 6

Day6 怪獸培育場-模型的一千種玩法

  • 分享至 

  • xImage
  •  

今日事項:知道四種最主要的生成式 AI 模型玩法-官網介面、模型聚合平台、雲端、本地運行

如果文章對你有幫助的話,歡迎按讚或留言,讓我知道我不是一個人在這裡碎碎念(?),我會很感謝的❤️

我們在 Day4 怪獸的生物分類法-AI 中的科(技)、屬(性)、種(類) 這篇文章中有舉了非常多模型的例子,並知道了「模型」就是一個生成式 AI 的個體

但知道了有什麼用?還是不會用啊!

所以說這些模型要怎麼用?要去哪裡用?!

別急別急,這麼模型要用的話方法可多著呢,足以讓你用也用不完。

接下來我們就來看看吧!


使用模型的四種主要方法

雖然說,使用模型有一千種方法,事實上可能甚至超過。

主要是,現在非常多人開發出了不同的聊天介面,你想要用哪一種就用哪一種,完全看個人喜好。

不過呢,如果是要以大概念分的話,可以分成四種:官網介面、模型聚合平台、雲端、本地。

今天我們只來大概看看四種的優缺點,詳細講的話呢,因為每一個的篇幅都偏長,所以分成四天介紹。

方式 上手速度 隱私與資料控制 客製化彈性 成本來源 優點 缺點 使用地點範例
官網介面 🥇 快 (隨開隨用) 🔴 低 🔴 低 訂閱 功能完整(對話、工具、檔案上傳等)、零設定 較難完整客製化 、資料隱私依廠商而定 ChatGPT官網
模型聚合平台 🟡 中 🟡 中 🟡 中 依用量、選定模型 API 價格 不局限於月費、可使用多家模型 價格略高於原廠商 (因平台抽成) OpenRouter
雲端部屬 🔴 慢 🟡 中 🥇 高 (動態調整) 虛擬 GPU 租用、API 價格 GPU 資源可動態調整、可選擇開源免費獲 API 模型 需要程式撰寫基礎、成本硬體規劃 HuggingFace
本地 🔴 慢 🥇 高 (本地運行) 🟡 中 硬體、電力、管理 可離線使用、保障資料安全、速率限制低 硬體折舊成本、需程式基礎、管理成本 Ollama

如何選擇要使用哪一個方法?

從上面的表格來看,好像他們在不同的領域各擅勝場……官網界面勝在上手速度;雲端部屬的客製化彈性高;本地部屬則可以保有最高的資料安全;而模型聚合平台則皆穩穩地走中庸之道。

但這樣,我要怎麼選擇哪一個比較好?

可以參考下面圖片的分類:

最先判斷資料敏感度,因為如果敏感度很高,不管其他方法 CP 值再划算,都沒有用。如果甚至敏感到不能連網,就只有本地部屬這個方法可以選。

至於敏感度之外就是需求,依照短期 / 長期、用量固定 / 變動的需求去選,這邊決定的是未來的成本

當然,如果你完全是個新手,那直接去官網界面報到吧,等出了新手村之後再想其他的。

Day6 總結

今天介紹了四種主要使用模型的方法,後面幾天就會來一個一個認識這些方法啦!

希望之後的四個範例大家都可以跟著操作,會是很有趣的實作體驗ㄛ!


上一篇
Day5 講講屬於生成式 AI 族群的怪獸
下一篇
Day7 挑一隻你喜歡的怪獸-盲測各種模型與排名的競技場 LMArena
系列文
30 天打造第一本 AI 圖鑑:把怪獸收服成你的神奇寶貝7
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言