AI 來了,這是一個不可規避的事實,AI 就像一匹潛力無窮的待馴服的良駒,能讓 AI 發揮到什麼程度、幫助 IT 人員多少、幫助企業多少,完全看騎在馬上的您:平常如何馴服她。
還記得 薛平貴 與 紅鬃烈馬 吧,普通人騎普通馬,紅鬃烈馬 這種厲害的馬則是要有厲害的人才馴服得了、才騎得動。不然,可是會摔得四腳朝天的...
所幸,AI 這匹良駒會惦量主人您的力氣,你跟她小打小鬧:問個早安、Hello 之類的,他也跟您 Hello 恭維您一番,這時您會覺得 AI 好像就是這樣而已;但如果您很認真學習、認真馴服,則 AI 則會變成超強的 紅鬃烈馬,目前在大家努力開發下,看起來她是潛力無窮。
💡 AI 是良駒,也是烈馬 —— 關鍵在於駕馭的人。
要馴服 AI ,得好好的了解她,AI 組件很多、容易混淆,網路社群上,有人比喻 模型 (Model) 是引擎;Agent (代理程式) 是組裝後的一部車;提示詞 (Prompt) 則像是 油門/方向盤;車上還有很多配件,AI 也有很多擴充功能...
👉 PS:引擎/車/方向盤/油門/配件...的比喻,是 GPT 幫我找的,GPT 說出處很多,一時也辨識不出誰是先這樣比喻的。「良駒/紅鬃烈馬」是本文自創的呼應比喻。
接下來這兩天,讓筆者先幫大家把一些基本知識打個基礎,不會講太理論的東西 (那些筆者也講不出來 😄 )。這些基本知識有利我們爾後運用 AI 。
記得三十幾年前,筆者就聽過「人工智慧」了,學校有開這樣名稱的課。
AI 發展早期著重方法探索與基礎累積,近年因運算力、資料與模型架構的成熟而快速普及,出現大規模應用潮。
💡 AI 的歷史不是直線,而是一場「冬天與春天的輪替」。
近幾年生成式 AI 興起的:
如果把企業比作一支球隊,AI 就像體能與情報的加乘工具:不用不會馬上輸,但在拉長賽局後,落差會被幾何級放大。
💡 企業競爭的本質:同樣的隊伍,有 AI 加持,跑得更快、更久。
AI 對產業影響甚鉅,這裡就不詳細展開,我們先把重心拉回來:IT 職人,因為在台灣中小企業,唯有先增進 IT 職人 AI 素養,才能更好的帶進到企業應用。
💡 AI 的力量,不在單點,而在組合。
AI 模型 (Model) 不是一個 APP,而是能理解、推理與生成的「能力本體」。
模型,是各家 AI 廠商費心訓練出來的,據筆者所知: AI 模型是遍覽群書,好像讀了古今中外的書、及 Internet 上所有公開的資料,這些加起來,其文字量相當於數千萬到上億本書。也就是說:在模型被訓練的截止日之前的書、Internet 公開資料,她都看過了。
模型也像是一個「知識怪獸」。想像一下,有人把世界各地的圖書館打包,再加上網路上公開的資料,全丟進它的腦袋裡。結果,它一口氣讀了數千萬、甚至上億本書。
不過,這個「怪獸」也有缺點:
它的記憶是有「截止日期」的,就像有人在 2023 年畢業後,就再也沒讀過新書一樣。
它雖然讀很多,但不代表每一行都能背得滾瓜爛熟;有時候它還會「張冠李戴」,一本正經的亂說。
💡 AI 模型像一個博學的朋友 —— 會聊天,但偶爾也會亂吹牛。
所以,跟 AI 模型相處,就像跟一個博覽群書、但偶爾會吹牛的朋友聊天 —— 有趣、聰明,但不能完全照單全收。
對於我們使用 AI 的人來說,關心 AI 模型主要有四件事:
👉 概略是:英文 100 tokens ≈ 75 個英文單字;中文 100 tokens ≈ 100 個字,但不絕對。端視各家 AI 模型自己的計算而定。
💡 選模型不只是看聰明程度,而是看會不會「帳單爆表」 (帳單爆表可是會被 老闆 或 財務 約談的...)。
👉 如果要拿開源模型自己架設 AI ,通常需要昂貴的 GPU ,常見的是 NVIDIA H100 一張卡要價一百多萬台幣,通常需要兩張以上比較合適,還有 伺服器硬體...的費用。
👉 只是要玩一玩的話,Mac M4 Pro 128G 統一記憶體 的機器可以試一些小一點的模型,但 token 吐得很慢,還不是很實用。
👉 通常需要 GPU 記憶體 80G 以上,也有小一點的模型,GPU 32G 記憶體就可以開始跑。
廠商 | 上(高階) | 中(主力/旗艦/均衡) | 下(輕量/高效) |
---|---|---|---|
OpenAI (GPT) | GPT-5 thinking | GPT-5 | GPT-5-mini, GPT-5-nano |
Anthropic (Claude) | Claude 4.1 Opus | Claude 4 Sonnet | Claude 4 Haiku |
Google (Gemini) | (待查) | Gemini 2.5 Pro | Gemini 2.5 Flash / Flash‑Lite |
💡 大多數情境,用「主力/旗艦」就夠用。 💬 ChatGPT 5 會依任務難度自動選模型,降低選擇負擔。
很多人會問:「模型這麼多,我到底該用哪一個?」
其實,選模型就像選車,不是看誰最貴、誰馬力最大,而是看你要拿來做什麼。
👉 重點不是「最強」,而是「最合拍」。
💡 模型選型,不是比誰大,而是比誰懂你。
挑模型時,可以問自己這幾個問題:
👉 這幾個問題,比「參數大小」重要得多。就像買車時,你會問油耗、維修、保固,而不是只看馬力。
不要被「最強模型」的廣告詞帶著走。再強的車,開在你家巷子裡,也開不快。模型選型,重點是 「合適」與「跟你合作的默契」,而不是選最貴。
一開始,其實不用太糾結。先從 ChatGPT 開始,等你真的踩過油門、轉過方向盤,再去比較 Claude、Gemini、Llama,就會知道自己和哪一台車最適合您。
有了引擎,還需要變成能辦事的「車」。AI 代理程式(Agent)不是指一個品牌,而是一種系統設計:讓模型能看資料、用工具、記住上下文、分步完成任務。
這個 AI 代理程式是一個人機介面,人是跟 Agent 互動,再由 Agent 與後端的 模型 溝通。這些關係要講清楚,可能得畫一張圖,今天的資料已經有點多了。這部分就明天繼續囉......
今天我們先談了 AI 模型(Model)。它就像一匹潛力無窮的良駒,或者是一顆強大的引擎 —— 決定了能跑多快、多穩、多省油。模型是基礎,但光有這顆引擎,還不足以真正幫 IT 職人衝鋒陷陣。
真正能派上用場的,是 AI 代理程式(Agent)。它就像一輛能上路的整車:不只裝上引擎,還能握住方向盤、踩下油門、幫你帶上工具箱,甚至能記住上次你跑到哪裡。
明天我們就來看看,這些 AI 代理程式如何讓 IT 職人不只是駕駛,而能升級成一支 人機協作的專業隊伍。這會是未來 IT 人真正的核心戰力。
💡 AI 模型是力量的來源,Agent 才是讓力量落地的關鍵。