你有沒有算過，公司這個月燒了多少 Token？

閉源模型的雲端 API 很方便，一組 API Key 就能接上世界最強的模型，不用管顯卡、不用管維運。但方便是有代價的：帳單會隨著使用量線性成長，而且很多時候是超線性 — 功能一多，呼叫次數就爆炸。更麻煩的是資料隱私：你的客戶合約、病歷、內部文件，一行一行送到別人的伺服器上，這件事在金融、醫療、政府標案這些領域，往往連討論的空間都沒有。

AI 需求爆炸

2023 到 2024 年前，AI 功能還是產品的加分題 — 有更好，沒有也不影響核心體驗。現在完全反過來了：客服沒有智慧回覆、文件沒有自動摘要、程式碼沒有 AI 輔助，反而會被使用者質疑「這產品是不是太落後了」。AI 從選配變成標配，這件事發生的速度比大多數團隊的基礎設施跟得上的速度還快。

問題不只是「要不要導入」，而是量體本身就在失控式成長。一個功能上線之後，使用者的呼叫頻率往往不是線性成長，而是隨著使用習慣養成而加速 — 摘要功能好用，大家就會把所有文件都丟進去摘要; 智慧助理反應快，使用者就會把它當成日常工具，而不是偶爾用一次的功能。產品團隊規劃容量時抓的預估值，經常在上線三個月內就被打破。

更棘手的是，這股需求不是集中在單一場景，而是同時從四面八方冒出來：客服想要智慧回覆，業務想要會議摘要，工程團隊想要程式碼輔助，行銷想要內容生成。每個部門都覺得自己的需求「很急、很小」，但加總起來，就是一條你完全沒預期到的、持續攀升的呼叫曲線。

當你的 AI 使用量是這樣長出來的，雲端 API 的計費模式就會從「合理的成本」變成「失控的變數」— 這也是為什麼，單純靠雲端撐住這波需求，越來越像是在流沙上蓋房子。

資料隱私疑慮

送一個 API 請求到雲端，看起來只是幾百毫秒的事，但那份資料離開你的機房之後，你就失去了對它的控制權。

這在某些產業不是「疑慮」，而是紅線。金融業的客戶對帳單、醫療業的病歷紀錄、法律事務所的合約草稿、政府標案的機密文件，這些資料一旦碰觸法規（個資法、GDPR、HIPAA），能不能出境、能不能交給第三方處理，往往連討論的空間都沒有，更不用說交給一個你連伺服器在哪裡都不知道的 API。

更麻煩的是「信任鏈」問題。就算供應商的隱私政策寫得再漂亮，你要相信的不只是他們的政策，還包括：他們的資安防護夠不夠強、員工會不會誤觸資料、你的內容會不會被用來訓練下一代模型、政府調閱令來的時候他們會不會交出你的資料。這些都不是你能控制的變數，你只能選擇「相信」或「不相信」。

而且傷害通常是不可逆的。程式碼外流、合約條款被競爭對手看到、病患資料外洩，這些一旦發生，道歉聲明救不回已造成的損害。這也是為什麼越來越多企業寧可犧牲一點模型效能，也要把 AI 搬回自己的地盤。地端部署的意義，不是不信任雲端廠商，而是把「要不要相信誰」這個問題，從一開始就拿掉。

地端 AI 是被逼出來的解法

WHO
這系列是寫給誰看的？ 如果你是想省 Token 成本的開發者、資料不能出公司或不能出境的產業從業者，或是單純想搞懂怎麼開始地端 AI 應用的人，這系列會很適合你。

WHAT
這系列在分享什麼？ 從地端模型的選型（LLM / VLM）、Ollama 的部署，到框架的實作，一步步打地基；接著用五個實戰方案 — Workflow、視覺應用、RAG、Hermes Agent、自研 Agent，把地基蓋成一棟真正能用的建築。每個方案都會有設計思路，也會有動手實作。

WHY
為什麼是現在？ 過去地端模型常被詬病「能力太弱，只能玩玩」，但這一兩年（註：撰寫時間為2026年9月） qwen3.8、ornith3.5、gemma4 等這些開源模型的能力已經逐漸接近雲端商用模型，加上 Ollama 等軟體把部署 AI 門檻壓到「一行指令就能跑」，地端 AI 正在從極客的玩具變成企業可以認真評估的選項。

WHERE
這些東西要跑在哪裡？ 你的筆電、公司內網的一台主機，甚至一台邊緣裝置都可以。這系列示範的所有內容，都不需要雲端帳號，也不需要信用卡 — 這正是地端 AI 的核心價值：你的資料，留在你的地盤上。

HOW
該怎麼讀這系列？ 不一定要照順序讀：前 12 天是打地基（模型、Ollama、軟體框架），後面 5 個案例是實戰積木，你也可以直接跳到你需要的章節。

接下來的 30 天，我們就從「開源地端模型漫談」章節開始，一磚一瓦，把這座地端 AI 建築蓋起來。