系列：從現場踩坑到 AI 工具 — IT Diagnostic Agent 開發實錄
Ollama 支援在我的規劃裡，原本的優先順序不高。
我的想法是：雲端模型又快又強，本地模型慢又笨，這功能是給少數技術宅玩的。加一下，不難，順便。
這個判斷錯了。
而讓我改變想法的，不是技術上的發現，是接觸企業需求之後的觀察。
我原本以為企業想要本地模型是為了省錢。
實際上成本只是其中一項，而且往往不是最重要的那一項。
這是我原本完全低估的。
當我把工具介紹給企業端的人時，出現頻率最高的問題不是「準不準」、不是「多少錢」，而是：
「這些資料會傳到哪裡去？」
而 IT 診斷這個場景，資料敏感度比一般人想像的高。
一段典型的診斷對話會包含什麼？
把這些送到境外的雲端 API，對某些企業來說是一個資安事件，而不是一次 API 呼叫。
特別是製造業。我在東南亞接觸的工廠，很多是台商或日商的海外廠，母公司對資訊安全政策有明確規範。「不得將內網架構資訊傳送至第三方服務」這種條文，不是他們想不想的問題，是合規的問題。
在這種情況下：
一個不支援本地模型的診斷工具，不是「比較差的選項」，是「不能用的選項」。
零和一的差別，不是好和更好的差別。
這個理由對我來說特別有體感，因為我的工作場景就是這樣。
我管過的工廠、機房、廠區，有很多地方的網路品質是不穩定的。
而問題在於：IT 工具最需要被使用的時刻，往往正是網路有問題的時刻。
這是一個結構性的矛盾：
網路故障 → 需要診斷工具 → 診斷工具需要網路 → 用不了
一個依賴雲端 API 的診斷工具，在網路故障時是失效的。而網路故障是 IT 最常見的故障類型之一。
我在 Day 06 講純靜態 HTML 時提過，決策樹部分是完全離線可用的。但 AI 對話那部分不是——除非模型也在本地。
Ollama 支援讓這個工具第一次有機會做到「網路全斷也能用完整功能」。
（實務上還是要看你的模型放在哪。放在同一台筆電上是真的全離線；放在區網 Server 上則需要內網通。這也是為什麼後來的確認 modal 做了「本機部署 / 區網部署」兩個分頁。）
成本當然是理由，但它的形狀跟我原本想的不一樣。
我原本想的是「API 呼叫費用」。
企業想的是成本的可預測性與歸屬。
雲端 API 的成本結構：
本地模型的成本結構：
對一個要編預算的 IT 部門來說，「一台伺服器」比「一筆會浮動的月費」好編太多了。
而且回到 Day 11 講的那個問題：我的工具沒有後端，使用者必須自己申請 API Key。這在企業環境裡意味著要走一整套採購與帳號申請流程。
本地模型繞過了整個流程。 那個「五個步驟的門檻」在本地模型路徑上是零。
如果要排序，我的觀察是：
| 理由 | 對企業的權重 | 性質 |
|---|---|---|
| 資料落地 | 最高 | 否決條件（不滿足就不能用） |
| 離線可用 | 中高 | 場景依賴（網路差的環境很關鍵） |
| 成本 | 中 | 加分條件 |
關鍵區別在於：資料落地是否決條件，其他兩個是加分條件。
否決條件不能用加分來補償。一個又快又便宜的雲端方案，不會因為它快和便宜，就變得符合「資料不得外傳」的政策。
這是我從這件事學到最重要的一課。
核心 vs 外部
我原本把「AI 能力強」當核心，「資料在哪」當外部細節。
企業的排序完全相反：資料在哪是核心（合規問題），AI 能力強是外部（效果問題）。
一個工具的核心，不是由開發者定義的，是由使用者的否決條件定義的。
可控 vs 不可控
企業控制不了雲端供應商怎麼處理資料——他們只能看合約和白皮書。
但他們控制得了一台放在自己機房裡的伺服器。
「可控」本身就是企業願意付代價換取的東西，即使那個代價是模型比較笨、速度比較慢。
假設 vs 已成立
「企業要本地模型是為了省錢」是我的假設。
「資料落地是否決條件」是接觸需求後成立的事實。
這兩者之間的差距，是我原本會做錯優先順序的地方。
因為這個認知轉變，Ollama 支援從「順便加的功能」變成了：
那份企業導入文件裡的三階段部署模型，第一階段就是本地模型驗證——因為如果這一關過不了，後面的都不用談。
我必須說清楚：本地模型的品質，跟雲端旗艦模型有差距。 這是事實。
所以真正的問題不是「本地模型能不能取代 Claude」，而是：
IT 診斷這個任務，到底需要多強的模型？
如果答案是「需要最強的」，那本地模型路徑只是一個聊勝於無的降級方案。
如果答案是「不需要那麼強」，那整個局勢就不一樣了。
而我認為答案是後者。理由跟第三章講的結構性紀律有關——那是明天的主題。
我做了二十年 IT，一直是站在「使用者」那一側的人。
但當我變成工具開發者之後，我發現自己開始用開發者的邏輯排優先順序：什麼功能好做、什麼技術有趣、什麼能展示能力。
而使用者的邏輯是：什麼是我不能接受的。
這兩套邏輯的差距，就是很多技術上很好的產品沒人用的原因。
明天預告： 本地模型的必要性確立了。接下來是最實際的問題：到底要多大的模型才夠用？我實測了幾個小模型，而結果跟第三章的結構性紀律有直接關係。
作者：Rich Chang | IT 基礎建設工程師 | 越南・柬埔寨・台灣
iThome鐵人賽
看影片追技術