iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

拒當 API 韭菜!30 天手邊設備玩轉 AI Agent 系列

當 AI Agent 越來越強,我們是否一定得依賴昂貴的雲端模型與 API?本系列將挑戰利用手邊既有硬體,在有限預算與企業資安限制下,打造一套真正能執行日常工作的地端 AI Agent。

30 天將從 Local LLM 的部署與模型選擇出發,實測不同 Agent 框架,逐步加入工具調用、MCP、Skills、Memory、文件與辦公流程等能力,並進一步探討權限控管、Human-in-the-loop、操作稽核、可追溯性與系統監控。

不追求最強硬體,而是從工程實作角度驗證:不用一直燒 API 費,也能讓手邊設備跑出一套可用、可控、可監控的 AI Agent。

參賽天數 4 天 | 共 4 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文 團隊sudo 人生
DAY 1

【Day 01】拒當 API 韭菜!為什麼我要自己手搓 Local AI Agent?

過去這一兩年,各家前沿生成式 AI 模型的能力早已無庸置疑。日常工作流程裡的各類任務,大多能放心地交給 Agent 執行——讀文件、查資料、寫程式碼、調用工具,...

2026-09-14 ‧ 由 魚釣仔 分享
DAY 2

【Day 02】我手上到底有多少算力?M3 Max vs ASUS Ascent GX10 規格盤點

每次想搭建地端 AI 工作站,硬體規格就是第一個難以跨越的難題,一打開規格表,看到 CPU 幾核、GPU 幾核、頻寬多少 GB/s,滿滿的數字排開,頭都昏了,看...

2026-09-15 ‧ 由 魚釣仔 分享
DAY 3

Day 03】MacBook Pro 推論引擎 該選 MLX 還是 llama.cpp?

上一篇看完 MacBook Pro M3 Max 的硬體規格之後,今天終於要實際把模型丟進去跑了。 這次我想回答的問題很單純: 之後在這台 MacBook P...

2026-09-16 ‧ 由 魚釣仔 分享
DAY 4

【Day 04】Agent 面試現場:什麼模型才真的能幫我做事?

昨天,我們實際在 MacBook 上把模型跑了起來。 分別測試了 llama.cpp 與 MLX 兩種推論方式,也開始建立對 Apple Silicon 本地推...

2026-09-17 ‧ 由 魚釣仔 分享