當 AI Agent 越來越強,我們是否一定得依賴昂貴的雲端模型與 API?本系列將挑戰利用手邊既有硬體,在有限預算與企業資安限制下,打造一套真正能執行日常工作的地端 AI Agent。
30 天將從 Local LLM 的部署與模型選擇出發,實測不同 Agent 框架,逐步加入工具調用、MCP、Skills、Memory、文件與辦公流程等能力,並進一步探討權限控管、Human-in-the-loop、操作稽核、可追溯性與系統監控。
不追求最強硬體,而是從工程實作角度驗證:不用一直燒 API 費,也能讓手邊設備跑出一套可用、可控、可監控的 AI Agent。
過去這一兩年,各家前沿生成式 AI 模型的能力早已無庸置疑。日常工作流程裡的各類任務,大多能放心地交給 Agent 執行——讀文件、查資料、寫程式碼、調用工具,...
每次想搭建地端 AI 工作站,硬體規格就是第一個難以跨越的難題,一打開規格表,看到 CPU 幾核、GPU 幾核、頻寬多少 GB/s,滿滿的數字排開,頭都昏了,看...
上一篇看完 MacBook Pro M3 Max 的硬體規格之後,今天終於要實際把模型丟進去跑了。 這次我想回答的問題很單純: 之後在這台 MacBook P...
昨天,我們實際在 MacBook 上把模型跑了起來。 分別測試了 llama.cpp 與 MLX 兩種推論方式,也開始建立對 Apple Silicon 本地推...