生成式 AI 的蓬勃發展,推動了對模型微調(fine-tuning) 與 平台化開發的強烈需求。本系列以實戰為核心,完整記錄一個可部署、可監控、可回滾的 AI 微調平台的落地過程,涵蓋資料處理、任務排程、訓練與部署、效能監控、多租戶架構等核心模組,並輔以 Kubernetes、MLflow、DVC、Helm Chart 等技術的整合應用。
在落實系統基礎功能的同時,系列文章也嘗試引入 AI 協作的開發模式 —— 包含 AI 生成測試案例、初版設定檔、自動化技術文檔與壓測腳本 等方式,驗證生成式 AI 如何反向參與工程流程,協助開發者提升效率、減少重工,並探索人機協作下的工程最佳化可能性。
生成式 AI 正在快速滲透各行各業,從客服自動化到內容生成,都能看到 LLM(大型語言模型)的應用。然而,當企業需要讓模型更貼近特定場景時,僅依賴 API 調用...
在 Day 1,我們談到微調平台的必要性與挑戰。今天,我們退一步,從高層視角來看,一個「可用的微調平台」應該包含哪些模組,並用架構圖與總覽表快速帶過全流程。...
完整程式碼可在 GitHub 專案中找到:Finetune-30-days-demo / day-3 在上一篇,我們從高層視角看過微調平台的完整架構。今天則聚...
完整程式碼可在 GitHub 專案中找到:Finetune-30-days-demo / day-4 在做實驗時,常常會遇到這樣的情況:模型表現和上次不同,但...
完整程式碼可在 GitHub 專案中找到:Finetune-30-days-demo / day-5 從今天開始,為了呼應這個系列的主題——AI 協作實戰筆記,...
完整程式碼可在 GitHub 專案中找到:Finetune-30-days-demo / day-6 在前幾天,我們已經能順利完成訓練、管理資料、集中配置。但...
完整程式碼可在 GitHub 專案中找到:Finetune-30-days-demo / day-7 在前幾天,我們的訓練流程仍然是直接跑 python tr...
完整程式碼可在 GitHub 專案中找到:Finetune-30-days-demo / day-8 在 Day 7,我們用 Celery + Redis 解...