iT邦幫忙

2026 iThome 鐵人賽

DAY 30
0
Build on Google AI

將考國際證照的應用程式變成開源系列 第 44

ADR-003-dual-ai-engine-design.md

  • 分享至 

  • xImage
  •  

ADR-003: 雙重 AI 引擎設計 (Dual AI Engine Design)

狀態: 已接受 (Accepted)

日期: 2026-08-02

背景 (Context)

應用程式包含 AI 家教功能,以協助解釋複雜的認證考試概念。然而,使用者即使在離線時也需要此功能,且將所有查詢發送到雲端 API 會引發隱私疑慮和潛在的高昂 API 成本。

決策 (Decision)

實作雙重 AI 引擎:雲端 API (Gemini) + 裝置端 (Gemma 4 LiteRT-LM),並具備自動備援機制。

  • 應用程式預設使用裝置端 Gemma 模型進行離線使用或隱私敏感的查詢。
  • 當有網路連線且查詢需要更高的智慧,或本機模型無法產生具信心的答案時,它會備援 (或升級) 至雲端 API。

考慮過的替代方案 (Alternatives Considered)

  • 僅雲端 (Cloud-only):
    • 優點:品質最佳,無裝置限制。
    • 缺點:需要網際網路,持續的 API 成本,延遲。
  • 僅裝置端 (On-device only):
    • 優點:免費執行,完全隱私,可離線。
    • 缺點:應用程式大小龐大,電池消耗高,模型能力不如雲端。
  • 邊緣伺服器 (Edge server):
    • 優點:平衡成本與效能。
    • 缺點:基礎架構維護,仍需要網際網路。

後果 (Consequences)

  • 正面影響: 100% 離線 AI 可用性、降低雲端 API 成本、增強使用者隱私。
  • 負面影響: 由於綑綁約 1.7GB 的模型導致應用程式大小增加,在舊型裝置上可能有潛在的效能問題。

相關文件 (Related Documents)


上一篇
ADR-002-offline-first-sync-strategy.md
下一篇
ADR-004-dual-payment-provider.md
系列文
將考國際證照的應用程式變成開源51
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言