在前面的文章中，我們大致掌握了 AI 助理的基礎知識：從 LLM 模型的運作原理、提示詞設計（Prompting）、RAG 技術，到如何用 Context 提高回答可靠度。

現在，終於要踏入「開發」階段了！我們將開始使用 Google Cloud 的 Vertex AI 與 Gemini API，把前面學到的理論應用在實際的 AI 助理建置上。

在這篇文章，我們先來弄清楚：什麼是 Vertex AI？它和 AI Studio 有什麼差別？為什麼我們要選擇 Vertex AI 來開發 AI 助理？

Vertex AI 和 AI Studio 有什麼差別？

Vertex AI 是 Google Cloud 旗下的一個整合式 AI 平台，專為企業打造，用於管理 AI 模型開發的整個生命週期。簡單來說，它不只是一個讓你呼叫 AI 模型（例如 Gemini）的工具，而是一套完整的解決方案，涵蓋了從資料準備、模型訓練、效能評估、部署上線，到後續維運監控的所有環節。它是一個企業級的 AI 生產工廠。

它和 AI Studio 有什麼差別？

最關鍵的差別在於「定位」：AI Studio 為快速體驗而生，Vertex AI 為正式產品而生。

AI Studio 是驗證 AI 想法、測試提示詞 (Prompt) 的最佳起點；而當準備將這個想法打造成一個穩定、安全、能服務大量用戶的 AI 助理時，Vertex AI 才是專業的選擇。

為什麼我們要選擇 Vertex AI 來開發 AI 助理？

當要開發一個正式的 AI 助理時，會遇到許多在 AI Studio 不會碰到、但至關重要的問題。Vertex AI 正是為了解決這些問題而設計的：

• 安全性與權限控管：

  • 痛點：不能讓整個開發團隊共用同一支 API 金鑰，這非常危險。
  • Vertex AI 解法：透過 GCP 的 IAM 系統，可以為每位成員或每個服務設定專屬權限，確保系統安全。

• 整合企業內部知識：

  • 痛點：AI 助理需要回答公司內部的特定問題，例如產品規格、HR 政策等。
  • Vertex AI 解法：它內建了強大的搜尋和資料管理工具，可以快速建立一個讓 AI 讀取公司內部文件的知識庫，讓回答更精準、更符合企業需求。

• 確保服務穩定與高效：

  • 痛點：當大量使用者同時上線時，AI 助理服務不能當機或變慢。
  • Vertex AI 解法：可以將 AI 模型部署在 Google 強大且具備自動擴展能力的雲端基礎設施上，確保服務全年無休且維持高效能。

• 監控效能與成本：

  • 痛點：需要知道 AI 助理的運作狀況，例如回應速度、錯誤率，以及哪個功能最耗費成本。
  • Vertex AI 解法：它提供完整的監控儀表板和日誌記錄，對服務的健康狀況和花費一目了然，便於優化與管理。