昨天我們探討了如何保護 Prompt 不被惡意竄改,今天我們則要解決系統串接時最大的痛點:如何解析 AI 的廢話?
大語言模型天生喜歡用自然語言聊天,但當我們的後端系統(例如使用 Java 開發的應用程式)準備接收這些資料時,純文字是非常難以處理的。我們需要的是穩定的 JSON 格式。
要在工程上精準控制 AI 的輸出結構,有以下幾種常見的實作方式:
提供 Few-Shot 範例:
在 Prompt 中直接給予一到兩個標準的 JSON 範例,讓模型「照樣造句」。明確指定 Key 的名稱與 Value 的型別。
限制只輸出 JSON:
在指令末端加上強烈語氣:「請『僅』輸出合法的 JSON 格式,不要包含任何 Markdown 標記或其他解釋性文字。」
啟用 API 的 JSON Mode:
現在主流的 API(如 OpenAI)已經支援在程式碼參數中直接設定 response_format: { type: "json_object" },從底層強制規範模型的輸出行為。
掌握了結構化輸出,AI 就不再只是一個聊天機器人,而是能真正融入系統資料流的強大元件。接下來,我們準備進入 RAG 的世界。