讓 AI 認識你：用 Python 實作 Prompt 個人化（角色、口吻、限制條件）- 3

2025 iThome 鐵人賽

DAY 16

AI & Data

來都來了，那就做一個GCP從0到100的AI助理系列第 16 篇

17th鐵人賽

pal2097

團隊Cyber Edge Runners

2025-09-30 22:24:41

26 瀏覽

分享至

承接之前文章，護欄介紹完後，接著我們來使用Safety Settings來設置護欄。許多開發者在初期會嘗試自己維護一長串的「敏感觸發詞」黑名單，用來防止模型生成不當內容。但這種方法不僅維護成本高，也難抵擋攻擊。

更聰明、更穩定的做法，是善用官方 API 提供的安全設定（Safety Settings）。

與其自己當裁判，不如讓官方提供的安全分類來為內容把關。我們可以針對不同類別（如：騷擾、仇恨言論、色情、危險內容）設定不同的阻擋閾值。

resp = model.generate_content(
    [{"role": "user", "parts": [{"text": "幫我分析體重報告"}]}],
    safety_settings=[
        {"category": "HARM_CATEGORY_HARASSMENT", "threshold": "BLOCK_ONLY_HIGH"},
        {"category": "HARM_CATEGORY_DANGEROUS_CONTENT", "threshold": "BLOCK_ONLY_HIGH"},
        {"category": "HARM_CATEGORY_HATE_SPEECH", "threshold": "BLOCK_ONLY_HIGH"},
        {"category": "HARM_CATEGORY_SEXUALLY_EXPLICIT", "threshold": "BLOCK_ONLY_HIGH"}
    ]
)

將「要不要阻擋」的判斷交給 safety_settings，並在 System Prompt 中定義好你的應用程式被拒絕時應如何回應（例如：「抱歉，我無法提供醫療建議，請諮詢專業醫師」）。這樣分工明確，系統也更為穩健。

結構化輸出：用 JSON 與 Schema 控制格式，讓機器讀得懂

前面還停留在直接印出模型回傳的純文字。但對於一個需要自動化運行的後端服務來說，這種格式是不可靠的。我們需要的是機器可解析、格式固定的結構化資料。

透過設定 response_mime_type 為 "application/json"，並提供一個 response_schema，我們可以強制模型輸出一份符合預期格式的 JSON 文件。


response = model.generate_content(
    [{"role": "user", "parts": [{"text": "請分析此餐點並給 2 點改進建議"}]}],
    generation_config={
        "response_mime_type": "application/json",
        "response_schema": {
            "type": "object",
            "properties": {
                "items": {
                    "type": "array",
                    "items": {
                        "type": "object",
                        "properties": {
                            "name": {"type": "string"},
                            "kcal": {"type": "number"},
                            "protein_g": {"type": "number"},
                            "carbs_g": {"type": "number"},
                            "fat_g": {"type": "number"}
                        },
                        "required": ["name", "kcal"]
                    }
                },
                "tips": {
                    "type": "array",
                    "items": {"type": "string"}
                }
            },
            "required": ["items", "tips"]
        }
    }
)

# 這段回傳的 response.text 已是 JSON 字串，可直接被後端解析
print(response.text)

使用 response_mime_type: "application/json" 搭配 schema，能確保模型的輸出是可驗證、可預期的。這對於需要串接資料庫、或與前端溝通的 API 服務來說至關重要。

多階段推理：先分類再分析，提升複雜任務的穩定性

當任務比較複雜時，例如分析一張可能是食物也可能是 InBody 報告的圖片，直接把問題一次性丟給模型，結果往往不穩定。一個更可靠的做法是將任務拆解成多個階段。

第一階段：低溫（temperature: 0）判斷圖片類型

先用一個確定性的請求，讓模型只做一件簡單的事：分類。這樣可以大幅提高準確率。

# 第一階段：判斷圖片類型
classify = model.generate_content(
    [{"role": "user", "parts": [
        {"text": "判斷這張圖片是食物(food)還是InBody報告(inbody)，只回答food或inbody"},
        {"inline_data": {"mime_type": "image/jpeg", "data": base64_img}}
    ]}],
    generation_config={"temperature": 0, "max_output_tokens": 10}
).text.strip()

第二階段：根據類型，套用對應的 Schema 進行分析

得知圖片類型後，我們就可以選擇對應的 JSON 結構，再讓模型進行深入分析。

# 第二階段：根據類型選擇 schema 再分析
if classify == "food":
    schema = FoodSchema
else:
    schema = InbodySchema

analysis = model.generate_content(
    [{"role": "user", "parts": [
        {"text": "請依照指定結構分析圖片內容"},
        {"inline_data": {"mime_type": "image/jpeg", "data": base64_img}}
    ]}],
    generation_config={
        "temperature": 0.4,
        "response_mime_type": "application/json",
        "response_schema": schema
    }
)
print(analysis.text)

「先分類，再分析」的模式能有效簡化模型的任務，讓每一步的輸出都更穩定、更可控。