在前兩天中,我們在 Chatflow 成功串接了講義知識庫,並開啟了引用出處(Citation)功能,讓 AI 助教在作答時能翻閱教材並標註來源段落。
然而在多次提問的過程中,你可能會發現:即便有講義當作參考資料,AI 有時給出的解釋依然有些「放飛自我」或修飾過度。在需要精確背誦專有名詞、國際標準(如 HL7 FHIR、DICOM)的醫學資訊考試中,我們需要的是極度嚴謹、忠於原文且高度穩定的解答。
這背後其實受到模型核心參數——「溫度值(Temperature)」 的深刻影響!今天我們就來透過實測對比,找出打造課堂助教的最佳參數設定。
大型語言模型本質上是在計算「下一個字出現的機率」:
當點開彈窗、滑到最頂部準備找 Temperature 滑動桿時,卻發現一個驚人的事實:
畫面上根本沒有 Temperature 或 Top P 的欄位!
仔細檢視面板中的各項參數,我們找到了關鍵項目——Thinking level(思考等級):
Medium。Minimal、Low、Medium、High 四種選項。這揭示了大型語言模型的架構變革:
Gemini 3.5 系列屬於「強制內建思維推理(Thinking)」的新世代模型。
為了確保模型在內部進行思維鏈推理(Chain-of-Thought)時邏輯嚴密,官方不再開放手動隨意調整溫度,而是直接由 **Thinking level**全權接管輸出的嚴謹與推論深度!
既然由思考等級接管,我們便針對 Thinking level 進行課堂複習的最佳化設定:
| 思考等級(Thinking level) | 運作特性 | 適合情境 |
|---|---|---|
| High/Medium | 模型展開多層推理與情境聯想,回答篇幅長且修飾較多 | 複雜臨床案例分析、綜合診斷推演 |
| Low | 進行輕度推理與語句潤飾,兼顧重點完整度與基本條理性 | 章節重點大綱整理、觀念白話比喻、日常問題答疑 |
| Minimal | 跳過過多自我推論,最忠實、直接地輸出講義核心 | 名詞解釋背誦、考前重點核對、規格標準確認 |
在右側預覽視窗再次提問:「請說明 HL7 FHIR 的主要特點是什麼?」