iT邦幫忙

2026 iThome 鐵人賽

DAY 12
0
AI 自動化

大學生的生存筆記:用 Dify 零程式打造專屬課堂複習與考前衝刺 Agent系列 第 12 篇

Day 12:溫度值(Temperature)原理與新世代模型實戰調校

  • 分享至 

  • xImage
  •  

一、前言

在前兩天中,我們在 Chatflow 成功串接了講義知識庫,並開啟了引用出處(Citation)功能,讓 AI 助教在作答時能翻閱教材並標註來源段落。
然而在多次提問的過程中,你可能會發現:即便有講義當作參考資料,AI 有時給出的解釋依然有些「放飛自我」或修飾過度。在需要精確背誦專有名詞、國際標準(如 HL7 FHIR、DICOM)的醫學資訊考試中,我們需要的是極度嚴謹、忠於原文且高度穩定的解答。
這背後其實受到模型核心參數——「溫度值(Temperature)」 的深刻影響!今天我們就來透過實測對比,找出打造課堂助教的最佳參數設定。

二、什麼是溫度值(Temperature)?

大型語言模型本質上是在計算「下一個字出現的機率」:

  • 溫度值(範圍通常為 0.0 ~ 1.0 或 0.0 ~ 2.0):影響語言模型輸出的參數,決定輸出是否更隨機、更有創意,還是更可預測。
  • 高溫度值(如 0.8 ~ 1.0):提高挑選低機率詞彙的機會,輸出更具創造性的詞彙。
  • 低溫度值(如 0.0 ~ 0.2):模型會高度傾向挑選機率最高、最合理的詞彙,輸出較可預測的字詞。

三、實作探討:在 Dify Chatflow 中尋找參數設定

  1. 進入 LLM 節點:在中間畫布上點擊「LLM」節點方塊,打開右側面板。
  2. 打開模型進階參數:在模型名稱(Gemini 3.5 Flash-Lite)那條灰色長條的最右端,點擊模型設定。

四、實戰踩坑與重大發現:為什麼找不到 Temperature 滑桿?

當點開彈窗、滑到最頂部準備找 Temperature 滑動桿時,卻發現一個驚人的事實:
畫面上根本沒有 Temperature 或 Top P 的欄位!

仔細檢視面板中的各項參數,我們找到了關鍵項目——Thinking level(思考等級):

  • 預設設定為:Medium。
  • 點開下拉選單,只有 Minimal、Low、Medium、High 四種選項。

實戰排查心得:新世代思維模型的演進

這揭示了大型語言模型的架構變革:
Gemini 3.5 系列屬於「強制內建思維推理(Thinking)」的新世代模型。
為了確保模型在內部進行思維鏈推理(Chain-of-Thought)時邏輯嚴密,官方不再開放手動隨意調整溫度,而是直接由 **Thinking level**全權接管輸出的嚴謹與推論深度!

五、實測調校:用「Thinking Level」打造最嚴謹的醫資助教

既然由思考等級接管,我們便針對 Thinking level 進行課堂複習的最佳化設定:

思考等級(Thinking level) 運作特性 適合情境
High/Medium 模型展開多層推理與情境聯想,回答篇幅長且修飾較多 複雜臨床案例分析、綜合診斷推演
Low 進行輕度推理與語句潤飾,兼顧重點完整度與基本條理性 章節重點大綱整理、觀念白話比喻、日常問題答疑
Minimal 跳過過多自我推論,最忠實、直接地輸出講義核心 名詞解釋背誦、考前重點核對、規格標準確認

最佳參數配置步驟:

  1. 在模型設定面板中,將 Thinking level 下拉選單改選為 Minimal。
  2. 關閉彈窗,點擊畫面右上角藍色的「發佈」➔「更新」。

提問實測驗收:

在右側預覽視窗再次提問:「請說明 HL7 FHIR 的主要特點是什麼?」

  • 結構清晰俐落:助教一開頭給出通俗比喻後,立刻直接切入講義重點,並以條列方式呈現「奠基並相容舊有標準」、「模組化的資源(Resources)設計」等核心機制。
  • 忠實於課堂教材:內容嚴格對照了上傳的 FHIR 投影片原文,沒有出現偏離教材的發散推想。

上一篇
Day 11:引用出處設定:讓 AI 標註「這題出自講義第幾段」
下一篇
Day 13:多名詞檢索實測:語意搜尋 vs. 關鍵字搜尋
系列文
大學生的生存筆記:用 Dify 零程式打造專屬課堂複習與考前衝刺 Agent 共 18 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言