前兩天講的兩種現象——連線失敗就下結論走不通、驗證工作丟回來問——表面上是不同的問題,但往下挖會發現同一個根因:AI 在沒有被明確告知的情況下,不知道「失敗到什麼程度才算真的走不通」,也不知道「查證到什麼程度才算真的查過了」。
值得先釐清一件事:這不是「AI 不知道該重試」這種能力層面的缺陷——如果明確告知「連線失敗要重試三次以上才能下結論」,AI 完全做得到。問題在於,在沒有被告知的情況下,AI 對「這件事該做到什麼程度才算完成查證」沒有一個明確的預設值,只能憑當下情境自行判斷,而這個判斷標準不一定跟使用者心裡的標準一致。
回顧前兩天的案例:連線失敗一次就判斷服務停用,本質上是「重試到什麼程度才算走不通」這件事沒有預設值;把分支保留與否丟回來問,本質上是「查證到什麼程度才算查過了」這件事也沒有預設值。兩種看似不同的現象,其實是同一個缺口在不同情境下的兩種表現——缺的不是能力,是一個明確的、可以套用在各種情境的判斷標準。
因為每一次的糾正,看起來都是針對「這一次的問題」——「這個服務其實還有其他連線方式」「這個分支其實查得到合併狀態」。如果只停留在解決眼前這一次,很容易忽略「這些糾正背後其實是同一件事沒講清楚」這個更深層的模式。要看到這個根因,需要把多次糾正放在一起比較,才會發現它們指向同一個缺口。
回想你對 AI 做過的幾次糾正,如果把它們放在一起看,有沒有可能其實都指向同一條你從來沒有明講過的判斷標準?
明天講另一個根因:「你自己選」聽起來尊重你,其實是沒做完該做的查證。