為什麼要先談邊界?
不設邊界,最後都是人幫機器收拾殘局。
強項(觀念)
結構化語言:摘要、改寫、口吻統一、格式轉換
資訊整合:把常見知識湊成「像樣答案」
弱點(風險)
嚴格事實核對、精算、時效資訊、隱含前提推理
幻覺:自信地捏造,尤其在長尾知識或模糊題目
常見誤解
「丟更多上下文就安全」→ 噪音變多,錯得更理直氣壯
「它說得流暢=它是對的」→ 語言表現≠事實正確
如何防呆(觀念)
高風險欄位(法條、金額、指標)人審+雙重核對
強制引用來源、保留決策軌跡、把關鍵步驟模板化
小結
讓它做擅長的 70%,把關鍵 30% 留給流程與人。