iT邦幫忙

2026 iThome 鐵人賽

DAY 21
0

第一次在自己做的畫面裡跟 AI 對話,那種成就感真的不一樣。
串接過程
前端把使用者訊息用 POST 送到 /chat,收到 JSON 後再依欄位把回覆、修正與詞彙顯示在畫面上。流程看起來簡單,實際卻遇到不少小狀況。
踩雷一:右上角一直顯示「示範模式」
第一次打開頁面,不管怎麼操作,右上角都顯示「示範模式(未接 LLM)」。這不是程式錯誤:沒有設定 LLM_PROVIDER 時,後端預設就是示範模式,用固定規則模擬 AI。問題在於程式沒有告訴我「到底讀到了什麼設定」。
修正做了三件事:後端啟動時印出目前的模式、頁面頂端加上橘色說明、新增 check_llm.py 一鍵檢查。
踩雷二:不管說什麼,評語都是「很自然」
示範模式只有幾條常見錯誤的規則,句子沒命中就直接回「這句說得很自然」。這是設計缺陷:規則只能判斷「有沒有符合已知錯誤」,無法判斷自然不自然。替身不知道的事,就該承認不知道。現在沒命中時,畫面會說明「無法判斷」,不再稱讚。
踩雷三:AI 的回覆永遠是 "I see…"
我用腳本模擬前端送出訊息的流程來重現問題,發現第一輪的回覆就偏了一句。原因是系統在對話開始前,會自動補上一則假的使用者訊息(部分 API 要求第一則必須是使用者),示範模式卻把它也算成一輪。排除這則訊息後就恢復正常。
這三個問題的共同點是:示範模式「看起來能用,其實不對」,所以一定要在畫面上明確標示。
小結
串接最需要的是耐心,以及清楚一致的資料格式約定。更重要的是,替身(示範模式)如果會讓功能看起來正常,就必須在畫面上標示清楚。第四階段完成,核心功能已經能運作。


上一篇
Day 20|實作簡易對話介面
下一篇
Day 22|設計可切換的 LLM 連線層
系列文
AI 情境英文口語教練——結合 LLM 與自動化工作流的個人化英文學習系統 共 30 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言