iT邦幫忙

2025 iThome 鐵人賽

DAY 29
0
Software Development

AI 慣老闆的 AI 學習歷程 - AI 時代的軟體工程的反思系列 第 29

AI 慣老闆的 AI學習日記 Day 28 - 心理安全不足,AI 出錯互相怪

  • 分享至 

  • xImage
  •  

https://ithelp.ithome.com.tw/upload/images/20250901/201425094qT2DMLs9u.png

(辦公室裡,貝老闆臉色鐵青,看著畫面上的錯誤報表)

貝老闆:「這什麼鬼數字?AI 是不是壞了!」

小可(疲憊地翻白眼):「我那時就說要 double check prompt。King,你不是說這個版本測過了?」

King(眉頭緊皺,低聲抱怨):「我照上週那個 prompt 寫的,結果 AI 回出來的是舊規格……」

AI 實習生(舉手,單眼冒出問號):「我只是依照你們給的提示,努力生成呀!」

(電話另一端傳來好威的聲音)

好威(冷冷地):「來來來,又在互相甩鍋喔,不是有了 AI 都甩給 AI 。問一句:你們到底有沒有寫過回顧會公約?」

概念拆解:Blameless Culture/Team Working Agreement

1. Blameless Culture:出錯先看系統,不先抓戰犯

在 DevOps 與敏捷團隊中,一個健康的開發文化核心就是 Blameless Culture。意思不是大家都不用負責,而是當錯誤發生時, 先專注於改善流程與工具,而不是指責人

這種文化能讓大家比較有心理安全感,願意坦承錯誤、貢獻想法。否則每次出事都在互相怪來怪去,久了誰還敢講話?

實務做法像是:

  • Postmortem 報告中不寫是誰按錯,而是分析為什麼可以錯得那麼容易。
  • 問題出在流程設計、工具配置還是權限設定?
  • 改成 checklist、guardrail、prompt template 來減少人為疏失。

👉 和 AI 協作也一樣,不是 AI 錯,而是我們給錯 context 或 prompt 沒寫清楚。

2. Team Working Agreement:寫下共識,避免空氣協議

心理安全不是嘴巴講講,需要明文化

像是在敏捷開發團隊,每次 Sprint 回顧會,都可以寫下一份「Working Agreement」,例如:

  • 發現錯誤先找流程,不責怪個人。
  • Prompt 改動要經過討論再套用。
  • AI 輸出是建議不是事實,要經人判斷。

小型團隊也可以用 Notion 或 Google Docs 記錄,每週定期回顧一次,調整內容。

這對團隊協作很重要,尤其是人與 AI 混合協作的團隊。

👉 AI 不會知道你們的默契,你不說,它就照著你現在講的做

Takeaways:

  1. 錯誤是學習機會,不是抓戰犯

    • 每次問題都追究誰按的、誰寫的 prompt,只會讓人想躲避責任。
    • 把問題當作系統優化的機會,長遠來看更有價值。
  2. 明文化團隊協作規範,增加 AI 使用一致性

    • 每次 prompt 都不一樣、上下文不一致,AI 當然會漂移。
    • 建議建立 prompt library,讓 AI 有一致的參照基礎。
  3. 心理安全感決定創新速度

    • 團隊氣氛差,沒人敢講真話,AI 生成出來的問題只會越堆越多。
    • 建立安全發言機制,讓大家敢討論 AI 的輸出好壞。

今日提問:

你們團隊有訂過「AI 使用公約」嗎?還是都靠默契和臨時喊卡?

📌 Prompt 小作業:

「請幫我寫一份適合我們設計團隊的 AI 使用協議草案,內容包含錯誤處理、prompt 提交規範、模型選用原則等,語氣輕鬆但專業。」


上一篇
AI 慣老闆的 AI學習日記 Day 27 - AI 治理缺位:模型更新、注入、漂移
下一篇
AI 慣老闆的 AI學習日記 Day 29 - 決策會議:成本 × 速度 × 風險 —「現在要衝還是先穩?」
系列文
AI 慣老闆的 AI 學習歷程 - AI 時代的軟體工程的反思31
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言