iT邦幫忙

2026 iThome 鐵人賽

DAY 26
0
自我挑戰組

架構思維比語法重要-大道至簡的 AI 落地學:帶領跨部門同仁啟動 AI 助理協作革命系列 第 26 篇

Day 26|邊界閉環(中):十條公約的自律——非技術者的沙盒戒律與共同責任模型

  • 分享至 

  • xImage
  •  

集團築起的硬防禦,成功擋住了外部的威脅與未經授權的連線;但在高牆內部,當非技術同仁打開 VS Code、啟動 Vibe Coding 的那一刻,全新的風險便轉移到了「人與工具的交互行為」上。

AI 寫程式碼的速度極快,執行指令的效率極高。如果缺乏操作紀律,它可能在兩秒內順從地替你清空整個目錄,或是將測試資料直接覆蓋掉團隊的正式文件。

在雲端運算的世界裡,有一個著名的架構原則叫做「共同責任模型(Shared Responsibility Model)」:AWS 或微軟 Azure 負責「雲端本身的安全(Security of the Cloud)」,包括底層機房、伺服器與虛擬化網路;但使用者必須為「雲端內部的安全(Security in the Cloud)」負責,包括作業系統設定、存取權限與資料內容。

將這個模型映射到我們的工作坊:集團負責 AI 管道的安全,而我們每個人,必須為自己敲進提示詞的內容與操作行為負起百分之百的責任。

為此,在每一期工作坊的第一天,我們沒有急著教語法,而是全員確立並恪守屬於我們自己的「十條內部公約」。

一、工作坊的十條內部公約:防呆、防險與自我約束

這十條公約看似樸實無華,實則每一條背後都凝結了系統維運的真實教訓:

【角色認知與心理邊界】

  1. 清楚自己不是專業開發工程師,要謹守邊界

承認自己的局限。我們學習 Vibe Coding 是為了解決個人日常業務的痛點,而不是為了去改寫公司的核心交易系統或架設未經審查的微服務。

【空間隔離:沙盒概念的實踐】
2. 只有在測試區執行 Vibe Coding,不要越界

所有讓 AI 生成程式碼、執行腳本、轉換資料的動作,絕對只能在被定義為測試環境的本地端目錄中進行。

  1. 執行 Vibe Coding 的區域,就是測試區

這是一條反向約束——只要你打開了 AI 協同開發工具,那個工作目錄在地位上就是「隨時可以被摧毀的沙盒」,絕不能把重要的生產資料直接混在裡面。

【資料流轉與資產防禦】
4. 在測試區完善的成品,自行手動備份到正式區

AI 跑順的腳本或清洗完的報表,必須由人類雙眼親自檢查驗收後,透過手動複製的方式搬移至正式工作區,絕不讓 AI 擁有直通正式區的寫入權限。

  1. 專案仍在進行中,或長期專案,需定期備份

養成建立版本存檔的肌肉記憶。在調教 Prompt 的過程中,隨時可能因為一次發散的對話把先前的成果搞亂,備份是唯一的後悔藥。

  1. 專案總結或重要的對話紀錄記得備份

AI 的對話串具有瞬態特性,容易因上下文溢出、介面重整或歷史紀錄遺失而被沖刷掉。把調試成功的關鍵 Prompt、推理邏輯手動存成 Markdown 筆記,就像大廚留下自己的私房食譜,是為了讓自己在未來處理同類業務時能隨時調出來複用、隨時有後路可退。

【破壞防護:絕對禁止的危險操作】
7. 不要在與 Vibe Coding 對話中下達刪除指令

永遠不用自然語言要求 AI 去做「清理目錄」、「刪除多餘檔案」的動作。需要刪除,自己手動右鍵丟進資源回收筒。AI 缺乏物理常識,極容易在路徑解析錯誤時遞迴清空整個硬碟。

  1. 不要在與 Vibe Coding 對話中直接存取網路資料夾

絕對禁止讓 AI 腳本直接掛載或讀寫公司的共享網路磁碟。網路磁碟涉及多人協同與權限繼承,一旦被腳本意外覆蓋,將演變成跨部門的災難。

  1. 不要在與 Vibe Coding 對話中直接存取正式區

正式環境是神聖不可侵犯的領域。保持「單向匯出、人手搬運」,是隔絕 AI 幻覺破壞生產環境的終極防火牆。

【心態底線】
10. 公司的 AI 有資安保護,但大家都有責任保護資料

不要因為工具打上了商務保護標章,或者因為公司有了重重保護機制,我們就遺忘了我們正是資料保護最重要的的第一道防線。

二、血淋淋的前車之鑑:為什麼禁止下達「刪除指令」與「直連網路磁碟」?

許多初學者會疑惑:公約第 7 條和第 8 條是不是太過保守?既然 AI 那麼聰明,叫它幫忙整理並刪除舊檔案不是理所當然嗎?

在軟體工程與 IT 基礎設施的歷史上,這類「過度信任自動化」所引發的悲劇不勝枚舉。

2016 年,全球知名程式碼代管平台 GitLab 的工程師在進行資料庫維護時,原本打算在次要節點清理測試資料,卻在疲勞與混亂中執行了一條遞迴刪除腳本,直接將正式生產資料庫的 300GB 數據抹除乾淨,導致全球服務中斷數十小時。連受過嚴謹訓練的資深工程師都會在路徑與指令上失誤,更遑論依賴機率模型推論的大語言模型。

在我們的實際測試中,當你要求 AI「幫我整理資料夾,把不要的暫存檔刪掉」時,AI 很可能因為對相對路徑(Relative Path)的理解偏差,生成出針對根目錄的強制刪除指令。如果此時終端機具備執行權限,整個目錄便會在瞬間消失。

同樣地,禁止直連網路共享磁碟機,是為了防止「單點故障的跨部門擴散」。個人的測試環境壞了,最多花十分鐘重新解壓縮;但如果腳本指向了部門共用的網路硬碟,並因為邏輯迴圈鎖死了檔案或破壞了結構,整個部門的業務就將面臨停擺。

三、把戒律刻進肌肉,換來無拘無束的專注

公約不是拿來貼在牆上應付檢查的標語,它是非技術同仁在進入未知戰場時隨身配戴的護身符。

除了防範不要對外造成破壞之外,我們也強調要備份對話紀錄與工作成果,為自己留下可反覆調用的數位資產。

當同仁在心裡牢牢築起了這十條防線,奇妙的事情發生了:大家不再害怕犯錯。

因為每位學員都清楚知道,只要自己待在「測試區沙盒」裡、只要自己不給刪除指令、不碰網路硬碟,那麼無論終端機跳出多麼驚悚的報錯,無論 AI 寫出了多麼離譜的迴圈,影響範圍永遠被鎖定在這個小小的資料夾內。

外在的企業高牆,加上內在的十條戒律,兩者交織在一起,究竟如何拼湊出一幅無懈可擊的企業級落地藍圖?在下一篇,我們將揭開四大邊界的完整閉環。


上一篇
Day 25|邊界閉環(上):集團築起的高牆——硬防禦如何成為自由探索的安全帶
下一篇
Day 27|邊界閉環(下):四大維度的完美閉環——瑞士乳酪模型下的 AI 縱深防禦
系列文
架構思維比語法重要-大道至簡的 AI 落地學:帶領跨部門同仁啟動 AI 助理協作革命 共 29 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言