原本對魔藥學一竅不通的哈利波特,在拿到混血王子的魔藥學筆記後,一次又一次的發現筆記上的方法比教科書的說明更加管用,甚至因此表現得比妙麗更好,讓哈利開始對於這份筆記放下了戒心,產生了盲目的崇拜與信任。然而就是這樣的盲目信任,後來也讓他在衝突中用了不熟悉的咒語,差點殺死了馬份鑄下大錯。
上篇我們提到,在企業導入 AI Agent 時,應該將其視為一位很優秀的職場新鮮人來帶領,讓他的行為不至於超過企業規範。然而很多時候,我們是將 AI Agent 交給了對於資訊系統及資安並不在行的一般員工。
過往這些員工有系統需求時,總是需要先開案,再苦苦等待開發團隊有一天可以終於有時間處理自己的需求,在經過數週甚至數月的漫長等待後,也許開發團隊才終於有時間可以出手修改系統設計。但這還沒完,開發團隊接著會就自己的專業角度、企業組織規範、系統限制、維運成本及資安考量等各個面向妥善思考,以取得一個妥協後可行且安全的做法,而這中間又難免因為需要反覆確認、溝通、調整而累積了大量的時間成本。
正好 AI Agent 最初的工作範圍就是輔助軟體開發團隊進行開發工作。當這些非軟體專業的員工,得到 AI Agent 的幫助後,自然也會開始思考會不會自己的需求不再需要依賴工作堆得比天高的開發團隊了?甚至很多主管直接要求 PM 們跳過開發團隊,一起加入開發的行列。
然而 AI Agent 並沒有內建像開發團隊這麼多的背景知識,也沒有足夠的誘因或指令讓他們往這種多目標最佳化的方向去思考。AI Agent 接到的唯一指令只有讓這個事情成真,其他有納入考慮的都只能算是運氣好的結果。
因此 AI Agent 需要另外有人來幫他確認規劃的方案是否可行。偏偏非軟體專業的員工,對於 AI Agent 的產出,也只有產出能不能達成目的這麼一個唯一的判斷準則。於是當企業缺乏第二道關卡的審查機制時,這些由 AI Agent 產出的快速解,就可能變成埋藏在各部門裡面的不定時炸彈,默默地等待著被觸發引爆的那一刻。
但效率換算成績效的誘惑實在是太大了,大到很多企業員工,甚至主管會選擇蓋牌不說,「不要問、先上線」就這樣成了企業裡的潛規則。這種繞過正規軟體開發團隊審核的做法,也就催生了一個全新型態的影子 IT。
「當企業引進了 AI Agent,以為提升了生產力,其實真正發生的可能是企業花了錢將所有員工都變成了影子 IT,在企業的營運環境中埋下各種不安定因子。」
越來越晚完稿了...這樣不太妙啊...