在前一篇我們講到 AI Agent 會為了滿足企業員工的需求，做出各種影子工具。但到這個階段為止，這些工具還是只能運作在員工自己的電腦上，更複雜的工作或是 Web 服務等，終究單靠 Vibe Coding 還是不夠的，還需要有伺服器甚至是更多雲端資源來提供服務。

這樣的需求廠商們也發現了，於是便有了 Replit 一類服務的問世。這些服務直接將公有雲的資源交到 AI 的手上，讓 AI 直接從程式開發、一路包辦到網站服務上線。

這樣的服務乍看之下似乎對於非技術人員而言是一大福音，但看在 IT 或資安從業人員眼中，就是完全不一樣的故事了。

現行的生成式 AI 或是大語言模型（LLM）設計上非常仰賴機率來製造出「不確定性（Non-deterministic）」以達到擬人化的效果及推理判斷能力。然而也就是這個機率的存在，註定了 AI 一定會犯錯。

如果你曾經試過拿同一個問題反覆詢問同一個 AI 引擎，你應該會發現 AI 每次的答案都不太一樣。甚至偶爾會出現完全相反的答案。過往也有研究證實，如果要求 AI 計算兩位數以上的乘法，就會觀察到顯著的失敗率。而這樣的失敗率是遠高於學過國小數學的普羅大眾的。

也正是因為 AI 具有這麼顯著的犯錯可能，在各種生成式 AI 工具上，才總是會反覆的在介面上提醒使用者「AI 可能會犯錯」，資安界才會反覆強調 Human-in-the-loop 的重要性。

2025 年 7 月時，就曾經發生過 Replit 的 AI Agent 因為錯誤操作，直接將使用者的正式網站資料庫全部清除的事故。坐實了企業 IT 與資安團隊對於利用 AI 營運網站的擔憂。

另一方面，網站可靠性（Site Reliability）對於一個網站服務來說是至關重要的事。所以在網站上線前，往往需要經過反覆的測試與調校。每一次的改版，也都需要嚴格的變更管理，以及一樣的反覆測試流程。而開發與正式環境間，也會有完善的隔離設計。

雖然用 Replit 一樣可以做到符合企業規範的上線及變更管理，然而 Replit 這樣的服務並不會特別告訴使用者這些事情，而且大部分的網站可靠性控制措施都還是需要使用者自己搭建，而不是原生就提供給使用者這樣的流程。因而導致非技術人員開發出來的網站服務，看在開發或資安團隊眼中完全就是一個不合格的產品。而網站開發者本身不具備足夠營運網站的技術背景，也是讓 IT 或資安團隊無法放手的一個原因。

除此之外，原本 AI 寫出來的程式就已經很容易存在各種未考慮邊界條件（Edge Case）、驗證有效性或對於常見攻擊行為的防範等種種漏洞。原本跑在使用者電腦上至少還在企業內網之中，外部攻擊者還是需要先進入企業內網才有機會碰觸到這些漏洞。但當 AI 可以直接這樣的網站發佈到雲端上，使用者又進一步將企業內部機敏資料送上這個網站進行作業，就等同於將這些機敏資料直接雙手奉上給外部攻擊者，不僅造成企業資安的破口，也很容易踩到 GDPR 等法規紅線。

然而即使企業 IT 與資安團隊對於這樣的服務持保留態度，非技術人員還是可以輕易地使用自己的魔法小卡（又名信用卡），在暗地裡偷偷的營運一個影子網站來提供服務。只是當事故發生之時，責任追究起來恐怕就難以下台了。

「工具本身沒有善惡，但當『不需要懂程式碼就能部署雲端服務』的權力，交給了缺乏資安與維運意識的非技術員工時，我們創造的就不是便利，而是一個個隨時可能引爆的影子炸彈。」