iT邦幫忙

2025 iThome 鐵人賽

DAY 11
0
Software Development

AI 慣老闆的 AI 學習歷程 - AI 時代的軟體工程的反思系列 第 11

AI 慣老闆的 AI學習日記 Day 10 - 流量暴衝 Replit timeout! 你聽過 autoscale 嗎?

  • 分享至 

  • xImage
  •  

https://ithelp.ithome.com.tw/upload/images/20250814/20142509zMERtbTEsH.png

貝老闆 Replit 越用越順手,今天他很有信心地把網路廣告一打下去,昨天剛設定好的監控系統,馬上看到拜訪人數飆增,過了幾分鐘網站瞬間卡到爆。貝老闆還一副「哇!生意來了!」的表情。

對話場景

(廣告上線 5 分鐘後)

小可(皺眉):老闆,我們網站掛了。

貝老闆(興奮):掛了?哇!這代表流量暴衝啊!讚讚讚~

小可:可是現在全部訪客都卡在購物車不能結單啊……

貝老闆:恩..我看到 Grafana 上的圖表全部滿載,怎麼才幾百個人怎麼就跑不動了?

小可:因為你當初選最便宜方案啊……

貝老闆:啊?

小可:你不是說「先選最便宜的再說」嗎?所以都是選最低 CPU 和 memory 方案,Autoscale 也都沒開。

貝老闆:Auto scale 是要做啥?自動展開?領域展開?

(小可深吸一口氣,撥電話給好威)

好威(電話那頭):貝哥哥賺翻啦,廣告前不做壓力測試、不調整機器等級,沒設定auto scale(自動擴展),這不就是「卡到爆測試」?

小可:他還不知道 auto scale 是幹嘛的,只知道領域展開。

好威:領域展開你當你五條老師啊,Auto scale 就是當流量暴衝時,自動加更多開機器幫你撐流量,不然就是坐等網站變成 PPT。你們這是直接上線玩命啊。

貝老闆:那現在怎麼辦?

好威:先把廣告暫停、趕快升級方案,再去做壓力測試。還有,下次要投廣告前,記得先問 AI:『我的架構能不能撐多少人同時上線?』不然你就是在買災難票。

🔍 概念拆解

1️⃣ Performance Test(效能測試)
首先你不知道你開的最便宜機器能撐多少人,而效能測試就是在網站被真實用戶「弄爆」之前,先用工具模擬高流量,看系統能不能撐住。傳統軟體工程會用 JMeter、k6 之類的工具,模擬幾百、幾千人同時訪問。對不懂技術的人來說,你可以想像是先找一群臨演來擠餐廳,看會不會被擠爆、廚房會不會崩潰。
💡 跟 AI 協作的方法:直接問 AI「幫我設計一個網站壓力測試方案,假設同時有 X 人在線,請給我測試指令與步驟」,AI 甚至可以幫你生成測試腳本。

2️⃣ Autoscaling(自動擴展)
自動擴展就是當流量超過平常負載時,系統自動加更多 CPU、記憶體或伺服器來分擔壓力,就像餐廳忙到爆時,立刻多開幾個爐灶和找臨時工。傳統做法要先在雲端平台設定閾值(例如 CPU 超過 70% 就多加一台伺服器)。
💡 跟 AI 協作的方法:問 AI「我現在用的雲端服務支援哪些 autoscaling 機制?要設定哪些條件?」AI 可以一步步教你在 AWS、GCP、Azure 或 Replit 找到設定頁並配置好。


🎯 Takeaways

  • 流量是雙面刃:沒有準備好的流量,只會變成「卡到爆」。
  • 廣告前必做功課:先做壓力測試、確認自動擴展有開啟,再打廣告,才不會花錢買災難。
  • 善用 AI 做前置檢查:AI 不只會寫程式,也能幫你檢查「架構能不能撐住目標流量」。

今日提問

你是一個專業 SRE 幫我規劃我的網站上線前壓力測試,以及 autoscale 該做什麼設定的規劃


上一篇
AI 慣老闆的 AI學習日記 Day 9 - 看不到錯誤只能瞎猜:「到底錯在哪?」
下一篇
AI 慣老闆的 AI學習日記 Day 11 - 客戶回報 Bug 工程師重現不了:「怎麼重現?」
系列文
AI 慣老闆的 AI 學習歷程 - AI 時代的軟體工程的反思34
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言