iT邦幫忙

2026 iThome 鐵人賽

DAY 18
0
AI Security

淺談OWASP Top 10 for Large Language Model Applications系列 第 18 篇

淺談OWASP Top 10 for LLM Applications-Unbounded Consumption:為什麼 AI 特別容易被「耗光」

  • 分享至 

  • xImage
  •  

Day 18|Unbounded Consumption:為什麼 AI 特別容易被「耗光」?

前面介紹了 Data and Model Poisoning,今天進入另一個問題:Unbounded Consumption(無限制資源消耗)。

簡單來說,就是 LLM Application 沒有對 AI 所使用的運算、Tokenㄎ、時間或成本做足夠限制,導致單一使用者或單一請求可能消耗大量資源。

傳統 Application 通常比較容易估算一次請求需要多少資源。

例如查詢一筆資料、執行一次 API,成本通常相對固定。

但 LLM 不太一樣。

  1. Token 越多,消耗越大

LLM 的輸入與輸出通常都會以 Token 計算。

一個簡單問題可能只產生幾十個 Token,但如果輸入包含大量文件,或要求模型產生很長的回答,消耗就可能大幅增加。

因此:

請求看起來只有一次,但背後的計算量可能差非常多。

  1. Context 越長,成本可能越高

現在很多 LLM Application 都會保存對話歷史,或透過 RAG 加入大量 Context。

當 Context 不斷累積時,模型每次處理新的問題,都可能需要重新處理大量內容。

也就是說,看似只是「多聊幾句」,實際上背後需要處理的資料可能越來越多。OWASP 2026 也特別將 Large-Context Abuse 列為 Unbounded Consumption 的風險之一。

  1. Reasoning Model 又多了一層消耗

現在的模型開始加入更長的推理或 Thinking 過程。

這代表使用者看到的可能只是一個簡單問題,但模型背後實際進行的運算量可能遠高於表面上的輸入輸出。

如果沒有適當限制,Thinking Token 本身也可能成為大量資源消耗的來源。

  1. Multimodal 讓一次請求變得更昂貴

現在的 AI 已經不只處理文字,還可以處理圖片、音訊甚至影片。

同樣是一個請求,文字可能只需要少量 Token,但加入高解析度圖片或其他多媒體內容後,需要處理的資料量可能大幅增加。

因此,LLM Application 的資源消耗不再只是單純的「請求幾次」可以判斷。

這也是 Unbounded Consumption 比較特殊的地方。

真正需要控制的,不只是:

「一天可以發幾次 Request?」

還包括:

「每一次 Request 到底花了多少 Token、多少運算資源,以及多少成本?」

而這些問題,會在 AI Agent、長 Context、Reasoning 與 Multimodal 越來越普及之後變得更加明顯。


上一篇
淺談OWASP Top 10 for LLM Applications-模型本身也會被動手腳
系列文
淺談OWASP Top 10 for Large Language Model Applications 共 18 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言