iT邦幫忙

1

OpenRouter與Crazyrouter:快取未命中如何拖高帳單

  • 分享至 

  • xImage
  •  

把「相容 Anthropic」拆成可驗證的欄位、計價方式與限制作用域,三個月後還能用同一份判準重跑。

把同一條 Claude 請求分別送到 OpenRouter 與另一家 API 閘道,兩邊都回 200。都有 Anthropic Messages 端點,x-api-key 與 Authorization: Bearer 都能用,用戶端一行都不用改。標價也一樣,都跟著廠商定價走。

所以牌面是平的。剩下能比的只有工程:在 token 之上還加了什麼,以及請求離開你的程式之後發生了什麼。

真正不同的有四處:

  • 回應欄位。 OpenRouter 把各家欄位正規化成一套跨廠商命名;另一家原樣透傳 Anthropic 的回應。
  • 路由。 OpenRouter 把一個開源模型分散到多個託管方,預設按價格加權挑選;另一家直供,一個模型 ID 一個價,沒有 provider 參數。
  • 規則寫在哪。 OpenRouter 的降級寫在請求或預設集裡;另一家的白名單、預算寫在 API 金鑰上。
  • 模型池。 正規化後 372 對 177。這一格是後者的短板,不繞開。

兩家的差別不在介面,而在需求落在哪一側。有些場景 OpenRouter 是更合適的選擇:自帶 provider 金鑰、可以等的批次任務、必須留在歐洲的 prompt、需要 SAML SSO 與合約 SLA 的採購。

一眼看完的對照

基準是共通的。兩家閘道都提供:一把 API 金鑰加一個餘額,涵蓋 OpenAI、Anthropic、Google 與各開源實驗室的模型;預付額度;同一把金鑰下的圖片、影片、語音模型;按金鑰設定花費上限;信用卡與支付寶儲值。

分歧在這裡。數字取自兩家各自的公開介面與文件,主體資料核對日為 2026 年 10 月 12 日,其餘依段落內標註的日期:

OpenRouter 另一家閘道
Claude、GPT、Gemini、Grok 廠商標價 廠商標價 × 分組折扣
協定 Chat、Responses、Messages Chat、Messages(兩種認證標頭都可用)
開源權重模型 按實際託管方價格計費 一個模型 ID 一個價
限制與降級設在哪 請求或預設集(models、@preset) API 金鑰(白名單 + 預算)
自帶 provider 金鑰 每月 2.5 萬美元以內免手續費,之後 5% 文件未列對應機制
批次與彈性定價 約半價 文件未列批次端點
快取未命中的原因 無,只看到 cached_tokens 變 0 diagnostics.cache_miss_reason
思考 token 計數 正規化進 usage output_tokens_details.thinking_tokens 單獨列出
零資料保留 所有方案可用 文件未列 ZDR 類選項,僅有「暫存圖片保留 48 小時」
區域內路由 Business 可選歐盟或美國 無
模型條目(正規化唯一型號) 458 / 372 177 / 177

有三列要加註。

  • 模型池。 372 對 177 是實打實的差距,集中在開源權重長尾:Qwen3 37 對 12、Gemini 23 對 8、DeepSeek 17 對 4。做多模型橫向比較、或需要冷門開源權重模型,這一格直接決定選型。
  • 限流門檻。 另一家沒有公布 RPM、TPM、並行數,也沒有 Retry-After 說明。公開到這個程度的是 OpenRouter:402 管餘額與 in-flight 預算、403 管組織預算、429 管請求數。
  • 資料保留。 OpenRouter 的 ZDR 只路由到不保留 prompt 的端點;另一家這邊只有「暫存圖片預設保留 48 小時後自動清理」一條說明。涉及資料落地(data residency)的場景,這一條足以直接決定選型。

分岔一:開源權重模型,一個 ID 多個託管方

這一節只影響開源權重模型。模型固定在 Claude 這類閉源模型的話,可以跳到下一節。

閉源模型只由廠商或其授權夥伴提供。開源權重模型誰都能託管,在 OpenRouter 上,這同時改變你付的價格與拿到的東西。

以 GLM-5.3 為例。2026 年 10 月 26 日,OpenRouter 為它列出 47 個 endpoint:輸入價從每百萬 token $0.07 到 $2.80,其中 30 個標記為 fp4、nvfp4 或 fp8 量化,Z.AI 自己的 endpoint 收 $1.40 / $4.40。招牌價 $0.07 是這些 endpoint 裡最便宜的一個,不是 Z.AI 的價。

路由規則就是這件事要緊的原因。預設情況下,OpenRouter 按價格的平方反比加權挑選託管方,所以一條 z-ai/glm-5.3 請求最可能落到便宜的託管方,而官方文件也警告,量化模型「在某些 prompt 上可能出現效能下降」。

要拿回控制權,在請求內容裡設定 provider 物件:

{
  "model": "z-ai/glm-5.3",
  "provider": { "order": ["z-ai"], "allow_fallbacks": false }
}

這是指定 Z.AI 並關閉降級,代價是:該 provider 一旦故障,請求直接失敗。

另一家是直供,一個模型 ID 只有一個標價,也沒有 provider 參數可設。取捨是選擇權與記帳成本:要最廣的託管方選擇、開源權重模型盡可能低的價格,OpenRouter 的市場同時給了這兩樣;不想在每個請求裡管理 provider 偏好,一個 ID 一個價更省事。

分岔二:規則寫在請求裡,還是寫在金鑰上

OpenRouter 會在首選模型失敗時換一個模型重試,規則寫在請求裡:傳一個 models 清單,或存一個預設集、把 @preset/<name> 當模型名送出去。兩種方式下,用戶端都得送 OpenRouter 特有的東西。它還有 openrouter/auto 這個自動路由器,路由本身不額外收費。

另一家把限制設定在控制台的 API 金鑰上:模型白名單、token 預算。用戶端繼續送原本在用的模型名,未授權的模型回 model not allowed(403),超預算回 429 或額度耗盡。這在兩種情況下有用:只接受特定模型名的工具,以及沒辦法為了一條規則重新部署的應用。

限流作用域也不同。OpenRouter 明確寫著多開金鑰不會放寬額度,容量全域管控;另一家的排障文件把「把流量分散到多個 token」列為 429 的解法,說明限流按 token 計,而不是全域。

OpenRouter 的限流文件把 402、403、429 的管轄範圍分開寫

官方文件畫面,2026 年 10 月 12 日擷取。三種狀態碼各管一件事,是實作退避邏輯的前提。

分岔三:協定各有各的加法

兩家都提供 OpenAI Chat Completions 與 Anthropic Messages。所以說 Anthropic Messages 的 Claude Code,在兩家都能跑。OpenRouter 另外提供 OpenAI Responses API(Codex 走的就是這套);另一家目前能確認的是 Chat Completions 與 Anthropic Messages 兩個入口,走 Responses 的工具,先在它的文件裡確認端點再用。

另一家的加分項在認證:x-api-key 與 Authorization: Bearer 兩種都回 200,從別的閘道搬過來不用改用戶端的認證方式。OpenRouter 的加分項在協定廣度與工程細節,例如 Provider Sticky Routing——快取命中後把後續請求黏在同一個 provider 上維持熱度,provider 不可用時自動回退。

對 Claude Code,另一家的設定是三個環境變數:

export ANTHROPIC_BASE_URL="https://api.crazyrouter.com"
export ANTHROPIC_AUTH_TOKEN="你的金鑰"
export ANTHROPIC_MODEL="claude-sonnet-5-5"

官方文件對 Claude Code 基礎位址的說明

官方文件畫面,2026 年 10 月 12 日擷取。基礎位址填根網址,路徑由用戶端補上。

協定支援仍因模型而異,依賴某個端點前先看該模型在模型目錄裡的頁面。

帳單:同樣的 token,不同的加價

OpenRouter 的定價頁寫得很明確:不對推理加價,所有方案都按 provider 標價付費,費用收在買額度這一步。Standard 方案刷卡 5.5%(最低 $0.80)、加密貨幣 5%;Business 方案 8%;手續費不退。

另一家的單價裡已經含了分組折扣,按實際呼叫量結算:用多少 token 扣多少。

按每百萬 token(輸入/輸出)計算,把儲值條款算進去之後:

模型 廠商標價 OpenRouter(含手續費) 另一家(優惠)
Claude Opus 5.5 $4 / $20 $4.22 / $21.10 分組折扣
Claude Sonnet 5.5 $2 / $10 $2.11 / $10.55 分組折扣
GPT-6.1 Sol $2 / $10 $2.11 / $10.55 分組折扣
GPT-6 Astra $10 / $50 $10.55 / $52.75 低 35%
Gemini 3.8 Flash $0.75 / $3.75 $0.79 / $3.96 分組折扣
GLM-5.3 $1.40 / $4.40 $1.48 / $4.64 分組折扣

各欄怎麼來的:

  • 廠商標價取廠商自家 endpoint 在 OpenRouter 上的標價(GLM-5.3 取 Z.AI)。
  • OpenRouter 欄=該價格 × 1.055,即 Standard 方案刷卡手續費。
  • 另一家欄只標優惠幅度、不換算單價:分組折扣逐模型不同,正式數字以價格頁為準。Astra 那列的 35% 取自 2026 年 10 月 13 日的價格頁快照($6.50 / $32.50 對官方 $10 / $50)。
  • 表內價格核對於 2026 年 10 月 12 日,Astra 快照取自 10 月 13 日。價格會變動,上線前以模型頁為準。

算一筆實帳。 假設一個團隊每月按官方價在 GPT-6 Astra 上花 $1,000。在 OpenRouter Standard 買 $1,000 額度要付 $1,055,一年 $12,660。同樣用量按 Astra 那列的 35% 外推,一年是 $7,800。同樣的 token,差 $4,860。

不過加價不是成本故事的全部。快取命中率的影響更大:按 Anthropic 的規則,快取寫入 1.25 倍、讀取 0.1 倍、1 小時 TTL 寫入 2 倍,OpenRouter 的文件把這組係數逐條寫了出來,另一家回傳的是原生欄位,分檔口徑與這套規則對應。

算一遍。一輪帶 6 萬 token 上下文,用 Claude Sonnet 5.5 的 $2 輸入價:

  • 不命中:0.06M × $2 = $0.12 一輪,一天 40 輪 = $4.80
  • 命中:首輪寫入 0.06M × $2 × 1.25 = $0.15,之後 39 輪各 0.06M × $2 × 0.1 = $0.012,合計 $0.62

一天差 $4.18,一個月 $125。十倍的單價差,全部來自命中沒命中——而「為什麼沒命中」,只有一邊寫在回應裡。

按需求對號

左邊是需求,右邊是對應的那一側,理由各一句。兩家都不弱,沒有哪一欄是全綠的:

你的需求 落在哪一側 理由
多模型橫向比較、開源權重長尾 OpenRouter 正規化後 372 對 177,Qwen3 37 對 12
程式要在多廠商之間頻繁切換 OpenRouter 跨廠商正規化欄位,解析邏輯不用改
要跨 provider 的冗餘降級 OpenRouter 多託管方 + Sticky Routing
資料落地、零保留、主權雲 OpenRouter ZDR 與區域內路由有完整文件
要照文件實作限流策略 OpenRouter 402 / 403 / 429 分工 + in-flight 預算
持有自己的 provider 合約 OpenRouter 每月 2.5 萬美元標價以內不收平台費
任務可以等 OpenRouter Batch API 約半價,24 小時內出結果
需要 SSO 與合約 SLA OpenRouter Enterprise 方案含 SAML SSO、SCIM
模型固定在 Claude 這一兩支 另一家 原生欄位透傳,thinking、tool_use 都在
要查快取為什麼沒命中 另一家 cache_miss_reason 寫在回應裡
要 token 級預算、白名單、環境隔離 另一家 現成機制,不用自己再包一層
要拆分限流 另一家 限流按 token 計,可分散到多個 token
一把金鑰還要呼叫圖片、語音 另一家 獨立端點,不用換平台
要少一層設定 另一家 一個 ID 一個價,兩種認證標頭都收
剛上手一個編碼工具 另一家 五個工具各有整合頁,三個環境變數跑通

先把自己那一列圈出來,再決定要不要改基礎位址。方向不對的話,改位址這件事本身省不下什麼。

參考資料

Crazyrouter

OpenRouter(對照來源)


圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言