實測 10 個 AI API 代理工具(商業 + 開源 + 自架),告訴你哪個最便宜、哪個最適合自架、哪個有管理介面。附可直接跑的程式碼。
你可能同時用 OpenAI、Anthropic、Google 的模型,每個都要:
AI API 代理讓你用一個端點、一個 Key 呼叫所有模型。改兩行程式碼就能切換供應商。
from openai import OpenAI
# 改這兩行就好
client = OpenAI(
base_url="https://crazyrouter.com/v1", # ← 改這裡
api_key="your-key" # ← 改這裡
)
# 其他程式碼完全不動
response = client.chat.completions.create(
model="gpt-5-mini",
messages=[{"role": "user", "content": "什麼是 AI API 代理?一句話。"}]
)
print(response.choices[0].message.content)
實際回應(2026年3月測試):
{
"model": "gpt-5-mini",
"usage": {"prompt_tokens": 17, "completion_tokens": 37, "total_tokens": 54}
}
一個 API 呼叫,17 token 輸入,37 token 輸出。就這麼簡單。
| 代理 | 類型 | 模型數 | 定價 | 自架 | 最適合 |
|---|---|---|---|---|---|
| Crazyrouter | 商業 | 627+ | 約官方 55% | ❌ | 最便宜 + 多模態 |
| LiteLLM | 開源 | 100+ | 免費 | ✅ | 自架首選 |
| OpenRouter | 商業 | 300+ | 官方+10-30% | ❌ | 快速原型 |
| Portkey | 商業 | 1,600+(BYOK) | 免費-$49/月 | ✅ | 企業治理 |
| One API | 開源 | 40+ | 免費 | ✅ | 管理介面最佳 |
| Helicone | 商業 | BYOK | 免費-$20/月 | ✅ | 成本追蹤 |
| NGINX AI Proxy | 開源 | 設定式 | 免費 | ✅ | NGINX 使用者 |
| CF AI Gateway | 商業 | BYOK | 免費 | ❌ | 邊緣快取 |
| Kong AI GW | 商業 | 外掛式 | 企業 | ✅ | Kong 使用者 |
| Unify AI | 商業 | 80+ | 按量付費 | ❌ | 智慧路由 |
定價約官方的 55%。627 個模型不只有 LLM:
價格對比:
| 模型 | 官方 | Crazyrouter | 省多少 |
|---|---|---|---|
| GPT-5.2 | $3/$12 | ~$1.65/$6.60 | 45% |
| Claude Opus 4.6 | $15/$75 | ~$8.25/$41.25 | 45% |
| Claude Sonnet 4.6 | $3/$15 | ~$1.65/$8.25 | 45% |
✅ 最便宜、627+ 模型、支援三種 SDK 格式
❌ 無自架選項
| 代理 | 重點 | 適合誰 |
|---|---|---|
| OpenRouter | 最多人用,有免費模型 | 剛開始試的人 |
| Portkey | SOC 2、RBAC、護欄 | 企業團隊 |
| Helicone | 一行程式碼接入,10 萬請求免費 | 要看成本的團隊 |
| CF AI Gateway | 免費邊緣快取 | Cloudflare 使用者 |
| Unify AI | 自動選最佳模型 | 實驗團隊 |
| Kong AI GW | Kong 的 AI 外掛 | 已用 Kong 的團隊 |
pip install litellm && litellm --config config.yaml
100+ 供應商,OpenAI 相容。資料完全不出你的伺服器。
Web 管理面板、多租戶、Token 配額、渠道均衡。Docker 一鍵部署。
NGINX 現在原生支援 AI 代理設定——SSE 串流、請求轉換、負載均衡。
Q1:你最在意什麼?
Q2:需要圖片/影片/音樂嗎?
Q3:要管理介面嗎?
最後更新:2026 年 3 月