本篇系列版部落格:閱讀中文版。
原型階段先別付錢給模型。Cloudflare、OpenRouter 都有免費額度,OpenAI 也有一部分。這一篇把額度和規則列出來。
做原型的時候呼叫量很小,免費額度夠用。重點是知道天花板在哪、撞到的時候看得懂錯誤,再決定要付錢給誰。
Cloudflare Workers AI(照它的 pricing 和 limits 頁)
@cf/meta/llama-3.1-8b-instruct-fp8-fast 換算:每百萬 output token 約 34,868 Neurons,10,000 Neurons 一天大約能吐 28 萬個 output tokenOpenRouter(照它的 Limits 頁和 FAQ)
:free 就是免費版;或者 model 填 openrouter/free,它從當下可用的免費模型裡隨機挑一顆curl https://openrouter.ai/api/v1/chat/completions \
-H "Authorization: Bearer $OPENROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "openrouter/free", "messages": [{"role": "user", "content": "Hello!"}]}'
OpenAI
OpenAI 的 API 免費額度不是所有帳號都有。符合資格的組織可以選擇分享指定專案的 API 輸入與輸出資料,換取每天的免費 token;分享設定預設關閉,只有組織擁有者能開啟,且 Zero Data Retention 組織不能參加。先到組織的資料分享設定頁確認是否顯示符合資格,再決定要不要開。
參考:OpenAI 說明中心〈Sharing feedback, evaluation and fine-tuning data, and API inputs and outputs with OpenAI〉https://help.openai.com/en/articles/10306912-sharing-feedback-evaluation-and-fine-tuning-data-and-api-inputs-and-outputs-with-openai
Cloudflare Workers AI 每天 10,000 Neurons;OpenRouter 免費模型每天 50 次,買過 10 美元變 1,000 次;符合資格且選擇分享資料的 OpenAI API 組織,每天最多有 100 萬與 1,000 萬 tokens 兩組免費額度(Build 方案較低)。
明天講實作時的 prompt:補上 SOLID、FIRST,以及適合任務的 design patterns。
參考: