Hoe een verzoek wordt afgerekend
Je betaalt per token tegen de prijs van het model. Verzoeken die mislukken voordat het model antwoordt, kosten niets.
- Elk model heeft een prijs in Amerikaanse dollars per miljoen input-tokens en per miljoen output-tokens, op nexrouting.com/models.
- We rekenen de tokens die het model voor je verzoek meldt: input-tokens × inputprijs + output-tokens × outputprijs, naar boven afgerond op een miljoenste dollar.
- Sommige modellen hebben een hoger tarief voor heel lange prompts, of als ze nadenken voordat ze antwoorden. Onze prijs volgt dezelfde factor. Schrijven naar een promptcache kan bij modellen die dat ondersteunen extra kosten.
- Gecachte input-tokens rekenen we nu tegen de gewone inputprijs.
- Meldt het model zijn tokens niet, dan schatten we ze uit de lengte van de tekst: ongeveer vier tekens per token.
Vooraf en achteraf
- Voordat we een verzoek versturen, kijken we of je saldo boven nul is en of de prompt alleen er al in past. Zo niet, dan krijg je
402en betaal je niets. - Een verzoek dat al loopt, maken we altijd af, dus je saldo kan net onder nul uitkomen. Je volgende opwaardering vult dat aan.
- Verzoeken die we weigeren (zoals
400,401,402,403,404of429) en fouten voordat het model antwoordt, kosten niets. - Breekt een gestreamd antwoord af, of stopt je app het, dan betaal je voor de prompt en voor wat er tot dan toe gemaakt is.
Je verbruik toont elk verzoek met de kosten, ook mislukte. Verzoeken die we weigeren voordat we naar het model kijken, staan er niet in: een ontbrekende, verkeerde of verlopen key, een account op pauze, over de limiet per minuut, of een body die geen geldige JSON is of groter dan 32 MB.