Pourquoi une comparaison de liste de prix induit en erreur
Deux pages de tarification vous montrent quatre nombres : un taux d'entrée et un taux de sortie pour chaque fournisseur. Mettez-les côte à côte et vous obtenez un classement qui ne vaut que pour une charge de travail précise, celle que personne en particulier n'a. L'utilisation réelle diffère sur trois points.
- Le même prompt devient un nombre différent de tokens sur chaque fournisseur, car chacun a son propre tokenizer.
- Les modèles répondent avec des longueurs différentes. Un modèle plus bavard peut coûter plus cher en sortie même à un taux inférieur.
- Votre mix entrée-sortie décide quel taux compte. Un résumeur paie principalement les taux d'entrée, et un générateur d'histoires paie principalement les taux de sortie.
La méthode consiste donc à maintenir la charge de travail fixe, à mesurer les tokens sur chaque endpoint, et à facturer ces tokens mesurés aux tarifs actuels de chaque fournisseur. Nous ne citons pas les chiffres d'Anthropic ou d'OpenAI, car ils changent et nous aurions tort dès que vous lirez ceci. Les pages de tarification des deux fournisseurs sont publiques. Ce que nous pouvons faire, c'est montrer les calculs avec nos propres tarifs comme référence chiffrée.
La comparaison en quatre étapes
- Sélectionnez une charge de travail représentative. Trente vraies requêtes de votre produit, y compris les longues.
- Exécutez-le sur chaque API. Enregistrez les tokens de prompt et les tokens de complétion pour chaque appel depuis le bloc usage.
- Tarifiez-le. Coût = tokens d'entrée × taux d'entrée / 1 M + tokens de sortie × taux de sortie / 1 M.
- Ajustez pour la qualité. Divisez le coût par la part de réponses que vous pouvez utiliser telles quelles. Un modèle utilisable 90 % du temps coûte environ 1,11 fois son prix brut par réponse utilisable.
Remplissez ce tableau pour votre propre charge de travail. Les colonnes de droite sont celles qui comptent.
| Élément | Fournisseur A | Fournisseur B | Cette API |
|---|---|---|---|
| Taux d'entrée par 1M | vérifiez leur tarification actuelle | vérifiez leur tarification actuelle | $0,15 |
| Taux de sortie par 1M | vérifiez leur tarification actuelle | vérifiez leur tarification actuelle | $0,50 |
| Tokens d'entrée mesurés, 30 requêtes | votre décompte | votre décompte | votre décompte |
| Tokens de sortie mesurés, 30 requêtes | votre décompte | votre décompte | votre décompte |
| Réponses utilisables | votre score | votre score | votre score |
Un exemple détaillé de 1M tokens
Supposons qu'un mois de trafic de chat totalise 1M de tokens d'entrée et 1M de tokens de sortie. À 0,15 $ par 1M d'entrée et 0,50 $ par 1M de sortie, le coût est de 0,15 $ + 0,50 $ = 0,65 $. Si l'autre fournisseur facture deux fois nos tarifs sur les deux compteurs, le même trafic coûte 1,30 $. S'il facture dix fois plus, 6,50 $. Puisque les tarifs ne sont pas les nôtres à indiquer pour eux, utilisez le multiple que vous trouvez sur leur page.
Voyez maintenant combien le mix compte. Gardez le total à 1M tokens et changez la répartition.
| Mix de 1M tokens totaux | Coût des tokens d'entrée | Coût des tokens de sortie | Total |
|---|---|---|---|
| 900 000 in / 100 000 out (résumés, classification) | $0,135 | $0,05 | $0,185 |
| 500 000 in / 500 000 out (chat) | $0,075 | $0,25 | $0,325 |
| 200 000 in / 800 000 out (longue génération) | $0,03 | $0,40 | $0,43 |
Le même million de tokens coûte $0,185 ou $0,43 selon le sens, un ratio de 0,43 / 0,185, soit environ 2,3. Si le taux de sortie d'un fournisseur est beaucoup plus élevé que son taux d'entrée, un produit à forte génération paie bien plus cher qu'un résumeur. Comparez les fournisseurs avec votre propre mix, jamais la moyenne.
Mesurez les deux APIs avec un seul script
Ce script exécute une liste de prompts et imprime les tokens mesurés et le coût pour notre endpoint. Pour un autre fournisseur, utilisez leur SDK et leur base URL de la même manière, collectez les mêmes deux compteurs et appliquez leurs tarifs.
from openai import OpenAI
client = OpenAI(
base_url="https://api.claudeapicosts.com/v1",
api_key="YOUR_KEY",
)
prompts = [
"Summarise in two sentences: The quarterly report shows revenue up and costs flat.",
"Draft a polite reply declining a meeting invitation.",
"Write a 150-word product description for a steel water bottle.",
]
tin = tout = 0
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
)
tin += r.usage.prompt_tokens
tout += r.usage.completion_tokens
print("input tokens:", tin, "output tokens:", tout)
print("cost at 0.15 / 0.50 per 1M: $%.6f" % (tin * 0.15 / 1e6 + tout * 0.50 / 1e6))
Le bloc usage est fourni avec chaque réponse non diffusée, et en streaming il arrive à la fin du flux. Utilisez ces chiffres au lieu d'une estimation hors ligne de tokens pour comparer.
Coûts que la carte des tarifs ne montre pas
- Relances et refus. Sur ce service, les requêtes échouées ou refusées ne sont pas facturées. Vérifiez comment chaque fournisseur les gère.
- Mise en cache et réductions par lot. Certains fournisseurs appliquent des réductions sur les préfixes de prompt répétés ou les jobs par lot hors ligne. Si votre charge de travail s'y prête, le tarif effectif peut être inférieur au tarif affiché. Lisez leur tarification actuelle pour connaître les règles.
- Minimums et expiration. Ici, les recharges vont de $20 à $500 et le crédit n'expire jamais. D'autres plans peuvent différer.
- Limites de débit. Une clé complète permet 8 requêtes simultanées et 300 par minute. Si votre pic de trafic dépasse ces limites, le tarif réduit peut ne pas être utilisable.
- Mode de paiement. Les recharges ici sont crypto uniquement, USDT sur TRC20 ou USDC sur Base. Si cela ne vous convient pas, les économies n'ont pas d'importance.
Erreurs qui faussent une comparaison de fournisseurs
- Comparaison de différentes tailles de modèles. Un petit modèle rapide et un grand modèle de raisonnement sont des produits différents. Comparez les modèles entre lesquels vous choisiriez vraiment.
- Mélange des taux par 1 000 et par 1M. Un taux de $0,00015 par 1 000 tokens est de $0,15 par 1M. Convertissez d'abord.
- Ignorer le plafond de contexte. Ici, la fenêtre est de 100 000 tokens. Si une tâche en nécessite plus, le coût n'est pas la question.
- Utiliser une seule exécution. La longueur de sortie varie. Exécutez chaque prompt plusieurs fois et faites une moyenne.
Où cette API s'inscrit dans la comparaison
Ce n'est ni l'API d'Anthropic ni celle d'OpenAI. C'est un service indépendant compatible OpenAI avec un seul modèle à poids ouverts, model ID uncensored, ajusté pour répondre sans refus de contenu pour un usage adulte légal. Il est texte uniquement, avec une fenêtre de contexte de 100 000 tokens. Sa valeur réside dans un prix par token bas, pas d'abonnement et une interface standard.
Soyez juste sur ses points faibles. Si vous avez besoin d'un modèle spécifique d'un fournisseur, d'entrée image ou audio, d'embeddings ou du meilleur raisonnement disponible, comparez d'abord selon ces besoins et le coût ensuite. Si votre charge de travail concerne la fiction, le jeu de rôle, les applications compagnons ou du contenu que d'autres fournisseurs refusent, le prix et l'absence de refus peuvent décider. Le contenu impliquant des mineurs est toujours interdit.
Le code de bascule est minime. Changez l'URL de base vers https://api.claudeapicosts.com/v1, la clé, et le modèle vers uncensored. Les docs couvrent les endpoints et les paramètres, et la page de tarification liste les tarifs et les bonus de +5 % à partir de 50 $, +10 % à partir de 100 $ et +15 % à partir de 200 $. Pour plus de détails sur les coûts, consultez notre analyse des coûts des LLM sans censure. Pour exécuter le script ci-dessus gratuitement, réclamez le crédit d'essai de 0,50 $ sur la page clé API.
