Por que uma comparação de listas de preços engana
Duas páginas de preços mostram a você quatro números: uma taxa de entrada e uma de saída para cada fornecedor. Coloque-os lado a lado e você terá uma classificação que vale exatamente para uma carga de trabalho, aquela que ninguém em particular tem. O uso real é diferente em três aspectos.
- O mesmo prompt se torna um número diferente de tokens em cada fornecedor, porque cada um tem seu próprio tokenizador.
- Os modelos respondem em comprimentos diferentes. Um modelo mais verboso pode custar mais na saída mesmo com uma taxa menor.
- Sua proporção de entrada e saída determina qual taxa importa. Um resumidor paga principalmente taxas de entrada, e um gerador de histórias paga principalmente taxas de saída.
Portanto, o método é manter a carga de trabalho fixa, medir tokens em cada API e precificar esses tokens medidos nas taxas atuais de cada fornecedor. Não estamos citando os números da Anthropic ou OpenAI, porque ambos mudam e estaríamos errados para quando você ler isso. As páginas de preços de ambos os fornecedores são públicas. O que podemos fazer é mostrar a matemática com nossas próprias taxas como referência de exemplo.
A comparação em quatro etapas
- Escolha uma carga de trabalho representativa. Trinta solicitações reais do seu produto, incluindo longas.
- Execute-o em cada API. Registre tokens de prompt e tokens de conclusão para cada chamada no bloco de uso.
- Precifique. Custo = tokens de entrada x taxa de entrada / 1M + tokens de saída x taxa de saída / 1M.
- Ajuste para qualidade. Divida o custo pela proporção de respostas que você pode usar como estão. Um modelo utilizável 90% das vezes custa cerca de 1,11 vezes seu preço base por resposta utilizável.
Preencha esta tabela para sua própria carga de trabalho. As colunas da direita são as que importam.
| Item | Fornecedor A | Fornecedor B | Esta API |
|---|---|---|---|
| Taxa de entrada por 1M | verifique o preço atual deles | verifique o preço atual deles | $0.25 |
| Taxa de saída por 1M | verifique o preço atual deles | verifique o preço atual deles | $0.50 |
| Tokens de entrada medidos, 30 solicitações | sua contagem | sua contagem | sua contagem |
| Tokens de saída medidos, 30 solicitações | sua contagem | sua contagem | sua contagem |
| Respostas utilizáveis | sua pontuação | sua pontuação | sua pontuação |
Um exemplo processado de 1M de tokens
Suponha que o tráfego de chat de um mês totalize 1M de tokens de entrada e 1M de tokens de saída. A $0,15 por 1M de entrada e $0,50 por 1M de saída, o custo é $0,15 + $0,50 = $0,65. Se o outro fornecedor cobrar o dobro de nossas taxas em ambos os contadores, o mesmo tráfego custa $1,30. Se cobrar dez vezes, $6,50. Como as taxas não são nossas para declarar para eles, use o multiplicador que você encontrar na página deles.
Agora veja o quanto a proporção importa. Mantenha o total em 1M de tokens e altere a divisão.
| Mistura de 1M de tokens no total | Custo de entrada | Custo de saída | Total |
|---|---|---|---|
| 900.000 entrada / 100.000 saída (resumos, classificação) | $0.135 | $0.05 | $0.185 |
| 500.000 entrada / 500.000 saída (bate-papo) | $0.075 | $0.25 | $0.325 |
| 200.000 entrada / 800.000 saída (geração longa) | $0.03 | $0.40 | $0.43 |
O mesmo milhão de tokens custa $0,185 ou $0,43 dependendo da direção, uma razão de 0,43 / 0,185, cerca de 2,3. Se a taxa de saída de um fornecedor for muito maior que sua taxa de entrada, um produto pesado em geração paga muito mais do que um resuminador. Compare fornecedores usando sua própria mistura, nunca a média.
Meça ambas as APIs com um script
Este script executa uma lista de prompts e imprime tokens medidos e custo para nosso endpoint. Para outro fornecedor, use o SDK e a URL base deles da mesma maneira, colete os mesmos dois contadores e aplique as taxas deles.
from openai import OpenAI
client = OpenAI(
base_url="https://api.claudeapicosts.com/v1",
api_key="YOUR_KEY",
)
prompts = [
"Summarise in two sentences: The quarterly report shows revenue up and costs flat.",
"Draft a polite reply declining a meeting invitation.",
"Write a 150-word product description for a steel water bottle.",
]
tin = tout = 0
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
)
tin += r.usage.prompt_tokens
tout += r.usage.completion_tokens
print("input tokens:", tin, "output tokens:", tout)
print("cost at 0.15 / 0.50 per 1M: $%.6f" % (tin * 0.15 / 1e6 + tout * 0.50 / 1e6))
O bloco usage vem com cada resposta sem streaming, e com streaming ele chega no final do fluxo. Use essas cifras em vez de uma estimativa offline de tokens ao comparar.
Custos que a tabela de taxas não mostra
- Retentativas e recusas. Neste serviço, solicitações falhas ou recusadas não são cobradas. Verifique como cada fornecedor lida com elas.
- Cache e descontos em lote. Alguns fornecedores descontam prefixos de prompt repetidos ou trabalhos em lote offline. Se sua carga de trabalho se encaixar, a taxa efetiva pode ser menor que a taxa de lista. Leia a precificação atual deles para as regras.
- Mínimos e validade. Aqui, recarregam de $20 a $500 e o crédito nunca expira. Outros planos podem diferir.
- Limites de taxa. Uma chave completa permite 8 requisições simultâneas e 300 por minuto. Se seu tráfego de pico estiver acima disso, a taxa mais barata pode não ser utilizável.
- Método de pagamento. Recarregamentos aqui são apenas cripto, USDT na TRC20 ou USDC na Base. Se isso não servir para você, as economias não importam.
Erros que distorcem uma comparação de fornecedores
- Comparando tamanhos de modelo diferentes. Um modelo pequeno e rápido e um modelo de raciocínio grande são produtos diferentes. Compare modelos entre os quais você realmente escolheria.
- Misturando taxas por 1.000 e por 1M. Uma taxa de $0,00015 por 1.000 tokens equivale a $0,15 por 1M. Converta primeiro.
- Ignorando o limite da janela de contexto. Aqui a janela é de 100.000 tokens. Se uma tarefa precisar de mais, o custo não é a questão.
- Usando uma única execução. O comprimento da saída varia. Execute cada prompt algumas vezes e faça a média.
Onde esta API se encaixa na comparação
Esta não é a API da Anthropic nem da OpenAI. É um serviço independente compatível com OpenAI com um único modelo de pesos abertos, ID do modelo uncensored, ajustado para responder sem recusas de conteúdo para uso adulto lícito. É apenas texto, com uma janela de contexto de 100.000 tokens. Seu valor é um preço baixo por token, sem assinatura e uma interface padrão.
Seja justo sobre onde ele perde. Se você precisa de um modelo de fornecedor específico, entrada de imagem ou áudio, embeddings ou o melhor raciocínio disponível, compare primeiro com base nessas necessidades e no custo depois. Se sua carga de trabalho é ficção, roleplay, aplicativos de companhia ou conteúdo que outros provedores recusam, o preço e a falta de recusas juntos podem decidir. Conteúdo envolvendo menores de idade nunca é permitido.
A troca de código é pequena. Altere a URL base para https://api.claudeapicosts.com/v1, a chave e o modelo para uncensored. A documentação cobre endpoints e parâmetros, e a página de preços lista taxas e bônus de +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200. Para o contexto de custo mais longo, consulte nossa análise de custos de LLM sem censura. Para executar o script acima gratuitamente, resgate o crédito de teste de $0,50 na página de chave de API.
