가격표 비교가 오해를 불러오는 이유
두 가격표 페이지는 네 가지 숫자를 보여줍니다: 각 벤더의 입력 및 출력 요금입니다. 이를 나란히 놓으면 정확히 한 가지 워크로드, 즉 실제로 가진 사람이 아무도 없는 워크로드에만 유효한 순위가 나옵니다. 실제 사용은 세 가지 면에서 다릅니다.
- 동일한 프롬프트는 각 벤더에서 서로 다른 수의 토큰으로 변환됩니다. 각 벤더는 자체 토크나이저를 사용하기 때문입니다.
- 모델은 서로 다른 길이의 답변을 생성합니다. 더 말수가 많은 모델은 낮은 요금에도 불구하고 출력에서 더 비쌀 수 있습니다.
- 입력과 출력의 비율은 어떤 요금이 중요한지 결정합니다. 요약기는 주로 입력 요금을 지불하고, 이야기 생성기는 주로 출력 요금을 지불합니다.
따라서 방법은 워크로드를 고정하고 각 API에서 토큰을 측정한 후 각 벤더의 현재 요금으로 측정된 토큰에 대한 가격을 매기는 것입니다. 우리는 Anthropic 또는 OpenAI의 숫자를 인용하지 않습니다. 왜냐하면 둘 다 변경되며 당신이 이 글을 읽을 때는 이미 잘못되었을 것이기 때문입니다. 두 벤더의 요금제 페이지는 공개되어 있습니다. 우리가 할 수 있는 것은 자체 요금을 작업 참조로 사용하여 계산을 보여주는 것입니다.
비교의 네 가지 단계
- 대표적인 워크로드를 선택하세요. 긴 요청을 포함한 제품에서 30개의 실제 요청.
- 각 API에서 실행하세요. usage 블록에서 모든 호출에 대한 프롬프트 토큰 및 완료 토큰을 기록하세요.
- 가격을 매기세요. 비용 = 입력 토큰 x 입력 요금 / 1M + 출력 토큰 x 출력 요금 / 1M.
- 품질에 맞게 조정하세요. 그대로 사용할 수 있는 답변의 비율로 비용을 나누세요. 90%의 경우 사용 가능한 모델은 사용 가능한 답변당 원가보다 약 1.11배 비쌉니다.
자신의 워크로드에 대해 이 표를 채우세요. 오른쪽 열이 중요합니다.
| 항목 | 벤더 A | 벤더 B | 이 API |
|---|---|---|---|
| 1M당 입력 요금 | 현재 가격 확인 | 현재 가격 확인 | $0.25 |
| 1M당 출력 요금 | 현재 가격 확인 | 현재 가격 확인 | $0.50 |
| 측정된 입력 토큰, 30개 요청 | 귀하의 카운트 | 귀하의 카운트 | 귀하의 카운트 |
| 측정된 출력 토큰, 30개 요청 | 귀하의 카운트 | 귀하의 카운트 | 귀하의 카운트 |
| 사용 가능한 답변 | 귀하의 점수 | 귀하의 점수 | 귀하의 점수 |
해설이 있는 1M 토큰 예제
한 달간의 채팅 트래픽이 입력 토큰 1M과 출력 토큰 1M으로 합산된다고 가정해 보세요. 입력 1M당 $0.15, 출력 1M당 $0.50이면 비용은 $0.15 + $0.50 = $0.65입니다. 다른 벤더가 두 항목 모두에서 우리 요금의 두 배를 청구한다면 같은 트래픽 비용은 $1.30입니다. 10배를 청구한다면 $6.50입니다. 해당 벤더의 요금은 우리가 명시할 수 없으므로, 해당 페이지에서 찾은 배수를 사용하세요.
이제 혼합 비율이 얼마나 중요한지 확인해 보세요. 총 토큰 수를 1M로 유지하고 분할을 변경합니다.
| 총 토큰 1M의 비율 | 입력 비용 | 출력 비용 | 합계 |
|---|---|---|---|
| 입력 900,000 / 출력 100,000 (요약, 분류) | $0.135 | $0.05 | $0.185 |
| 500,000 입력 / 500,000 출력 (채팅) | $0.075 | $0.25 | $0.325 |
| 200,000 입력 / 800,000 출력 (긴 생성) | $0.03 | $0.40 | $0.43 |
동일한 백만 토큰은 방향에 따라 $0.185 또는 $0.43이 들며, 이는 0.43 / 0.185의 비율로 약 2.3배입니다. 벤더의 출력 요금이 입력 요금보다 훨씬 높다면, 생성 중심 제품은 요약기 제품보다 훨씬 더 많은 비용을 지불합니다. 평균이 아닌 자체 혼합으로 벤더를 비교하세요.
하나의 스크립트로 두 API 모두 측정
이 스크립트는 프롬프트 목록을 실행하고 엔드포인트에 대한 측정된 토큰 및 비용을 출력합니다. 다른 벤더의 경우 동일한 방식으로 해당 SDK와 base URL을 사용하고 동일한 두 카운터를 수집한 후 해당 단가를 적용하세요.
from openai import OpenAI
client = OpenAI(
base_url="https://api.claudeapicosts.com/v1",
api_key="YOUR_KEY",
)
prompts = [
"Summarise in two sentences: The quarterly report shows revenue up and costs flat.",
"Draft a polite reply declining a meeting invitation.",
"Write a 150-word product description for a steel water bottle.",
]
tin = tout = 0
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
)
tin += r.usage.prompt_tokens
tout += r.usage.completion_tokens
print("input tokens:", tin, "output tokens:", tout)
print("cost at 0.15 / 0.50 per 1M: $%.6f" % (tin * 0.15 / 1e6 + tout * 0.50 / 1e6))
usage 블록은 스트리밍되지 않는 응답마다 제공되며, 스트리밍의 경우 스트림 끝에 도착합니다. 비교 시 오프라인 토큰 추정치 대신 이러한 수치를 사용하세요.
요금 카드에 표시되지 않는 비용
- 재시도 및 거부. 이 서비스에서 실패하거나 거부된 요청은 요금이 부과되지 않습니다. 각 벤더가 이를 어떻게 처리하는지 확인하세요.
- 캐싱 및 배치 할인. 일부 벤더는 반복되는 프롬프트 접두사나 오프라인 배치 작업을 할인합니다. 워크로드가 맞다면 유효 요금이 목록 요금보다 낮을 수 있습니다. 규칙에 대한 현재 가격표를 확인하세요.
- 최소 금액 및 만료. 여기서는 충전이 $20에서 $500까지이며 크레딧은 만료되지 않습니다. 다른 플랜은 다를 수 있습니다.
- 속도 제한. 전체 키는 동시 요청 8개와 분당 300개를 허용합니다. 최대 트래픽이 이를 초과하는 경우 저렴한 요금제가 사용되지 않을 수 있습니다.
- 결제 방법. 여기서 충전은 암호화폐만 가능하며 TRC20의 USDT 또는 Base의 USDC입니다. 이것이 적합하지 않다면 절약은 의미가 없습니다.
벤더 비교를 왜곡하는 실수
- 서로 다른 모델 크기 비교. 작고 빠른 모델과 대형 추론 모델은 서로 다른 제품입니다. 실제로 선택할 모델끼리 비교하십시오.
- 1,000개당 및 1M당 요금 혼합. 토큰 1,000개당 $0.00015의 요금은 1M당 $0.15입니다. 먼저 변환하십시오.
- 컨텍스트 한계 무시하기. 여기 창은 100,000 토큰입니다. 작업에 더 많은 것이 필요하면 비용이 문제가 아닙니다.
- 한 번의 실행 사용. 출력 길이는 다양합니다. 각 프롬프트를 몇 번 실행하고 평균을 내십시오.
이 API가 비교에서 차지하는 위치
이것은 Anthropic의 API도 OpenAI의 API도 아닙니다. 하나의 오픈 웨이트 모델, 모델 ID uncensored을 가진 독립적인 OpenAI 호환 서비스입니다. 합법적인 성인 사용을 위해 콘텐츠 거부 없이 답변하도록 조정되었습니다. 텍스트 전용이며 100,000토큰 컨텍스트 창을 제공합니다. 이 서비스의 가치는 낮은 토큰별 가격, 구독 없음 및 표준 인터페이스입니다.
이점이 없는 부분에 대해 공정하게 판단하십시오. 특정 벤더의 모델, 이미지 또는 오디오 입력, 임베딩 또는 사용 가능한 최고 수준의 추론이 필요한 경우 비용보다 이러한 필요를 먼저 비교하십시오. 작업이 픽션, 역할극, 동반자 앱 또는 다른 제공업체가 거부하는 콘텐츠인 경우 가격과 거부 부재가 함께 결정할 수 있습니다. 미성년자가 관련된 콘텐츠는 절대 허용되지 않습니다.
코드 변경은 작습니다. Base URL을 https://api.claudeapicosts.com/v1로, 키를, 모델을 uncensored로 변경하세요. 문서에는 엔드포인트와 매개변수가 포함되어 있으며, 가격 페이지에는 요금과 $50부터 +5%, $100부터 +10%, $200부터 +15%의 보너스가 나열되어 있습니다. 더 긴 비용 배경을 보려면 무검열 LLM 비용 분석을 참조하세요. 위의 스크립트를 무료로 실행하려면 API 키 페이지에서 $0.50 체험을 청구하세요.
