価格表の比較が誤解を招く理由
2つの価格ページには、各ベンダーの入力レートと出力レートという4つの数字が表示されます。これらを並べて比較すると、特定の誰かが抱えているわけではない、単一のワークロードにのみ適用されるランキングが得られます。実際の使用状況は3点で異なります。
- 同じプロンプトでも、各ベンダーが独自のトークナイザーを使用しているため、トークン数に差が生じます。
- モデルは異なる長さで回答します。より口数の多いモデルは、レートが低くても出力コストが高くなる可能性があります。
- 入出力の比率が、どちらのレートが重要かを決定します。要約ツールは主に入力レートを支払い、ストーリー生成ツールは主に出力レートを支払います。
したがって、手法はワークロードを固定し、各APIでトークンを計測し、各ベンダーの現在のレートでそれらのトークンの価格を付けることです。AnthropicやOpenAIの数字を引用しないのは、両方とも変動するため、あなたがこれを読む頃には誤っている可能性があるためです。両ベンダーの価格ページは公開されています。私たちにできるのは、計算例として自社のレートを示すことです。
4つのステップでの比較
- 代表的なワークロードを選択してください。 長いリクエストを含む、製品からの30件の実際のリクエスト。
- 各APIで実行してください。 使用状況ブロックから、すべての呼び出しのプロンプトトークンと完了トークンを記録する。
- 価格を計算してください。 費用 = 入力トークン x 入力レート / 1M + 出力トークン x 出力レート / 1M。
- 品質で調整してください。 コストを、そのまま使用できる回答の割合で割ります。90%のケースでそのまま使用できるモデルは、使用可能な回答あたりのコストが元の価格の約1.11倍になります。
あなたのワークロードのためにこの表を埋めてください。右側の列が重要です。
| 項目 | ベンダーA | ベンダーB | このAPI |
|---|---|---|---|
| 1Mあたりの入力レート | 現在の価格を確認 | 現在の価格を確認 | $0.25 |
| 1Mあたりの出力レート | 現在の価格を確認 | 現在の価格を確認 | $0.50 |
| 30件のリクエストで測定した入力トークン | 貴社の計測値 | 貴社の計測値 | 貴社の計測値 |
| 30件のリクエストで測定した出力トークン | 貴社の計測値 | 貴社の計測値 | 貴社の計測値 |
| 使用可能な回答 | 貴社のスコア | 貴社のスコア | 貴社のスコア |
1Mトークンの計算例
ある月のチャットトラフィックが入力トークン1M、出力トークン1Mと仮定します。入力1Mあたり$0.15、出力1Mあたり$0.50の場合、コストは$0.15 + $0.50 = $0.65です。他のベンダーが両方のメーターで当社のレートの2倍を請求する場合、同じトラフィックで$1.30かかります。10倍の場合、$6.50です。それらのレートは当社が彼らのために定める立場ではないため、ページに記載されている倍率を使用してください。
次に、比率がどれほど重要かを確認しましょう。合計を1Mトークンに保ち、分割を変更します。
| 1Mトークンの合計の比率 | 入力コスト | 出力コスト | 合計 |
|---|---|---|---|
| 900,000入力 / 100,000出力(要約、分類) | $0.135 | $0.05 | $0.185 |
| 500,000入力 / 500,000出力(チャット) | $0.075 | $0.25 | $0.325 |
| 200,000入力 / 800,000出力(長時間の生成) | $0.03 | $0.40 | $0.43 |
同じ1Mトークンでも、方向によって$0.185または$0.43かかり、その比率は0.43 / 0.185、約2.3です。ベンダーの出力レートが入力レートより大幅に高い場合、生成中心の製品は要約ツールよりもはるかに多くのコストがかかります。ベンダーを比較する際は、平均ではなく独自の比率を使用してください。
1つのスクリプトで両方のAPIを測定する
このスクリプトはプロンプトのリストを実行し、エンドポイントの測定されたトークンと費用を出力します。他のベンダーの場合、同じ方法でSDKとbase URLを使用し、同じ2つのカウンターを収集し、それらのレートを適用します。
from openai import OpenAI
client = OpenAI(
base_url="https://api.claudeapicosts.com/v1",
api_key="YOUR_KEY",
)
prompts = [
"Summarise in two sentences: The quarterly report shows revenue up and costs flat.",
"Draft a polite reply declining a meeting invitation.",
"Write a 150-word product description for a steel water bottle.",
]
tin = tout = 0
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
)
tin += r.usage.prompt_tokens
tout += r.usage.completion_tokens
print("input tokens:", tin, "output tokens:", tout)
print("cost at 0.15 / 0.50 per 1M: $%.6f" % (tin * 0.15 / 1e6 + tout * 0.50 / 1e6))
usageブロックは、ストリーミングでないレスポンスには常に含まれ、ストリーミングの場合でもストリームの最後に到着します。比較する際には、オフラインのトークン推定値ではなく、これらの数値を使用してください。
レートカードに表示されない費用
- リトライと拒否。 このサービスでは、失敗または拒否されたリクエストは請求されません。各ベンダーがそれらをどのように処理するかを確認してください。
- キャッシュとバッチ割引。 一部のベンダーは、繰り返されるプロンプトプレフィックスまたはオフラインバッチジョブに割引を提供します。ワークロードが該当する場合、実効レートはリストレートよりも低くなる可能性があります。ルールについては現在の価格表をお読みください。
- 最低額と有効期限。 ここでは、チャージは$20から$500までで、クレジットは期限切れになりません。他のプランは異なる場合があります。
- レート制限。 完全なAPIキーでは、8つの同時リクエストと1分あたり300リクエストが許可されます。ピークトラフィックがそれを超える場合、より低いレートは使用できない可能性があります。
- 支払い方法。 ここでのチャージは暗号資産のみで、TRC20 上の USDT または Base 上の USDC です。これが適さない場合、節約効果は意味を成しません。
ベンダー比較を歪めるミス
- 異なるモデルサイズの比較。 小型で高速なモデルと大型の推論モデルは異なる製品です。実際に選択しうるモデル同士で比較してください。
- 1,000トークンあたりと1Mトークンあたりの料金の混同。 1,000トークンあたり $0.00015 のレートは、1Mトークンあたり $0.15 です。まず換算してください。
- コンテキストウィンドウの上限の見落とし。 ここでのウィンドウは 100,000 トークンです。タスクにそれ以上が必要な場合、コストの問題ではありません。
- 1回の実行を使用する。 出力の長さは異なります。各プロンプトを数回実行して平均を取ってください。
この API が比較の中で占める位置
これはAnthropicのAPIでもOpenAIのAPIでもありません。これは独立したOpenAI互換サービスであり、コンテンツ拒否なしで回答するようにチューニングされた1つのオープンウェイトモデル、モデルID uncensoredを使用しています。法的な成人用途向けです。テキストのみ対応で、100,000トークンのコンテキストウィンドウを備えています。その価値は、トークンあたりの低価格、サブスクリプションの不要さ、標準的なインターフェースにあります。
不利な点についても公平に評価してください。特定のベンダーのモデル、画像や音声入力、埋め込み、または最高の推論能力を必要とする場合は、まずそれらのニーズで比較し、コストは二の次にしてください。フィクション、ロールプレイ、コンパニオンアプリ、または他のプロバイダーが拒否するコンテンツがあなたのワークロードの場合、価格と拒否の欠如の両方が決定的になる可能性があります。未成年者が関わるコンテンツは常に禁止されています。
コードの変更はわずかです。ベースURLを https://api.claudeapicosts.com/v1 に、キーを、モデルを uncensored に変更してください。ドキュメント はエンドポイントとパラメータをカバーしており、価格ページ にはレートと、$50以上で+5%、$100以上で+10%、$200以上で+15%の特典が記載されています。より詳細な費用の背景については、無検閲LLM費用の分析 を参照してください。上記のスクリプトを無料で実行するには、APIキーページ で$0.50の無料トライアルクレジットを請求してください。
