Skip to content

Benchmark Smart

カテゴリー別に LMArena の最上位モデルへ自動ルーティング。モデル選択不要、最高の結果を。

"model": "benchmark_smart" を送ると、Pleum がリクエストの意図 (コード・推論・ビジョン・翻訳など)を判定し、その分野のベンチマーク 1 位モデルに置き換えます。LMArena のリーダーボードは毎週自動収集されるため、最新 SOTA を自分で追跡する 必要はありません。

benchmark_smart — code request
curl https://apirouter.pleum.ai/v1/chat/completions \
  -H "Authorization: Bearer plm_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "benchmark_smart",
    "messages": [
      {"role": "user", "content": "Write a Python function to dedupe a list."}
    ]
  }'

動作の仕組み#

リクエストボディから意図を分類し(正規表現、上流呼び出しなし)、そのカテゴリーで最もスコアの 高いモデルを選んで 1 回呼び出します。実際の課金は置換後の実モデル基準です —benchmark_smart 自体は仮想モデルで独自の価格はありません。

カテゴリーはコード・推論・ビジョン・翻訳・クリエイティブ・一般の 6 種です。ビジョン要求 (画像含む)は自動的にビジョン分野の 1 位モデルへ向かいます。

スコア表は毎週日曜 09:00(KST)に LMArena から収集されてドラフトとして保存され、10:00 にライブ へ反映されます。収集失敗時は既存表を維持し、表が全くない場合はカタログの静的マッピングへ フォールバックします — ルーティングは止まりません。

フォールバックチェーン#

最上位モデルが一時的に無効なら同カテゴリーの次点へ、さらに無ければ general カテゴリーへフォールバックします。クレジット保留前に判定する ため、ミスしても課金は発生しません。

セレクテッドスマート(プール限定)#

自分で選んだモデルプール内だけで AUTO を回すなら、ルーティングポリシー auto タイプ(セレクテッドスマート)を使います。スコア でプール内の最適 1 位を選び、失敗時はプールの残りをフォールバックします。

Perfect は同じスコア表の上位 N モデルを並列実行して 合成します(価格不問 — より遅く高価だが精度最優先)。統計ベースの選択が必要なら analytics_smart を有効化してください(現在は benchmark と同一、将来は トラフィック学習へ進化)。

benchmark_smart — vision request
curl https://apirouter.pleum.ai/v1/chat/completions \
  -H "Authorization: Bearer plm_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "benchmark_smart",
    "messages": [
      {"role": "user", "content": [
        {"type": "text", "text": "What is in this image?"},
        {"type": "image_url", "image_url": {"url": "https://example.com/cat.png"}}
      ]}
    ]
  }'