ドキュメント/ 設定

モデル管理

クライアントには使い慣れたモデル名を使わせつつ、コスト見積もりに使う価格の出所も確認できるようにします。

二つのレベル§

モデル設定は次の2か所に分かれています:

  • Groupの「モデル」タブ — このGroupが外部に公開するモデルを決定します。この一覧にあるモデルだけをリクエストできます。
  • モデルページ — モデル価格、仕様、クライアントカタログの全体設定で、コスト見積もりと Codex の表示に影響します。

日常の設定は主にグループで行います。Groupとチャネルを参照してください。このページではグループ内のモデルとエイリアス、全体の価格設定、クライアントカタログを説明します。

モデル検出§

モデル名を手入力する必要はありません。Groupの「モデル」タブでアップストリームからモデル一覧を取得し、必要なモデルを選択します。

検出結果はアップストリームの一覧に依存します。プロバイダーによっては不要なモデルも多数含まれるため、実際に使うモデルだけを選択してください。範囲を絞ると、高価なモデルの誤用を防ぎ、トラブルシューティングもしやすくなります。

利用可能なモデルがアップストリーム一覧にない場合は、手動で追加できます。

Claude、Codex、Antigravity、Grok のサブスクリプションチャネルは、起動時と 3 時間ごとにモデルカタログをオンラインで更新します。ダウンロードや検証に失敗した場合は現在のカタログを維持し、起動直後は内蔵カタログを使用します。ダウンロードには環境変数のプロキシ設定が使われ、グループやグローバルの送信プロキシ設定は適用されません。更新によってグループに保存済みのモデルが変更されることはありません。

FIG. 1 — モデル発見アップストリームから取得

一覧はアップストリームの応答に基づきます。選択したモデルだけが外部に公開されます。

クイック同期

モデル検出ドロワーでは、上流の結果に基づいて現在の一覧を完全同期、追加のみ、またはクリーンアップできます。同期は上流の検出結果だけを比較し、価格カタログは上流モデルとして扱いません。残るモデルのエイリアスは維持され、確認するとそのまま保存されます。

Codex モデルカタログ§

管理者として「モデル → クライアントモデルカタログ」を開きます。Modern と Classic の両方にこの入口があります。候補は Responses 生成ルートを持つクライアント向けモデル名で、エイリアスと利用可能な自動モデルも含まれます。

  1. 「モデルを追加」で表示する候補を選びます。既定では gpt- で始まるモデルだけが入り、gpt-image と gpt-image-* は除外され、バージョンの新しい順に並びます。他の候補は手動で追加してください。
  2. ドラッグまたは上下移動で並べ替えます。モデルの属性を開くと、表示名、説明、コンテキストウィンドウ、自動圧縮のしきい値、思考レベルと既定レベル、入力タイプ、Fast/Ultrafast の表示を編集できます。
  3. 既定の思考レベルは選択済みのレベルに含まれ、入力タイプにはテキストが必要です。確認後に「すべての変更を保存」を押すと、カタログとモデル属性をまとめて保存します。

「既定のカタログを復元」はモデル選択と順序だけを戻し、編集したモデル属性を保持します。属性は個別に既定値へ戻せます。どちらの変更も保存が必要です。

容量と権限

カタログ応答の上限は 1 MiB です。プレビューは権限制限なしで計算され、実際のクライアント一覧はアクセスキーのグループ、プロトコル、モデルでも絞り込まれます。容量を超える場合は、順序どおりに先頭から収まる完全なモデル項目だけを返します。モデルを減らすか、よく使うモデルを前へ移動してください。

カタログからの削除は Codex の表示だけに影響し、モデル呼び出しやアクセスキーの権限は変わりません。属性は上流の実際の能力に合わせて設定してください。仕様の変更や高速ティアの表示で、上流に未対応の能力が追加されることはありません。

モデルエイリアス§

エイリアスはGroupの「モデルと別名」タブで設定し、クライアントが要求する名前と、アップストリームで実際のモデル名が一致しないという実際的な問題を解決します。

主な用途:

  • プロバイダーを変えてもコードは変更しない — アプリケーション側のモデル名を変えず、ゲートウェイで別のアップストリームモデルへ割り当てます。
  • 統一命名 — プロバイダーごとに異なる同一モデルの名前を、エイリアスで統一します。
  • バージョン収束 — 日付サフィックス付きの具体的なバージョンを、安定した1つの名前にマッピングします。
FIG. 2 — モデル別名モデルID → 外部エイリアス

アプリケーションはエイリアスを指定し、ゲートウェイが転送時に実際のアップストリームモデル名へ置き換えます。

同じグループの複数の上流モデルに、同じ公開エイリアスを付けられます。まず重みに従って認証情報を選び、次にその認証情報で利用可能な同名モデルを順番に選択します。モデルを増やしても認証情報の通信シェアは増えません。埋め込みモデルは混在させず、クライアントの同じモデル名が常に同じ埋め込みモデルを指すようにしてください。

自動モデル選択§

「設定 → 実験機能」で自動モデルを有効にすると、クライアントは同じ名前を要求し、JEV がタスクに応じて設定済みプリセットから選択します。まず利用可能な Decisions グループと JEV 共通設定を用意し、自動モデル名、各プリセットの用途説明と対象モデル、フォールバック用プリセットを設定します。

自動モデル選択は既定で無効です。決定に失敗すると設定済みのフォールバックを使いますが、候補もフォールバックもアクセスキーの権限を満たす必要があり、未許可のモデルを開放するものではありません。JEV による遅延や費用が加わる場合があり、ログで選択結果と決定費用を確認できます。

価格はどこから来るのか§

コスト見積もりにはモデル価格が必要です。価格には2つの情報源があります:

  • 自動同期 — 公開価格データソースmodels.devから一般的なモデルの価格を取得します。
  • 手動で入力 — データソースにない価格や、個別契約の価格を入力します。

価格の自動同期は設定で無効にできます。実行時設定を参照してください。無効にすると、すべての価格を手動で管理します。

価格はトークン種別ごとに定義します。これは正確なコスト見積もりの前提です:

  • 入力/出力 — 基本となる2つのトークン種別です。
  • キャッシュ読み取り — 通常の入力トークンより大幅に安い価格です。
  • キャッシュ書き込み — 一部のプロバイダーは個別に課金します。

一部のモデルはコンテキスト長による段階価格にも対応します。指定したコンテキスト長を超えた場合に単価を上げる段階価格を設定できます。

手動で価格を変更§

自動同期された価格は手動で上書きできます。変更した項目は手動管理としてマークされ、その後の自動同期では変更内容を上書きしません。

自動同期された値に戻すには「リセット」を使います。

いつ手動で変更する必要があるか

企業向けの契約価格、中継サービス独自の価格、公開データソースにないモデルを使う場合は、価格を手動入力してください。このような場合、公開価格の自動同期値は正確ではありません。

Group設定とAccessKey編集画面で価格倍率を設定でき、どちらもデフォルトは1です。最終コスト = 元の計算コスト × Group倍率 × AccessKey倍率。リクエストログ、使用量統計、コスト上限には、この最終コストが使われます。倍率を変更しても過去のコストは再計算されません。

価格がない場合§

リクエストに影響しない

価格データがなくてもリクエストは失敗しません。モデルは引き続き利用できますが、その使用量はコスト見積もりに含まれません。監視ページの「コスト未設定」に集計されます。

コスト見積もりが明らかに低い場合は、監視とトラブルシュートの「データ完全性」を確認します。「コスト未設定」が多ければ、価格データのないモデルを補ってください。

もう1点、価格変更は過去のデータに遡って適用されません。今日追加した価格は今後の統計にだけ反映され、過去のリクエストは未計上のままです。

モデル管理 - GPT-Load