監視とトラブルシュート
リクエストが失敗したときに、原因となった認証情報と処理段階を特定します。
4つのタブ§
監視ページには、用途別に次の4つのタブがあります：
- 健康——現在どの認証情報が使用可能で、どれに問題があるか
- 使用量とコスト——どれだけのトークンを使ったか、いくらかかったか
- リクエストログ——各リクエストの詳細な記録
- ルーティングチェック—— 指定された条件で、ゲートウェイがどのように選択するかを見る
健康§
「健全性」タブには現在の各Group、各認証情報の利用可能な状態と、注意が必要な問題の一覧が表示されます。
認証情報のステータスの意味：
- 使用可能——通常のローテーションに参加
- クールダウン中 — アップストリームのレート制限またはエラー後に一時的にスキップされ、クールダウン終了時に自動復帰します。
- ブラックリスト済み — 連続失敗がしきい値を超えると自動的に除外され、手動確認後に復帰させます。
- 停用済み——手動でオフにしたもので、ローテーションには参加しません
クールダウンとブラックリストの条件、復帰方法はスケジューリングの仕組みを参照してください。
問題のある認証情報は1つの一覧にまとまるため、Groupを1つずつ確認する必要はありません。
リクエストログ§
すべてのリクエストが記録され、時刻、Group、モデル、状態で絞り込めます。1件を開くと、使用した認証情報、プロトコル変換、リトライ回数、アップストリーム応答を確認できます。
トラブルシューティングに最も役立つフィールド：
- ルーティングID — このリクエストが実際に通ったGroupと認証情報を確認できます。
- プロトコル変換 — クライアントとアップストリームのプロトコルが異なる場合、ここで変換過程を確認できます。
- エラー情報——アップストリームから返される元のエラーの方が、ゲートウェイ自身のエラーより問題の説明に役立ちます。
ログ保持日数は設定できます。実行時設定を参照してください。
ルーティングチェック§
これはトラブルシューティングの最速のエントリーポイントです。AccessKeyとモデル名を入力すると、ルーティング可否、候補Group、利用可能な認証情報数、または失敗理由を確認できます。
典型的な用途：
- 「モデルが存在しないと表示される理由」 — チェッカーで、このキーが利用できるGroupにモデルが公開されているか確認できます。
- 「利用可能な認証情報がない理由」 — 候補Groupごとに認証情報の総数と現在利用可能数を確認します。
- 「新しいGroupを追加したが反映されていない」——AccessKeyがそのGroupに付与されているか確認
実際のリクエストを送らずに、候補Groupと利用可能な認証情報を確認できます。
使用量とコスト§
リクエスト量、成否傾向、キャッシュヒット率、トークン分類、コスト見積もりを表示し、Group、モデル、AccessKeyなどの軸で分布を確認できます。
トークン分類はコストに直接影響します：
- 非キャッシュ入力——通常課金される入力トークン
- キャッシュ読み取り——キャッシュにヒットした部分、通常はキャッシュ非対応よりもはるかに安い
- キャッシュ書き込み——キャッシュ作成のコスト。サービスプロバイダによっては別途課金されることがある
- 出力——モデルが生成したトークンで、通常最も高価です
そのためキャッシュヒット率が高いのは良いことです。同じリクエスト量でも、キャッシュヒット率が上がればコストは大きく下がります。
コストはアップストリームが返すトークン使用量 × モデルの価格から見積もり、運用分析とキャパシティ計画に使います。この値はプロバイダーの請求額とは一致せず、財務照合にも使えません。既知の差異には、アップストリームが使用量を返さないリクエスト、価格データのないモデル、過去に遡って適用されない価格変更があります。
データの完全性§
「使用量」タブには「品質」指標があります。これはサービス品質ではなく、統計データそのものがどれだけ完全かを測定します：
| 指標 | 意味 | 影響 |
|---|---|---|
| 使用量データなし | アップストリームがトークン使用量を返しません | これらのリクエストは統計とコストに含まれません |
| 使用量の一部欠落 | 一部の項目しか返されていません | コストが実際よりも低めです。 |
| コスト未設定 | 使用量はあるが、このモデルには価格データがありません | コストには計上されず、使用量は引き続き集計されます |
| 一部の料金設定 | 一部のトークン種別にしか価格がありません | コストが低すぎます。 |
これらの値が大きい場合はコスト見積もりの信頼性が低下しています。「未設定」は通常、モデル価格が未同期であることを示します。モデル管理を参照してください。
トラブルシューティング順序§
問題が起きたら次の順序で確認します。通常は2～3手順で原因を特定できます：
- まず健全性を確認します——認証情報がすべてクールダウン中かブラックリストか？ その場合は問題はアップストリームまたはキー自体にあります
- ルーティングチェックを再度行います——候補Groupと利用可能な認証情報があるかを確認します。通らない場合は直接の原因を確認できます。
- 最後にリクエストログを確認します——失敗したものを見つけ、アップストリームから返された元のエラーを見る
特定の認証情報が失効していると疑われる場合は、より直接的な方法があります。Group の認証情報ページでその認証情報に 接続テスト を実行すれば、実際のリクエストで即座に確認できます。詳しくは Groupとチャネル を参照してください。
健全性が正常で、ルーティングチェックでも候補Groupと利用可能な認証情報が存在するのにリクエストが失敗する場合は、多くの場合アップストリーム側の問題（クォータ、モデルの停止、リージョン制限）です。ログの元のエラーで確認できます。