メインコンテンツにスキップ

AIゲートウェイですべてのモデル呼び出しを計測する

AI SDKをYardstickに向けるだけで、すべての呼び出しのコストを記録します。

ゲートウェイは、最小の手間でコストを取得できる方法です。既存のAI SDKのベースURLをYardstickのゲートウェイに変更し、ヘッダーを1つ追加するだけです。Yardstickはリクエストをそのままプロバイダーに転送し、レスポンスをストリーミングで返しながら、トークン使用量&コストを自動的に記録します。

  1. Connectページで、AIゲートウェイのカードを開いてキーを生成します(先頭は

ysk_)。キーは一度しか表示されないため、必ずコピーしてください。

  1. SDKのベースURLをカードに表示されているゲートウェイURLに設定し、次のヘッダーを追加します

x-yardstick-key: ysk_...。ご自身のプロバイダーキーはそのまま送信してください。Yardstickがそれを転送します。

現在Anthropic&OpenAIに対応しており、ストリーミングも利用できます。すべての呼び出しのコストが、あなたの支出&ROIに反映されます。

こちらの回答で解決しましたか?