Zum Hauptinhalt springen

Jeden Modellaufruf mit dem AI Gateway messen

Richte ein beliebiges AI SDK auf Yardstick aus, und wir erfassen die Kosten jedes Aufrufs.

Das Gateway ist der Weg mit dem geringsten Aufwand, um Kosten zu erfassen. Du änderst die Basis-URL deines bestehenden AI SDK auf das Gateway von Yardstick und fügst einen Header hinzu. Yardstick leitet die Anfrage unverändert an den Provider weiter, streamt die Antwort zurück und erfasst Token-Nutzung & Kosten automatisch.

  1. Öffne auf der Connect-Seite die AI-Gateway-Karte und erzeuge einen Key (beginnt mit

ysk_). Der Key wird nur einmal angezeigt, also kopiere ihn sofort.

  1. Setze die Basis-URL deines SDK auf die auf der Karte angezeigte Gateway-URL und füge den Header hinzu

x-yardstick-key: ysk_.... Sende weiterhin deinen eigenen Provider-Key mit; Yardstick leitet ihn weiter.

Anthropic & OpenAI werden bereits unterstützt, und Streaming funktioniert. Die Kosten jedes Aufrufs fließen direkt in deine Ausgaben- & ROI-Übersicht ein.

Hat dies deine Frage beantwortet?