Zum Hauptinhalt springen

Jeden Agenten mit OpenTelemetry (OTLP) messen

Sendest du bereits OTLP? Richte deinen Exporter auf Yardstick aus, und jeder Agent-Span erhält Kosten.

Wenn deine App bereits OpenTelemetry nutzt, brauchst du keinen framework-spezifischen Connector. Richte deinen OTLP-Exporter auf Yardstick aus, und jeder LLM- & Agent-Span erscheint mit seinen Kosten. Yardstick versteht die gängigen GenAI-Konventionen (OpenLLMetry, OpenInference und die OpenTelemetry-GenAI-Semantikkonventionen), sodass Frameworks wie LangChain, LlamaIndex, das OpenAI Agents SDK, CrewAI und das Vercel AI SDK ohne Zusatzaufwand funktionieren.

Setze diese Umgebungsvariablen (kopiere den exakten Endpoint & erzeuge einen Key über die OpenTelemetry-Karte auf deiner Connect-Seite):

OTEL_EXPORTER_OTLP_ENDPOINT=<your Yardstick OTLP endpoint>
OTEL_EXPORTER_OTLP_HEADERS=x-yardstick-key=ysk_...
OTEL_EXPORTER_OTLP_PROTOCOL=http/json

Spans werden anhand des Agentennamens im Span einem Agenten zugeordnet (zum Beispiel gen_ai.agent.name oder service.name); alles ohne Namen landet in einem Sammel-Agenten, damit nichts verloren geht. Aktuell akzeptiert der Endpoint OTLP über HTTP mit JSON, setze also OTEL_EXPORTER_OTLP_PROTOCOL=http/json. Protobuf-Unterstützung folgt in Kürze.

Hat dies deine Frage beantwortet?