メインコンテンツにスキップ

OpenTelemetry(OTLP)で任意のエージェントを計測する

すでにOTLPを送信している場合は、エクスポーターをYardstickに向けるだけで、すべてのエージェントスパンにコストが付与されます。

アプリがすでにOpenTelemetryを使用している場合、フレームワークごとのコネクタは不要です。OTLPエクスポーターをYardstickに向けるだけで、すべてのLLM&エージェントスパンがコスト付きで表示されます。Yardstickは一般的なGenAI規約(OpenLLMetry、OpenInference、OpenTelemetry GenAIセマンティック規約)を理解しているため、LangChain、LlamaIndex、OpenAI Agents SDK、CrewAI、Vercel AI SDKといったフレームワークもそのまま動作します。

以下の環境変数を設定してください(正確なエンドポイントはConnectページのOpenTelemetryカードからコピーし、キーもそこで生成します)。

OTEL_EXPORTER_OTLP_ENDPOINT=<your Yardstick OTLP endpoint>
OTEL_EXPORTER_OTLP_HEADERS=x-yardstick-key=ysk_...
OTEL_EXPORTER_OTLP_PROTOCOL=http/json

スパンは、スパン上のエージェント名(例えばgen_ai.agent.nameservice.name)を使ってエージェントに紐付けられます。名前がないものはすべて、取りこぼしがないようキャッチオール用のエージェントに集約されます。現在、エンドポイントはJSON形式のHTTP経由のOTLPのみを受け付けているため、OTEL_EXPORTER_OTLP_PROTOCOL=http/jsonに固定してください。Protobufへの対応は近日公開予定です。

こちらの回答で解決しましたか?