アプリがすでにOpenTelemetryを使用している場合、フレームワークごとのコネクタは不要です。OTLPエクスポーターをYardstickに向けるだけで、すべてのLLM&エージェントスパンがコスト付きで表示されます。Yardstickは一般的なGenAI規約(OpenLLMetry、OpenInference、OpenTelemetry GenAIセマンティック規約)を理解しているため、LangChain、LlamaIndex、OpenAI Agents SDK、CrewAI、Vercel AI SDKといったフレームワークもそのまま動作します。
以下の環境変数を設定してください(正確なエンドポイントはConnectページのOpenTelemetryカードからコピーし、キーもそこで生成します)。
OTEL_EXPORTER_OTLP_ENDPOINT=<your Yardstick OTLP endpoint>
OTEL_EXPORTER_OTLP_HEADERS=x-yardstick-key=ysk_...
OTEL_EXPORTER_OTLP_PROTOCOL=http/json
スパンは、スパン上のエージェント名(例えばgen_ai.agent.nameやservice.name)を使ってエージェントに紐付けられます。名前がないものはすべて、取りこぼしがないようキャッチオール用のエージェントに集約されます。現在、エンドポイントはJSON形式のHTTP経由のOTLPのみを受け付けているため、OTEL_EXPORTER_OTLP_PROTOCOL=http/jsonに固定してください。Protobufへの対応は近日公開予定です。
