如果你的应用已经在使用 OpenTelemetry,就不需要为每个框架单独接入连接器。只需把你的 OTLP 导出器指向 Yardstick,每个 LLM 与 Agent span 就会自动带上成本信息。Yardstick 理解常见的 GenAI 规范(OpenLLMetry、OpenInference,以及 OpenTelemetry GenAI 语义约定),因此 LangChain、LlamaIndex、OpenAI Agents SDK、CrewAI 以及 Vercel AI SDK 等框架都可以开箱即用。
设置以下环境变量(请从 Connect 页面的 OpenTelemetry 卡片复制准确的 endpoint 并生成密钥):
OTEL_EXPORTER_OTLP_ENDPOINT=<your Yardstick OTLP endpoint>
OTEL_EXPORTER_OTLP_HEADERS=x-yardstick-key=ysk_...
OTEL_EXPORTER_OTLP_PROTOCOL=http/json
Span 会根据其上的 Agent 名称(例如 gen_ai.agent.name 或 service.name)被归属到对应 Agent;没有名称的 span 会归入一个兜底 Agent,确保数据不会丢失。目前该 endpoint 仅接受基于 HTTP 的 JSON 格式 OTLP,请固定使用 OTEL_EXPORTER_OTLP_PROTOCOL=http/json。Protobuf 支持即将推出。
