OpenLLMetry
Instrumentação OpenTelemetry para frameworks de LLM, RAG e agentes (SDK da OpenAI, LangChain, LlamaIndex etc.), enviando traces para qualquer backend OTel.
A proposta: usar a stack de observabilidade que você já tem (Datadog, Honeycomb, Grafana Tempo, Jaeger) em vez de ficar preso a um serviço específico para LLMs. O projeto impulsionou as Semantic Conventions do OTel para GenAI, ratificadas em 2024 (o namespace de atributos gen_ai.* hoje é padrão).
Concorrente, vindo da Arize: o OpenInference, com a mesma ideia e um modelo de spans um pouco diferente. Muitas empresas de LLMOps (Langfuse, Phoenix, Helicone) já suportam os dois.