OpenLLMetry
OpenTelemetry-Instrumentierung für LLM-/RAG-/Agent-Frameworks (OpenAI-SDK, LangChain, LlamaIndex usw.) — schickt Traces an jeden beliebigen OTel-Backend.
Der Pitch: die bestehende Observability-Stack (Datadog, Honeycomb, Grafana Tempo, Jaeger) weiterverwenden, statt sich an einen LLM-spezifischen Dienst zu binden. Trieb die OTel-Semantic-Conventions für GenAI voran, die 2024 ratifiziert wurden (der Attribut-Namespace gen_ai.* ist inzwischen Standard). Konkurrenz von Arize: OpenInference (gleiche Idee, leicht anderes Span-Modell). Viele LLMOps-Firmen (Langfuse, Phoenix, Helicone) unterstützen mittlerweile beide.