Helicone
Maggiori informazioni
- Creato da
- Justin Torre, Cole Gottdank, Scott Nguyen, Barak Yacoby
- Anno
- Tipo
- Osservabilità LLM + proxy/gateway
- Licenza
- Apache 2.0 (core)
- Sito ufficiale
- helicone.ai
Osservabilità per LLM tramite proxy: si cambia OPENAI_BASE_URL puntando a Helicone e tutto viene registrato automaticamente. In alternativa, l'SDK asincrono per una latenza minima.
Tre modalità architetturali: proxy (la più semplice, circa 5–50 ms di latenza aggiuntiva), logger asincrono (nessuna latenza aggiuntiva) e gateway. Include caching, rate limiting, retry e failover tra provider (se OpenAI è fuori uso, si passa ad Anthropic). Concorrenti con modello proxy: Portkey, LiteLLM Gateway, Cloudflare AI Gateway. Con modello SDK (senza proxy): Langfuse, LangSmith, Weave, Phoenix.