OpenLIT

OpenLIT se presenta como una plataforma de ingeniería de arneses para agentes, no como una herramienta de monitorización de un solo propósito. La idea es que el modelo es solo una parte de un agente fiable; el arnés que lo rodea —prompts, contexto, herramientas, reglas y secretos— es lo que los equipos realmente necesitan inspeccionar y corregir. OpenLIT reúne esas piezas para que puedas rastrear lo que ocurrió, evaluar si funcionó, proteger lo que no debe romperse y cambiar el arnés sin volver a desplegar la aplicación.

La instrumentación es deliberadamente flexible. Los equipos de aplicación pueden añadir un SDK y llamar a openlit.init() para obtener trazado en proceso, mientras que quienes prefieren cobertura sin código pueden usar un controlador basado en eBPF en la Enterprise Edition. Para la visibilidad de infraestructura existe un recopilador de GPU para tarjetas NVIDIA, AMD e Intel, y si ya usas herramientas de OpenTelemetry, basta con apuntar los exportadores OTLP a tu despliegue de OpenLIT.

Como el proyecto es nativo de OpenTelemetry y tiene licencia Apache 2.0, la ruta de datos sigue siendo portátil. Las trazas y métricas pueden vivir en la interfaz de OpenLIT y su almacén basado en ClickHouse, o exportarse a Grafana, Datadog o cualquier backend OTLP. El almacenamiento se apoya en ClickHouse para mantener consultas rápidas con grandes volúmenes de telemetría de LLM y agentes, y toda la pila puede autoalojarse con Docker Compose o Kubernetes.