OpenLIT

OpenLIT se présente comme une plateforme d'ingénierie de harness pour agents, et non comme un outil de supervision à usage unique. L'idée est que le modèle n'est qu'une partie d'un agent fiable ; le harness qui l'entoure — prompts, contexte, outils, règles et secrets — est ce que les équipes doivent réellement inspecter et corriger. OpenLIT réunit ces éléments pour vous permettre de tracer ce qui s'est passé, d'évaluer si cela a fonctionné, de protéger ce qui ne doit pas casser, puis de modifier le harness sans redéployer l'application.

L'instrumentation est volontairement souple. Les équipes applicatives peuvent ajouter un SDK et appeler openlit.init() pour obtenir un traçage in-process, tandis que celles qui préfèrent une couverture sans code peuvent utiliser un contrôleur basé sur eBPF dans l'Enterprise Edition. Pour la visibilité de l'infrastructure, un collecteur GPU existe pour les cartes NVIDIA, AMD et Intel, et si vous utilisez déjà des outils OpenTelemetry, il suffit de pointer vos exportateurs OTLP vers votre déploiement OpenLIT.

Comme le projet est natif d'OpenTelemetry et sous licence Apache 2.0, le chemin des données reste portable. Les traces et métriques peuvent rester dans l'interface OpenLIT et son stockage basé sur ClickHouse, ou être exportées vers Grafana, Datadog ou tout backend OTLP. Le stockage repose sur ClickHouse pour garder des requêtes rapides sur un fort volume de télémétrie LLM et agents, et l'ensemble de la pile peut être auto-hébergé avec Docker Compose ou Kubernetes.