OpenLIT

OpenLIT positioniert sich als Plattform für Agenten-Harness-Engineering und nicht als Monitoring-Tool für einen einzigen Zweck. Die Idee dahinter: Das Modell ist nur ein Teil eines zuverlässigen Agenten; der Harness darum herum – Prompts, Kontext, Tools, Regeln und Secrets – ist das, was Teams tatsächlich prüfen und reparieren müssen. OpenLIT führt diese Bausteine zusammen, sodass du nachvollziehen kannst, was passiert ist, bewerten kannst, ob es funktioniert hat, die Teile absicherst, die nicht brechen dürfen, und den Harness änderst, ohne die Anwendung neu auszurollen.

Die Instrumentierung ist bewusst flexibel. Anwendungsteams können ein SDK einbinden und openlit.init() aufrufen, um Tracing im Prozess zu erhalten, während Teams, die eine Abdeckung ohne Codeänderungen bevorzugen, einen eBPF-basierten Controller in der Enterprise Edition nutzen können. Für die Infrastruktur-Sichtbarkeit gibt es einen GPU-Collector für NVIDIA-, AMD- und Intel-Karten, und wer bereits OpenTelemetry-Tools verwendet, richtet einfach OTLP-Exporter auf die eigene OpenLIT-Instanz.

Da das Projekt OpenTelemetry-nativ und unter Apache 2.0 lizenziert ist, bleibt der Datenpfad portabel. Traces und Metriken können in der OpenLIT-Oberfläche und ihrem ClickHouse-basierten Speicher liegen oder nach Grafana, Datadog oder ein beliebiges OTLP-Backend exportiert werden. Der Speicher setzt auf ClickHouse, damit Abfragen über LLM- und Agenten-Telemetrie in hohem Volumen schnell bleiben, und der gesamte Stack lässt sich mit Docker Compose oder Kubernetes selbst hosten.