OpenLIT

A OpenLIT posiciona-se como uma plataforma de engenharia de harness para agentes, e não como uma ferramenta de monitorização de propósito único. A ideia é que o modelo é apenas uma parte de um agente fiável; o harness em seu redor — prompts, contexto, ferramentas, regras e segredos — é o que as equipas realmente precisam de inspecionar e corrigir. A OpenLIT junta essas peças para que possa rastrear o que aconteceu, avaliar se funcionou, proteger o que não deve quebrar e alterar o harness sem reimplantar a aplicação.

A instrumentação é deliberadamente flexível. As equipas de aplicação podem adicionar um SDK e chamar openlit.init() para obter rastreamento em processo, enquanto quem prefere cobertura sem código pode usar um controlador baseado em eBPF na Enterprise Edition. Para visibilidade de infraestrutura existe um coletor de GPU para placas NVIDIA, AMD e Intel e, se já usa ferramentas OpenTelemetry, basta apontar os exportadores OTLP para a sua instalação OpenLIT.

Como o projeto é nativo de OpenTelemetry e licenciado sob Apache 2.0, o caminho dos dados mantém-se portátil. Os traces e métricas podem ficar na interface OpenLIT e no seu armazenamento baseado em ClickHouse, ou ser exportados para Grafana, Datadog ou qualquer backend OTLP. O armazenamento assenta em ClickHouse para manter as consultas rápidas com grandes volumes de telemetria de LLM e agentes, e toda a stack pode ser auto-hospedada com Docker Compose ou Kubernetes.