LangWatch começou como ferramenta open source de observabilidade de LLM e hoje é uma plataforma de ponta a ponta para times de plataforma de IA. A camada de rastreamento é nativa de OpenTelemetry, então agentes criados com LangChain, LangGraph, CrewAI, Mastra, Pydantic AI ou o Vercel AI SDK enviam spans sem reescrever código. Os traces trazem tokens, custo e cache, podem ser vistos como cascata, flame graph, topologia ou diagrama de sequência e são pesquisáveis com views salvas, linguagem natural e agrupamento automático por tema.
Sobre o rastreamento, o LangWatch adiciona avaliação e testes. Os times pontuam uma saída ou uma conversa inteira com um juiz LLM, código próprio ou um fluxo completo; executam avaliações em notebook ou na interface compartilhada; e avaliam tráfego de produção em tempo real. Os testes agênticos simulam usuários reais de texto e voz que desafiam o agente turno a turno, enquanto o red teaming roda simulações adversariais para encontrar jailbreaks, violações de política e chamadas de ferramentas inseguras antes dos usuários.
As adições mais recentes miram a operação diária: um gateway de IA roteia chamadas de OpenAI, Anthropic, Google, Bedrock, Mistral e outros por um único endpoint com orçamentos por pessoa, time e cliente e sobrecarga de cerca de 11 microssegundos; agentes de código como Claude Code e Codex entram no mesmo padrão de observabilidade com um comando; e o Langy transforma o objetivo em linguagem natural de um PM em plano de cenários e depois em pull requests. O LangWatch oferece implantação em nuvem, auto-hospedada e híbrida, além de certificação ISO 27001, conformidade com GDPR e residência de dados na UE.
