LangWatch khởi đầu là công cụ quan sát LLM mã nguồn mở và nay đã thành nền tảng đầu-cuối cho đội nền tảng AI. Lớp truy vết có gốc OpenTelemetry, nên tác tử xây bằng LangChain, LangGraph, CrewAI, Mastra, Pydantic AI hay Vercel AI SDK vẫn gửi span mà không cần viết lại. Trace chứa token, chi phí và cache, có thể xem dưới dạng thác nước, flame graph, sơ đồ topology hoặc tuần tự, và tìm kiếm được bằng chế độ xem đã lưu, ngôn ngữ tự nhiên và phân cụm chủ đề tự động.
Trên lớp truy vết, LangWatch bổ sung đánh giá và kiểm thử. Đội ngũ có thể chấm điểm một đầu ra hoặc cả cuộc hội thoại bằng giám khảo LLM, mã tùy chỉnh hay một workflow; chạy đánh giá từ notebook hoặc giao diện dùng chung; và đánh giá lưu lượng vận hành theo thời gian thực. Kiểm thử tác tử mô phỏng người dùng văn bản và giọng nói đẩy tác tử từng lượt, còn red teaming chạy mô phỏng đối kháng để phát hiện jailbreak, vi phạm chính sách và gọi công cụ không an toàn trước khi người dùng gặp phải.
Các bổ sung gần đây hướng tới vận hành hằng ngày: cổng AI định tuyến các lời gọi tới OpenAI, Anthropic, Google, Bedrock, Mistral và nhiều nhà cung cấp khác qua một điểm cuối duy nhất với khóa của bạn, áp ngân sách theo từng người, đội và khách hàng cùng mức phụ trội khoảng 11 micro giây; tác tử viết mã như Claude Code và Codex vào cùng chuẩn quan sát chỉ bằng một lệnh; và Langy biến mục tiêu bằng ngôn ngữ tự nhiên của PM thành kế hoạch kịch bản kiểm thử rồi thành pull request. LangWatch hỗ trợ triển khai cloud, tự lưu trữ và lai, đồng thời công bố chứng nhận ISO 27001, tuân thủ GDPR và tùy chọn lưu trú dữ liệu EU.
