Arize là nền tảng kỹ thuật AI dành cho đội ngũ vận hành AI tạo sinh trong production. Nền tảng gồm hai sản phẩm: Arize AX, môi trường quản lý cho quan sát agent, đánh giá và thử nghiệm, cùng Phoenix, thư viện theo dõi và đánh giá mã nguồn mở mà đội ngũ có thể tự triển khai khi cần toàn quyền kiểm soát dữ liệu. Cả hai đều dựa trên OpenInference, quy ước ngữ nghĩa mở cho việc theo dõi AI tạo sinh do đội ngũ Arize khởi xướng và xây trên OpenTelemetry.
Quy trình xoay quanh ba câu hỏi. Observe cho biết agent thực sự đã làm gì bằng cách ghi lại mọi span, trace và phiên làm việc. Evaluate cho biết chất lượng đang tốt lên hay xấu đi nhờ đánh giá ở cấp span, trace và phiên. Learn cho biết một thay đổi có thực sự hiệu quả không bằng cách thử prompt và harness trước khi triển khai. Kho lưu trace cho AI tạo sinh (ADB) giữ dữ liệu ở định dạng mở, kết nối trực tiếp với BigQuery, Databricks hoặc Snowflake; một agent kỹ thuật AI tên Alyx ngay trong sản phẩm phát hiện vấn đề và soạn bản sửa sẵn sàng để duyệt.
Nền tảng tích hợp hàng chục mô hình, framework và công cụ gồm OpenAI, Anthropic, Google, Amazon Bedrock, LangChain, LangGraph, LlamaIndex, CrewAI và DSPy. Arize công bố các chứng nhận SOC 2 Type II, ISO 27001, PCI DSS, HIPAA và GDPR, hỗ trợ triển khai trên cloud, hybrid và tự vận hành.