Anyscale empaqueta el proyecto de código abierto Ray como servicio gestionado para que los equipos de ingeniería no tengan que operar la capa de clúster por su cuenta. La propuesta es IA a escala de producción en tus propias GPUs de nube: tú aportas el cómputo y Anyscale se encarga de la orquestación, el escalado y la operación fiable de las cargas de Ray. La empresa fue fundada por los creadores de Ray y sigue siendo el principal responsable comercial del proyecto.
La plataforma se organiza en torno a las cargas que dominan el desarrollo de IA actual en lugar de un único producto. La curación de datos multimodales ejecuta grandes canalizaciones sobre vídeo, imagen, texto y audio; el entrenamiento distribuido orquesta clústeres de GPU con escalado elástico y preprocesamiento de última milla; la generación de embeddings por lotes paraleliza la vectorización para búsqueda y recuperación; y el post-entrenamiento soporta marcos tipo RL como SkyRL y veRL construidos nativamente sobre Ray. Librerías existentes como PyTorch, vLLM, SGLang y XGBoost escalan con APIs de Python en lugar de reescribirse.
En el plano operativo, Anyscale destaca la asignación granular de hardware, de modo que distintas partes de una carga reclaman CPU, GPU, TPU o racks de aceleradores como NVL72 de forma independiente, junto con comunicación distribuida eficiente mediante el almacén de objetos en memoria de Ray o RDMA. La orquestación multicloud, la gobernanza del cómputo y la observabilidad completan la historia de gestión, y los créditos iniciales con prueba gratuita reducen el coste de evaluarla.
