Anyscale verpackt das Open-Source-Projekt Ray als Managed Service, damit Engineering-Teams die Cluster-Schicht nicht selbst betreiben müssen. Das Versprechen lautet KI in Produktionsmaßstab auf den eigenen Cloud-GPUs: Die Rechenleistung kommt von Ihnen, Anyscale übernimmt Orchestrierung, Skalierung und den zuverlässigen Betrieb der Ray-Workloads. Das Unternehmen wurde von den Entwicklern von Ray gegründet und ist weiterhin der wichtigste kommerzielle Träger des Projekts.
Die Plattform ist um die Workloads herum organisiert, die die heutige KI-Entwicklung prägen, nicht um ein einzelnes Produkt. Multimodale Datenkuratierung fährt große Pipelines über Video, Bild, Text und Audio; verteiltes Training orchestriert GPU-Cluster mit elastischer Skalierung und Vorverarbeitung auf der Zielgeraden; Batch-Embedding-Generierung parallelisiert Vektorisierung für Suche und Retrieval; und Post-Training unterstützt RL-nahe Frameworks wie SkyRL und veRL, die nativ auf Ray aufbauen. Bestehende Bibliotheken wie PyTorch, vLLM, SGLang und XGBoost skalieren über Python-APIs statt über Umschreiben.
Operativ betont Anyscale die feingranulare Hardware-Zuweisung, sodass verschiedene Teile eines Workloads unabhängig CPUs, GPUs, TPUs oder Beschleuniger-Racks wie NVL72 belegen, plus effiziente verteilte Kommunikation über Rays In-Memory-Objektspeicher oder RDMA. Multi-Cloud-Orchestrierung, Compute-Governance und Observability runden das Management ab, und Startguthaben samt kostenloser Testphase senken die Einstiegshürde für eine Evaluierung.
