Union.ai entstand aus dem Flyte-Projekt, der weit verbreiteten Open-Source-Workflow-Engine für Daten- und ML-Pipelines, und führt dieses Erbe im Design fort: Sie schreiben gewöhnliche Python-Tasks und Task-Umgebungen, und die Runtime übernimmt Scheduling, Caching, Retries und die typisierte Datenübergabe zwischen den Schritten. Was Union hinzufügt, ist Ausfallsicherheit. Stirbt ein Lauf, weil ein Knoten verschwindet, eine GPU zurückgeholt wird, eine API 429 liefert oder ein OOM-Kill zuschlägt, wird der Lauf wiederhergestellt und ab dem fehlgeschlagenen Schritt fortgesetzt statt von vorn.
Die heutige Plattform gliedert sich in einige Kernfähigkeiten. Die AI-Factory verwaltet benannte, versionierte Artefakte, sodass ein Checkpoint oder Datensatz einen nachvollziehbaren Erzeuger und Konsumenten hat – wichtig für Reproduzierbarkeit. Produktions-Agents erlauben es, das bestehende Framework weiterzuverwenden, darunter OpenAI, Claude, PydanticAI und CrewAI, während jeder Turn der Schleife ausfallsicher, getraced und gesandboxt wird. Das Inferenz-Gateway bündelt externe Modell-APIs und selbst betriebene vLLM-, SGLang- oder Ollama-Endpunkte hinter einer kontrollierten Schnittstelle mit virtuellen Schlüsseln, Budgets und Guardrails. Darum herum liegen Scheduling-Bausteine wie Prioritäts-Queues, Parallelitätsgrenzen, Quoten und Cluster-Selektoren.
Die Bereitstellung ist bewusst BYOC. Union hostet die Control Plane, die Referenzen und Metadaten statt Payloads hält, während Daten, Modelle und Compute in Ihrem Perimeter bleiben, sodass ausgehandelte Cloud-Preise und Guthaben weiter gelten. Union ist im AWS Marketplace und per Self-Service-Registrierung verfügbar, mit einem optionalen Managed-Cluster-Service, der pro Cluster abgerechnet wird.
