Modal

Modal propose une infrastructure cloud pensée pour les équipes IA et data. Le principe central : le développeur écrit du Python classique, définit des fonctions via des décorateurs ou prépare des images de conteneur, et Modal s'occupe du reste — planification des conteneurs, attribution des GPU, mise à l'échelle depuis zéro puis retour, exposition d'endpoints HTTPS. Les questions de réseau, de stockage et de gestion de capacité sont abstraites, si bien qu'une charge qui tourne sur un ordinateur portable s'exécute de la même manière sur une vaste flotte.

La plateforme s'articule autour de quelques primitives. Les Functions assurent le calcul serverless et peuvent se répartir sur des milliers de GPU pour du travail parallèle ou par lots. Les Sandboxes offrent des environnements isolés pour les agents de code, les rollouts d'apprentissage par renforcement et tout autre code non fiable, avec des démarrages inférieurs à la seconde et une concurrence très élevée. Training couvre le fine-tuning, l'apprentissage par renforcement et l'évaluation sur une capacité GPU mono ou multi-nœuds. Côté inférence, Modal propose des endpoints compatibles OpenAI et permet d'apporter sa propre pile, en ajustant les endpoints au profil de trafic.

En dessous, Modal exploite son propre runtime de conteneurs et système d'images, conçu pour les images volumineuses et l'ordonnancement rapide des GPU, ainsi qu'un système de fichiers distribué pour accéder rapidement aux poids de modèles et aux jeux de données. La capacité provient d'un pool multicloud couvrant de nombreuses régions, avec routage automatique vers le matériel disponible et contrôles de santé continus. La facturation est à l'usage, à la seconde pendant l'exécution du code, avec un contrôle fin des coûts. L'entreprise propose une allocation de calcul gratuite et un usage payant évolutif, et cible les entreprises avec une conformité SOC 2 Type II et une préparation HIPAA.