Modal

Modal ofrece infraestructura cloud orientada directamente a equipos de IA y datos. La idea central es que el desarrollador escriba Python normal, defina funciones con decoradores o prepare imágenes de contenedor, y Modal se ocupe del resto: programar contenedores, asignar GPU, escalar desde cero y volver, y exponer endpoints por HTTPS. Los detalles de red, almacenamiento y gestión de capacidad quedan abstraídos, así que una carga que funciona en un portátil puede ejecutarse igual sobre una flota enorme.

La plataforma se organiza en torno a unas pocas primitivas. Las Functions cubren el cómputo serverless y pueden repartirse entre miles de GPU para trabajo paralelo o por lotes. Los Sandboxes ofrecen entornos aislados para agentes de código, rollouts de aprendizaje por refuerzo y otro código no confiable, con arranques por debajo del segundo y soporte para concurrencia muy alta. Training abarca ajuste fino, aprendizaje por refuerzo y evaluación en capacidad GPU de uno o varios nodos. En inferencia, Modal ofrece endpoints compatibles con OpenAI y permite desplegar pilas propias y ajustar endpoints al perfil de tráfico.

Por debajo, Modal opera su propio entorno de ejecución de contenedores y sistema de imágenes, diseñado para imágenes grandes y programación rápida de GPU, junto con un sistema de archivos distribuido para acceder con rapidez a pesos de modelos y datasets. La capacidad procede de un pool multicloud que abarca muchas regiones, con enrutado automático al hardware disponible y comprobaciones continuas de estado. La facturación es por uso, al segundo mientras el código se ejecuta, con controles de coste granulares. La compañía ofrece una asignación inicial gratuita y uso de pago escalable, y se dirige a empresas con cumplimiento SOC 2 Type II y preparación para HIPAA.