Modal

O Modal oferece infraestrutura na nuvem dirigida a equipas de IA e dados. A ideia central é simples: o programador escreve Python normal, define funções com decoradores ou prepara imagens de contentor, e o Modal encarrega-se do resto — agendar contentores, ligar GPUs, escalar de zero e voltar, e expor endpoints por HTTPS. Detalhes de rede, armazenamento e gestão de capacidade ficam abstraídos, pelo que uma carga que corre num portátil pode correr da mesma forma numa grande frota.

A plataforma organiza-se em torno de algumas primitivas. As Functions tratam da computação sem servidor e podem distribuir-se por milhares de GPUs para trabalho paralelo ou em lote. As Sandboxes oferecem ambientes isolados para agentes de código, rollouts de aprendizagem por reforço e outro código não confiável, com arranques abaixo de um segundo e suporte para concorrência muito elevada. O Training cobre ajuste fino, aprendizagem por reforço e avaliação em capacidade GPU de um ou vários nós. Na inferência, o Modal disponibiliza endpoints compatíveis com OpenAI e permite trazer a sua própria stack, ajustando os endpoints ao perfil de tráfego.

Por baixo, o Modal opera o seu próprio runtime de contentores e sistema de imagens, pensado para imagens grandes e agendamento rápido de GPU, além de um sistema de ficheiros distribuído para aceder depressa a pesos de modelos e conjuntos de dados. A capacidade vem de um pool multicloud que abrange muitas regiões, com encaminhamento automático para o hardware disponível e verificações contínuas de estado. A faturação é por utilização, ao segundo enquanto o código corre, com controlos de custo granulares. A empresa oferece uma dotação inicial gratuita e uso pago escalável, e dirige-se a empresas com conformidade SOC 2 Type II e preparação para HIPAA.