Chutes es una plataforma de inferencia sin servidor construida sobre infraestructura descentralizada de GPU. En lugar de alquilar una asignación fija de GPU, envías peticiones a un endpoint compatible con OpenAI y la plataforma las enruta a capacidad que ya está en marcha. El argumento del equipo es la velocidad de disponibilidad: cuando aparece un nuevo modelo abierto de frontera, Chutes pretende tenerlo operativo en minutos para que los desarrolladores puedan probarlo y adoptarlo antes.
El catálogo es deliberadamente amplio. Además de los grandes modelos de lenguaje que cabría esperar, Chutes aloja modelos de imagen, vídeo, voz, música, embeddings y moderación de contenido, y permite traer tu propio código como "chute" personalizado. Eso hace viable construir productos multimodales —un asistente que además genera imágenes, transcribe audio o modera contenido de usuarios— sin integrar varios proveedores.
En lo operativo, Chutes apunta a cargas de producción: modelos siempre calientes, trabajos por lotes y efímeros, facturación por segundo de GPU en despliegues privados e inferencia confidencial en entornos de ejecución de confianza para casos sensibles a la privacidad. El precio se mide por token en modelos públicos, con un estimador de costes en vivo y una app de chat para consumidores junto a la API.