DeepInfra

DeepInfra positioniert sich als Inferenz-Cloud und nicht als Modelllabor: Das Produkt ist schneller, günstiger und zuverlässiger Zugriff auf Modelle, die andere trainiert haben. Der Katalog umfasst über 200 Modelle, gruppiert nach Aufgabe (Textgenerierung, Text-zu-Bild, Text-zu-Musik, Text-zu-Sprache, Text-zu-Video, automatische Spracherkennung, Embeddings, Reranker, Zero-Shot-Bildklassifikation) und nach Familie, sodass du ein Modell von Claude, DeepSeek, Flux, Gemini, GLM, Kimi, Llama, Mistral, Nemotron oder Qwen auswählen und über dieselbe API aufrufen kannst. Die Preise sind transparent und nutzungsbasiert, pro Million Tokens mit getrennten Sätzen für Eingabe, Ausgabe und gecachte Eingabe, und viele Modelle haben zeitlich begrenzte Rabatte.

Neben dem reinen Modell-Hosting betreibt DeepInfra eigene, für Inferenz optimierte Hardware in US-Rechenzentren und legt verwaltete Ebenen darüber: DeepStart für das Deployment eigener Modelle, DeepCluster für GPU-Cluster und On-Demand-GPU-Miete pro Instanzstunde sowie einen Chat-Playground zum schnellen Testen. Das Unternehmen betont Sicherheit und Datenschutz – eine Zero-Retention-Richtlinie für Ein- und Ausgaben sowie SOC-2- und ISO-27001-Zertifizierungen –, was für Teams mit sensiblen Daten wichtig ist. Eine große Finanzierungsrunde (angekündigt als 107 Mio. USD Series B) und ein 25-faches Wachstum des Tokenvolumens deuten auf ein aktiv skalierendes Geschäft hin.

Praktisch richtet sich DeepInfra an Engineering-Teams, die OpenAI-kompatible API-Aufrufe ohne eigenes Infrastrukturmanagement wollen, an Startups mit Bedarf an günstiger Inferenz in großem Volumen und an Organisationen, die GPUs für Fine-Tuning oder eigenes Serving auf derselben Plattform mieten wollen, auf der sie gehostete Modelle nutzen.