TensorDock arbeitet als Marktplatz: Unabhängige Hosts stellen Server bereit, die TensorDock prüft, standardisiert und über ein eigenes Dashboard sowie eine API zugänglich macht. Diese Struktur eröffnet eine breite Hardwarespanne – von RTX 3090 und 4090 für Inferenz, Rendering oder Gaming bis zu A100 SXM4 und H100 SXM5 für anspruchsvolles Training – wobei die Preise von konkurrierenden Hosts und nicht von einem einzelnen Cloud-Anbieter gesetzt werden. Deployments erfolgen stundenweise und auf Abruf, ohne Quoten oder Reservierungsverpflichtungen.
Technisch basiert die Plattform auf KVM-Virtualisierung, sodass jede Instanz eine vollständig isolierte virtuelle Maschine ist: mit Root-Zugriff, dedizierter GPU, voller Kontrolle über das Betriebssystem und der Freiheit, eigene Treiber zu verwalten. Neben Linux wird Windows 10 unterstützt, in Standard-Templates ist Docker enthalten. Der gesamte Fuhrpark wird über eine dokumentierte API gesteuert, mit der sich Bereitstellung, Metadaten und Verfügbarkeit automatisieren lassen – ideal für Skripte, die viele kurzlebige Instanzen erzeugen.
Zuverlässigkeit entsteht hier eher durch Host-Prüfung und Richtlinien als durch schiere Größe: TensorDock gibt an, Hosts an einem Verfügbarkeitsstandard von 99,99 % zu messen, Wartungen mindestens Wochen im Voraus einzuplanen und Hosts den SSH-Zugang zu Kundensystemen zu entziehen, damit sie keine Kundendaten erreichen. Abgerechnet wird nutzungsbasiert aus einem eingezahlten Guthaben – bei Null werden Instanzen gestoppt und entfernt, was für sporadische Experimente besser passt als feste Monatsverträge.
