Jan ist eine Desktop-Anwendung, die sich als offene Alternative zu ChatGPT positioniert. Der entscheidende Unterschied: Die Inferenz findet auf Hardware statt, die du kontrollierst. Nach der Installation wählst du ein Modell, Jan lädt es herunter und führt es lokal aus, sodass Prompts, Verlauf und Dateien auf deinem Rechner bleiben und nicht auf fremden Servern. Für anspruchsvollere Aufgaben kannst du einen Schlüssel von OpenAI, Anthropic, Gemini oder Mistral hinterlegen und Anfragen in die Cloud leiten, während Oberfläche und lokaler Verlauf gleich bleiben.
Das Projekt wird von Menlo Research offen entwickelt und hat auf GitHub Zehntausende Sterne sowie Millionen Downloads erreicht. Jan stellt lokale Endpunkte bereit, die zur OpenAI-API kompatibel sind, sodass vorhandene Tools und SDKs ohne Codeänderung auf Jan zeigen können. Zusätzlich lassen sich eigene Assistenten mit individuellen Systemanweisungen und Modellwahl anlegen. Neuere Versionen ergänzen eine Agent-Ebene neben dem klassischen Chat, und eine Memory-Funktion ist angekündigt, um Kontext und Vorlieben über Sitzungen hinweg zu erhalten.
Weil der Quellcode offen ist, lässt sich Jan prüfen, selbst bauen und erweitern, und der Desktop-Client hat keine Bezahlstufe. Der praktische Kompromiss: Qualität und Geschwindigkeit lokaler Modelle hängen vollständig von deiner GPU oder CPU ab. Auf schwächeren Rechnern sind kleinere quantisierte Modelle sinnvoll, während Cloud-Schlüssel der Ausweg für schwierige Aufgaben bleiben.