Jan: KI-Tool Test & Bewertung

Wer ein lokales Sprachmodell zum ersten Mal einrichtet, hat mit Kommandozeile, Dateiformaten und Konfigurationsdateien zu tun. Jan nimmt Ihnen diesen Teil ab. Nach der Installation suchen Sie im eingebauten Katalog ein Modell, laden es mit einem Klick herunter und stellen die erste Frage. Mit Version 0.8 vom 22. Mai 2026 ist aus der reinen Chat-Oberfläche ein Arbeitsplatz geworden, der auch eigene Dokumente einliest und externe Werkzeuge ansteuert.

Wichtigste Funktionen

• Modellkatalog mit Hardware-Ampel: Der Katalog in der App greift auf Hugging Face zu und markiert jedes Modell farbig, je nachdem, ob es auf Ihren Rechner passt, langsam laufen wird oder gar nicht startet, ohne dass Sie es dafür herunterladen müssen. Die Quantisierungsstufen, also die unterschiedlich stark verkleinerten Fassungen eines Modells, sind als klein, ausgewogen und groß gruppiert, eine davon trägt eine Empfehlung. Menlo Research steuert mit Jan-v1 für Recherchefragen, Jan-Code-4B für Programmieraufgaben und Jan-v2-VL für Bilder auch eigene Modelle bei.
• Projekte mit eigenen Dokumenten: Ein Projekt bündelt mehrere Gespräche, einen Assistenten mit festen Anweisungen und eine gemeinsame Dateiablage. Hochgeladene PDF-, Word-, Excel- und PowerPoint-Dateien zerlegt Jan in Abschnitte und macht sie durchsuchbar, danach stehen sie in jedem Gespräch dieses Projekts als Kontext bereit. Die Antwort führt die genutzten Stellen als nummerierte Belegkarten auf, samt Vorschau der Fundstelle.
• Eingebaute Websuche: Seit Version 0.8.4 bringt Jan die Werkzeuge web_search und web_fetch selbst mit, ohne dass Sie dafür einen MCP-Server oder einen Schlüssel brauchen. Ein Modell mit Werkzeugunterstützung sucht damit im Netz und liest einzelne Seiten im Volltext, voreingestellt über den Suchdienst Exa. Alternativ tragen Sie Tavily mit Schlüssel oder eine selbst betriebene SearXNG-Instanz ein, abschalten können Sie die Suche über das Globus-Symbol im Eingabefeld.
• MCP-Server mit Freigabe je Aufruf: Über das Model Context Protocol, den gemeinsamen Standard für die Anbindung externer Werkzeuge, hängen Sie Datenquellen und Programme an Jan. Seit Version 0.8 unterbricht die Freigabefrage das Gespräch nicht mehr, sie erscheint in der Werkzeugkarte und zeigt die genauen Parameter vor der Ausführung. Wer viele Server verbunden hat, lässt ein kleines Modell vorab auswählen, welche davon Jan für die aktuelle Frage überhaupt lädt.
• Lokaler Modellserver und Kommandozeile: Jan stellt ein geladenes Modell unter 127.0.0.1:1337 über eine OpenAI-kompatible Schnittstelle bereit, andere Programme wie n8n greifen darüber zu, ohne selbst ein Modell zu laden. Seit Version 0.7.8 gibt es zusätzlich den Befehl jan serve, mit dem Sie auch Programmier-Assistenten wie Claude Code auf die eigene Hardware umleiten.
• Beschleunigung je nach Hardware: Auf Apple Silicon nutzt Jan wahlweise das MLX-Framework von Apple. Unter Windows unterstützt die App Grafikkarten von NVIDIA und Intel Arc, unter Linux seit Version 0.8.2 auch AMD-Karten über ROCm. Unterstützt ein Modell die Multi-Token-Vorhersage von llama.cpp, schaltet Jan sie frei und erzeugt damit mehrere Textbausteine je Durchlauf statt einen.

Preise und Tarife

Jan selbst kostet nichts. Die App steht unter Apache-2.0, ohne Bezahlversion, Abo oder Nutzungsgrenze, kommerzielle Nutzung eingeschlossen.

Geld kostet die Hardware. Unter Windows verlangt Jan mindestens 8 GB Arbeitsspeicher, empfohlen sind 16 GB, dazu kommen 10 GB freier Platz für die Installation und je nach Modell mehrere Gigabyte pro Download. Für eine flüssige Ausgabe nennt der Hersteller 6 GB Grafikspeicher als Untergrenze, gleich ob NVIDIA, AMD oder Intel Arc.

Wer stattdessen Cloud-Modelle von OpenAI, Anthropic oder Google einbindet, rechnet nach deren Token-Preisen direkt mit dem jeweiligen Anbieter ab. Die eingebaute Websuche läuft ab Werk über einen kostenlosen Zugang von Exa, höhere Abfragegrenzen und der Anbieter Tavily verlangen einen kostenpflichtigen Schlüssel. Diese Fremdkosten weisen die Anbieter als Nettobeträge aus, die deutsche Umsatzsteuer kommt für Geschäftskunden noch hinzu.

Für wen ist Jan geeignet?

• Einsteiger in lokale KI: Wer zum ersten Mal ein Sprachmodell auf dem eigenen Rechner ausprobiert, kommt hier ohne Kommandozeile und Konfigurationsdatei aus. Die farbige Kennzeichnung im Katalog verhindert den häufigsten Fehlversuch, nämlich ein zu großes Modell auf zu schwacher Hardware.
• Einzelarbeitsplätze mit vertraulichen Unterlagen: Für Verträge, Personalakten oder Angebotskalkulationen richten Sie Jan mit einem lokalen Modell und abgeschalteter Websuche ein. Beides schalten Sie in den Einstellungen um.
• Mac-Arbeitsplätze mit Apple Silicon: MLX nutzt die Recheneinheiten der M-Chips und liefert auch ohne separate Grafikkarte brauchbare Geschwindigkeiten.

DSGVO und Datenschutz

Jan läuft als Programm auf Ihrem Rechner. Es gibt keinen Betreiber, also weder einen ausgewiesenen Serverstandort noch einen Auftragsverarbeitungsvertrag, den Sie einsehen könnten. Ein lokales Modell rechnet auf Ihrem eigenen Prozessor oder der Grafikkarte, ohne Verbindung zu einem Cloud-Anbieter.

Ab Werk ist die Websuche allerdings eingeschaltet und schickt Suchanfragen an Exa, ein Unternehmen aus den USA, sobald ein Modell mit Werkzeugunterstützung sie nutzt. Wer das nicht will, schaltet die Suche ab oder trägt eine eigene SearXNG-Instanz ein. Binden Sie Cloud-Modelle ein, geht die vollständige Nachricht dorthin und es gelten die Bedingungen des jeweiligen Anbieters.

Die Nutzungsstatistik ist freiwillig. Beim ersten Start fragt die App nach der Zustimmung, ohne die sie nichts erhebt, und die Auswertung läuft über PostHog EU. Jan zählt aktive Nutzer und Wiederkehr, verbunden mit einer zufälligen Kennung. Gesprächsinhalte, Dateien, Eingaben und die Modellwahl bleiben ausdrücklich außen vor.

Weil die Voreinstellungen aus der App heraus zu Anbietern außerhalb der EU führen und es niemanden gibt, dem Sie die Verarbeitung vertraglich übertragen könnten, gilt Jan bei uns nicht als DSGVO-konform. Mit einem lokalen Modell, abgeschalteter Websuche und abgelehnter Statistik gehört Jan dagegen zu den datenschutzfreundlichen Wegen, ein Sprachmodell im Unternehmen einzusetzen. Die datenschutzrechtliche Verantwortung tragen dann Sie selbst.

Alternativen zu Jan

• Open WebUI: Läuft als Server im Netz statt als Programm auf einem einzelnen Rechner und bringt Nutzerverwaltung, Rechte und einen gemeinsamen Zugang für mehrere Geräte mit. Für ein Team ist das der passendere Zuschnitt, die Einrichtung verlangt dafür einen Container.
• LM Studio: Ebenfalls eine Desktop-App mit ähnlichem Zuschnitt, hat aber mehr Stellschrauben für den Vergleich mehrerer Modelle. Der Quelltext ist geschlossen, dafür ist die App auch für den geschäftlichen Einsatz kostenlos.
• Ollama: Ist zum Ausprobieren die schlankere Wahl, wenn Sie von Jan ohnehin nur den lokalen Modellserver brauchen. Grafische Oberfläche, Projekte und Dokumentenablage fehlen dort.