Unsloth im Test

Wer ein Sprachmodell auf eigene Daten anpassen will, stößt zuerst an den Grafikspeicher, denn vollständiges Nachtraining verlangt selbst bei kleinen Modellen Rechenzentrumshardware. Unsloth senkt diesen Bedarf, indem es die zeitkritischen Rechenkerne selbst schreibt, in der GPU-Sprache Triton, statt eine weitere Hülle um vorhandene Bibliotheken zu legen. Aus der reinen Trainings-Bibliothek wurde im März 2026 ein Programm mit eigener Weboberfläche, das Modelle auch herunterlädt, im Chat ausführt und in andere Formate exportiert. Das Projekt hat über 69.000 Sterne auf GitHub.

Wichtigste Funktionen

• 2 Bedienwege aus einem Projekt: Unsloth Studio ist die Weboberfläche und startet nach der Installation mit unsloth studio. Dasselbe Werkzeug gibt es als Python-Paket Unsloth Core für eigene Skripte und Notebooks. Beides kommt aus demselben Repository, der Kern steht unter Apache-2.0, die Oberfläche unter AGPL-3.0.
• Sparsames Training auf einer einzelnen Karte: LoRA und QLoRA trainieren nur einen kleinen Zusatz aus wenigen Gewichten und lassen das Basismodell unberührt. Das Projekt nennt dafür bis zu 70 % weniger Grafikspeicher und doppelte Geschwindigkeit gegenüber der Standardimplementierung. Beim bestärkenden Lernen mit GRPO, dem Verfahren hinter den Reasoning-Modellen von DeepSeek, sind es 80 % weniger, und Mixture-of-Experts-Modelle trainieren laut Projektangabe bis zu 12-mal schneller.
• Trainingsdaten aus vorhandenen Dokumenten (Data Recipes): Aus PDF-, CSV- und DOCX-Dateien baut Unsloth Trainingsdatensätze auf. Die einzelnen Aufbereitungsschritte hängst du in einem Knoten-Editor aneinander, statt Skripte dafür zu schreiben.
• Testen und Exportieren in derselben Oberfläche: Nach dem Training prüfst du das Ergebnis direkt dort, samt Werkzeugaufrufen, Web-Suche und einer abgeschotteten Umgebung für Code. Zwei Modelle stellst du mit derselben Eingabe nebeneinander. Das fertige Modell speicherst du im Format GGUF, in 16-Bit-Safetensors oder als reinen LoRA-Adapter.
• Lokale Modelle für Programmierassistenten: Der Befehl unsloth start claude hängt ein geladenes Modell an Claude Code, dieselbe Mechanik gibt es für Codex, OpenCode, OpenClaw und Hermes. Unsloth bedient dafür sowohl die OpenAI- als auch die Anthropic-Schnittstelle und kann das lokale Modell wahlweise als Unteragent neben dem Cloud-Modell laufen lassen.
• Training auf NVIDIA, AMD und Apple Silicon: Das Training läuft auf NVIDIA-Karten ab der RTX-30-Reihe, seit Juli 2026 auf AMD-Karten unter Windows, WSL und Linux, und auf Macs mit Apple Silicon über MLX. Für das reine Ausführen der Modelle mit GGUF-Dateien gibt es zusätzlich einen Weg über die Grafikschnittstelle Vulkan, der auch Intel-Grafikkarten einschließt.

Preise und Tarife

Die Software kostet nichts. Der Kern steht unter Apache-2.0, die Weboberfläche unter AGPL-3.0, und beide Lizenzen decken die kommerzielle Nutzung ab. Veränderst du die Oberfläche und stellst sie in dieser Form als Dienst über das Netz bereit, musst du deine Änderungen nach AGPL-3.0 offenlegen; für den Einsatz in der eigenen Firma spielt das keine Rolle.

Kostenpflichtig sind nur die beiden Stufen Pro und Enterprise. Dahinter steckt ein Ausbau auf mehrere Karten und mehrere Rechner, den der Anbieter mit 80 % beziehungsweise 90 % weniger Grafikspeicher und mit eigener Betreuung beschreibt. Zahlen nennt die Preisseite nicht, sie verweist auf eine Anfrage. Die Angaben dort sind älter als das heutige Produkt, denn als unterstützte Modelle führt die Seite noch Llama 1 bis 3 und Mistral.

Kosten entstehen erst bei der Hardware. Ohne eigene Karte mietest du Rechenzeit auf einem GPU-Server, in Europa etwa bei Hetzner oder Verda. Deren Stunden- und Monatspreise sind Nettobeträge, die Umsatzsteuer kommt auf der Rechnung noch dazu.

Für wen ist Unsloth geeignet?

• Teams mit eigenem Fachvokabular: Angebote, Prüfberichte oder Supportantworten in einer festen Form liefert ein nachtrainiertes Modell zuverlässiger als immer längere Anweisungen im Prompt. Das Aufbereiten der Trainingsdaten aus vorhandenen Dokumenten übernehmen dabei die Data Recipes.
• Anwender ohne Python-Kenntnisse: Über die Weboberfläche laufen Modellwahl, Datensatz, Training und Export in einem Fenster, und ein einziger Installationsbefehl richtet alles ein. Später erreichst du dieselben Funktionen über das Python-Paket, ohne das Werkzeug zu wechseln.
• Entwickler, die ihren Programmierassistenten auf ein lokales Modell umstellen wollen: Mit unsloth start claude arbeitet Claude Code mit dem Modell, das gerade in Unsloth geladen ist, und für Codex, OpenCode und OpenClaw gilt derselbe Befehl mit anderem Namen. Der Assistent kann auch bei seinem Cloud-Modell bleiben und das lokale Modell nur als Unteragent nutzen.

DSGVO und Datenschutz

Training und Ausführung laufen auf eurer eigenen Hardware. Einen Anbieter, der als Auftragsverarbeiter auftreten müsste, gibt es nicht, denn Unsloth ist Software zum Installieren und kein gehosteter Dienst. Eine Suche im Quelltext nach den üblichen Bausteinen für Nutzungsmessung bleibt ohne Treffer. Die Datenschutzerklärung auf unsloth.ai deckt nur die Webseite ab, stammt vom 01.12.2023 und nennt weder Serverstandorte noch einen Auftragsverarbeitungsvertrag.

Verbindungen nach außen entstehen trotzdem. Modelle und öffentliche Datensätze lädt Unsloth von Hugging Face, dabei fließt die Information ab, welches Modell du herunterlädst, nicht aber deine Trainingsdaten. Ein Skript von unsloth.ai installiert und aktualisiert die Software.

Bindest du die Oberfläche mit -H 0.0.0.0 an alle Netzwerkschnittstellen, fragt Unsloth bei ifconfig.me nach der öffentlichen IP-Adresse und bei check-host.net, ob der Port erreichbar ist. Die Umgebungsvariable UNSLOTH_STUDIO_DISABLE_PUBLIC_CHECK=1 unterbindet beides.

Ab Werk nimmt die Oberfläche nur Anfragen vom eigenen Rechner an und ist von außen nicht erreichbar. Eingeschaltet sind dagegen die serverseitigen Werkzeuge, darunter die Web-Suche und das Ausführen von Python- und Terminalbefehlen unter deinem Benutzerkonto. Sobald du den Zugang öffnest, über die Bindung an alle Schnittstellen oder über den Cloudflare-Tunnel --secure, kann jeder mit dem API-Schlüssel Code auf diesem Rechner ausführen. Das Projekt weist selbst darauf hin, verlangt beim ersten öffentlichen Start ein neues Administrator-Passwort und liefert den Schalter --disable-tools mit.

Für Trainingsdaten mit Personenbezug ist Unsloth damit tragfähig, weil kein externer Anbieter an der Verarbeitung beteiligt ist. Vor dem produktiven Einsatz klärst du, wer auf den Rechner zugreifen darf, und schaltest die serverseitigen Werkzeuge ab, sobald die Oberfläche über den eigenen Rechner hinaus erreichbar ist. Wer in der Oberfläche zusätzlich Verbindungen zu OpenAI oder Anthropic einrichtet, verlässt diesen Rahmen und braucht für diese Anbieter die üblichen Verträge.

Alternativen zu Unsloth

• Unsloth Studio: Die Weboberfläche dieses Projekts, aus demselben Repository und mit demselben Befehl installiert. Der dortige Eintrag beschreibt die Software aus der Sicht der Oberfläche.
• LLaMA Factory: Deckt mehr Modellarchitekturen und Trainingsverfahren ab, darunter die Präferenzverfahren DPO, KTO, PPO und ORPO, und verteilt Trainingsläufe über Megatron-core auf mehrere Rechner. Der Bedarf an Grafikspeicher liegt höher, und für Apple Silicon gibt es dort keine Unterstützung, weder in der Dokumentation noch im Quelltext.
• LM Studio: Die einfachere Wahl, wenn du Modelle nur lokal ausführen willst. Trainieren geht damit nicht, dafür brauchst du auch keine Trainingshardware.