KI-Tools
Fine-Tuning im Vergleich
Sprachmodelle mit eigenen Daten weitertrainieren und über LoRA, QLoRA und RLHF an eine feste Aufgabe anpassen.
3 Werkzeuge geprüft · herstellerunabhängig
Beim Fine-Tuning wird ein fertiges Sprachmodell mit eigenen Daten weitertrainiert, bis es die Fachbegriffe, Muster und den Tonfall des Unternehmens von selbst trifft. Anders als bei RAG, wo das Wissen beim Antworten aus Dokumenten geholt wird, steckt es danach im Modell selbst. LoRA und QLoRA machen das bezahlbar, weil sie nicht das ganze Modell neu rechnen, sondern nur kleine Zusatzschichten anpassen. Das läuft auf einer einzelnen Grafikkarte mit 8 bis 16 GB Speicher. LLaMA Factory ist das meistgenutzte Werkzeug dafür und führt einen Trainingslauf über eine Weboberfläche, ohne eine Zeile Code. Unsloth senkt den Speicherbedarf noch einmal um bis zu 70 %, dann reicht auch eine günstigere Karte.
Die 3 bestbewerteten im Überblick
| Werkzeug | Bewertung | Preismodell | Betriebsort | DSGVO | Quelloffen |
|---|---|---|---|---|---|
| LLaMA Factory | 4,5 von 5 | Kostenlos | auf eigener Hardware | ja | ja |
| Unsloth Studio | 4,5 von 5 | Freemium | auf eigener Hardware | ja | ja |
| Unsloth | 4,0 von 5 | Freemium | auf eigener Hardware | ja | ja |
Alle 3 in dieser Kategorie
Sortiert nach Bewertung, die höchste zuerst.
Häufige Fragen zu Fine-Tuning
Was ist Fine-Tuning?
Ein fertiges Sprachmodell wird mit eigenen Daten weitertrainiert. Es behält sein allgemeines Wissen und lernt zusätzlich die Fachbegriffe der Branche, den Tonfall des Unternehmens oder ein festes Antwortformat. LoRA und QLoRA machen das auch auf einer gewöhnlichen Grafikkarte möglich, weil sie nur kleine Zusatzschichten anpassen statt des ganzen Modells.
Fine-Tuning oder RAG, was ist besser?
RAG steht schneller und passt, wenn sich das Wissen häufig ändert, etwa bei Preislisten und laufend neuen Dokumenten. Fine-Tuning passt, wenn das Modell einen Stil, eine Sprache oder ein enges Aufgabengebiet dauerhaft treffen soll. In Unternehmen führt RAG fast immer zuerst zum Ziel. Fine-Tuning wird interessant, sobald ein bestimmtes Verhalten auch ohne Dokumente im Hintergrund zuverlässig sitzen muss.
Welche Hardware brauche ich für Fine-Tuning?
Mit LoRA oder QLoRA reicht eine NVIDIA-Karte mit 8 bis 16 GB eigenem Speicher für Modelle mit 7 Milliarden Parametern, etwa eine RTX 3080 oder 4070. Unsloth senkt den Bedarf um bis zu 70 %. Ab 13 Milliarden Parametern gehören 24 GB dazu, also eine RTX 4090. Apple Silicon unterstützen die meisten Werkzeuge dafür noch nicht vollständig. Für die ersten Versuche gibt es bei Google Colab kostenlose Rechenzeit auf einer Grafikkarte.
Das passende Werkzeug nicht gefunden?
Sag uns, was der Vorgang bei dir leisten soll. Wir nennen dir die Werkzeuge, die dafür in Frage kommen, und was sie im laufenden Einsatz kosten.