Welches KI-Modell passt ins Unternehmen? Ein Vergleich offener Modelle

Welches KI-Modell passt zu Ihrer Aufgabe, zu Ihren Daten und zu Ihrer Hardware? Auf unserer neuen Seite /ki-modelle sehen Sie das in wenigen Augenblicken. Sie listet mehr als 20 offene Modelle in einer sortierbaren Tabelle, die Sie nach Ihrem Anwendungsfall ordnen und filtern können, nach Leistung, Programmierung, Datenschutz-Eignung oder der nötigen Hardware. Alle lassen sich datenschutzkonform betreiben, auf eigener Hardware oder bei einem europäischen Hoster. Warum wir die Seite so gebaut haben, wie die Bewertung zustande kommt und was für lokales Hosting spricht, steht hier.

Ein Überblick, der aktuell bleibt

Vor zwei Jahren war lokale KI ein Kompromiss. Wer seine Daten nicht in eine US-Cloud geben wollte, bekam spürbar schwächere Qualität. Das hat sich gedreht. Mit GLM-5.2 spielt heute ein frei lizenziertes Modell vorne mit und hält bei Programmieraufgaben mit den teuersten kommerziellen Systemen mit.

Das Feld bewegt sich fast im Wochentakt. Allein im April und Juni 2026 sind mit GLM-5.2, Qwen 3.6, Gemma 4 und MiniMax M3 mehrere der stärksten offenen Modelle dazugekommen. Ein einzelner Blogbeitrag mit einer festen Empfehlung wäre nach zwei Wochen veraltet. Deshalb steht auf der Seite eine sortierbare Tabelle, die wir laufend aktuell halten. Jedes Modell hat eine eigene Detailseite mit den dokumentierten Benchmarks und der Angabe, welche Hardware es tatsächlich braucht.

Nach Ihrem Anwendungsfall filtern

Der schnellste Weg zur passenden Wahl führt über die Sortierung. Jede Spalte der Tabelle lässt sich per Klick ordnen, dazu gibt es ein Suchfeld und einen Filter für Modelle, die auf einer einzelnen Grafikkarte laufen. Ein paar typische Ausgangslagen und der jeweils passende Griff in die Tabelle:

Viel Programmierung

Sortieren Sie nach der Spalte Coding. Kimi K2.7-Code und GLM-5.2 stehen dort vorn, beide auf Entwicklungsläufe über viele Schritte ausgelegt.

Nur eine Grafikkarte vorhanden

Setzen Sie den Haken bei "Nur auf einer GPU lauffähig". Übrig bleiben Modelle wie Qwen3.6-27B, Gemma 4 31B und gpt-oss-20b.

Strenge Datenschutz-Vorgabe

Sortieren Sie nach der Spalte DSGVO und EU. Oben stehen das europäische Mistral und gpt-oss-120b, das bei mehreren EU-Hostern läuft.

Lange Dokumente und Akten

Achten Sie auf die Kontext-Spalte. GLM-5.2 und DeepSeek V4 Pro verarbeiten sehr lange Eingaben am Stück, etwa umfangreiche Vertragswerke.

Freie kommerzielle Nutzung

Prüfen Sie die Lizenz-Spalte. Apache 2.0 und MIT erlauben den Einsatz ohne Auflagen, auch das Anpassen und Weitergeben.

Kein eigenes Hosting geplant

Halten Sie sich an die Modelle mit EU-Verfügbarkeit und nutzen Sie sie über einen europäischen Anbieter, ganz ohne eigene Hardware.

Aus der vollständigen Liste wird so in wenigen Klicks eine kurze Auswahl, die zu Ihrer Situation passt. Auf der Modellseite dahinter finden Sie dann die Details, die vor einer Entscheidung zählen.

Warum wir nur offene Modelle vergleichen

Auf der Seite finden Sie kein ChatGPT und kein Gemini. Das ist Absicht. Verglichen werden ausschließlich Modelle mit offenen Gewichten, also solche, deren Dateien Sie herunterladen und selbst betreiben können. Nur diese lassen sich lokal im Unternehmen oder bei einem europäischen Hoster laufen lassen, ohne dass Daten an einen US-Anbieter abfließen. Die großen Cloud-Dienste ordnen wir an anderer Stelle ein, in unserer KI-Tools-Datenbank.

Der Unterschied entscheidet über den Datenschutz.

Ein offenes Modell verarbeitet Ihre Daten dort, wo Sie es betreiben. Auf einem eigenen Server bleibt die Verarbeitung im Unternehmen, kein externer Anbieter greift darauf zu. Das ist der Grund, warum wir uns bei der Beratung zu Datenschutz-Themen auf diese Modellklasse konzentrieren.

Wie wir ein Modell bewerten

Die Prozentzahl neben jedem Modell ist eine redaktionelle Einschätzung von uns, keine amtliche Messung. Damit die Note nachvollziehbar bleibt, legen wir die Gewichtung offen. Sie setzt sich aus drei Teilen zusammen.

Leistung, 55 %

Die aggregierte Stärke aus dokumentierten Benchmarks für Programmierung, logisches Schließen und Wissen. Zur unabhängigen Orientierung gleichen wir das grob mit dem Arena-Elo von arena.ai ab, übernehmen es aber nicht eins zu eins.

DSGVO- und EU-Eignung, 30 %

Lässt sich das Modell ohne Datenabfluss in ein Drittland betreiben? Lokal erfüllt das jedes offene Modell. Zusätzlich zählt die belegte Verfügbarkeit bei europäischen Hostern und die Herkunft des Anbieters.

Lizenz-Offenheit, 15 %

Wie frei dürfen Sie das Modell kommerziell nutzen, anpassen und weitergeben? Apache 2.0 und MIT erlauben das ohne Auflagen. Lizenzen mit Umsatzklauseln oder Namensnennungs-Pflicht werden niedriger gewertet.

Den Hardware-Aufwand halten wir bewusst aus der Note heraus und führen ihn als eigene Spalte. Ein Modell, das ein Rechenzentrum braucht, ist nicht schlechter als eines für eine einzelne Grafikkarte. Es passt zu einem anderen Budget. Deshalb können Sie die Tabelle auch nach der Spalte “Lokal ab” sortieren und die Modelle nach oben holen, die auf Ihrer vorhandenen Hardware laufen.

Das Fähigkeitsprofil aus sechs Säulen

Eine Gesamtnote sagt, wie gut ein Modell insgesamt in den Unternehmenseinsatz passt. Sie sagt nicht, worin es besonders stark ist. Ein Modell mit hervorragenden Coding-Werten kann bei langen Dokumenten schwächeln, ein Allrounder bei komplexer Mathematik. Deshalb zeigen wir zusätzlich ein Fähigkeitsprofil, das jedes Modell über sechs Bereiche aufschlüsselt.

Die sechs Fähigkeitssäulen:

• → Programmierung. Code schreiben und debuggen, ganze Projekte über viele Schritte bearbeiten.
• → Mathematik und Logik. Mehrstufiges Rechnen und logisches Schließen mit prüfbarer Lösung.
• → Wissen. Fach- und Allgemeinwissen über viele Fachgebiete hinweg.
• → Deutsch und Sprache. Sprachverständnis und Mehrsprachigkeit, mit Blick auf Deutsch.
• → Agentik und Werkzeuge. Werkzeuge selbständig aufrufen und mehrstufige Abläufe steuern.
• → Langer Kontext. Wie viel Leistung über sehr lange Eingaben tatsächlich nutzbar bleibt, über die reine Fenstergröße hinaus.

Bei den Benchmark-Zahlen sind wir ehrlich mit der Herkunft. Für die meisten Modelle stammen die Werte vom Hersteller selbst, eine unabhängige Prüfung liegt oft noch nicht vor. Nur für einzelne Modelle wie gpt-oss oder Kimi K2.6 gibt es eine unabhängige Einordnung durch Artificial Analysis. Auf jeder Modellseite kennzeichnen wir das. Für eine belastbare Entscheidung ersetzt keine Tabelle den eigenen Test im konkreten Anwendungsfall, und genau dabei begleiten wir Unternehmen.

Herkunft ist nicht der Datenschutz-Faktor

Die stärksten offenen Modelle stammen derzeit aus chinesischen Laboren, von DeepSeek, Moonshot, Zhipu, Alibaba und MiniMax. In unseren Gesprächen löst schon das Wort “China” oft ein Zögern aus. Datenschutzrechtlich zählt aber der Ort der Verarbeitung. Das Herkunftsland des Modells spielt dafür keine Rolle.

Der entscheidende Punkt zur Herkunft

Ein offenes Modell aus China ist keine Datenschutzfrage, solange Sie es auf eigener Hardware oder bei einem europäischen Hoster betreiben. Dann bleibt die Verarbeitung in Ihrer Infrastruktur. Problematisch wird nur die öffentliche Cloud-API der Anbieter, weil dabei Daten über chinesische Server laufen. GLM-5.2 läuft bereits bei Scaleway in Frankreich, Kimi K2.6 bei Nebius in den Niederlanden, beide innerhalb der EU.

Wer den Anbieter zusätzlich unabhängig machen will, findet mit Mistral aus Frankreich das stärkste Modell aus europäischer Hand. Es liegt bei reinen Coding-Aufgaben hinter den chinesischen Spitzenmodellen, punktet dafür mit voller Datensouveränität über die gesamte Lieferkette.

Was für lokales Hosting spricht, und was dagegen

Lokal betreiben heißt, das Modell läuft auf Ihrer eigenen Hardware, im Serverraum oder auf einer Workstation. Das ist die strengste Form der Kontrolle über die eigenen Daten. Umsonst ist sie nicht. Beide Seiten gehören auf den Tisch, bevor eine Anschaffung ansteht.

Dafür spricht

Die Verarbeitung bleibt vollständig im Unternehmen, ganz ohne Verbindung zu einem Cloud-Anbieter. Ab dauerhaft hoher Nutzung wird es auch wirtschaftlich, weil keine Kosten je Anfrage anfallen. Sie bleiben unabhängig von Preisänderungen, gekündigten Modellen und angepassten Nutzungsbedingungen eines externen Dienstes.

Dagegen spricht

Die Hardware kostet vorab und will gewartet werden. Die stärksten Modelle brauchen mehrere Workstation-Karten oder einen Mac Studio mit viel Speicher, dazu Fachwissen für Einrichtung und Betrieb. Bei kleiner oder schwankender Nutzung stehen teure Karten oft ungenutzt herum.

Für den Einstieg eignen sich Modelle, die auf einer einzelnen Grafikkarte laufen. Qwen3.6-27B etwa passt auf eine Karte mit 24 GB und übertrifft bei Programmieraufgaben deutlich größere Vorgänger. Wer mehr Leistung braucht, plant eine Workstation-Karte wie die RTX PRO 6000 mit 96 GB ein, für die größten Modelle mehrere davon. Rechenzentrums-Karten wie H100 oder B200 sind nur in Ausnahmefällen nötig, etwa bei sehr vielen gleichzeitigen Anfragen.

Der zweite Weg für alle ohne eigene Hardware

Selbst betreiben ist nicht der einzige datenschutzkonforme Weg. Sie können dieselben offenen Modelle über eine API nutzen, gehostet in der EU. Anbieter wie IONOS in Deutschland, OVHcloud und Scaleway in Frankreich oder Nebius in den Niederlanden übernehmen den Betrieb. Sie zahlen je Anfrage und brauchen keine eigene Hardware.

Am breitesten verfügbar ist gpt-oss-120b, das offene Modell von OpenAI, das bei allen vier genannten Hostern läuft. Die Auswahl wächst, hinkt bei den allerneuesten Modellen aber noch etwas hinterher. Ein Blick in den aktuellen Katalog des Anbieters lohnt sich vor der Entscheidung. Welcher der beiden Wege passt, hängt von Datenmenge, Nutzungsintensität und vorhandenem Know-how ab.

Die Vergleichsseite aktualisieren wir laufend, wenn neue Modelle erscheinen oder sich die Benchmark-Lage verschiebt. Sie ist eine Momentaufnahme eines Feldes, das sich schnell bewegt, und der Ausgangspunkt für die Frage, mit der fast jedes Projekt beginnt. Welches Modell passt zu Ihrer Aufgabe, Ihren Daten und Ihrem Budget? Einen geführten Einstieg in das Thema bietet unser Workshop zu lokaler KI.