Ollama im Test

Wer ein offenes Sprachmodell im eigenen Unternehmen ausprobieren will, braucht mit Ollama einen Befehl und die Wartezeit für den Download. Seit Version 0.32 vom 11.07.2026 hat sich allerdings verschoben, was der bloße Aufruf von ollama auslöst. Früher kam eine Modellauswahl, heute öffnet sich ein Agentenmenü, dessen erster Eintrag in der Ankündigung des Herstellers auf das Cloud-Modell glm-5.2:cloud zeigt. Der rein lokale Betrieb läuft unverändert weiter, er ist nur nicht mehr voreingestellt.

Wichtigste Funktionen

• Modelle mit einem Befehl: ollama pull gemma4 oder ollama run gpt-oss:20b holt ein Modell aus der Bibliothek des Herstellers und startet es. Die Bibliothek reicht von sehr kleinen Varianten für ein Notebook bis zu Modellen, die eine Arbeitsstation verlangen.
• Desktop-App mit Chatfenster: Auf macOS und Windows gehört seit Juli 2025 eine grafische Anwendung dazu. Sie nimmt Dateien und Bilder per Ziehen und Ablegen entgegen, speichert Unterhaltungen lokal in einer SQLite-Datei und lässt die Kontextlänge in den Einstellungen anpassen.
• OpenAI- und Anthropic-kompatible Schnittstelle: Ollama stellt einen Server bereit, der nur auf dem Rechner selbst erreichbar ist (127.0.0.1:11434) und beide Schnittstellen spricht. Open WebUI, Coding-Werkzeuge und eigene Anwendungen binden ihn ohne Codeänderung ein.
• Fertige Anbindungen an Coding-Werkzeuge: ollama launch claude verbindet Claude Code mit einem Modell aus Ollama, dieselbe Mechanik gibt es für OpenCode, Codex, Copilot CLI, Droid und OpenClaw. Basis-URL, Modellname und Schlüssel musst du damit nicht von Hand eintragen.
• MLX-Backend und breite Hardwareunterstützung: Auf Macs mit Apple-Chip rechnet Ollama über Apples Rechenbibliothek MLX. Von Version 0.18 auf 0.19 stieg der Durchsatz bei Qwen3.5-35B-A3B beim Einlesen von 1.154 auf 1.810 Tokens pro Sekunde, bei der Ausgabe von 58 auf 112. Seit Juni 2026 rechnet das neuere NVFP4-Format laut Hersteller noch einmal rund 20 % schneller als die bisher übliche Quantisierung, also die verkleinerte Speicherform, mit der ein Modell in weniger Arbeitsspeicher passt. NVIDIA-Karten spricht Ollama über CUDA an, AMD-Karten über ROCm. Intel-Grafik unterstützt es unter Windows und Linux über Vulkan.
• Cloud-Modelle und Websuche im selben Programm: Modelle mit dem Zusatz :cloud rechnen bei Ollama Inc. in den USA statt auf eurer eigenen Hardware, und der eingebaute Agent kann über ollama.com/api/web_search im Netz suchen. Beides ist ab Werk erreichbar und setzt ein Konto voraus. Wer es nicht will, schaltet die Cloud über die Umgebungsvariable OLLAMA_NO_CLOUD=1 ab.

Preise und Tarife

Die Software steht unter der MIT-Lizenz und kostet nichts, auch im gewerblichen Einsatz. Was Geld kostet, ist die Hardware, und der Bedarf hängt vom Modell und seiner Quantisierung ab. Für das 35-Milliarden-Modell aus dem eigenen MLX-Vergleich nennt Ollama mehr als 32 GB gemeinsamen Arbeitsspeicher als Voraussetzung, kleinere Varianten kommen mit deutlich weniger aus.

Daneben verkauft der Hersteller eine eigene Cloud. Der Free-Tarif kostet nichts und erlaubt geringe Nutzung, Pro liegt bei 17,20 Euro im Monat (20 USD) oder 172 Euro im Jahr (200 USD), Max bei 86 Euro im Monat (100 USD). Neue Anmeldungen für Max sind derzeit wegen fehlender Kapazität pausiert. Der Team-Tarif kostet 21,50 Euro je Platz und Monat (25 USD) bei mindestens 5 Plätzen, also 107,50 Euro (125 USD) als Untergrenze, und ist bislang nur über eine Warteliste zu bekommen.

Für größere Organisationen verweist Ollama auf ein Gespräch mit dem Vertrieb. Alle diese Beträge nennt der Hersteller ohne Steuer, beim Kauf aus Deutschland kommt die Umsatzsteuer hinzu.

Für wen ist Ollama geeignet?

• Entwicklungsteams, die Modelle gegeneinander messen: Ein Modell zu wechseln heißt hier, einen Namen im Befehl auszutauschen. Wer eine Anwendung gegen die OpenAI-Schnittstelle gebaut hat, hängt sie an den lokalen Server und lässt denselben Ablauf nacheinander mit Gemma 4, gpt-oss und einem Cloud-Modell durchlaufen.
• Anwalts- und Steuerkanzleien sowie Arztpraxen im Erprobungsstadium: Mit abgeschalteten Cloud-Funktionen bleibt die Verarbeitung auf der eigenen Hardware, und für einen ersten Versuch mit echten Unterlagen reicht das. Sobald daraus ein Regelbetrieb mit mehreren gleichzeitigen Anfragen wird, ist vLLM die tragfähigere Grundlage, denn darauf ist Ollama nicht ausgelegt.
• Trainer und Workshopleiter: Ein Notebook mit vorab geladenen Modellen arbeitet im lokalen Modus, es braucht dafür weder Netz noch Anmeldung. Ein hakendes Gäste-WLAN bringt damit keine Übung mehr zu Fall.

DSGVO und Datenschutz

Hinter Ollama steht die Ollama Inc., eine US-Gesellschaft. Die Nutzungsbedingungen unterliegen kalifornischem Recht, Streitfälle gehen in ein Schiedsverfahren in San Francisco. Die Datenschutzerklärung vom März 2026 hält fest, dass Daten in die Vereinigten Staaten übertragen und dort verarbeitet werden können.

Einen Auftragsverarbeitungsvertrag veröffentlicht der Hersteller nicht. Er bezeichnet sich in derselben Erklärung ausdrücklich als Verantwortlichen. Ein Vertragsverhältnis nach Artikel 28 DSGVO ist für Kunden damit gar nicht vorgesehen. Einen europäischen Standort für die Verarbeitung nennt Ollama allein im Team-Tarif, und der steht bislang nur über eine Warteliste bereit.

Nutzungsbedingungen und Datenschutzerklärung schließen beide aus, dass Ein- und Ausgaben zum Training von Modellen dienen. Cloud-Anfragen sollen laut Hersteller nur so lange gespeichert bleiben, wie ihre Beantwortung dauert.

Ohne dein Zutun baut das Programm mehrere Verbindungen nach außen auf. Der quelloffene Code zeigt eine Aktualisierungsprüfung, die 3 Sekunden nach dem Start und danach stündlich ollama.com/api/update aufruft und dabei Betriebssystem, Architektur, Version und Zeitstempel überträgt, auf macOS zusätzlich eine dauerhaft gespeicherte Geräte-Kennung. Zusammen mit der IP-Adresse entsteht dadurch ein Personenbezug, ohne dass jemand etwas eingibt.

Alle 4 Stunden holt der Server außerdem Modell-Empfehlungen von ollama.com. Das Herunterladen von Modellen läuft über das herstellereigene Modellverzeichnis registry.ollama.ai, und die Cloud-Funktionen sind ab Werk eingeschaltet. Die Datenschutzerklärung nennt dazu Geräte- und Nutzungsdaten sowie Metadaten zu Modell-Downloads.

Mit OLLAMA_NO_CLOUD=1 oder dem Eintrag disable_ollama_cloud in ~/.ollama/server.json entfallen Cloud-Modelle, Websuche und der Abruf der Empfehlungen. Der Server nimmt ohnehin nur Anfragen vom selben Rechner an (127.0.0.1), und in einem Netz ohne Internetzugang arbeitet Ollama mit vorab geladenen Modellen weiter. Das grüne Abzeichen steht hier trotzdem auf nein, denn die Ampel bewertet den Zustand ab Werk. Abgeschottet und ohne Konto betrieben, ist Ollama datenschutzrechtlich gut vertretbar.

Alternativen zu Ollama

• LM Studio: Erledigt dieselbe Aufgabe mit grafischer Oberfläche, in der Modellsuche und Chat zusammenliegen. Die Datenschutzlage ist ähnlich, auch dort sitzt der Hersteller in den USA und die Aktualisierungsprüfung meldet beim Programmstart die IP-Adresse dorthin.
• Jan: Ist eine Desktop-Anwendung unter Apache 2.0, einsteigerfreundlich und lokal betreibbar. Die Websuche ist ab Werk eingeschaltet und fragt bei einem US-Anbieter an, abschalten kannst du sie in den Einstellungen.
• vLLM: Ist die Grundlage für den Dauerbetrieb und bedient viele gleichzeitige Anfragen mit deutlich besserer Auslastung der Grafikkarten. Dafür verlangt vLLM mehr Einrichtungsaufwand als Ollama.