Zum Inhalt springen
Lokale KIOpen SourceKI-Strategie

Agents-A1: Das KI-Modell, das sich Zeit zum Nachdenken nimmt

Ein kleines KI-Modell misst sich mit den großen Cloud-Systemen, weil es länger nachdenkt statt größer zu werden. Wir haben es auf eigener Hardware getestet.

RC
Ralf Cornesse
·
Agents-A1: Das KI-Modell, das sich Zeit zum Nachdenken nimmt

Zwei Jahre lang lautete die Antwort auf jede Schwäche eines KI-Modells fast immer gleich, nämlich das Modell größer zu bauen. Das hieß dann mehr Parameter, noch größere Rechenzentren und am Ende eine höhere Stromrechnung. Ein Modell aus der Forschung dreht diese Rechnung um. Agents-A1 ist mit 35 Milliarden Parametern nach heutigen Maßstäben klein, misst sich in den Tests seiner Entwickler aber mit Systemen, die ein Vielfaches davon wiegen. Wir haben es auf eigener Hardware laufen lassen und gegen ein gleich großes Modell antreten lassen.

Der Kern in einem Satz

Agents-A1 gewinnt seine Stärke aus gründlichem Nachdenken vor der Antwort. So kommt ein Modell für die eigene Hardware an Aufgaben heran, für die man bisher ein großes Cloud-System gebraucht hätte.

Agents-A1 in Kürze

35 Milliarden Parameter als Mixture-of-Experts, aufgebaut auf dem offenen Qwen3.5. Freie Apache-2.0-Lizenz, auch kommerziell nutzbar. Sehr großer Kontext für lange Dokumente. Läuft lokal auf leistungsfähiger Hardware.

Der alte Weg hieß Wachstum

Die bekannten Systeme von OpenAI, Google und Anthropic sind in den letzten Jahren vor allem umfangreicher geworden. Sie haben gewaltige Mengen an Trainingsdaten gesehen und immer mehr Parameter bekommen, also interne Stellschrauben, mit denen ein Modell Sprache verarbeitet. Das hat funktioniert, aber es hatte einen Preis. Die wirklich starken Modelle laufen in großen Rechenzentren, meist in den USA. Wer sie nutzen will, mietet Zugang und schickt seine Anfragen dorthin. Für ein Unternehmen mit sensiblen Daten, etwa eine Steuerkanzlei oder einen Maschinenbauer mit Konstruktionsplänen, ist das eine echte Hürde.

Es gab schon länger Modelle, die klein genug sind, um auf eigener Hardware zu laufen. Nur waren sie den großen Cloud-Systemen bei anspruchsvollen Aufgaben spürbar unterlegen. Genau an diesem Punkt setzt Agents-A1 an.

Ein Modell, das sich Zeit nimmt

Der Unterschied steckt weniger in der Größe als in der Arbeitsweise. Die meisten Modelle antworten sofort, fast wie aus dem Bauch heraus. Agents-A1 arbeitet eine Aufgabe erst innerlich durch, bevor es ein Ergebnis liefert. Es zerlegt das Problem in Schritte, prüft Zwischenstände und korrigiert sich selbst, ähnlich einem erfahrenen Handwerker, der zweimal misst und einmal sägt. Diese Denkarbeit vor der Antwort nennt sich in der Fachsprache Reasoning.

Damit das auf lokaler Hardware überhaupt läuft, nutzt das Modell einen Aufbau namens Mixture-of-Experts. Der Aufbau funktioniert wie eine große Fachabteilung. Insgesamt steckt das Wissen von 35 Milliarden Parametern in der Firma, aber für jede einzelne Frage wird nur ein kleines Spezialistenteam an den Tisch geholt, nicht die ganze Belegschaft. So bleibt der Rechenaufwand pro Antwort überschaubar, obwohl das Gesamtwissen groß ist.

Die Entwickler von InternScience fassen ihren Ansatz in einem Satz zusammen: “Scaling the Horizon, Not the Parameters”, also mehr in die Denkarbeit vor der Antwort zu investieren als in die schiere Größe des Modells. Agents-A1 baut auf dem offenen Modell Qwen3.5 auf, steht unter der freien Apache-2.0-Lizenz und darf damit auch kommerziell genutzt werden. Nach Angaben der Entwickler hält es bei anspruchsvollen Aufgaben mit deutlich größeren Systemen wie GPT-5.5 mit. Diese Zahlen stammen aus deren eigener Veröffentlichung, weshalb wir es lieber selbst getestet haben.

Unser Test auf eigener Hardware

Wir haben Agents-A1 über LM Studio auf einem gut ausgestatteten Laptop geladen und ihm sechs knifflige Programmieraufgaben gestellt. Danach kam ein gleich großes, ebenfalls sehr gutes Modell an die Reihe, Qwen 3.6 mit 35 Milliarden Parametern. Beide liefen nacheinander, immer nur ein Modell gleichzeitig im Speicher.

So haben wir getestet:

  • 1. Immer nur ein Modell. Beide liefen nacheinander im Speicher, damit sie sich nicht die Rechenleistung teilen.
  • 2. Gleiche Bedingungen. Für beide dieselben Aufgaben und dieselben Einstellungen.
  • 3. Nicht nach Augenmaß. Jede Antwort lief gegen einen festen Satz Prüffälle, die automatisch bestehen oder durchfallen.
  • 4. Vorab abgesichert. Die Prüffälle haben wir zuerst an eigenen Musterlösungen getestet, damit die Bewertung stimmt.

Die Aufgaben deckten verschiedene Ecken der Programmierung ab, von Rechenlogik über Textmuster bis zur Wegsuche in einem Netz. Ein Modell sollte etwa aus zwei sortierten Zahlenreihen den Mittelwert bestimmen, einen getippten Rechenausdruck mit Klammern und Potenzen auflösen, ein Textmuster mit Platzhaltern abgleichen, eine Zahl in römische Schreibweise bringen und den kürzesten Weg durch ein kleines Wegenetz finden.

Bei vier der sechs Aufgaben lagen beide gleichauf und lösten alles. Zweimal trennte sich das Feld. Beim Taschenrechner vergaß Qwen die Behandlung des Minuszeichens und fiel bei fünf von 13 Prüffällen durch. Bei den römischen Zahlen kürzte es die großen Sprünge zwar richtig ab, verhaspelte sich aber bei Einern und Zehnern und kam nur auf 6 von 15 Prüffällen. Agents-A1 bestand in beiden Fällen jeden einzelnen Prüffall.

Aufgabe Agents-A1 Qwen 3.6 (gleiche Größe)
Mittelwert aus zwei Zahlenreihen alle 10 Prüffälle alle 10 Prüffälle
Kleines Kurzzeitgedächtnis vollständig gelöst vollständig gelöst
Taschenrechner mit Rechenregeln alle 13 Prüffälle 8 von 13 Prüffällen
Mustererkennung mit Platzhaltern alle 16 Prüffälle alle 16 Prüffälle
Zahlen in römische Schreibweise alle 15 Prüffälle 6 von 15 Prüffällen
Kürzester Weg durch ein Wegenetz alle 8 Prüffälle alle 8 Prüffälle

Agents-A1

74 von 74 Prüffällen bestanden, alle sechs Aufgaben vollständig gelöst.

Qwen 3.6, gleiche Größe

60 von 74 Prüffällen, zwei Aufgaben mit Lücken beim Taschenrechner und bei den römischen Zahlen.

Tempo

Qwen lief mit rund 127 Token pro Sekunde schneller als Agents-A1 mit rund 83. Ein Teil davon geht auf eine Beschleunigungstechnik der Qwen-Variante zurück.

Ein Test auf sechs Aufgaben ist kein Urteil über alle Einsatzzwecke. Beim Tempo kommt hinzu, dass die getestete Qwen-Variante die Technik MTP (Multi-Token Prediction) nutzt, die mehrere Wortbausteine auf einmal vorhersagt und die Ausgabe dadurch beschleunigt. Der reine Geschwindigkeitsvergleich ist deshalb mit Vorsicht zu lesen. Beim Kernpunkt, der Korrektheit, ist das Muster aber deutlich und deckt sich mit dem, was die Entwickler beschreiben. Ein kleines Modell, das durch gründliches Nachdenken an Aufgaben herankommt, für die man bislang ein großes Cloud-System gebraucht hätte.

Was das Nachdenken kostet

Diese Gründlichkeit hat einen Preis, und den sollte man kennen, bevor man Erwartungen aufbaut. Agents-A1 denkt sichtbar länger. Für die schwerste Aufgabe erzeugte es über 24.000 Token an innerem Gedankengang, bevor die eigentliche Lösung stand. Ein Token ist grob ein Wortbaustein, also eine Silbe oder ein kurzes Wort. Das Modell führt vor der Antwort gewissermaßen ein langes Selbstgespräch. In unserem Fall dauerte diese eine Aufgabe rund fünf Minuten.

Für einen schnellen Chat mit sofortiger Antwort ist das also nicht die richtige Wahl. Seine Stärke spielt Agents-A1 dort aus, wo Korrektheit wichtiger ist als Tempo, etwa bei einem Vertrag, der gründlich geprüft werden soll, oder bei einer Recherche über viele Schritte hinweg, bei der sich ein früher Flüchtigkeitsfehler bis zum Schluss durchzieht. Genau für solche mehrstufigen Aufgaben ist das Modell gebaut, und dafür nimmt es sich die Zeit.

Tipp:

Nehmen Sie ein Modell wie Agents-A1 für die Aufgabe, die im Hintergrund gründlich laufen darf, etwa die Vorprüfung eines Dokuments über Nacht. Für die schnelle Frage zwischendurch bleibt ein kleineres, flotteres Modell die bessere Wahl. Beide lassen sich auf derselben Maschine vorhalten und je nach Aufgabe starten.

Wie das im Alltag aussieht

Ein Beispiel aus dem Kanzlei-Alltag macht den Wert greifbar. Eine Steuerkanzlei bekommt einen 30-seitigen Vertrag zur Durchsicht und möchte vorab wissen, wo die kritischen Klauseln stehen, welche Fristen darin stecken und ob etwas Wichtiges fehlt. Ein schnelles Chat-Modell überfliegt so ein Dokument und übersieht dabei leicht einen Verweis in einer Fußnote. Ein Modell wie Agents-A1 arbeitet den Vertrag Abschnitt für Abschnitt durch, hält Zwischenergebnisse fest und gleicht sie am Ende ab. Das dauert einige Minuten, liefert aber eine belastbare Vorstruktur, mit der die Steuerberaterin dann gezielt weiterarbeitet.

Der Punkt ist das Vertrauen, das dadurch entsteht. Die Kanzlei verarbeitet den Mandantenvertrag auf dem eigenen Rechner, ohne ihn in eine fremde Cloud zu geben. Bei Mandaten mit Verschwiegenheitspflicht ist die lokale Verarbeitung oft die Bedingung dafür, KI überhaupt einsetzen zu dürfen. Dasselbe Muster gilt für einen Konstrukteur mit Bauplänen, einen Personalleiter mit Bewerbungsunterlagen oder einen Arzt mit Befunden.

Was Unternehmen davon haben

Für viele Betriebe zählt der Ort der Verarbeitung am Ende mehr als die letzte Nachkommastelle eines Benchmarks. Ein Modell dieser Güteklasse läuft auf leistungsfähiger Hardware im eigenen Unternehmen, ohne dass eine einzige Anfrage an einen externen Anbieter geht. Wer mit Patientendaten, Mandantenakten oder Konstruktionsdaten arbeitet, muss diese damit nicht mehr in eine fremde Cloud geben.

Ganz ohne Voraussetzungen geht das nicht. Das Modell belegt rund 38 Gigabyte und braucht eine Maschine mit reichlich Arbeitsspeicher, etwa eine gut ausgestattete Workstation oder einen leistungsstarken Laptop wie das MacBook Pro mit M5 Max. Ein normaler Büro-PC reicht dafür nicht. Und die Cloud-Dienste von OpenAI, Anthropic oder Google behalten ihre Berechtigung, gerade wenn es schnell gehen soll oder die Daten unkritisch sind. Neu ist, dass daneben eine ernstzunehmende lokale Option steht, die man vor einem Jahr in dieser Qualität nicht auf die eigene Hardware bekommen hätte.

Wann sich lokal lohnt

Sensible Daten wie Akten, Patienten- oder Konstruktionsinformationen. Aufgaben, bei denen Korrektheit vor Tempo geht. Wunsch nach Unabhängigkeit von laufenden Abo-Kosten und von einem einzelnen Anbieter.

Wann die Cloud weiter passt

Schnelle Antworten im Sekundentakt, etwa im Kundenchat. Unkritische Inhalte ohne Datenschutzbezug. Kein Budget oder kein Bedarf für eigene, leistungsfähige Hardware im Unternehmen.

Einordnung

Agents-A1 vergleicht sich in seiner Veröffentlichung mit GPT-5.5 und weiteren Systemen, die um ein Vielfaches größer sind. Solche Hersteller-Benchmarks sollte man mit Vorsicht lesen, denn jeder misst sein eigenes Modell im besten Licht. Unser kleiner Test hat den Eindruck immerhin gestützt. Das Modell arbeitet gründlich und macht bei einer Aufgabe alles richtig, an der ein gleich großes, gutes Modell scheitert.

Interessanter als die einzelne Zahl ist die Richtung. Ein Teil der Leistung, die bislang nur aus schierer Größe kam, lässt sich auch aus gründlichem Nachdenken gewinnen. Für Unternehmen ist das eine gute Nachricht, denn Nachdenken passt in einen Rechner unter dem Schreibtisch, ein Rechenzentrum mit Billionen Parametern nicht. Wer prüfen möchte, ob ein lokales Modell für die eigenen Abläufe taugt, kann Agents-A1 kostenfrei über LM Studio ausprobieren und mit einer typischen Aufgabe aus dem eigenen Alltag füttern. Ein realistischer Testfall aus der eigenen Praxis sagt mehr als jede Benchmark-Tabelle.

RC

Ralf Cornesse

KI-Berater & Trainer | Gründer von gewusst:KI

Wir helfen Unternehmen, KI sinnvoll einzusetzen. Praxisnah und herstellerunabhängig.