Zum Inhalt springen
KI-StrategieLLMOpen Source

KI-Modelle kombinieren: Warum ein Team aus Modellen das beste Einzelmodell schlägt

Sakana AI Fugu lässt mehrere Spitzenmodelle als Team arbeiten und schlägt damit die gängigen Einzelmodelle. Was dahintersteckt und wie Sie den Ansatz heute schon in der EU nachbauen.

RC
Ralf Cornesse
·
KI-Modelle kombinieren: Warum ein Team aus Modellen das beste Einzelmodell schlägt

Kein einzelnes KI-Modell ist in allen Aufgaben das beste. Das eine Modell liegt bei Programmieraufgaben vorn, bei kniffligen Sachfragen schneidet ein anderes besser ab. Sakana AI, ein KI-Forschungslabor aus Tokio, macht daraus eine einfache Idee und lässt mehrere Modelle als Team arbeiten, statt sich auf eines festzulegen. Das Ergebnis übertrifft jedes der beteiligten Modelle, wenn es einzeln antwortet.

Was Sakana Fugu ist

Fugu ist ein Orchestrierungssystem, das mehrere führende KI-Modelle koordiniert und sie als Gruppe an eine Aufgabe setzt. Statt für jeden Anbieter einen eigenen Zugang zu verwalten, schickt man seine Anfrage an Fugu, und das System wählt aus einem Pool starker Modelle aus, verteilt die Arbeit und führt die Teilantworten zusammen. Sakana beschreibt das als Zusammenspiel, bei dem die Modelle Kollaborationsmuster nutzen, die ein Mensch so nicht vorgeben würde.

Eine Besonderheit zeigt sich beim sogenannten Test-Time-Scaling. Fugu kann sich selbst erneut aufrufen, erkennt also, wenn eine erste Antwort noch nicht trägt, und überarbeitet die Koordinationsstrategie in weiteren Durchläufen. Technisch baut das auf zwei Forschungsarbeiten auf, die Sakana für die ICLR 2026 eingereicht hat (Trinity und Conductor). Fugu gibt es in mehreren Stufen, die leistungsstärkste heißt Fugu Ultra. Angesprochen wird das System über eine OpenAI-kompatible Schnittstelle. Seit dem 22. Juni 2026 ist es allgemein verfügbar, abgerechnet wird über ein Abo plus nutzungsabhängige Kosten.

Die von Sakana am 22. Juni 2026 veröffentlichten Benchmark-Werte zeigen, dass Fugu Ultra die allgemein verfügbaren Spitzenmodelle in mehreren Disziplinen übertrifft, obwohl es selbst kein eigenes Frontier-Modell trainiert hat.

Testfeld Gemini 3.1 Pro GPT 5.5 Opus 4.8 Fugu Ultra
Expertenfragen (GPQA Diamond) 94,3 93,6 92,0 95,5
Programmieraufgaben (LiveCodeBench) 88,5 85,3 87,8 93,2
Software-Engineering (SWE-bench Pro) 54,2 58,6 69,2 73,7
Agentische Aufgaben (Terminal-Bench 2.1) 70,3 78,2 74,6 82,1

Bemerkenswert daran ist, dass ein orchestriertes System bei diesen Aufgaben vor den getesteten Einzelmodellen liegt, obwohl es selbst aus solchen Modellen besteht. Die beiden derzeit stärksten Modelle, Claude Fable 5 und Mythos, hat Sakana allerdings nicht direkt getestet, weil sie wegen Exportkontrollen nicht im Modell-Pool von Fugu stecken. Beim Software-Engineering liegt Fable 5 mit 86,0 sogar deutlich vor Fugu Ultra. Für diese Modelle zieht Sakana die von den Anbietern veröffentlichten Werte heran und spricht selbst nur davon, mit Fable 5 und Mythos auf Augenhöhe zu liegen, nicht davon, sie zu schlagen. Die Zahlen stammen vom Hersteller, ein unabhängiger Test steht noch aus.

Warum ein Team aus Modellen besser abschneidet

Die Idee dahinter hat Sakana schon vor Fugu in einem Forschungsverfahren namens AB-MCTS gezeigt (Adaptive Branching Monte Carlo Tree Search). Der Name klingt sperrig, der Gedanke ist einfach. Wer eine schwierige Aufgabe löst, hat zwei Möglichkeiten. Man verfeinert einen vielversprechenden Ansatz immer weiter, oder man fängt mehrmals neu an und sucht eine bessere Ausgangsrichtung. AB-MCTS entscheidet bei jedem Schritt automatisch, welcher der beiden Wege gerade mehr verspricht.

Die Erweiterung auf mehrere Modelle fügt eine weitere Entscheidung hinzu, nämlich welches Modell den nächsten Versuch übernimmt. Das Verfahren probiert anfangs alle Modelle gleich oft und setzt mit der Zeit stärker auf das Modell, das bei der konkreten Aufgabe am besten abschneidet.

1. In die Tiefe

Eine bereits brauchbare Teillösung wird Schritt für Schritt verbessert, bis sie trägt.

2. In die Breite

Statt an einem Ansatz festzuhalten, startet das System mehrere neue Versuche und sucht eine bessere Ausgangsidee.

3. Passendes Modell

Für den nächsten Versuch wählt das Verfahren das Modell, das sich bei dieser Aufgabe bisher am stärksten gezeigt hat.

Die Zahlen aus dem ARC-AGI-2-Test machen den Effekt greifbar. Auf 120 anspruchsvollen Aufgaben löste das Modell o4-mini allein rund 23 %. Mit AB-MCTS, also mit der intelligenten Mischung aus Vertiefen und Neustarten, stieg derselbe Wert auf 27,5 %. Sobald drei Modelle zusammenarbeiteten (o4-mini, Gemini 2.5 Pro und DeepSeek R1), kletterte die Quote auf über 30 %.

Ein Detail aus diesem Test zeigt, warum die Kombination funktioniert. DeepSeek R1 schnitt allein schwach ab, trug im Team aber spürbar zum Ergebnis bei. Ein erster, noch falscher Lösungsvorschlag eines Modells diente einem anderen Modell als Hinweis, aus dem dann die richtige Antwort entstand. Das Open-Source-Framework hinter dem Verfahren hat Sakana unter dem Namen TreeQuest veröffentlicht.

OpenRouter macht etwas Ähnliches

Wer den Ansatz heute ausprobieren will, muss nicht auf Fugu warten. OpenRouter, ein Dienst, der über 500 Modelle hinter einer einzigen Schnittstelle bündelt, hat zwei Funktionen, die in dieselbe Richtung gehen.

Der Auto Router wählt für jede Anfrage automatisch ein passendes Modell aus, abhängig davon, wie komplex die Aufgabe ist. Über einen Parameter steuern Sie, ob das Ergebnis eher günstig oder eher hochwertig ausfallen soll. Innerhalb eines Gesprächs bleibt das einmal gewählte Modell erhalten, damit die Antworten konsistent sind. Diese Funktion verteilt die Arbeit also auf das jeweils sinnvollste Modell, lässt aber nur eines antworten.

Näher an der Fugu-Idee liegt der Fusion Router. Hier beantwortet ein Panel aus bis zu 8 Modellen dieselbe Anfrage parallel. Ein weiteres Modell vergleicht die Antworten, sucht Übereinstimmungen, Widersprüche und Lücken und reicht diese Analyse weiter. Das finale Modell schreibt daraus eine verbesserte Antwort. Genau dieses Prinzip aus mehreren Stimmen plus einer prüfenden Instanz steckt auch hinter Fugu und AB-MCTS.

Fugu ist noch nicht in der EU verfügbar

Fugu ist seit dem 22. Juni 2026 allgemein verfügbar, jedoch nicht in der EU und im EWR. Sakana verweist auf eine laufende Prüfung der regulatorischen Vorgaben. Für ein Unternehmen in Deutschland, das den Ansatz produktiv nutzen möchte, ist das im Moment eine Sperre. Die gute Nachricht ist, dass das Prinzip nicht an Fugu hängt. Mehrere Modelle koordiniert an eine Aufgabe zu setzen, lässt sich mit verfügbaren Bausteinen selbst aufbauen.

Wie Sie den Ansatz heute schon nachbauen

Drei Wege führen zum selben Ziel, von fertig bis selbst gebaut. Welcher passt, hängt davon ab, wie viel Kontrolle und wie viel Datenschutz Sie brauchen.

Fertiger Dienst

Der Fusion Router von OpenRouter liefert das Mehr-Modell-Prinzip ohne eigene Entwicklung. Ein Aufruf genügt, das Panel und die Zusammenführung passieren im Hintergrund.

Eigene Pipeline

Sie schicken denselben Prompt an zwei bis drei Modelle und lassen ein weiteres Modell die Antworten vergleichen und die beste Fassung schreiben. Volle Kontrolle über Modellwahl und Logik.

Lokal im Unternehmen

Dieselbe Pipeline mit lokalen Modellen, die im eigenen Unternehmen laufen. Mehr Aufwand bei der Einrichtung, dafür bleiben die Daten im eigenen Netzwerk.

Eine eigene Pipeline ist weniger Arbeit, als der Begriff vermuten lässt. Im Kern schicken Sie eine Frage an mehrere Modelle, sammeln die Antworten ein und übergeben sie einem letzten Modell mit der Anweisung, die Vorschläge zu prüfen und die belastbarste Antwort zu formulieren. Für die ersten beiden Schritte reicht eine einzige API wie die von OpenRouter, weil sich dort die Modelle von Anthropic, Google und DeepSeek über denselben Endpunkt ansprechen lassen. Den Modellwechsel erledigt ein anderer Name im Aufruf, der übrige Code bleibt gleich.

Für sensible Daten ersetzen Sie die Cloud-Modelle durch lokale. Ein offenes Modell wie Qwen 3.6 übernimmt die Antworten, ein zweites prüft sie, und nichts davon verlässt das eigene Netzwerk. Die Qualität liegt unter der eines Panels aus mehreren Spitzenmodellen, für viele Aufgaben im Arbeitsalltag reicht sie aus.

Was das kostet und wo die Grenzen liegen

Mehrere Modelle gleichzeitig zu fragen, kostet mehr als ein einzelner Aufruf. Beim Fusion Router von OpenRouter rechnet man mit dem 4- bis 5-fachen der Kosten einer normalen Anfrage, weil das Panel und das prüfende Modell zusammen mehrere Antworten erzeugen. Bei einer eigenen Pipeline mit drei Modellen sieht die Rechnung ähnlich aus. Wie hoch die Rechenlast solcher Systeme ist, zeigt Sakana selbst, denn für aufwendige Anfragen ruft Fugu Ultra bis zu 10 US-Dollar je Nachricht auf (umgerechnet rund 9 Euro). Das Verfahren lohnt sich also dort, wo eine falsche Antwort teurer ist als ein paar zusätzliche Cent pro Anfrage.

Wann sich der Aufwand lohnt:

Bei Recherchefragen, Vergleichen und Entscheidungen, bei denen es auf Verlässlichkeit ankommt. Für einfache Aufgaben wie kurze Zusammenfassungen oder Standardtexte genügt ein einzelnes Modell, ein Panel wäre hier nur teurer ohne erkennbaren Gewinn.

Ein zweiter Punkt betrifft den Datenschutz. OpenRouter leitet Anfragen im Standardbetrieb an Anbieter weiter, die ihre Server in den USA betreiben, und ist damit ohne weitere Einstellungen nicht DSGVO-konform. Für personenbezogene Daten lässt sich pro Zugang ein EU-Routing erzwingen, sodass die Daten die EU nicht verlassen, oder Sie setzen die Pipeline gleich mit lokalen Modellen auf. Welcher Weg passt, hängt davon ab, wie sensibel die Daten sind, mit denen Sie arbeiten.

Die Kernaussage hinter Fugu und AB-MCTS bleibt unabhängig vom konkreten Werkzeug bestehen. Ein einzelnes Modell hat in jeder Disziplin eine Obergrenze, die sich durch längeres Nachdenken nur begrenzt verschieben lässt. Mehrere Modelle, die sich gegenseitig korrigieren, kommen darüber hinaus. Für Unternehmen, die KI bei Aufgaben mit echtem Gewicht einsetzen, lässt sich dieser Vorteil schon heute mit verfügbaren Mitteln nutzen.

RC

Ralf Cornesse

KI-Berater & Trainer | Gründer von gewusst:KI

Wir helfen Unternehmen, KI sinnvoll einzusetzen. Praxisnah und herstellerunabhängig.