Zum Inhalt springen

09.08.2026 · Verwaltung · Lokale KI · Wissensmanagement · Datenschutz

KI in der Verwaltung: was heute schon geht und was noch nicht

Baden-Württemberg, München und der Bund betreiben eigene KI-Assistenten. In eine Kreisverwaltung passt davon der Assistent für die eigene Ablage, nicht der Eigenbetrieb eines Modells. Woran die Projekte scheitern, ist meist die Datenlage.

Illustration zu KI in der Verwaltung: ein Verwaltungsgebäude, aus dem Dokumente zu einem KI-Assistenten fließen

KI in der Verwaltung ist längst Alltag, mehrere Länder und der Bund betreiben eigene Systeme im Wirkbetrieb. Eine Kreisverwaltung, die heute danach sucht, treibt dabei selten Forschergeist. Es drückt eine nüchterne Lage, nämlich mehr Aufgaben, weniger Leute, und in den nächsten Jahren gehen die erfahrensten Kräfte in den Ruhestand. Dieser Artikel zeigt, was öffentlich belegt schon funktioniert, was davon in eine Kreis- oder Stadtverwaltung passt und wo die Grenzen liegen.

Wo KI in der Verwaltung heute schon läuft

Baden-Württemberg hat mit F13 einen eigenen KI-Assistenten für die Landesverwaltung gebaut. Er läuft in der Infrastruktur des landeseigenen IT-Dienstleisters BITBW auf offenen Sprachmodellen, wurde im Juli 2025 als Open Source veröffentlicht und liegt seit Anfang 2026 in Version 2.0 vor (Staatsanzeiger BW, 2025, BITBW). Die Stadt München hat mit MUCGPT eine eigene Oberfläche für Sprachmodelle entwickelt und unter MIT-Lizenz freigegeben, andere Kommunen dürfen sie übernehmen. Und der Bund stellt seinen Behörden mit KIPITZ eine KI-Plattform des ITZBund bereit, die Dokumente zusammenfasst, übersetzt und Texte erstellt (BMDS).

Alle 3 sind interne Werkzeuge für Mitarbeitende, betrieben auf eigener oder staatlicher Infrastruktur. Keines ist ein Chatbot für Bürger, und keines schickt Akten an einen US-Anbieter. Diese Reihenfolge, erst nach innen und dann nach außen, hat sich in der Praxis durchgesetzt.

Was ein Assistent in einer Kreisverwaltung übernimmt

Eine Kreisverwaltung braucht kein eigenes Landesprojekt, um dieselben Muster zu nutzen. Die Aufgaben sind im Landkreis dieselben wie in der Landeshauptstadt, nur der Maßstab ist kleiner.

Bei Texten und Bescheiden entstehen die Entwürfe für Antwortschreiben, Vermerke und Vorlagen aus Stichpunkten. Der Sachbearbeiter prüft und zeichnet, das Modell tippt vor.

Beim Zusammenfassen gehen Sitzungsprotokolle, Stellungnahmen und Gutachten über 40 Seiten auf das Wesentliche zurück, bevor sie in die Gremien wandern.

Beim Nachschlagen beantwortet das System Fragen zu Satzungen, Richtlinien und Altvorgängen mit der Fundstelle, statt dass jemand 3 Ordner durchblättert.

In Workshops mit Verwaltungsteams zeigt sich die Wirkung an den unspektakulären 20 Minuten, die ein Vermerk ohne Werkzeug kostet und mit Werkzeug nicht mehr. Über ein Amt mit 30 Leuten gerechnet ist das der Unterschied, der einen Stellenengpass abfedert.

Welche Aufgaben in einer einzelnen Verwaltung wirklich etwas bringen, entscheidet sich an den Vorgängen, den Datenquellen und den Zuständigkeiten vor Ort.

Der Chatbot für Bürger ist der schwerste Fall, nicht der erste

Gesucht wird meist zuerst nach einem Chatbot, der Bürgerfragen beantwortet, denn dort ist der Andrang am sichtbarsten. In der Praxis steht er trotzdem am Ende der Reihe. Eine falsche Auskunft gegenüber Bürgern wiegt schwerer als ein falscher Entwurf, den intern noch jemand prüft, und die Frage, wie verbindlich eine automatische Auskunft ist, muss vorher geklärt sein. Wer intern anfängt, lernt die Grenzen des Systems dort kennen, wo ein Fehler folgenlos korrigierbar ist.

Der gangbare Zwischenschritt ist ein Assistent, der Bürgeranfragen vorsortiert und Antwortentwürfe für die Mitarbeitenden schreibt. Die Auskunft gibt weiterhin ein Mensch, die Tipparbeit übernimmt das System.

Der Datenschutz entscheidet über den Betriebsweg

Verwaltungen verarbeiten Sozialdaten, Gesundheitsdaten und Daten aus laufenden Verfahren. Damit scheidet der bequemste Weg, ein US-Clouddienst mit Firmenkonto, für die meisten Vorgänge aus. Die belegten Beispiele zeigen den Ausweg, denn F13 läuft auf offenen Sprachmodellen in landeseigener Infrastruktur, und die Daten bleiben im eigenen Rechtsraum.

Für eine Kommune ohne Landes-IT-Dienstleister im Rücken bleiben 2 Wege. Ein lokales Sprachmodell auf eigener Hardware, wie es unser Grundlagenartikel zu lokaler KI beschreibt, oder ein europäischer KI-Anbieter mit Auftragsverarbeitungsvertrag und Rechenzentrum in der EU. Welcher passt, hängt an den Datenarten, am Budget und an der eigenen IT. Diese Abwägung gehört an den Anfang des Projekts und nicht an sein Ende.

Ein Wissensspeicher als Gedächtnis der Verwaltung

Die Ruhestandswelle trifft Verwaltungen doppelt, denn mit den Menschen geht das Wissen um Zuständigkeiten, Altfälle und ungeschriebene Abläufe. Ein Sprachmodell allein hilft dagegen nicht, es kennt die Verwaltung ja nicht. Es braucht einen Wissensspeicher, aus dem es seine Antworten belegen kann, also Verfahrensbeschreibungen, Zuständigkeiten und Erfahrungswissen als durchsuchbare, verlinkte Dokumente.

So ein Bestand entsteht nicht nebenbei, aber er entsteht in Etappen. Ein Amt beginnt mit den 20 häufigsten Vorgängen, und ein Interview mit der Kollegin, die 2027 geht, sichert ihr Wissen, bevor es den Flur verlässt. Wie so ein Speicher technisch aussieht, mit Markdown-Dateien statt einer weiteren Fachanwendung, steht in Wissensmanagement mit Markdown. Wie daraus ein System wird, das Fragen mit Fundstelle beantwortet, zeigt senqo Wissensmanagement.

Woran Projekte in der Verwaltung scheitern

Der Chatbot zuerst ist der häufigste Fehler, denn das sichtbarste Projekt ist zugleich das riskanteste. Ein Werkzeug ohne Schulung ist der zweite: Der Zugang wird verteilt, niemand erklärt Grenzen und Datenregeln, und nach 4 Wochen benutzt es keiner mehr. Alles auf einmal ist der dritte, denn 12 Anwendungsfälle nebeneinander bedeuten, dass keiner davon fertig wird. Und wenn der Personalrat es zuletzt erfährt, steht das Vorhaben, bis die Beteiligung nachgeholt ist.

Bewährt hat sich diese Reihenfolge. Zuerst werden die Mitarbeitenden geschult, denn Artikel 4 der EU-KI-Verordnung verlangt auch von Behörden als Betreibern, die KI-Kompetenz ihres Personals zu fördern. Was davon seit dem Digital Omnibus gilt, steht in unserer Einordnung zur Schulungspflicht. Danach folgt ein Pilot in einem Amt, mit einem einzigen klar umrissenen Anwendungsfall und einem Betriebsweg, der zu den Daten passt. Als Grundlage für die interne Diskussion taugt die Leitlinie "Generative KI in Kommunalverwaltungen" von VITAKO und KGSt, aktualisiert im September 2025 (VITAKO).

Ob am Ende ein fertiges System wie F13 steht, eine eigene Installation oder ein schmaler Assistent für ein einzelnes Amt, ergibt sich aus diesen Schritten. Die Werkzeuge sind da, quelloffen und erprobt, das belegen die Beispiele aus Stuttgart, München und vom Bund. Mitbringen muss jede Verwaltung selbst einen geklärten Datenweg, geschulte Leute und einen ersten Vorgang, an dem sich der Nutzen messen lässt.

Wir sehen uns deinen Fall an

Im Erstgespräch klärst du mit uns, ob und wo KI bei dir etwas ändert.

Erstgespräch vereinbaren