KI in der Verwaltung: was heute schon geht und was noch nicht

KI in der Verwaltung ist längst Alltag, mehrere Länder und der Bund betreiben eigene Systeme im Wirkbetrieb. Eine Kreisverwaltung, die heute danach sucht, treibt dabei selten Forschergeist, es drückt eine nüchterne Lage: mehr Aufgaben, weniger Leute, und in den nächsten Jahren gehen die erfahrensten Kräfte in den Ruhestand. Dieser Artikel zeigt, was öffentlich belegt schon funktioniert, was sich davon auf eine Kreis- oder Stadtverwaltung übertragen lässt und wo die Grenzen liegen.

Wo der Einsatz von KI in der Verwaltung heute schon läuft

Baden-Württemberg hat mit F13 einen eigenen KI-Assistenten für die Landesverwaltung gebaut. Er läuft in der Infrastruktur des landeseigenen IT-Dienstleisters BITBW auf offenen Sprachmodellen, wurde im Juli 2025 als Open Source veröffentlicht und liegt seit Anfang 2026 in Version 2.0 vor (Staatsanzeiger BW, 2025, BITBW). Die Stadt München hat mit MUCGPT eine eigene Oberfläche für Sprachmodelle entwickelt und unter MIT-Lizenz freigegeben, andere Kommunen dürfen sie übernehmen. Und der Bund stellt seinen Behörden mit KIPITZ eine KI-Plattform des ITZBund bereit, die Dokumente zusammenfasst, übersetzt und Texte erstellt (BMDS).

Alle 3 sind interne Werkzeuge für Mitarbeitende, betrieben auf eigener oder staatlicher Infrastruktur. Keines ist ein Chatbot für Bürger, und keines schickt Akten an einen US-Anbieter. Diese Reihenfolge, erst nach innen, dann nach außen, hat sich in der Praxis durchgesetzt.

Was ein KI-Assistent in einer Kreisverwaltung übernimmt

Eine Kreisverwaltung braucht kein eigenes Landesprojekt, um dieselben Muster zu nutzen. Die Aufgaben, bei denen ein KI-Assistent in der Verwaltung trägt, sind im Landkreis dieselben wie in der Landeshauptstadt, nur der Maßstab ist kleiner.

Texte und Bescheide

Entwürfe für Antwortschreiben, Vermerke und Vorlagen entstehen aus Stichpunkten. Der Sachbearbeiter prüft und zeichnet, das Modell tippt vor.

Zusammenfassen

Sitzungsprotokolle, Stellungnahmen und 40-seitige Gutachten werden auf das Wesentliche verdichtet, bevor sie in die Gremien gehen.

Nachschlagen

Fragen an Satzungen, Richtlinien und Altvorgänge beantwortet das System mit Fundstelle, statt dass jemand 3 Ordner durchblättert.

In Workshops mit Verwaltungsteams sehen wir regelmäßig denselben Moment: Die größte Wirkung entsteht bei den unspektakulären 20 Minuten, die ein Vermerk ohne Werkzeug kostet und mit Werkzeug nicht mehr. Multipliziert über ein Amt mit 30 Leuten ist das der Unterschied, der Stellenengpässe abfedert.

Das alles beschreibt, wie ein Einsatz aussehen kann. Welche Aufgaben in einer konkreten Verwaltung wirklich tragen, entscheidet sich an den Vorgängen, den Datenquellen und den Zuständigkeiten vor Ort.

Der KI-Chatbot für Bürger ist der schwerste Fall, nicht der erste

Gesucht wird oft zuerst nach einem KI-Chatbot für die Verwaltung, der Bürgerfragen beantwortet. Verständlich, denn dort ist der Andrang am sichtbarsten. Trotzdem steht der Bürger-Chatbot in der Praxis am Ende der Reihe. Eine falsche Auskunft gegenüber Bürgern wiegt schwerer als ein falscher Entwurf, den intern noch jemand prüft, und die Frage der Verbindlichkeit einer automatischen Auskunft muss vorher geklärt sein. Wer mit internen Werkzeugen anfängt, lernt den Umgang mit den Grenzen des Systems dort, wo Fehler folgenlos korrigierbar sind.

Der gangbare Zwischenschritt ist ein Assistent, der Bürgeranfragen vorsortiert und Antwortentwürfe für Mitarbeitende erstellt. Die Auskunft gibt weiterhin ein Mensch, die Tipparbeit übernimmt das System.

Der Datenschutz entscheidet über den Betriebsweg

Verwaltungen verarbeiten Sozialdaten, Gesundheitsdaten und Daten aus laufenden Verfahren. Damit scheidet der bequemste Weg, ein US-Clouddienst mit Firmenkonto, für die meisten Vorgänge aus. Die belegten Beispiele zeigen den Ausweg: F13 läuft auf offenen Sprachmodellen in landeseigener Infrastruktur, die Daten bleiben im eigenen Rechtsraum.

Für eine Kommune, die keinen Landes-IT-Dienstleister hinter sich hat, gibt es 2 gangbare Wege. Ein lokales Sprachmodell auf eigener Hardware, wie es unser Grundlagenartikel zu lokaler KI beschreibt, oder ein europäischer KI-Anbieter mit Auftragsverarbeitungsvertrag und Rechenzentrum in der EU. Welcher Weg passt, hängt an Datenarten, Budget und der eigenen IT, und genau diese Abwägung gehört an den Anfang des Projekts, nicht an sein Ende.

Ein Wissensspeicher als Gedächtnis der Verwaltung

Die Ruhestandswelle trifft Verwaltungen doppelt, denn mit den Menschen geht das Wissen um Zuständigkeiten, Altfälle und ungeschriebene Abläufe. Ein Sprachmodell allein hilft dagegen nicht, es kennt die Verwaltung ja nicht. Es braucht einen Wissensspeicher, aus dem das Modell seine Antworten belegt: Verfahrensbeschreibungen, Zuständigkeiten und Erfahrungswissen als durchsuchbare, verlinkte Dokumente.

So ein Bestand entsteht nicht nebenbei, aber er entsteht in Etappen. Ein Amt beginnt mit den 20 häufigsten Vorgängen, ein Interview mit der Kollegin, die 2027 geht, sichert ihr Wissen, bevor es den Flur verlässt. Wie so ein Speicher technisch aussieht, mit Markdown-Dateien statt einer weiteren Fachanwendung, beschreibt unser Artikel über Wissensmanagement mit Markdown, und wie daraus ein System wird, das Fragen mit Fundstelle beantwortet, zeigt senqo Wissensmanagement.

Womit eine Verwaltung realistisch anfängt

Woran Verwaltungs-Projekte in der Praxis scheitern:

• → Der Chatbot zuerst. Das sichtbarste Projekt ist das riskanteste, siehe oben.
• → Werkzeug ohne Schulung. Ein Zugang wird verteilt, niemand erklärt Grenzen und Datenregeln, nach 4 Wochen nutzt es niemand mehr.
• → Alles auf einmal. 12 Anwendungsfälle parallel bedeuten, dass keiner davon je fertig wird.
• → Der Personalrat erfährt es zuletzt. Wer die Beschäftigtenvertretung früh an den Tisch holt, spart sich den Stillstand danach.

Die Reihenfolge, die sich bewährt: zuerst die Mitarbeitenden schulen, denn Artikel 4 der EU-KI-Verordnung verlangt auch von Behörden als Betreibern, die KI-Kompetenz ihres Personals zu fördern (was seit dem Digital Omnibus gilt, haben wir hier eingeordnet). Danach ein Pilot in einem Amt, mit einem einzigen klar umrissenen Anwendungsfall und einem Betriebsweg, der zu den Daten passt. Als Arbeitsgrundlage für die interne Diskussion taugt die Leitlinie "Generative KI in Kommunalverwaltungen" von VITAKO und KGSt, die im September 2025 aktualisiert wurde (VITAKO).

Ob am Ende ein fertiges System wie F13, eine eigene Installation oder ein schmaler Assistent für ein einzelnes Amt steht, ist eine Folge dieser Schritte. Die Werkzeuge sind da, quelloffen und erprobt, das belegen die Beispiele aus Stuttgart, München und vom Bund. Was jede Verwaltung selbst mitbringen muss, sind ein geklärter Datenweg, geschulte Leute und ein erster Vorgang, an dem sich der Nutzen messen lässt.