Kaum ein technologisches Thema hat in den vergangenen Jahren so rasch an Aufmerksamkeit gewonnen wie agentische KI. Neunzig Prozent der in einer aktuellen Erhebung befragten öffentlichen Institutionen planen, sie innerhalb der nächsten zwei bis drei Jahre einzusetzen. Unsere Studie fragt: Wie muss der Einsatz agentischer KI in der öffentlichen Verwaltung gestaltet sein, damit sie die Grundlagen demokratisch-rechtsstaatlichen Verwaltungshandelns aktiv stärkt?
Als Maßstab dienen die rechtlichen Grundlagen, die in Deutschland für demokratisch-rechtsstaatliches Verwaltungshandeln unmittelbar gelten: Gesetzmäßigkeit und Gleichbehandlung, Zugänglichkeit und Inklusion, Benachteiligungsverbot, Unterstützung bei der Inanspruchnahme von Rechten, Einzelfallgerechtigkeit, Transparenz und Nachvollziehbarkeit sowie Datenschutz und informationelle Selbstbestimmung.
An diesem Maßstab werden sechs idealtypische Funktionsmuster agentischen Handelns bewertet und am Beispiel des Wohngeldes veranschaulicht: Der Orientierungsagent übersetzt Lebenslagen von Bürger:innen in mögliche Verwaltungsleistungen. Der Antragsagent erschließt die für ein Verfahren erforderlichen Angaben und Nachweise verständlich und bringt sie in eine antragsfähige Form. Der Verfahrensagent macht sichtbar, wo ein Verfahren steht, welche Fristen laufen und welche Schritte erforderlich sind. Der Kommunikationsagent erklärt behördliche Anforderungen, Rückfragen und Bescheide adressatengerecht. Der Orchestrierungsagent koordiniert Verfahren, Behörden und Leistungssysteme, wenn ein Anliegen nicht innerhalb einer einzelnen Stelle bearbeitet werden kann. Der Monitoringagent beobachtet den Verwaltungsvollzug auf aggregierter Ebene und macht strukturelle Probleme sichtbar, ohne in den Einzelfall einzugreifen.
Aus der Analyse werden sechs Gestaltungsfelder abgeleitet, die beschreiben, was an agentischen Systemen gesichert sein muss, damit sie zu einer demokratischen Verwaltung beitragen, statt sie zu unterlaufen: Verhältnismäßigkeit (Ist agentische KI das richtige Mittel und steht die Eingriffstiefe im Verhältnis zum Nutzen?), Verantwortung (Wer trägt die Entscheidung, wer haftet für Fehler?), Verbindlichkeit (Ist der rechtliche Status des Agentenhandelns erkennbar?), Nachvollziehbarkeit (Kann rekonstruiert werden, was das System getan hat und warum?), Datenhoheit (Wer kontrolliert die Daten, die der Agent verarbeitet?) und Reformvorrang (Dient der Einsatz agentischer KI nur der Symptombekämpfung angesichts struktureller Defizite?).
Der bestehende Rechtsrahmen aus Verwaltungsverfahrensrecht, Datenschutzrecht und AI Act stößt beim Einsatz agentischer KI insbesondere bei mehrstufigen, dynamischen und behördenübergreifenden Handlungskonfigurationen und bei kommunikativen Zwischenschichten, die rechtlich meist kein Verwaltungsakt sind, für Betroffene aber erhebliche Steuerungswirkung entfalten. Regulatorische Nachschärfungen sollten mustergeleitet an den Gestaltungsfeldern ansetzen, wirkungsdifferenziert auch unterhalb der Hochrisiko-Schwelle des AI Act greifen und mehrschichtig erfolgen: Wo es um technische Beherrschbarkeit und organisatorische Einbettung geht, können untergesetzliche Vorgaben ausreichen; wo es um Zuständigkeit, Datennutzung, Verbindlichkeit oder Grundrechtseingriffe geht, bleibt der Gesetzgeber gefordert.
Kaum ein technologisches Thema hat in den vergangenen Jahren so rasch an Aufmerksamkeit gewonnen wie agentische KI (Staufer et al. 2026). Der Begriff bezeichnet KI-Systeme, die innerhalb eines vorgegebenen Handlungsrahmens situationsbezogen nächste Schritte bestimmen und ausführen, ihr Vorgehen dynamisch an neue Informationen anpassen und dabei auch mehrstufige Abläufe eigenständig koordinieren und durchführen können.
Dieser Hype hat auch die öffentliche Verwaltung erreicht. Neunzig Prozent der in einer aktuellen Erhebung befragten öffentlichen Institutionen planen, agentische KI innerhalb der nächsten zwei bis drei Jahre einzusetzen oder zu erproben (WEF 2026).Damit ist der Einsatz agentischer KI eine praktische Gestaltungsaufgabe, die sich Verwaltungen heute konkret stellt. Auch in Deutschland erproben viele kommunale, Landes- und Bundesbehörden den Einsatz von agentischer KI (BMDS 2026).
Die Anwendungsfelder, die diskutiert und erprobt werden, reichen dabei von der Unterstützung komplexer Verwaltungsvorgänge über die Planung und Steuerung staatlichen Handelns bis zur Unterstützung von Gesetzgebungsprozessen durch Politikfolgenabschätzung, Szenariomodellierung oder der Simulation von Regelungswirkungen (OECD 2025). Auch das Transformationspotenzial, das mit diesen Anwendungen verbunden wird, wird in der Diskussion sehr unterschiedlich eingeschätzt. Auf der einen Seite steht das Verständnis von agentischer KI als Werkzeug, das innerhalb bestehender Strukturen, Zuständigkeiten und Verfahren eingesetzt wird, ohne deren institutionelle Logik grundsätzlich zu verändern. Auf der anderen Seite steht das Konzept des „Agentic State“, (Ilves et al. 2025) als fundamentale Neukonzeption staatlichen Handelns, in der KI-Agenten proaktiv personalisierte und situativ konfigurierte Leistungen bereitstellen, starre Verwaltungsprozesse in dynamisch koordinierte Abläufe verwandeln und den Übergang von traditioneller Gesetzgebung zu adaptiver, evidenzbasierter Regulierung vollziehen.
Die öffentliche Debatte über diesen Wandel ist von zwei Perspektiven geprägt (OECD 2025; Liang et al. 2025; WEF 2026). Auf der einen Seite steht die Erwartung erheblicher Effizienzgewinne: agentische KI soll den Fachkräftemangel abfedern, Bearbeitungszeiten verkürzen, Routinetätigkeiten automatisieren. Auf der anderen Seite steht die Sorge, dass agentische Systeme Risiken für rechtsstaatliche und demokratische Anforderungen an Verwaltungshandeln erzeugen: Intransparenz, schwer zurechenbare Entscheidungen, algorithmische Diskriminierung, Erosion von Rechtsschutz und datenschutzrechtlich bedenkliche Datenkonzentrationen. Die bisherige Debatte ist daher doppelt verengt: Während der Nutzen agentischer KI überwiegend unter Effizienzgesichtspunkten gefasst wird, erscheinen die normativen Anforderungen an demokratisch-rechtsstaatliches Verwaltungshandeln fast ausschließlich als Schranken, die dem Einsatz agentischer KI Grenzen setzen oder als Werte, die durch agentische KI gefährdet werden.
Doch agentische KI ist für die öffentliche Verwaltung weder bloß ein Effizienzinstrument noch nur ein neues Gefährdungspotenzial. Ihr Einsatz berührt grundlegende Fragen demokratischen und rechtsstaatlichen Verwaltungshandelns: Wie erhalten Menschen Zugang zu Leistungen? Wie werden sie bei der Wahrnehmung ihrer Rechte unterstützt? Wie bleiben Verfahren nachvollziehbar, Entscheidungen überprüfbar und Verantwortung zurechenbar? Und wie lassen sich die Potenziale digitaler Systeme nutzen, ohne die rechtlichen und institutionellen Sicherungen demokratischer Verwaltung zu unterlaufen?
Gerade im Bereich der Sozialleistungen treten diese Fragen besonders deutlich hervor. Hier scheitert gutes Verwaltungshandeln oft nicht nur an fehlenden Bearbeitungskapazitäten und ineffizienten Prozessen, sondern bereits an Orientierungshürden, komplexen Antragswegen, Kommunikationsabbrüchen und Brüchen zwischen Zuständigkeiten. Agentische KI könnte an vielen dieser Stellen ansetzen: nicht nur, um Abläufe zu beschleunigen, sondern auch, um Verwaltung zugänglicher, unterstützender und anschlussfähiger zu machen. Ob dies gelingt, hängt jedoch nicht an der Technologie als solcher, sondern an der Art ihres Einsatzes, ihrer Einbettung in bestehende Verfahren und ihrer Ausrichtung an den Kriterien demokratisch-rechtsstaatlicher Verwaltung. Ihr Einsatz muss dabei in eine grundlegende institutionelle Umgestaltung eingebettet sein. Sonst besteht das Risiko, dass ihr Einsatz bestehende institutionelle Mängel verstärkt, statt sie zu beheben (Regis et al. 2026). Werden schlecht gestaltete Verfahren oder komplizierte Regelungen unverändert durch agentische Systeme unterstützt, automatisiert die KI das Problem statt der Lösung.
Dieses Papier betrachtet daher den Nutzen agentischer KI nicht primär unter Effizienzgesichtspunkten, sondern fragt, welchen Beitrag sie zur Qualität demokratisch-rechtsstaatlichen Verwaltungshandelns leisten kann. Und es betrachtet die Grundlagen demokratischen Verwaltungshandelns nicht nur als Schutzgut gegenüber agentischer KI, sondern als Maßstab, an dem sich ihre Gestaltung orientieren sollte. Die leitende Frage lautet:
Wie muss der Einsatz agentischer KI in der öffentlichen Verwaltung gestaltet sein, damit sie die Grundlagen demokratisch-rechtsstaatlichen Verwaltungshandelns aktiv stärkt?
Unser Fokus liegt auf dem Einsatz agentischer KI innerhalb bestehender Strukturen und Routinen staatlichen Handelns, und dabei gezielt auf Verwaltungsprozessen: auf dem Verhältnis zwischen Behörden und den Menschen, die auf sie angewiesen sind, auf der Bearbeitung von Anträgen, der Durchführung von Verfahren, der Kommunikation von Entscheidungen und der Koordination zwischen Stellen und Leistungssystemen. Diese Eingrenzung folgt der Einschätzung, dass sich in diesem Feld die entscheidenden Gestaltungsfragen heute praktisch stellen.
Um diese Frage zu beantworten werden im weiteren Verlauf dieses Papiers zunächst die Kriterien demokratisch-rechtsstaatlicher Verwaltung herausgearbeitet, die als normativer Bewertungsrahmen für den weiteren Argumentationsgang dienen (Kapitel 2). Anschließend wird eine kurze Einführung zu agentischer KI gegeben und sie von verwandten Konzepten abgegrenzt (Kapitel 3). In Kapitel 4 werden diejenigen Eigenschaften agentischer KI dargestellt, die für ihren Einsatz im Verwaltungskontext wesentlich sind. Auf dieser Grundlage werden in Kapitel 5 idealtypische Funktionsmuster agentischen Handelns[1] in der Verwaltung vorgestellt und jeweils hinsichtlich ihrer Chancen und Risiken in Bezug auf die Kriterien demokratisch-rechtsstaatlicher Verwaltung bewertet. In Kapitel 6 werden diese Konzepte am Beispiel des Wohngeldes verprobt. Im Kapitel 7 werden aus dieser Verprobung Gestaltungsprinzipien abgeleitet, die beschreiben, welche Voraussetzungen erfüllt sein müssen, damit agentische KI tatsächlich zu besserem demokratisch-rechtsstaatlichen Verwaltungshandeln beiträgt. Abschließend werden in Kapitel 8 regulatorische Folgerungen gezogen: wo der bestehende Rechtsrahmen trägt, wo er Lücken aufweist und welche gesetzgeberischen wie untergesetzlichen Nachschärfungen erforderlich sind.
Wenn es darum geht, welche Eigenschaften die öffentliche Verwaltung auszeichnen, bleibt die Diskussion häufig bei Max Weber stehen. Sein Bürokratiemodell (Weber 1980) – Regelgebundenheit, Hierarchie, Unpersönlichkeit, Aktenmäßigkeit – hat sich als analytisches Referenzmodell tief in das Verwaltungsdenken eingegraben.
Diese Perspektive ist wichtig, blendet aber die demokratische Verfasstheit unserer öffentlichen Verwaltung aus: Sie ist an Grundrechte und parlamentarische Entscheidungen gebunden und gerichtlich überprüfbar. Sie muss Entscheidungen begründen und nachvollziehbar machen. Und sie verpflichtet den Staat in bestimmten Bereichen ausdrücklich dazu, Menschen aktiv bei der Inanspruchnahme ihrer Rechte zu unterstützen. Diese demokratische Verfasstheit der öffentlichen Verwaltung ist der zentrale Grund, warum eine Orientierung von Verwaltungshandeln und seiner Unterstützung durch agentische KI allein am Kriterium der Effizienz nicht ausreicht. Hier braucht es weitere Kriterien, wie sie etwa in Ansätzen der Good-Governance entwickelt wurden.
Die im Folgenden entwickelten Maßstäbe schließen an diese Ansätze an, ohne ihnen systematisch zu folgen. Sie werden nicht aus einer theoretischen Konzeption demokratisch-rechtsstaatlicher Verwaltung abgeleitet, sondern aus den rechtlichen Regelungen, die in Deutschland für Verwaltungshandeln unmittelbar gelten: Grundrechte, grundlegende Verfahrensregelungen des VwVfG sowie, dort wo der Einsatz agentischer KI besonders relevante Berührungspunkte aufweist, fachgesetzliche Regelungen aus dem Sozialrecht.
Unser Vorgehen ist dabei eklektizistisch und in mehrfacher Hinsicht angreifbar. Es erhebt keinen Anspruch auf theoretische Vollständigkeit, sondern liefert eher eine problemorientierte Auswahl von Kriterien, die aus unserer Sicht für die Bewertung agentischer Systeme im Verwaltungskontext besonders maßgeblich sind.
Gesetzmäßigkeit und Gleichbehandlung. Aus Art. 20 Abs. 3 GG, der die Verwaltung an Gesetz und Recht bindet, und dem allgemeinen Gleichbehandlungsgrundsatz des Art. 3 Abs. 1 GG folgt, dass die Verwaltung auf gesetzlicher Grundlage handeln und gleich gelagerte Fälle gleich behandeln muss. Bei gebundenen Entscheidungen geht es darum, gesetzliche Voraussetzungen richtig und gleichmäßig anzuwenden. Besteht dagegen Ermessen, muss die Verwaltung nach nachvollziehbaren, konsistenten und willkürfreien Maßstäben vorgehen.
Zugänglichkeit und Inklusion. Eine demokratisch-rechtsstaatliche Verwaltung muss für die Menschen, die auf sie angewiesen sind, tatsächlich erreichbar und nutzbar sein. Leistungen und Verfahren müssen so gestaltet sein, dass sie faktisch nicht nur denjenigen offenstehen, die über besondere sprachliche, digitale oder soziale Ressourcen verfügen. Gerade im Sozialstaat bedeutet dies, dass allen Berechtigten der Zugang zu ihnen zustehenden Leistungen ermöglicht werden muss. § 17 Abs. 1 SGB I bringt diesen Gedanken nachdrücklich zum Ausdruck, wenn die Leistungsträger verpflichtet werden, darauf hinzuwirken, dass Berechtigte Sozialleistungen umfassend und zügig erhalten.
Benachteiligungsverbot. Eine demokratisch verfasste Verwaltung darf Zugänge, Verfahren und Entscheidungen nicht in einer Weise gestalten, die bestimmte Gruppen systematisch benachteiligt. Dies folgt schon aus dem allgemeinen Gleichbehandlungsgrundsatz des Art. 3 Abs. 1 GG. Für den Sozialrechtsbereich konkretisiert § 33c SGB I diesen Maßstab ausdrücklich: Bei der Inanspruchnahme sozialer Rechte darf niemand aus Gründen der Rasse, wegen der ethnischen Herkunft oder einer Behinderung benachteiligt werden.
Unterstützung bei der Inanspruchnahme von Rechten. Eine demokratisch-rechtsstaatliche Verwaltung muss Berechtigte dabei unterstützen, ihre Rechte gegenüber dem Staat auch in Anspruch zu nehmen. So verpflichtet § 25 VwVfG die Verwaltung, auf sachdienliche Anträge und Erklärungen hinzuwirken und Auskunft über Rechte und Pflichten zu erteilen. Gerade im Sozialrecht treten weitere Beratungs- und Aufklärungspflichten hinzu.
Einzelfallgerechtigkeit. Demokratisch-rechtsstaatliches Verwaltungshandeln muss den konkreten Fall in seiner Besonderheit erfassen. So verpflichtet § 24 Abs. 2 VwVfG die Behörde, alle für den Einzelfall bedeutsamen, auch die für die Beteiligten günstigen Umstände zu berücksichtigen. Im Sozialrecht wird dieser Gedanke durch § 33 SGB I verstärkt, der bei unbestimmten Rechten und Pflichten die persönlichen Verhältnisse, Bedarfe, Leistungsfähigkeit und örtlichen Verhältnisse der Berechtigten einbezieht. Einzelfallgerechtigkeit steht dabei in einem Spannungsverhältnis zu Standardisierung und Automatisierung: Weil sie Pauschalisierungen begrenzt, erzeugt sie Aufwand. Für eine demokratisch verfasste Verwaltung ist sie gleichwohl kein bloßes Effizienzhemmnis, sondern Ausdruck materieller Angemessenheit staatlichen Handelns.
Transparenz und Nachvollziehbarkeit. Demokratisch-rechtsstaatliches Verwaltungshandeln muss für Betroffene überprüfbar bleiben. Verwaltungsakte sollen auf ihre Rechtmäßigkeit hin geprüft und gegebenenfalls angegriffen werden können. Dazu dienen insbesondere Begründungspflichten, die Dokumentation des Zustandekommens einer Entscheidung und der Zugang zu den hierfür maßgeblichen Informationen. Transparenz ist damit nicht nur eine Frage verständlicher Kommunikation, sondern eine Bedingung von Rechtsschutz.
Datenschutz und informationelle Selbstbestimmung. Unsere Verwaltung ist nicht nur durch die Datenschutzgrundverordnung (DSGVO) an den Schutz personenbezogener Daten gebunden. Auch in fachgesetzlichen Regelungen wie bspw. dem Sozialrecht wird dieser Gedanke durch das Sozialgeheimnis aus § 35 SGB I besonders hervorgehoben: Sozialdaten dürfen nicht unbefugt verarbeitet werden; auch innerhalb des Leistungsträgers ist sicherzustellen, dass sie nur Befugten zugänglich sind. Für agentische Systeme ist dies besonders relevant, weil sie typischerweise kontextreiche Daten verarbeiten, verschiedene Informationsquellen zusammenführen und dadurch die Gefahr einer Ausweitung von Zugriff, Zweck und Verknüpfung erhöhen können.
Diese Grundsätze bilden den Maßstab, an dem der Einsatz agentischer KI im Weiteren gemessen wird. Sie beschreiben nicht nur rechtliche Anforderungen an bestehendes Verwaltungshandeln, sondern markieren zugleich, woran sich beurteilen lässt, ob agentische Systeme eine demokratisch-rechtsstaatliche Verwaltung stärken oder unterlaufen.
Der Begriff der agentischen KI wird in der wissenschaftlichen und technischen Literatur nicht einheitlich verwendet. Für den Zweck dieses Papiers stützen wir uns auf die begriffliche Grundlegung der OECD (OECD 2026). Danach bezeichnet der Begriff KI-Agent ein System, das seine Umgebung wahrnimmt, mit einem gewissen Grad an Autonomie handelt und dabei Werkzeuge einsetzt, um spezifische Ziele zu erreichen und sich an veränderte Eingaben und Kontexte anzupassen. Kontext meint dabei die Informationen, die dem Agenten für die jeweilige Aufgabe zur Verfügung stehen. Werkzeuge sind angebundene Funktionen, mit denen der Agent mit seiner Umgebung interagieren kann.
Ein KI-Agent operiert im Kern in einem wiederholbaren Handlungszyklus aus Planung, Ausführung und Kontrolle (siehe Abbildung). Das zugrunde liegende Sprachmodell (LLM) verarbeitet dabei jeweils den verfügbaren Kontext, bestimmt einen nächsten sinnvollen Schritt, nutzt gegebenenfalls Werkzeuge und bewertet anschließend, ob das Ergebnis dem Ziel näherkommt oder weitere Schritte erforderlich sind.
In der Planungsphase wird eine Aufgabe in bearbeitbare Schritte übersetzt. Der Agent bestimmt, welche Informationen benötigt werden, welche Reihenfolge sinnvoll ist und ob ein Schritt selbst ausgeführt, nur vorbereitet oder an einen Menschen übergeben werden soll.
In der Ausführungsphase interagiert der Agent mit seiner Umgebung. Dies geschieht über Werkzeuge und Schnittstellen, etwa durch Dokumentenanalyse, Registerabfragen, Formularbearbeitung, Datenübernahme in Fachverfahren, E-Mail Versand oder das Auslösen eines Folgeprozesses. Speziell diese Werkzeugnutzung unterscheidet einen Agenten von einem KI-System, das lediglich Auskünfte gibt oder Texte erzeugt.
In der Kontrollphase wird geprüft, ob der ausgeführte oder vorbereitete Schritt zulässig, vollständig und plausibel ist. Dazu gehören Berechtigungsprüfungen, Protokollierung, Abgleich mit Verhaltensregeln, Erkennung von Unsicherheiten und gegebenenfalls die Übergabe an eine zuständige Person.
Der Zyklus aus Planung, Ausführung und Kontrolle ist auf Kontext angewiesen. Kontext umfasst die Informationen, die der Agent für die jeweilige Aufgabe benötigt, etwa Nutzereingaben, Dokumente, Verfahrensdaten, Rolleninformationen, Zuständigkeiten und frühere Zwischenergebnisse. Entscheidend ist dabei nicht, möglichst viele Informationen verfügbar zu machen, sondern die jeweils erforderlichen Informationen aktuell, vollständig und kompakt bereitzustellen.
In agentischen Systemen können mehrere Agenten parallel oder nacheinander aufgerufen werden. Die Ausführung der Agenten wird dabei häufig durch einen definierten Ablauf festgelegt. Es gibt aber auch dynamischere Ansätze, bei denen ein Orchestrierungsagent zum Einsatz kommt. Dieser arbeitet dann nach dem gleichen agentischen Schema. Er plant die Aufgaben, ruft bei der Ausführung die zu orchestrierenden Agenten als Werkzeuge auf und führt deren Ergebnisse in der Prüfungsphase zusammen. [Grafik: Schaubild]
Agentische Systeme bringen Risiken mit sich, die nicht erst durch fehlerhafte Konfiguration oder mangelnde Aufsicht entstehen[2]. Diese Risiken sind für den Einsatz in der Verwaltung von besonderer Relevanz, weil sie die Anforderungen an demokratisch-rechtsstaatliches Verwaltungshandeln, wie sie in Kapitel 2 dargestellt wurden, unmittelbar berühren.
Für die Nachvollziehbarkeit ergibt sich ein grundlegendes Problem daraus, dass die interne Verarbeitung von Sprachmodellen , die agentischer KI zugrunde liegen, anders als bei regelbasierten Systemen nicht vollständig erklärbar ist. Sprachmodelle erzeugen Ausgaben auf der Grundlage statistischer Gewichtungen, nicht auf der Grundlage explizit kodierter Regeln. Warum ein Agent in einer konkreten Situation zu einem bestimmten Zwischenergebnis gelangt ist, lässt sich häufig nicht in einer Form rekonstruieren, die an die Begründungslogik des Verwaltungsrechts anschlussfähig wäre. Hinzu kommt, dass mehrstufige agentische Prozesse Handlungsketten erzeugen, in denen frühe Zwischenschritte spätere Ausgaben beeinflussen, ohne dass diese Abhängigkeiten für Sachbearbeitende oder Betroffene sichtbar werden.
Für Gesetzmäßigkeit, Gleichbehandlung und Benachteiligungsverbot sind mehrere Eigenschaften der den KI-Agenten zugrundeliegenden Sprachmodellen besonders relevant. Erstens können Sprachmodelle sachlich falsche, aber sprachlich plausible Ausgaben erzeugen. Dieses Phänomen wird als „Halluzination“ bezeichnet. Zweitens können die Modelle anhand fehlerhafter Daten trainiert worden sein und auf dieser Grundlage dann fehlerhafte Schlussfolgerungen ziehen, die in der Praxis bspw. zur Benachteiligung bestimmter Personengruppen führen können (algorithmic bias).
Für den Datenschutz entsteht ein spezifisches Risiko aus der Zusammenführung von Daten im Kontext. Agenten, die auf verschiedene Datenquellen zugreifen und Informationen über mehrere Prozessschritte hinweg halten, können folglich auch personenbezogene Informationen aus unterschiedlichen Verfahrens- und Lebensbereichen zusammenführen, selbst wenn dies für die konkrete Aufgabe nicht erforderlich ist. Dies kann de facto Zweckbindungsgrenzen unterlaufen, ohne dass dies für Betroffene oder Aufsichtsstellen transparent wird.
Für die IT-Sicherheit schließlich ergibt sich aus den geschaffenen Zugängen für Agenten, sowie deren Fähigkeit, eigenständig auf externe Systeme zuzugreifen und Prozesse auszulösen, eine qualitativ neue Angriffsfläche. Im Unterschied zu passiven Verarbeitungssystemen können kompromittierte oder manipulierte Agenten aktiv handeln. Sie können Daten übermitteln, Verfahren auslösen oder Systemzustände verändern. Sicherheitsarchitekturen für agentische Systeme müssen daher nicht nur den Datenzugriff, sondern auch die Aktionsfähigkeit des Systems kontrollieren und begrenzen. Außerdem sind agentische Systeme gegenüber manipulierten Eingaben vulnerabel. Wird ein Agent so gestaltet, dass er Inhalte aus externen Quellen wie Dokumenten, Webseiten, oder Datenbanken verarbeitet, können in diesen Quellen eingebettete Anweisungen das Systemverhalten ungewollt beeinflussen. Solche sogenannten Prompt-Injection-Angriffe sind in Verwaltungskontexten besonders ernst zu nehmen, wenn Agenten mit Antragsunterlagen, Registerdaten oder behördlichen Kommunikationssystemen interagieren.
Diese strukturellen Eigenschaften machen agentische KI nicht per se ungeeignet für den Verwaltungseinsatz. Sie begründen aber den Bedarf nach einer differenzierten Betrachtung, die nicht allein die Funktionen, sondern auch die Einbettung des Systems, seine Berechtigungen sowie seine Rolle und Wirkung im konkreten Verfahren in den Blick nimmt. Die folgenden Abschnitte entwickeln dafür ein analytisches Rahmenwerk.
Ob der Einsatz agentischer KI demokratisch-rechtsstaatliches Verwaltungshandeln stärkt oder gefährdet, hängt davon ab, wie weitreichend ein Agent eigenständig handelt, worauf er zugreift, welche Rolle er im Verfahren einnimmt und wie tief er in den Verfahrensablauf eingreift. Dieselbe technische Architektur kann je nach Ausprägung dieser Eigenschaften Zugänglichkeit fördern oder Benachteiligungen verstärken, Nachvollziehbarkeit herstellen oder untergraben, Verantwortung klar zuordnen oder diffus werden lassen. Bisherige Differenzierungen agentischer KI-Systeme konzentrieren sich überwiegend auf den Grad ihrer Autonomie (vgl. Mirsky 2026). Für eine Bewertung im Verwaltungskontext greift diese Perspektive jedoch zu kurz: Rechtsstaatliche Anforderungen an Verfahrensgestaltung, Zugang und Verantwortungszuschreibung lassen sich nicht allein über die Frage erfassen, wie selbstständig ein System operiert. Die folgenden Abschnitte beschreiben daher die Eigenschaften, anhand derer sich agentische Systeme im Verwaltungskontext unterscheiden lassen und die im weiteren Verlauf des Papiers als analytisches Raster für die Bewertung konkreter Einsatzformen dienen.
Immanente Eigenschaften beschreiben das System selbst, unabhängig vom konkreten Einsatz. Sie erfassen, wie autonom der Agent operiert und zu welchen Zugriffen er berechtigt ist.
[Grafik: Autonomie. Wie weit bestimmt der Agent eigenständig nächste Schritte?]
[Grafik: Berechtigung. Worauf kann der Agent technisch zugreifen und was kann er in digitalen Umgebungen maximal tun?]
Kontextuelle Eigenschaften beschreiben die Einbettung des Systems in den Verwaltungskontext. Sie erfassen, welche Bedeutung sein Handeln im Verfahren entfaltet und welche Rolle er dabei einnimmt. Maßgeblich für die Vereinbarkeit agentischer KI mit den Anforderungen des Verwaltungshandelns ist das Zusammenspiel aller dieser Eigenschaften. Immanente Eigenschaften bestimmen das operative Handlungsvermögen eines Agenten. Kontextuelle Eigenschaften bestimmen, wie dieses Vermögen im Verwaltungskontext eingebettet ist und welche Wirkung es dort entfaltet. Hohe Autonomie führt nicht notwendigerweise zu hoher Wirkung. Weitreichende Berechtigungen sagen für sich genommen noch nichts über die Rolle des Systems aus. Umgekehrt kann auch ein System mit begrenzter Autonomie erhebliche Verfahrenswirkung entfalten, wenn seine Ergebnisse unmittelbar in Verwaltungsabläufe eingehen. Die Einordnung agentischer KI in der Verwaltung erfordert daher beide Perspektiven. Erst die Verbindung von immanenten und kontextuellen Eigenschaften erlaubt eine präzise Beschreibung dessen, wie ein System handelt, in welchem Kontext es eingesetzt wird und wie es im Lichte demokratischer Verwaltungsgrundsätze zu bewerten ist.
[Grafik: Wirkung. Wie stark greift das Handeln des Agenten in den Verfahrenablauf ein?]
[Grafik: Rolle. Welche Position nimmt er im Verhältnis zwischen Bürger:in und Verwaltung ein?]
Aus den vier im vorherigen Kapitel eingeführten Eigenschaftsdimensionen ergeben sich rechnerisch zahlreiche Kombinationen. Nur einige davon sind für die Verwaltungspraxis plausibel und hilfreich. Entscheidend ist weniger die abstrakte Kombination technischer Merkmale als die Frage, welche Funktion ein agentisches System im Verwaltungskontext übernimmt und welche Wirkung es auf eine demokratisch verfasste Verwaltung entfaltet.
Die folgenden Muster beschreiben deshalb keine starren Systemklassen, sondern idealtypische Formen agentischen Handelns in der Verwaltung. Ein konkretes System kann mehrere Muster verbinden oder je nach Verfahrensphase unterschiedliche Rollen einnehmen. Die Muster helfen aber dabei, wiederkehrende Einsatzformen zu unterscheiden und ihre jeweiligen Chancen und Risiken im Lichte der Kriterien demokratisch-rechtsstaatlicher Verwaltung zu bewerten.
Im Mittelpunkt steht jeweils die Leitfrage, welches Verwaltungsproblem der Agent adressiert. Daran anschließend werden Funktion, typisches Eigenschaftsprofil und ein kurzes Beispiel beschrieben. Die Einordnung von Chancen und Risiken zeigt, welchen Beitrag das jeweilige Muster zu guter demokratischer Verwaltung leisten kann und an welchen Stellen es diese gefährden kann.
Beispiel. Eine Person möchte ein kleines Café eröffnen, weiß aber nicht, welche Genehmigungen und Meldungen erforderlich sind. Der Orientierungsagent ordnet das Vorhaben möglichen Verwaltungspfaden zu und weist auf zuständige Stellen hin.
Leitfrage. Welches Verwaltungsverfahren oder welche Behörde kommt für mich als Bürger:in mit meinem Anliegen in Betracht?
Eigenschaften.
Selektive bis planende Autonomie (A2–A3),
keine bis lesende Berechtigung (B1–B2),
informierende oder unterstützende Wirkung (W1–W2),
bürgerseitige Rolle (R1).
Funktion. Unterstützt Personen dabei, eine Lebenslage, ein Vorhaben oder ein Problem einer möglichen Verwaltungsleistung, Zuständigkeit oder Verfahrensart zuzuordnen. Er setzt vor einem konkreten Antrag oder Verfahren an und übersetzt Lebenslagen in mögliche Verwaltungspfade.
Chancen. Stärkt vor allem Zugänglichkeit und Inklusion sowie Unterstützung bei der Inanspruchnahme von Rechten, weil er Lebenslagen, Vorhaben oder Probleme von Bürger:innen oder Unternehmen in mögliche Verwaltungsleistungen, Zuständigkeiten oder Verfahren übersetzt. Er kann Informationsasymmetrien abbauen und den Zugang weniger abhängig von Vorwissen, Sprache, digitaler Kompetenz oder persönlichen Netzwerken machen. Damit kann er auch Gleichbehandlung fördern, sofern er vergleichbare Anliegen verlässlich auf vergleichbare Verwaltungspfade verweist.
Risiken. Wenn der Agent bestimmte Lebenslagen, Sprachmuster, Familienformen, Behinderungen oder aufenthaltsrechtliche Konstellationen schlechter erkennt, kann er Zugänge zu Rechten gerade erschweren und bestehende Benachteiligungen verstärken. Zugleich kann er strukturelle Unübersichtlichkeit verdecken, statt sie zu beseitigen. Da lebenslagenbezogene Orientierung häufig sensible Informationen voraussetzt, berührt das Muster außerdem Datenschutz und informationelle Selbstbestimmung.
Beispiel. Eine Familie beantragt Elterngeld. Der Antragsagent führt durch die erforderlichen Angaben, erklärt unklare Begriffe und ordnet vorhandene Nachweise den jeweiligen Formularfeldern zu.
Leitfrage. Wie bringe ich mein Anliegen verfahrensfähig in die Verwaltung?
Eigenschaften.
Selektive bis planende Autonomie (A2–A3),
lesende oder schreibende Berechtigung (B2–B3),
unterstützende oder vorbereitende Wirkung (W2–W3),
bürgerseitige, verwaltungsseitige oder vermittelnde Rolle (R1–R3).
Funktion. Unterstützt Personen dabei, ein identifiziertes Verwaltungsverfahren einzuleiten, indem er erforderliche Angaben, Nachweise und Erklärungen ermittelt, strukturiert und in eine antragsfähige Form überführt.
Chancen. Stärkt vor allem die Unterstützung bei der Inanspruchnahme von Rechten sowie Zugänglichkeit und Einzelfallgerechtigkeit, weil er die für ein Verfahren erforderlichen Angaben, Nachweise und Erklärungen verständlich erschließt und in eine antragsfähige Form bringt. Er kann Mitwirkungslasten senken, unvollständige oder missverständliche Anträge vermeiden und dazu beitragen, dass der individuelle Sachverhalt vollständiger und präziser erhoben wird. Dadurch kann er auch Gleichbehandlung und Nichtdiskriminierung fördern, wenn vergleichbare Fälle mit Hilfe des Agenten zu vergleichbaren Anträgen führen und besondere Unterstützungsbedarfe angemessen berücksichtigt werden, etwa Sprache, Behinderung, geringe Verwaltungserfahrung oder komplexe Familien und Einkommenssituationen.
Risiken. Das zentrale Risiko liegt in fehlerhafter oder verzerrender Antragsvorbereitung. Wenn der Agent Angaben falsch einordnet, Nachweise unzutreffend bewertet oder rechtliche Begriffe zu stark vereinfacht, kann dies Einzelfallgerechtigkeit, Gesetzmäßigkeit und spätere Überprüfbarkeit beeinträchtigen. Zudem darf die Verantwortung für die Richtigkeit des Antrags nicht faktisch vom Menschen auf das System verschoben werden. Antragstellende müssen verstehen, welche Angaben übermittelt werden und welche rechtliche Bedeutung sie haben. Auch hier besteht ein Diskriminierungsrisiko, wenn bestimmte Lebenslagen, Sprachmuster oder Nachweisformen schlechter verarbeitet werden. Schließlich darf der Antragsagent schlechte Formulare und unnötige Mitwirkungslasten nicht verdecken oder ihre Überarbeitung ersetzen.
Beispiel. In einem Baugenehmigungsverfahren zeigt der Verfahrensagent den aktuellen Bearbeitungsstand, erinnert an laufende Fristen und bereitet die Antwort auf eine Nachforderung vor.
Leitfrage. Wo steht mein Verfahren und was ist als Nächstes zu tun?
Eigenschaften.
Selektive bis planende Autonomie (A2–A3),
lesende oder schreibende Berechtigung (B2–B3),
unterstützende oder vorbereitende Wirkung (W2–W3),
bürgerseitige, verwaltungsseitige oder vermittelnde Rolle (R1–R3).
Funktion. Begleitet ein bereits laufendes Verwaltungsverfahren, indem er Verfahrensstand, Fristen, Mitwirkungspflichten, Nachforderungen und nächste Schritte strukturiert. Sein Fokus liegt auf Ablauf, Status und prozeduraler Handlungsfähigkeit innerhalb eines einzelnen Verfahrens.
Chancen. Stärkt Transparenz sowie Unterstützung bei der Inanspruchnahme von Rechten, weil er sichtbar macht, wo ein Verfahren steht, welche Fristen laufen und welche nächsten Schritte erforderlich sind. Er kann verhindern, dass Verfahren an unklaren Zuständigkeiten, versäumten Mitwirkungshandlungen oder intransparenten Nachforderungen scheitern. Dadurch kann er auch Gleichbehandlung fördern, wenn vergleichbare Verfahren nach vergleichbaren Ablaufregeln begleitet werden und der Verfahrensfortschritt weniger von individueller Verwaltungserfahrung, Erreichbarkeit oder Durchsetzungsfähigkeit abhängt.
Risiken. Das zentrale Risiko liegt in einer faktischen Steuerung des Verfahrens ohne klare Verantwortung. Wenn der Agent nächste Schritte vorbereitet, priorisiert oder Nachforderungen strukturiert, kann sein Handeln den weiteren Verfahrensverlauf prägen, obwohl die Entscheidung weiterhin bei der zuständigen Stelle liegen muss. Fehlerhafte Fristenhinweise, unvollständige Statusinformationen oder missverständliche Mitwirkungsaufforderungen können Zugang, Einzelfallgerechtigkeit und Rechtsschutz beeinträchtigen. Je stärker der Agent verfahrensvorbereitend wirkt, desto wichtiger werden Nachvollziehbarkeit, Begründbarkeit und klare Zurechnung seiner Handlung.
Beispiel. Nach einem BAföG-Bescheid erläutert der Kommunikationsagent die tragenden Gründe, übersetzt rechtliche Begriffe in verständliche Sprache und weist auf Fristen sowie mögliche nächste Schritte hin.
Leitfrage. Wie wird Verwaltungshandeln verständlich und adressatengerecht kommuniziert?
Eigenschaften.
Reaktive bis planende Autonomie (A1–A3),
lesende oder schreibende Berechtigung (B2–B3),
informierende bis vorbereitende Wirkung (W1–W3),
verwaltungsseitige oder vermittelnde Rolle (R2–R3).
Funktion. Unterstützt die Verständigung zwischen Verwaltung und Beteiligten, indem er behördliche Anforderungen, Rückfragen, Zwischennachrichten, Bescheide oder Handlungsoptionen adressatengerecht erläutert, übersetzt oder strukturiert. Sein Fokus liegt nicht auf der Steuerung des Verfahrensablaufs, sondern auf der Verständlichkeit und rechtlichen Einordnung von Kommunikation.
Chancen. Stärkt vor allem Transparenz, Nachvollziehbarkeit und Unterstützung bei der Inanspruchnahme von Rechten, weil er behördliche Anforderungen, Rückfragen, Bescheide und Handlungsoptionen adressatengerecht verständlich erklärt. Er kann dazu beitragen, dass Betroffene nicht nur formal informiert sind, sondern tatsächlich verstehen, was die Verwaltung von ihnen verlangt, warum eine Entscheidung getroffen wurde und welche Möglichkeiten ihnen offenstehen. Damit unterstützt er auch Rechtsschutz und Widerspruchsfähigkeit, weil Menschen Entscheidungen nur dann wirksam überprüfen oder angreifen können, wenn sie deren Gründe und Folgen nachvollziehen können.
Risiken. Das zentrale Risiko liegt in rechtlicher Verzerrung und unklarer Verbindlichkeit. Wenn der Agent behördliche Kommunikation vereinfacht, übersetzt oder zusammenfasst, kann er Bedeutungen verschieben, Anforderungen verkürzen oder eine Entscheidung anders erscheinen lassen, als sie rechtlich gemeint ist. Dadurch können Nachvollziehbarkeit, Rechtsschutz und Gesetzmäßigkeit beeinträchtigt werden. Für Betroffene muss deshalb klar bleiben, ob es sich um eine unverbindliche Erläuterung, eine Auskunft oder ein maßgebliches behördliches Dokument handelt. Außerdem darf der Kommunikationsagent bestehende Zugangskanäle nicht ersetzen, wenn dadurch Menschen ausgeschlossen werden, die auf persönliche, telefonische oder schriftliche Kommunikation angewiesen sind.
Beispiel. Bei einer Unternehmensgründung koordiniert der Orchestrierungsagent die Anschlussprozesse zwischen Gewerbeamt, Finanzamt, Berufsgenossenschaft und Kammer.
Leitfrage. Wie werden mehrere Verfahren, Stellen oder Leistungssysteme koordiniert?
Eigenschaften.
Planende oder adaptive Autonomie (A3–A4),
schreibende oder transaktionale Berechtigung (B3–B4),
vorbereitende bis auslösende Wirkung (W3–W4),
vermittelnde oder koordinierende Rolle (R3–R4).
Funktion. Koordiniert Verwaltungsverfahren, Behörden, Leistungssysteme oder Datenräume miteinander. Er setzt dort an, wo ein Anliegen nicht innerhalb einer einzelnen Behörde bearbeitet werden kann, sondern Übergänge, Zuständigkeitswechsel, Vor- und Nachrangverhältnisse oder parallele Verfahren strukturiert werden müssen.
Chancen. Stärkt vor allem Zugänglichkeit, Unterstützung bei der Inanspruchnahme von Rechten und Einzelfallgerechtigkeit. Er kann verhindern, dass Anliegen an Zuständigkeitswechseln, parallelen Verfahren, mehrfachen Datenerhebungen oder unklaren Vor- und Nachrangverhältnissen scheitern. Dadurch kann er Gleichbehandlung fördern, wenn vergleichbare Übergänge nach vergleichbaren Regeln koordiniert werden und der Zugang zu Leistungen oder Genehmigungen weniger davon abhängt, ob Betroffene die institutionelle Fragmentierung selbst überblicken.
Risiken. Das zentrale Risiko liegt in Verantwortungsdiffusion und Kontrollverlust über behördenübergreifende Handlungsketten. Wenn der Agent Daten aus verschiedenen Kontexten zusammenführt, Schritte vorbereitet oder Anschlussverfahren auslöst, müssen Datenschutz, Zweckbindung, klare Zuständigkeiten und Nachvollziehbarkeit gesichert sein. Andernfalls wird schwer erkennbar, welche Stelle auf welcher Grundlage gehandelt hat und wer für Fehler einsteht. Orchestrierung darf deshalb nicht zur Black Box zwischen Behörden werden, in der Verantwortung, Rechtsschutz und informationelle Selbstbestimmung geschwächt werden.
Beispiel. Der Monitoringagent erkennt, dass bestimmte Nachweise in einer Behörde überdurchschnittlich häufig nachgefordert werden, und weist auf möglichen Verbesserungsbedarf im Formular oder in der Verwaltungspraxis hin.
Leitfrage. Wo zeigen sich im Verwaltungsvollzug systematische Auffälligkeiten?
Eigenschaften.
Planende oder adaptive Autonomie (A3–A4),
lesende Berechtigung auf aggregierte Daten (B2),
informierende oder unterstützende Wirkung (W1–W2),
verwaltungsseitige Rolle gegenüber der Behördenleitung (R2).
Funktion. Beobachtet Verwaltungsverfahren auf aggregierter Ebene, erkennt Muster, Abweichungen oder Qualitätsprobleme und unterstützt dadurch Steuerung, Qualitätssicherung und Rechtsaufsicht. Er greift nicht in ein einzelnes Verfahren ein, sondern macht strukturelle Probleme des Verwaltungsvollzugs sichtbar.
Chancen. Stärkt vor allem Gleichbehandlung und Gesetzmäßigkeit, weil er systematische Auffälligkeiten im Verwaltungsvollzug sichtbar macht, die im einzelnen Verfahren oft verborgen bleiben. Er kann zeigen, ob vergleichbare Fälle tatsächlich vergleichbar behandelt werden oder ob sich Abweichungen zwischen Stellen, Zeiträumen oder Entscheidungspraxen ergeben. Dadurch unterstützt er Qualitätssicherung, Rechtsaufsicht und die Verbesserung von Verfahren, ohne selbst in Einzelfallentscheidungen einzugreifen.
Risiken. Das zentrale Risiko liegt in der Vermischung von aggregierter Beobachtung und einzelfallbezogener Bewertung. Statistische Auffälligkeiten dürfen nicht zu Vorentscheidungen über einzelne Personen, Verfahren oder Mitarbeitende werden, weil diese Einzelfallgerechtigkeit, Datenschutz und Rechtsschutz beeinträchtigen können. Zudem kann ein Monitoringagent bestehende Verzerrungen verstärken, wenn die zugrunde liegenden Daten oder Vergleichsmaßstäbe bereits diskriminierende Muster enthalten. Gegenüber Beschäftigten besteht außerdem das Risiko, dass Qualitätssicherung in individuelle Leistungskontrolle umschlägt.
Das Wohngeldverfahren macht zentrale Spannungen demokratisch-rechtsstaatlicher Verwaltung in verdichteter Form sichtbar. Formal handelt es sich um ein gebundenes Massenverfahren. Anspruch und Höhe des Wohngeldes ergeben sich aus gesetzlichen Voraussetzungen und einer Berechnungsformel. Praktisch ist das Verfahren jedoch durch Unsicherheit, Nachweisanforderungen, Medienbrüche, lange Bearbeitungszeiten und Schnittstellen zu anderen Sozialleistungen geprägt. Antragstellende müssen zunächst erkennen, dass Wohngeld für sie überhaupt in Betracht kommt. Sie müssen komplexe Angaben machen und Nachweise beschaffen. In der Praxis wird kaum ein Wohngeldantrag vollständig und korrekt eingereicht. Die Wohngeldbehörde muss daher Nachforderungen stellen und Rückfragen der Antragstellenden klären. Die Antragstellenden müssen dann wiederum den Bearbeitungsstand abwarten und schließlich einen Bescheid einordnen, dessen Berechnung für viele kaum nachvollziehbar ist.
Im Folgenden wollen wir skizzieren, an welchen Stellen in diesem Prozess agentische Systeme einen relevanten Mehrwert für demokratisch verfasstes Verwaltungshandeln erzeugen können. Die in Kapitel 4 beschriebenen Muster agentischen Handelns dienen dabei als Prüfraster. Sie machen sichtbar, welche Funktion ein Agent im Verfahren übernimmt, welche Entlastung dadurch entstehen kann und an welchen Stellen Verantwortung, Nachvollziehbarkeit und Rechtsschutz besonders zu sichern sind. [Grafik: Wohngeldprozess]
Viele Anspruchsberechtigte wissen nicht, ob Wohngeld für sie in Betracht kommt, ob andere Leistungen vorrangig sind oder ob ihre Lebenslage überhaupt in das Formularraster passt. Damit ist der Zugang zu einer Sozialleistung von Vorwissen, sprachlicher und digitaler Kompetenz sowie von informellen Netzwerken abhängig.
Ein Orientierungsagent setzt an dieser Stelle an. Sein Ausgangspunkt ist nicht eine bereits benannte Verwaltungsleistung, sondern die konkrete Lebenslage. Wohnsituation, Haushalt, Einkommen, Ausbildung, Erwerbstätigkeit und besondere Belastungen werden so erschlossen, dass mögliche Verwaltungspfade sichtbar werden. Diese Informationen können durch die Nutzenden selbst eingegeben werden oder, soweit sie bereits digital vorliegen, unter ihrer Kontrolle aus Nachweisen etwa in einer EUDI-Wallet nutzbar gemacht werden.
Im Wohngeldkontext kann der Orientierungsagent erklären, welche Leistungen angesichts der konkreten Lebenssituation in Betracht kommen können, ob bspw. Wohngeld, Kinderzuschlag, Bürgergeld, Grundsicherung oder BAföG näher zu prüfen sind. Sein Beitrag liegt nicht in einer verbindlichen Anspruchsentscheidung, sondern in der Übersetzung einer Lebenslage in mögliche Leistungswege. Gerade bei Lebenslagen, die mit Scham, Unsicherheit, Sprachbarrieren, komplexen Familien- und Einkommenssituationen verbunden sind, kann er Teilhabe sichern.
Der Mehrwert für demokratisch-rechtsstaatliches Verwaltungshandeln liegt darin, Informations-asymmetrien abzubauen und den Zugang zu Leistungen weniger abhängig von Vorwissen, Sprache, Durchsetzungsfähigkeit oder persönlichen Netzwerken zu machen.
Dieser Mehrwert kehrt sich jedoch um, wenn der Agent bestimmte Lebenslagen, Sprachmuster, Familienformen, Behinderungen oder aufenthaltsrechtliche Konstellationen schlechter erkennt und dadurch bestehende Benachteiligungen verstärkt. Zugleich verarbeitet der Orientierungsagent eine Vielzahl teils sensibler Informationen über die Lebenslage der Nutzenden, etwa zu Einkommen und Vermögen oder zur Familiensituation. Datenschutz, Zweckbindung und Kontrolle über die verwendeten Daten sind deshalb bereits in der Orientierung zentral. Auch darf der Orientierungsagent keine Rechtssicherheit vortäuschen, wo nur eine erste Einordnung möglich ist. Er muss deutlich machen, welchen Grad an Sicherheit seine Auskunft hat, welche Angaben unsicher sind, welche Leistung zu prüfen ist und wann menschliche Beratung erforderlich bleibt.
Die Beantragung von Wohngeld besteht aus mehr als nur dem Ausfüllen eines Formulars. Antragstellende müssen verstehen, welche Angaben rechtlich relevant sind, welche Nachweise erforderlich sind und welche Informationen gerade nicht benötigt werden. Die Praxis zeigt, dass gerade unklare, komplexe Nachweisanforderungen sowohl Antragstellende als auch Wohngeldstellen belasten. So werden Anträge oft unvollständig, mit falschen Nachweisen oder mit unnötig vielen sensiblen Informationen eingereicht.
Ein Antragsagent sollte deshalb im Wohngeldprozess dabei unterstützen, aus der individuellen Lebenslage eine antragsfähige Sachverhaltsdarstellung zu machen. Er kann erklären, welche Haushaltsmitglieder anzugeben sind, wie Einkommen zu erfassen ist, welche Wohnkosten relevant sind und welche Nachweise im konkreten Fall erforderlich sind. Er kann außerdem verhindern, dass Antragstellende mehr Daten offenlegen, als für die Entscheidung benötigt werden.
Damit unterstützt der Agent bei der Inanspruchnahme von Rechten und stärkt Einzelfallgerechtigkeit sowie Zugänglichkeit. Ein vollständiger Antrag verbessert die Entscheidungsgrundlage der Behörde. Eine fallbezogene Nachweisführung senkt Mitwirkungslasten und schützt vor übermäßiger Datenerhebung. Zugleich kann der Agent Gleichbehandlung fördern, wenn vergleichbare Sachverhalte vergleichbar dokumentiert und besondere Unterstützungsbedarfe angemessen berücksichtigt werden. Besonders wirksam wird der Agent, wenn er verifizierte Daten aus Registern oder Wallets einbinden kann, ohne dass Antragstellende dieselben Informationen mehrfach beschaffen und übermitteln müssen.
Wichtig bleibt gleichzeitig, dass der Antrag weiterhin eine Erklärung der antragstellenden Person darstellt. Der Agent darf Angaben strukturieren, erläutern und vorbereiten, aber er darf sie nicht ohne Zustimmung des Antragstellenden verändern oder rechtlich optimieren. Vor der Übermittlung muss den Antragstellenden klar sein, welche Angaben gemacht werden, welche Nachweise beigefügt sind und welche Bedeutung sie für das Verfahren haben.
Der Mehrwert für demokratisch-rechtsstaatliches Verwaltungshandeln kehrt sich um, wenn der Agent Angaben falsch einordnet, Nachweise unzutreffend bewertet oder rechtliche Begriffe so vereinfacht, dass der Sachverhalt verzerrt wird. Auch dürfen bestimmte Lebenslagen, Sprachmuster oder Nachweisformen nicht schlechter verarbeitet werden als andere. Schließlich entbindet ein Antragsagent nicht von der Verpflichtung, das Antragsverfahren bürger:innenfreundlich zu gestalten, bspw. Formulare verständlich aufzubauen oder unnötige Nachweispflichten abzubauen. Wo wiederkehrend dieselben Unklarheiten auftreten (die der Monitoringagent identifizieren kann, s. u.), muss nicht nur der Agent besser erklären, sondern das Verfahren selbst verbessert werden.
Nach der Antragstellung beginnt für beide Seiten eine kritische Phase. Antragstellende wissen häufig nicht, ob Antrag und Nachweise eingegangen sind, ob mit der Bearbeitung begonnen wurde und was als Nächstes von ihnen erwartet wird. In der Wohngeldstelle müssen zugleich Angaben und Nachweise auf Vollständigkeit, Plausibilität und rechtliche Relevanz geprüft, Daten in Fachverfahren übernommen und offene Fragen für die weitere Bearbeitung geklärt werden. Verzögerungen und unklare Nachforderungen können in dieser Phase eine ohnehin angespannte finanzielle Lage verschärfen.
Ein Verfahrensagent kann diese Phase auf zwei Seiten unterstützen. Bürgerseitig wirkt er als Verfahrensbegleiter. Er nutzt die für Antragstellende freigegebenen Informationen zum Verfahrensstand und macht sichtbar, was eingegangen ist, was fehlt, welche Fristen laufen und welche Mitwirkungsschritte anstehen. Verwaltungsseitig kann er als Bearbeitungsassistenz im Fachverfahren oder in der elektronischen Akte eingesetzt werden:
Beim bürgerseitigen und verwaltungsseitigen Verfahrensagenten handelt es sich nicht zwingend um dasselbe System. Beide Einsatzformen folgen aber derselben Grundlogik. Sie strukturieren ein laufendes Verfahren und machen erkennbar, wo es steht und was als Nächstes zu tun ist.
Sein demokratischer Beitrag liegt in Transparenz und Nachvollziehbarkeit, Unterstützung bei der Inanspruchnahme von Rechten, Einzelfallgerechtigkeit und Benachteiligungsverbot. Antragstellende können gezielter mitwirken, wenn sie den Verfahrensstand kennen, Nachforderungen verstehen und erkennen können, welche Schritte noch erforderlich sind. Zugleich wird der Verfahrensfortschritt weniger davon abhängig, ob jemand Verwaltungserfahrung, gute Erreichbarkeit oder besondere Durchsetzungsfähigkeit mitbringt. Verwaltungsseitig kann der Agent dazu beitragen, dass Sachverhalte vollständiger, konsistenter und vergleichbarer geprüft werden. Dadurch unterstützt er eine gleichmäßigere und einzelfallgerechtere Bearbeitung, ohne die Entscheidung der zuständigen Stelle zu ersetzen.
Die Grenze liegt dort, wo verfahrensbegleitende oder bearbeitungsunterstützende Hinweise faktisch den weiteren Verlauf des Verfahrens steuern. Wenn der Agent Nachforderungen priorisiert, Fristen erläutert, Plausibilitätshinweise gibt oder nächste Schritte vorbereitet, muss nachvollziehbar bleiben, ob diese Hinweise automatisch erzeugt oder von der zuständigen Stelle geprüft wurden. Fehlerhafte Statusinformationen, missverständliche Mitwirkungsaufforderungen oder unzutreffende Fristenhinweise können den Zugang zur Leistung, die Einzelfallgerechtigkeit und den Rechtsschutz beeinträchtigen. Je näher der Agent an der behördlichen Bewertung oder an ermessensnahen Verfahrensfragen arbeitet, desto wichtiger werden klare Zurechnung, Begründbarkeit und Korrekturmöglichkeiten.
Ein Bescheid ist rechtlich maßgeblich, aber für viele Antragstellende schwer verständlich. Das betrifft neben der Sprache auch die Nachvollziehbarkeit der Berechnung, die Bedeutung einzelner Angaben und die Frage, welche Handlungsoptionen nach einer Bewilligung, Ablehnung oder Rückforderung bestehen. Diese Verständlichkeit ist wichtig für den Rechtsschutz, weil Betroffene eine Entscheidung nur dann wirksam überprüfen können, wenn sie deren Grundlagen verstehen.
Ein Kommunikationsagent kann behördliche Mitteilungen adressatengerecht erläutern. Im Wohngeldverfahren kann er erklären, welche Daten in die Berechnung eingeflossen sind, warum bestimmte Einnahmen berücksichtigt wurden, weshalb eine Rückforderung gestellt wird oder welche Fristen für Widerspruch und Änderungsmitteilungen gelten. Er kann juristische Begriffe in verständliche Sprache übertragen und dabei unterschiedliche Sprachniveaus oder Übersetzungsbedarfe berücksichtigen.
Er stärkt damit die Nachvollziehbarkeit des Verwaltungshandelns und unterstützt bei der Inanspruchnahme von Rechten. Eine verständliche Erklärung kann helfen, zwischen einem fehlerhaften Bescheid, einem missverstandenen Bescheid und einer rechtlich richtigen, aber enttäuschenden Entscheidung zu unterscheiden.
Der Kommunikationsagent darf dabei allerdings nicht den eigentlichen Bescheid ersetzen. Er darf dessen Inhalt auch nicht verkürzen, umdeuten oder beschönigen. Für Betroffene muss klar bleiben, was die rechtlich maßgebliche Entscheidung ist und was nur eine erläuternde Unterstützung darstellt. Zudem darf der Agent persönliche, telefonische oder schriftliche Kommunikation nicht verdrängen, wenn Menschen auf diese Zugänge angewiesen sind.
Im Wohngeldverfahren bestehen häufig Bezüge zu Bürgergeld, Grundsicherung, Kinderzuschlag, Bildungs- und Teilhabeleistungen oder BAföG. Dabei entstehen besondere Belastungen, weil die komplexen Vor- und Nachrangigkeitsverhältnisse zwischen Leistungen für Laien schwer zu durchschauen sind. Zuständigkeiten wechseln und ähnliche Informationen von verschiedenen Behörden erneut abgefragt werden.
Ein Orchestrierungsagent setzt dort an, wo im Wohngeldverfahren erkennbar wird, dass ein Anliegen Bezüge zu anderen Leistungssystemen aufweist. Auslöser können Angaben im Antrag sein, etwa zu Einkommen, Ausbildung oder Haushaltszusammensetzung. Auch Änderungen während des Bewilligungszeitraums, etwa ein Jobverlust, ein Umzug oder der Wechsel in eine Ausbildung, können ihn aktivieren. Schließlich kann der Agent auch durch die Wohngeldstelle genutzt werden, wenn im Rahmen der Bearbeitung deutlich wird, dass eine andere Leistung einschlägig oder ergänzend zu prüfen ist.
In diesen Fällen übernimmt der Orchestrierungsagent eine koordinierende Rolle zwischen mehreren Behörden, Verfahren oder Leistungssystemen. Er entscheidet nicht über den Anspruch auf Bürgergeld, Kinderzuschlag oder BAföG. Er macht sichtbar, welcher nächste Verwaltungspfad in Betracht kommt, welche Stelle zuständig ist, welche Nachweise bereits vorliegen und welche Daten für einen Anschlussantrag erneut benötigt werden. Er kann Datenfreigaben vorbereiten, Mehrfachangaben reduzieren und Antragstellende dabei unterstützen, einen Übergang nicht als neuen, isolierten Verwaltungsprozess beginnen zu müssen.
Sein demokratischer Mehrwert liegt darin, institutionelle Fragmentierung nicht auf die Antragstellenden abzuwälzen und dadurch die Zugänglichkeit der Leistungen zu verbessern. Wer existenzsichernde Leistungen benötigt, sollte nicht erst die Architektur des Sozialstaats durchblicken müssen. Ein Orchestrierungsagent kann Übergänge verständlicher, schneller und weniger fehleranfällig machen. Er kann auch Gleichbehandlung fördern, wenn vergleichbare Übergänge nach vergleichbaren Regeln vorbereitet werden und der Zugang zu Leistungen weniger davon abhängt, ob Antragstellende Zuständigkeiten, Vor- und Nachrangverhältnisse oder parallele Verfahren selbst überblicken.
Gerade deshalb ist der Einsatz gleichzeitig besonders sensibel. Behördliche Koordination darf nicht zur Black Box werden. Zweckbindung, Einwilligung, Protokollierung, Zuständigkeit und Rechtsschutz müssen klar geregelt sein. Je stärker ein Agent Daten aus verschiedenen Kontexten zusammenführt, Schritte vorbereitet oder Anschlussverfahren auslöst, desto deutlicher muss erkennbar bleiben, welche Behörde auf welcher Grundlage handelt und wer für mögliche Fehler verantwortlich ist.
Manche Probleme des Wohngeldvollzugs in einer Behörde werden erst dann sichtbar, wenn viele Vorgänge gemeinsam betrachtet werden. Beispielsweise kann auffallen, dass bestimmte Nachweise besonders häufig fehlen, Anträge an ähnlichen Stellen abgebrochen werden, bestimmte Passagen in Bescheiden immer wieder Rückfragen auslösen, in bestimmten Verfahrensschritten lange Wartezeiten entstehen oder bestimmte Personengruppen besonders häufig einen ablehnenden Bescheid erhalten. Was in der einzelnen Sachbearbeitung wie eine Besonderheit des Falls erscheint, kann in der Gesamtschau auf strukturelle Schwächen des Verfahrens hinweisen.
Ein Monitoringagent setzt auf dieser Ebene an. Er beobachtet nicht den Einzelfall, sondern aggregierte Muster des Verwaltungsvollzugs. Damit wird er zu einem Instrument institutionellen Lernens. Wiederkehrende Nachforderungen können auf unklare Formulare oder übermäßige Nachweispflichten hinweisen. Häufige Rückfragen können ein Hinweis darauf sein, dass behördliche Kommunikation nicht verständlich genug ist. Auffällige Abbruchquoten können darauf hindeuten, dass ein digitaler Zugang bestimmte Lebenslagen, Sprachen oder Unterstützungsbedarfe schlechter erreicht. Der Mehrwert für demokratisch-rechtsstaatliches Verwaltungshandeln liegt deshalb in Gleichbehandlung, Gesetzmäßigkeit und Verbesserung des Vollzugs.
Dabei muss die strikte Trennung von aggregierter Beobachtung und einzelfallbezogener Bewertung gewahrt bleiben. Zweck der Analyse statistischer Auffälligkeiten muss die Verbesserung des Verfahrens sein und darf nicht in verdeckte Bewertung einzelner Personen umschlagen.
Das Wohngeldbeispiel zeigt, dass der wichtigste Einsatzbereich agentischer KI vor, neben und nach der Entscheidung liegt und nicht in der Entscheidung selbst. Agentische Systeme können Menschen in das richtige Verfahren führen, Anträge und Nachweise strukturieren, Verfahrensstände sichtbar machen, Entscheidungen verständlich erläutern, Übergänge zwischen Leistungssystemen koordinieren und strukturelle Vollzugsprobleme erkennbar machen.
Damit verschiebt sich der Blick auf agentische KI in der Verwaltung. Ihr demokratischer Mehrwert besteht nicht darin, Entscheidungsverantwortung auf agentische Systeme zu verlagern. Er besteht darin, die Bedingungen rechtmäßiger Verwaltung zu verbessern. Zugänglichkeit, Gleichbehandlung, Nachvollziehbarkeit und Unterstützung werden gestärkt, wenn Menschen ihre Rechte tatsächlich erkennen, wahrnehmen und überprüfen können. Es hilft den Sachbearbeiter:innen, rechtssichere Entscheidungen zu fällen, Gleichbehandlung zu gewährleisten und ihr Ermessen pflichtgemäß auszuüben. Voraussetzung dafür ist, dass klar bleibt, welche Stelle entscheidet, welche Handlung verbindlich ist und wie Betroffene eine Entscheidung überprüfen oder angreifen können.
Das Wohngeldbeispiel zeigt zugleich die Notwendigkeit auf, den Einsatz agentischer KI im Kontext einer institutionellen Umgestaltung anzugehen. Viele der oben benannten Herausforderungen wie schwer verständliche Bescheide oder fragmentierte Schnittstellen zu anderen Leistungen sind eigentlich Symptome für die Gestaltungsbedürftigkeit des Verfahrens. Ein Agent, der sie kompensiert, kann den Reformdruck mindern, statt die Reform zu ermöglichen. Der demokratische Mehrwert agentischer KI bemisst sich deshalb auch daran, ob sie strukturelle Verbesserungen anstößt oder ersetzt.
Die im Folgenden beschriebenen Prinzipien übersetzen die zuvor entwickelten Maßstäbe in konkrete Gestaltungsanforderungen an Hersteller, Behörden und Gesetzgeber. Sie beschreiben, was an agentischen Systemen gesichert sein muss, damit sie zu einer demokratischen Verwaltung beitragen, statt sie zu unterlaufen. Die Prinzipien ordnen sich zu sechs Gestaltungsfeldern.
Leitfrage. Ist agentische KI das richtige Mittel und steht die Eingriffstiefe im Verhältnis zum Nutzen?
Agentische KI eröffnet Gestaltungsspielräume, die dazu verleiten können, Systemen mehr Autonomie einzuräumen, als die Aufgabe tatsächlich erfordert. Mit jeder zusätzlichen Stufe steigen aber auch die Anforderungen an Verantwortung, Nachvollziehbarkeit, Datenschutz, Sicherheit, Begründbarkeit und menschliche Aufsicht. Verhältnismäßigkeit bedeutet deshalb nicht nur zu reflektieren, ob der Einsatz agentischer KI nützlich ist, sondern ob gerade diese Form, Reichweite und Berechtigung erforderlich und angemessen ist. Drei Prinzipien folgen daraus:
Leitfrage. Wer trägt die Entscheidung, wer haftet für Fehler?
Agentische KI vollzieht Handlungen, die Verwaltungsentscheidungen vorbereiten oder auslösen können. Damit entsteht die Frage, wer für diese Handlungen einsteht, gerade dann, wenn der Agent schneller, breiter oder systemübergreifender agiert als einzelne Sachbearbeitende. Verantwortung kann nicht an das System delegiert werden. Entscheidungen bleiben bei der Behörde, unabhängig vom Automationsgrad ihrer Vorbereitung. Je weiter ein Agent in die Wirkungsstufen W3 (vorbereitend) und W4 (auslösend) rückt, desto drängender wird die Frage, wie Zurechnung organisatorisch abgebildet wird. Drei Prinzipien folgen daraus:
Leitfrage. Ist der rechtliche Status des Agentenhandelns erkennbar?
Agentische KI kann Äußerungen, Hinweise oder Verfahrenshandlungen hervorbringen, die rechtlich unverbindlich sein sollen, für Betroffene aber wie amtliche Aussagen oder verbindliche Vorgaben wirken. Wenn ein Agent einen Bescheid erläutert, eine Frist erklärt oder nächste Schritte empfiehlt, kann der Eindruck entstehen, diese Erklärung sei selbst die maßgebliche behördliche Aussage. Ähnliches kann innerhalb der Verwaltung auftreten, wenn ein Agent im Fachverfahren einen Bearbeitungsvorschlag erzeugt, einen Prüfstatus setzt oder eine Nachforderung vorbereitet und für die Sachbearbeitung unklar bleibt, ob dies nur ein Vorschlag, eine interne Vorstrukturierung oder bereits ein verbindlicher Arbeitsschritt ist. Diese Dimension adressiert somit die Kluft zwischen technischer Wirkung und rechtlicher Qualifikation. Drei Prinzipien folgen daraus:
Leitfrage. Kann rekonstruiert werden, was das System getan hat und warum?
Nachvollziehbarkeit ist Voraussetzung dafür, dass agentisch unterstütztes Verwaltungshandeln überprüfbar bleibt. Betroffene, Sachbearbeitung, Aufsicht, Revision und Gerichte müssen später nachvollziehen können, wie eine verfahrensrelevante Handlung zustande gekommen ist. Das klassische Verwaltungsrecht sichert diese Überprüfbarkeit vor allem durch Aktenmäßigkeit, Begründungspflichten und die Dokumentation des Verwaltungshandelns. Agentische Systeme erweitern diese Anforderung, weil nicht nur das Ergebnis und seine Begründung, sondern auch der Weg dorthin prüfbar bleiben muss.
Das betrifft insbesondere die Daten, auf die der Agent zugegriffen hat, die Zwischenschritte, die er vorgenommen hat, die Empfehlungen oder Aktionen, die daraus entstanden sind, und die Systembedingungen, unter denen dies geschehen ist. Nachvollziehbarkeit bedeutet deshalb nicht nur technische Erklärbarkeit, sondern die Übersetzbarkeit agentischen Handelns in die Sprache des Verwaltungsverfahrens. Drei Prinzipien folgen daraus:
Leitfrage. Wer kontrolliert die Daten, die der Agent verarbeitet?
Agentische Systeme sind auf Kontext angewiesen. Je nach Einsatzmuster können sie personenbezogene Informationen aus unterschiedlichen Quellen einbeziehen, verknüpfen oder für weitere Handlungsschritte nutzbar machen. Datenhoheit fragt deshalb, wer über diese Daten verfügt, wer Zugriffe kontrolliert und ob der Agent den entstandenen Kontext über die konkrete Aufgabe hinaus nutzen darf. Drei Prinzipien folgen daraus:
Leitfrage. Dient der Einsatz agentischer KI zur Symptombekämpfung angesichts struktureller Defizite?
Der Einsatz agentischer KI sollte keinesfalls als Ersatz für notwendige organisatorische oder rechtliche Veränderungen dienen. Sonst wird er bestehende Mängel des Verfahrens bestenfalls übertünchen, schlimmstenfalls verstärken. Vielmehr sollte die Einführung agentischer KI Teil eines übergreifenden institutionellen Umgestaltungsprozesses sein. Zwei Prinzipien folgen daraus:
Die oben genannten Prinzipien machen deutlich: Die Gestaltung agentischer KI für eine demokratische Verwaltung erfordert das Zusammenspiel von Akteuren auf verschiedenen Ebenen Manche Prinzipien richten sich primär an Hersteller (Protokollierung, Begründbarkeit), andere primär an Behörden (Einbettung in Fachverfahren, Verbindlichkeitsklarheit nach außen, organisatorischer Reformvorrang), wieder andere an den Gesetzgeber (Zurechenbarkeit bei systemübergreifendem Handeln, Datenhoheit, rechtlicher Reformvorrang).
Welches Feld im Vordergrund steht, hängt vom Muster und der Verfahrensphase ab. Bei einem Orientierungsagenten ist Datenhoheit leitend, bei einem Kommunikationsagenten Verbindlichkeit, bei einem Orchestrierungsagenten Verantwortung und Nachvollziehbarkeit. Nicht jeder Einsatz erfordert alle Prinzipien in gleicher Schärfe, aber keines der Felder kann ganz ausgeblendet werden, ohne dass der Beitrag zur demokratischen Verwaltung gefährdet ist.
Eine Einsicht zieht sich durch die Prinzipien. Bestehende Fachverfahren mit ihren regelbasierten Nutzerschnittstellen können beim Einsatz agentischer KI als Kontrollinstrument in zwei Richtungen dienen. Für die Menschen im Verfahren bieten sie einen unabhängigen Kanal, über den das Handeln des Agenten nachvollziehbar und überprüfbar bleibt. Für den Agenten wirken sie als Leitplanke, die seine Aktionen an vorhandene Rollenrechte, Freigaben und Prüfpfade koppelt. Die Einbettung in bestehende Systeme begrenzt damit den Handlungsraum des Agenten und eröffnet zugleich einen belastbaren Pfad, sein Handeln zu überprüfen.
Die im letzten Kapitel entwickelten Gestaltungsprinzipien markieren die Anforderungen, die der Einsatz agentischer KI erfüllen muss, um demokratischer Verwaltung zu dienen. Das folgende Kapitel diskutiert, inwieweit diese Anforderungen im geltenden Recht bereits abgesichert sind und an welchen Stellen der bestehende Rechtsrahmen Lücken, Unschärfen oder Ergänzungsbedarf erkennen lässt.
Den gegenwärtigen Rechtsrahmen für agentische KI in der Verwaltung prägen vor allem drei Regelungskomplexe: das allgemeine Verwaltungsverfahrensrecht (VwVfG), das Datenschutzrecht (insbesondere die DSGVO) und der AI Act (Verordnung (EU) 2024/1689). Hinzu treten komplementäre Vorgaben aus dem Fachrecht, aus untergesetzlichen Regelwerken, sowie aus Beschaffungs- und Standardisierungsstrukturen. Die genannten Regelungskomplexe adressieren agentische KI aus unterschiedlichen, teilweise überlappenden Perspektiven: Das Verwaltungsverfahrensrecht ordnet sie in das behördliche Verfahren ein, die DSGVO regelt die Verarbeitung personenbezogener Daten und setzt insbesondere für ausschließlich automatisierte Entscheidungen zusätzliche Grenzen und Schutzanforderungen, der AI Act ergänzt dies durch eine risikobasierte Regulierung bestimmter KI-Systeme.
Das VwVfG regelt die verfahrensrechtlichen Anforderungen an Verwaltungshandeln. Diese Anforderungen gelten auch für Vorgänge, die durch agentische KI unterstützt werden. Zentral sind insbesondere die Begründungspflicht (§ 39 VwVfG), die Akteneinsicht (§ 29 VwVfG), die Anhörung Beteiligter (§ 28 VwVfG), der Untersuchungsgrundsatz (§ 24 VwVfG) sowie die pflichtgemäße Ermessensausübung (§ 40 VwVfG). Mit § 35a VwVfG besteht seit 2017 eine Regelung für den vollständig automatisierten Erlass von Verwaltungsakten. Sie steht unter einem doppelten Vorbehalt. Der automatisierte Erlass muss durch Rechtsvorschrift zugelassen sein, und es dürfen weder Ermessen noch Beurteilungsspielraum bestehen. Vollständig automatisierte Ermessensentscheidungen sind damit nach geltendem Verwaltungsverfahrensrecht grundsätzlich ausgeschlossen. Ergänzend stellt § 24 Abs. 1 Satz 3 VwVfG klar, dass auch bei Einsatz automatischer Einrichtungen für den Einzelfall bedeutsame tatsächliche Angaben der Beteiligten zu berücksichtigen sind. Begründungspflicht und Akteneinsicht gewinnen bei agentischen Systemen besondere Bedeutung, weil nicht nur die Entscheidung selbst, sondern auch entscheidungserhebliche Systembeiträge aktenfest dokumentiert werden müssen, damit die behördliche Willensbildung im Streitfall nachvollziehbar bleibt. Für bloß assistierende Systeme, die eine menschliche Entscheidung vorbereiten, enthält § 35a VwVfG keine Sonderregel. Insoweit gelten die allgemeinen Verfahrensgrundsätze. Im Sozialrecht werden diese durch das SGB X, insbesondere §§ 20, 21 und 24, konkretisiert.
Die DSGVO regelt den Einsatz agentischer Systeme in der Verwaltung aus datenschutzrechtlicher Perspektive. Sie erfasst zum einen die Verarbeitung personenbezogener Daten allgemein und begründet hierfür insbesondere Anforderungen an Rechtmäßigkeit, Zweckbindung, Datenminimierung und Transparenz (Art. 5, 6 DSGVO). Zum anderen enthält sie mit Art. 22 DSGVO eine besondere Regelung für ausschließlich automatisierte Entscheidungen mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung. Flankiert wird dies durch spezifische Informations- und Auskunftspflichten bei automatisierter Entscheidungsfindung, insbesondere zur „involvierten Logik“, also zur grundlegenden Funktionsweise des eingesetzten Systems, sowie zu Tragweite und angestrebten Auswirkungen der Verarbeitung (Art. 13–15 DSGVO, jeweils mit besonderen Vorgaben zu automatisierten Entscheidungen). Insoweit ergänzt sie § 35a VwVfG nicht nur reflexhaft, sondern eigenständig. Während § 35a VwVfG den vollautomatisierten Erlass von Verwaltungsakten verwaltungsverfahrensrechtlich nur unter engen Voraussetzungen zulässt, setzt Art. 22 DSGVO hierfür datenschutzrechtliche Grenzen und verlangt in den zugelassenen Fällen zusätzliche Garantien. Für bloß assistierende Systeme, die Entscheidungen vorbereiten, aber nicht selbst treffen, ist Art. 22 DSGVO regelmäßig nicht unmittelbar einschlägig. Maßgeblich bleiben dann die allgemeinen Datenschutzpflichten. Dazu gehören insbesondere angemessene technische und organisatorische Maßnahmen nach Art. 32 DSGVO sowie eine Datenschutz-Folgenabschätzung bei Verarbeitungen mit voraussichtlich hohem Risiko nach Art. 35 DSGVO. Für Sozialdaten wird dieser Rahmen durch § 35 SGB I sowie §§ 67 ff. und 69 SGB X ergänzt.
Der AI Act etabliert ein horizontales, risikobasiertes Regelwerk für KI-Systeme. Nach Anhang III Nr. 5 Buchst. a sind KI-Systeme hochriskant, wenn Behörden sie zur Bewertung, Gewährung, Kürzung, Rücknahme oder Rückforderung öffentlicher Unterstützungsleistungen einsetzen. Dann gelten insbesondere die Anforderungen der Art. 9 bis 15 AI Act. Für öffentliche Stellen als Betreiber kommen bei Anhang-III-Systemen zusätzlich die Grundrechte-Folgenabschätzung nach Art. 27 und Registrierungspflichten nach Art. 49 hinzu. Datenschutz-Folgenabschätzung und Grundrechte-Folgenabschätzung ergänzen sich; Art. 27 Abs. 4 regelt ihre Verzahnung ausdrücklich. Nach Art. 25 kann ein Betreiber bei wesentlicher Änderung oder Zweckänderung selbst zum Anbieter werden.
Ergänzt wird der beschriebene Rechtsrahmen durch fachrechtliche, untergesetzliche, sicherheitsrechtliche und beschaffungsbezogene Vorgaben. Fachgesetze wie das Wohngeldgesetz enthalten meist keine spezifischen KI-Regeln, begrenzen den Einsatz aber mittelbar über ihre materiellen und verfahrensrechtlichen Anforderungen. Hinzu kommen Leitlinien und Handreichungen von Bund und Ländern; für die Bundesverwaltung sind insbesondere die KI-Leitlinien des Bundes relevant. Zentrale sicherheitsrechtliche Bezugspunkte sind die BSI-Mindeststandards nach § 44 BSIG und der IT-Grundschutz. Ergänzend hat das BSI 2025 einen Kriterienkatalog für die Integration generativer KI-Modelle in Anwendungen der Bundesverwaltung veröffentlicht, der auch Prompt-Injection-Szenarien adressiert; für KI-basierte Cloud-Dienste kommt AIC4 hinzu. Auch Beschaffungsrecht und IT-Standardisierung – insbesondere Vorgaben des CIO Bund sowie föderale Standards im Umfeld von IT-Planungsrat und FITKO – beeinflussen maßgeblich, welche Lösungen Behörden praktisch einsetzen können. Ethik-Leitlinien und Selbstverpflichtungen haben demgegenüber vor allem ergänzende Steuerungsfunktion.
Das Zusammenspiel von Verwaltungsverfahrensrecht, Datenschutzrecht, AI Act und den komplementären Regelungsebenen trägt den Einsatz agentischer KI insbesondere dort weitgehend, wo diese wie klassische Datenverarbeitung oder Automatisierung in einem einzelnen Verfahren und innerhalb einer einzelnen Behörde eingesetzt wird. An seine Grenzen stößt dieses Gefüge bei mehrstufigen, dynamischen und behördenübergreifenden Handlungskonfigurationen. Die Lücken liegen daher weniger in einem generellen Regulierungsdefizit als in einer unvollständigen Passung des geltenden Rechts auf spezifische Formen agentischen Handelns.
Orchestrierung zwischen Behörden. Agenten, die Verfahren verbinden und Leistungsübergänge koordinieren erzeugen eine Handlungskonfiguration, die das klassische Verwaltungsrecht nur begrenzt abbildet. Begründungspflicht, Aktenführung und Verantwortungszurechnung sind primär auf das Handeln der jeweils entscheidenden Behörde zugeschnitten. Der AI Act regelt zwar Pflichten von Anbietern, Betreibern und weiteren Akteuren entlang der KI-Wertschöpfungskette, ist aber nicht spezifisch auf kooperative Mehr-Akteurs-Architekturen zwischen Behörden ausgerichtet. Auch die DSGVO bietet mit der gemeinsamen Verantwortlichkeit einen Anknüpfungspunkt, ist jedoch nicht auf dynamische Koordinationslagen zugeschnitten, in denen sich Verantwortungsanteile erst im laufenden Zusammenspiel mehrerer Stellen konkretisieren. Es fehlt daher eine belastbare Verantwortungsarchitektur für behördenübergreifendes agentisches Handeln: klare Zuständigkeiten für Teilhandlungen, eine Protokollierung des Handlungspfads über Behördengrenzen hinweg und datenschutzrechtliche Grundlagen, die leistungsbezogene Koordination ermöglichen, ohne das Sozialgeheimnis auszuhöhlen. Vieles lässt sich durch Verwaltungsvorschriften, Kooperationsvereinbarungen und technische Standards strukturieren; wo jedoch zusätzliche Datenübermittlungen, Zweckänderungen oder bereichsspezifische Freigaben nötig werden, bedarf es gesetzlicher Grundlagen. Die zentrale Herausforderung liegt dabei darin, dass die Handlungskette im Streitfall prozessual nachvollziehbar und gerichtsfest rekonstruierbar bleiben muss. Es muss erkennbar sein, welche Stelle zu welchem Zeitpunkt auf welcher Daten- und Systemgrundlage gehandelt hat.
Kommunikative Zwischenschichten. Wenn ein Agent einen Bescheid erläutert, ein Chatbot Verfahrensstände mitteilt oder ein System Rückfragen beantwortet, entsteht eine kommunikative Handlung, die rechtlich meist kein Verwaltungsakt ist, für Betroffene aber erhebliche Steuerungswirkung entfalten kann. Das geltende Recht kennt hierfür Anknüpfungspunkte, aber keine passgenaue Kategorie. § 25 VwVfG verpflichtet die Behörde zu Auskunft und Verfahrensunterstützung, ist aber nicht auf KI-vermittelte, interpretierende Kommunikationsschichten zugeschnitten. Der AI Act verlangt bei der Interaktion mit natürlichen Personen Transparenz über den KI-Einsatz, regelt damit aber nur dessen Erkennbarkeit, nicht die rechtliche Verbindlichkeit, inhaltliche Richtigkeit oder Maßgeblichkeit der Erklärung. Gerade hier liegt eine Regelungslücke: Zwischen formaler Entscheidung und bloßer Auskunft entsteht eine Zwischenschicht, die rechtlich unverbindlich sein soll, praktisch aber Verhaltenswirkungen auslösen kann. Fehlend sind vor allem Vorgaben zur Verbindlichkeitsklarheit, zur Richtigkeit und Konsistenz KI-generierter Erläuterungen, zu ihrer aktenfesten Dokumentation sowie zur Zurechnung von Kommunikationsfehlern. Diese Fragen sind nicht nur verwaltungsrechtlich, sondern auch rechtsschutz- und haftungsrechtlich relevant. Je stärker eine KI-generierte Erläuterung aus Sicht der Betroffenen als amtliche Auskunft erscheint, desto stärker stellen sich Fragen des Vertrauensschutzes, der Haftungszurechnung und der prozessualen Angreifbarkeit fehlerhafter Kommunikation.
Die Bestandsaufnahme zeigt, dass Verwaltungsverfahrensrecht, Datenschutzrecht und AI Act den Einsatz agentischer KI in klar umrissenen Einzelverfahren bereits weitgehend tragen. Wo ihre Steuerungswirkung nachlässt, liegt dies regelmäßig an der begrenzten Passung bestehender Normen auf vernetzte, adaptive und kommunikativ verdichtete Handlungskonfigurationen. Daraus folgen drei Leitlinien für regulatorische Nachschärfungen.
Mustergeleitet. Regulatorische Nachschärfungen sollten an den in Kapitel 6 entwickelten Gestaltungsfeldern ansetzen. Verantwortung, Nachvollziehbarkeit, Verbindlichkeit, Datenhoheit, Verhältnismäßigkeit und Reformvorrang bilden einen technikoffenen Maßstab dafür, was beim Einsatz agentischer KI gesichert werden muss. Gerade darin liegt ihr Vorteil gegenüber technikspezifischer Regulierung: Sie knüpfen nicht an einzelne Modellarchitekturen, Oberflächen oder Automatisierungsmodi an, sondern an die rechtlich relevante Wirkung im Verfahren. Ein solcher Zuschnitt bleibt auch dann tragfähig, wenn sich das technische Substrat verändert.
Wirkungsdifferenziert. Der AI Act koppelt seine Risikologik an Zweck und Wirkungsweise eines Systems. Diese Differenzierung ist sachgerecht, sie lässt aber Zonen unterhalb der Hochrisiko-Schwelle offen, in denen gleichwohl erhebliche verfahrenspraktische Wirkungen entstehen können. Ein System, das Ansprüche bewertet oder Leistungen zuteilt, wird anders behandelt als ein System, das Bescheide erläutert oder Verfahrenskommunikation übernimmt. Letzteres ist nicht ungeregelt: Transparenzpflichten für die Interaktion mit KI bestehen bereits. Unterreguliert bleiben jedoch insbesondere Verbindlichkeitsklarheit, Anforderungen an die Richtigkeit und Konsistenz KI-generierter Erläuterungen sowie Nachweise dafür, warum gerade ein bestimmter Grad an Autonomie, Reichweite oder Systemkopplung erforderlich ist. Für die Verwaltungspraxis spricht daher vieles für eine ergänzende Einsatzprüfung, die auch unterhalb der Hochrisiko-Schwelle ansetzt und nicht nur die abstrakte Systemkategorie, sondern die konkrete Wirkung im jeweiligen Verfahren berücksichtigt. Die entscheidende Zukunftsfrage lautet womöglich, ob agentisches Verwaltungshandeln aktenfest, revisionsfähig und gerichtsfest rekonstruiert werden kann. Dies gilt besonders dort, wo agentische Systeme Ermessens- oder Beurteilungsspielräume vorbereiten. Rechtlich entscheidend ist dann nicht nur, dass ein Mensch formal beteiligt bleibt, sondern dass seine Prüfung, Abweichung oder Übernahme des Systemvorschlags eigenständig begründbar und aktenkundig ist.
Mehrschichtig. Nicht jede regulatorische Antwort muss gesetzgeberisch erfolgen. Vieles lässt sich durch Verwaltungsvorschriften, Beschaffungsanforderungen, technische Mindeststandards, Protokollierungsanforderungen und standardisierte Qualitätssicherungsmechanismen steuern. Gesetzgeberisch erforderlich sind dagegen vor allem solche Nachschärfungen, die neue rechtliche Kategorien oder belastbare Eingriffs- und Übermittlungsgrundlagen schaffen müssen, etwa für kommunikative Zwischenschichten mit erheblicher Verhaltenswirkung, für bereichsspezifische Datenkoordination zwischen Sozialleistungsträgern oder für Erweiterungen des Verwaltungsverfahrensrechts bei behördenübergreifendem agentischem Handeln. Die Wahl des Instruments sollte dabei von der Struktur des jeweiligen Problems abhängen: Wo es um technische Beherrschbarkeit und organisatorische Einbettung geht, können untergesetzliche und operative Vorgaben ausreichen; wo es um Zuständigkeit, Datennutzung, Verbindlichkeit oder Grundrechtseingriffe geht, bleibt der Gesetzgeber gefordert.
Agentische KI ist für die öffentliche Verwaltung weder Heilsversprechen noch bloßes Risiko. Ihr Einsatz ist vor allem eine Frage von Governance und Rechtsschutz statt eine primär technologische. Maßgeblich ist daher welche Wirkung es im Verfahren entfaltet und ob diese Wirkung mit den Grundsätzen demokratischer Verwaltung vereinbar ist. Wie autonom ein System operiert, spielt eine untergeordnete Rolle. Entscheidend ist, ob agentische Systeme Zugang zu Leistungen verbessern, Unterstützung wirksamer machen, Verfahren nachvollziehbarer gestalten und Verantwortung, Verbindlichkeit und Datenhoheit sichern.
Die größten Potenziale agentischer KI liegen eher in Orientierung, Antrag, Kommunikation und den Übergängen zwischen Leistungen als in entscheidungsnahen Kernakten. Sinnvoll ein differenzierter Einsatz entlang von Mustern, Wirkungen und Kontrollstufen. Ob agentische KI einen Beitrag zu gutem Verwaltungshandeln leistet, hängt davon ab, welches Muster in welcher Verfahrensphase eingesetzt wird, welche praktische und rechtliche Wirkung es dort entfaltet und wie es in bestehende Verfahren, Zuständigkeiten und Kontrollstrukturen eingebettet ist.
Gute KI-Gestaltung ist deshalb immer auch Verwaltungsgestaltung. Wo unverständliche Formulare, fragmentierte Zuständigkeiten oder schlechte Schnittstellen das eigentliche Problem sind, liegt die bessere Lösung oft nicht in mehr KI, sondern in Verwaltungsvereinfachung. Wo agentische KI eingesetzt wird, sollte sie zudem in bestehende Fachverfahren und Nutzerschnittstellen eingebettet werden. Gerade in der Mensch-Maschine-Kollaboration liegt eine zentrale Bedingung demokratischer Verwaltungsqualität: Bestehende Nutzerschnittstellen, Rollenrechte, Freigaben und Prüfpfade liefern einen Kanal, über den menschliche Sachbearbeitung und Betroffene das Handeln des Systems nachvollziehen und überprüfen können.
Der bestehende Rechtsrahmen trägt diese Entwicklung bereits in wichtigen Teilen. Verwaltungsverfahrensrecht, Datenschutzrecht und AI Act erfassen zentrale Anforderungen agentischer Systeme schon heute, bleiben aber für mehrstufige agentische Schrittfolgen, kommunikative Zwischenschichten und behördenübergreifende Orchestrierung vielfach zu grob. Die Zukunftsfrage lautet daher nicht nur, ob agentisches Verwaltungshandeln zulässig ist, sondern ob es verantwortbar, überprüfbar und im Streitfall belastbar rekonstruierbar bleibt.
Der hier entwickelte Maßstab ist dabei bewusst pragmatisch. Er nimmt die gegenwärtigen Grundsätze demokratischer Verwaltung zum Ausgangspunkt und fragt, wie agentische KI innerhalb bestehender institutioneller und rechtlicher Strukturen zu besserem Verwaltungshandeln beitragen kann. Denkbar wäre auch ein radikalerer Zugriff, der agentische KI nicht nur als Mittel zur Verbesserung bestehender Verfahren, sondern als Anlass versteht, Verwaltung proaktiver, lebenslagenorientierter und stärker über Zuständigkeitsgrenzen hinweg radikal neu zu organisieren. Eine solche Perspektive wäre jedoch nicht ohne tiefgreifende Änderungen bestehender Demokratieauffassungen, Verantwortungsordnungen und gesetzlicher Grundlagen zu haben und würde ihrerseits neue Risiken für Transparenz, Zurechenbarkeit und demokratische Kontrolle erzeugen.
[1] Die Begriffe „handeln“, „entscheiden“, „verstehen“ und verwandte Ausdrücke werden im Folgenden in einem funktional-deskriptiven Sinne verwendet. Sie bezeichnen das operative Verhalten von KI-Agenten und sind nicht anthropomorphisierend zu verstehen; insbesondere implizieren sie keine Intentionalität, kein Bewusstsein und keine dem menschlichen Handeln entsprechende Akteursqualität
[2] Eine eindrucksvolle experimentelle Analyse der Risiken agentischer KI findet sich in (Shapira 2026).
BMDS Bundesministerium für Digitales und Staatsmodernisierung (2026). Agentic AI Hub: Agentische KI für die Kommunen, https://bmds.bund.de/themen/kuenstliche-intelligenz/ki-in-der-verwaltung/agentic-ai-hub
Ilves, L., et al. (2025). The Agentic State: Rethinking Government for the Era of Agentic AI
Liang, Z., et al. (2025). AI for the Next Generation of Public Services. In: The Next Great Divergence: Why AI May Widen Inequality Between Countries. UNDP/Institute for AI International Governance, Tsinghua University.
Mirsky, R. (2025). Artificial intelligent disobedience: Rethinking the agency of our artificial teammates. AI Magazine, 46(2):e70011. doi: https://doi.org/10.1002/aaai.70011.
OECD (2025). Governing with Artificial Intelligence: The State of Play and Way Forward in Core Government Functions, OECD Publishing, Paris, https://doi.org/10.1787/795de142-en.
OECD (2026). The agentic AI landscape and its conceptual foundations. OECD Artificial Intelligence Papers, No. 56, OECD Publishing, Paris, https://doi.org/10.1787/396cf758-en.
Regis, C., Martin-Bariteau, F., Adams, R., Bertrand, B., Effoduh, J. O., Parycek, P., Pereira de Souza, C. A. & Yoon, H. (2026). Regieren mit KI: Aufbau einer transformativen und resilienten öffentlichen Verwaltung. The Global Policy Briefs on AI, IVADO/AI + Society Initiative, Universität Ottawa. https://doi.org/10.20381/9e3q-ej79
Shapira, N. et al. (2026). Agents of Chaos. 10.13140/RG.2.2.12295.25767.
Staufer, L. et al. (2026). The 2025 AI Agent Index: Documenting Technical and Safety Features of Deployed Agentic AI Systems. arXiv. https://arxiv.org/pdf/2602.17753
Weber, M. (1980). Wirtschaft und Gesellschaft. Grundriss der verstehenden Soziologie (5., revidierte Aufl., J. Winckelmann, Hrsg.). Mohr Siebeck.
World Economic Forum & Capgemini (2026). Making Agentic AI Work for Government: A Readiness Framework. World Economic Forum. https://www.weforum.org
Dr. Florian Theißing
Innovation Lead – Digitales Regierungshandeln
Analyse und Kommentierung des Haushalts 2026 mit Fokus auf den Etat des Bundesministeriums für Digitales und Staatsmodernisierung (BMDS).
Dr. Stefan Heumann
Die Digitalagentur als Schaltstelle für die digitale Transformation der Bundesverwaltung.
Dr. Florian Theißing
Wohngeld digital gedacht. Sozialleistungen als Blaupause für eine nutzendenorientierte Verwaltungsmodernisierung.
Franziska Abt, Thilak Mahendran, Dr. Florian Theißing
Agora Digitale Transformation wird gefördert durch die
Wer sich für unsere Arbeit interessiert, kann sich hier für unseren Newsletter eintragen.