Seit August gelten neue Vorgaben des AI Act. Nun müssen Behörden KI transparent, rechtssicher und unter Beteiligung der Beschäftigten einsetzen.
Künstliche Intelligenz ist in der europäischen Verwaltung längst kein Zukunftsthema mehr. Automatisierte Systeme können große Datenmengen auswerten, Anträge vorsortieren, Beschäftigte bei Routineaufgaben unterstützen oder Bürgeranfragen schneller bearbeiten. Angesichts des Fachkräftemangels und steigender Anforderungen an staatliche Leistungen ist das Potenzial erheblich. Doch gerade dort, wo KI staatliche Entscheidungen vorbereitet oder beeinflusst, stellen sich besondere Anforderungen an Transparenz, Kontrolle und Verantwortung.
Mit dem AI Act hat die Europäische Union erstmals einen umfassenden Rechtsrahmen für den Einsatz Künstlicher Intelligenz geschaffen. Die Verordnung folgt einem risikobasierten Ansatz: Je größer die möglichen Auswirkungen eines KI-Systems auf Sicherheit und Grundrechte sind, desto strenger fallen die Anforderungen aus. Ziel ist es, den Einsatz menschenzentrierter und vertrauenswürdiger KI zu fördern, zugleich aber Bürgerinnen und Bürger vor schädlichen Folgen zu schützen. Die Regeln gelten ausdrücklich für den privaten wie für den öffentlichen Sektor.
Seit dem 2. August 2026 greift eine weitere wichtige Stufe der Verordnung. Die Europäische Kommission und die zuständigen nationalen Behörden haben mit der Durchsetzung zusätzlicher Vorschriften begonnen. Zugleich gelten neue Transparenzpflichten. Menschen müssen unter bestimmten Voraussetzungen erkennen können, wenn sie mit einem KI-System interagieren oder wenn Inhalte mithilfe von KI erzeugt oder verändert wurden.
Staatliches Handeln braucht besondere Maßstäbe
Für öffentliche Verwaltungen ist diese Entwicklung von besonderer Bedeutung. Der Staat handelt nicht wie ein beliebiger privater Anbieter. Seine Entscheidungen können darüber bestimmen, ob Leistungen gewährt, Bewerbungen berücksichtigt oder Zugänge zu öffentlichen Angeboten eröffnet werden. Bürgerinnen und Bürger müssen deshalb nachvollziehen können, auf welcher Grundlage eine Entscheidung getroffen wurde und welche Rolle ein KI-System dabei gespielt hat.
Der AI Act unterscheidet zwischen verschiedenen Risikostufen. Zu den besonders sensiblen Anwendungsfeldern gehören unter anderem bestimmte KI-Systeme in der Beschäftigung, der beruflichen Bildung, bei wesentlichen öffentlichen Leistungen sowie in Bereichen kritischer Infrastruktur. In solchen Fällen reichen allgemeine Hinweise auf den Einsatz von KI nicht aus. Erforderlich sind klare Verantwortlichkeiten, eine geeignete menschliche Aufsicht und ein wirksames Risikomanagement.
Für die Verwaltung bedeutet das: KI kann Entscheidungen unterstützen, darf aber nicht zu einer Blackbox werden. Die Verantwortung für staatliches Handeln darf weder an einen Algorithmus noch an einen externen IT-Dienstleister ausgelagert werden. Am Ende muss nachvollziehbar bleiben, wer eine Entscheidung getroffen hat, welche Daten verwendet wurden und wie Betroffene ihre Rechte geltend machen können.
Beschäftigte nicht zu bloßen Anwendern machen
Ob der Einsatz von KI gelingt, entscheidet sich nicht allein an der Qualität der Technik. Entscheidend sind die Menschen, die mit den Systemen arbeiten. Beschäftigte müssen verstehen können, was ein KI-System leistet, wo seine Grenzen liegen und wann ein Ergebnis überprüft werden muss. Dafür braucht es systematische Qualifizierung, ausreichend Zeit für Schulungen und klare organisatorische Regeln.
Zugleich verändert KI Arbeitsabläufe. Sie kann Beschäftigte von wiederkehrenden Tätigkeiten entlasten und Freiräume für anspruchsvollere Aufgaben schaffen. Sie kann aber auch neue Kontrollmöglichkeiten eröffnen oder zu einer schleichenden Verlagerung menschlicher Entscheidungsspielräume führen. Besonders kritisch wäre ein Einsatz von KI zur Bewertung von Leistung oder Verhalten, wenn Kriterien und Funktionsweise für die Betroffenen nicht nachvollziehbar sind.
Deshalb müssen Personalvertretungen frühzeitig eingebunden werden. Beteiligung darf nicht erst stattfinden, wenn ein System bereits beschafft und technisch eingerichtet ist. Sie muss bei der Bedarfsprüfung beginnen und die Auswahl, Erprobung, Einführung und fortlaufende Kontrolle begleiten. Mitbestimmung ist dabei kein Hindernis für Innovation, sondern eine Voraussetzung für Akzeptanz, Rechtssicherheit und praxistaugliche Lösungen.
Europäische Regeln treffen auf deutsche Umsetzungsprobleme
Der europäische Rechtsrahmen allein garantiert noch keine erfolgreiche Anwendung. Gerade in Deutschland trifft er auf eine fragmentierte IT-Landschaft, unterschiedliche Zuständigkeiten und erhebliche personelle Engpässe. Viele Verwaltungen stehen bereits bei der allgemeinen Digitalisierung vor großen Herausforderungen. Zusätzliche Prüf-, Dokumentations- und Kontrollpflichten können nur erfüllt werden, wenn dafür ausreichende Kompetenzen und Ressourcen vorhanden sind.
Der dbb hat deshalb in seiner Entschließung zur Modernisierung der öffentlichen Verwaltung und zur EU-Digitalisierungspolitik gefordert, den Einsatz von KI transparent, rechtsstaatlich und unter Wahrung der Beschäftigtenrechte zu gestalten. Ebenso notwendig sind klare und handhabbare Leitlinien für den öffentlichen Sektor, die systematische Einbindung der Beschäftigten sowie ausreichende Mittel für Personal, IT-Infrastruktur und Cybersicherheit.
Diese Anforderungen werden nun dringlicher. Behörden benötigen eine verlässliche Orientierung, welche Systeme unter welche Kategorie des AI Act fallen, wer für ihre Prüfung verantwortlich ist und welche Dokumentations- und Informationspflichten erfüllt werden müssen. Kleine Kommunen und nachgeordnete Behörden dürfen mit diesen Fragen nicht allein gelassen werden. Nicht jede öffentliche Stelle kann eigene juristische, technische und ethische Prüfstrukturen aufbauen.
Erforderlich sind deshalb gemeinsame Standards, zentrale Beratungsangebote und praxistaugliche Musterlösungen. Ebenso wichtig sind sichere Testumgebungen, in denen neue Anwendungen erprobt werden können, bevor sie in sensiblen Verwaltungsverfahren zum Einsatz kommen. Der dbb spricht sich bereits dafür aus, digitale Reallabore und Modellprojekte stärker zu fördern.
Vertrauen entsteht nicht durch Technik allein
Der AI Act setzt einen wichtigen Rahmen, weil er Innovation und Grundrechtsschutz nicht als Gegensätze behandelt. Für den öffentlichen Dienst wird jedoch entscheidend sein, wie diese Vorgaben praktisch umgesetzt werden. Ein KI-System kann nur dann zu einer besseren Verwaltung beitragen, wenn es nachvollziehbar arbeitet, Beschäftigte unterstützt und die Rechte der Bürgerinnen und Bürger wahrt.
Dafür braucht es mehr als neue Software. Notwendig sind klare Zuständigkeiten, qualifiziertes Personal, wirksame Mitbestimmung und eine dauerhaft gesicherte Finanzierung. Auch Datenschutz, IT-Sicherheit und digitale Souveränität müssen von Beginn an berücksichtigt werden. Europäische Standards, offene Schnittstellen und möglichst unabhängige technische Lösungen können dazu beitragen, neue Abhängigkeiten zu vermeiden. Diese Punkte hat der dbb bereits als zentrale Voraussetzungen einer zukunftsfähigen Verwaltungsmodernisierung benannt.
Die europäischen Regeln treten damit in eine neue Phase ein: Aus politischen Leitlinien werden konkrete Anforderungen für den Verwaltungsalltag. Die entscheidende Frage lautet nicht mehr, ob Künstliche Intelligenz im öffentlichen Dienst eingesetzt wird. Entscheidend ist, unter welchen Bedingungen dies geschieht.
Der AI Act bietet die Chance, verbindliche Leitplanken für einen verantwortungsvollen Einsatz zu schaffen. Diese Chance darf jedoch nicht dadurch verspielt werden, dass Behörden zwar neue Pflichten erhalten, aber nicht über das nötige Personal, Wissen und die erforderliche technische Ausstattung verfügen. Rechtssichere und vertrauenswürdige KI braucht nicht nur Regulierung. Sie braucht einen handlungsfähigen öffentlichen Dienst.
Wesentliche redaktionelle Verbesserungen
Der Entwurf setzt auf einen konkreten aktuellen Anlass statt auf eine allgemeine Darstellung von KI. Die Argumentation führt von den europäischen Vorgaben über die Besonderheiten staatlicher Entscheidungen zu den dbb-Kernforderungen: menschliche Verantwortung, Beschäftigtenbeteiligung, Qualifizierung, klare Zuständigkeiten und ausreichende Ressourcen. Der Ton bleibt gegenüber der EU-Regulierung sachlich, benennt aber deutlich die Gefahr einer unzureichend vorbereiteten Umsetzung.