Sehr geehrte Frau Präsidentin, meine sehr geehrten Damen und Herren!
Mit der Beratung über Entwurf für ein Gesetz zur Anwendung künstlicher Intelligenz in der Verwaltung schreiben wir heute ein Stück Rechtsgeschichte. Es geht dabei um nichts weniger als um die Frage, wie unser demokratischer Rechtsstaat im Zeitalter von künstlicher Intelligenz funktioniert. Denn, wenn der Staat mit KI
arbeitet, also Entscheidungen trifft, Daten verarbeitet und Bescheide erlässt, dann braucht das nicht
nur Technik, sondern Vertrauen, und Vertrauen braucht Transparenz. Darum bringen wir heute einen
Gesetzentwurf ein, der Grundrechte sichert, Transparenz schafft und zugleich Innovation ermöglicht.
Es ist ein Versprechen, dass die Technik den Menschen dient und nicht umgekehrt;
denn das fehlt bislang. Die Landesregierung sagt, man brauche dafür kein Gesetz, ein paar Leitfäden
würden reichen. Ich halte das für eine Missachtung rechtsstaatlicher Prinzipien. Denn Artikel 20
Grundgesetz ist eindeutig: Staatliches Handeln braucht eine gesetzliche Grundlage. Das Verwaltungsverfahrensgesetz
regelt das in § 35a, der momentan der entscheidende ist, wann immer automatisierte
Datenverarbeitung in der Verwaltung zum Einsatz kommt. Automatisierte Verwaltungsakte sind nur
dann zulässig, wenn eine Rechtsvorschrift sie erlaubt.
Diese Vorschrift ist keine Einladung zur Technikeuphorie. Sie will Rechtssicherheit, Nachvollziehbarkeit,
demokratische Kontrolle. Denn, was passieren kann, wenn es keine Regeln gibt, zeigt das
Beispiel aus den Niederlanden. Dort wurde durch die Anwendung einer KI ohne Kontrollfunktion
Tausenden Familien zu Unrecht Sozialbetrug vorgeworfen. Menschen gerieten in Existenznot, und die
Regierung trat zurück. Das Vertrauen war zerstört. So etwas darf in Hessen nicht passieren.
Gleichzeitig dürfen wir nicht stehen bleiben. Unsere Verwaltung ist überlastet, Bürgerinnen und Bürger
warten auf Fördermittel, Bescheide oder Antworten. KI ist deshalb schon heute in der hessischen
Verwaltung im Einsatz, etwa bei der Grundsteuer oder bei der Steuerfahndung. Das ist richtig so. Aber
wenn KI hilft, dann doch bitte mit klaren Spielregeln. Dafür reicht § 35a Verwaltungsverfahrensgesetz
schlicht nicht mehr aus. Zwei Sätze reichen nicht, um die künstliche Intelligenz mit ihren massiven
Veränderungen und Möglichkeiten angemessen zu regulieren.
KI ist komplexer als nur Ja/Nein-Antworten. Der Europäische AI Act geht deshalb weiter. Er führt
vier Risikoklassen ein, von minimal bis unannehmbar, und fordert abgestufte Regelungen. Diese
differenzierte Logik fehlt uns im Verwaltungshandeln noch. Deshalb braucht es jetzt ein Landesgesetz,
das diesen europäischen Rahmen mit dem deutschen Verwaltungsrecht verknüpft.
Denn, während sich die Fähigkeiten von KI alle sechs Monate verdoppeln, braucht ein Gesetz oft
ein bis zwei Jahre vom Entwurf bis zur Umsetzung. Wer heute nicht handelt, überlässt morgen der
Technik das Feld. Mit unserem Gesetzentwurf wollen wir handeln.
Erstens. Er erlaubt den KI-Einsatz dort, wo er sinnvoll ist, auch bei Verwaltungsakten und bei standardisierbaren Ermessenserscheinungen. Es muss nicht mehr jede Anwendung einzeln gesetzlich
geregelt werden.
Zweitens. Er verpflichtet zu Transparenz. Jeder KI-Einsatz wird im Bescheid kenntlich gemacht und im
öffentlichen Transparenzregister dokumentiert, mit Zweck, Datenbasis und Funktionsweise.
Drittens. Er gibt Bürgerinnen und Bürgern das Recht, Entscheidungen überprüfen zu lassen. Mit der
sogenannten KI-Rüge kann jeder einen KI-basierten Entscheid kostenfrei von einem Menschen prüfen
lassen; denn am Ende muss immer ein Mensch für staatliches Handeln verantwortlich sein.
Das ist für mich praktischer Fortschritt.
Ich will es an einem Beispiel deutlich machen. Eine Erzieherin mit ausländischem Abschluss beantragt
die Anerkennung ihrer Qualifikation. Das dauert heute Monate, wenn nicht Jahre. Künftig hilft eine KI
dabei, alle Informationen schnell zu sortieren, Dokumente in Originalsprache zu prüfen und eine Entscheidung
vorzubereiten. So kommt der Bescheid schneller, und wir haben eine zusätzliche Erzieherin
in unseren Kitas. Die Betroffene kann erkennen, ob KI beteiligt war, kann das System im Register
nachschlagen und, wenn sie Zweifel an der Entscheidung hat, diese durch einen Menschen prüfen
lassen.
Wir wollen das regeln, was heute passiert, und auch das, was wir uns morgen noch nicht einmal
erträumen können, damit unsere Bürgerinnen und Bürger wissen, woran sie sind, damit unsere Verwaltung
Rechtssicherheit hat und damit wir als Gesetzgeber unserer Verantwortung gerecht werden.
Ich freue mich auf konstruktive Beratungen, hier und im Ausschuss. – Vielen Dank.