„KI“ in der Verwaltung
Die Digitalisierung von Verwaltungsabläufen bietet das Potential, Prozesse effizienter zu gestalten. Im Hinblick auf Bürgerfreundlichkeit und Arbeitskräftemangel wollen öffentliche Verwaltungen zeitnah auf digitale Lösungen setzen. Der Einsatz von künstlicher Intelligenz (KI) steigert dabei nochmals die Möglichkeiten, Mitarbeiterinnen und Mitarbeiter zu entlasten und Verfahren zu beschleunigen. Geltende und zu erwartende rechtlichen Grenzen sind dabei aber zu beachten.
Studie zu den rechtlichen Grundlagen und Regulierungsbedarfen vorgelegt
Unser Kollege Rechtsanwalt Sebastian Schröder gehört zum Team des „LawCom.Institute Hamburg“. Dieses hat gemeinsam mit dem ARIC e.V. im Auftrag der Freien und Hansestadt Hamburg eine interdisziplinäre Studie vorgelegt. Sie erklärt wie demokratische und rechtsstaatliche Prinzipien in der Verwaltung beim Einsatz von KI sichergestellt werden können.“Responsible AI für die Gesellschaft“ (www.lawcom.institute/projekte)
Eine weitere Studie des LawcomInstitutes behandelt den verantwortungsvollen Umgang mit künstlicher Intelligenz in kleinen und mittleren Unternehmen (KMU).
Was ist KI?
Unter KI versteht man ein System, das mit Elementen der Autonomie arbeitet und auf der Grundlage von Daten durch maschinelles Lernen bzw. logik- oder wissensgestützt Ergebnisse hervorbringt. Die Auswertung umfangreichen Datenmaterials gelingt mit KI in kürzester Zeit. Das macht den Einsatz in Wirtschaft und Verwaltung attraktiv, vor allem vor dem Hintergrund des aller Orten fehlenden Personals. Der Einsatz von KI bietet deshalb Chancen, aber auch Risiken; etwa der Intransparenz oder Manipulation.
Konzept Responsible Artificial Intelligence (RAI)
Ausgangspunkt für alle Überlegungen zum Einsatz von KI in der Verwaltung ist das Konzept der Responsible Artificial Intelligence (RAI). Danach sollen KI-Systeme in gesellschaftlich verantwortungsvoller Weise entwickelt, eingesetzt und kontrolliert werden. RAI steht im Einklang mit den europäischen Wertevorstellungen und dem Recht. Ergebnisse müssen nachvollziehbar und erklärbar, Fehlfunktionen und Diskriminierung müssen ausgeschlossen sein. Die menschliche Verantwortung muss geregelt werden.
Verfassungs- und Verwaltungsrechtliche Voraussetzungen für den Einsatz von KI
Die Studie zeigt Regeln auf, die schon heute für den Einsatz von KI in der deutschen Verwaltung gelten.
Aufgrund des Rechtsstaatsprinzips des Grundgesetzes müssen Verwaltungsakte nachvollziehbar und (gerichtlich) überprüfbar sein. Das erfordert u.a. Dokumentations- und Begründungspflichten. Bias (Voreingenommenheit) und Manipulationen müssen ausgeschlossen sein. KI in der Verwaltung muss dies gewährleisten.
§ 35a Verwaltungsverfahrensgesetz schließt den automatischen Erlass eines Verwaltungsakts ohne gesetzliche Grundlage und für Fälle in denen Ermessen oder ein Beurteilungsspielraum besteht aus. Der Einsatz von KI kommt dann allenfalls zur Vorbereitung von Verwaltungsakten in Betracht, die Entscheidung fällt ein Mensch.
Das Datenschutzrecht ist selbstverständlich zu beachten.
EU-KI-Act (Entwurf)
Die Studie erklärt im Weiteren, die sich abzeichnenden Regelungen des EU-KI-Acts. Der KI-Act wird den Einsatz von KI in den EU-Staaten verbindlich regeln. Er dürfte für den Einsatz von Systemen, die KI verwenden, ähnliche Auswirkungen haben, wie es die EU-Datenschutzgrundverordnung auf den Umgang mit Daten in der EU hat. Der KI-Act soll für Wirtschaft und Verwaltung gleichermaßen gelten. Er folgt dem RAI-Konzept. Noch sind Details umstritten, aber die Systematik und die wesentlichen Aussagen sind klar.
Der Entwurf sieht ein Risikoklassensystem vor, das sich am Einsatzzweck orientiert. Das bedeutet, dass der Einsatz von einem KI-System unproblematisch sein kann, wenn es um die verbesserte Performance bei einem digitalen Spiel geht. Das gleiche System kann aber als Hochrisiko betrachtet werden, wenn es um die Identifizierung von Personen, den Betrieb kritischer Infrastruktur oder eine Personalauswahl geht. Dann sind bestimmte Anforderungen des KI-Acts zu erfüllen. Einige Einsatzbereiche wird der EU-KI-Act gänzlich verbieten, z.B. wenn Personen bewertet, klassifiziert oder unterschwellig zu ihrem potenziellen Schaden beeinflusst werden.
Das Gesetzgebungsverfahren auf europäischer Ebene ist noch nicht abgeschlossen.
Empfehlungen für den Einsatz von KI in der Verwaltung
Die Studie bietet Checklisten für die Praxis und zeigt technische Möglichkeiten auf, die den verantwortungsvollen Einsatz von KI gewährleisten. Sie gibt 13 Empfehlungen für die Verwaltung, u.a. Eckpunkte für Richtlinien zum Einsatz von KI in öffentlichen Verwaltungen. Dabei geht es um die rechtlichen, aber auch um die technischen und personellen Voraussetzungen. Mit der Erstbeschaffung ist es nicht getan. Das System muss fortlaufend fachkundig betreut werden.
Jede Verwaltung ist dafür verantwortlich, dass beim Einsatz von KI das geltende Recht beachtet wird. Dazu gehört auch das Haushaltsrecht, wonach der Einsatz zweckmäßig und wirtschaftlich sein muss. Unternehmen und Start-Ups, die GovTech-Produkte mit KI entwickeln, sollten gleichfalls den Rechtsrahmen, in dem sich ihr Produkt bewegt, kennen und beachten – auch den zukünftigen.
Wenn Sie Fragen zum rechtmäßigen Einsatz von KI haben, dann wenden Sie sich gerne an uns.
Ihr Ansprechpartner
Für Fragen stehe ich Ihnen gerne zur Verfügung. Rufen Sie mich einfach an.
