Künstliche Intelligenz in Behörden: KI wird selten eingesetzt, doch der Ethikrat warnt schon

STUTTGART. Ein Antrag auf die Zulassung eines Autos oder auf Sozialhilfe, den ein Chatbot im Landratsamt selbstständig einfach nach Akten- und Gesetzeslage beantwortet? Für Befürworter schlanker Verwaltung ist das eine Verheißung, für den deutschen Ethikrat eher eine Schreckensvision. Die Experten haben jetzt ausführliche Empfehlungen zum Umgang mit KI abgegeben. Von dem Einsatz in Behörden raten sie eher ab, ja warnen sogar davor.

Zwar verbänden sich mit der Digitalisierung der öffentlichen Verwaltung „Hoffnungen auf eine Rationalisierung und Beschleunigung staatlichen Verwaltungshandelns“ und „eine effektivere und kohärentere Datennutzung“, referieren die Experten.

Ethikrat wendet sich gegen automatisierte Entscheidung

„Vielfach und zunehmend werden in der öffentlichen Verwaltung automatisierte Entscheidungssysteme (ADM-Systeme) eingesetzt“, heißt es weiter. So etwa bei der Prüfung und Vergabe von Sozialleistungen. Das halten die Ethikräte für bedenklich, denn „angesichts der häufig zu beobachtenden Tendenz, sich maschinellen Empfehlungen vorbehaltlos anzuschließen (Automation Bias), kann bereits die Nutzung von Software zur Entscheidungsfindung weitreichende Wirkung entfalten“.

Derzeit fehlt im Südwesten zumindest für solche Sorgen weitgehend die Grundlage: KI kommt in der Verwaltung aktuell kaum zum Einsatz. „Noch ist das Zukunftsmusik“, heißt es etwa beim Städtetag Baden-Württemberg. Denn „Grundvoraussetzung für viele sinnvolle Anwendungen sind vollständig digitalisierte Akten“. Schon daran aber mangelt es ja. Doch rechnet die Presseprecherin damit, „dass KI in Zukunft ihren festen Platz auch in der kommunalen Verwaltung finden wird, ohne dass sie die Endkontrolle durch menschliches Personal ersetzen wird.“

Zur Prüfung und Vergabe von Sozialleistungen durch KI-Systeme, dem konkret vom Ethikrat angesprochen Einsatzbereich, sagt der Hauptgeschäftsführer des Landkreistags, Alexis von Komorowski, dem Staatsanzeiger: „Entsprechende Anwendungen sind uns hier bisher nicht bekannt.“ Allerdings sei deren verstärkter Einsatz in den Sozialverwaltungen „nur eine Frage der Zeit“. Der Landkreistag sieht darin eine Chance für mehr Effizienz und Effektivität. „Dies gilt nicht nur im Hinblick auf Verwaltungsverfahren, die einer strikten Gesetzesbindung unterliegen und in denen daher sogar vollautomatisch erlassene Verwaltungsakte in Betracht kommen“, erläutert von Komorowski. Auch dort wo es Ermessens-, Beurteilungs- und Abwägungsspielräume gebe, könnten KI und ADM zur Entscheidungsvorbereitung und -unterstützung beitragen, „weil sie durch die umfassend systematische Auswertung vorhandener Dateninformationen zur Fehlervermeidung beitragen und etwa auch Vorurteilen beziehungsweise Befangenheiten des Rechtsanwenders entgegenwirken können“. Freilich bestehe hier dann in der Tat das Risiko des übertriebenen Vertrauens in das Ergebnis automatisierter Verfahren.

Derzeit gibt es rechtliche und technische Hürden für KI

Ein Beispiel dafür sei der Alltagsglaube an die höhere Autorität von Excel-Listen, so von Komorowski – „selbst wenn die dahinterliegende Formel komplett falsch ist“. Er hält die Warnung des Ethikrats daher für gerechtfertigt, „dass speziell im Sozialbereich durch den Rückgriff auf KI und ADM die Hilfeplanung als interaktiv-partizipativer Prozess keinesfalls ausgehöhlt werden darf“.

Franz-Reinhard Habbel, früherer Sprecher des Deutschen Städte- und Gemeindebunds, gilt als ein Vordenker des E-Governments. KI kann ihm zufolge helfen, Anliegen, die Bürger per E-Mail oder Brief an die Verwaltung richten, zu kategorisieren. Über eine Texterkennung könnten diese automatisiert an die zuständige Behörde weitergeleitet werden. Hochwasserdaten könnten auch ausgewertet werden – welche Schutzmaßnahmen daraus folgen, sei dann Frage menschlichen Ermessens. Doch hinke Deutschland in dieser Frage anderen Staaten hinterher. Oft fehle es an den Daten beziehungsweise an deren Verknüpfungsmöglichkeiten – aus technischen, aber auch aus rechtlichen Gründen. „Schnittstellen zur Datenweitergabe“ und „einen gesunden Umgang mit dem Datenschutz“ nennt Landkreistagsgeschäftsführer von Komorowski unter anderem als Voraussetzungen für mehr KI-Einsatz in der Verwaltung.