Anfrage: Verantwortungsvoller KI-Einsatz: Ethik und Transparenz in Düsseldorfs Verwaltung

Wir setzen uns schon lange für einen Einsatz von KI in der Stadtverwaltung ein, um Prozesse zu optimieren und die Effizienz der Verwaltung zu steigern. Dabei dürfen jedoch die ethischen, rechtlichen und sozialen Auswirkungen von KI nicht außer Acht gelassen werden. Wir fragen daher im kommenden Ausschuss für Digitalisierung, Personal und Organisation nach dem verantwortungsvollen Umgang der Verwaltung mit KI. Dies umfasst mögliche Ethik-Leitlinien, Maßnahmen, die Diskriminierungsfreiheit und Transparenz gewährleisten, sowie einen internen Ethik-Beirat für den Einsatz von KI in der Verwaltung. 

Sehr geehrter Herr Rasp,

im Namen unserer Fraktion bitten wir Sie, nachfolgende Anfrage auf die Tagesordnung der Sitzung des Ausschusses für Ausschusses für Digitalisierung, Personal und Organisation am 02. Juli 2025 zu setzen und von der Verwaltung beantworten zu lassen:

Anfrage:

1. Welche internen Ethik-Leitlinien oder Governance-Strukturen werden in Düsseldorf entwickelt, um den verantwortungsvollen und bürgerzentrierten Einsatz von Künstlicher Intelligenz (KI) und algorithmischen Entscheidungssystemen sicherzustellen?
2. Wie wird gewährleistet, dass Transparenz, Nachvollziehbarkeit und Diskriminierungsfreiheit bei automatisierten Verwaltungsprozessen gegeben sind?
3. Gibt es Pläne für einen internen Ethik-Beirat oder ähnliche Instanzen, die den Einsatz von KI in der Verwaltung begleiten und bewerten?

Begründung:

Wir Freie Demokraten begrüßen ausdrücklich den zunehmenden Einsatz und die erste Pilotierung von KI-gestützten automatisierten Verfahren in der Landeshauptstadt Düsseldorf. Die Digitalisierung, insbesondere durch Künstliche Intelligenz, birgt enormes Potenzial, um die Effizienz der Verwaltung zu steigern, Prozesse zu optimieren und den Bürgerinnen und Bürgern schnellere und präzisere Dienstleistungen anzubieten.

Gleichzeitig ist es von entscheidender Bedeutung, parallel zu diesen technischen Vorhaben ein starkes Augenmerk auf die besonderen ethischen, rechtlichen und sozialen Implikationen im Umgang mit diesen Technologien zu lenken. Der Einsatz von KI in der öffentlichen Verwaltung berührt sensible Bereiche wie den Schutz personenbezogener Daten, das Recht auf informelle Selbstbestimmung und die Vermeidung von Diskriminierung.

Es ist unsere Verantwortung als demokratisch legitimierte Vertretung, sicherzustellen, dass die Einführung von KI nicht nur technisch innovativ, sondern auch moralisch vertretbar und rechtlich einwandfrei erfolgt. Eine vorausschauende Stadtverwaltung muss daher klare Leitplanken definieren, die den verantwortungsvollen Umgang mit Algorithmen und Daten regeln. Nur so kann das Vertrauen der Bürgerinnen und Bürger in eine moderne und gleichzeitig menschliche Verwaltung gewährleistet werden, die den Menschen in den Mittelpunkt stellt und die Digitalisierung zu seinem Wohl einsetzt. Dies beinhaltet die Schaffung von Strukturen, die Transparenz und Nachvollziehbarkeit sicherstellen und Mechanismen für die Rechenschaftspflicht etablieren, um den Grundsätzen eines bürgerzentrierten Handelns gerecht zu werden.

Mit freundlichen Grüßen

Sebastian Rehne                                                       Piero Alessio