Antrag 97/II/2021 Transparenz von Künstlicher Intelligenz in der Verwaltung stärken

Wir fordern die Einführung von öffentlich zugänglichen Transparenzregistern für den Einsatz von Künstlichen Intelligenz-Systemen (KI-Systeme) in den öffentlichen Verwaltungen auf Bezirks-, Landes- und Bundesebene. Neben den Ministerien auf Landes- und Bundesebene sowie den Ämtern auf kommunaler Ebene, soll diese Transparenzpflicht auch insbesondere für Polizei und die Ämter für Flüchtlingsangelegenheiten gelten. In dem Transparenzregister soll veröffentlicht werden, welche KI-Systeme zu welchen Zwecken im öffentlichen Dienst eingesetzt werden. Es soll darüber hinaus transparent dargestellt werden, auf welcher Datenbasis und nach welcher Logik die eingesetzten KI-Systeme Entscheidungen treffen.

 

Weiterhin sollte die Einführung von neuen KI-Systemen im öffentlichen Dienst, durch eine Folgenabschätzung begleitet werden. In diesem Bericht sollten die Tragweite und mögliche entstehende Auswirkungen auf die Gesellschaft, die durch die Einführung eines solchen Systems entstehen könnten, analysiert werden. Dabei sollten auch konkrete Maßnahmen der Verwaltung genannt werden, durch welche negative Auswirkungen von KI Entscheidungen wie Diskriminierungsformen vermindert werden können. Das „Impact Assessment“ soll soweit rechtlich möglich öffentlich zugänglich gemacht werden. Des Weiteren sollte der Einsatz der verwendeten KI-Systemen auch fortlaufend durch das Parlament evaluiert werden.

Empfehlung der Antragskommission:
Überweisen an: Forum Netzpolitik (Konsens)