In unserer zunehmend vernetzten Gesellschaft ist die digitale Selbstbestimmung der Bürgerinnen und Bürger von besonderer Bedeutung, denn sie bildet die Voraussetzung für verantwortungsvolles Handeln mit neuen Technologien.
Diese Selbstbestimmung wird jedoch mehr und mehr eingeschränkt – und oft unbemerkt eingeschränkt – durch automatisierte Entscheidungen, in deren Entstehen wir weder Einblick haben, noch sie beeinflussen können. Algorithmen bestimmen, welche Ergebnisse einer Internetsuche jemand angezeigt bekommt, welches Risiko man für eine Versicherung darstellt, oder ob ein Mensch womöglich gar zum Betrug der Sozialsysteme neigt.
Algorithmen bestimmen über jede und jeden von uns, aber nur ganz wenige Leute bestimmen, was Algorithmen tun und was nicht. Ethik kennt ein Algorithmus nicht, und wenn nicht zufällig einer dieser Wenigen moralische Bedenken hatte, ändert sich daran auch nichts.
Das aber müssen wir ändern!
Deshalb fordern wir:
- Transparenz für die NutzerInnen über die Empfehlungsprozesse von Suchmaschinen, sozialen Netzwerken und Plattformen als wichtige Maßnahme festzuschreiben,
- Suchfunktionen müssen als Grundeinstellung eine Ergebnislistung liefern, die keine nutzerindividuellen Empfehlungen enthalten. NutzerInnen sollen aber die Möglichkeit erhalten, zu einer um Empfehlungen angereicherten Darstellung zu wechseln (Opt-in statt Opt-out) und auch wieder zurück.
- Wir fordern regelmäßige Revisionen gesellschaftlich relevanter Algorithmen auf ihre Rechtmäßigkeit durch die zuständigen Stellen für Datenschutz und Informationsfreiheit festzuschreiben sowie die Etablierung unabhängiger Audits durch unabhängige Stellen und Qualitätssicherungssysteme für den Algorithmuseinsatz und
- dass unabhängige Initiativen der Zivilgesellschaft zur optimierten gesellschaftlichen Kontrolle effektiver als bisher unterstützt werden.