Videos vom Papst in Daunenjacke, Tiere auf dem Trampolin oder beim Sprung vom 5 Meter Turm oder Mitglieder der Bundesregierung, die auf Deutschrap tanzen. Nur im Internet existiert: Auf Social Media Plattformen ist der Einfluss von künstlicher Intelligenz immer mehr sichtbar.
KI ist es möglich, Stimmen und Personen immer realistischer darzustellen – als sogenannte Deepfakes, also digitaler Fälschungen von Personen. Durch KI wird es immer einfacher falsche Aussagen und Bilder zu erstellen und diese zu verbreiten. So werden Persönlichkeitsrechte von Personen verletzt. Die Auswirkungen sind aktuell noch nicht abzuschätzen. Aber es lässt sich vermuten, dass Digitale Gewalt durch das Verbreiten von gefälschten Bildern immer weiter zunimmt.
Laut einer Forsa-Umfrage von Mai 2024 haben 25 Prozent der unter 35-Jährigen schon einmal Kontakt mit Deepfake‑Inhalten gehabt. 42 Prozent der Befragten erhielten falsche Textnachrichten von angeblichen Verwandten und 14 Prozent wurden schon per Telefon von diesen kontaktiert. Deepfake-Stimmen werden dabei immer verbreiteter – da auch bereits wenige Sekunden Aufnahmen zur Nachahmung reichen.
Die dänische Regierung will mit einem Gesetz nun einen Rechtsanspruch auf äußerliche Merkmale ihrer Einwohner*innen verankern. So sollen Personen eine Art Copyright auf die eigene Stimme, das Gesicht sowie den Körper bekommen. In Großbritannien wird die Herstellung personenbezogener sexualisierter Deepfakes unter Strafe gestellt und in Australien drohen bei der Verbreitung dieser mehrjährige Haftstrafen.
In Dänemark haben Betroffene eine klare Grundlage für Klagen und die Deepfakes sollen schneller aus dem Netz verschwinden. Wer künftig ohne Einwilligung in einem KI-Video, Bild oder Audio auftaucht, könnte die Löschung verlangen. Plattformen, welche die Löschung nicht umsetzen, sollen bestraft werden.
Auch Techfirmen versuchen die Deepfakes mit Hilfe von Programmen zu entdecken. Jedoch werden die Fakes immer besser und das Entdecken somit immer komplizierter. Zudem generieren viele der Videos oder Bilder viel Aufmerksamkeit und sind deshalb ökonomisch interessant für Plattformbetreiber*innen.
Wir fordern:
- Die Einführung eines Gesetzes am Vorbild Dänemarks, welches den allgemeinen Schutz gegen realitätsnahe, digital erzeugte Nachahmungen persönlicher Merkmale privater Personen bietet und vor der Weitergabe dieser Nachahmungen ohne deren Zustimmung schützt,
- Anpassung der rechtlichen Grundlagen mit Blick auf Herstellung und Verbreitung von personenbezogenen sexualisierten Deepfakes
- Prüfung von Schadensersatzansprüchen gegenüber den Plattformen bei nicht Umsetzung der gewünschten Löschung
- Einrichtung niedrigschwelliger und zentraler Meldewege für Betroffene, damit Deepfakes schnell entfernt und rechtliche Schritte unkompliziert eingeleitet werden können
- Aufbau von Beratungs- und Unterstützungsangeboten für Betroffene von digitaler Gewalt durch Deepfakes, einschließlich psychologischer Hilfe und rechtlicher Beratung
- Voranbringen der gesetzlichen Regelung auf europäischer Ebene
- Einsetzen von digitalen Herkunftssiegel zum Nachweis von echten Bildern oder Videos und verpflichtende Verwendung von Logos bei KI Verwendung