Sexualisierte Deepfakes: Gesetzentwurf und Warnungen aus Deutschland

Die Bundesregierung will gegen sexualisierte Deepfakes vorgehen. Fachleute erklären, wie leicht solche Bilder entstehen und was das für Kinder bedeutet.

Die Bundesregierung will sexualisierte Deepfakes strafrechtlich stärker verfolgen. Das Bundeskabinett hat den Gesetzentwurf von Bundesjustizministerin Stefanie Hubig Anfang Oktober beschlossen. Das berichtet der Behörden Spiegel. Zugleich warnen Polizeigewerkschaften vor wachsenden Gefahren durch KI-gestützte Kriminalität.

Was geplant ist

Nach dem Entwurf soll nicht nur die Verbreitung, sondern auch die Herstellung sexualisierter Deepfakes strafbar werden. Außerdem sollen Betroffene digitaler Gewalt über das Zivilrecht leichter selbst gegen die Urheber vorgehen können. Auch Account-Sperren sollen gerichtlich durchsetzbar sein. Die Organisation HateAid begrüßt das als überfälligen Schritt.

Warum das Kinder betrifft

Laut HateAid braucht es heute kein technisches Fachwissen mehr, um solche Bilder zu erzeugen. Websites, Apps und Anleitungen im Netz machen es in wenigen Sekunden möglich. Als Ausgangsmaterial genügt demnach ein öffentlich zugängliches Foto, etwa aus sozialen Netzwerken oder von einer Schulwebseite.

Für Betroffene können die Folgen seelisch und sozial schwer sein. Dabei spielt es laut HateAid oft keine Rolle, ob ein Bild echt ist: „Die Demütigung wirkt trotzdem“, sagt die Pressereferentin der Organisation.

Der baden-württembergische Justizminister Moritz Oppelt (CDU) bezeichnet KI-generierte Missbrauchsdarstellungen von Minderjährigen als „Einstiegsdroge“. Er warnt vor einer Eskalation hin zu immer echteren Bildern. In Baden-Württemberg stieg die Zahl der Verurteilungen wegen Straftaten gegen die sexuelle Selbstbestimmung laut Strafverfolgungsstatistik um 10,4 Prozent auf 1.936.

Auch Betrug wird überzeugender

Die Deutsche Polizeigewerkschaft weist darauf hin, dass organisierte Gruppen KI gezielt einsetzen. Schockanrufe, Enkeltrick und Internetbetrug hätten dadurch eine neue Dimension erreicht, weil Stimmen und Bilder immer echter wirkten. Die Gewerkschaften fordern bessere technische, personelle und rechtliche Ausstattung der Sicherheitsbehörden.

Für Familien heißt das: Fotos von Kindern im Netz können missbraucht werden, und gefälschte Inhalte sind schwerer zu erkennen als früher. Ein Gesetz ist erst geplant, und bis es wirkt, helfen vor allem Gespräche und bewusster Umgang mit Bildern.

Was Eltern tun können

  1. Sprechen Sie mit Ihrem Kind darüber, dass Fotos manipuliert werden können, und dass es sich sofort melden darf, wenn es ein gefälschtes Bild von sich oder anderen sieht, ohne Vorwürfe befürchten zu müssen.
  2. Prüfen Sie gemeinsam, welche Fotos Ihres Kindes öffentlich sichtbar sind, etwa in Profilen, Schulseiten oder Vereinsseiten, und stellen Sie Profile möglichst auf privat.
  3. Sichern Sie bei gefälschten Bildern Beweise per Screenshot, melden Sie den Inhalt der Plattform und suchen Sie Rat bei einer Beratungsstelle wie HateAid oder bei der Polizei.

Quellen

← Alle Geschichten