/Life

Deep Fakes: Reddit hat die KI-Porno-Gruppe verbannt

Michael Förtsch 08.02.2018

Reddit will keine Deep Fakes mehr dulden. Die Online-Community hat das umstrittene Subreddit gesperrt, in dem Nutzer mit Hilfe von Deep Learning die Gesichter von Promis in Pornos montierten. Die Porno-Fake-Gemeinschaft hat jedoch schon eine neue Plattform gefunden - Voat.

In den vergangenen Wochen ist das Subreddit r/deepfakes rasant gewachsen. Mittels Machine-Learning-Software tauschten dessen Mitglieder die Gesichter der Darsteller in Pornofilmen gegen jene von Prominenten aus. Gegründet worden war das Unterforum, nachdem ein Nutzer gleichen Namens mit eben solchen Fake-Pornos für Aufsehen gesorgt hatte. Die Resultate der sogenannten Deep Fakes waren zuletzt überaus überzeugend. Vor allem, nachdem ein Entwickler eine einfach zu bedienende FakeApp bereitgestellt hat. Dazu boten einige Mitglieder gar gegen Bezahlung ihre Dienste an, um beispielsweise Fake-Pornos mit Ex-Freundinnen, Arbeitskolleginnen oder bestimmten Stars anzufertigen. Dabei tauchten zuletzt auch immer wieder Videos mit minderjährigen Schauspielerinnen und Promis auf. Nun hat Reddit das Unterforum r/deepfakes wegen Verstößen gegen neu erlassene Plattformrichtlinien geschlossen.

Wie die Verantwortlichen der Online-Community kurz vor der Schließung in einer Bekanntmachung ausführten, wären die hauseigenen Regeln hinsichtlich der Punkte „unfreiwilliger Pornografie“ und „sexuellem oder anzüglichen Inhalt mit Minderjährigen“ erweitert worden. Nebst r/deepfakes wurden daher auch die Sammelforen r/deepfakesnsfw, r/nsfwdeepfakes und wenig später das Subbreddit r/celebfakes geschlossen, das manipulierten Pornobildern gewidmet war.

Damit zog Reddit mit anderen Diensten gleich, die in den vergangenen Wochen ebenfalls Deep Fakes untersagten und aktiv löschten. Darunter sind unter anderem Twitter, Gfycat, Discord und die weltgrößte Pornoseite PornHub. Das Subreddit r/sfwdeepfakes, in dem mit Deep Learning hingegen Personen wie Nicolas Cage in jugendfreie Clips montiert werden, wird weiterhin aktiv bleiben.

Zum Zeitpunkt der Schließung hatte r/deepfakes über 90.000 Abonnenten und zahlreiche aktive Nutzer, die diskutierten und Videos veröffentlichten. Einige Mitglieder sind über den Reddit-Bann verärgert. Sie sehen das Vorgehen als „Angriff auf unsere Meinungsfreiheit“ und werfen Reddit vor, „dem Phänomen ein Ende“ bereiten zu wollen. Selbst wenn: Gelingen dürfte das nicht. Vor der Abschaltung hatten einige Nutzer bereits eigene Plattformen und Foren angekündigt, da die Schließung „mal echt absehbar und unvermeidlich“ sei. Ebenso sind zahlreiche ehemalige r/deepfakes-Mitglieder zwischenzeitlich zum Reddit-Konkurrenten Voat übergewechselt, der in den vergangenen Jahren zuvorderst als Debattenforum der Alt-Right-Bewegung der USA diente.