Wer via Reddit auf eine hübsche Dame trifft, die Nacktfotos verkauft, sollte skeptisch bleiben, denn sie könnte das Produkt einer KI sein.
Zwei Informatikstudenten haben sich mit dem Verkauf von KI-Nacktfotos auf Reddit ein kleines Taschengeld hinzuverdient. Moderatoren schieben der Praxis bisher keinen Riegel vor, da dies nicht gegen die Nutzungsbedingungen der Plattform verstoße. Solange die Käufer zufrieden sind, scheint ja alles in Ordnung zu sein.
Claudia: Studenten haben KI-generierte Nacktfotos verkauft
Künstliche Intelligenz gibt es schon seit vielen Jahren. So richtig an Fahrt aufgenommen hat das Thema jedoch erst in den letzten paar Monaten. Und während manch ein Beobachter dieses Trends eine große Gefahr in der neuen Technologie sieht, erkennen andere darin eine Chance, um mit möglichst wenig Arbeit neue Einnahmen zu generieren.
KI-Nacktfotos von sich auf Reddit verkauft
Zu letzterer Sorte gehören auch zwei anonyme Informatikstudenten, die via Reddit KI-Nacktfotos verkaufen. Eines ihrer verblüffend echt aussehenden Werke ist die 19-jährige Claudia. Immerhin verdienten die beiden Verkäufer mit der fiktiven weiblichen Person rund 100 Dollar, bevor ein paar aufmerksame Reddit-Nutzer sie entlarvten.
“Man könnte sagen, dass dieser ganze Account nur ein Test ist, um zu sehen, ob man Leute mit KI-Bildern täuschen kann”, verteidigten Claudias Erfinder ihre Arbeit gegenüber Rolling Stone. “Wir hätten ehrlich gesagt nicht gedacht, dass es so viel Anklang finden würde.”
KI-Fotos verstoßen nicht gegen die Nutzungsbedingungen von Reddit
Um derartige Nacktbilder erstellen zu lassen, gibt es beliebte und oftmals kostenlos nutzbare Online-KI-Bildgeneratoren wie Stable Diffusion. Nach einer kurzen Texteingabe, die den gewünschten Inhalt grob beschreibt, generiert die Software durch maschinelles Lernen verblüffend echt aussehende Fotos.
Ein Reddit-Moderator stellt jedoch klar, dass KI-generierte Bilder nicht grundsätzlich gegen die Nutzungsbedingungen der Plattform verstoßen. “Wenn die Leute denken, dass es echt ist und etwas außerhalb meines Subreddits machen wollen, dann ist das ihre Sache”, erklärte der Moderator.
Denn im Gegensatz zu Deepfakes, bei denen eine KI das Gesicht einer echten Person – beispielsweise einer prominenten Schauspielerin – in ein Nacktfoto oder -video einfügt, sind die moralischen Aspekte bei reinen KI-Pornos wie jenen von Claudia weniger eindeutig.
Die moralischen Aspekte der KI-Nacktbilder
Jedoch darf man bei dieser Debatte nicht außer acht lassen, dass auch die Nacktfotos von Claudia aus Milliarden von echten Bildern entstanden sind, mit denen die Entwickler von Stable Diffusion ihre KI trainiert haben. Darunter Fotos von realen Personen, von denen vermutlich die wenigsten einer Verwendung auf diese Weise bewusst zugestimmt haben.
Darüber hinaus ist noch unklar, ob es nicht langfristig zu viel brisanteren Problemen führt, wenn wir KI-Inhalte nicht als solche kennzeichnen. Insbesondere dann, wenn diese vom Betrachter kaum von echtem Bildmaterial zu unterscheiden sind.
Claudias Erfinder sehen darin offenbar kein Problem, solange der Käufer mit dem erworbenen KI-Nacktbild zufrieden ist.
“Wir haben nie gesagt, dass es sich um Bilder einer echten Person handelt, und die Käufer haben nie wirklich gefragt. Sie haben es einfach angenommen.”
Claudias Erfinder
Und auch wenn Geschäftsmodelle wie jene von OnlyFans in Zukunft womöglich massiv darunter leiden, sind sich die beiden Studenten absolut sicher, dass KI-generierte Nacktfotos und -videos immer beliebter werden. “Es wird mehr Accounts wie diesen geben”, verkündeten sie mit Verweis auf ihr Reddit-Konto.
