Die Verwendung von Künstlicher Intelligenz (KI) zur Erstellung von Inhalten hat in den letzten Jahren exponentiell zugenommen, und damit auch die ethischen Fragestellungen rund um diese Technologie. Besonders besorgniserregend ist die Entstehung sexualisierter Videos, die schwarze Frauen durch KI-generierte Avatare darstellen. Diese Kontroversen haben nicht nur das Potenzial, gesellschaftliche Vorurteile zu verstärken, sondern auch die Rechte und die Identität betroffener Personen zu verletzen. Die Aufdeckung solcher Praktiken durch die BBC hat dazu geführt, dass Plattformen wie TikTok und Instagram unter Druck geraten sind, ihre Richtlinien zu überarbeiten, um Menschen vor derartigen Auswüchsen zu schützen.

Das Konzept der KI-generierten Inhalte ist durch Algorithmen möglich, die große Datenmengen analysieren, um realistische Avatare zu erstellen. Dabei werden häufig stereotype Darstellungen verwendet, die nicht nur demografische Merkmale verzerren, sondern auch Geschlechter- und Hautfarbenstereotype reproduzieren. Die BBC entdeckte, dass viele dieser Konten nicht explizit als KI erstellt ausgewiesen sind, was gegen die Richtlinien der Plattformen verstößt und es den Nutzern erschwert, zwischen echtem und gefälschtem Inhalt zu unterscheiden. Ein Beispiel zeigt das Konto einer Content-Creatorin namens Ria, deren Bewegungen und Stimme von einem KI-Avatar nachgeahmt wurden, was zu einer massiven Verbreitung von nachgemachten Inhalten führte. Anstatt ihr talentiertes künstlerisches Schaffen zu fördern, werden Frauen durch diese Technologien gefährdet, indem ihre Identität missbraucht wird und sexuelle Inhalte ohne deren Zustimmung verbreitet werden.

Der Fall hebt einige wichtige Fragen hervor: Sind wir uns genug der potenziellen schädlichen Auswirkungen innerhalb der KI-Content-Produktion bewusst? Es ist klar, dass solche Darstellungen ein starkes rassistisches Unterton haben und bestehende Stereotype weiter verstärken. Kritiker wie Jeremy Carasco weisen darauf hin, dass solche Inhalte den Konsum von Rassismus und Sexualisierung fördern; und dies stellt eine ernsthafte Bedrohung für das gesellschaftliche Verständnis von Identität dar. TikTok und Meta haben zwar Maßnahmen ergriffen, um diese Inhalte zu entfernen, aber bleibt die Frage offen, wie effektiv diese Maßnahmen tatsächlich sind. Verbinden sich nicht auch mit der Legitimierung und Verbreitung dieser Technologien unbeabsichtigte Folgen, die wir dringend hinterfragen müssen?