KI-generierte Influencer: Eine neue ethische Herausforderung

MÜNCHEN (IT BOLTWISE) – Die Nutzung von Künstlicher Intelligenz zur Erstellung von Influencern, die auf sozialen Plattformen wie Instagram agieren, hat eine neue ethische Debatte entfacht. Diese digitalen Figuren, die mit Hilfe von KI-Algorithmen erstellt werden, stellen eine Herausforderung für die Integrität und Authentizität von Online-Inhalten dar.

Die rasante Entwicklung der Künstlichen Intelligenz hat nicht nur technologische Fortschritte gebracht, sondern auch neue ethische Fragen aufgeworfen. Ein aktuelles Beispiel ist die Erstellung von KI-generierten Influencern, die auf Plattformen wie Instagram aktiv sind. Diese digitalen Figuren werden mit Hilfe von Algorithmen erstellt, die in der Lage sind, menschliche Gesichter zu imitieren und diese mit verschiedenen Eigenschaften zu versehen. Besonders problematisch ist die Tatsache, dass einige dieser Influencer so gestaltet werden, dass sie Menschen mit Behinderungen darstellen, was eine neue Form der Fetischisierung und Monetarisierung darstellt.

Ein Netzwerk von Instagram-Accounts nutzt KI, um Inhalte von echten menschlichen Erstellern zu stehlen und deren Gesichter so zu verändern, dass sie wie Menschen mit Down-Syndrom aussehen. Diese Accounts sind miteinander verknüpft, da sie ähnliche Instagram-Bios und Videos verwenden und in einigen Fällen auf dieselben Plattformen verlinken, auf denen sie diese Videos monetarisieren. Diese Praxis hat sich schnell zu einer Industrie entwickelt, die spezialisierte Tools und Werbestrategien einsetzt, um mit diesen gefälschten Influencern Geld zu verdienen.

Ein besonders prominentes Beispiel ist der Account Maria Dopari, der über 148.000 Follower auf Instagram hat. Diese Accounts nutzen KI-generierte Gesichter, um Inhalte zu erstellen, die speziell auf sexuelle Fetische abzielen. Dies geschieht oft ohne das Wissen oder die Zustimmung der betroffenen Personen, was eine Verletzung der Privatsphäre und der Persönlichkeitsrechte darstellt. Die Gesichtstausch-Technologie ist mittlerweile so fortgeschritten, dass die Veränderungen oft nur schwer zu erkennen sind, insbesondere wenn man schnell durch die Inhalte scrollt.

Während Plattformen wie OnlyFans strenge Richtlinien gegen KI-generierte Inhalte haben, sofern diese nicht klar als solche gekennzeichnet sind, erlauben andere Plattformen wie Fanvue die Monetarisierung solcher Inhalte, solange sie entsprechend gekennzeichnet sind. Dies führt zu einer Grauzone, in der die Ersteller solcher Inhalte versuchen, die Regeln zu umgehen, um von der Monetarisierung zu profitieren.

Die ethischen Implikationen dieser Praxis sind weitreichend. Sie werfen Fragen nach der Verantwortung der Plattformen auf, die solche Inhalte hosten, sowie nach den Rechten der Individuen, deren Identität und Erscheinungsbild ohne ihre Zustimmung verwendet werden. Es ist wichtig, dass sowohl die Technologieunternehmen als auch die Gesetzgeber Maßnahmen ergreifen, um den Missbrauch von KI in diesem Bereich zu verhindern und die Rechte der betroffenen Personen zu schützen.

Insgesamt zeigt dieser Fall, wie wichtig es ist, ethische Überlegungen in die Entwicklung und den Einsatz von Künstlicher Intelligenz zu integrieren. Nur so kann sichergestellt werden, dass technologische Fortschritte nicht auf Kosten der Menschenwürde und der individuellen Rechte gehen.

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.958 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen