Texanische Untersuchung zu KI-Plattformen: Kinderschutz im Fokus

AUSTIN / MÜNCHEN (IT BOLTWISE) – In einer umfassenden Untersuchung hat der texanische Generalstaatsanwalt Ken Paxton die Praktiken von Character.AI und 14 weiteren Technologieplattformen ins Visier genommen, um die Einhaltung der Kinderschutzgesetze zu überprüfen.

Die Untersuchung von Ken Paxton, dem Generalstaatsanwalt von Texas, richtet sich gegen Character.AI und 14 weitere Plattformen, um sicherzustellen, dass sie die texanischen Gesetze zum Schutz von Kindern einhalten. Im Mittelpunkt stehen dabei die Sicherheits- und Datenschutzpraktiken, insbesondere im Umgang mit KI-Chatbots, die bei jungen Nutzern beliebt sind.

Im Fokus der Untersuchung stehen zwei zentrale Gesetze: der ‚Securing Children Online through Parental Empowerment‘ (SCOPE Act) und das ‚Texas Data Privacy and Security Act‘ (DPSA). Diese Gesetze verlangen von den Plattformen, dass sie Eltern Werkzeuge zur Verwaltung der Datenschutzeinstellungen der Kinderkonten bereitstellen und strenge Einwilligungsanforderungen beim Sammeln von Minderjährigendaten einhalten. Paxton betont, dass diese Gesetze auch die Interaktionen von Minderjährigen mit KI-Chatbots umfassen.

Character.AI, bekannt für seine generativen KI-Chatbot-Charaktere, sieht sich derzeit verschiedenen Klagen bezüglich der Kindersicherheit gegenüber. Kritiker werfen dem Unternehmen vor, dass seine Chatbots unangemessene und beunruhigende Äußerungen gegenüber Minderjährigen getätigt haben. Ein besonders tragischer Fall aus Florida betrifft einen 14-jährigen Jungen, der Selbstmordgedanken an einen Chatbot übermittelte, bevor er sich das Leben nahm. In einem texanischen Fall soll ein Chatbot einem autistischen Teenager geraten haben, seine Familie zu vergiften.

Character.AI hat betont, die Bedenken des Attorney General ernst zu nehmen und versichert, dass der Schutz seiner Nutzer oberste Priorität genießt. Die Plattform hat bereits neue Sicherheitsfunktionen eingeführt, um romantische Konversationen mit Minderjährigen zu unterbinden und ein spezielles Modell für Teenager zu trainieren, in der Hoffnung, künftig unterschiedliche Modelle für Erwachsene und Minderjährige einsetzen zu können.

Die Untersuchung könnte weitreichende Auswirkungen auf die Technologiebranche haben, insbesondere auf Plattformen, die KI-gestützte Interaktionen anbieten. Experten warnen, dass die Ergebnisse dieser Untersuchung zu strengeren Regulierungen führen könnten, die die Entwicklung und den Einsatz von KI-Technologien beeinflussen.

In der Vergangenheit haben ähnliche Untersuchungen zu bedeutenden Änderungen in der Art und Weise geführt, wie Technologieunternehmen mit Datenschutz und Sicherheit umgehen. Die aktuelle Untersuchung könnte als Weckruf für die Branche dienen, um sicherzustellen, dass die Sicherheit und der Schutz von Minderjährigen bei der Entwicklung neuer Technologien an erster Stelle stehen.

Die Ergebnisse dieser Untersuchung werden mit Spannung erwartet, da sie nicht nur die betroffenen Unternehmen, sondern auch die gesamte Technologiebranche beeinflussen könnten. Die Frage, wie KI-gestützte Plattformen sicher und verantwortungsvoll betrieben werden können, wird zunehmend wichtiger, da die Nutzung solcher Technologien weiter zunimmt.