Charakter-KI beruft sich auf den Ersten Verfassungszusatz in rechtlicher Auseinandersetzung

MÜNCHEN (IT BOLTWISE) – In einer rechtlichen Auseinandersetzung, die weitreichende Auswirkungen auf die KI-Industrie haben könnte, hat die Plattform Character AI einen Antrag auf Abweisung einer Klage eingereicht, die von der Mutter eines verstorbenen Teenagers angestrengt wurde.

Character AI, eine Plattform, die Nutzern ermöglicht, mit KI-Chatbots Rollenspiele zu führen, hat einen Antrag auf Abweisung einer Klage gestellt, die von der Mutter eines Teenagers eingereicht wurde, der sich das Leben genommen hat. Die Mutter behauptet, ihr Sohn habe eine emotionale Bindung zu einem Chatbot entwickelt, was zu seinem Rückzug aus der realen Welt führte. Die Plattform beruft sich auf den Ersten Verfassungszusatz, um sich gegen die Haftung zu schützen.

Die Klage, die im Oktober von Megan Garcia eingereicht wurde, wirft Character AI vor, für den Tod ihres Sohnes verantwortlich zu sein. Der Teenager hatte eine intensive Beziehung zu einem Chatbot namens ‘Dany’ aufgebaut. Nach dem Vorfall kündigte Character AI an, neue Sicherheitsfunktionen einzuführen, um problematische Chats besser zu erkennen und zu unterbinden.

In ihrem Antrag argumentiert die Rechtsvertretung von Character AI, dass die Plattform durch den Ersten Verfassungszusatz geschützt sei, ähnlich wie Computer-Code. Sie betonen, dass die Klage, wenn sie erfolgreich wäre, die Meinungsfreiheit der Nutzer von Character AI verletzen würde. Die Plattform sieht sich als Medium, das von der Verfassung geschützt ist, auch wenn die Interaktion mit KI-Chatbots erfolgt.

Der Antrag geht nicht auf die Frage ein, ob Character AI durch Section 230 des Communications Decency Act geschützt ist, ein Gesetz, das Online-Plattformen vor der Haftung für Inhalte Dritter schützt. Die Autoren des Gesetzes haben angedeutet, dass Section 230 möglicherweise nicht für KI-generierte Inhalte gilt, was eine rechtliche Grauzone darstellt.

Character AI sieht in der Klage einen Versuch, die Plattform zu schließen und eine Regulierung von Technologien wie ihrer zu erzwingen. Sollte die Klage Erfolg haben, könnte dies einen abschreckenden Effekt auf die gesamte aufstrebende generative KI-Industrie haben, so die Rechtsvertretung der Plattform.

Die Klage ist eine von mehreren, mit denen Character AI konfrontiert ist, die sich mit der Interaktion von Minderjährigen mit KI-generierten Inhalten befassen. Andere Klagen werfen der Plattform vor, Minderjährige unangemessenen Inhalten auszusetzen und selbstschädigendes Verhalten zu fördern.

Der texanische Generalstaatsanwalt Ken Paxton hat eine Untersuchung gegen Character AI und andere Tech-Unternehmen wegen angeblicher Verstöße gegen die Online-Datenschutz- und Sicherheitsgesetze des Staates für Kinder eingeleitet. Diese Untersuchungen sind ein wichtiger Schritt, um sicherzustellen, dass soziale Medien und KI-Unternehmen die Gesetze zum Schutz von Kindern einhalten.

Character AI ist Teil einer boomenden Industrie von KI-Begleit-Apps, deren Auswirkungen auf die psychische Gesundheit weitgehend unerforscht sind. Einige Experten äußern Bedenken, dass diese Apps Gefühle von Einsamkeit und Angst verstärken könnten.

Character AI, gegründet von Google AI-Forscher Noam Shazeer, hat angekündigt, weiterhin Schritte zur Verbesserung der Sicherheit und Moderation zu unternehmen. Im Dezember führte das Unternehmen neue Sicherheitswerkzeuge ein, darunter ein separates KI-Modell für Jugendliche und Sperren für sensible Inhalte.