Datenschutzbeschwerde gegen OpenAI: KI-Halluzinationen im Fokus

MÜNCHEN (IT BOLTWISE) – Die jüngste Beschwerde des Datenschutzvereins Noyb gegen OpenAI in Norwegen wirft ein Schlaglicht auf die Herausforderungen, die mit der Nutzung von KI-Systemen verbunden sind. Der Fall eines Norwegers, der fälschlicherweise von ChatGPT als Mörder dargestellt wurde, verdeutlicht die potenziellen Risiken von KI-Halluzinationen.

Die zunehmende Verbreitung von KI-Systemen wie ChatGPT hat nicht nur die Art und Weise verändert, wie wir Informationen verarbeiten, sondern auch neue Herausforderungen im Bereich des Datenschutzes und der Datengenauigkeit geschaffen. Ein aktueller Fall aus Norwegen, bei dem der Datenschutzverein Noyb eine Beschwerde gegen OpenAI eingereicht hat, zeigt die potenziellen Gefahren auf, die mit KI-Halluzinationen verbunden sind. Ein Norweger wurde von ChatGPT fälschlicherweise als Mörder seiner Kinder dargestellt, was zu erheblichen persönlichen und rechtlichen Konsequenzen führen könnte.

OpenAI hat auf die Beschwerde reagiert, indem es darauf hinweist, dass ChatGPT mit einem Hinweis auf mögliche Fehler ausgestattet ist. Doch Noyb argumentiert, dass ein solcher Hinweis nicht ausreicht, um den gesetzlichen Anforderungen der DSGVO zu genügen, die ein Recht auf Richtigstellung von Unwahrheiten vorsehen. Diese Diskussion wirft grundlegende Fragen zur Verantwortung von KI-Entwicklern auf, insbesondere in Bezug auf die Genauigkeit und Verlässlichkeit der von ihren Systemen generierten Informationen.

Ein technisches Problem bei der Korrektur solcher Fehler besteht darin, dass Daten in KI-Modellen nicht nachträglich gelöscht oder geändert werden können. Lediglich die Sperrung bestimmter Prompts oder Themen ist möglich. Dies stellt Entwickler vor die Herausforderung, Mechanismen zu entwickeln, die die Verbreitung falscher Informationen verhindern, ohne die Funktionalität der KI-Systeme einzuschränken.

Parallel dazu hat Microsoft in Zusammenarbeit mit dem Schweizer Startup Inait angekündigt, KI-Modelle auf Basis von Gehirnsimulationen zu entwickeln. Diese Technologie verspricht, aus realen Erfahrungen zu lernen und könnte somit eine Lösung für einige der aktuellen Herausforderungen bieten. Die gehirnbasierten Modelle sollen nicht nur energiesparender arbeiten, sondern auch schneller lernen und sich besser an neue Umgebungen anpassen können.

In einem anderen Bereich der KI-Entwicklung hat das Startup HPC-AI Tech mit Open-Sora 2.0 ein KI-Modell zur Videogenerierung vorgestellt, das qualitativ hochwertige Clips bei deutlich niedrigeren Trainingskosten erzeugen kann. Diese Entwicklung könnte den Videomarkt revolutionieren, indem sie die Kosten für die Videoproduktion erheblich senkt und somit neue Möglichkeiten für Kreative und Unternehmen eröffnet.

Die Bedeutung von Open-Source-Software (OSS) für die digitale Wirtschaft wird durch eine neue Studie der Harvard Business School unterstrichen. OSS bildet das Fundament der digitalen Wirtschaft und ermöglicht es Unternehmen, erhebliche Kosten zu sparen. Die Studie zeigt, dass ohne OSS die Ausgaben für Software um das 3,5-Fache steigen würden, was die immense wirtschaftliche Bedeutung dieser frei zugänglichen Software verdeutlicht.

In der Zwischenzeit hat Meta seinen KI-Assistenten “Meta AI” in der EU eingeführt, der in verschiedenen Plattformen wie WhatsApp und Facebook integriert ist. Diese Einführung zeigt, wie Unternehmen KI nutzen, um ihre Dienste zu erweitern und den Nutzern neue Funktionen zu bieten. Allerdings sind die Funktionen in der EU aufgrund regulatorischer Herausforderungen eingeschränkt, was die Komplexität der Einführung neuer Technologien in unterschiedlichen Märkten verdeutlicht.

Die Entwicklungen im Bereich der Künstlichen Intelligenz sind vielfältig und zeigen sowohl die Chancen als auch die Herausforderungen auf, die mit dieser Technologie verbunden sind. Während neue Modelle und Anwendungen entstehen, bleibt die Frage der Datengenauigkeit und des Datenschutzes zentral, um das Vertrauen der Nutzer in diese Technologien zu gewährleisten.

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.944 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen