AWS präsentiert neues Tool zur Vermeidung von KI-Halluzinationen

LAS VEGAS / MÜNCHEN (IT BOLTWISE) – Amazon Web Services (AWS) hat auf der jährlichen re:Invent Konferenz in Las Vegas ein innovatives Tool vorgestellt, das darauf abzielt, die Zuverlässigkeit von KI-Modellen zu erhöhen. Dieses neue Werkzeug, bekannt als “Automated Reasoning Checks”, soll helfen, sogenannte KI-Halluzinationen zu verhindern, indem es die Antworten von Modellen mit bereitgestellten Informationen abgleicht.

Die Herausforderung, die AWS mit seinem neuen Tool adressiert, ist die zunehmende Problematik von KI-Halluzinationen. Diese treten auf, wenn KI-Modelle ungenaue oder irreführende Informationen liefern, die nicht auf tatsächlichen Daten basieren. Solche Halluzinationen können in kritischen Anwendungen zu erheblichen Problemen führen, weshalb AWS mit den “Automated Reasoning Checks” eine Lösung anbietet, die die Genauigkeit von KI-gestützten Antworten erhöhen soll.

Das Tool wird über den Bedrock-Modell-Hosting-Service von AWS bereitgestellt und ermöglicht es Kunden, ihre eigenen Informationen hochzuladen, um eine Art Grundwahrheit zu etablieren. Diese Grundwahrheit dient als Referenzpunkt, um die Antworten der KI-Modelle zu überprüfen und potenzielle Abweichungen sichtbar zu machen. Sollte eine Halluzination erkannt werden, präsentiert das Tool die korrekten Informationen neben der fehlerhaften Antwort.

Obwohl AWS das Tool als einzigartig bewirbt, gibt es bereits ähnliche Ansätze von anderen Technologieriesen. Microsoft hat im Sommer eine Korrekturfunktion eingeführt, die ebenfalls darauf abzielt, sachliche Fehler in KI-generierten Texten zu identifizieren. Google bietet mit Vertex AI ein Tool an, das Modelle durch externe Datenquellen validiert. Diese Entwicklungen zeigen, dass die Branche insgesamt bestrebt ist, die Zuverlässigkeit von KI-Systemen zu verbessern.

Ein interessanter Aspekt des AWS-Ansatzes ist die Integration in den Bedrock-Service, der es Unternehmen ermöglicht, ihre KI-Modelle auf einer skalierbaren Plattform zu hosten. Dies könnte insbesondere für Unternehmen von Vorteil sein, die große Datenmengen verarbeiten und gleichzeitig die Genauigkeit ihrer KI-Modelle sicherstellen müssen. PwC nutzt diesen Dienst bereits, um KI-Assistenten für seine Kunden zu entwickeln, was die praktische Anwendbarkeit des Tools unterstreicht.

Swami Sivasubramanian, Vizepräsident für KI und Daten bei AWS, betonte die Bedeutung solcher Innovationen für die Kundenbindung an Bedrock. Er hob hervor, dass die Kundenbasis von Bedrock im vergangenen Jahr erheblich gewachsen ist, was auf das gestiegene Interesse an robusten KI-Lösungen hinweist. Trotz dieser Fortschritte warnen Experten jedoch, dass die vollständige Eliminierung von Halluzinationen aus generativen KI-Systemen eine komplexe Herausforderung bleibt.

Die Entwicklung von “Automated Reasoning Checks” ist ein weiterer Schritt in der Evolution der KI-Technologie, die darauf abzielt, die Zuverlässigkeit und Vertrauenswürdigkeit von KI-Anwendungen zu erhöhen. In einer Welt, in der KI zunehmend in geschäftskritischen Prozessen eingesetzt wird, ist die Fähigkeit, genaue und vertrauenswürdige Informationen zu liefern, von entscheidender Bedeutung. Die Zukunft wird zeigen, wie effektiv diese neuen Tools in der Praxis sind und welche weiteren Innovationen in diesem Bereich zu erwarten sind.