Wie ein KI-Fehler die Wissenschaft beeinflusst

MÜNCHEN (IT BOLTWISE) – In der Welt der Wissenschaft hat sich ein kurioser Begriff eingeschlichen, der die Integrität wissenschaftlicher Arbeiten infrage stellt: “vegetative Elektronenmikroskopie”. Dieser Ausdruck, der technisch klingt, aber in Wirklichkeit Unsinn ist, hat sich als ein “digitales Fossil” etabliert, das durch Fehler in der KI-Trainingsdatenverarbeitung entstanden ist.

Der Begriff “vegetative Elektronenmikroskopie” tauchte erstmals in den 1950er Jahren auf, als zwei wissenschaftliche Arbeiten digitalisiert wurden. Dabei wurden die Wörter “vegetative” und “Elektronen” fälschlicherweise kombiniert, was zu diesem Phantombegriff führte. Jahrzehnte später fand sich dieser Begriff in einigen iranischen wissenschaftlichen Arbeiten wieder, was auf einen Übersetzungsfehler zurückzuführen ist, da die Wörter für “vegetative” und “scanning” im Farsi nur durch einen Punkt unterschieden werden.

Die Verbreitung dieses Fehlers zeigt, wie KI-Systeme Fehler nicht nur bewahren, sondern auch verstärken können. Moderne KI-Modelle wie GPT-3 von OpenAI haben den Begriff in ihren Trainingsdaten aufgenommen und verwenden ihn konsequent, während frühere Modelle wie GPT-2 dies nicht taten. Dies deutet darauf hin, dass der Fehler in den Trainingsdaten der KI-Modelle fest verankert ist, insbesondere in großen Datensätzen wie CommonCrawl.

Die Herausforderung besteht darin, solche Fehler zu finden und zu beheben. Die schiere Größe von Datensätzen wie CommonCrawl macht es schwierig, sie zu durchsuchen, und die mangelnde Transparenz der KI-Entwickler über ihre Trainingsdaten erschwert die Korrektur. Selbst wenn ein Fehler entdeckt wird, ist es nahezu unmöglich, ihn zu beheben, ohne legitime Referenzen zu entfernen.

Dieser Fall wirft auch Fragen zur Integrität des Wissens auf, da KI-gestützte Forschung und das Schreiben immer häufiger werden. Wissenschaftliche Verlage haben unterschiedlich auf die Entdeckung des Begriffs reagiert, einige haben betroffene Arbeiten zurückgezogen, während andere sie verteidigt haben. Dies zeigt, dass die Nutzung von KI-Systemen bereits Probleme im Peer-Review-Prozess geschaffen hat.

Die Entstehung solcher “digitaler Fossilien” verdeutlicht die Herausforderungen, die mit der Aufrechterhaltung zuverlässigen Wissens in einer Welt verbunden sind, in der Fehler sich selbst perpetuieren können. Technologiefirmen müssen transparenter über ihre Trainingsdaten und Methoden sein, während Forscher neue Wege finden müssen, um Informationen zu bewerten. Wissenschaftliche Verlage müssen ihre Peer-Review-Prozesse verbessern, um sowohl menschliche als auch KI-generierte Fehler zu erkennen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!