Wie ein Fehler in der KI-Welt zum digitalen Fossil wurde

MÜNCHEN (IT BOLTWISE) – In der Welt der Wissenschaft und Technologie gibt es immer wieder Überraschungen, doch manchmal sind es die unscheinbaren Fehler, die die größten Auswirkungen haben. Ein solcher Fall ist der Begriff ‘vegetative Elektronenmikroskopie’, der sich als digitales Fossil in der KI-Welt etabliert hat.

Die Entdeckung eines seltsamen Begriffs in wissenschaftlichen Publikationen hat die Aufmerksamkeit der Forscher auf sich gezogen: ‘vegetative Elektronenmikroskopie’. Dieser Begriff, der zwar technisch klingt, jedoch keinen Sinn ergibt, hat sich als digitales Fossil in den Wissensdatenbanken der Künstlichen Intelligenz (KI) festgesetzt. Wie biologische Fossilien in Gesteinsschichten, könnten solche digitalen Artefakte zu dauerhaften Bestandteilen unseres Informationsökosystems werden.

Der Ursprung dieses Begriffs lässt sich auf eine Verkettung unglücklicher Umstände zurückführen. In den 1950er Jahren wurden zwei wissenschaftliche Arbeiten digitalisiert, wobei ein Fehler im Scanprozess die Wörter ‘vegetative’ und ‘Elektronen’ aus unterschiedlichen Textspalten kombinierte. Jahrzehnte später tauchte der Begriff in einigen iranischen wissenschaftlichen Arbeiten auf, was auf einen Übersetzungsfehler zurückzuführen ist. Im Farsi unterscheiden sich die Wörter für ‘vegetative’ und ‘scanning’ nur durch einen Punkt.

Die Verbreitung des Begriffs ‘vegetative Elektronenmikroskopie’ ist ein Beispiel dafür, wie KI-Systeme Fehler verstärken und verbreiten können. Moderne Sprachmodelle wie GPT-3 von OpenAI haben den Begriff in ihren Datenbanken aufgenommen, während ältere Modelle wie GPT-2 und BERT dies nicht taten. Dies zeigt, dass der Fehler in den Trainingsdaten der neueren Modelle verankert ist.

Die Herausforderung, solche Fehler zu finden und zu beheben, ist enorm. Die Datenmengen, auf denen KI-Modelle trainiert werden, sind riesig, und die Ressourcen, um diese zu analysieren, sind oft nur großen Technologieunternehmen zugänglich. Zudem fehlt es an Transparenz bei den verwendeten Trainingsdaten, was die Korrektur solcher Fehler erschwert.

Die Auswirkungen solcher digitalen Fossilien auf die Wissenschaft und das Verlagswesen sind erheblich. Einige Verlage haben betroffene Arbeiten zurückgezogen, während andere sie verteidigt haben. Der Fall wirft die Frage auf, wie viele weitere unsinnige Begriffe in KI-Systemen schlummern und darauf warten, entdeckt zu werden.

Die Integration von KI in die Forschung und das Schreiben von wissenschaftlichen Arbeiten stellt neue Herausforderungen an die Integrität des Wissens. Es ist entscheidend, dass Technologieunternehmen transparenter mit ihren Daten umgehen und Forscher neue Methoden entwickeln, um Informationen zu bewerten. Wissenschaftliche Verlage müssen ihre Peer-Review-Prozesse verbessern, um sowohl menschliche als auch KI-generierte Fehler zu erkennen.

Die Entstehung digitaler Fossilien zeigt nicht nur die technischen Herausforderungen bei der Überwachung großer Datensätze, sondern auch die grundlegende Herausforderung, zuverlässiges Wissen in Systemen zu bewahren, in denen Fehler sich selbst verstärken können.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!