Gefahr durch KI-generierte Forschungsergebnisse in Google Scholar

MÜNCHEN (IT BOLTWISE) – Die zunehmende Verbreitung von KI-generierten Forschungsergebnissen stellt eine ernsthafte Bedrohung für die Integrität der Wissenschaft dar. Schwedische Forscher warnen davor, dass diese heimlich erstellten Dokumente in wissenschaftlichen Datenbanken und Fachzeitschriften auftauchen und das Vertrauen in die Wissenschaft untergraben könnten.

Die rasante Entwicklung generativer Künstlicher Intelligenz hat nicht nur positive Auswirkungen auf die Wissenschaft, sondern birgt auch erhebliche Risiken. Schwedische Forscher haben alarmierende Entdeckungen gemacht: Heimlich KI-generierte Forschungsergebnisse tauchen zunehmend in Google Scholar und anderen wissenschaftlichen Datenbanken auf. Diese Dokumente, die oft überzeugend wissenschaftlich wirken, könnten die Qualitätskontrolle in der Wissenschaft überfordern und die Integrität wissenschaftlicher Aufzeichnungen gefährden.

Ein besonderes Problem stellt die Möglichkeit dar, dass solche Dokumente absichtlich irreführend gestaltet werden, um in öffentlichen Suchmaschinen wie Google Scholar bevorzugt angezeigt zu werden. Dies könnte das Vertrauen in wissenschaftliche Erkenntnisse untergraben und eine ernsthafte Gefahr für die Gesellschaft darstellen. Falsche Ergebnisse könnten gezielt platziert werden, um Entscheidungsträger zu beeinflussen und gesellschaftliche Entscheidungen zu manipulieren.

Eine Untersuchung von Wissenschaftlern der Hochschule Borås und der Schwedischen Universität für Agrarwissenschaften hat gezeigt, dass viele dieser Dokumente in angesehenen wissenschaftlichen Zeitschriften veröffentlicht wurden. Die Forscher zogen eine Stichprobe von Dokumenten aus Google Scholar, die typische Fehlermeldungen generativer KI enthielten, und fanden heraus, dass fast jedes siebte dieser Dokumente in renommierten Zeitschriften erschienen ist.

Die Themen der untersuchten Fake-Forschung reichten von Informatik über Umwelt bis hin zu Gesundheit, wobei Fische und deren Zucht besonders häufig vorkamen. Diese zweifelhaften Werke wurden auch auf Plattformen wie Researchgate und in sozialen Netzwerken gefunden, was ihre Verbreitung weiter begünstigt.

Die schwedischen Forscher betonen, dass es keine einfache Lösung für dieses Problem gibt. Sie schlagen vor, dass technische, bildungsbezogene und regulatorische Ansätze gleichzeitig verfolgt werden müssen. Wichtig sei nicht nur die Erkennung betrügerischer Arbeiten, sondern auch das Verständnis, wie diese ihr Publikum erreichen und warum sie im Umlauf bleiben.

Suchmaschinen könnten beispielsweise Filtermöglichkeiten anbieten, um nach bestimmten Klassen wissenschaftlicher Zeitschriften oder begutachteten Quellen zu suchen. Der Suchindex sollte transparent erstellt werden und sich an wissenschaftlichen Kriterien orientieren. Da Google Scholar keinen wirklichen Mitbewerber hat, gibt es gewichtige Gründe, eine frei verfügbare, allgemeine Wissenschaftssuchmaschine zu etablieren, die im öffentlichen Interesse betrieben wird.

Die Forscher betonen, dass das Problem nicht nur ein technisches ist, das durch KI-Texterzeugung entsteht. Vielmehr müsse es im Kontext des kaputten wissenschaftlichen Publiziersystems und ideologischer Kämpfe über die Kontrolle von Wissen angegangen werden. Die Bildung von Bewusstsein für das Problem, insbesondere bei Entscheidungsträgern und Multiplikatoren wie Journalisten, sei entscheidend.

Die Untersuchung der schwedischen Forscher wurde in der Zeitschrift Misinformation Review der Harvard Kennedy School veröffentlicht. Sie zeigt, dass fragwürdige und potenziell manipulative, mit GPT fabrizierte Paper die Forschungsinfrastruktur durchdringen und wahrscheinlich ein weit verbreitetes Phänomen werden. Die Ergebnisse unterstreichen, dass das Risiko falscher wissenschaftlicher Aufsätze, die als böswillig manipulative Beweise eingesetzt werden, ernst genommen werden muss.

• IT BOLTWISE® kostenlos auf Patreon unterstützen!
• Zur Startseite von IT BOLTWISE® für aktuelle KI-News!