KI als Werkzeug und Risiko in der Wissenschaft

MÜNCHEN (IT BOLTWISE) – Die Künstliche Intelligenz (KI) hat sich als ein mächtiges Werkzeug in der Wissenschaft etabliert, das Forschern hilft, komplexe Probleme zu lösen und neue Erkenntnisse zu gewinnen. Doch mit der zunehmenden Verbreitung von KI-Technologien wächst auch das Risiko von wissenschaftlichem Fehlverhalten, das durch diese Technologien begünstigt wird.

Die Einführung neuer KI-Systeme, wie sie kürzlich von Google angekündigt wurden, zeigt das Potenzial dieser Technologien, die wissenschaftliche Forschung zu revolutionieren. Diese Systeme sollen Wissenschaftler bei der Entwicklung neuer Hypothesen und Forschungspläne unterstützen. Doch während KI in der Lage ist, bedeutende wissenschaftliche Durchbrüche zu ermöglichen, birgt sie auch Gefahren, insbesondere im Hinblick auf wissenschaftliches Fehlverhalten.

Ein bemerkenswertes Beispiel für den Nutzen von KI in der Wissenschaft ist die Entwicklung eines KI-Modells, das die Form aller bekannten Proteine vorhersagen kann. Diese Errungenschaft wurde von der Nobelkommission als die Erfüllung eines 50 Jahre alten Traums beschrieben. Solche technologischen Fortschritte sind jedoch nur eine Seite der Medaille.

Die andere Seite zeigt sich in der steigenden Anzahl von wissenschaftlichen Arbeiten, die aufgrund von Datenfälschung oder Plagiaten zurückgezogen werden. Im Jahr 2023 wurden über 10.000 wissenschaftliche Arbeiten zurückgezogen, die zuvor mehr als 35.000 Mal zitiert wurden. Diese Entwicklung wird durch die Verfügbarkeit von generativen KI-Programmen wie ChatGPT weiter verschärft, die es erleichtern, gefälschte Forschung zu erstellen.

Ein Experiment von zwei Forschern verdeutlichte dies, indem sie 288 vollständig gefälschte akademische Finanzpapiere mit KI generierten. Solche Technologien könnten leicht zur Erstellung fiktiver klinischer Studiendaten oder zur Manipulation von Gen-Editing-Experimenten genutzt werden, um unerwünschte Ergebnisse zu verbergen.

Es gibt bereits zahlreiche Fälle, in denen KI-generierte Arbeiten die Peer-Review überstanden und veröffentlicht wurden, nur um später aufgrund von schwerwiegenden Mängeln wie gefälschten Referenzen und absichtlich fabrizierten Daten zurückgezogen zu werden. Auch der Peer-Review-Prozess selbst wird zunehmend von KI beeinflusst, was die Integrität der wissenschaftlichen Begutachtung gefährden könnte.

Ein weiteres Risiko besteht in der unabsichtlichen Erstellung falscher wissenschaftlicher Ergebnisse durch KI. Ein bekanntes Problem generativer KI-Systeme ist das sogenannte “Halluzinieren”, bei dem die Systeme Antworten erfinden, anstatt zuzugeben, dass sie die Antwort nicht kennen. Studien zeigen, dass ein erheblicher Anteil der von KI generierten Antworten Fehler enthält, die von menschlichen Prüfern oft nicht korrigiert werden.

Trotz dieser Herausforderungen sollten wir die Nutzung von KI in der Wissenschaft nicht verteufeln. KI bietet erhebliche Vorteile, indem sie als leistungsfähiger Laborassistent fungiert und repetitive Aufgaben automatisiert. Die Herausforderung besteht darin, geeignete Richtlinien und Schutzmaßnahmen zu entwickeln, um die Vorteile zu maximieren und die Risiken zu minimieren.

Die Wissenschaftsgemeinschaft steht vor der Wahl: Sollten wir eine KI-Verhaltenskodex entwickeln, der die ethische und verantwortungsvolle Nutzung von KI in der Wissenschaft sicherstellt, oder riskieren wir, dass eine kleine Anzahl von Akteuren unsere Felder diskreditiert und uns die Chancen entgehen lässt?

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.944 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen