MÜNCHEN (IT BOLTWISE) – Eine Reihe von wissenschaftlichen Veröffentlichungen, die offensichtlich von KI generierte Bilder enthielten, darunter Diagramme einer Ratte mit unverhältnismäßig großen Genitalien, hat Fragen zur Glaubwürdigkeit und Integrität des Peer-Review-Prozesses aufgeworfen.
Kürzlich hat die Veröffentlichung einer Studie in einem renommierten Fachjournal, die groteske und offensichtlich von Künstlicher Intelligenz erzeugte Bilder beinhaltete, für Aufsehen gesorgt. Die betreffenden Bilder, darunter das eines Nagers mit überdimensioniertem Penis, wurden ohne angemessene Überprüfung durch den Peer-Review-Prozess zugelassen. Dies wirft ernsthafte Fragen hinsichtlich der wissenschaftlichen Integrität und der Zuverlässigkeit des Begutachtungsprozesses auf.
Article published a couple of days ago. Every figure in the article is AI generated and totally incomprehensible. This passed "peer-review" https://t.co/8oeyjbn098 pic.twitter.com/d58ME9bXTk
— clifford (@cliff_swan) February 15, 2024
Der Vorfall beleuchtet die zunehmende Durchdringung generativer KI in der akademischen Welt und deren Auswirkungen. Die betroffene Forschungsarbeit, die sich mit der Beziehung zwischen Stammzellen in Säugetiertestes und einem für Entzündungen und Krebs in Zellen verantwortlichen Signalweg befasste, enthielt neben dem skurrilen Rattendigramm auch weitere irreführende Abbildungen. Diese stellten unter anderem Zellstrukturen dar, die eher an außerirdische Pizzas erinnerten als an seriöse wissenschaftliche Diagramme.
Die generierten Bilder, die mit Midjourney, einer der populärsten generativen Bild-KIs, erstellt wurden, enthielten nicht nur anatomische Ungereimtheiten, sondern auch unverständlichen Text. Die Tatsache, dass solche Inhalte den wissenschaftlichen Peer-Review-Prozess passieren konnten, verdeutlicht eine besorgniserregende Lücke in der wissenschaftlichen Publikationspraxis. Einige Forscher und Beobachter warnen davor, dass generative KI die Qualität, Vertrauenswürdigkeit und den Wert wissenschaftlicher Arbeiten ernsthaft untergraben könnte.
Es ist unklar, wie solch offensichtlich fehlerhafte Inhalte die redaktionelle Überprüfung, das Peer-Review und den Veröffentlichungsprozess durchlaufen konnten. Ein in den USA ansässiger Gutachter äußerte, dass es nicht seine Verantwortung sei, offensichtlich inkorrekte Bilder zu überprüfen, da dies in den Zuständigkeitsbereich des Verlags falle. Dies unterstreicht das Dilemma der Verantwortungsteilung zwischen Autoren, Gutachtern und Verlagen in der heutigen wissenschaftlichen Kommunikation.
Die Vorfälle zeigen, dass die wissenschaftliche Gemeinschaft ihre Standards aktualisieren muss, um der neuen Realität, die durch den Einsatz von KI entsteht, gerecht zu werden. Während einige Fachzeitschriften bereits den Einsatz generativer KI für Bilder und Figuren in Artikeln aufgrund von Integritätsrisiken verboten haben, bleibt die Debatte darüber, wie man am besten mit dieser neuen Herausforderung umgeht, lebhaft und ungelöst.
Ergänzungen und Infos bitte an die Redaktion per eMail an de-info[at]it-boltwise.de
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.