AI Slop in der Wissenschaft: Mehr Papers, aber weniger Originalität und Tiefe - Golem.de

Posted on in technology

Der Einsatz künstlicher Intelligenz hat die Anzahl von Studien weltweit rasant steigen lassen. Neue Lösungen wurden nicht gefunden, nur vertraute Probleme.

Einfachere Zeiten: Wissenschaftliche Forschung im Jahr 1956 am britischen Forschungszentrum für Atomenergie (Bild: Evening Standard/Hulton Archive/Getty Images)

Einfachere Zeiten: Wissenschaftliche Forschung im Jahr 1956 am britischen Forschungszentrum für Atomenergie Bild: Evening Standard/Hulton Archive/Getty Images

Ein Forschungsteam der University of Chicago in Illinois, USA, hat für eine in Nature(öffnet im neuen Fenster)veröffentlichte Studie etwa 40 Millionen wissenschaftliche Papers aus den vergangenen 45 Jahren untersucht. Darin zeigt sich, dass die Verwendung von künstlicher Intelligenz Folgen für die einzelnen Autoren und gleichzeitig für das ganze Fachgebiet hat. Das hat zuerst IEEE Spectrum(öffnet im neuen Fenster) berichtet.

Demnach veröffentlichen Wissenschaftler, die künstliche Intelligenz nutzen, dreimal so viele Schriften und werden fünfmal so oft zitiert, verglichen mit einem Verzicht auf diese Hilfestellung. Auch werden sie im Durchschnitt ein Jahr eher befördert.

Allerdings folgen die wissenschaftlichen Publikationen, die auf maschinelles Lernen oder Deep Learning setzen, stets ähnlichen Mustern. Die untersuchten Themen genießen durchweg eine höhere Popularität, sind vor allem durch Datenanalysen geprägt und bieten größtenteils wenig überraschende Ergebnisse.

Wissenschaftliche Arbeit verengt sich weiter

Entsprechend folgen auf die Studien, die unter Zuarbeit künstlicher Intelligenz erstellt wurden, weniger darauf aufbauende Studien. Die Arbeiten konzentrieren sich auf die Bereiche der wissenschaftlichen Forschung, zu denen viele Daten existieren und die gut untersuchbare Probleme liefern. Stets gibt es eine klare Fragestellung.

Probleme, bei denen schon die Herangehensweise unklar ist, und wo Lösungen nicht nur durch Messungen oder Datenanalysen gefunden werden können, verlieren hingegen an Sichtbarkeit. Für die persönliche Karriere bieten sie weniger Chancen.

Wertlose Studien steigen rasant an

Gleichzeitig fanden die Studienautoren neben massenhaften wissenschaftlich zumindest fragwürdigen Papers zahlreiche betrügerische Arbeiten, die erst im späteren Verlauf als solche erkannt wurden. Das heißt: Zunächst wurden diese Publikationen veröffentlicht, teilweise auch zitiert.

Der Schaden sei kaum rückgängig zu machen. Schließlich würden auch jene KI-Modelle, die für wissenschaftliche Arbeiten herangezogen werden, wiederum diese fragwürdigen Studien als Teil ihrer Datenbasis nutzen.

Neu ist das Problem der Verengung des wissenschaftlichen Arbeitens nicht. Der verantwortliche Autor der Nature-Studie, James Evans, hatte bereits 2008 die Auswirkungen der digitalen Verfügbarkeit von wissenschaftlichen Studien untersucht.

Schon damals wurden messbar große, in Suchmaschinen besonders gut sichtbare Studien häufiger gelesen und zitiert als zu Zeiten, da die Recherche in Bibliotheken stattfand. So, wie künstliche Intelligenz derzeit in der Wissenschaft eingesetzt wird, bleibt ein Mehrwert laut Evans begrenzt.

Statt die wissenschaftliche Arbeit einfach nur zu beschleunigen, indem das am einfachsten untersuchbare Problem aufgegriffen werde, müssten Wege gesucht werden, um mit neuen Werkzeugen auch neue Probleme lösen zu können.