^{Mijn ongevraagd advies van deze week gaat over het gebruik van AI in de wetenschap. Je vindt alle Ongevraagde Adviezen via deze Spotify playlist of via BNR, deze editie beluister je meteen hier:}

Felienne, wat speelt er?

Wetenschappers, het zijn net mensen. Ze lijken op grote schaal GPT te gebruken voor hun papers, een voorbeeld ging de afgelopen week viral omdat hun paper begint met de zin “Certainly, here is a possible introduction for your topic”. Dat soort zinnen herkennen we inmiddels allemaal wel als een karakteristieke GPT response. Maar dit paper staat niet alleen, als je op Google Scholar zoekt op deze zin vind je veel meer recente papers. Er zo zijn er nog meer zinnen, zoals “as of my last knowledge update” (zie: https://twitter.com/josephfcox/status/1769762024290939322) en woorden zoals “commendable” (https://twitter.com/generalising/status/1772744143476842732)

Ik heb echt even getwijfeld of ik dit onderwerp wel wilde aansnijden, immers, er is al zoveel wantrouwen in wetenschappers op dit moment (zie ook de recente uitbraak van kinkhoest en mazelen!) en zo maak ik het misschien erger.

Waarom gebruiken onderzoekers GPT? Is schrijven niet hun werk?

Een fenomeen dat we hier aan het werk zien is de steeds verder gaande druk op wetenschappers. Waar in vroeger tijden een wetenschapper een paar papers per jaar schreef en verder diep nadacht, worden de eisen aan wetenschappers steeds hoger en de vaste aanstellingen steeds schaarser: meer papers, meer impact, anders haal je het niet. Ondanks dat in Nederland een trend is ingezet om meer diverse werkzaamheden te belonen, is dat zeker niet overal zo, en is een cultuur niet zo snel veranderd. Het is dus begrijpelijk, maar nog steeds hartstikke fout, dat auteurs dit doen. We zouden echt een voorbeeld moeten zijn voor de samenleving, én ons bewust van dat er fouten kunnen optreden. Kritisch lezen (dat zo’n zin er zo uitgehaald had) is echt een must!!

Mag dit eigenlijk?

Dat is een goede vraag! Wetenschappers maken, in de zekere zin, hun eigen regels. Nature schreef vorig jaar dat het gebruik van AI door wetenschappers ‘perhaps’ was toegestaan, maar dat auteurs het wel moeten vertellen. Dat is in deze gevallen niet gebeurt, en dat is dus iets dat misschien zal leiden tot het terugtrekken van de papers. Maarja, is dat weer niet erg scherp? Als je een ontdekking doet die klopt, maar je gebruikt GPT voor de inleiding, is dat toch weer van een andere orde dan bijvoorbeeld data vervalsen. Hiervoor terugtrekken betekent ook minder inzicht in het proces van de wetenschap.

NWO, Nederlands’ wetenschappelijke subsidievertrekker verbiedt vooralsnog het gebruik in aanvragen maar over wat in onderzoek mag hebben ze nog geen uitspraak gedaan. Maar we hoeven ons natuurlijk niet tot regels te wenden om te snappen dat dit niet goed is! 

Zeker omdat we niet alleen bij het schrijven maar ook het beoordelen van papers (met het zogeheten Peer Review, waar wetenschappers elkaars papers beoordelen) lijkt er bewijs van het gebruik van GPT te zien. Dus mijn advies is: doe het niet! Het zit vol fouten en uiteindelijk is dit ook weer een nagel aan de doodskist van vertrouwen in de wetenschap en die ligt sowieso al bijna op het kerkhof!