De impact van een nieuwe ‘schrijfrobot’: ‘Ik heb ChatGPT een tentamen laten maken. Het haalde een negen!’

De impact van een nieuwe ‘schrijfrobot’: ‘Ik heb ChatGPT een tentamen laten maken. Het haalde een negen!’

ChatGPT heeft de afgelopen week heel wat harten op hol doen slaan. De nieuwe ‘schrijfrobot’ die net zo gemakkelijk een gedicht schrijft als een inhoudelijk artikel, overtreft alle verwachtingen. Wat kunnen we verwachten van dit systeem? Univers vroeg het aan Chris van der Lee, onlangs gepromoveerd op ‘computationele linguïstiek’ en professor Emiel Krahmer van het Departement Cognitie en Communicatie van de Tilburg School of Humanities and Digital Sciences.

Beeld: Mohamed Hassan / Pixabay

De media staan afgelopen week bol van de berichten over ChatGPT (Generative Pre-trained Transformer). Maar wat is het precies?

Chris van der Lee: “Het is eigenlijk helemaal geen robot die schrijft, het heeft geen armen of een lichaam. Het is een taalmodel, een stuk software, dat op basis van zogenaamde neurale netwerken getraind is op gigantische hoeveelheden tekst (door mensen geschreven) en op basis van statistische berekeningen heel goed kan voorspellen wat het volgende woord is. Dat klinkt conceptueel redelijk simpel, maar de mogelijke toepassingen kunnen een grote impact hebben. Vergelijkbaar met bijvoorbeeld de zoekmachine van Google, omdat het gebruik maakt van alle kennis op het internet en in andere databases.”

Emiel Krahmer: “Ik zou het geen chatbot noemen, want dat zijn systemen die bedoeld zijn voor conversatie, meestal gesprekken over een afgebakend onderwerp. ChatGPT is een zelflerend systeem en kan antwoord geven op willekeurige vragen. Het is eigenlijk een vraag-antwoord-systeem en het nieuwe eraan is dat het op een schijnbaar oneindig aantal vragen antwoord kan geven.”

‘Het kan als voordeel hebben dat studenten beter geschreven scripties inleveren’


Van der Lee: “Het geeft feitelijke informatie. En het mooie eraan is dat het niet alleen ontelbare onderwerpen kan behandelen, maar ook in verschillende stijlen. Zo lijkt het bijvoorbeeld sarcasme te herkennen. En kan het gedichten schrijven, maar ook bezwaarschriften.”

Ondanks alle juichverhalen moeten we ook kritisch blijven, waarschuwen beide onderzoekers. Krahmer: ”Het systeem kan ontzettend veel, maar de antwoorden blijken lang niet altijd te kloppen. Het is geen orakel, het slaat wel eens de plank mis.”

Van der Lee: “Daarbij maakt het gebruik van data uit geavanceerde taalmodellen, waarbij de grote talen statistisch gezien een voordeel hebben. Talen als het Engels en het Spaans zijn veel wijder verbreid dan het Nederlands, en de informatie die in die talen is opgeslagen, heeft dus meer kans om in een antwoord terug te komen.”

Chris van der Lee, jij hebt onlangs met succes jouw proefschrift verdedigd over het gebruik van taalmodellen voor het automatisch genereren van taal. Kan ChatGPT ook een proefschrift schrijven?

Van der Lee: “Haha, nee, dat is onwaarschijnlijk. Het systeem gaat uit van bestaande kennis uit bestaande databases. Bij een promotieonderzoek wil je juist nieuwe kennis verwerven, door nieuwe hypotheses op te stellen en nieuwe data te verzamelen. Dit systeem kan dat niet. Het kan wel bestaande teksten goed samenvatten, en dat is bijvoorbeeld heel handig aan het begin van een promotieonderzoek, als je een literatuurstudie moet maken en samenvatten.”

Krahmer: “Het is een hulpmiddel, net zoals de rekenmachine en spellingcontrole dat zijn — maar dan wel van een heel hoog en algemeen niveau. En het kan heel goed inleidende teksten schrijven, die zijn vaak wat algemener.”

Wat is de mogelijke impact van ChatGPT in de academische wereld?

Krahmer: “In het onderwijs zal het een grote impact hebben. Studenten kunnen het systeem bijvoorbeeld een essay laten schrijven. En ik heb het al een tentamen laten maken. ChatGPT haalde een negen! Maar we moeten het ook niet overschatten, want het maakt nogal eens fouten, dus je kunt er niet blind op vertrouwen. Het is net als met googelen, daarbij zeggen we ook tegen studenten dat ze goed moet blijven opletten.”

Van der Lee: “Het kan als voordeel hebben dat studenten beter geschreven scripties inleveren, doordat ChatGPT stukken tekst kan herformuleren. Het taalgebruik en de zinsbouw van sommige studenten is nu soms van een belabberd niveau.”

Maar hoe kan een docent zien of iets geschreven is door ChatGPT of door een student zelf?

Van der Lee: “Dat blijft lastig.”

Kan een docent ChatGPT gebruiken om dat te controleren?

Krahmer: “Dat zou kunnen. Dat moet de tijd nog uitwijzen. We hebben eigenlijk geen inzicht in het model. Misschien zou het een watermerk kunnen toevoegen in de tekst, zodat je altijd kan zien wat de bron van de tekst is.”

‘ChatGPT kan zomaar achter een betaalmuur verdwijnen’

Van der Lee: “Er zal wel een vorm van controle worden ingebouwd. Want de makers zijn een commerciële partij, en die willen geen reputatieschade oplopen doordat het systeem bijvoorbeeld op grote schaal nepnieuws gaat produceren.”

Maar het is toch een open source systeem?

Krahmer: “Nee, het is een commercieel product dat voorlopig vrij te gebruiken is. Het is denk ik ook belangrijk om toe te voegen dat we geen inzicht hebben in hoe het model precies in elkaar zit en waar het precies op getraind is. Dat doen ze heel slim, want als iedereen het ontdekt heeft en gaat gebruiken, kan het zomaar achter een betaalmuur verdwijnen.”

Ik ben journalist. Ben ik straks mijn baan kwijt door ChatGPT?

Van der Lee: “Daar hoef je niet bang voor te zijn. Zolang je verdieping toevoegt aan bestaande teksten, blijf je een meerwaarde houden. Daar kan het systeem nog niet aan tippen.”

Dus ChatGPT zou dit interview niet kunnen doen?

Krahmer: “Nee, Google heeft ook geen banen gekost. Het systeem zal nieuwe toepassingen vinden waardoor weer nieuwe banen ontstaan.”

Van der Lee: “Toen de boekdrukkunst werd uitgevonden gingen de monniken gewoon iets anders doen dan boeken kopiëren, toen gingen ze bierbrouwen.”

Advertentie

Bekijk meer recent nieuws

Schrijf je in voor onze nieuwsbrief

Blijf op de hoogte. Meld je aan voor de nieuwsbrief van Univers.