Emmelyn Croes: ‘Iets claimen zonder wetenschappelijk bewijs? Dat moet gewoon verdwijnen’

Elke maand vraagt Univers aan een wetenschapper wat hij of zij zou onderzoeken wanneer alles mogelijk is. Voldoende geld, voldoende tijd, geen restricties. Kortom: utopisch denken. Deze keer: Emmelyn Croes, universitair docent bij Tilburg School of Humanities and Digital Sciences (TSHD).

Wat doet u voor onderzoek?

‘Ik heb twee onderzoekslijnen. De ene gaat over de inzet van sociale chatbots. We zijn ooit begonnen met onderzoeken of je bevriend kan worden met een chatbot, voor de tijd van ChatGPT…’

Er is een tijd van vóór en na?

‘Zeker, dat is zo’n belangrijke ontwikkeling geweest. Voorheen associeerden veel mensen een chatbot met een klantenservice-chatbot, zoals Billy van Bol.com. Nu weet iedereen wat een chatbot is en wat het kan. Dat heeft ons onderzoek veranderd. Tegenwoordig denkt iedereen na afloop van een experiment dat ze met een chatbot hebben gepraat.

‘Soms was dat zo, maar soms ook niet, dan zat er een mens aan de andere kant die een bepaald script volgde. De grenzen vervagen dus. Chatbots worden zó goed, dat het moeilijker wordt om te laten zien dat ze écht met een mens hebben gepraat.’

Hoe goed is ChatGPT tegenwoordig?

‘Echt heel goed. Laatst zag ik een voorbeeld van hoe je het kunt personaliseren. ‘Can you make the response more ‘browy’, zo van: yo bro, how are you doing bro, en dat werkt dan. Wat ze nog altijd minder goed kunnen is jou echt leren kennen, een band met je opbouwen.’ 

Sorry, terug naar de onderzoekslijn. 

‘Nou, je kon dus geen vriendschap sluiten met chatbots, daar waren ze niet goed genoeg voor, niet persoonlijk genoeg, er was te veel herhaling en misverstanden, enzovoorts. Dat is inmiddels een stuk beter. Een groot project op dit moment is: kunnen we chatbots gebruiken voor studentenwelzijn? Al jarenlang hebben studenten, gemiddeld genomen, last van een verminderd welzijn.

‘Vaak zijn hun klachten niet erg genoeg voor een psycholoog. Een chatbot kan een deel van hen misschien opvangen in tijden van stress. Een chatbot heeft veel voordelen: altijd beschikbaar, personaliseerbaar. De vraag is: zouden studenten dat willen?’

Wat zou u qua chatbot-onderzoek voor u zien, utopisch gezien? 

‘Met genoeg tijd en geld zouden we zelf een chatbot ontwikkelen en zorgen dat alle gegevens veilig worden opgeslagen, in eigen beheer, zodat het ethisch verantwoord is en zodat de data niet door derden worden gebruikt. Dat is nu soms moeilijk. Maar zou dat lukken, dan kunnen we ons huidige onderzoek nog beter uitvoeren.

‘We zouden studenten met de chatbot laten praten en in de tekst detecteren hoe het met ze gaat, op basis van bepaalde woorden en zinnen die ze gebruiken. Zo kunnen we misschien anticiperen op een verminderd welzijn en ze helpen in stressvolle periodes, of doorverwijzen, als dat nodig is, want een chatbot is geen therapeut. Al kan het, denk ik, wel iemand bijstaan.’ 

En de tweede lijn?

‘Die gaat over influencers. Waarom worden ze door zoveel mensen, en met name kinderen, gevolgd? Wat is hun impact op koopintentie? Kunnen ze ook gezond gedrag stimuleren? Een actueel onderwerp op dit moment is misinformatie.

‘Influencers prijzen van alles aan zonder onderbouwing, niet alleen producten maar ook ideeën, bijvoorbeeld over dat het eenvoudig is om te stoppen met de pil en niet zwanger te raken, of dat zonnebrand kankerverwekkend is. Als wetenschapper wil ik daar graag iets tegen doen.’

Alles is weer mogelijk…

‘Als ik heel veel geld zou hebben, zou ik in samenwerking met de overheid, met overheden over de hele wereld, een soort nutri-score ontwikkelen voor misinformatie. Als je als influencer een post aan het maken bent over onzin, wat dus in strijd is met wat wij als waar beschouwen, gebaseerd op wetenschappelijk onderzoek of WHO-claims, dat je dan meteen, via een tool, te zien krijgt: dit klopt niet.

‘Als je dit gaat publiceren, bijvoorbeeld over dat zonnebrand smeren kanker veroorzaakt, gaan we je straffen. Je wordt minder zichtbaar in het algoritme, of krijgt bij betaalde samenwerkingen minder geld uitgekeerd. Dus meteen consequenties.

‘En de post, in het geval die nog geplaatst wordt, krijgt een score. Klopt het, dan volgt er een waarheidsscore ‘A’. Dan word je beloond, sta je bovenaan in het algoritme, zijn je stories zichtbaar, krijg je beter betaald bij samenwerkingen, enzovoorts. Het is denk ik belangrijk dat de AI-tool realtime feedback geeft, zodat je het bij de bron aanpakt. Dan krijg je hopelijk een systeem zonder misinformatie, of is de kans daarop in ieder geval veel lager.

‘En ja, dat voelt een beetje als een dictatorschap, maar het gaat echt om claims waarvan bewezen is dat het niet waar is, of waarvan we het niet weten. Een claim waar geen wetenschappelijk bewijs voor is, moet gewoon verdwijnen.’