TiU’ers waarschuwen Den Haag: deepfakes gevaarlijk voor democratie

Over vijf jaar is maar liefst negentig procent van alle online content deels gemanipuleerd of zelfs een volledige deepfake. Bovendien wordt het steeds moeilijker echte video’s en foto’s van neppe te onderscheiden. In een recent rapport waarschuwen TiU-onderzoekers de overheid voor een verraderlijke toekomst. “Grijp niet pas in als het kwaad al is geschied.”  

Toegegeven, het TikTok-filmpje waarin de Engelse royals zogenaamd meezingen met O-Zone’s klassieker Dragostea Din Tei is erg geestig. Maar een wereld waarin gemanipuleerde filmpjes alleen worden gebruikt voor satirische doeleinden is een utopie, waarschuwt TiU-hoofddocent Bart van der Sloot. Op verzoek van het Ministerie van Justitie en Veiligheid deed hij samen met Yvette Wagensveld en Bert-Jaap Koops, allen verbonden aan het Tilburg Institute for Law, Technology, and Society, onderzoek naar de gevaren van deepfakes.

Nep

“In Den Haag maakt men zich zorgen over de impact van gemanipuleerd digitaal materiaal op de democratie,” vertelt Van der Sloot over de aanleiding van het onderzoek. “In de Tweede Kamer is het onderwerp daarom al een paar keer besproken. Op dit moment zijn detectoren nog in staat om 65 procent van gemanipuleerde beelden te herkennen. Volgens experts daalt dat percentage snel. Wij hebben daarom in kaart gebracht wat er gebeurt op het gebied van deepfakes, en hoe gevaarlijk ze zijn.”

Deepfakes zijn neppe beelden, geluiden of foto’s, die online circuleren. Ze zijn bewerkt of zelfs volledig gefabriceerd, en geven geen waarachtige situatie weer. Wel zijn ze vaak realistisch, en door de snelle technologische vooruitgang op het gebied van kunstmatige intelligentie en machine learning steeds moeilijker van echt te onderscheiden. Op basis van bestaande video’s en afbeeldingen creëren algoritmes nieuwe bewegende beelden van situaties en zelfs personen. Voeg daar nog geluidsfragmenten aan toe, en minister-president Mark Rutte zegt zo dat “corona een crisis van kleuterformaat was.”

Ontwrichte samenleving

De onderzoekers zien dat er in Nederland al op een aantal politieke en maatschappelijke vlakken problemen bestaan door het gebruik van deepfakes: van gemanipuleerd bewijsmateriaal dat de weg vindt naar rechtszaken tot inmenging in de verkiezingen. Naar verwachting zullen die alleen maar toenemen in de komende jaren. De onderzoekers concluderen dus dat deepfakes het vermogen hebben om democratische processen aan te tasten. 

En er is meer. Van der Sloot: “Het grootste maatschappelijke probleem is misschien nog wel dat deepfake momenteel vooral gebruikt wordt om pornovideo’s te maken. Filmpjes waarin vrouwen seksuele handelingen lijken te verrichten die ze helemaal niet gedaan hebben. Als tieners dit bij hun klasgenoten doen, heeft het een enorme impact op jonge, opgroeiende meisjes en hun sociale status. Ook voor vrouwen in het openbaar bestuur is dit, bovenop alle bedreigingen die ze krijgen, een gigantisch probleem.”

Oproep tot discussie

Nederlandse wetgeving op dit gebied kan proactiever, zegt Van der Sloot. “Misleidende informatie verspreiden is strafbaar, net als het maken van porno zonder iemands toestemming. Alleen is de video of afbeelding er dan al wel, met alle ontwrichtende gevolgen van dien. Het is de vraag of de bestaande regulatie niet te laat komt. In ons rapport vragen we om bewustwording van de gevaren, zowel bij burgers als de overheid. Maar we wijzen er ook op dat de tijd is aangebroken om een politieke discussie te voeren over de wenselijkheid van andere wetgeving.”

Andere landen als China en de Verenigde Staten hebben vergevorderde deepfake-wetgeving. Vooral laatstgenoemde loopt volgens Van der Sloot voorop. “Bepaalde staten hebben een verbod op het maken van deepfakes in verkiezingstijd.” Of die aanpak hier politiek draagvlak heeft, weet hij niet. “Onze overheid is geneigd om Nederlanders aan te spreken op de eigen verantwoordelijkheid. Een verbod op deepfake-technologie is ingrijpend. Je komt dan snel in een juridisch moeras terecht, waarin discussies worden gevoerd over de vraag of dat censuur is. En het is precies die discussie die ik aanmoedig.”