News and events Tilburg University

Deepfakes kunnen op termijn de samenleving ontwrichten

Gepubliceerd: 05 januari 2022 Laatst bijgewerkt: 13 januari 2022

Door de opkomst van deepfakes zal de vraag ‘Wat is echt?’ steeds vaker op de politieke en maatschappelijke agenda komen te staan. Deepfakes kunnen worden gebruikt om nepnieuws te verspreiden, verkiezingen te beïnvloeden, realistisch fakebewijs aan rechters voor te leggen en fake pornofilms van vrouwen te maken. Ieder van deze toepassingen heeft potentieel een zeer grote impact op de samenleving, sociale structuren en de democratische rechtsorde. Dat blijkt uit vandaag verschenen onderzoek van het Tilburg Institute for Law, Technology, and Society (TILT), Tilburg University, in opdracht van het WODC.

Een deepfake is beeld, geluid of ander digitaal materiaal dat nep is, maar zeer realistisch lijkt. Met machine learning en artificial intelligence wordt nieuwe digitale content gemaakt uit bestaande video’s, stemmen en afbeeldingen. Ook kunnen geheel nieuwe (virtuele) personen of beelden worden gefabriceerd. Kwalitatief goede deepfakes zijn niet of nauwelijks van echt te onderscheiden. Bovendien kan iedereen gratis en gemakkelijk toegang krijgen tot deze technologie. De verwachting van experts is dan ook dat over 5 jaar meer dan 90% van alle online content geheel of gedeeltelijk gemanipuleerd zal zijn. Deepfake-detectietechnologieën zijn beperkt in capaciteit en kunnen slechts een deel van het fakemateriaal automatisch wegfilteren.

Meer regulering en bescherming

De onderzoekers stellen vast dat het huidige recht, onder meer in het Wetboek van Strafrecht, de Algemene Verordening Gegevensbescherming en het recht op vrijheid van meningsuiting, al veel regels stelt aan deepfakes, maar dat de handhaving van deze regels achter blijft. Om onder andere de handhavingsdruk te verlichten, beschrijven de onderzoekers een groot aantal reguleringsopties. Een daarvan is om het produceren, aanbieden, gebruiken en in bezit hebben van deepfake-technologie te verbieden voor de consumentenmarkt. Het huidige recht legt immers niet de ontwikkeling van deepfake en het aanbieden aan banden, maar het gebruik daarvan voor specifieke doeleinden. Het kwaad is dan al geschied. Daarnaast kan worden overwogen om meer bescherming aan de rechten van overledenen te gegeven, bijvoorbeeld als zij tegen hun zin weer ‘tot leven worden gewekt’ door een ex-partner of een commerciële organisatie met winstbejag.

Maatschappelijk debat

De onderzoekers stellen dat een brede politieke en maatschappelijke discussie omtrent de wenselijkheid van deepfakes noodzakelijk is en dat meer bewustwording en regelgeving zou kunnen worden overwogen, vooral ten aanzien van een aantal toepassingsgebieden:

  • Verkiezingen kunnen worden beïnvloed middels fakevideo’s, bijvoorbeeld door buitenlandse mogendheden.
  • De media kunnen op termijn in de knel komen omdat zoveel digitaal materiaal gemanipuleerd is dat zij zullen moeten kiezen tussen Scylla, ofwel snel publiceren, met het risico om fakenews te brengen, en Charybdis, ofwel wachten tot materiaal op waarheidsgetrouwheid is gecontroleerd, wat zeer veel technische expertise en kosten met zich kan brengen, en het publicatiemoment met dagen kan vertragen.
  • Politie, justitie en rechters zullen systemen moeten ontwikkelen om zorg te dragen dat fakemateriaal niet in de rechtszaal wordt ingebracht, om zo onterechte veroordelingen te voorkomen.
  • Tot slot, en wellicht het belangrijkste: de schatting is dat het momenteel bij meer dan 95% van alle deepfakes gaat om zogenoemd non-consensual porn. Dat wil zeggen dat er pornovideo’s worden gemaakt en verspreid waarin bijvoorbeeld een vrouw allerhande seksuele handelingen lijkt te verrichten, terwijl zij die niet daadwerkelijk heeft verricht. Het is bekend dat de verspreiding van dergelijke video’s een zeer grote impact kan hebben op het privéleven, de maatschappelijke positie en het zelfbeeld van vrouwen in het algemeen en jonge meisjes in het bijzonder.

Rapport

Het rapport ‘Deepfakes. De juridische uitdagingen van een synthetische samenleving’ is hier beschikbaar en bij het WODC. Auteurs: Bart van der Sloot, Yvette Wagensveld en Bert-Jaap Koops, Tilburg Institute for Law, Technology, and Society.

Noot voor de pers

Neem voor vragen contact op met dr. Bart van der Sloot, Tilburg Institute for Law, Technology, and Society, via b.vdrsloot@tilburguniversity.edu.