‘Over vijf jaar is 90 procent online content gemanipuleerd door deepfakes’

Close-up van iemand die de touwtjes in handen heeft

Deepfakes zullen in de toekomst vaker het politieke en maatschappelijke debat beïnvloeden. De technologie kan gebruikt worden om nepnieuws te verspreiden, verkiezingen en publieke opinie te beïnvloeden en zelfs om pornografische beelden te maken. Experts denken dat over vijf jaar meer dan 90 procent van alle content op internet geheel of gedeeltelijk gemanipuleerd is.

Dat blijkt uit onderzoek van de Tilburg University of Law, Technology and Society (TILT), dat is uitgevoerd in opdracht van het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC). De bevinden en voorspellingen over de invloed van deepfakes staan in het rapport ‘Deepfakes. De juridische uitdagingen van een synthetische samenleving’.

Deepfakes in een notendop

Een deepfake is een foto of video die nep is, maar er levensecht uitziet. Door een combinatie van machine learning en kunstmatige intelligentie (AI) wordt nieuwe digitale content gemaakt. Deze bestaat uit bestaande videobeelden, stemmen en afbeeldingen. De technologie om deepfakes te maken wordt met de dag beter. Daardoor wordt het met de dag moeilijker om het echt van nep te onderscheiden.

Deepfake-technologie wordt al geruime tijd gebruikt in Hollywood, bijvoorbeeld om een jonge Luke Skywalker in beeld te brengen in de Star Wars serie The Mandalorian. Dankzij de technologie strijdt Will Smith tegen zijn jongere zelf in Gemini Man, en zie je Robert De Niro en Al Pacino ouder en ouder worden in The Irishman. Afgelopen Kerst ging deze video, waarin Mark Rutte, Hugo de Jonge, Diederik Gommers en Jaap van Dissel zogenaamd een kerstnummer zingen, zelfs viral.

Negatieve uitwassen van deepfakes

Deepfakes worden nu al volop gebruikt voor entertainmentdoeleinden. Maar zo onschuldig is de technologie niet, zo waarschuwen wetenschappers. Deepfakes kunnen bijvoorbeeld ook gebruikt worden om de publieke opinie of de uitkomst van verkiezingen te beïnvloeden. Stel dat er ineens een video opduikt waarin demissionair minister De Jonge (Volksgezondheid) verkondigt dat coronavaccins slecht zijn voor de gezondheid. Burgers kunnen daardoor besluiten om zich niet langer te inenten tegen het coronavirus, met alle gevolgen van dien voor de zorg en samenleving.

Deepfake-technologie kan ook gebruikt worden om ‘bewijsmateriaal’ te creëren of manipuleren. Als een rechter daar niet doorheen kan kijken, kan dit leiden tot onterechte veroordelingen. Deepfakes worden nu al volop gebruikt om erotisch getinte video’s te maken. Presentatrice Dionne Stax heeft dat aan den lijve ondervonden. Weliswaar speelde ze geen rol in de pornofilm, maar haar gezicht werd wel gebruikt. Het had haar tv-carrière kunnen ruïneren. Verspreiding van zulke beelden kan grote impact hebben op iemands privéleven en zelfbeeld.

Doordat deepfake-technologie steeds beter wordt en breder beschikbaar is, zijn experts bang dat over vijf jaar meer dan 90 procent van alle content op internet deels of volledig gemanipuleerd is. “Dat gaat niet uitsluitend om deepfakes, maar ook om kleine manipulaties. Je weet dus op een gegeven moment niet meer wat echt is en wat nep is, en als iets nep is: wat precies? Dat kan veel problemen opleveren voor journalisten of rechters”, zo voorspelt privacy- en big data-expert Bart van der Sloot van de Tilburg University tegenover BNR.

Meer regulering

In het rapport ‘Deepfakes. De juridische uitdagingen van een synthetische samenleving’ stellen de onderzoekers dat de huidige wet- en regelgeving al veel regels stelt aan het gebruik van deepfakes. Dat is echter niet voldoende om een vuist te vormen tegen misbruik van deze technologie. Om echt iets te kunnen doen tegen de negatieve uitwassen van deepfakes is volgens de opstellers van het onderzoeksrapport meer regulering nodig.

Een verbod van het produceren, aanbieden, gebruiken en bezitten van deepfake-technologie voor de consumentenmarkt is daar een voorbeeld van. “Het huidige recht legt immers niet de ontwikkeling van deepfake en het aanbieden aan banden, maar het gebruik daarvan voor specifieke doeleinden. Het kwaad is dan al geschied”, waarschuwen de onderzoekers.

Meer bewustwording

Van der Sloot vindt dat de politiek niet alleen moet inzetten op regulering, maar ook op bewustwording. Hij erkent dat dit makkelijker gezegd dan gedaan is. Tegenover BNR zegt hij: “Je moet én techniek inzetten om te scannen op digitale manipulatie, maar je moet de mensen ook heel erg bewust maken van de mogelijkheden. Iedereen kent de verhalen van kinderen die hun ouders bellen en vragen om geld. Een slimme ouder gaat in zo’n geval over tot videobellen, maar ook dat kan tegenwoordig gemanipuleerd worden. Op het gegeven moment zie je door de bomen het bos niet meer, en journalisten alles helemaal kapot laten checken is ook niet te doen.”

De onderzoeker aan de Tilburg University zegt dat technologie momenteel 65 procent van alle deepfakes herkent. Dat zal in de toekomst minder worden. “Het restant zal je via verboden of bewustwording tegen moeten gaan. Daarom kun je het beste kijken naar hoe je voorkomt dat er zo’n grote stroom aan deepfakes zal ontstaan”, aldus Van der Sloot.

Techredacteur
Techliefhebber pur sang: Anton is gek op alles wat met technologie en internet te maken heeft. Cybersecurity, privacy en internetcensuur hebben dan ook zijn volle aandacht. Meer over Anton.
Plaats een reactie
Een reactie plaatsen