Een meerderheid van de experts denkt dat nepnieuws en desinformatie dat door kunstmatige intelligentie (AI) is gemaakt binnen nu en twee jaar de grootste bedreiging is voor de mensheid. Valse berichtgeving ondermijnt niet alleen democratieën, maar is tevens een belangrijke voedingsbodem voor maatschappelijke polarisatie. De deskundigen maken zich ook zorgen over de impact van cyberaanvallen.
Dat staat in de nieuwste editie van het Global Risk Report 2024 (pdf) van het World Economic Forum (WEF). Voor het rapport benaderden onderzoekers in september en oktober 2023 wereldwijd 1.490 experts uit de academische wereld, het bedrijfsleven, de overheid, de internationale gemeenschap en organisaties uit het maatschappelijk middenveld.
Nepnieuws ondermijnt legitimiteit nieuw gekozen regeringen
In de komende twee jaar gaan naar schatting zo’n drie miljard mensen naar de stembus. De respondenten die deelnamen aan het onderzoek verwachten dat kunstmatige intelligentie een prominente rol gaat spelen bij deze verkiezingen. Niet zozeer om kiesgerechtigden van informatie te voorzien over het verkiezingsproces, maar om mensen misleidende berichten, nepnieuws en desinformatie voor te schotelen.
Doel van dergelijke desinformatiecampagnes is om de legitimiteit van de nieuw gekozen regering te ondermijnen. “De resulterende onrust kan variëren van gewelddadige protesten en haatmisdrijven tot civiele confrontatie en terrorisme”, zo waarschuwen de onderzoekers van het WEF. Meer dan de helft van de ondervraagden (53 procent) is hier bang voor.
Meer censuur en propaganda door toename desinformatie
Een ander gevaar is dat het maatschappelijke debat zich meer en meer polariseert. “Echter, als de waarheid wordt ondermijnd, zal het risico op binnenlandse propaganda en censuur ook toenemen”, aldus het rapport. Als reactie kunnen overheden besluiten om invloed uit te oefenen op de informatievoorziening van burgers.
“Vrijheden met betrekking tot het internet, de pers en de toegang tot informatie die nu al afnemen, dreigen af te glijden naar een bredere onderdrukking van informatiestromen in een groter aantal landen”, zo stellen de auteurs van het rapport. Experts denken dat AI op korte termijn voor veel ellende gaat zorgen. Op de langere termijn (over tien jaar) zakt deze vrees van de eerste plaats naar de vijfde plek.
Minder risico’s en lagere kosten voor cybercriminelen
Een ander fenomeen dat respondenten veel zorgen baart, zijn cyberaanvallen. Meer dan een derde van de ondervraagden (39 procent) vreest dat aanvallen met gijzelsoftware en andere digitale dreigingen de komende twee jaar een belangrijk hoofdpijndossier zullen vormen. “Nieuwe instrumenten en technische mogelijkheden openen nieuwe markten voor criminele netwerken, waarbij cybercrime een inkomstenbron wordt waar steeds lagere risico’s en kosten voor de georganiseerde misdaad zijn gemoeid”, zo staat er in het WEF-rapport.
Als voorbeeld noemen de onderzoekers het gemak waarmee phishingaanvallen kunnen worden uitgevoerd met behulp van generatieve AI. Iets waar de Nederlandse politie en Europol al eerder voor waarschuwden. Tools als ChatGPT vertalen in een handomdraai teksten in tal van andere talen, zonder spel- en schrijffouten. Mensen oplichten wordt daardoor nog eenvoudiger.
“De komende jaren zal de steeds geavanceerdere cyberverdediging de doelwitten verschuiven naar minder digitaal geletterde individuen of minder veilige infrastructuur en systemen”, voorspellen experts. Ze zijn bang dat cybercrime de komende jaren zich verder zal verspreiden in Latijns-Amerika, delen van Azië en West- en Zuid-Afrika, omdat de welvaart in deze regio’s groeit en een groter deel van de wereldbevolking online brengt.
Zorgen in EU en Nederland over kunstmatige intelligentie
Ook in Europa maakt men zich zorgen over de opkomst en toenemende populariteit van kunstmatige intelligentie. Met initiatieven als de AI Act probeert Brussel regels te formuleren voor het gebruik van AI. Of zoals Eurocommissaris voor de Interne Markt Thierry Breton het verwoordde: een juiste balans te vinden tussen het maximaal benutten van de potentie van AI en het beschermen van de fundamentele rechten van burgers.
Bits of Freedom is echter bang dat AI Act de deur opent voor massasurveillance, omdat er in de wetgeving geen totaalverbod is opgenomen op biometrische identificatie. De belangenorganisatie wees erop dat Nederlanders behoefte hebben aan wettelijke bescherming van hun burgerrechten. Er zijn tal van voorbeelden waaruit blijkt dat het in de praktijk vaak misgaat in ons land. Denk aan de toeslagenaffaire, het ministerie van Buitenlandse Zaken die een algoritme racistisch inzette om visumaanvragen te beoordelen, en DUO dat een discriminatoir systeem gebruikte om fraude met studiefinanciering aan het licht te brengen.
De Autoriteit Persoonsgegevens sprak onlangs haar zorgen uit dat toepassingen die generatieve AI gebruiken privacyrisico’s met zich meebrengen. Deze tools worden getraind aan de hand van grote hoeveelheden data, veelal afkomstig uit openbare bronnen op het internet. Deze bevatten volgens de toezichthouder vrijwel zeker persoonsgegevens, wat mogelijk in strijd is met de Europese privacywetgeving.
Het kabinet werkt momenteel aan een wetsvoorstel die ambtenaren die voor de Rijksoverheid werken verbiedt om programma’s als ChatGPT te gebruiken. “Die modellen zijn totaal nog niet getest. We weten niet of ze voldoen aan onze privacyregels. We weten niet hoe ze getraind zijn en we weten niet helemaal wat er gebeurt met jouw data of met jouw teksten wanneer je ChatGPT gebruikt”, zo schreef demissionair staatssecretaris van Digitalisering Alexandra van Huffelen afgelopen december in een brief aan de Tweede Kamer.
