Voer nooit vertrouwelijke gegevens in op ChatGPT of vergelijkbare taalmodellen, dus ook geen namen van personen. Zo voorkom je dat anderen, waaronder hackers en cybercriminelen, deze informatie kunnen misbruiken om slachtoffers te maken. Misbruik via kunstmatige intelligentie kan niet voorkomen worden met regulering of technologie, maar door gedragsverandering.
Dat vertelt Manon den Dunnen, Strategisch Specialist Digitaal bij de politie, in een interview.
Kansen en risico’s van kunstmatige intelligentie
Kunstmatige intelligentie of AI biedt allerlei mogelijkheden voor de samenleving om sneller en efficiënter te werken. Deze technologie wordt reeds ingezet om fraude in een vroeg stadium op te sporen, maar ook om complexe of repetitieve taken uit te voeren, wervende teksten te schrijven of omslagfoto’s te creëren.
Geavanceerde taalmodellen als ChatGPT brengen echter ook risico’s met zich mee. Hackers en cybercriminelen gebruiken deze tools om onder meer identiteitsfraude te plegen, malware te creëren, geloofwaardige nepberichten op te stellen voor phishing, of desinformatie te verspreiden.
Samantha Reilly, sectorspecialist Technologie, Media en Telecommunicatie (TMT) en Duurzame Energie en Business Banking bij ING, voorspelde afgelopen zomer dat we meer cyberaanvallen kunnen verwachten door ChatGPT. Zij vindt dat de overheid de taak heeft om het midden- en kleinbedrijf actief te informeren over de potentiële risico’s van ChatGPT.
‘ChatGPT is geen zoekmachine’
Manon den Dunnen, Strategisch Specialist Digitaal bij de politie, erkent in een interview dat ChatGPT en vergelijkbare taalmodellen risico’s met zich meebrengen. Zij roept gebruikers op om niet zomaar vertrouwelijke gegevens als namen in te voeren in de chatbot. “Als je het niet op LinkedIn zou zetten, moet je het ook niet invoeren op ChatGPT. Want dat systeem traint zichzelf met de informatie die je invoert en voordat je het weet komt jouw informatie terug in teksten die gegenereerd zijn voor anderen. Daarom hebben bedrijven zoals Samsung hun medewerkers verboden het te gebruiken”, zo zegt ze in een interview.
Een andere fout die mensen vaak maken, is dat ze denken dat ChatGPT een zoekmachine is. “Veel mensen zijn het gaan gebruiken als alternatief voor de zoekmachine. Maar wat veel mensen zich niet realiseren: het is geen zoekmachine. ChatGPT is een taalmodel. Het is getraind op het genereren van teksten. Zie het als een slimme autocomplete die woord voor woord een tekst voor je genereert”, aldus Den Dunnen.
Detectietools hebben nauwelijks effect
De politiemedewerkster ziet manipulatie van informatie, social engineering en identiteitsdiefstal als een van de grootste uitdagingen voor de politie. “Iemand kan met één druk op de knop dezelfde boodschap op honderden verschillende websites publiceren. Via algoritmes -ook een vorm van AI- kunnen die resultaten hoog in de zoekmachines en tijdlijnen komen. Het is bijna niet meer mogelijk te herkennen welke informatie echt is of door een bot is gegenereerd.”
Detectietools om producten die gemaakt zijn met kunstmatige intelligentie te herkennen hebben volgens Den Dunnen nauwelijks effect. Dat komt door het zelflerend vermogen van AI. Elke keer als een detectieprogramma aangeeft dat een tekst of afbeelding mogelijk door een taalmodel is gemaakt, leert het programma daarvan om in de toekomst nog betere resultaten te genereren.
De enige manier om erachter te komen of een tekst, afbeelding of video is gemaakt door kunstmatige intelligentie, is door een watermerk toe te voegen. “Je weet dan nog niet of de informatie betrouwbaar is, maar je kunt wel vaststellen van welke bron het komt en of het tussentijds gemanipuleerd is. Het is dan aan de gebruiker om te bepalen of deze de bron vertrouwt. Dat past in een democratie”, waarschuwt Den Dunnen.
‘We moeten ons gedrag aanpassen’
Misbruik via AI kunnen we simpelweg niet oplossen met regulering of technologie. Het is volgens Den Dunnen belangrijk dat we ons gedrag aanpassen. “Het moet normaal worden om een controlevraag te stellen. Je moet trots zijn op iemand die een extra vraag stelt. Ik vergelijk het met het slot op de deur. Dat vonden we vroeger onzin, je deed de deur dicht en ging weg. We waren boos dat het nodig was, maar nu zijn we het normaal gaan vinden. Dat minimale stukje van reflectie moet in het denken komen. Zeker als er sprake is van een onomkeerbare handeling, zoals geld overmaken of informatie delen.”
Menselijke interactie is volgens de politiemedewerkster de beste oplossing om je niet te laten misleiden door AI. “Er zijn leveranciers die zeggen: in onze applicatie zit deepfakedetectie ingebouwd. Maar dat gaat niet werken. Je hebt geen controle op wat of wie er aan de andere kant zit.” De beste manier om dit obstakel te omzeilen, is door vertrouwelijke gesprekken in persoon te voeren.
