Afbeeldingen van Jezus, gemaakt van bananen, eieren of plastic flessen, of zelfs een garnaal met het hoofd van Jezus: op Facebook wemelt het van de AI-gegenereerde afbeeldingen, vaak met miljoenen clicks.
Hoe gekker, hoe beter, lijkt het idee. De algoritmes van sociale media zijn een goudmijn voor gebruikers die AI-content willen verspreiden.
Maar hoe onschuldig zijn deze afbeeldingen? Uit onderzoek van het Stanford Internet Observatory blijkt dat deze en andere bizarre Facebook-pagina’s vaak door oplichters zijn gemaakt.
AI-afbeeldingen op Facebook kunnen risico’s hebben
Volgens onderzoeker Renée DiResta kunnen pagina’s met AI-gegenereerde afbeeldingen veiligheidsrisico’s hebben voor gebruikers van sociale media. Vaak wordt er aandacht getrokken met gekke afbeeldingen om zo nietsvermoedende bezoekers naar oplichters te leiden.
Via malafide links en phishing-technieken worden vervolgens persoonlijke gegevens van gebruikers ontfusteld. Pagina’s met AI-content groeien snel, een teken dat er ook sprake kan zijn van nepaccounts en clickfarms. Vaak gaat dit hand in hand.
Ook kan het voorkomen dat de AI-afbeeldingen gebruikt worden om producten te verkopen die helemaal niet bestaan of mensen naar externe sites te lokken.
Met kunstmatige intelligentie is het mogelijk om in een hele korte tijd een enorme hoeveelheid bizarre afbeeldingen te produceren. Hoe gekker de afbeelding, hoe groter de kans is dat het de aandacht van gebruikers op sociale media vangt.
Zorgen over AI op sociale media
De zorgen omtrent de invloed van kunstmatige intelligentie gaan verder dan de verspreiding van bizarre afbeeldingen. In een aantal landen, waaronder India en de Verenigde Staten, wordt gewaarschuwd voor de invloed van AI-campagnes op lokale verkiezingen.
Zo maakt AI het bijvoorbeeld gemakkelijk om deepfake-video’s van oppositieleiders te verspreiden. Het wordt op die manier steeds moeilijker om nepnieuws van feitelijke informatie te onderscheiden.
Meta, het moederbedrijf van Facebook, heeft aangegeven AI-content te gaan labelen, waardoor het duidelijk wordt welk materiaal door AI verstrekt is. Aangezien de hoeveelheid AI-materiaal online alleen maar toe zal nemen is dit een goede eerste stap.
Desalniettemin blijft het de vraag hoe effectief deze labels zullen zijn. De detectiesystemen van Facebook werken niet altijd even optimaal waardoor veel materiaal verkeerd gelabeld kan worden. Een afbeelding van Jezus als garnaal is nog wel te herkennen als AI, maar waar ligt de grens?
