Meta heeft een team aangesteld dat de strijd aangaat met de verspreiding van desinformatie en door AI gegenereerde nepberichten. Deze werkgroep gaat ‘potentiële bedreigingen’ op haar platforms identificeren en bestrijden door in real time maatregelen te treffen. Het moederbedrijf van Facebook, Instagram en WhatsApp hoopt hiermee te bereiken dat de verkiezingen voor het Europees Parlement eerlijk verlopen.
Dat schrijft Marco Pancini, hoofd van EU-zaken bij Meta, in een blog.
Meer controle op platforms van Meta door factcheckers
Pancini zegt dat Meta afgelopen jaar de eerste maatregelen heeft getroffen om zich voor te bereiden op de verkiezingen van het Europees Parlement, die tussen 6 en 9 juni plaatsvinden. Het bedrijf stelde toen een team samen om ‘de integriteit van deze verkiezingen’ op haar platforms te helpen waarborgen.
Het team bestaat uit experts van uiteenlopende afdelingen van het bedrijf, waaronder inlichtingenexperts, datawetenschappers, ingenieurs en juristen. Zij moeten het werk van factcheckers eenvoudiger maken door nepnieuws, desinformatie en misleidende AI-content te herkennen. Meta werkt naar eigen zeggen met 26 onafhankelijk factcheckorganisaties uit Europa, die 22 verschillende talen ondersteunen. Het programma wordt momenteel uitgebreid met drie nieuwe partners uit Frankrijk, Bulgarije en Slowakije.
Meta heeft sinds 2016 meer dan 20 miljard dollar geïnvesteerd in veiligheid en beveiliging. Het aantal medewerkers dat zich hiermee bezighoudt, is in die periode verviervoudigd naar bijna 40.000 man. Onder hen bevinden zich ruim 15.000 contentbeoordelaars die in meer dan 70 talen de content op Facebook, Instagram en Threads controleren. Als berichten eenmaal een fact-checked label krijgen toebedeeld, klikt 95 procent van de lezers niet door om de inhoud te lezen.
Meta werkt aan tool om AI-content van andere techbedrijven te herkennen
Pancini benadrukt dat de community- en advertentierichtlijnen van toepassing zijn op alle content, ook als deze is gegenereerd met behulp van kunstmatige intelligentie (AI). Berichten, foto’s, video’s en audiofragmenten die zich niet aan deze afspraken houden, worden aangepakt. Als een factchecker oordeelt dat content is vervalst of gemanipuleerd, dan krijgt het een label en verschijnt hij lager in de nieuwsfeed. Minder mensen krijgen het bericht of de video dan te zien.
Afbeeldingen die met Meta AI zijn gemaakt, krijgen eveneens een label. Zo weten mensen dat het om een door een algoritme gegenereerde afbeelding gaat. Meta zegt aan een tool te werken die AI-gegenereerde afbeeldingen van Google, OpenAI, Microsoft, Adobe, Midjourney en Shutterstock herkent en labelt.
Lezers kunnen anderen wijzen op AI-gegenereerde content
“We zullen ook een functie toevoegen waarmee mensen kunnen aangeven wanneer ze AI-gegenereerde video of audio delen, zodat we er een label aan kunnen toevoegen. Als we vaststellen dat digitaal gecreëerde of gewijzigde beeld-, video- of audio-inhoud een bijzonder hoog risico met zich meebrengt om het publiek te misleiden over een belangrijke kwestie, dan voegen we wellicht een opvallender label toe zodat mensen meer informatie en context hebben”, aldus Pancini.
Tot slot moeten adverteerders die advertenties op de platforms van Meta plaatsen die te maken hebben met politiek, verkiezingen of maatschappelijke kwesties dit bekendmaken. Een disclaimer als ‘Deze advertentie is betaald door…” is daar een voorbeeld van.
Consortium gaat strijd aan met misleidende AI-content
Eerder deze maand kondigde een consortium van twintig techbedrijven (pdf) aan de strijd aan te binden met misleidende AI-content die bedacht is om verkiezingen te manipuleren. Zij gaven aan tools te ontwikkelen die dergelijke nepberichten kunnen weren en tegelijkertijd meer bewustwording creëren bij mensen. Onder meer Adobe, Amazon, Google, IBM, LinkedIn, Microsoft, OpenAI, TikTok en X hebben hun handtekening gezet onder deze samenwerkingsovereenkomst.
