facebook

Facebook verbiedt misleidende deepfakes

Laatst bijgewerkt: 9 januari 2020
Leestijd: 3 minuten, 30 seconden

Vanaf nu zal Facebook misleidende video’s die zwaar worden gemanipuleerd door kunstmatige intelligentie, ook wel deepfakes genoemd, van zijn sociale mediaplatform verwijderen. Hoewel echte deepfakes nog steeds relatief zeldzaam zijn, komen ze vaker voor en vormen ze een steeds grotere bedreiging.

Verschillende soorten “deepfakes”

Er zijn verschillende soorten deepfakes.

  • Zogenaamde “echte deepfakes” zijn AI-gemanipuleerde video’s die kijkers waarschijnlijk zullen misleiden.
  • Andere soorten deepfakes zijn “shallow fakes”. Ze kunnen net zo misleidend zijn, maar worden geproduceerd met conventionele bewerkingstools en -technieken.
  • Dan zijn er nog parodieën of satirische manipulaties. Deze video’s zien er misschien min of meer echt uit, maar zijn duidelijk herkenbaar als “nep”. Zelfs iemand die niet bekend is met de persoon of het onderwerp zou merken dat het bericht niet bedoeld is als misleidend.

Dwijlen met de kraan open voor Facebook

Het verbod van Facebook op deepfakes is op dit moment slechts een kleine stap. In hun nieuwe beleid gebruikt Facebook de volgende twee criteria om te bepalen of een video van Facebook en Instagram moet worden verwijderd.

Ten eerste moet de video zijn bewerkt of gesynthetiseerd op manieren die voor een doorsnee persoon niet duidelijk zijn en iemand waarschijnlijk zouden misleiden door hen te laten denken dat het onderwerp van de video dingen gezegd heeft terwijl dit niet het geval is.

Ten tweede zegt het beleid dat het een product moet zijn van “kunstmatige intelligentie of machine learning die inhoud op een video samenvoegt, vervangt of over elkaar heen legt, waardoor het authentiek lijkt.”

Traditioneel gewijzigde inhoud nog steeds beschikbaar

De bovengenoemde criteria voor het verwijderen van video’s betekenen dat traditioneel gewijzigde video’s beschikbaar blijven op Facebook.

Bijvoorbeeld, de neppe video van Nancy Pelosi die sinds medio 2019 in verschillende versies circuleert. De video deed het lijken alsof Pelosi niet duidelijk sprak door de video te vertragen. De video werd gepromoot door supporters van Trump en geretweet door Trump zelf en door zijn persoonlijke advocaat Giuliani.

Een ander recenter voorbeeld is de gedokterde video van de Britse politicus Keir Starmer. Deze was misleidend bewerkt door de conservatieve partij om te laten zien hoe hij geen antwoord had toen men hem vroeg naar het Brexit-beleid van de partij. In dit geval hebben ze eenvoudig het antwoord dat hij eigenlijk gaf weggelaten en vervangen door een stilte.

Beide voorbeelden laten zien dat zelfs low-tech manipulaties zeer effectief kunnen zijn. Volgens de nieuwe regels zouden deze video’s nog steeds worden toegestaan.

Factcheck door derden

Dat gezegd hebbende, alle video’s die op Facebook worden gepost, vallen nog steeds onder het factchecksysteem van Facebook. Facebook kan een link toevoegen naar een factcheck site om erop te wijzen dat een video mogelijk misleidend is. Onafhankelijke factcheckers controleren vervolgens de inhoud.

Als de video feitelijk onjuist is verschijnt deze lager in de nieuwsfeeds van mensen en wordt deze als nep aangemerkt. Mensen die de inhoud zien, proberen te delen of dit al hebben gedaan, krijgen dan een waarschuwing te zien. Facebook weigert ook een nep video als deze wordt aangeleverd als een advertentie.

Natuurlijk hebben niet alle sociale media-platforms dezelfde aanpak. Daarom is het in sommige gevallen waarschijnlijk verstandiger om video’s als nep te labelen in plaats van ze helemaal te verwijderen. Anders zou de video zonder waarschuwingstekens gewoon op een ander platform of elders op internet verschijnen.

Spot en stop digitale manipulatie

Helaas is de aanpak van Facebook slechts een gedeeltelijke oplossing voor een deel van het probleem. Proberen te spotten of een video nep, kwaadaardig of op de een of andere manier misleidend is, is ontzettend ingewikkeld.

AI-technologie evolueert snel en wint aan momentum. Eerder deze week heeft Snapchat stilletjes AI Factory overgenomen, het in Oekraïne gevestigde bedrijf dat achter de geanimeerde, op selfie gebaseerde nieuwe videofunctie Cameos zit. TikTok ontwikkelde een vergelijkbare functie. Het is natuurlijk waarschijnlijk dat door dit soort technologie in populaire apps te integreren, er nog meer deepfakes zullen verschijnen.

Het resultaat is een wapenwedloop tussen de makers, goed en slecht, en degenen die deepfakes proberen te detecteren. In september werkte Facebook samen met Microsoft en verschillende academici om betere open-source tools te creëren voor het detecteren van deepfakes als onderdeel van hun “deepfake-uitdaging“. De Amerikaanse verkiezingen van 2020 zullen ongetwijfeld de discussie over deepfakes verder doen oplaaien.

Hoofdauteur:

Meer artikelen uit het ‘Nieuws’ dossier

Reacties
Plaats een reactie
Een reactie plaatsen