Apple apparaten gaan beeldmateriaal scannen op kinderporno

Apple iCloud

Apple gaat op iPhones en iPads controleren of foto’s die op iCloud gezet worden kindermisbruik bevatten. Met behulp van hashes en een op de apparaten aanwezige database wil Apple helpen om child sexual abuse material (CSAM) te bestrijden. Daarnaast waarschuwt Messages wanneer iemand ‘gevoelige content’ als naaktfoto’s deelt. Tot slot gaan Siri en de zoekfunctie ook een waarschuwing tonen bij zoektermen met betrekking tot kindermisbruik.

Apple geeft aan dat de CSAM-detectie meekomt met de release van iOS 15 en iPadOS 15. De functionaliteiten komen in eerste instantie eerst alleen naar Amerika, maar worden later mogelijk wereldwijd uitgerold.

Waarschuwing voor gevoelige content

Hashen en encryptie

Apple heeft een uitgebreide uitleg van de technische implementatie van de CSAM-detectie functie beschikbaar gemaakt. In het kort werkt het als volgt. Via organisaties als de National Center for Missing and Exploited Children krijgt Apple een database met afbeeldingen van kindermisbruik. Apple gebruik vervolgens NeuralHash om een foto en variaties op die foto (zoals zwart-witte of verkleinde versies) een zogenaamde hash waarde te geven. In feite wordt de foto omgezet naar een unieke identificatie code. Deze code wordt dan nog verder door Apple versleuteld, zodat alleen Apple de originele hash kan uitlezen. Hierdoor kunnen gebruikers niets over de originele foto te weten komen.

De iPad of iPhone gebruikt ook NeuralHash om de foto’s op het apparaat om te zetten naar een hash. Vervolgens kan het apparaat de hash van de foto vergelijken met de hashes uit de database. Is er een match, dan krijgt de foto bepaalde cryptografische informatie mee. Zonder deze informatie kan de Apple-server na het uploaden de afbeelding niet ontsleutelen. Volgens Apple worden afbeeldingen zonder match zo niet verder geanalyseerd.

Apple heeft 2 veiligheidsmaatregelen ingebouwd om valse positieven te voorkomen, namelijk een minimale hoeveelheid aan matches (Treshold Secret Sharing) en een handmatige controle voordat een melding over kindermisbruik doorgezetwordt.

Kritiek op een nobel doel

Het opsporen en uitroeien van criminelen die Kinderporno maken en verspreiden is natuurlijk een nobel doel waar niemand bezwaar tegen heeft. Toch heeft dit systeem gevolgen die verder gaan dan het vangen van criminelen. Dit soort technologie zet namelijk de integriteit van encryptie onder druk. Zoals Crypotoloog Matthew Green zegt in zijn tweet:”Eventually it could be a key ingredient in adding surveillance to encrypted messaging systems“. Zowel de Nederlandse overheid als de Amerikaanse overheid vragen al lange tijd om de mogelijkheid om communicatie met end-to-end encryptie (zoals WhatsApp) toch in te kunnen zien. Nou heb je van de Nederlandse overheid waarschijnlijk niet zo veel te vrezen. Echter, de evolutie van deze technologie zou onder een autoritair regime de levens van dissidenten, journalisten en oppositieleden in gevaar kunnen brengen. De aankondiging krijgt vanuit verschillende hoeken vergelijkbare kritiek.

Update (9 augustus 2021): Apple probeert de zorgen die bij miljoenen mensen en tal van organisaties zijn ontstaan weg te nemen. Daarvoor heeft het techbedrijf een FAQ online gepubliceerd. In het zes pagina’s tellende document schrijft Apple onder meer dat ze haar technologie alleen zal inzetten om kinderpornografisch materiaal op te sporen. “Laten we duidelijk zijn: deze technologie beperkt zich tot het opsporen van Child Sexual Abuse Material (CSAM) die is opgeslagen in de iCloud. We zullen niet ingaan op een verzoek van de overheid om scanmogelijkheden uit te breiden”, zo schrijft Apple onder anderen in haar FAQ.

Verder belooft Apple dat de scansoftware alleen werkt als een gebruiker toestemming heeft gegeven om zijn of haar foto’s te synchroniseren met iCloud. Apple scant geen foto’s die in de galerij op iPhones zijn opgeslagen. Tot slot gebruikt Apple haar technologie alleen om CSAM-materiaal op te sporen. Hiervoor gebruikt het bedrijf een database die wordt aangereikt door het het National Center for Missing & Exploited Children (NCMEC). Je hoeft je dus geen zorgen te maken dat Apple je erbij lapt als je een aantal illegaal gedownloade muzieknummers op je iPhone hebt staan.

Update (7 september 2021): Apple heeft besloten om de software die iPhones en iPads scant op de aanwezigheid van kinderpornografisch beeldmateriaal uit te stellen. Het Amerikaanse technologiebedrijf heeft meer tijd nodig om het systeem te verbeteren. “Na feedback van onder meer klanten, belangenorganisaties en onderzoekers hebben we besloten de komende maanden meer tijd te nemen om dit belangrijke systeem ter bescherming van kinderen verder te verbeteren”, zo zegt een woordvoerder van Apple tegen de media.

Apple kreeg veel kritiek over zich heen toen het NeuralHash presenteerde. Mensenrechtenorganisaties vrezen dat de software een eerste stap is om een surveillancesysteem op te tuigen. Apple kan in theorie een backdoor inbouwen in haar producten waarmee het mogelijk is om versleutelde berichten af te luisteren. De Electronic Frontier Foundation publiceerde samen met andere organisaties een open brief op internet om Apple op andere gedachten te brengen.

Ook Apple-medewerkers zijn kritisch over het plan. Ze zijn bang dat de software misbruikt kan worden door autoritaire regimes om dissidenten en activisten in de gaten te houden en censuur op te leggen. Tevens zou Apples technologie gebruikt kunnen worden om te scannen op andere ander materiaal, zoals anti-overheidspamfletten, homoseksualiteit, flyers om te demonstreren of belediging van een staatshoofd.

Het voornemen om de lancering van NeuralHash uit te stellen, volgt nadat beveiligingsexperts erin geslaagd zijn om een ‘hash collision’ te veroorzaken. Het algoritme denkt dan dat twee foto’s met elkaar overeenkomen, maar in werkelijkheid gaat het om twee verschillende plaatjes. Beide afbeeldingen krijgen echter dezelfde hash-waarde.

Techredacteur
Bas heeft jarenlange ervaring in de techsector als redacteur en reviewer. Hij schrijft graag uitgebreide reviews van beveiligingssoftware als VPN diensten, virusscanners en wachtwoordmanagers. Daarnaast blijft hij altijd op de hoogte van het laatste nieuws op het gebied van cybercrime, crypto en unblocking. Meer over Bas.
Plaats een reactie
Een reactie plaatsen