De Garante per la Protezione dei Data Personali (GPDP) heeft ChatGPT verboden in Italië. Volgens de Italiaanse toezichthouder verzamelt en verwerkt de chatbot onrechtmatig persoonsgegevens. OpenAI, de ontwikkelaar van ChatGPT, krijgt twintig dagen de tijd om ervoor te zorgen dat de tool voldoet aan de privacywetgeving, anders riskeert het een forse boete.
Dat meldt de toezichthouder in een persverklaring.
Onduidelijk welke grondslag OpenAI hanteert voor dataverzameling
De GPDP stelt dat OpenAI niet transparant genoeg is over welke gegevens ChatGPT van gebruikers verzamelt en wat er precies met deze data gebeurt. Er is ook geen filter aanwezig om de leeftijd van gebruikers te verifiëren. Minderjarigen kunnen zodoende worden blootgesteld aan ongeschikte antwoorden. Daarnaast is het bedrijf onduidelijk op basis van welke grondslag het op grote schaal persoonsgegevens verzamelt en verwerkt om de onderliggende algoritmes te trainen.
Artikel 6 van de Algemene Verordening Gegevensbescherming (AVG) formuleert zes verschillende grondslagen om op een rechtmatige manier data te vergaren. Expliciete toestemming van betrokkenen is een van deze grondslagen, een wettelijke verplichting of het dienen van het gerechtvaardigd belang zijn andere grondslagen waar bedrijven en organisaties zich op kunnen beroepen.
OpenAI krijgt twintig dagen de tijd om te voldoen aan de privacyregels
Omdat ChatGPT op meerdere punten de Europese privacywetgeving overtreedt, heeft de Italiaanse toezichthouder bepaald dat de chatbot verboden is in Italië. Als OpenAI erin slaagt om te voldoen aan de privacyregels, mag de chatbot weer gebruikt worden. De ontwikkelaar krijgt hiervoor twintig dagen de tijd.
Als maatregelen uitblijven of onvoldoende zijn, dan kan OpenAI een forse boete verwachten. Het boetebedrag kan oplopen tot 20 miljoen euro, of 4 procent van de wereldwijde omzet, afhankelijk van welk bedrag hoger is.
Kansen en bedreigingen van ChatGPT
ChatGPT is een programma dat werkt op basis van kunstmatige intelligentie en voor uiteenlopende doelen kan worden ingezet. Denk aan het efficiënter inrichten van het sollicitatieproces door de selectie van kandidaten te versnellen. Maar de laatste tijd zien we ook scholieren die de tool gebruiken om schrijfopdrachten te maken. Ze kunnen de chatbot tevens vragen om alle spel- en schrijffouten uit hun huiswerk te halen.
Hoewel ChatGPT hiervoor niet is bedoeld, ziet minister Adriaansens van Economische Zaken en Klimaat ook positieve kanten: kunstmatige intelligentie heeft de potentie om het onderwijs te verbeteren. Ze vergelijkt het met de opkomst van de rekenmachine. “Zo hadden de rekenmachine en computers bijvoorbeeld ook veel gevolgen, maar worden deze nu veelvuldig gebruikt in de klas”, aldus de minister.
Europol waarschuwde onlangs dat hackers en cybercriminelen ChatGPT kunnen misbruiken voor online fraude. Dan moet je denken aan phishing, Business Email Compromise of social engineering.
“Het vermogen van taalmodellen om taalpatronen te detecteren en reproduceren, vereenvoudigt niet alleen phishing en online fraude, maar kan in het algemeen ook gebruikt worden om de spreekstijl van specifieke personen of groepen te imiteren. Dit vermogen kan op grote schaal worden misbruikt om potentiële slachtoffers te misleiden en hun vertrouwen in de handen van criminelen te leggen”, zo schreef de Europese opsporingsinstantie in een rapport.
Wil jij toch toegang krijgen tot ChatGPT in Italië? Neem dan een kijkje in ons artikel over toegang tot ChatGPT met een VPN.
Update (28 april 2023): de GPDP heeft het verbod op ChatGPT opgeheven in Italië. OpenAI heeft allerlei maatregelen genomen waardoor de privacy van gebruikers gewaarborgd is. Er is onder meer een openingsscherm met verwijzingen naar het nieuwe privacybeleid. Het scherm bevat tevens een knop waar gebruikers hun leeftijd mee moeten bevestigen.
Ook geven de makers meer openheid en transparantie over de persoonsgegevens die ze verzamelen, en hoe ze deze informatie gebruiken om het algoritme van de chatbot te trainen. Om deze redenen heeft de toezichthouder het verbod in Italië opgeheven en is de miljoenenboete van tafel.
