De Oostenrijkse actiegroep NOYB (None of Your Business) heeft een klacht ingediend tegen OpenAI en zijn chatbot ChatGPT.
De privacyactivisten wijzen erop dat OpenAI gebruikers niet kan garanderen dat informatie gegenereerd door ChatGPT daadwerkelijk correct is, met name wat betreft personen.
Dit roept vragen op over ChatGPT’s dataverwerkingsproces wat mogelijk in strijd zou zijn met Europese wetgeving. NOYB heeft de Oostenrijkse gegevensbeschermingsautoriteit (DSB) dan ook verzocht om verder onderzoek te doen naar de manier waarop OpenAI gegevens verwerkt en verstrekt.
Privacyklacht over ChatGPT’s dataverwerking
De privacyklacht ingediend door NOYB richt zich op het dataverwerkingsproces van ChatGPT. OpenAI wordt aangesproken op het feit dat het bedrijf foutieve informatie die door de chatbot gegenereerd wordt niet zou (kunnen) corrigeren en/of terugtrekken.
Het gaat hier met name om incorrecte informatie omtrent personen. Eén van de aanklagers is Max Schrems, de oprichter van NOYB. Hij vroeg ChatGPT naar informatie over zijn eigen verjaardag. Vervolgens werd herhaaldelijk foutieve informatie verstrekt.
Het gebeurt vaker dat ChatGPT verkeerde informatie uitgeeft in plaats van gebruikers vertelt dat er niet genoeg data beschikbaar is om een correct antwoord te geven.
Nadat OpenAI weigerde de informatie aan te passen of te corrigeren, diende NOYB de privacyklacht in. Er is ook een verzoek naar de DSB uitgegaan om het dataverwerkingsproces van OpenAI onder de loep te nemen.
Privacyzorgen over chatbots
Er zijn veel privacyzorgen rondom dataverwerking van chatbots. Sinds de chatbot van OpenAI in november 2022 op de markt kwam, waarschuwen experts voor de privacyrisico’s van ChatGPT en vergelijkbare programma’s.
Om te kunnen functioneren verzamelen AI-chatbots en andere generatieve kunstmatige intelligentie-tools ontzettend veel data. Bovendien maken privacygroepen zich zorgen over hoe deze data vervolgens met derden wordt gedeeld.
Binnen de Europese privacywetgeving gelden strenge regels voor het verzamelen van privégegevens, vandaar dat NOYB het opneemt tegen OpenAI.
Maartje de Graaf, advocaat gegevensbescherming NOYB, stelt het volgende: “Als een systeem geen accurate en transparante informatie kan verstrekken, mag het niet gebruikt worden om data over individuen te verstrekken. De technologie moet de wet volgen, niet andersom.”
