Algoritmes en kunstmatige intelligentie (AI) bieden geweldige kansen voor bedrijven en de samenleving, maar brengen ook risico’s met zich mee. Steeds meer partijen zijn zich daarvan bewust, maar duidelijke regelgeving is van cruciaal belang. Overheidsorganen en particuliere organisaties doen er goed aan om nu al het algoritmeregister in te vullen.
Dat schrijft de Autoriteit Persoonsgegevens in de eerste editie van het Rapportage Algoritmerisico’s Nederland (pdf).
Twee uitdagingen voor ons land
Nederland staat voor twee uitdagingen als het gaat om algoritmes en kunstmatige intelligentie. In de eerste plaats ligt de snelheid waarmee nieuwe AI-toepassingen en innovaties zich aanmelden ontzettend hoog. Zo groeide ChatGPT in amper een half jaar tijd uit van een eenvoudig taalmodel tot een geavanceerde chatbot. Dergelijke razendsnelle ontwikkelingen bieden nieuwe kansen, maar komen eveneens met nieuwe risico’s.
Ten tweede schiet het inzicht in bestaande algoritmes tekort. En dat terwijl we steeds vaker voorbeelden tegenkomen van zogeheten hoogrisico-algoritmes: algoritmes die een grote impact op mensenlevens hebben. Het bekendste voorbeeld daarvan is wellicht de toeslagenaffaire. Meer recentelijk zagen we dat het UWV en DUO ook al de fout ingingen met hun fraudecontrolesystemen.
AP ziet toename van bewustzijn over risico’s algoritmes en AI
“Algoritmes en AI kunnen geweldig nuttig zijn, maar brengen ook risico’s met zich mee. Bijvoorbeeld het risico op discriminatie, oneerlijke uitkomsten, misleiding en gebrek aan transparantie en uitlegbaarheid”, zo legt AP-bestuursvoorzitter Aleid Wolfsen uit.
Om de kansen van algoritmes en kunstmatige intelligentie te benutten, moeten we volgens hem de risico’s goed beheersen. Hij ziet dat het bewustzijn hierover toeneemt, zowel bij overheidsinstanties als publieke en private organisaties. Partijen zoeken echter nog naar de juiste manier om deze risico’s te beteugelen.
“Daarom is duidelijke regelgeving nu cruciaal. We roepen het demissionaire kabinet op om hierin voortgang te blijven maken. Organisaties kunnen zelf al een stap zetten door meer personeel en scholing in te zetten in de bewaking van algoritmes”, adviseert Wolfsen.
AP: ‘Wees terughoudend met experimenteren als risico’s niet worden beheerst’
De Autoriteit Persoonsgegevens is positief over het algoritmeregister voor overheidsorganisaties. Het register vermeldt welke bedrijven en organisaties in ons land gebruikmaken van slimme algoritmes. De toezichthouder adviseert nu al rekening te houden met Europese wetgeving die momenteel in de maak is om hoogrisico-systemen te classificeren. Ze roept het demissionaire kabinet op om overheidsorganisaties één jaar te geven om het algoritmeregister verplicht te vullen met alle hoogrisico-algoritmes.
Tot slot waarschuwt de Autoriteit Persoonsgegevens voor de inzet van recente AI-innovaties. Nieuwe AI-toepassingen – zoals het beoordelen van sollicitanten, de kredietwaardigheid van een klant of het opsporen van fraude – staan volop in de aandacht. Zodoende is het aantrekkelijk om ermee te experimenteren.
“Maar dat kan alleen op een veilige manier als de risico’s adequaat worden beheerst. Zolang dat niet het geval is, doen organisaties er verstandig aan terughoudend te zijn. Breng voorafgaand aan de inzet, naast de voordelen, ook goed de risico’s in kaart”, zo raadt de toezichthouder aan.
