Gemeenteambtenaren maken volop gebruik van ChatGPT. Driekwart van de gemeenten (74 procent) zegt het programma te gebruiken. Tegelijkertijd geeft 39 procent van de gemeenten aan dat ze niet weet hoe hun werknemers ChatGPT gebruiken. Dat brengt allerlei risico’s met zich mee.
Dat blijkt uit een rondgang van het actualiteitenprogramma EenVandaag onder 137 gemeenten.
Data-ethicus: ‘ChatGPT is bevooroordeeld’
Kunstmatige intelligentie (AI) en slimme algoritmes bieden allerlei manieren om sneller nieuw beleid te maken of bestaand beleid efficiënter uit te voeren. Deze technologieën worden reeds ingezet om fraude in een vroeg stadium op te sporen, maar ook als inspiratiebron, sparringpartner of om beleidsteksten te verbeteren voordat ze openbaar worden gemaakt. Toch heeft bijna de helft van de gemeenten geen flauw benul hoe gemeenteambtenaren programma’s als ChatGPT gebruiken.
Dat baart Iris Muis, expert op het gebied van data-ethiek, zorgen. “Het risico is dat burgers hierdoor verkeerde informatie ontvangen, die klakkeloos uit ChatGPT wordt doorgestuurd. Je weet niet zeker hoe ChatGPT aan zijn antwoord komt en hij heeft het vaak fout”, zo vertelt ze tegenover EenVandaag. Gemeenten moeten er dus op toezien dat ambtenaren geen copy-paste gedrag toepassen.
De data-ethicus waarschuwt dat ChatGPT bevooroordeeld is, omdat het met specifieke data is getraind. “Voor algoritmes zijn daar nu allemaal regels voor, maar voor ChatGPT niet. Dat is eigenlijk raar. En dat is natuurlijk heel onwenselijk.” Overheidsinstanties dienen in haar ogen ‘zo neutraal mogelijk’ te zijn. Door gebruik te maken van kunstmatige intelligentie, kan beleid discriminatie en uitsluiting in de hand werken. Dat heeft de toeslagenaffaire wel bewezen.
Zorgen over omgang met privacy en vertrouwelijke gegevens
Programma’s als ChatGPT kennen meerdere risico’s. Als voorbeeld noemt Muis een gemeenteambtenaar die een vertrouwelijk beleidsstuk aanbiedt aan ChatGPT met de vraag om hier een samenvatting van te maken. Dat is misschien handig, maar daardoor overhandigt de ambtenaar wel vertrouwelijke beleidsinformatie aan het programma. Deze informatie kan op straat belanden, zo waarschuwt de data-ethicus. Bovendien kan ChatGPT deze data aan andere partijen verkopen.
Uit de peiling van EenVandaag blijkt tevens dat ruim de helft van de gemeenten zich zorgen maakt of ambtenaren op een verantwoorde manier omgaan met ChatGPT en privacygevoelige gegevens. Een kwart van de gemeenten (28 procent) heeft daarom overwogen om een verbod op het gebruik van ChatGPT in te voeren. Slechts een handjevol gemeenten heeft dit daadwerkelijk gedaan.
ChatGPT-verbod voor Rijksambtenaren in de maak
Hoewel het voor gemeenteambtenaren niet verboden is om programma’s als ChatGPT te gebruiken, werkt het kabinet aan een wetsvoorstel om dit voor ambtenaren van de Rijksoverheid wel te verbieden. “Die modellen zijn totaal nog niet getest. We weten niet of ze voldoen aan onze privacyregels. We weten niet hoe ze getraind zijn en we weten niet helemaal wat er gebeurt met jouw data of met jouw teksten wanneer je ChatGPT gebruikt”, aldus demissionair staatssecretaris van Digitalisering Alexandra van Huffelen.
De bewindsvrouw heeft gemeenten ontraden om het programma ChatGPT te gebruiken. “Het zou verstandig zijn als gemeenten er ook zo naar kijken. In de werkomgeving zorgt het voor te veel risico’s die we nu niet goed kunnen overzien”, zo zegt Van Huffelen.
De Vereniging van Nederlandse Gemeenten (VNG) zegt de potentie van programma’s als ChatGPT in te zien. Het stelt overheidsorganisaties in staat om hun dienstverlening te verbeteren, of bezwaarprocedures sneller te laten verlopen. Muis adviseert om ook naar kleinere aanbieders van AI-programma’s te kijken. “Waarmee je wél afspraken kan maken over bescherming van gegevens.”
