Het kabinet bereidt een wetsvoorstel voor waarin staat dat ambtenaren die voor de Rijksoverheid werken, geen software met kunstmatige intelligentie mogen gebruiken. De risico’s op het vlak van auteursrecht en privacy zijn op dit moment nog te hoog. Het verbod heeft betrekking op programma’s die teksten, foto’s, audio of video kunnen maken.
Dat blijkt uit het conceptvoorstel van demissionair staatssecretaris van Digitalisering Alexandra van Huffelen, dat in handen is van de Volkskrant.
Kabinet is bang dat AI-toepassingen niet voldoen aan privacywetgeving en auteursrecht
Landsadvocaat Pels Rijcken en de Autoriteit Persoonsgegevens verrichtten vooronderzoek voor het wetsvoorstel. Zij kwamen tot de conclusie dat niet-gecontracteerde vormen van generatieve AI niet voldoen aan de Nederlandse privacywetgeving en auteursrecht. Dan moet je denken aan chatbots als ChatGPT en Bard, en toepassingen als Dall-E en Midjourney die afbeelding kunnen genereren. AI-toepassingen waar de overheid wel een contract bij moet afsluiten, vallen buiten het verbod.
Staatssecretaris Van Huffelen schrijft volgens de Volkskrant in het conceptvoorstel dat het onduidelijk is of aanbieders als OpenAI en Google zich niet schuldig maken aan auteursrechtenschending. De taalmodellen van deze ontwikkelaars zijn getraind met grote hoeveelheden teksten, waarvan een deel afkomstig is uit stukken waar auteursrechten op berusten. Bovendien geven aanbieders weinig openheid van zaken over de werken die ze hebben gebruikt om hun taalmodel te trainen.
Voor AI-toepassingen die afbeeldingen maken geldt hetzelfde als voor geavanceerde chatbots.
Een ander punt waar AI-toepassingen te weinig rekening mee houden, is privacy. Generatieve AI kan volgens de staatssecretaris ‘zeer gevoelige informatie’ afleiden uit de vragen die een gebruiker aan applicaties als ChatGPT stelt. Dergelijke programma’s kunnen bovendien ‘een besluit over een persoon nemen’, zo waarschuwt de bewindsvrouw. Dat is in haar ogen een ‘fundamenteel gevaar’.
Staatssecretaris ziet potentie in van generatieve AI voor overheidsorganisaties
Tegelijkertijd erkent Van Huffelen dat generatieve AI ook kansen en mogelijkheden biedt. Voordat ze AI-toepassingen breed wil integreren binnen de Rijksoverheid, laat ze verschillende experimenten uitvoeren. Het streven is om deze pilots halverwege volgend jaar af te ronden, waarna er een handreiking voor verantwoord gebruik van kunstmatige intelligentie door overheidsorganisaties wordt geschreven.
Een andere manier waarop de staatssecretaris AI op een veilige manier voor de overheid wil invoeren, is door een opleidingsprogramma voor ambtenaren te lanceren
Hoogleraar: ‘Verbod kan Nederland op achterstand zetten’
Sander Klous, hoogleraar Big Data Ecosystems aan de Universiteit van Amsterdam en partner bij KPMG, erkent de risico’s die de staatssecretaris noemt in het wetsvoorstel. Tegelijkertijd vindt hij een verbod voor het gebruik van AI-toepassingen door ambtenaren te ver gaan.
“Er zijn zoveel nuances in toepassingen van AI dat je beter grenzen kunt stellen aan het gebruik op grond van reële risico’s dan direct alles verbieden”, zegt hij tegenover de Volkskrant. Een breed verbod kan Nederland bovendien op een achterstand zetten ten opzichte van landen die meer openstaan voor het gebruik van AI-toepassingen door overheidsorganisaties.
Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties wil niet inhoudelijk reageren op het conceptvoorstel en kan ook niet zeggen wanneer deze in de ministerraad wordt besproken.
