“Het parlement moet grip krijgen op het gebruik van algoritmes”

"Het parlement moet grip krijgen op het gebruik van algoritmes"

Verhalen uit het Lab: AI Lab voor Publieke Diensten

De overheid gebruikt steeds vaker algoritmes in de uitvoer van wet- en regelgeving. Het is aan het parlement om te controleren of dit op een verantwoorde manier gebeurt. Maar uit verschillende rapporten blijkt dat het volksvertegenwoordigers aan kennis van AI ontbreekt om het gebruik van dergelijke systemen afdoende te kunnen toetsen. Promovenda Juliette Ermers van het AI Lab voor Publieke Diensten onderzoekt hoe het parlement grip kan krijgen op de algoritmische uitvoering.

Twee dagen in de week zit promovenda Juliette Ermers in Den Haag. Daar werkt ze als stafmedewerker voor de commissie Digitalisering van de Eerste Kamer, wat inhoudt dat ze de Senaatsleden ondersteunt wanneer er wetsvoorstellen staan geagendeerd die over digitalisering gaan. "Ik moet zorgen dat zij goed beslagen ten ijs komen bij de behandeling van wetsvoorstellen op het terrein van digitalisering en AI", aldus Ermers. "Daarnaast proberen we op allerlei manieren hun kennis over digitale zaken te vergroten, bijvoorbeeld door het organiseren van deskundigenbijeenkomsten en werkbezoeken."

Volgens Ermers, die haar opleiding volgde in Tilburg, is dat bijspijkeren van Senaatsleden ontzettend belangrijk. "Uitvoeringsinstanties zoals de Belastingdienst en het UWV werken dagelijks met complexe algoritmische systemen, maar door de inherente ondoorzichtigheid van deze systemen is het voor de parlementsleden lastig te begrijpen hoe ze technisch werken. Bovendien gaan de ontwikkelingen razendsnel. Daardoor is het een uitdaging om het werk van de uitvoeringsinstaties, dat in beginsel onder de ministeriële verantwoordelijkheid valt, betekenisvol te controleren."

Van nachtwakerstaat tot verzorgingsstaat

Dat komt enerzijds omdat de leden van de Eerste Kamer hun senaatswerk in deeltijd uitvoeren. Dit maakt het ingewikkelder om alle ontwikkelingen op digitaal vlak bij te benen. Anderzijds is de macht de afgelopen jaren steeds verder verschoven van het parlement naar het bestuur - de uitvoerders van de wetten en regels. "Na de Tweede Wereldoorlog veranderde Nederland van nachtwakersstaat naar verzorgingsstaat," legt Ermers uit. "De overheid kreeg steeds meer taken, te veel om het zelf goed uit te voeren. De uitvoering van alle taken was traag en duur. Daarom werden tal van publieke taken geprivatiseerd of gedelegeerd aan zelfstandige bestuursorganen." Daarnaast werd er volgens Ermers ruimte gecreëerd voor het bestuur om zelf regels te stellen, zodat het bestuur de uitdagingen van de verzorgingsstaat het hoofd kon bieden. "Deze zogenaamde administrative state wordt gekenmerkt door een machtsverschuiving van wetgever naar bestuur."

Mede als gevolg van bezuinigingen sinds 2007 zijn veel van deze taken ook gedigitaliseerd en gestandaardiseerd. Ermers: "Het bestuur besloot gaandeweg meer publieke taken uit te voeren met behulp van geautomatiseerde systemen en algoritmen. Dit proces markeerde de opkomst van de zogenaamde 'algoritmische' administrative state, waarbij de macht nog verder weg van de wetgevende macht verschoof, namelijk naar de programmeurs en systeemontwikkelaars."

Het is voor parlementsleden lastig te begrijpen hoe de systemen technisch werken

Dat heeft een keerzijde, aldus Ermers. "Een programmeur maakt een vertaalslag van wetten en regels naar computercode. Maar de wet is niet altijd gemakkelijk in code te vertalen, zeker niet door een programmeur, die nagenoeg geen juridische expertise heeft." Daardoor bestaat de kans dat de uitwerking van de wet in computercode afwijkt van de bedoeling van de wetgever.

De volgende stap is dat de macht verschuift naar de systemen zelf, zegt Ermers. "De zelflerende systemen kunnen de beslisregels, die gebaseerd zijn op de wet, op basis van grote hoeveelheden data en voorspellingen verder doorontwikkelen. En dan kan zo'n systeem opeens een besluit gaan nemen dat eigenlijk niet meer direct uit een democratisch vastgestelde wet volgt, maar gebaseerd is op voorspellingen of inschattingen van het systeem. Dat roept fundamentele vragen op over de democratische legitimiteit van het besluit. Bovendien wordt het door de technische complexiteit voor het parlement nóg moeilijker om grip te krijgen op die algoritmische besluitvorming."

Regie terugpakken

'Grip krijgen' is dan ook het sleutelwoord waarmee Ermers de overige drie dagen van haar werkweek aan de slag gaat. Want naast haar werk als stafmedewerker doet ze als promovenda aan de Universiteit Utrecht onderzoek naar manieren waarop het parlement zijn controlerende taak ten aanzien van de algoritmische uitvoering kan versterken.

"Er zijn formele en informele mechanismen en informatierelaties om te zorgen dat er een systeem van checks and balances is, waarbij de regering het parlement moet informeren over het functioneren van de uitvoeringsorganisaties met het oog op parlementaire, democratische controle. Maar uit onderzoek blijkt dat het parlement geregeld een moeizame zoektocht doorloopt naar de juiste informatie en naar degenen die verantwoordelijk zijn voor gemaakte keuzes en eventuele tekortkomingen."

Een programmeur maakt een vertaalslag van wetten en regels naar computercode. Maar de wet is niet altijd gemakkelijk in code te vertalen

Aan de hand van casestudies en interviews bij twee uitvoeringsinstanties en met experts en Kamerleden wil Ermers succesvolle praktijken en knelpunten van de informatierelaties en verantwoordingsmechanismen in kaart brengen, zodat duidelijk wordt welke bevoegdheden en instrumenten het parlement kan inzetten om meer grip te krijgen op de algoritmische uitvoering en wat daar in de praktijk voor nodig is.

De Belastingdienst is een van de uitvoeringsinstanties waar Ermers langs wil gaan. "Bij de Toeslagenaffaire heeft de regering het parlement onvoldoende geïnformeerd over wat er speelde. Tegelijkertijd is het parlement er zelf niet in geslaagd om instrumenten in te zetten om de vinger adequaat aan de pols te houden en uitvoeringsproblemen op de radar te krijgen. Mijn doel is na te gaan welke verbeteringen van deze mechanismen en relaties mogelijk zijn, zodat we hopelijk een Toeslagenaffaire 2.0 kunnen voorkomen."

Cultuurverandering

Ermers wil met haar onderzoek bijdragen aan meer expertise op dit thema bij de Eerste Kamerleden. "Ik merk nu dat er bij een deel van de Kamerleden beperkt kennis is op het gebied van digitalisering. Maar als je wetten toetst op uitvoerbaarheid en je hebt onvoldoende zicht op hoe zo'n algoritmisch systeem werkt en wat voor impact het kan hebben op de burger, hoe ga je dan een geïnformeerde beslissing nemen over een wetsvoorstel of de algoritmische uitvoering van wetgeving controleren?"

Ze hoopt dat haar gecombineerde positie als stafmedewerker én onderzoeker kan helpen bij het laten landen van haar aanbevelingen. "Er zijn al verschillende rapporten verschenen waarin wordt geconstateerd dat de informatiehuishouding van de overheid niet op orde is en het parlement onvoldoende grip heeft op digitalisering. Er is dus nog veel te doen. Door dit duale promotietraject in het AI Lab voor Publieke Diensten sta ik met het ene been in de universiteit en met het andere been in de Eerste Kamer. Ik zou het mooi vinden als ik van binnenuit kan bijdragen aan het versterken van de parlementaire controle op de algoritmische uitvoering, zodat burgers niet in de knel raken."

Utrecht AI Labs

In de Utrecht AI Labs brengt de Universiteit Utrecht wetenschap en praktijk samen door intensief op te trekken met bedrijfsleven, de publieke sector en andere partners. Binnen de Labs werken onderzoekers aan verantwoorde toepassingen van AI en wordt tegelijkertijd het AI-talent van de toekomst opgeleid.