Algortimes. Steeds meer werken we er mee. Ook binnen de overheid. Hoe zorg je dat algoritmes eerlijk zijn en er geen discriminerende elementen in kunnen sluipen? Ruth Koole is namens het Rijks ICT Gilde inhoudelijk projectleider bij de werkgroep van het Nederlandse Normalisatie Instituut (NEN) die een Nederlandse Technische Afspraak (NTA) ontwikkelt voor profileringsalgoritmes.
Ruth Koole
Leren van hoe het fout is gegaan
“In Nederland hebben we meerdere malen gezien hoe het fout kan gaan met het gebruik van algoritmes, zoals bij de controle uitwonendenbeurs bij DUO. De keerzijde daarvan is dat we ook ontzettend veel hebben geleerd over hoe het beter kan. Juist die lessen kunnen we nu bij de NTA goed gebruiken. Veel kennis zit echter verstopt in onderzoeksrapporten, wetenschappelijke artikelen, jurisprudentie of in hoofden van collega’s. In de NTA proberen we al deze kennis te bundelen om een praktisch toepasbare standaard te maken die houvast moet bieden voor overheden.”
Praktijk is weerbarstiger dan de theorie
"Vanuit het RIG zien we dat veel overheidsorganisaties ermee worstelen, dat het onduidelijk is hoe ze in de praktijk precies met algoritmes moeten omgaan. Wat wordt er van overheden verwacht en wat zijn de minimale checks en balances? De kaders zijn bovendien niet eenvoudig toe te passen in de praktijk. Dat zie ik ook bij mijn opdracht bij Dienst Toeslagen, waar ik al 3,5 jaar adviseer over verantwoord gebruik van algoritmes. Veel inzichten uit de wetenschap zijn bijvoorbeeld niet direct toepasbaar. De praktijk is weerbarstiger en de casuïstiek veel genuanceerder dan je in eerste instantie zou denken.”
De Nederlandse Technische Afspraak (NTA)
“Vanuit het RIG willen we graag helpen om duidelijkere kaders te ontwikkelen voor het verantwoord inzetten van algoritmes. Daarom zijn wij een van de initiatiefnemers van de NTA. Met mijn rol als inhoudelijk projectleider hebben we een trekkende rol. Het doel van deze werkgroep is om tot een werkbare NTA te komen die overheden hele concrete handvatten biedt om algoritmes te toetsen.”
Brede samenwerking: van jurist tot techneut
"We hebben een unieke groep bij elkaar om deze standaard te ontwikkelen: partijen uit het bedrijfsleven, de overheid, maar ook bijvoorbeeld de wetenschap en verschillende belangenorganisaties. In totaal doen 49 mensen uit 35 organisaties mee. Zestien daarvan vormen de schrijfgroep; de rest leest mee en adviseert. De groep bestaat uit mensen met verschillende expertises en achtergronden, zoals juristen en techneuten.”
Begrip voor elkaars vakgebied
"Vanuit mijn rol als inhoudelijk projectleider heb ik een extra uitdaging om ervoor te zorgen dat de verschillende disciplines zich meer in elkaars vakgebied verdiepen. Zodat juristen meer leren over hoe de statistische techniek werkt, en techneuten beter begrijpen hoe de juridische kaders in elkaar zitten. Alleen door samen die kennis te delen, kunnen we consensus vinden en tot een goede, uitvoerbare standaard komen. Ook ik probeer als wiskundige de relevante wettelijke kaders te begrijpen en die toe te passen."
Planning: concept in november
“De werkgroep is in mei gestart. De voorlopige planning is om in november een conceptstandaard gereed te hebben en deze open te stellen voor feedback uit de samenleving. Op basis daarvan wordt gewerkt aan een definitieve versie die hopelijk in mei 2026 gepubliceerd wordt.”