Op 29 juni is de Nederlandse Technische Afspraak (NTA) voor profileringsalgoritmes officieel gepubliceerd. Een NTA is een set werkbare afspraken over een onderwerp waarover nog geen formele norm bestaat, maar waar wel behoefte is aan duidelijkheid. Collega’s van het Rijks ICT Gilde (RIG) droegen bij aan de initiatie van deze NTA en werkten het samen met een groep experts en publieke consultatie verder uit. Data & AI- experts Ruth Koole en Nelleke Groen kijken met trots naar het resultaat én naar het proces.
Achtergrond en rollen
Ruth: “Ik werk nu 5 jaar bij het RIG en houd me voornamelijk bezig met AI en algoritmes. Altijd met een link naar het verantwoord gebruik daarvan, met focus op non-discriminatie. Zo heb ik bij Dienst Toeslagen mogen werken, en doe ik nu een opdracht bij het College voor de Rechten van de Mens. Daar kan ik met mijn expertise echt het verschil maken om het werken met data en AI binnen overheidscontext op een ethische manier in te richten. Bij het samenstellen van deze NTA had ik de rol van projectleider.”
Nelleke: “Ik ben vorig jaar begonnen bij het RIG. Van huis uit ben ik een jurist, met een bijzondere interesse in mensenrechten, non-discriminatie en digitale ontwikkelingen. Zo houd ik mij al tien jaar bezig met rechten rondom algoritmes, en dan met name hoe recht dat geldt in de fysieke wereld zich verhoudt tot de digitale wereld. Bij het RIG komen mijn ervaring en interesses heel mooi samen in betekenisvolle opdrachten; zoals ook deze voor het opzetten van een NTA rondom profileringsalgoritmes.”
Ruth (links) en Nelleke
Waarom een NTA?
Ruth: “Veel organisaties weten dat discriminatie bij het gebruik van algoritmes een risico kan zijn, maar in de praktijk is het lastig om daar goed op te sturen. Soms lijken keuzes technisch neutraal, terwijl ze toch indirect tot ongelijke uitkomsten leiden. Met deze NTA hopen we een meer structurele aanpak te bieden. Het is een werkwijze die overheidsorganisatie kunnen volgen : op welke momenten moet je welke vragen stellen, waar moet je op letten en hoe toets je op discriminerende effecten. Als dat lukt, helpt het organisaties om de techniek en juridische kaders beter met elkaar te verbinden.’
Nelleke: « Zoiets als dit bestond nog niet, en wij zijn het eerste land in Europa dat zo’n concrete tool voor de invulling van mensenrechtenbescherming in deze context publiceert. De NTA is een hulpmiddel waar een breed palet aan organisaties en experts aan heeft meegewerkt. Er waren techneuten bij betrokken, maar bijvoorbeeld ook juristen en filosofen. Uit verschillende sectoren: overheid, wetenschap en NGO’s. Het zegt eigenlijk: wanneer wij profileringsalgoritmes ontwikkelen en inzetten, zijn wij het erover eens dat dit een verantwoorde manier is. En natuurlijk zou het mooi zijn als ook andere organisaties hier gebruik van gaan maken.”
AI-verordening
Nelleke: “Ik ben met RIG-collega Willy Tadema en enkele anderen al sinds het najaar van 2024 bezig om dit vorm te geven. Wij werken al langer samen op het gebied van de Europese AI-verordening: die wet is nog niet heel concreet en wordt nu verder vertaald naar geharmoniseerde normen. Tegelijkertijd zien we dat er in Nederland ook vraag is voor meer hulpmiddelen voor algoritmische systemen die gebruikt worden door de overheid maar die niet gereguleerd worden door de AI-verordening. Het is dus een aanvulling voor de gereedschapskist die handvatten geeft hoe te werken, maar ook om het gesprek over de juridische verantwoording op gang te brengen. Vorig jaar mei is het project daadwerkelijk van start gegaan en is Ruth als projectleider begonnen. Nu, een jaar later, ligt er een NTA waarmee we een sterke basis hebben neergezet voor een rechtvaardige inzet van profileringsalgoritmes. Er is veel behoefte aan, wat we ook merken aan de interesse uit de hele wereld.”
Ruth: ”De rol van projectleider was intensief, maar mooi om te doen. In korte tijd moesten ongeveer 35 organisaties bij elkaar worden gebracht, die in het begin zeker niet allemaal dezelfde taal spraken. We hebben in kleinere groepjes gewerkt, waar professionals vanuit verschillende expertises met elkaar aan onderdelen van de NTA werkten. Daar is nog een publieke consultatie bijgekomen, waarbij iedereen de kans had te reageren en input te leveren. Dat maakt het een breed gedragen afspraak. Ik heb zelf ook meegeschreven en er voor gezorgd dat al die losse stukken tekst naar één coherent verhaal vertaald werden.”
Geen eindpunt
Ruth: We zijn zeker trots op wat we hebben bereikt. Maar we zien het als een mooi begin en zeker niet als het eindpunt. We gaan nu in de praktijk zien hoe het werkt, en dat zal ongetwijfeld nog niet perfect zijn. Het is een complex onderwerp dat constant in beweging en ontwikkeling is. Met het Ministerie van BZK hebben we afgesproken dat zij nu verschillende pilots gaan uitvoeren, ook om te onderzoeken of de NTA in de praktijk bruikbaar is. Ik hoop vooral dat we iets hebben neergezet dat overheidsorganisaties kan helpen om hiermee aan de slag te gaan en het gesprek goed kunnen voeren. Ik ben bij het Rijk gaan werken om maatschappelijk van waarde te zijn, iets te betekenen voor anderen. Ik denk dat dit soort dingen zeker verschil kunnen maken.”
Nelleke: ”Er gaat momenteel veel aandacht uit naar AI, maar ik denk dat we te weinig stilstaan bij de risico’s die zelfs simpele toepassingen al kunnen hebben. Ik ben heel benieuwd en vol spanning of er goed gebruik van gaat worden gemaakt en welke gesprekken er op gang komen. Het is belangrijk dat overheden zich hiermee bezighouden; we zijn er niet voor coole gadgets, maar voor verantwoord en mensgericht werken. Niet snel en makkelijk, maar goed doordracht en gedegen onderbouwd. Het is dus heel goed dat deze NTA er is en het is bijzonder dat wij hier aan bij mochten dragen.”
Benieuwd naar de NTA? Bekijk het document.