Fadoua Sahraou is consultant bij het Rijks ICT Gilde (RIG), onderdeel van Rijksorganisatie ODI. ‘Op dit moment leid ik een heel gaaf project met veel maatschappelijke betekenis. Dit doe ik bij de directie Artificiële Intelligentie (AI) bij het ministerie van Justitie en Veiligheid (JenV). Ik ben verantwoordelijk voor de opbouw en doorontwikkeling van een multidisciplinair expertteam, dat de JenV- en Asiel en Migratie (AenM)-organisaties helpt bij het kunnen voldoen aan de Europese AI-verordening.’ Dit doet ze in opdracht van Michel van Leeuwen, sinds januari 2020 directeur AI bij JenV. ‘Voor ons is de AI-verordening geen rem, maar een kans om mensgerichte innovatie te versterken.’
Wat is de AI-verordening?
De AI-verordening is de eerste Europese wet, die regels voorschrijft voor het veilige gebruik en de verantwoorde ontwikkeling van AI-systemen. Michel: ‘Nu die wet er eenmaal is, is het de vraag hoe we ervoor zorgen dat al onze organisaties in het JenV-domein weten dát die wet er is en hóe ze deze op een goede manier kunnen toepassen.’ Eén van de manieren om dat te bereiken, is het vormen van een multidisciplinair expertteam van overheidsconsultants dat uitvoeringsorganisaties helpt bij het toepassen van de nieuwe regels. Fadoua: ‘De AI-verordening wordt vaak gezien als een juridische aangelegenheid, maar het is juist een multidisciplinaire opgave. Daarom bestaat ons expertteam uit technici, ethici, juristen en experts met een achtergrond in bijvoorbeeld veranderkunde, psychologie en antropologie.’
Michel en Fadoua
Wat is de rol van het expertteam?
Sinds 2025 bundelen Rijksorganisatie ODI en de directie AI hun krachten in een unieke samenwerking, waaruit het expertteam voort is gekomen. Fadoua: ‘Ik vind het heel mooi dat de directie AI zo’n mobiel team beschikbaar stelt dat onderdelen helpt en faciliteert. Dankzij het expertteam hebben we snel doe- en denkkracht beschikbaar.’ Als projectleider is Fadoua hier niet alleen bezig met projectmanagement, maar ze is ook inhoudelijk betrokken. ‘Dat én de fijne werksfeer bevallen me heel goed.’
‘Dankzij het expertteam hoeven de organisaties niet continu het wiel opnieuw uit te vinden om tot zorgvuldige inzet van AI te komen.’ - Fadoua
Het twaalfkoppige expertteam benut waar mogelijk expertise vanuit heel ODI. Zo bestaat het team grotendeels uit RIG-experts, aangevuld met expertise vanuit Rijksconsultants, het Rijks I-Traineeship en I-Interim Rijk. Naast het helpen van de organisaties, creëert het team met alle signalen en kennis centrale producten die door alle organisaties gebruikt kunnen worden. Fadoua: ‘Hierdoor hoeven de organisaties niet continu het wiel opnieuw uit te vinden om tot zorgvuldige inzet van AI te komen. Je wordt steeds slimmer en effectiever, en zo verdient het team zichzelf terug.’
‘Inmiddels is er een eerste tussenstand: we hebben tien organisaties geholpen en zij waarderen onze inzet gemiddeld met een 8. Daar zijn we natuurlijk heel blij mee. We helpen organisaties bij de voorbereiding op de AI-verordening en de daadwerkelijke implementatie en naleving ervan. Dat doen we onder andere met een bijdrage aan een AI-visie en -strategie, ethische kaders, de voorbereiding op een kwaliteitsmanagementsysteem, het begeleiden van AI-impactassessments en het versterken van AI-geletterdheid. Uiteindelijk is het doel om alle ruim dertig organisaties te helpen.’
Waarom gekozen voor ODI?
Fadoua vertelt trots: ‘Ik heb onlangs een mooi compliment gekregen over het expertteam, namelijk dat we bijdragen aan het institutionele AI-geheugen binnen de overheid. Op het moment dat de experts uit het expertteam JenV verlaten, blijven ze binnen de overheid werken. De kennis die ze hier hebben opgedaan, verspreiden ze vervolgens bij andere ministeries.’
‘Met de keuze voor ODI hebben we een veel directere en langdurige impact, omdat we investeren in de kennis binnen de Rijksoverheid.’ - Michel
Michel: ‘Dat speelde voor mij destijds ook een grote rol bij het kiezen van een partij voor het faciliteren van het expertteam. Je kan het aanbesteden in de markt, maar toen we in contact kwamen met Rijksorganisatie ODI was daar echt sprake van die plusvariant die Fadoua nu net schetst. Met de keuze voor ODI hebben we een veel directere en langdurige impact, omdat we investeren in de kennis binnen de Rijksoverheid.’
‘We hebben echt geluk gehad met Fadoua en de mensen achter haar bij ODI. Dat we met elkaar die sprong durfden te wagen. Het had natuurlijk op heel veel manieren mis kunnen gaan. Ik vind het heel mooi dat Fadoua en ik elkaar goed begrijpen en ook scherpe inhoudelijke discussies met elkaar kunnen voeren. We blijven kritisch met elkaar en houden de focus op impact.’
Wat is de rol van de actualiteit in dit project?
Ook zorgt het expertteam voor nuchterheid en realiteitszin. En dat is nodig, vertelt Michel: ‘Door de actualiteit is de bewustwording van AI-ontwikkeling stevig gegroeid. Maar hoe haal je de hype en de realiteit uit elkaar?’ Fadoua: ‘Enerzijds hoor je dat alles moet kunnen met AI, anders lopen we de boot mis. Anderzijds heb je het kamp dat vindt dat we er niet teveel mee moeten doen, want straks gaat het mis. Wij zitten bewust niet tussen die twee uitersten.’
Moeten we de AI-verordening zien als rem op de ontwikkeling? Nee, vinden Michel en Fadoua. Fadoua: ‘Wij staan voor verantwoorde AI en we zien de AI-verordening niet als een rem, maar juist als een katalysator voor mensgerichte innovatie. En goede governance en regulering kosten tijd, maar het is wel een investering die je terugverdient. Want je krijgt daardoor betere en betrouwbaardere AI. Daar ben ik sterk van overtuigd. Tegelijkertijd durven wij ook de vraag te stellen of AI in bepaalde gevallen wel nodig en/of wenselijk is, of dat een andere oplossing volstaat.’
Michel: ‘Natuurlijk willen we in de pas blijven lopen en niet achterblijven met de ontwikkelingen. Tegelijkertijd hoeven we geen koploper te zijn op alle gebieden, want dan loop je ook risico's. We hebben de hoop en het perspectief dat, wanneer we het proces op een goede manier multidisciplinair insteken en mensen in die ontwikkeling meenemen, die rem het kleinst is.’
Waarin liggen de uitdagingen?
Toch is het nooit uit te sluiten dat je een verkeerde keuze maakt in het gebruik van AI, weet Michel. ‘Iedereen is het nog aan het ontdekken. Een belangrijke rol van de experts is dan ook een vroeg signalerende functie wanneer er iets gebeurt waar je buikpijn van krijgt. Zo zijn we goed bedoelde experimenten met misschien onbedoelde neveneffecten snel op het spoor en kunnen we tijdig bijsturen.’
'Hoe meer perspectieven je aan tafel hebt, hoe kleiner de kans wordt dat je blinde vlekken ontwikkelt.’ - Michel
Michel: ‘Ik kan daarnaast niet genoeg benadrukken dat diversiteit en inclusie essentieel zijn bij AI. In de ontwikkeling daarvan zitten al onze vooroordelen gevangen en AI-systemen kunnen menselijke vooroordelen systematisch versterken. Eén van de belangrijkste “vaccins” daartegen is dat je werkt aan diversiteit op allerlei manieren. Daarom hebben we een zo divers mogelijk expertteam aangesteld: hoe meer perspectieven je aan tafel hebt, hoe kleiner de kans wordt dat je blinde vlekken ontwikkelt. Zeker bij AI is dat heel erg van belang. Dat thema moeten we blijven benadrukken.’
Fadoua: ‘Je ziet dat JenV met de directie AI als trekker een enorme voorloper is van hoe je dit soort grote opgaves aanpakt in een tijd waarin veel nog niet uitgekristalliseerd is. Daar leren wij ook veel van. Ik zie de manier waarop JenV en ODI samenwerken echt als een blauwdruk voor andere AI-expertteams of AI-competentiecentra binnen de overheid.’
Fadoua: ‘Ik sluit graag af met een shout-out naar alle experts die dit project elke dag verder brengen. En een speciale shout-out naar onze projectsecretaris Chrisanty Willems, die achter de schermen ongelofelijk veel werk verzet om alles goed te organiseren en verbinden.’