Pilot: Assessment voor verantwoorde Artificial Intelligence

De pilot ‘Assessment voor verantwoorde AI’ is een stap in dit proces. Tijdens een zes maanden durende pilot onderzocht het Rijks ICT Gilde in samenwerking met de provincie Fryslân en AI-autoriteit Prof. Dr. Zicari een deep learning algoritme in de praktijk. De pilot vond plaats van mei 2022 tot en met januari 2023.

Inmiddels is het RIG affiliated partner van het Z-Inpection Initiative. Lees meer op de website van de organisatie. Ook hebben we gecertificeerde Z-inspection teaching experts in huis om ondersteuning te bieden bij de beoordeling van algoritmes. 

Aanleiding pilot

Tijdens de conferentie ‘AI and the future of Europe’ in Brussel op 30 maart 2022 vertelde staatssecretaris Alexandra van Huffelen dat de digitale transitie en het gebruik van AI altijd mensgericht moet zijn en gebaseerd op onze democratische waarden en rechten. Overheden moeten daarbij het goede voorbeeld geven.

Als overheid willen we de kansen van AI benutten, maar de technologie roept nog veel belangrijke vragen op. Hoe betrouwbaar zijn algoritmen? Kan een algoritme discrimineren? Wat zijn de ethische en maatschappelijke effecten van AI en hoe transparant is het gebruik ervan? Daarnaast moet het gebruik van AI altijd mensgericht en op onze democratische waarden en rechten gebaseerd zijn.

Daarmee komt een indrukwekkende hoeveelheid regels, kaders en raamwerken op het gebied van AI op ons af. Hoe pas je die in de praktijk toe? Waar moet je op letten? En hoe integreer je die in de ontwikkeling en het gebruik van AI?

Met de pilot ‘Assessment voor verantwoorde AI’ zochten we antwoord op deze vragen en meer. Allereerst om het bewustzijn en de dialoog over AI binnen de overheid te stimuleren. En daarna om de technologie met vertrouwen in te kunnen zetten voor de vragen van morgen.

Achtergrond pilot

Tijdens deze zes maanden durende pilot is de toepassing in de praktijk van een ‘deep learning algoritme’ van de provincie Fryslân onderzocht en beoordeeld. Het algoritme brengt heidevergrassing doormiddel van satellietbeelden in kaart voor het monitoren van natuurgebieden. Het toetsen van dit algoritme gebeurde in samenwerking met een internationaal multidisciplinair team, op basis van de ‘Z-inspection-methode’ - een proces om AI op betrouwbaarheid te toetsen.

Hierbij wordt het algoritme getoetst op sociale, ethische, technische en juridische implicaties. Dit gebeurt in multidisciplinaire teams volgens een holistische methodiek: daarbij wordt gekeken naar de samenhang, ordening en de interactie van de kenmerken aan een systeem. Het holistische karakter van de methode laat ruimte voor verschillende dimensies en zienswijzen, en richt zich in het bijzonder op het duiden en bespreken van ethische kwesties en spanningen.

Doelstellingen pilot

De pilot had meerdere doelstellingen, zodat elke partij een eigen win uit de pilot heeft kunnen halen:

• Een wetenschappelijk onderbouwd assessment in de praktijk aan de hand van een concrete AI-toepassing;
• Begrijpen hoe je zorgvuldig én verantwoord je processen inricht voor het ontwikkelen en gebruiken van AI;
• Leren welke kaders, wet- en regelgeving van belang zijn en getoetst moeten worden in de verschillende fasen van ontwikkeling en gebruik;
• Vergroten inzicht en overzicht door middel van aanbevelingen;
• Stimuleren dialoog en vergroten bewustzijn over toepassen van betrouwbare AI.

Z-Inspection: een methode voor verantwoorde AI

Één van de belangrijkste kenmerken van de Z-inspection-methode is het interdisciplinaire karakter. De complexiteit van een AI-toepassing wordt weerspiegeld in de samenstelling van de het team. De verscheidenheid aan deelnemers zorgt voor een inclusievere beoordeling van de betrouwbaarheid van een AI-toepassing.

Een ander sterk kenmerk van deze methode is de dynamische toepassing. Een standaard checklist past zich niet aan de casus aan. De holistische benadering daarentegen bepaalt welke kwesties centraal staan ​​voor de use case (toepassing in de praktijk) in verschillende stadia van het proces. En beoordeelt welke aspecten van de case het belangrijkst zijn, door zich tussen intra- en interdisciplinaire discussies heen en weer te bewegen.

Met de toepassing van deze methode groeit het bewustzijn binnen de eigen organisatie, ontstaat een denkraam (mindset) voor verantwoord datagebruik en het betrouwbaar toepassen van AI. Zowel Provincie Fryslan als het Rijks ICT Gilde testen de methode in de praktijk om samen te leren hoe je vanuit verschillende dimensies naar een AI-toepassing moet kijken. 

Raamwerk verantwoorde AI

Z-inspection maakt gebruik van het ‘raamwerk voor verantwoorde AI’ opgesteld door de Europese commissie met een focus op vier belangrijke ethische principes:

1. respect voor menselijke autonomie;
2. voorkomen van schade;
3. fairness (een eerlijk algoritme);
4. verklaarbaarheid en transparantie.

Deze ethische principes worden aan de hand van negen belangrijke onderwerpen getoetst. Per onderwerp wordt gekeken of het algoritme aan bepaalde kwaliteitscriteria voldoet én of de risico’s voldoende in beeld zijn en/of worden beperkt

• Menselijke keuzevrijheid en toezicht:
• Technische robuustheid en veiligheid;
• Privacy- en gegevensbeheer;
• Transparantie:
• Diversiteit, non-discriminatie en rechtvaardigheid;
• Maatschappelijk en ecologisch welzijn;
• Verantwoordelijkheid;
• Respecteren waarden West-Europese democratie
• Vermijden van machtsconcentratie

Lees meer over de Z-inspection-methode

Uitkomst pilot

In de pilot is een AI-systeem van Provincie Fryslân beoordeeld en geanalyseerd aan de hand van de Z-Inspection-methode. Een internationaal team is vanuit verschillende disciplines met elkaar in gesprek gegaan over kritische vraagstukken, zoals het doel van het algoritme, het ontwikkelproces, ethische dilemma’s en belangenverstrengeling. Het grote belang van deze pilot ligt in de lessen die we eruit halen voor andere AI-trajecten, en voor de toepassing van de Z-Inspection-methode.
De uitkomsten van deze pilot zijn nuttig voor de gehele overheid, omdat we daarmee aan de slag kunnen met betrouwbare AI. Wij delen hier de resultaten en lessen uit de pilot in de hoop het digitale bewustzijn en de dialoog over AI binnen de overheid te stimuleren. En om de technologie met vertrouwen in te kunnen zetten voor de vragen van morgen.

Vanwege het internationale karakter van de samenwerking zijn de bijlagen in het Engels. De resultaten zijn op verzoek ook in het Nederlands te verkrijgen.

• The main lessons learned 
• The technical results of the assessment. 
• The human rights and ethical results of the assessment. 
• The ecological evaluations. 

Thrustworthy AI in de praktijk

Met deze pilot hebben we meer bewustzijn kunnen creëren rond de ethische aspecten, en praktijkervaring kunnen opdoen met het beoordelen van algoritmes. De pilot heeft verder vanuit een interdisciplinair assessment een wetenschappelijk advies opgeleverd, en een validatie van  Z-inspection-methode.

Hiermee is een best practice gerealiseerd waarmee de Nederlandse overheid kan inzetten op een betrouwbaar, veilig en uitlegbaar gebruik van AI. Het RIG heeft gecertificeerde Z-inspection teaching experts in huis om hierbij te ondersteunen. Neem contact op als uw organisatie aan de slag wil met de beoordeling van algoritmes.

In bijgaande film leggen professor dr. Roberto Zicari, Gerard Kemp van Provincie Fryslân en Willy Tadema van Rijks ICT Gilde uit wat het team heeft bereikt met de pilot.

Deelnemende partijen

In de pilot werkten diverse partijen samen. De provincie Fryslân, AI-autoriteit Prof. Dr. Zicari en het Rijks ICT Gilde onderzoeken samen de betrouwbaarheid van AI-toepassingen en het verantwoord gebruik daarvan. Gemeente Leeuwarden, Rijksuniversiteit Groningen/Campus Fryslân en beleidsadviseurs van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties keken mee. Lees onderstaand meer over de deelnemende partijen.

Meer weten?

Heb je vragen over de pilot? Mail naar RIG@Rijksoverheid.nl.