Pilot: Assessment voor verantwoorde Artificial Intelligence

De pilot ‘Assessment voor verantwoorde AI’ is een stap in dit proces. Tijdens een drie maanden durende pilot onderzocht het Rijks ICT Gilde in samenwerking met de provincie Fryslân en AI-autoriteit Prof. Dr. Zicari een deep learning algoritme in de praktijk.

Aanleiding pilot

Tijdens de conferentie ‘AI and the future of Europe’ in Brussel op 30 maart 2022 vertelde staatssecretaris Alexandra van Huffelen dat de digitale transitie en het gebruik van AI altijd mensgericht moet zijn en gebaseerd op onze democratische waarden en rechten. Overheden moeten daarbij het goede voorbeeld geven.

Als overheid willen we de kansen van AI benutten, maar de technologie roept nog veel belangrijke vragen op. Hoe betrouwbaar zijn algoritmen? Kan een algoritme discrimineren? Wat zijn de ethische en maatschappelijke effecten van AI en hoe transparant is het gebruik ervan? Daarnaast moet het gebruik van AI altijd mensgericht en op onze democratische waarden en rechten gebaseerd zijn.

Daarmee komt een indrukwekkende hoeveelheid regels, kaders en raamwerken op het gebied van AI op ons af. Hoe pas je die in de praktijk toe? Waar moet je op letten? En hoe integreer je die in de ontwikkeling en het gebruik van AI?

Met de pilot ‘Assessment voor verantwoorde AI’ hopen we antwoord te krijgen op deze vragen en meer. Allereerst om het bewustzijn en de dialoog over AI binnen de overheid te stimuleren. En daarna om de technologie met vertrouwen in te kunnen zetten voor de vragen van morgen.

De pilot is inmiddels afgerond. Binnenkort delen we de resultaten.

Achtergrond pilot

Tijdens deze drie maanden durende pilot wordt de toepassing in de praktijk van een ‘deep learning algoritme’ van de provincie Fryslân onderzocht en beoordeeld. Het algoritme brengt heidevergrassing door middel van satellietbeelden in kaart voor het monitoren van natuurgebieden. Het toetsen van dit algoritme gebeurt in samenwerking met een internationaal multidisciplinair team, op basis van de ‘Z-inspection-methode’ - een proces om AI op betrouwbaarheid te toetsen.

Hierbij wordt het algoritme getoetst op sociale, ethische, technische en juridische implicaties. Dit gebeurt in multidisciplinaire teams volgens een holistische methodiek: daarbij wordt gekeken naar de samenhang, ordening en de interactie van de kenmerken aan een systeem. Het holistische karakter van de methode laat ruimte voor verschillende dimensies en zienswijzen, en richt zich in het bijzonder op het duiden en bespreken van ethische kwesties en spanningen.

Doelstellingen pilot

De pilot heeft meerdere doelstellingen, zodat elke partij een eigen win uit de pilot kan halen:

• Een wetenschappelijk onderbouwd assessment in de praktijk aan de hand van een concrete AI-toepassing;
• Begrijpen hoe je zorgvuldig én verantwoord je processen inricht voor het ontwikkelen en gebruiken van AI;
• Leren welke kaders, wet- en regelgeving van belang zijn en getoetst moeten worden in de verschillende fasen van ontwikkeling en gebruik;
• Vergroten inzicht en overzicht door middel van aanbevelingen;
• Stimuleren dialoog en vergroten bewustzijn over toepassen van betrouwbare AI.

Z-Inspection: een methode voor verantwoorde AI

Één van de belangrijkste kenmerken van de Z-inspection-methode is het interdisciplinaire karakter. De complexiteit van een AI-toepassing wordt weerspiegeld in de samenstelling van de het team. De verscheidenheid aan deelnemers zorgt voor een inclusievere beoordeling van de betrouwbaarheid van een AI-toepassing.

Een ander sterk kenmerk van deze methode is de dynamische toepassing. Een standaard checklist past zich niet aan de casus aan. De holistische benadering daarentegen bepaalt welke kwesties centraal staan ​​voor de use case (toepassing in de praktijk) in verschillende stadia van het proces. En beoordeelt welke aspecten van de case het belangrijkst zijn, door zich tussen intra- en interdisciplinaire discussies heen en weer te bewegen.

Met de toepassing van deze methode groeit het bewustzijn binnen de eigen organisatie, ontstaat een denkraam (mindset) voor verantwoord datagebruik en het betrouwbaar toepassen van AI. Zowel Provincie Fryslan als het Rijks ICT Gilde testen de methode in de praktijk om samen te leren hoe je vanuit verschillende dimensies naar een AI-toepassing moet kijken.

Raamwerk verantwoorde AI

Z-inspection maakt gebruik van het ‘raamwerk voor verantwoorde AI’ opgesteld door de Europese commissie met een focus op vier belangrijke ethische principes:

1. respect voor menselijke autonomie;
2. voorkomen van schade;
3. fairness (een eerlijk algoritme);
4. verklaarbaarheid en transparantie.

Deze ethische principes worden aan de hand van negen belangrijke onderwerpen getoetst. Per onderwerp wordt gekeken of het algoritme aan bepaalde kwaliteitscriteria voldoet én of de risico’s voldoende in beeld zijn en/of worden beperkt

• Menselijke keuzevrijheid en toezicht:
• Technische robuustheid en veiligheid;
• Privacy- en gegevensbeheer;
• Transparantie:
• Diversiteit, non-discriminatie en rechtvaardigheid;
• Maatschappelijk en ecologisch welzijn;
• Verantwoordelijkheid;
• Respecteren waarden West-Europese democratie
• Vermijden van machtsconcentratie

Lees meer over de Z-inspection-methode

Uitkomst pilot

Met behulp van de Z-inspection-methode worden de voor- en nadelen van de onderzochte AI-toepassing omschreven. Dit gebeurt aan de hand van een doorlopend en iteratief (zich herhalend en steeds verder verfijnend) onderzoek. Deelnemers krijgen hierbij ruimte om openlijk te reflecteren en documenteren wat bekend (en onbekend) is over de mogelijkheden van een AI-toepassing als basis voor latere evaluaties.

Deelnemende partijen

In de pilot werkten diverse partijen samen. De provincie Fryslân, AI-autoriteit Prof. Dr. Zicari en het Rijks ICT Gilde onderzoeken samen de betrouwbaarheid van AI-toepassingen en het verantwoord gebruik daarvan. Gemeente Leeuwarden, Rijksuniversiteit Groningen/Campus Fryslân en beleidsadviseurs van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties keken mee. Lees onderstaand meer over de deelnemende partijen.

Meer weten?

Heb je vragen over de pilot? Mail naar RIG@Rijksoverheid.nl.