Vele organisaties worstelen met de audits op algoritmes. Een basaal antwoord op waar en wat voor algoritmes in gebruik zijn is vaak al niet te beantwoorden, laat staan dat je er op kunt auditen. Niet iedere gemeente is zo ver als de gemeente Amsterdam, die een openbaar algoritmeregister heeft aangelegd. Laten we hopen dat andere overheidsorganisaties volgen.

Er bestaan verschillende typen algoritmes. Deze kunnen variëren van een eenvoudige beslisboom met een beperkt aantal variabelen tot complexe en zelflerende algoritmes, zoals machine learning of deep learning algoritmes.Deze laatste twee varianten vallen onder de categorie kunstmatige intelligentie. Hiermee kunnen complexe verbanden worden vastgesteld die een mens zelf moeilijk of niet kan vinden. Hierin is het redeneerproces vaak ook inherent ondoorzichtig en voor een mens lastig of niet te begrijpen.

Al weer in februari van het vorige jaar heeft het PBLQ – Rapport Tour d’Horizon algoritmes binnen Regie op Gegevens opgesteld die goede inzichten geeft. Waarom zelf het wiel opnieuw uitvinden? Je vindt het rapport onderaan deze tekst. 

Op grond van de hierboven geschetste aanleiding en context is de opdracht als volgt geformuleerd: - Breng de risico´s in kaart van het gebruik van algoritmes in de context van Regie op Gegevens.

- Doe dat aan de hand van een op te stellen toets model waarbij de principes van Regie op Gegevens als normstelling worden gebruikt;

- Valideer de bredere bruikbaarheid van het toets model door het op vier casussen toe te passen;

- Geef op basis daarvan een eerste beeld van de risico’s die meer in het algemeen optreden bij het toepassen van algoritmes in een Regie op Gegevens context, met een focus op de principes vertrouwen en dataminimalisatie.

Toetsmodel

In dit onderzoek is tevens gewerkt aan een toetsmodel dat handvatten biedt om een RoG toepassing te onderzoeken op de wijze waarop de RoG principes zijn toegepast. Hiermee kan onderzocht worden hoe de principes in de toepassing zijn verwerkt. Het toetsmodel betreft zowel de uitwerking van de RoG principes als een aantal mogelijke risico’s die bij het toepassen van algoritmen voor dataminimalisatie kunnen optreden. Het toetsmodel is een eerste aanzet die verder ontwikkeld kan worden door het in vervolgonderzoek toe te passen. In dit onderzoek is het toetsmodel toegepast om kennis te vergaren, het is nadrukkelijk niet de intentie om de casussen te beoordelen. Gezien het stadium waarin zowel het toetsmodel als de praktijk (die zich net begint te ontwikkelen) zich bevinden, kan dat ook nog niet aan de orde zijn.

Rapport

PBLQ%20%E2%80%93%20Rapport%20Tour%20d%E2%80%99Horizon%20algoritmes%...