Opmerking

Reactie van Yvonne Welings op 14 Mei 2024 op 13.04

in mijn optiek zou ik kiezen voor de bewaartermijn zoals we die ook voor algoritmes hebben bepaald in 2020:

handreiking-gebruik-selectielijst_20200506.pdf (vng.nl)

Algoritmes17
Nieuw in de Selectielijst 2020 is de verplichting onder resultaat 2.1.2 om algoritmen ‘met ingrijpend
maatschappelijk effect en/of complexe structuur’ permanent te bewaren en verwijzing naar resultaat
2.1 voor andere algoritmes.
De overheid is verplicht verantwoording af te leggen over haar handelen. Overheden dienen hun
besluiten te kunnen onderbouwen en daarmee hun besluitvorming kunnen overleggen.
Algoritmes maken steeds vaker onderdeel uit van de automatiseringsprocessen in de maatschappij.
Ook overheden maken steeds vaker gebruik van algoritmes om besluiten te nemen. Met behulp van
algoritmes worden steeds meer besluiten geheel of gedeeltelijk geautomatiseerd. De manier
waarop dit gebeurt, blijft tot op heden vaak verborgen in systemen waardoor de transparantie van
de overheid in het geding komt.
De insteek van de Selectielijst 2020 is dan ook dat de gemeenten en intergemeentelijke organen
gebruikte algoritmen zo vastleggen dat zij ten alle tijde de genomen besluiten kunnen verantwoorden en de manier waarop de besluitvorming tot stand is gekomen kunnen reconstrueren.
Gelet op het innoverende karakter en het maatschappelijke debat over het gebruik van deze technieken, is in de selectielijst een apart resultaattype toegevoegd op basis van de trendanalyse. Hierbij dienen gemeenten onderscheid te maken tussen de inzet van algoritmes die potentieel grote
impact hebben op rechten van betrokkenen, en algoritmes waarvoor dat niet geldt.
In het eerste geval geldt resultaat 2.1.2 (permanent bewaren) en in het tweede geval geldt dat deze
algoritmes vallen onder het resultaat 2.1 (V 10 jaar na einde werking). Permanente bewaring is aan
de orde daar waar sprake is van complexe algoritmes die majeure analyses maken met mogelijke
ingrijpende gevolgen voor burgers.
Gegevens die door een algoritme worden verwerkt, krijgen in de selectielijst niet dezelfde bewaartermijn als het algoritme (tenzij die data nodig is om het algoritme te beschrijven, zie hierboven). De
bewaartermijn van de gegevens hangt namelijk af van het proces dat wordt uitgevoerd. Zie hiervoor
ook de discussie over datasets (paragraaf 5.17).
Het bewaren van algoritmes betekent in de praktijk dat de ontwerpen van de onderliggende algoritmen inclusief toelichting en bijbehorende documentatie worden bewaard. Hoe complexer het algoritme, hoe meer documentatie bewaard moet worden om de werking en toepassing van het algoritme te kunnen verantwoorden.
Indien het voor de uitleg van de werking van het algoritme nodig is dat de zogenaamde trainingsdata ook wordt bewaard, dienen die net zolang worden bewaard als het algoritme (let dan wel op
de mogelijke aanwezige persoonsgegevens, zie paragraaf 4.9).
Het is daarbij niet per definitie nodig om de specifiek software te bewaren, als afdoende beschreven
wordt hoe het besluitvormingsproces plaatsvindt en welke afwegingen daarin zijn gemaakt.
De meest gebruikte algoritmes zijn eenvoudige ‘beslisboomalgoritmes’: voorgeprogrammeerde
formules waarmee voorspelbare processtappen geautomatiseerd kunnen worden. De documentatie
hoeft in deze gevallen niet heel uitgebreid te zijn om de besluitvorming voldoende te kunnen
17 Zie ook de discussie http://www.breednetwerk.nl/forum/topics/algoritmes-en-de-neiuwe-gem...
Vereniging van Nederlandse Gemeenten 29
onderbouwen. De bewaartermijn van deze algoritmes begint te lopen vanaf het moment dat de
onderliggende zaak niet meer geldig is
Daarnaast wordt er steeds vaker gebruikt gemaakt van gegevensanalyse bij beleidsvormingsprocessen. In de hiervoor toegepaste algoritmes wordt steeds vaker gebruik gemaakt van o.a. machine
learning en deep learning technieken. Deze toepassingen worden in de regel niet gebruikt voor het
automatiseren van processen, maar wel voor het maken van geautomatiseerde analyses. In de afgelopen jaren is maatschappelijk debat ontstaan over de toepassing van dergelijke algoritmen bij
overheidsorganen, met potentieel ingrijpende gevolgen voor de privacy van burgers en mogelijke
profilering. Voorbeelden zijn Syri, die voor de opsporing van fraude is gebruikt, en de gezichtsherkenning op het Stratumseind in Eindhoven, waarbij maatschappelijke onrust ontstaan is omdat hier
persoonsgegevens werden gebruikt om te profilering mogelijk te maken en op basis van die profilering handelend op te treden.
Het is van belang het gebruik en de ontwikkeling van machine learning te documenteren en bewaren.
In een volgende update van de Selectielijst zal het toevoegen van het resultaat 2.1.2 worden geëvalueerd en zal dit onderwerp verder worden uitgewerkt.
In 2020 ontwikkelt de werkgroep Algoritmes en Accountability van het Kennisnetwerk Informatie en
Archief (KIA) een handreiking18 voor het archiveren van algoritmes. Tevens werkt het Centraal Bureau
voor de Statistiek (CBS) in 2020 aan een ‘starterskit’ voor gemeenten, gericht op verantwoorde inzet
van algoritmen, waarin tevens aandacht wordt besteed aan documenteren en archiveren.