Op 20 december 2019 werd aan de Tweede Kamer een rapport aangeboden over toezicht op het gebruik van algoritmes. Je vindt het rapport hier:  Onderzoek_Toezicht_op_het_gebruik_van_algoritmen_door_de_overheid.pdf.

Doel van dit onafhankelijke onderzoek is nader inzicht te bieden in de wijze waarop het huidige toezicht op de toepassing van algoritmen bij de overheid is ingericht en op de manier waarop dit mogelijk nog beter kan.

Hoofdvragen waren:

• In welke mate is er op dit moment een juridische basis voor toezicht op overheidsalgoritmen?
• In welke mate wordt op dit moment in de praktijk uitvoering gegeven aan toezicht op overheidsalgoritmen?
• Welke beleidsadviezen zijn te geven op basis van de resultaten van het onderzoek?

Hieruit volgden de volgende aanbevelingen:

• Borg de democratische legitimatie bij inzet van overheidsalgoritmen. Formuleer algemene standaarden, waaraan overheidsalgoritmen moeten voldoen en die niet alleen voor juristen en beleidsmedewerkers hanteerbaar zijn, maar ook voor dataspecialisten.
• Laat overheidsorganisaties die algoritmen willen inzetten een impact assessment uitvoeren voordat het besluit genomen wordt algoritmen te gaan gebruiken. Dit instrument helpt organisaties om risico’s te identificeren, te mitigeren en na te gaan of zich nog restrisico’s voordoen. Regel dat organisaties die restrisico’s hebben vastgesteld maar wel gebruik willen maken van de algoritmen, de betrokken toezichthouder kunnen verzoeken om een ‘voorafgaande raadpleging’. Introduceer een zorgplicht voor overheidsorganisaties bij de inzet van algoritmes, zodat zij expliciet verantwoordelijk zijn voor de juistheid van de door hen ingezette algoritmen en laat organisaties periodieke audits uitvoeren.
• Doe nader onderzoek naar het geven van (eventueel een wettelijk verankerde) experimenteerruimte aan overheidsorganisaties op het gebied van de inzet van algoritmen. Hierdoor kunnen de uitvoeringspraktijk en toezichthoudende organisaties van elkaar leren.
• Stel zoals in Duitsland een commissie samen uit een variëteit van wetenschappers en experts om tot gezamenlijk gedragen standpunten te komen. Ontwikkel gezamenlijke definities voor termen als "bias", "auditeerbaarheid" en "transparantie".
• Bevorder het maatschappelijk debat over digitalisering in de samenleving.

 De link naar kamerbrief van Knops vind je hier.