Contouren algoritmetoezicht AP naar Tweede Kamer

Thema:
Coördinatie toezicht algoritmes & AI

Staatssecretaris Alexandra van Huffelen (Digitalisering) heeft de Tweede Kamer nader geïnformeerd over het in te richten algoritmetoezicht bij de Autoriteit Persoonsgegevens (AP). In de Kamerbrief staat met welke nieuwe activiteiten de AP, samen met de andere colleges, markttoezichthouders en rijksinspecties, in 2023 aan de slag gaat. Daarnaast wordt het al bestaande toezicht op algoritmes die (onrechtmatig) persoonsgegevens verwerken in 2023 versterkt.

Controle van algoritmes

Algoritmes en artificiële intelligentie (AI) spelen een steeds grotere rol in besluiten die bedrijven en de overheid over mensen nemen. Dit biedt kansen, maar de dreiging om de menselijke maat te verliezen ligt op de loer. Algoritmes kunnen grote impact hebben op mensenlevens en op de samenleving.

Met het algoritmetoezicht bij de AP geeft Van Huffelen invulling aan de ambitie van de Tweede Kamer en het kabinet om te regelen dat algoritmes worden gecontroleerd op transparantie, discriminatie en willekeur en dat dat wordt bewaakt door de AP.

Inrichting algoritmetoezicht

Een belangrijk onderdeel van het nieuwe toezicht is het signaleren en analyseren van sector- en domeinoverstijgende risico’s van algoritmes, en de samenwerking met andere organisaties te faciliteren en te intensiveren.

Aleid Wolfsen: “Samen met andere colleges, markttoezichthouders, rijksinspecties, stakeholders en experts is het afgelopen jaar uitgewerkt hoe het algoritmetoezicht moet worden ingericht. Dat dit gezamenlijk gebeurt, is logisch. Net als de AP, hebben ook andere instanties veel ervaring met het toezicht op algoritmes. Met elkaar kunnen we veel kennis en inzicht bundelen. Mede dankzij ieders input, meedenken en tegendenken is nu de basis gelegd voor dit brede, domeinoverstijgende algoritmetoezicht.”

Met deze nieuwe taak kijkt de AP naar risico’s die sectoren en domeinen overstijgen. Bestaande bevoegdheden en taken van andere colleges, markttoezichthouders en rijksinspecties veranderen niet. Versterking van de samenwerking tussen deze instanties is hierin belangrijk, zodat met gezamenlijke kennis en inzichten risico’s op discriminatie, uitsluiting en gebrek aan transparantie sneller kunnen worden gesignaleerd en aangepakt.

Start algoritmetoezicht

Vanaf januari start de AP met deze nieuwe activiteiten. De focus ligt daarbij in de beginperiode op het signaleren van risicovolle algoritmes, het bundelen van kennis en het verder vormgeven van de samenwerking.

Vrouw op straat in menigte