Directie Coördinatie Algoritmes (DCA)

De focus van de DCA ligt op het beter beschermen van publieke waarden en grondrechten. Zoals het voorkomen van discriminatie, willekeur en misleiding en op het stimuleren van gebruik van transparantie en eerlijkheid van algoritmes.

De werkzaamheden van de DCA staan los van de reguliere toezichtstaken van de AP wanneer algoritmes persoonsgegevens verwerken.

Activiteiten DCA

In het eerste jaar richt de DCA zich op risicosignalering, het versterken van bestaande samenwerkingen bij algoritmetoezicht, en gezamenlijke en sectoroverstijgende normuitleg. Aan het einde van 2023 verschijnt een gezamenlijk rapport om de ontwikkelingen in het algoritmetoezicht en de risico’s van algoritmes inzichtelijk te maken.

Signalen risico’s algoritmegebruik en inzichten verzamelen

Door (sector- en domeinoverstijgende) signalen en inzichten over de risico’s en effecten van algoritmegebruik verzamelen, analyseren en kennis daarover delen.

Hierdoor krijgen de toezichthouders aanvullende inzichten in significante ontwikkelingen en risico’s. Dit versterkt het toezicht.

Ook voor wetenschappers, burgerrechtenorganisaties, beleidsmakers, burgers en bedrijven is beter zicht op de risico’s en effecten van algoritmegebruik van belang. Zo kunnen risico’s in een vroeg stadium van de ontwikkeling of inzet van algoritmische systemen in beeld gebracht worden. Dit is van belang voor toezicht, voor beleid, voor organisaties die algoritmes gebruiken, maar uiteraard ook voor iedereen die gebruik maakt van een dienst of product waarbij een algoritmes worden gebruikt.

Bestaande samenwerkingen bij algoritmetoezicht versterken en faciliteren

Door als toezichthouders intensiever samen te werken, kunnen risico’s van algoritmegebruik eerder aan het licht komen, effectiever worden aangepakt of zelfs worden voorkomen.

De DCA bouwt daarbij voort op bestaande overleggen, zoals het Samenwerkingsplatform Digitale Toezichthouders (SDT) en de brede werkgroep van toezichthouders op AI. Waar nodig worden samenwerkingen verder verdiept.

Ook brengen de AP en de andere toezichthouders gezamenlijk maatschappijbrede risico’s, toezichtsvraagstukken en blinde vlekken in het toezicht in kaart.

Gezamenlijke en sectoroverstijgende normuitleg en ‘guidance’ bevorderen

Bijvoorbeeld over transparantieverplichtingen in de verschillende wet- en regelgeving. De DCA  zal in samenwerking met de andere toezichthouders thema’s identificeren en aanbrengen.

Ook faciliteert de DCA het gezamenlijk uitleggen van juridische normen en kaders voor het inzetten van algoritmes en AI. Waar nodig zoekt de DCA  daarbij, in samenwerking met de andere toezichthouders, aansluiting bij de internationale standaardisatie.

Daarmee wordt voor bedrijven, overheden en andere organisaties duidelijker wat er van hen wordt verwacht en voor burgers wat zij kunnen verwachten.

Algoritmetoezicht in ontwikkeling

In de loop van 2023 zal de DCA samen met de andere toezichthouders en de betrokken ministeries identificeren wat er verder nodig is om het algoritmetoezicht in Nederland te versterken.

Eind 2023 publiceert de DCA daartoe een gezamenlijk rapport om de ontwikkelingen in het algoritmetoezicht en de risico’s van algoritmes inzichtelijk te maken. Dit rapport wordt ook aan de Tweede Kamer aangeboden.

Betrokkenheid ministeries

Er zijn 2 ministeries betrokken bij de nieuwe activiteiten van DCA van de AP:

• Vanwege de coördinerende rol op het digitaliseringsdomein stuurt het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) de beleidsmatige inrichting van de algoritmetoezichthouder aan. Het ministerie heeft een Algoritmeregister gelanceerd en een implementatiekader voor overheden opgesteld. Ook is er een ‘impact assessment’ voor mensenrechten bij gebruik van algoritmes gepubliceerd, het zogeheten IAMA.
• De minister voor Rechtsbescherming is verantwoordelijk voor het beheer van en het toezicht op de financiële middelen verstrekt uit het begrotingsartikel van de AP in de Rijksbegroting van het ministerie van Justitie en Veiligheid (JenV).

De AP ontvangt voor het oppakken van deze nieuwe taken vanaf 2023 1 miljoen euro, oplopend naar structureel 3,6 miljoen euro in 2026.