AP wil opheldering over fraude-algoritme gemeenten

Thema's:
Algoritmes, AI en de AVG
Gemeenten
Uitkering en sociale zekerheid

De AP heeft 5 gemeenten om opheldering gevraagd over het gebruik van de 'fraudescorekaart'. Dit is een algoritme dat risico’s op fraude door mensen met een bijstandsuitkering in beeld brengt.

Uit mediaberichten en signalen van de FNV komt een zorgelijk beeld naar voren, dat voor de AP aanleiding is hierop actie te ondernemen. 

De fraudescorekaart is omschreven als een geautomatiseerd systeem dat bijstandsgerechtigden een score geeft op basis van persoonlijke kenmerken, zoals beroep, woonwijk en opleidingsniveau. De score moet aanduiden of bij deze mensen een hogere kans op fraude bestaat.

Rechterlijke uitspraak

De 5 gemeenten zouden het algoritme zijn blijven gebruiken, ondanks eerdere rechtspraak over SyRI dat het gebruiken van zo’n systeem in strijd is met de privacywet AVG. En ondanks een oproep van de Vereniging Nederlandse Gemeenten (VNG) om ermee te stoppen. De gemeenten zouden pas zijn gestopt na kritische berichten in de media. 

Monique Verdier, vicevoorzitter AP: "Veel zaken lopen uitsluitend via de overheid. Daarin heb je als burger geen keuzevrijheid. Je bent daardoor gedwongen gegevensverwerkingen van de overheid te ondergaan. Juist daarom moet je er blind op kunnen vertrouwen dat dit netjes gebeurt. Dat de overheid niet onnodig informatie over jou opslaat en verwerkt. En dat discriminatie geen rol speelt in jouw contact met de overheid."

Rapportage

De AP wil opheldering van de gemeenten. Binnen 2 maanden moeten zij aan de AP rapporteren over hun werkwijze. De gemeenten moeten in de rapportage het advies opnemen van hun onafhankelijke interne privacytoezichthouder, de functionaris gegevensbescherming (FG). Daarbij moeten zij aangeven wat zij destijds met dit advies hebben gedaan. Ook moeten zij aangeven of burgers financiële schade hebben geleden en zo ja, hoeveel. En wat de gemeenten aan eventuele schade gaan doen. 

Nadat de gemeenten aan de AP gerapporteerd hebben, besluit de AP of vervolgacties nodig zijn en zo ja, welke.

Toezicht op algoritmes

Bij de toeslagenaffaire bracht onderzoek van de AP een discriminerend algoritme van de Belastingdienst aan het licht. Het kabinet heeft toen de staatscommissie tegen discriminatie en racisme ingesteld. 

De AP kreeg de taak een impuls te geven aan het toezicht op algoritmes. En hierbij de onderlinge samenwerking van de verschillende toezichthouders op algoritmes te versterken. Het doel hiervan is het gebruik van algoritmes scherper te controleren, discriminatie en willekeur tegen te gaan en transparantie te bevorderen. 

Mensen buiten van bovenaf gezien

Lees ook

Bekijk alle actualiteit