Kansen en risico’s van algoritmes en AI

Met beeldherkenning en drones kunnen agrariërs hun gewassen bekijken, analyseren en daarmee zorgen voor betere opbrengsten. Maar ook algoritmes die voorzien in dagelijkse gemakken, veelal ingebouwd in slimme apparaten zoals je smartphone, zijn amper weg te denken uit het dagelijks leven.

Maar door onverantwoorde ontwikkeling of inzet van algoritmes kunnen ook ongewenste effecten ontstaan. Die kunnen impact hebben op de grondrechten, publieke waarden en fundamentele vrijheden van mensen. Denk aan uitsluiting, willekeur of discriminatie. Algoritmes en AI-modellen worden getraind met grote hoeveelheden data. Wanneer deze gegevens niet correct zijn, of gebaseerd zijn op aannames, dan brengt dit risico’s met zich mee. Deze risico’s kunnen grote impact hebben op mensen, groepen en soms op de hele samenleving.

Transparantie

Algoritmes worden door organisaties vaak gebruikt om geautomatiseerd besluiten te nemen. Een van de risico’s hiervan is de kans op een oneerlijk of bevooroordeeld besluit. Of zelfs op willekeur, misleiding, uitsluiting, (groeps)oneerlijkheid of (groeps)discriminatie.

Voor veel mensen blijven algoritmes verborgen door een gebrek aan transparantie. Ze weten simpelweg niet dat er een algoritme in het spel is. Daarom is transparantie over de inzet van een algoritme zo belangrijk.

Valse werkelijkheid

Nieuwe algoritmische technieken zijn krachtig, maar in potentie ook ontwrichtend. Bijvoorbeeld doordat zij een valse werkelijkheid kunnen creëren. Denk aan deepfakes. Hoe meer zulke systemen worden toegepast, hoe moeilijker het voor mensen wordt om zeker te weten wat wel en niet te vertrouwen is. Dat geldt voor burgers, maar bijvoorbeeld ook voor klanten of werknemers.