Nieuw toezicht op algoritmes moet discriminerende computers buitenspel zetten

De privacywaakhond Autoriteit Persoonsgegevens (AP) beoordeelt voortaan ook algoritmes bij organisaties en bedrijven. Dat is belangrijk, want die kunnen bijvoorbeeld worden ingezet bij sollicitaties of het verstrekken van hypotheken. Het nieuwe toezicht moet onder meer discriminatie door computers aanpakken.
Een algoritme is kort gezegd een verzameling regels die een computer volgt om tot een doel te komen. AP-voorzitter Aleid Wolfsen stipte maandag bij de start van het nieuwe algoritmetoezicht nog eens aan wat er mogelijk is met dit soort regels.

Zo kunnen ze fraude opsporen en depressie vaststellen. "Maar ze kunnen ook helpen bij wie je uitnodigt voor een sollicitatiegesprek", zegt Wolfsen. "En ze kunnen bepalen wie vooraf moet betalen bij een online aankoop en wie achteraf mag betalen."

Het kan veel mensen raken als algoritmes met verkeerde informatie getraind zijn. Er kan dan bijvoorbeeld vooringenomenheid en discriminatie in sluipen. "Software biedt ons geweldige kansen en innovatieve ontwikkelingen, maar we moeten oog houden voor de gevaren die er zijn", vertelt Wolfsen.

Algoritmes niet altijd nodig
Het moet veel transparanter worden hoe algoritmes precies werken. "We willen begrijpen hoe beslissingen met algoritmes worden genomen", zegt staatssecretaris Alexandra van Huffelen (Digitalisering).

Daarnaast moeten burgers meer controle krijgen over hoe hun gegevens door algoritmes gebruikt mogen worden, vult minister Franc Weerwind (Rechtsbescherming) aan. Volgens hem moet digitale technologie de mens dienen in plaats van andersom.

Algoritmes zijn ook niet altijd nodig voor organisaties om hun werk te kunnen uitvoeren, zegt Van Huffelen tegen NU.nl: "Soms zijn alternatieven beter." Daarom moeten bedrijven eerst een risicoanalyse maken, voordat ze algoritmes inzetten om bijvoorbeeld werkzaamheden van mensen te automatiseren.

Nieuw onderdeel en meer budget voor AP
De AP krijgt voor haar toezicht op algoritmes een nieuwe directie: de Coördinatie Algoritmes. Die zal uit zo'n tien tot vijftien mensen bestaan, zegt Wolfsen. De AP krijgt in 2023 voor haar nieuwe taken 1 miljoen euro. Dat bedrag loopt de komende jaren op tot structureel 3,6 miljoen euro in 2026.

Wolfsen "wil op de feestelijke bijeenkomst niet al te veel mopperen", maar noemt zijn organisatie nog steeds "royaal te klein" om aan haar werkzaamheden te kunnen voldoen. De AP zegt al jaren dat het te veel taken op haar bord heeft en te weinig budget heeft.

Het algoritmetoezicht gaat nu van start, maar er moet nog veel worden ingevuld. "Het belangrijkste is dat we snel gaan samenwerken met andere toezichthouders, want algoritmes worden overal ingezet", zegt Wolfsen tegen NU.nl. Daarnaast wordt gewerkt aan een normenkader, waarin staat aan welke eisen algoritmes moeten voldoen. Ook komen er transparantieverplichtingen voor organisaties.

Eerste boete over foute algoritmes al uitgedeeld
Hoewel sommige onderdelen van het toezicht de komende tijd pas vorm krijgen, kan de AP wel beginnen met handhaven als organisaties hun algoritmes niet goed in orde hebben. De AP heeft al sectoren op het oog die het wil onderzoeken, hoewel Wolfsen daar nu nog niets over kwijt wil.

"De eerste boete is feitelijk al uitgedeeld", laat Wolfsen weten. Hij verwijst daarmee naar de Belastingdienst. Die organisatie kreeg eind 2021 een boete van 2,75 miljoen euro opgelegd voor het toeslagenschandaal, waarbij discriminerende algoritmes een grote rol speelden.