Twitter: Excuses voor algoritme dat mogelijk nadruk legt op witte mensen

Twitter-topman Dantley Davis heeft zijn excuses aangeboden voor een fotoalgoritme op Twitter dat mogelijk systematisch de nadruk zou leggen op witte mensen in afbeeldingen van mensen met verschillende huidskleuren.

Het probleem kwam aan het licht toen een Twitter-gebruiker afgelopen week als test een afbeelding plaatste waarop zowel de Amerikaanse ex-president Barack Obama als de witte Amerikaanse senator Mitch McConnell stond. Het Twitter-algoritme sneed de previewafbeelding uit op het gezicht van McConnell, niet op dat van Obama.

Een previewafbeelding is een kleinere versie van een geplaatste foto, die is uitgesneden op een bepaald punt. Klikt iemand op de preview, dan zien ze de volledige foto.

Verschillende aanpassingen in de afbeelding leidden niet tot andere resultaten. Andere Twitter-gebruikers probeerden het experiment daarop met andere foto's en zagen hetzelfde gebeuren.

Davis en zijn team doen nu onderzoek naar het algoritme, onder meer om uit te sluiten dat het probleem niet komt door het contrast in de afbeeldingen, zoals door de aanwezigheid van een baard op een wit gezicht. "Wat de reden ook is, dit is een probleem", schrijft hij op Twitter.

De Twitter-topman zou erover denken om simpelweg te stoppen met het gebruik van dit soort afgesneden previewafbeeldingen.

Algoritmen die gebruikmaken van gezichtsherkenning gaan vaker de fout in met zwarte gezichten, onder meer omdat ze niet genoeg op zwarte mensen getraind worden. Volgens Davis is dat hier niet het probleem, omdat Twitter geen gezichtsherkenning gebruikt voor fotopreviews.