Onderzoekers ontdekken Telegram-bot die naaktfoto's uit echte foto's maakt

Een bot op de chatapp Telegram maakte neppe naaktfoto's van meer dan 100.000 foto's van vrouwen. De bot is nog steeds actief en de beelden worden gedeeld in verschillende Telegram-kanalen, ontdekte platform Sensity AI.

Het zijn zogenoemde deepfakes, foto's die gegenereerd worden door een kunstmatige intelligentie op basis van bestaand materiaal. Het aantal deepfakes dat met de bot werd gemaakt steeg de afgelopen drie maanden met bijna 200 procent.

Gebruikers kunnen foto's van vrouwen in de Telegram-bot plaatsen en zo een naaktfoto genereren. Sensity AI schrijft dat het in 70 procent van de gevallen gaat om foto's van vrouwen die de gebruiker kent, niet beroemdheden of politici.

Het programma werkt door kleding te identificeren en een inschatting te maken van verschillende punten van het lichaam. Vervolgens maakt het op basis daarvan een naakt lichaam aan.

De meeste gebruikers zijn afkomstig uit Rusland en de bot lijkt ook een aanwezigheid te hebben op het Russische sociale netwerk VK.

Deepfakes zijn in toenemende mate slecht van echte foto's te onderscheiden. Het overgrote deel wordt als pornografie gebruikt, maar in sommige gevallen worden deepfakes ook ingezet om mensen te chanteren of om wraak te nemen. Doorgaans hebben slachtoffers van deepfakes geen toestemming gegeven voor het gebruik van hun materiaal.

De technologie om op deze manier naaktfoto's te maken bestond al langer onder de naam DeepNude. Sensity AI wijst er echter op dat het nog niet eerder zo gemakkelijk was om de technologie te gebruiken.