'AI-gegenereerde kinderporno circuleert op illegale markt'

Pedofielen gebruiken kunstmatige intelligentie (AI) om kinderporno te maken en te verkopen. Dat blijkt uit onderzoek van de Britse omroep BBC. De pornografische beelden worden gemaakt door AI-software geschreven opdrachten te geven.

Een van de gebruikte AI-software is Stable Diffusion, meldt BBC. Dat programma creëert beelden aan de hand van tekstuele aanwijzingen. De software heeft een 'open variant', waarbij verder geen regels gelden waar de beeldopdrachten aan moeten voldoen.

Abonnementen
De kunstmatige beelden worden via het internet verkocht. Zelfs legale websites waarop abonnementen worden verhandeld, bijvoorbeeld Patreon, ontkomen niet aan de illegale handel.

Bij platforms als Patreon werkt het zo dat gebruikers een abonnement betalen om bepaalde exclusieve content te kunnen zien. In dit geval nemen mensen dus een abonnement op accounts die kunstmatig gegenereerde kinderporno delen. Het platform heeft aan de Britse omroep verklaard een toename in kinderpornografisch materiaal te zien en een 'zero tolerance' beleid te hanteren. In andere woorden: kinderporno is niet toegestaan.

Britse autoriteiten vrezen dat kunstmatige intelligentie de toekomst van kinderporno gaat vormen. De politie zegt tegen BBC dat hoewel de beelden geen échte kinderen bevatten, het nog steeds schadelijk kan zijn.