Facebook werkt aan methode die deepfakesoftware moet identificeren

Facebook gaat samen met Michigan State University (MSU) werken aan een methode die deepfakesoftware moet identificeren, schrijft het socialemediabedrijf woensdag. Hiermee kan een deepfake niet alleen worden herkend, maar kunnen de eigenschappen van het lerend algoritme ook worden achterhaald.

Het is al mogelijk om te achterhalen welke kunstmatige intelligentie een deepfake heeft gemaakt. De methode waar Facebook en MSU aan werken, gaat echter een stap verder.

Deze methode identificeert eigenschappen die het leerproces van de kunstmatige intelligentie aansturen. De gecombineerde eigenschappen laten een unieke vingerafdruk achter op de neppe foto's en video's.

Deepfakesoftware kan gemakkelijk worden aangepast. Verspreiders van deepfakes maken hier dankbaar gebruik van, zodat zij hun sporen uitwissen. Daarom is de methode van belang, zegt Facebook-hoofdonderzoeker Tal Hassner tegen The Verge.

"Stel je voor dat kwaadwillenden veel verschillende deepfakes maken en deze op verschillende platforms uploaden. Als die gebruikmaken van nieuwe software die niet eerder is gezien, dan hadden we er in het verleden weinig over kunnen zeggen. Nu kunnen we de foto's herleiden naar de eigenschappen. Daarmee kunnen we de bron en de boosdoener aanwijzen."

De methode zit nog in de onderzoeksfase en wordt nog niet ingezet.