Deepfake Detectie: De dubbele kant van deepfakes

24 miljoen euro naar criminelen overgemaakt

Een financiële medewerker bij een multinational in Hong Kong is opgelicht voor omgerekend 24 miljoen euro.
De ingenieuze zwendel hield in dat de medewerker werd misleid om deel te nemen aan een video-oproep met wat hij dacht dat verschillende andere medewerkers waren, maar die in werkelijkheid allemaal deepfake-creaties waren, zo verklaarde de politie van Hong Kong tijdens een persconferentie op vrijdag.
“In de videoconferentie met meerdere personen blijkt dat iedereen [die hij zag] nep was,” vertelde senior superintendent Baron Chan Shun-ching aan de publieke omroep RTHK in de stad.
Chan zei dat de medewerker argwaan kreeg nadat hij een bericht had ontvangen dat naar verluid afkomstig was van de Chief Financial Officer van het bedrijf, gevestigd in het Verenigd Koninkrijk. Aanvankelijk vermoedde de medewerker dat het om een phishing-e-mail ging, omdat er sprake was van de noodzaak van een geheime transactie. De medewerker liet echter zijn vroege twijfels varen na de video-oproep, omdat de andere aanwezigen eruit zagen én klonken als collega’s die hij herkende, aldus Chan.

Wat zijn deepfakes?

Deepfakes zijn digitale manipulaties van beeld- en geluidsopnamen, waarbij geavanceerde kunstmatige intelligentie (AI) wordt gebruikt om mensen in video’s of audio realistisch te vervangen door andere personen of karakters. Het resultaat lijkt levensecht, maar is in werkelijkheid volledig gegenereerd door computersoftware.

Deze deepfake-technologie maakt gebruik van zogenaamde Generative Adversarial Networks (GAN), die in 2014 werden ontwikkeld door onderzoekers. Deze GANs leren gezichtsuitdrukkingen, stemmen en bewegingen van mensen te imiteren door enorme hoeveelheden data te analyseren. In 2017 heeft nVidia grote stappen gezet in de ontwikkeling van GAN-technologie, waardoor deepfakes nog realistischer en toegankelijker werden voor gebruikers.

Hierdoor kunnen kwaadwillende individuen of organisaties video’s creëren waarin het lijkt alsof echte personen dingen zeggen of doen die ze nooit hebben gedaan. Tegenwoordig is de technologie achter deepfakes wijdverspreid en gemakkelijk toegankelijk voor iedereen. Er zijn online platforms beschikbaar waar gebruikers gratis of betaald deepfakes kunnen maken, zoals deze. Bovendien kunnen mensen met minimale technische kennis, dankzij gebruiksvriendelijke tools en tutorials, zelf deepfakes creëren (bijv. met apps in de appstore).

Wil je zien hoe realistisch een deepfake foto kan zijn? Klik dan hier. Op deze site worden volledig verzonnen gezichten gegenereerd die er uitzien als echte mensen, maar in werkelijkheid niet bestaan.”

De voordelen en kansen van deepfakes

Deepfakes kunnen een waardevolle tool zijn voor onderzoek naar menselijke waarneming en machine learning. Door deepfakes te creëren en te bestuderen, kunnen we meer leren over hoe mensen informatie verwerken en hoe we machines kunnen leren om menselijke emoties en gedrag beter te begrijpen.
In de entertainmentindustrie biedt deepfake technologie unieke mogelijkheden. Denk aan de film Fast & Furious 7, waar deepfake-technologie werd gebruikt om de film af te ronden na het overlijden van acteur Paul Walker. Ook David Beckham maakte gebruik van deepfake in een campagne, waardoor hij in verschillende talen kon spreken zonder de talen zelf te beheersen.
Deepfakes kunnen ook een rol spelen in het toegankelijker maken van technologieën. Denk aan het creëren van realistische en interactieve AI-chatbots die klanten kunnen helpen met vragen en problemen.
In het onderwijs kunnen deepfakes boeiende educatieve content creëren. Denk aan deepfake-simulaties van historische gebeurtenissen of interactieve deepfake-lessen die leerlingen op een unieke manier betrekken.
In de gezondheidszorg kan het ingezet worden in de psychologie of voor stemreplicatie voor ALS-patienten, zoals te zien is op de video hiernaast.