Technologie

Deepfakes ontmaskerd: hoe deze startup een deepfake over Zelensky ontmaskerde.

Hoe kunnen bedrijven en organisaties zich beschermen tegen deepfakes en misinformatie? Het is een vraag die steeds belangrijker wordt. Odido Business Blog wil je graag helpen en inspireren bij het oplossen van deze vraag. Daarom dat we de Nederlandse startup DuckDuckGoose gevraagd hebben om de komende maanden te bloggen over opvallende deepfakes en hoe hun technologie die aan het licht brengt. Zij ontwikkelden namelijk een programma waarmee zij deepfakes kunnen ontmaskeren. Met opmerkelijke deepfakes leggen ze uit hoe ze dat doen.

Clock 3 min

Vrij snel nadat Rusland Oekraïne binnenviel, kwam er een opmerkelijke video online waarin president Zelensky te zien is. In zijn toespraak roept hij zijn bevolking op om de wapens neer te leggen. In deze eerste blog vertelt DuckDuckGoose co-founder Parya Lotfi het verhaal achter deze deepfake. Maar ook vooral hoe je je als bedrijf kan beschermen tegen dit soort misinformatie. Want niet alleen de Oekraïense overheid kan hier slachtoffer van worden. Ook bedrijven zijn steeds vaker doelwit van dit soort digitale aanvallen, zoals we eerder al beschreven in ons artikel Fake news: wat als jouw bedrijf slachtoffer van nepnieuws wordt. Lees hier het verhaal van Parya:

Deepfake: Zelensky die zich overgeeft.

Het Oekraïense Centrum voor Strategische Communicatie, verbonden aan de Oekraïense regering, waarschuwde in het eerste kwartaal van 2022 dat de vijanden van de Oekraïense staat een deepfake video aan het voorbereiden zijn. In deze video zou president Volodymyr Zelensky zijn overgave aan de Russische invasie gaan aankondigen. Deze waarschuwing bleek terecht te zijn. Want op woensdag 2 maart verscheen op Facebook, YouTube en Telegram een nepvideo waarin een, op een vreemde manier bewegende Zelensky, Oekraïense troepen vroeg om hun wapens neer te leggen. Ook gaf televisiekanaal Ukraine 24 aan dat hun website gehackt werd en een beeld van de video en een samenvatting van het nepnieuws te zien was.

Deepfake ontmaskerd.

DuckDuckGoose heeft deze video meteen na verschijning op social media geanalyseerd met haar deepfake detectiealgoritme. Een deel van het analyseresultaat is te zien in het plaatje hieronder. De inzichtelijke module geeft aan dat de ogen en het gebied rondom de mond het meest heeft bijgedragen aan de conclusie dat het een deepfake is. Dit wijst erop dat hier mogelijk de deepfake techniek face swap is toegepast samen met neural puppetry. Dit houdt in dat het gezicht van een andere persoon in de originele video vervangen is door het gezicht van Zelensky, waarbij ook de bewegingen van de authentieke video als het ware gekopieerd en geplakt zijn op het gezicht van Zelensky.

Zelensky_deepfake_face

Het gevaar van deze deepfake.

Al is het onduidelijk wie de video heeft gemaakt en met welke reden, is de niet-overtuigende deepfake van Zelensky de eerste keer dat deepfake technologie als wapen is ingezet tijdens een oorlog. De gemiddelde persoon zonder voorkennis over deepfakes zou door de lage kwaliteit van de deepfake video kunnen twijfelen aan de echtheid van de boodschap. Toch kunnen deepfakes echt effect op de mening van het publiek hebben. Daarom is het belangrijk goed op te letten als kijker.

Deepfakes in het bedrijfsleven.

Het gemak waarmee deepfakes worden gemaakt wijst op een groeiend risico. Dat geldt niet alleen voor overheden, maar ook voor de particuliere sector. Zo kunnen klanten, partners en werknemers van niet overheid-bedrijven benadeeld worden en de goede naam van bedrijven kunnen grote schade oplopen. Maar de ervaring met de Zelensky-deepfake geeft enkele aanwijzingen wat bedrijven kunnen doen om beschermd te zijn tegen deze dreiging.

1. Herken risico’s en waarschuw stakeholders.

Ten eerste is het verstandig dat bedrijven die dit soort risico’s lopen, net zoals de Oekraïense overheid, van tevoren deze risico’s herkennen en waarschuwen voor het de kans dat media een verkeerd beeld gaat laten zien. Plan van aanpak en reactieplannen voor cyberincidenten moeten opnieuw bekeken worden, zodat het hele bedrijf begrijpt hoe desinformatie en misleidende media kunnen worden herkend en aangepakt. Op die manier worden medewerkers minder snel misleid tot fraude.

2. Overweeg deepfake detectie technologie.

Ten tweede zouden bedrijven ook moeten overwegen technologie te gebruiken die het makkelijk maakt om geloofwaardige deepfakes te herkennen. Als een mogelijke deepfake van een leidinggevende verschijnt, kunnen kijkers controleren om te zien of er met de media is geknoeid.

3. Handel snel.

Ten derde, als een deepfake die gericht is op een bedrijf rondgaat, moet het bedrijf snel handelen om erop te reageren met het juiste verhaal. Het bedrijf moet ook samenwerken met zijn advocaten en met sociale-mediaplatforms om de deepfake te laten verwijderen als het niet overeenkomt met hun beleid.

Bedrijfsleven, bereid je voor…

De populariteit van deepfakes neemt erg toe. Maar ook de creativiteit van mensen met kwade bedoelingen die traditionele methodes voor cyberaanvallen aanvullen met nieuwe technologie, maken het noodzakelijk dat het bedrijfsleven zich voorbereid op deze risico’s.

DuckDuckGoose