Technologie

Deepfakes debunked: Hoe deze startup een deepfake over Sam Bankman-Fried ontmaskerde.

Hoe kunnen bedrijven en organisaties zich beschermen tegen deepfakes en misinformatie? Het is een vraag die steeds belangrijker wordt. Odido Business Blog helpt en inspireert graag bij het oplossen van deze vraag. Daarom vroegen we de Nederlandse startup DuckDuckGoose om de komende maanden te bloggen over opvallende deepfakes. En hoe hun technologie die aan het licht brengt. Zij ontwikkelden namelijk een tool waarmee ze deepfakes kunnen ontmaskeren. Met voorbeelden van opmerkelijke deepfakes leggen ze uit hoe ze dat doen.

Clock 4 min

Bankman-Fried richtte de cryptocurrency exchange FTX op. Het ging failliet gaan, met een schuld van 3 miljard dollar. De schuldeisers zochten naar een vorm van compensatie. En dat opende de deur voor oplichters.

Op vrijdag 18 november dook er een deepfake van FTX-oprichter Sam Bankman-Fried op. In de video die zich op Twitter verspreidde, leek de oprichter van de ingestorte cryptocurrency exchange te beweren dat hij zijn gebruikers wilde helpen door hun cryptocurrency te verdubbelen. Om het nog erger te maken, werd het Twitter account ook nog eens met een blauw vinkje geverifieerd. Hiermee was het account niet van het echte account van Sam Bankman-Fried te onderscheiden.

De SBF’s deepfake.

‘Dag iedereen. Zoals je weet gaat onze FTX exchange failliet’, zei de deepfake van Bankman-Fried in de video. ‘Maar ik haast me om alle gebruikers te informeren dat je niet in paniek moet raken. Als compensatie voor het verlies hebben we een winactie voor je opgesteld waarin je je cryptocurrency kan verdubbelen. Ga hiervoor naar de site ftxcompensation.com’. Op die site was met grote letters te lezen ‘Grootste crypto giveaway actie van $100.000.000. Stuur het gewenste aantal munten naar het onderstaande speciale adres. Zodra wij uw transactie hebben ontvangen, sturen wij u direct het gevraagde bedrag terug. Je kunt maar één keer meedoen aan onze winactie. Haast je!’

Klassieke giveaway oplichting.

Door het gebruiken van misleidende beelden, die oorspronkelijk kwamen uit een interview met Bloomberg Markets and Finance, deed de maker van de video zijn best om bezoekers naar een website te lokken. Met logo van FTX en een foto van Bankman-Fried. In een klassieke vorm van giveaway scam moedigt de site haar bezoekers aan om deel te nemen aan de wedstrijd. Hoe? Heel simpel: door via het portaal verbinding te maken met de cryptoportemonnee van de oplichters en daar een bepaald bedrag naar toe te sturen. Met de belofte dat de cryptocurrency teruggestuurd en zelfs verdubbeld zou worden. Op de scamwebsite stond zelfs een teller die het oplopende aantal transacties liet zien. Allemaal om site er echter uit te laten zien.

Social engineering.

Oplichting via weggeefacties met cryptocurrency is niet nieuw voor de cryptogemeenschap. Dit is een vorm van social engineering waarbij een oplichter probeert een cryptocurrency-investeerder te misleiden. Dat gebeurt door de investeerder te laten geloven dat een bepaalde autoriteit (bijvoorbeeld een grote cryptocurrency exchange platform of een beroemdheid) een weggeefactie organiseert. En om mee te doen aan de actie, moet men eerst een bepaalde hoeveelheid cryptocurrency naar een adres sturen. Zogenaamd zodat de oplichters achter de website het portemonnee-adres van de deelnemer kunnen verifiëren en dus de prijs van de weggeefactie naar de wallet van de winnaar kunnen sturen. Maar omdat cryptocurrency-transacties onomkeerbaar zijn, krijg je de gestuurde cryptomunten nooit meer terug. Het account waarop de deepfake video verscheen, is inmiddels van Twitter verwijderd. Het is niet bekend of er mensen in de deepfake zijn getrapt. Maar als er mensen zijn die de deepfake video geloofden en aan de weggeefactie hebben meegedaan, dan hebben ze waarschijnlijk de toegang tot hun cryptowallets weggegeven.

DuckDuckGoose’s deepfake analyse.

Op social media wordt de deepfake video van de FTX-oprichter belachelijk gemaakt. Gebruikers vinden dat de kwaliteit van de deepfake erg slecht is. Uit de analyse van het algoritme van DuckDuckGoose blijkt dat de deepfake gemaakt is van een bestaande video met een voice over. Daarbij is waarschijnlijk een eerdere stem van de FTX-founder gebruikt. Want het beeld komt van oude interviewbeelden van Bankman-Fried, en de stem lijkt gemaakt te zijn met een stemnamaker. Ook zou het kunnen dat ze oude geluidsfragmenten van Bankman-Fried gebruikten, waarbij bruikbare delen gekopieerd en achter elkaar geplakt zijn. Welke vorm van stemfraude het was, wordt nog onderzocht door het DuckDuckGoose team. Maar de audio is daarna toegevoegd aan de video, waarbij de lipbewegingen van Bankman-Fried met deepfake technologie gelijk getrokken zijn met de spraak. Ook zijn er vormen van simpele bewerkingen te zien, zoals het knippen van video. De figuur hieronder toont het analyseresultaat van DeepDetector.

Deepfake_FTX-lr

Ernstige misdaad.

Sam Bankman-Fried is niet de 1e persoon van wie er een deepfake op social media verschijnt. De meest voorkomende vorm van deze neppe, computergegenereerde audio- of videocontent, is de nabootsing van een echt persoon. Dat is meestal een beroemdheid. De beroepen die het vaakst het doelwit zijn van deze nieuwe fraude, zijn die in de IT en computerprogrammering. Andere voorbeelden zijn deepfakes van Elon Musk, Binance CCO Patrick Hillmann en acteur Robert Pattinson. Alles wijst erop dat fraude met deepfakes binnenkort een ernstige misdaad kan worden. Het is daarom belangrijk dat overheden, bedrijven en individuen ervoor zorgen dat ze het verschil gaan zien tussen echte en neppe media. Het zorgen voor bewustzijn rondom dit nieuwe fenomeen is de 1e stap voor het aanpakken van deze grote uitdaging. Verder helpen de tools ontwikkeld door DuckDuckGoose, om een duidelijk verschil te zien tussen echt en deepfake. Wil je hier meer over weten? Check dan de DuckDuckGoose detector.

Bedrijfsleven, bereid je voor.

De populariteit van deepfakes neemt toe. Maar ook de creativiteit van mensen met kwade bedoelingen. Met nieuwe technologie vullen ze traditionele methodes voor cyberaanvallen aan. Daarom is het noodzakelijk dat het bedrijfsleven zich hierop voorbereid. Wil je meer weten over cybercrime voor bedrijven? Lees dan nu ons e-book Cybercrime op de zaak, waarin 2 specialisten op het gebied van cybersecurity je meenemen in de wereld van cybercriminaliteit.

Beeld: Shutterstock