Deepfake detectie: hoe Parya Lotfi van DuckDuckGoose een wereld zonder deepfakes nastreeft.

Elke maand zetten we inspirerende ondernemers in de spotlight. Ondernemers die een mooi verhaal hebben waarbij ze technologie en connectiviteit op een bijzondere manier inzetten. Deze maand spraken we Parya Lotfi van DuckDuckGoose. Met haar jonge startup helpt ze ondernemers fraude via deepfakes te herkennen. Deepfake valt onder synthetische media: content die niet door mensen, maar door computers wordt gemaakt. Of content die wel door mensen is gemaakt en later (door een mens) is bewerkt met computers. Benieuwd hoe deze deepfakes worden opgespoord? Lees dan verder.

‘Sinds mijn zevende wil ik al een eigen bedrijf hebben en gaan ondernemen’, vertelt Parya. ‘De vrijheid om te experimenteren, nieuwe dingen te ontdekken en uit te vinden. En dan op mijn eigen manier een bijdrage leveren aan de maatschappij.’ Vandaar dat ze tijdens de opleiding Technische Bestuurskunde koos voor de minor Technology-Based Entrepreneurship aan de TU Delft. Hierdoor leerde ze vanuit de theorie te ondernemen. Met een team van 4 medestudenten bedacht ze oplossingen voor verschillende problemen, waarvan deepfake detectie als winnaar overbleef. Na het afronden van de minor besloot Parya samen met 2 van de 4 medestudenten de oplossing te verfijnen en een bedrijf op te zetten. Inmiddels is DuckDuckGoose 2 jaar verder en gaat het nog steeds erg goed.

Wat is deepfake?

Deepfake is een samenvoeging van deep learning en fake. Deep learning is een vorm van kunstmatige intelligentie (AI) dat ervoor zorgt dat computers nieuwe dingen leren van grote hoeveelheden data. Deepfake-software gebruikt deze AI om nieuwe digitale content te maken dat bestaat uit video’s, stemmen en afbeeldingen. Goede deepfakes zijn bijna niet van echt te onderscheiden. Er zijn ongeveer 3 soorten deepfakes:

1. FaceSwap: een gezicht wordt op het gezicht van iemand anders geplakt.
2. StyleGANs: dit kan worden gebruikt bij het maken van een neppaspoort. Door AI worden nieuwe unieke gezichten gemaakt op basis van een analyse van portretten.
3. Deep Puppetry: het synchroniseren van iemands gezicht. De maker kan zijn emoties en bewegingen ook door een ander laten doen. Zo kan hij iemand allerlei dingen laten zeggen.

Oplossingen voor deepfake bedreigingen.

Met hun software wil DuckDuckGoose een digitale omgeving maken waarin we nog kunnen geloven dat wat we waarnemen echt is. De DeepDetector is hun belangrijkste product waarmee ze deepfakes detecteert. Verder biedt ze extra diensten voor het maken van deepfakes.

DeepDetector

Hiermee spoor je binnen 1 seconde deepfake-gezichten in video’s en afbeeldingen op met 93% kans dat het lukt. Eerst worden alle zichtbare gezichten in de afbeelding of video gewist. Dan wordt de deepfake-detectietechnologie aangezet en de gezichten onderzocht om deepfake sporen te vinden. Uit de analyse blijkt dan of het inderdaad om een deepfake gaat. En het laat ook zien waar de afbeelding of video is bewerkt.

Replicant

Replicant maakt deepfakes voor het testen van bestaande systemen. Denk aan het identificatiesysteem van een bank. Rekeninghouders worden met een foto van hun identiteitsbewijs en een selfie geïdentificeerd. DuckDuckGoose test dit identificatiesysteem door het aan te vallen met zelfgemaakte deepfakes. Om zo te bepalen of het systeem deepfakes kan herkennen. Replicant wordt als een dienst aangeboden, maar gebruikers kunnen ook zelf testen met vooraf gemaakte deepfakes.

DeepfakeProof

Met deze browser plug-in scan je elke webpagina die je bezoekt om zo deepfakes op te sporen. Is er sprake van een deepfake, dan krijgt de gebruiker een waarschuwing. ‘Deze plug-in is nog in ontwikkeling en in eerste instantie bedoeld voor journalisten’, zo vertelt Parya. ‘We zijn van plan het uit te breiden en voor iedereen beschikbaar te maken. Consumenten surfen ook op het web en krijgen misschien ook wel te maken met deepfakes.’ Alle deepfakes die gebruikers online tegenkomen slaat DuckDuckGoose op in een database, die in de toekomst openbaar wordt. In deze database zie je dan wat voor deepfakes er worden gemaakt, met wat voor doel en waar ze online staan.

Blijven vernieuwen.

‘De ontwikkeling van deepfakes staat niet stil’, vertel Parya. ‘Er komen steeds nieuwe soorten deepfakes bij. Om bij te blijven maken we zo snel mogelijk een deepfake van alles wat we tegenkomen en nog niet kunnen herkennen. Dat voegen we toe aan het AI-systeem, zodat het ook nieuwe deepfakes herkent. We houden ons steeds bezig met nieuwe manieren van deepfakes maken en voegen er ook nieuwe voorwaarden aan toe.’ DuckDuckGoose is onderdeel van Futurelab, het vernieuwingslab van Odido. Op dit moment brengt Parya samen met Odido in kaart welke industrieën het meest door deepfakes worden geraakt. En hoe DuckDuckGoose deze industrieën kan helpen.

Ondernemersdromen van DuckDuckGoose.

‘Wat we uiteindelijk willen bereiken is dat we onszelf kunnen vergelijken met een antivirusprogramma’, vertelt Parya glimlachend. ‘Onze software staat op je computer en alles wat daarop binnenkomt wordt dan gescand op deepfakes. Uiteindelijk willen we iedereen op de juiste manier kunnen helpen met hun wensen als het gaat om deepfakes. Dat moeten we eerst goed onderzoeken, voordat we met een goed beleid komen voor elke groep die wordt geraakt door deepfakes. Ik zie onszelf over 10 jaar als een leverancier van producten die de maatschappij nodig heeft om online te kunnen bepalen wat echt is en wat niet.’ Een andere droom is niet alleen te focussen op fraude binnen bedrijven maar ook op social media. ‘Daar zijn we nog niet aan toe. We moeten dat verder onderzoeken en kijken hoe we dat slim gaan aanpakken. Het begint bij een individu en eindigt misschien ook met een hulpmiddel.’ Genoeg mooie dromen dus voor Parya als vrouw in de techwereld.

Tips voor vrouwen die in de tech wereld werken.

Het is niet vanzelfsprekend dat vrouwen in de techwereld werken. Het is een wereld dat vooral bestaat uit mannen, waardoor vrouwen zich bedreigd kunnen voelen. Niet nodig volgens Parya. ‘Mannen zijn ook gewoon mensen. Het helpt door jezelf niet anders te zien dan een man’, adviseert Parya. ‘Dan gaan ze je respecteren en word je bijvoorbeeld niet meer onderbroken in een vergadering. Sta ook open voor hun feedback. Je kan er altijd iets positiefs uithalen. En never stop learning. Het gaat helemaal niet om de biologische verschillen tussen mannen en vrouwen naar mijn mening. Het gaat erom dat je een hoog niveau van kennis hebt, die je op de juiste manier gebruikt om te communiceren met anderen.’ Ook adviseert Parya om je netwerk uit te breiden om zo win-win relaties te bouwen. Een goed netwerk dat bestaat uit bijvoorbeeld mentoren en industry experts geeft veel voordelen, want je wordt dan op de juiste manier geholpen. De laatste tip: zorg voor een goed team van mensen die hetzelfde denken als jij, maar je ook aanvullen. Zonder mijn co-founders zou ik niet zo snel zijn begonnen aan ondernemen, denk ik.’

Meer ondernemersverhalen.

Benieuwd naar andere ondernemersdromen van ondernemers? Bekijk dan eens deze ondernemersportretten:

• Minder elektronisch afval door slim papier en IoT van Tapp.online.
• Orbisk strijdt met AI tegen voedselverspilling in restaurants.
• Fairphone: hoe deze smartphone uit Nederland aan een betere wereld bijdraagt.
• Hoe deze Nederlandse bloemen en kunstplanten uitbloeiden tot een wereldwijd succes.
• Niet te filmen: waarom deze studio scenes maakt die niet direct gefilmd kunnen worden.