Net echt: de impact van politieke deepfakes

Groen: Kunstmatige intelligentie

Net echt: de impact van politieke deepfakes

deepfakes

Konigin Elizabeth die bij de kersttoespraak een dansje op haar bureau doet: nooit vertoond – maar wel gezien op Britse televisie. Er komen steeds meer en steeds betere deepfakes: filmpjes die met behulp van kunstmatige intelligentie levensecht lijken, terwijl ze nep zijn. In deepfakevideo’s lijkt het alsof iemand iets zegt, zingt of doet, wat niet helemaal of helemaal niet klopt. Dat kan grappig zijn, maar ook schadelijk of ontwrichtend, zeker wanneer ze opduiken in een politieke context. Een deepfake waarin de premier toegeeft dat Covid-vaccins een chip bevatten, zal de vaccinatiegraad weinig goed doen. Een deepfake waarin een minister van Buitenlandse Zaken de islam lijkt te beledigen terwijl hij op staatsbezoek is in Pakistan, kan een diplomatieke rel veroorzaken – of erger. Dat politieke deepfakes niet onschuldig zijn, voelen we op onze klompen aan, maar de concrete impact ervan is moeilijk voor te stellen. Precies naar die impact deed Tom Dobber onderzoek, met een deepfake met oud-politicus Sybrand van Haersma-Buma in de hoofdrol. Hij presenteert zijn conclusies, waarna ChristenUnie-Kamerlide Mirjam Bikker en Rathenau-onderzoeker Pieter van Boheemen reageren.

Doemdenkers vrezen de ‘infocalyps’: het einde van de tijd dat informatie ons nog daadwerkelijk informeerde. En daarmee het begin van de tijd waarin het steeds lastiger is echt te onderscheiden van nep. Een van de belangrijkste onderdelen van die naderende ‘infocalyps’ is het fenomeen deepfake. Voor deepfakes wordt al een tijd gewaarschuwd, maar wetenschappelijk bewijs voor de veronderstelde negatieve effecten is dun. Daarom nam ik de proef op de som en maakte ik met behulp van kunstmatige intelligentie1 een deepfake van een Nederlandse (inmiddels ex-) politicus: Sybrand van Haersma Buma. In de deepfakevideo maakte Buma een slechte woordgrap over het lijden van Jezus Christus. Mijn verwachtingen waren 1) dat mensen zouden geloven dat de deepfake echt is, 2) dat mensen negatiever over Buma en het CDA zouden denken na het zien van de deepfake en 3) dat met name christenen negatiever zouden gaan denken over Buma en zijn partij.

In samenwerking met de ethische commissie van de Universiteit van Amsterdam voerde ik een experiment uit. Daaruit bleek dat twaalf van de 143 mensen die de deepfake zagen, doorhadden dat de video nep was. Ook dachten de mensen die de deepfake hadden gezien negatiever over Buma dan de mensen die de controlevideo hadden gezien: mensen gingen dus negatiever denken over Buma na het zien van de deepfake. Maar mensen gingen niet negatiever denken over het CDA.

Ten slotte keek ik of christenen extra negatief reageerden op de deepfake. Bij de groep in zijn geheel was dat niet zo, maar ‘christenen’ is natuurlijk een erg brede groep. Sommigen gaan dagelijks naar de kerk en anderen alleen met kerst. Toen ik de groep christenen nader inspecteerde, ontdekte ik bij de groep die te definiëren is als ‘sterk religieus’ die in de afgelopen jaren weleens op het CDA had gestemd juist wel een sterk effect. De sterk religieuzen in de controlegroep dachten na het zien van de niet-controversiële controlevideo vrij positief over Buma en het CDA. Maar de sterk religieuzen in de deepfakegroep dachten significant minder positief over Buma en zijn partij.

De resultaten geven aanleiding tot drie voorlopige conclusies. Ten eerste trappen vrij veel mensen in een deepfake (in dit onderzoek zelfs 92%). Hoewel steeds meer mensen hebben gehoord van deepfakes, worden deepfakes beter en dus lastiger te onderscheden van echt. Ten tweede kunnen deepfakes inderdaad mensen beïn- vloeden, maar moeten we het effect van één enkele deepfake niet overdrijven. Het is namelijk de vraag hoelang het effect aanhoudt. In deze deepfake maakte Buma een vrij onschuldig grapje. Een extremere uitspraak kan sterkere effecten teweegbrengen. Ten derde reageerde één groep, de sterk religieuzen, vrij stevig op de deepfake. Nu kwaadwillenden met digitale advertenties precies de doelgroep kunnen bereiken die ze willen, is dit een ontmoedigende bevinding. Het suggereert dat ze verschillende deepfakes op maat kunnen maken en kunnen tonen aan precies degenen die er vatbaar voor zijn. Een kanttekening hierbij is dat het lastig is om vooraf in te schatten wie waarvoor gevoelig is.

Kortom, de verwijzing naar de Bijbelse apocalyps bij de term ‘infocalyps’ is niet toevallig gekozen. Mijn onderzoek suggereert dat we inderdaad negatieve gevolgen kunnen verwachten van politieke deepfakes. We bevinden ons in de luxepositie dat we een bedreiging van mijlenver aan zien komen. Nu moeten we handelen. Bijvoorbeeld door op scholen mediawijsheid een vast vak te maken. Of door een abonnement te nemen op media die zich aan journalistieke normen houden.

Waar het bij het onderzoek vorig jaar nog veel werk was om de deepfake te maken, is het inmiddels mogelijk om in een paar uur een zeer realistische deepfake te maken. Tegelijkertijd is er nog geen enkele deepfake opgedoken in de publieke sfeer die als doel heeft te misleiden. De vraag rijst daarmee of doemdenkers met het gebruik van alarmistische termen als infocalyps niet precies datgene bereiken waar ze voor waarschuwen: een situatie waarin informatie bij voorbaat verdacht is, zodat het voor mensen steeds lastiger wordt echt van nep te onderscheiden.

Bestel dit nummer van Groen

en lees de reacties van Kamerlid Mirjam Bikker en Rathenau-onderzoeker Pieter van Boheemen

Groen cover 2021-1

Gerelateerde artikelen

  1. Techkandidaat

    2 november 2020 om 12:00 by Bas de Groot

    Bas de Groot column

    Eind deze maand stellen de ChristenUnie-leden de kandidatenlijst vast voor de komende Kamerverkiezingen. Uw columnist van dienst heeft geen politieke aspiraties, maar volgt dit proces met veel interesse - het gaat immers om de politieke voorhoede van de partij. Traditiegetrouw bevat de lijst capabele en talentvolle mensen, maar helaas ontbreekt er een techkandidaat op een verkiesbare plek en dat is een gemiste kans voor de ChristenUnie.

    Lees verder

  2. Data-ethiek

    18 mei 2020 om 12:00 by Bas de Groot

    Bas de Groot column

    In mijn vorige column hield ik een pleidooi om ook in coronatijden onze digitale vrijheden te koesteren. Inmiddels zijn we zes weken verder en lijkt het erop dat er een tracingapp komt voor bron en contactonderzoek. Dit lijkt mij onwenselijk, maar het laat ook een onderliggend probleem zien: het gebrek aan data ethiek bij politieke besluitvorming.

    Lees verder

  3. Volwassen democratie

    6 april 2020 om 12:00 by Bas de Groot

    Bas de Groot column

    Mark Rutte oogstte veel lof met zijn toespraak over de verlenging van de Corona-maatregelen. Direct, duidelijk, presidentieel. Wat mij in positieve zin is bijgebleven is zijn pleidooi voor een volwassen democratie. Geen regering die burgers oplegt wat te doen, maar kabinet en burgers gezamenlijke ten strijde tegen het virus. Mijn aanvulling: laten we in deze tijden ook onze digitale vrijheden koesteren.

    Lees verder