Blootleggen #9: Deepfake

De eerste keer dat ik een deepfake video zag, was in 2018. Jordan Peele, de komiek en horrorfilmregisseur, liet Barack Obama rare dingen zeggen. Dingen als: ‘President Trump is a total and complete dipshit’ en ‘Stay woke, bitches’. Halverwege de video verscheen Peele zelf in een split screen om te laten zien dat hij met zijn eigen gezicht dat van Obama manipuleerde, als een poppenspeler on AI. De waarschuwing was duidelijk: Vanaf nu kunnen onze vijanden ons doen geloven dat wie dan ook wat dan ook zegt, op welk moment en waar ter wereld dan ook.

We waren net twee jaar op weg met Trump, die zijn mond vol had van fake news terwijl steeds duidelijker werd dat hij hoogstwaarschijnlijk met Russische steun de verkiezingsuitslag had gemanipuleerd in zijn eigen voordeel. Ik herinner me dat ik voelde hoe mijn nekhaar omhoog ging staan toen ik Jordan Peele in beeld zag verschijnen en begreep waarnaar ik zat te kijken. Ik zag de nieuwe werkelijkheid direct voor me: je oren en ogen voortdurend moeten wantrouwen, een geluidsfragment tien keer opnieuw beluisteren, bewegend beeld van links naar rechts en van onder naar boven checken en dubbelchecken, bronnen traceren, met vrienden bellen: wat denk jij, is dit echt, moeten we hier iets mee? De geweldsuitbarstingen en de polarisatie die deepfake tot gevolg zou kunnen hebben, het gevoel van opgeslotenheid in de eigen subjectieve waarneming; het vervagen van begrippen als objectiviteit, identiteit en eigenaarschap.

Ik moest denken aan A scanner darkly, de scifi-roman van Philip K. Dick, waarin grote delen van de Amerikaanse bevolking in een diepe staat van paranoia en dissociatie verkeren. Substance D, een harddrug die hevige hallucinaties veroorzaakt, heeft zich als een epidemie over het continent verspreid. Undercoveragenten die drugskartels moeten oprollen maken gebruik van zogeheten scramble suits (je zou ze ook deepfake suits kunnen noemen): pakken die hun voorkomen en stem voortdurend doen veranderen, waardoor ze zelfs zichzelf en elkaar niet meer kunnen herkennen. Waarheid is een volledig subjectief en inwisselbaar begrip geworden. Omdat niemand meer weet wie wie is en wat echt is, bespioneert de regering zijn burgers; bespioneren spionnen en gewone burgers elkaar.

Vorige week las ik op NOS.nl dat 96 procent van alle deepfakes deepnudes zijn, al dan niet bewegende beelden waarin mensen ongevraagd en ongewild naakt verschijnen, vaak in pornografische scenario’s. De eerste DeepNude-app, die het mogelijk maakte om vrouwen op foto’s digitaal ‘uit te kleden’, werd kort nadat hij verschenen was door de maker offline was gehaald omdat de kans op misbruik te hoog was gebleken. Er maakten onder andere veel boze exen gebruik van, waardoor een geheel nieuw pornogenre was ontstaan: de wraakporno.

Maar zoals bleek uit het geval van Rana Ayyub is bewegend beeld gegenereerd met deeplearningsoftware al zo overtuigend dat deepnude ook effectief gebruikt kan worden voor verderstrekkende vormen van intimidatie, van slutshaming en virtuele aanranding tot afpersing en doodsbedreigingen aan toe. Ayyub, een Indiase onderzoeksjournaliste die zich kritisch had uitgelaten over onder andere hindoefundamentalisme in West-India, werd eerst overspoeld met bedreigingen als gevolg van een fake tweet die op haar account verscheen. Vervolgens vernam ze via een vriendin dat een vernederende deepfake pornovideo viraal was gegaan, waarin haar hoofd op het lichaam van een porno-actrice was geplakt. De beelden leken blijkbaar zo echt dat zelfs familieleden aan het twijfelen gebracht waren.

Intussen wordt deepfake óók ingezet voor rouwverwerking, en ik kan me zo voorstellen dat gestalttherapeuten en traumaspecialisten er evengoed raad mee zouden weten. Ik vind eigenlijk dat ik deze ontwikkelingen zou moeten toejuichen en verwelkomen, maar ik merk ook dat ik er waanzinnig veel weerstand bij voel. Het idee dat het allemaal niet echt is en dat echt toch beter is, zit er bij mij diep in. Als ik mezelf de vraag stel wat ik dan precies onder echt versta, kom ik uit bij noties als direct, fysiek, complex en confronterend.

Ik baseer me daarbij op mijn eigen ervaringen in virtuele omgevingen; ervaringen van relaties op afstand onderhouden, van vergaderen, werken, ruzie maken en vrijen op afstand. Het is hartstikke fijn dat het kan, elkaar horen en zien terwijl er halve werelden tussen zitten. Toch heeft het weinig te maken met de directheid en indringendheid van een fysieke ontmoeting, en ik denk toch dat het menselijk lichaam en de menselijke psyche gebouwd zijn op fysieke ontmoetingen. Op aanraking, op oogcontact en op het gedetailleerd lezen (kijken, luisteren, ruiken, voelen, proeven) van elkaars lichamelijke signalen.

Via een scherm communiceren is niet hetzelfde als elkaar in de ogen kijken, als de ander in je persoonlijke ruimte toelaten of ervoor moeten zorgen dat hij die ruimte respecteert; niet hetzelfde als een arm om je schouder of een gebalde vuist die voor je neus hangt. Een virtueel gereanimeerde versie van je geliefde alle vragen kunnen stellen die je hem bij leven had willen stellen en dan min of meer wenselijke antwoorden krijgen is niet hetzelfde als leren leven met met ongewisse van het niet-weten; met het onaffe van een abrupt einde. Met de lege plek op het matras naast je, op de stoel tegenover je, in zijn kleren, in je armen.

Waar ik bang voor ben, is dat het de weg van de minste weerstand is: gemakkelijker, oppervlakkiger. Ik vind daar iets van omdat ik het idee heb dat frictie, hindernissen en obstakels mij sterk en veerkrachtig hebben gemaakt; dat ze me hebben helpen groeien. Maar misschien is dat wel een romantisering die ik nodig heb om nog iets van zin of een doel te ontdekken in de moeilijkheden die ik op mijn pad ontmoette. Eén die voortkomt uit precies datzelfde verlangen naar heelheid en rondheid waar ik zo’n weerstand tegen voel als ik het bij een ander zie. Of een strenge, een zuinige, een calvinistische gedachte: geluk moet je verdíenen.

Hoe dan ook zeggen mijn angst voor onechtheid en mijn vooroordelen over mensen die voor het gemak kiezen ongetwijfeld meer hoe ik zelf in elkaar steek dan over de therapeutische effecten van deepfaketechnologieën.

Deze blog verscheen eerder op Bindu.nu.