Welke rol spelen deepfakes in een wereld waarin steeds vaker wordt getwijfeld aan feiten? Volgens Nina Schick staan deepfakes straks garant voor wat zij beschrijft als de infocalypse. Daarmee bedoelt zij een samenleving die bezwijkt onder een immer toenemende stroom van onjuiste informatie. Haar boek, uitgekomen vlak voor de Amerikaanse presidentsverkiezingen van 2020, biedt daarmee een vrij pessimistische kijk op de toekomst, al benoemt ze in het laatste hoofdstuk enkele strategieën om de (naderende) infocalypse in te dammen.
In essentie is Deepfakes, The Coming Infocalypse een boek over desinformatie en de snelle ontwikkelingen rondom kunstmatige intelligentie en het ontstaan van synthetische media. Met dit laatste wordt video, audio, foto of tekst bedoeld die geproduceerd of aangepast wordt dankzij kunstmatige intelligentie. Alhoewel ze stelt dat synthetische media ook ten positieve gebruikt kan worden gaat haar boek primair over de nadelige kanten ervan. Wat gebeurt er op het moment dat synthetische media niet meer te onderscheiden is van echt?
Dat dat moment eraan zit te komen is onvermijdelijk, evenals het feit dat de tools om synthetische media te kunnen produceren steeds toegankelijker worden. Het gegeven dat we als mensen van nature geloven in dat wat we zien en horen maakt ons daarmee kwetsbaar voor misbruik. Wanneer daarmee gezaagd wordt aan het hebben van een gedeelde realiteit kan dat z’n uitwerking hebben op het functioneren van de samenleving. Op basis waarvan kan je dan consensus zoeken of besluiten nemen? Dat wordt nog eens versterkt door wat Schick betitelt als het ‘liar’s dividend’: alles wat echt is kan even gemakkelijk als nep worden betiteld. Dit principe kennen we natuurlijk al van het kwalificeren van traditionele media als fake news. Iedereen met een grote megafoon of slechte intenties heeft hierdoor twee mogelijkheden om twijfel te zaaien: synthetische media inzetten of gewoonweg beweren dat iets niet waar is.
Schick ziet de toekomst daarom pessimistisch tegemoet, maar ziet ook mogelijkheden om de samenleving tegen de infocalyps te wapenen. Volgens Schick gaat het om een drietrapsraket: 1. bewustwording van wat er speelt; 2. verdedigen met op feiten gebaseerde informatie en toepassingen die synthetische media kunnen herkennen en 3. de aanval kiezen, waarbij ze de strategie van Estland aanhaalt dat zich als land succesvol wapent tegen de invloed van Russische desinformatie.
Nina Schick komt ook aan het woord in de Tegenlichtuitzending Zien is geloven.
In de podcast Future Shock heeft communicatiewetenschapper en microtargetingexpert Tom Dobber een wat meer genuanceerde kijk op de door Schick aangekondige infocalypse.
Onlangs vertelde ik enkele collega’s enthousiast over ‘Alive and Clicking‘ van Rudy van Belkom en de relevantie van dat boek voor het begrip participatief burgerschap. Bijna gelijktijdig reageerden Koen Vos (practor brede vorming bij ROC Friese Poort) en Joyce Kerstens (associate lector bij NHL Stenden Hogeschool), beide uit mijn directe netwerk, daarop met ‘Nu is het aan ons‘ van Eva Rovers, uitgegeven door De Correspondent.
Daardoor ontkwam ik er natuurlijk niet aan dit hoekje ook zelf aan te schaffen en het in één ruk uit te lezen. De publicaties vormen een prachtige tandem, waarbij Rovers aan de hand van klimaatuitdagingen de waarde van burgerberaden beschrijft. Ze legt ook de vinger op de zere plek door te beschrijven in hoeverre Nederland hierin mondiaal gezien achterloopt. De kracht van digitalisering bij deze vorm van (ook deliberatieve) democratie wordt door Van Belkom in zijn boek helder uiteengezet.
Beide auteurs signaleren het risico van desinformatie rondom dit soort explosieve thema’s, maar hoopvol is dat Rovers illustreert dat dit het hoofd kan worden geboden: gedurende het gehele proces zijn fact-checkers actief zijn om de deelnemers van juiste informatie te voorzien en deze is zo verpakt dat zij voor iedereen te begrijpen is.
In navolging van mijn waardering voor Van Belkom’s boek daarom nu ook die voor Rovers’ pamflet. En lees ze beide, want ze zijn over en weer een verrijking.
Binnen de programmalijn digitaal burgerschap definieerden we drie sporen: digitale vaardigheden, digitale weerbaarheid en participatief burgerschap. Dat laatste spoor is het meest abstract, wat je onder andere terugziet in het aantal interventies dat hiervoor voor gebruikers onder de noemer ‘Burgerwetenschap en democratie‘ beschikbaar is: in relatie tot de andere sporen is dat veruit het minst.
Stof tot nadenken, maar bovenal inspiratie voor dit onderdeel, biedt Rudy van Belkom met zijn boek Alive and Clicking. Het begrip digitaal burgerschap komt er als zodanig niet in voor, maar ik zou het gerust als stempel erop willen drukken. Hij brengt op uiterst leesbare wijze onderwerpen als desinformatie, democratie, burgerparticipatie én de potentieel grote positieve rol van jongeren (en misvattingen over hun kijk op digitalisering en hun rol in het democratische proces) bij elkaar.
Wat mij betreft daarom een absolute aanrader voor iedereen die zich bezighoudt met digitaal burgerschap en digitale geletterdheid. En ook een inhoudelijk mooie link met het project What the Future Wants waarvan we met Fers de Nederlandse partner waren. Dit project maakt ook onderdeel uit van de AI Parade die komend jaar langs Nederlandse bibliotheken trekt.
“Maar hoe gaat dat factchecken nu eigenlijk in zijn werk? Kun je eigenlijk wel bepalen wat ‘De Waarheid’ precies is?” Deze vraag stelt Maarten Schenk zichzelf in De Fake News Files (Uitgeverij Lannoo, 2022). “Gelukkig is het bij de meeste factchecks helemaal niet de bedoeling om uit te vissen wat dé waarheid is, in 99 procent van de gevallen gaat het immers om het tegenovergestelde, bewijzen dat iets niet waar is.” Als voorbeeld daarvoor haalt Schenk een stelling als “alle schapen zijn wit” aan. “Je hoeft dan maar één zwart exemplaar te vinden en je bent klaar.” En dat natuurlijk wel op controleerbare feiten gebaseerd.
Maar laat dat nou net de specialiteit van Schenk zijn. Hij is in 2015 mede-oprichter van factcheckingbedrijf Lead Stories, dat gebruikmaakt van het door Schenk ontwikkelde Trendolizer, een softwaretool die inzichtelijk maakt welke berichten viraal gaan op sociale media. Lead Stories zou vervolgens verhalen publiceren over de herkomst van het bericht, of het nieuw of al bestaand is, wie het schrijft, pusht en natuurlijk of het verhaal klopt.
In De Fake News Files schrijft Schenk over het ontstaan van zijn bedrijf en het momentum dat zij kregen dankzij de Amerikaanse presidentsverkiezingen in 2016 en 2020, de laatste nog eens extra interessant door de corononacrisis. Beide gingen gepaard met een enorme aanwas van online desinformatie en daarmee een toenemende politieke en maatschappelijke druk op sociale-mediabedrijven om daar iets aan te doen. Deze samenloop van omstandigheden maakte dat Lead Stories berichten op andere Facebook en TikTok voorziet van factcheckinglabels. Schenk steekt niet onder stoelen of banken daar best trots op te zijn.
Alle bekende, maar ook heel veel onbekende voorbeelden van desinformatie komen voorbij. Of het nu gaat over een moderne klassieker als QAnon of de talloze nep-overlijdensberichten van celebrities; alles wordt door Schenk even toegankelijk en gedetailleerd beschreven. Wat De Fake News Files echter onderscheidt van veel andere boeken over desinformatie is hoe Schenk en zijn Lead Stories-redactie deze verhalen debunken, tot op het beschrijven van het redactieproces aan toe. Op die manier geeft hij een prachtig inkijkje in de enerverende wereld van factcheckers.
Kers op de taart is dat Schenk alle voorbeelden uit zijn boek online heeft uitgewerkt. Op die manier kan je stap voor stap nagaan hoe het factcheckingproces in zijn werk is gegaan.
Echt Nep (Bot Uitgevers, 2022) van auteurs Menno van Doorn, Sander Duivestein en Thijs Pepping heeft als ondertitel ‘spelen met de realiteit in tijden van AI, deepfakes en de metaverse’. Het is opgehangen aan het beantwoorden van vier vragen: Verdwijnt het verschil tussen ‘echt’ en ‘nep’? Waarom verliezen feiten het van fictie? Hoe worden synthetische media gebruikt om nieuwe verhalen te vertellen? En tot slot Hoe herstellen we onze relatie met de realiteit?
De auteurs stellen dat we post-realiteitswezens zijn: we geven de werkelijkheid altijd zo vorm zodat deze voor ons te behapstukken is. Hierbij introduceren ze het principe van de spelende mens, Homo Ludens. Het spelen met de werkelijkheid maakt het onderscheid tussen nep en echt diffuus, ook omdat de technologie bijdraagt aan het spelen van het spel .
De kracht van verhalen speelt hierin een leidende rol. Dit verklaart bijvoorbeeld ook het ‘succes’ van desinformatie en complottheorieën. Dat technologie ons nu in staat stelt om deze verhalen steeds beter zelf te construeren is onderdeel van de kracht. Oneens ben ik met de auteurs als zij stellen dat we het gevaar hiervan overschatten, omdat de geschiedenis heeft geleerd dat er altijd sprake is van een tegenmacht.
Het is die overtuiging, gecombineerd met de grote opsomming van (economisch) succesvolle voorbeelden binnen het veld van NFT’s, cryptovaluta’s en AI’s, dat ik af en toe afhaakte. Wat is eigenlijk de positie van de auteurs? Zijn het enkel verstokte techoptimisten? Het vermogen om te kunnen spelen is een prachtig uitgangspunt, maar wat betekent dit voor mensen die hiertoe om allerlei redenen niet in staat zijn? Het aanhalen van Marc Andreessen, met diens belofte dat “de metaverse iedereen gelijke kansen biedt om de tekortkomingen van de fysieke realiteit te overwinnen”, omdat “iedereen immers de instrumenten krijg om zijn eigen werkelijkheid en eigen verhaal te creëren” klinkt als een klassiek technologisch-deterministisch uitgangspunt.
Ook op andere plekken in Echt Nep wordt, al dan niet tussen de regels door, de suggestie gewekt dat we er spelenderwijs wel achter komen hoe één ander in zijn werk gaat. De realiteit (…) is natuurlijk ook een andere. De AI-, deepfakes- en metaversetrein dendert door, maar hoe zorgen we ervoor dat iedereen ook kan instappen?
Het aanhalen van George Monbiot, bedenker van het herstelverhaal, is voor mij daarmee de grootste eye-opener van het boek. Hij stelt dat de capaciteit tot samenwerken en goed doen de onderscheidende kracht van mensen is. Wanneer dit het vertrekpunt voor het construeren voor een antwoord op het neoliberalisme is, met als uitgangspunten de commons en waarden als verbondenheid en gemeenschap, is er hoop. En dan niet alleen als antwoord op het economische model, maar vooral op de maatschappelijke implicaties.
nb. Noem het een persoonlijke tic, maar ik wordt altijd ontzettend afgeleid door spatiefouten. Dat maakte het lezen van Echt Nep bij tijd en wijle een opgave, want het aantal spatiefouten in ontstellend hoog. “Op aan sprak”, “fact checking afdelingen”, “hoe zeer”, “samen spannen en samen werken”. Het is maar het het topje van de ijsberg. Een eindredactieslag is een aanrader.
Adviseur digitaal burgerschap bij de Koninklijke Bibliotheek en projectleider digitaal burgerschap bij Firda. Lid van Platform digitaal burgerschap Friesland. Mede-auteur van het AI Kookboek.
Werkte bij Fers o.a. aan Open Bibliotheek Badges, Data Detox Kit, The Glass Room expo, What The Future Wants en FryskLab. Op Eén Na Beste Bibliothecaris van Nederland 2015.
Amateurwielrenner, drummer en muziekfanaat. TEDx-spreker.
![[The remix of] Everything Is A Remix](https://i0.wp.com/jeroendeboer.net/wp-content/uploads/2021/09/remix-uitsnede.png?resize=37%2C37&ssl=1){kind=small}
