Gelezen: Nina Schick – Deepfakes, the Coming Infocalypse (Twelve, 2020)
Welke rol spelen deepfakes in een wereld waarin steeds vaker wordt getwijfeld aan feiten? Volgens Nina Schick staan deepfakes straks garant voor wat zij beschrijft als de infocalypse. Daarmee bedoelt zij een samenleving die bezwijkt onder een immer toenemende stroom van onjuiste informatie. Haar boek, uitgekomen vlak voor de Amerikaanse presidentsverkiezingen van 2020, biedt daarmee een vrij pessimistische kijk op de toekomst, al benoemt ze in het laatste hoofdstuk enkele strategieën om de (naderende) infocalypse in te dammen.
In essentie is Deepfakes, The Coming Infocalypse een boek over desinformatie en de snelle ontwikkelingen rondom kunstmatige intelligentie en het ontstaan van synthetische media. Met dit laatste wordt video, audio, foto of tekst bedoeld die geproduceerd of aangepast wordt dankzij kunstmatige intelligentie. Alhoewel ze stelt dat synthetische media ook ten positieve gebruikt kan worden gaat haar boek primair over de nadelige kanten ervan. Wat gebeurt er op het moment dat synthetische media niet meer te onderscheiden is van echt?
Dat dat moment eraan zit te komen is onvermijdelijk, evenals het feit dat de tools om synthetische media te kunnen produceren steeds toegankelijker worden. Het gegeven dat we als mensen van nature geloven in dat wat we zien en horen maakt ons daarmee kwetsbaar voor misbruik. Wanneer daarmee gezaagd wordt aan het hebben van een gedeelde realiteit kan dat z’n uitwerking hebben op het functioneren van de samenleving. Op basis waarvan kan je dan consensus zoeken of besluiten nemen? Dat wordt nog eens versterkt door wat Schick betitelt als het ‘liar’s dividend’: alles wat echt is kan even gemakkelijk als nep worden betiteld. Dit principe kennen we natuurlijk al van het kwalificeren van traditionele media als fake news. Iedereen met een grote megafoon of slechte intenties heeft hierdoor twee mogelijkheden om twijfel te zaaien: synthetische media inzetten of gewoonweg beweren dat iets niet waar is.
Schick ziet de toekomst daarom pessimistisch tegemoet, maar ziet ook mogelijkheden om de samenleving tegen de infocalyps te wapenen. Volgens Schick gaat het om een drietrapsraket: 1. bewustwording van wat er speelt; 2. verdedigen met op feiten gebaseerde informatie en toepassingen die synthetische media kunnen herkennen en 3. de aanval kiezen, waarbij ze de strategie van Estland aanhaalt dat zich als land succesvol wapent tegen de invloed van Russische desinformatie.
Nina Schick komt ook aan het woord in de Tegenlichtuitzending Zien is geloven.
In de podcast Future Shock heeft communicatiewetenschapper en microtargetingexpert Tom Dobber een wat meer genuanceerde kijk op de door Schick aangekondige infocalypse.
Fers-partner Tactical Tech maakte een educatieve site over deepfakes: https://deepfakelab.theglassroom.org/
