Deel 26B. De huidige werkelijkheid: leven we vandaag in een dystopie?

Civis Mundi Digitaal #146

In hoeverre heeft de huidige werkelijkheid waarin wij leven kenmerken van een dystopie?. Leven we vandaag de dag in een dystopie? De bespiegelingen in dit laatste deel pogen hierop een antwoord te geven. Hierbij speciale aandacht voor het pandemieverdrag van de WHO, de rol van een machtselite, kunstmatige intelligentie, trans- en posthumanisme, de combinatie daarvan en de repercussies die dit kan hebben op onze vrijheid en democratie.

 

Bespreking

Op grond van eerder besproken kenmerken bevat de werkelijkheid waarin wij op dit moment leven de nodige dystopische elementen. Maar wordt in voldoende mate aan de dystopische kenmerken voldaan? Is dat voldoende om de huidige tijd dystopisch te noemen? In hoeverre leven wij in een dystopie?

Neal Stephenson, groot kenner van de materie – in CM 122, 126 en 137 werd aandacht besteed aan zijn boek Snow Crash – is al voor de coronapandemie van mening dat we nu in een dystopie leven. In een interview[1] stelt hij: “we bevinden ons op dit moment in een dystopie door hetgeen sociale media doen met onze maatschappelijke instellingen en onze samenleving.” De sociale media met hun platform surveillance en de controle op individuen op velerlei manieren door de digitalisering zijn in zijn ogen meer dan voldoende om de werkelijkheid een dystopie te laten zijn.Gaat het zo kort door de bocht niet te ver?. Er zijn meer kenmerken om rekening mee te houden, hoewel beide genoemde een zeer grote rol spelen. In de delen 25A en 25B (CM 145) werd uitvoerig aandacht besteed aan vele facetten van de uitgeoefende controle. Niet in het minst ook aan controle, waarvan we in de dagelijkse praktijk geen weet hebben.

Wanneer we de bovengenoemde kenmerken langslopen, valt op dat hetgeen beschreven is onder deze eerste twee kenmerken – intensieve controle in het algemeen en toezicht op het individu – in onze werkelijkheid nogal wat elementen bevat die in dystopische romans voorkomen. De inzet van controlemiddelen en de effecten ervan zijn in de romans groter en ernstiger te noemen dan in werkelijkheid. Daarbij komt dat er in de huidige werkelijkheid een grotere diversiteit is van de controlerende partijen. In dystopische romans is het bijna altijd simpelweg de overheid. Het gaat om staatscontrole.

In vele romans wordt overheidscontrole aangevuld met onderlinge controle. Een enkele roman, Reality 2048^TM Watching big mother (zie CM 124), laat de controle uitoefenen door private organisaties, een uitbesteding door de staat. De controle zoals die in onze huidige werkelijkheid wordt uitgeoefend, geschiedt door verschillende overheidsinstanties, door diverse private organisaties en sociale media platforms. In CM 104 werd aan deze situatie al aandacht besteed[2]. Tussen deze partijen vindt ten dele uitwisseling van gegevens plaats.Frank Schirrmacher (1959-2014), journalist en mede-uitgever van de FAZ[3], schreef tien jaar geleden al kritisch over deze ontwikkelingen. Hij constateerde indertijd – zich beroepend op Jürgen Habermas’ uitspraken uit 1968 – dat “surveillance van het gehele leven en alle markten de norm voor onze samenleving geworden is.” En gaat hij verder, daarbij “hoort steeds een opponent, een tegenstander. Dat kan de concurrent op de markt zijn, maar ook de verdachte burger …” En dat laatste, een verdachte burger, is in principe iedereen. Daarmee is iedereen een potentiële of verklaarde dissident geworden. George Orwell’s 1984 laat dit duidelijk zien. Het sluit aan bij de voorbeelden in deel 25A en 25B in CM 145.

 

Machtselite

Echter, steeds gaat het in dystopische literatuur om een controle door een relatief kleine groep die op deze manier overheersend is. De gang van zaken wordt meestal mooi verpakt, waardoor je kunt zeggen, dat “de top-down gecontroleerde samenleving, die onder de banier van ‘liberaal paternalisme’ op ons afkomt, in principe niets anders is dan een totalitair regiem in een rooskleurige verpakking.”[4]Dit laatste – de rooskleurige verpakking – kwam nadrukkelijk naar voren in het essay van Philippe Muray, besproken in CM 136. Hij beziet de samenleving van zijn tijd, eind vorige eeuw, al als een grote pastel-roze schijnwereld, waarin wij een consumentenfeest vieren, wij de macht ondergaan van het Goede – de financiële elite in vermomming – en ons denken is verworden tot een “opdreunen van een gemeenschappelijke catechismus”.

Als we dichter bij huis blijven wordt er het nodige geschreven over de elite. Piet Ransijn besteedde daar in Civis Mundi op diverse manieren aandacht aan (CM 89, 101, 102, 104 t/m 107, 124, 126, 127, 143), waaronder in zijn artikel over De Bovenbazen van Marten Toonder in CM 43.

De machtselite is in werkelijkheid minder verborgen, beter zichtbaar, dan in veel dystopische romans. Repressie is verborgen, maar op een bepaalde manier is onderdrukking wel aanwezig. We zien de kloof tussen arm en rijk toenemen. Het is zeker zo dat ook de mensen aan de onderkant van de samenleving hun sociale positie zagen verbeteren in de laatst honderd jaar, maar nog steeds leven er zeer velen op de rand van het bestaansminimum of zelfs eronder. Aan de andere kant van het spectrum vinden we de rijken. Ze zijn steeds rijker geworden en dat gaat nog steeds door. Macht is in onze werkelijkheid gebaseerd op geld en uiteindelijk op de markt.

Marleen Stikker zegt over de elite in relatie tot digitale ontwikkelingen in het eerdergenoemde interview in deel 25B[5]: “Er is een elite die de technologie begrijpt. Het kapitaal klotst tegen de plinten. Ze hebben allemaal fantastische conferenties met elkaar. Ze weten heel goed hoe je op het juiste moment in- en uitstapt. Deze mensen sturen uitsluitend op aandeelhoudersbelang en zijn niet geïnteresseerd in de analyses over wat voor sociale processen en nieuwe machtsconstellaties er ontstaan.” Zonder hen te noemen blijkt uit het interview dat zij hierbij in ieder geval duidt op de Big Five of wellicht Six, ook de Frightful Five of Six genoemd (CM 126), wanneer ze zegt: “Als je beursgenoteerd bent, moet je steeds absurdere claims rond technologie maken om on top of je game te blijven.” Zij waarschuwt dat deze situatie in brede zin ongewenst is.

Een bijzonder fenomeen is dat de elites zich steeds meer terugtrekken in beschermde ‘burchten’, zelfs vaak letterlijk. Hele wijken worden soms door particuliere beveiligingsfirma’s beschermd en bewaakt. Dit is een fenomeen dat we zien toenemen op diverse plekken in de westerse wereld. De elite leeft in haar eigen ‘bubble’. In CM 143 zagen we Rushkoff hier het een en ander over schrijven. We kunnen in deze ontwikkeling een meer tolerante variant van de samenleving uit Boualem Sansals 2084 zien.

 

Vrijheid

Uiteindelijk gaat het bij dystopien over autonomie, over vrijheid, beter het gebrek aan autonomie, aan vrijheid. Alle besproken dystopische romans laten zien dat er een tijdelijke of permanente situatie is ontstaan waarbij vrijheden worden beknot en soms fors. Er is dan spraken van totalitarisme met verschillende fasen en vormen van intensiteit.

Filosoof en essayist Miriam Rasch[6] – we kwamen haar al uitvoerig tegen in CM 126 – is kritisch over ons verlies van autonomie door de digitalisering. Alle over ons en ons gedrag vastgelegde data worden door AI gebruikt om ons te beïnvloeden, bv. in koopgedrag, in keuzes welke gegevens we te zien krijgen wanneer we een zoekopdracht geven, maar ernstiger nog bij de beoordeling door derde partijen als het gaat om beoordelingen van banken over onze kredietwaardigheid of bij sollicitatieprocedures waar AI een rol speelt. En zo is er meer. Ze introduceert het begrip datakolonialisme, overgenomen van Nick Gouldry en Ulises Meijias, die het in 2018 muntten[7]. Hiermee wordt een onbeperkt verzamelen van data aangeduid, bedoeld om daarmee winst te maken. Het legt de macht bij elites en ondermijnt onze autonomie. Daarmee is het tevens een gevaar voor de democratie. De naam datakolonialisme voorspelt niets goeds, schrijft Dieter Decraene, onderzoeker aan de Universiteit van Leuven[8]. Kolonialisme leidde immers steeds tot een grote tweedeling. Ook nu, hierin zit hij op een lijn met Rasch, zal dat gebeuren en zullen minderbedeelde bevolkingsgroepen de dupe worden van de digitaliseringsmaatschappij. Het zou uiteindelijk kunnen leiden tot wat hij noemt “een posthumanistische sociaal bestel en de daaropvolgende kolonisatie van de mens door data.” Het gebruik van dit begrip zou de weerstand tegen deze ontwikkeling kunnen bevorderen.Vrijheid is een onderwerp waarover bibliotheken zijn volgeschreven. Hier slechts enkele voor dit artikel relevante punten.

“Vrijheid leidt tot fundamentele rechten”, tot grondrechten voor ieder mens. “Deze grondrechten hangen samen met het bestaan van personen als zodanig.” Hoogleraar wetenschapsfilosofie in Lausanne Michael Esfeld[9] wijst erop dat het inbreuk maken op deze grondrechten een heel bijzondere aanleiding behoeft. Hij schreef hier over tijdens de pandemie. De boven vermelde inbreuken op onze persoonlijke vrijheid, het niet respecteren van onze privacy, zouden ook nu onder normale omstandigheden niet getolereerd moeten worden, wanneer wij zijn argumentatie volgen.We zagen hierboven al dat ook in Europa de situatie met betrekking tot grondrechten niet meer zo rooskleurig is als het een tijd is geweest. Het is zeker niet zo dat in het verleden een ideale toestand heeft bestaan. Wij zijn er wel aan gewend geraakt dat vrijheid een zeer ruim begrip is, waarvan  de grenzen werden opgezocht. Hoewel velen vrijheid beschouwen als een vrijbrief die eenieder alle ruimte te geeft te doen en te laten waar de burger zin in heeft, is dat een voorstelling van zaken die nooit werkelijkheid is geweest.

Vrijheid kan niet absoluut zijn. Altijd dient rekening gehouden te worden met de ander. Hier wordt vaak Kant aangeroepen en geciteerd: “de vrijheid van de enkeling eindigt daar waar die van de ander begint.” Kant heeft vele uitspraken gedaan, maar deze is nergens in zijn werk te vinden. Toch is daarmee de waarde van de uitspraak niet verdwenen.

 

Democratie

Een beperken van vrijheid kan en mag alleen door de wet geschieden. Hierop wijst de beroemde Verklaring van de rechten van de mens en de burger van 26 augustus 1789 bij het begin van de Franse Revolutie. Ook in een democratie kan de wet tot vrijheidsbeperking leiden. Enerzijds zal hier in alle redelijkheid mee moeten worden omgegaan, anderzijds biedt het ook gelegenheid de wet naar de hand te laten zetten, zoals in diverse democratische regiems al gebeurd is, op andere plaatsen aan het gebeuren is of dreigt te gebeuren. Beperkingen worden vrijwel altijd gemotiveerd met het argument dat de individuele vrijheid afgewogen moet worden tegenover de collectiviteit, tegenover het algemeen belang. Daarbij speelt ook een rol dat zelden genuanceerd naar vrijheid gekeken wordt. Meestal wordt een eigen voorstelling van wat vrijheid betekent gebruikt.

Er is veel over vrijheid geschreven en gedebatteerd. Het zou minstens een geheel artikel vergen om dat te bespreken. Voor nu is er voldoende aandacht aan besteed met bovenstaande.

De overheid krijgt met de toenemende digitalisering een relatief goedkope mogelijkheid in handen om de bevolking op alle mogelijke manieren in de gaten te houden. Het geeft ook de gelegenheid de democratie uit te hollen[10]. Nog gecompliceerder wordt het om je ertegen te wapenen wanneer het toezicht op deze ontwikkelingen niet meer aan democratisch gekozen organen wordt toevertrouwd en de controle in handen is van (semi)private organisaties. Dit geldt des temeer wanneer het om privacygevoelige informatie gaat. Cressman (CM 124, 126) beschrijft deze situatie. Bij al deze overwegingen mogen we niet vergeten dat al de besproken dystopische romans, maar ook enkele essays, weliswaar de onderdrukking, het ontbreken van vrijheden en monotoon conformisme en gelatenheid – hier en daar is er dan ook nog sprake van dissidentie – laten zien, maar dat daartegenover staat dat er ook overal een elite is die dit organiseert en onderhoudt. Het is een elite die ongekende vrijheden kent. Om deze te behouden vinden we in deze groep zelf weer controle en conformisme. Een stukje dystopie dus. Deze ruimte, waarin de ene groep voordelen heeft ten opzichte van anderen en ten koste van deze anderen toont “dat er utopische enclaves zijn binnen iedere dystopische samenleving.” [11]

 

Pandemieverdrag

In deel 26A werd al even aandacht besteed aan de nieuwe overeenkomst over pandemieën die de WHO haar leden voorlegt. Tijdens de coronapandemie bracht de WHO steeds aanbevelingen naar buiten, hoe te handelen. Dit op basis van de bestaande overeenkomsten tussen de WHO en de aangesloten landen. Ieder aangesloten land beslist zelf wat het met de aanbevelingen doet. In de nieuwe conceptovereenkomst werd aanvankelijk niet meer gesproken over vrijblijvende aanbevelingen, maar over juridisch bindende aanbevelingen. In de laatste versie[12] is hier geen sprake meer van. Het blijven aanbevelingen.

Toch blijven er zorgen, waarbij vooral de bevoegdheden van de WHO, de ruime uitlegbaarheid van de teksten en de pogingen om de invloed van een niet democratisch gekozen orgaan, de WHO, te vergroten. Hoewel de huidige minister voor Medische Zorg Pia Dijkstra de Tweede kamer probeerde gerust te stellen met haar lange brief van 21 mei 2024[13], waarin ze ingaat op de veelgehoorde klachten over de gang van zaken en de inhoud van het conceptverdrag, is haar dat niet gelukt.

In 26A werd al gewezen op een artikel dat op kritiek kan rekenen. In de preambule bevindt zich nog een artikel dat tot zorgen leidt, artikel 3. Het luidt: “Erkennende dat de WHO de leidinggevende en coördinerende autoriteit is op het gebied van internationale gezondheidsactiviteiten, waaronder de preventie van, paraatheid voor en reactie op pandemieën.” Hieruit zou afgeleid kunnen worden dat de WHO toch veel macht heeft of macht kan uitoefenen, waarbij de individuele leden, de onderscheiden staten, het nakijken hebben. Hier toch ook een machtselite?

 

Dystopische werkelijkheid?

Fernando Alcoforado, voormalig hoogleraar, consultant en auteur van diverse boeken over globalisering, economie en klimaatveranderingen, laat in zijn blog[14] aan de hand van enige overwegingen gebaseerd op door hem vermelde en besproken non-fictieboeken zien dat wetenschap en technologie weliswaar vooruitgang hebben gebracht, maar dat wel één waarvan de voordelen twijfelachtig genoemd moeten worden.

“De mensheid is meer aan het vernietigen dan aan het opbouwen,” is zijn vaststelling. Daarbij past dan ook: “alles wijst erop dat in de menselijke geschiedenis dystopie de overhand heeft over utopie.” Alcoforado wijst op het werk van de Franse filosoof en socioloog Edgar Morin, waarin deze “bewijst dat de wereldcrisis verergerd is en dat het dominante politieke denken niet in staat is een politiek van beschaving en menselijkheid te formuleren.”

En even verder: “de samenleving is niet beschaafd, eerder het tegengestelde, ze is barbaars.” Alcoforado is van mening dat we nu – hij publiceerde deze blog in 2018 – te maken hebben met een permanente dystopie, ons opgelegd door de neoliberale globalisering met zijn technologische ontwikkelingen.

Het lijkt er niet beter op te worden met de ontwikkelingen van AI. Gaat deze technologische ontwikkeling, door de mens gestart en ontwikkeld, op enig moment in een eigen ontwikkeling verder die niet meer door de mens doorgrond kon worden. Het is technologie die “gevaren van technologie bestrijdt met alleen maar technologie”[15]. Eerste signalen zijn er al. Het blijft onvoorspelbaar hoe dat verder zal gaan. Voor velen, vaak ook in de digitalisering werkzaam, gaat het allemaal te snel. Het leidt ook tot angstgevoelens, die zelfs tot de noodzaak therapie te krijgen voeren[16].

Politiek filosoof Peter Seyferth is het hiermee grotendeels eens. Ook bij hem[17] is de huidige tijd – opnieuw 2018 – een dystopie. In zijn artikel geeft hij aan dat utopia in de literatuur nog steeds te vinden is. Maar, “wij leven in donkere tijden, zodat utopia zich vermomt als dystopie. Dit is niet slecht, omdat er een dystopische kern in ieder utopia zit. Ik wilde echter laten zien dat er een utopische kern in een dystopie te vinden is. Hopelijk zelfs in de heel echte dystopie waarin wij vandaag de dag leven.”

Cecile Leconte en Cédric Passard, docenten politieke wetenschappen aan de Grande École des Sciences in Lille[18], stellen in de eerste plaats vast dat “het algemeen aanvaard wordt dat dystopie "niet alleen een narratieve vorm of een esthetische categorie is, maar een visie op de wereld die ook een manier van denken is”, waarbij zij Laurent Bazin, hoogleraar letteren in Parijs, citeren. En verder: “… wat onthult het hedendaagse succes van dystopische verhalen? Welke politieke betekenis kunnen we eraan geven? Moeten we ze simpelweg zien als een weerspiegeling van ethische aspecten en politieke angsten van onze geavanceerde moderniteit? Is dystopie simpelweg de uitdrukking van een ’ontgoocheling van de wereld’?”

Dystopische romans zouden “op hun eigen manier, aangepast aan hun eigen tijd, het verhaal vertellen van de problemen die in die tijd speelden.” De belangstelling voor dystopische verhalen zou samenhangen met de beleving van onze huidige werkelijkheid. Zij “hebben gemeen dat zij het genre gebruiken om een min of meer radicale kritiek te formuleren op de hedendaagse samenlevingen.”

Interessant is de opmerking van Leconte en Passard dat een element van de huidige tijd als een dystopische samenhangt met de ontwikkelingen in grote steden. Enerzijds de utopische wijk waar de gegoede stand leeft, anderzijds de stedelijke woestenij, waar de minder bedeelden wonen, zoals de Franse banlieus. Of de villawijk van Wassenaar versus de Haagse Schilderswijk. Soms kan dit gedemonstreerd worden aan het bestaan van gated communities aan de ene kant – de utopische enclave – en verarmde wijken – ‘Vogelaarwijken’ – aan de andere kant, de dystopische wereld. Rushkoff (CM 143), maar ook Alderman (CM 144), laat zien dat rijken nog een stap verder (kunnen) gaan en zich volledig isoleren van het plebs.

Het risico van het bij voortduring benadrukken dat er sprake is van een machtselite, is dat we deze opvatten als een gesloten groep, die in gezamenlijkheid bepaalde doelen nastreeft. Deze gedachtegang bevordert complottheorieën. Hiervan is echter geen sprake. In diverse genoemde boekbesprekingen over de machtselite komt naar voren dat het geen kleine gesloten groep is, maar veeleer een diffuus en op het eerste gezicht weing transparant netwerk van oude en nieuwe superrijken zoals de Techmiljardairs, die bij gelegeheid contact met elkaar hebben, maar geen ‘monolitische organistatie’ vormen, de het wereldgebeuren onder zijn hoede neemt.

 

Kunstmatige intelligentie

In deze serie kwam de AI al enige malen om de hoek kijken, bij voorbeeld in CM 126, 141, 144 en 145. Daarbij kwamen alle mogelijke voor- en vooral nadelen aan de orde.

Het is de vraag of de glans van AI niet dof aan het worden is. De systemen zijn weliswaar in staat steeds sneller data te verwerken, maar daarmee is er niet meteen een intelligent systeem ontstaan.

Jos de Mul, voormalig hoogleraar filosofische antropologie aan de Erasmus Universiteit te Rotterdam, laat zien dat we veel te goedgelovig elkaar napraten over de grote voordelen die AI ons gaat leveren[19]. De huidige taalmodellen baseren op statistische voorspellingen welk woord op het vorige woord zou kunnen volgen. Het is dus een rekenmodel. Het weet niets van de betekenis van de woorden die het voortbrengt. Enigszins cynisch zou je kunnen zeggen[20], dat “AI net zo intelligent is als de blikopener die we in de keuken gebruiken.”

Erik Scherder, hoogleraar neuropsychologie aan de Vrije Universiteit van Amsterdam, zegt het in een interview[21] anders: “onze creativiteit, ons oplossend vermogen en ons vermogen om beslissingen te nemen: al die mooie functies van het menselijk brein kunnen achteruit gaan… Minder creativiteit, minder je geheugen aanspreken, minder goed kunnen beslissen: dat doet AI dus allemaal met ons brein…Onze hersenen gaan achteruit als we ze minder gebruiken. Daarom noem ik AI ook wel Afnemende Intelligentie.”

“Mens en AI samen vormen een intelligent systeem”, zegt de Mul. Hij wijst er verder op dat AI geen onderscheid kan maken tussen zin en onzin, tussen mooi verhaal en werkelijkheid. Hij wijst op recent verschenen studies die laten zien dat AI er vaak totaal naast zit of zelfs verzinsels produceert. Door het generatieve karakter van de taalmodellen gebruiken ze de eigen foutieve gegevens opnieuw en worden zo, aldus de Mul steeds dommer. Het zou zelfs tot een “model collaps” kunnen leiden. Iedere keer weer moeten ontwerpers van deze systemen correcties aanbrengen en ingrijpen.

Ook François Chollet, AI-onderzoeker bij Google, wijst er in een interview[22] op dat we te veel verwachten van AI. Uit onderzoek is gebleken, stelt hij, dat de veelal juiste antwoorden die AI geeft op testen, examens e.d., niets van doen hebben met intelligentie, maar alleen maar met het feit dat in alle data in het systeem de juiste antwoorden al opgeslagen zijn. Ze zijn te vinden op internet, maar het verlangt de mogelijkheid immense hoeveelheden data door te ploegen.

Kortom, geen superieure intelligentie die de transhumanisten voor zich zien. Eerder zouden we bang moeten zijn dat wij ons afhankelijk maken van de systemen zonder kritisch te blijven en zeker wanneer we te maken hebben met steeds slechtere AI-systemen en onszelf daarmee in gevaar brengen.

De vraag of hetzelfde gebeurt, wanneer deze ontwikkeling anders verloopt, blijft een open vraag. De gedachte dat AI zover ontwikkeld wordt, dat het ons in denken overvleugelt, is voor velen aantrekkelijk, maar niet voor iedereen. Wat de computer doet, ook met AI, is data verwerken. Waarom dat denken zou moeten heten is niet beantwoord.

Als smartphonegebruik al leidt tot digitale amnesie en veranderingen in ons brein, wat doet het benutten van AI dan met ons. Stel je voor dat AI al onze berichtgeving, al onze correspondentie, al onze geschriften voor ons produceert en nog meer, waarom zouden we dan zelf nog denken. Zou dit niet tot het verdwijnen van denken kunnen leiden? En hoe dan verder?

Heinz Buddemeier, voormalig hoogleraar Media en Esthetica in het kunstonderwijs aan de universiteit Bremen, wijst erop[23] dat er een gouden regel bestaat: “één schrede in kennis, drie schreden in moraal.” Dat wil zeggen dat voortschrijdende kennis eisen stelt aan de moraal. Maar volgens de ‘cultural lag’ theorie loopt de moraal stelselmatig achter op technologie (Zie CM 119[24]). Hiermee rekening houdend zouden we veel voorzichtiger moeten zijn met het inzetten van AI op (vrijwel) alle terreinen van de samenleving.

 

Spelbederf en meer

Een bijzonder aandachtspunt is nog de mogelijkheden die AI biedt om ons te misleiden en te manipuleren. Een recent verschenen artikel[25] gaat op deze problematiek in. Twee problemen, te weten matig functioneren van AI met als resultaat inhoudelijk onjuiste teksten en het al dan niet opzettelijk voeden van AI met onjuiste informatie, zijn de bekendste.

Het derde probleem is dat AI systematisch misleiden kan, ook al was het niet de bedoeling van de ontwikkelaars. De auteurs beschrijven diverse AI-systemen die betere resultaten opleveren door te liegen of anderszins te misleiden. Het gaat dan om games waar valsspelen tot winnen leidt. Of ook om het misleiden van digitale veiligheidstesten en dergelijke.

Ten slotte gaat het om AI-systemen die doen alsof ze de opgedragen taak uitvoeren, waarvoor ze positieve feedback van de menselijk observator en leraar verkrijgen, maar in werkelijkheid misleiden ze de observator. Ook voor de zogenaamde LLMs, large language models, zoals ChatGPT, geven zij talloze voorbeelden met literatuurverwijzingen waarin misleiding aan de orde is.

De auteurs wijzen erop, dat het gebruik van AI grote risico’s met zich mee kan brengen. Enerzijds doordat ze gebruikt kunnen worden door kwaadwillenden om hun doelen te bereiken, anderzijds kan het leunen op deze systemen en de resultaten voor waar aannemen tot sociale problemen leiden.

Een derde gevaar is dat AI-systemen zover ontwikkeld worden dat de mens geen controle meer heeft over de resultaten. Hoewel ook diep wordt ingegaan op mogelijkheden om al deze problemen te vermijden, vooral op technologisch terrein, hetgeen hierboven al als een nieuw probleem werd beschreven. Dit vraagt nogal wat aan inzet en wij hebben geen zekerheid dat het lukt om deze problemen te elimineren of op te lossen. Een weinig opwekkende gedachte.

 

Trans- en posthumanisme

Ondanks dat trans- en posthumanisme al in enkele eerdere artikelen (CM 123, 126, 143) belicht werden, nu ook hier kort aandacht voor deze ontwikkeling. Het onderwerp staat steeds weer in de belangstelling. Vooruitlopend op het transhumanistische vooruitgangsgeloof is er de opwindende fase van de AI die ons steeds weer verwonderd en ons doet afvragen of niet binnenkort AI de wereld overneemt. Kritiek hierop is er genoeg, zoals hierboven beschreven.

Los van het feit of het trans- of posthumanisme tot werkelijkheid wordt, is ook hier sprake van een machtselite die deze ontwikkeling vooruit wil brengen. Michael Hauskeller, hoogleraar filosofie aan de Universiteit van Liverpool, werd al geciteerd in CM 143 met zijn opmerking dat de voorstanders van deze ontwikkeling teruggrijpen op oude gedachtegangen en overwegingen die zij zelf overigens volledig afwijzen.

Adrian Lobe, journalist met grote belangstelling voor digitale ontwikkelingen, schrijft[26] dat het “techniek- en vooruitgangsoptimisme van de Silicon-Valley-profeten altijd al beladen geweest met het verlossingsverhaal, maar de fantasieën over verlossing en macht in verband met kunstmatige intelligentie hebben veel duidelijker een religieuze grondslag, niet in de laatste plaats omdat ze hand in hand gaan met het streven naar goddelijke perfectie en alwetendheid.”

Het gaat zover dat in de wereld van de kunstmatige intelligentie concreet wordt uitgesproken dat “God geschapen wordt.” Ook wordt over een “digitale God” gesproken. Dit laatste zou van Elon Musk stammen. De volgorde zou zijn: “de mens ontwikkelt eerst AI, dan God en tenslotte de perfecte mens.” Er is een duidelijke samenhang met “de Christelijke heilsleer.” Hij wijst ook op andere uitspraken, zoals “wij geloven dat AI onze alchemie is, onze steen der wijzen.” Een verontrustende ontwikkeling en bijna een reden om over een dystopie te spreken.

Beide gedachtegangen, AI leidt tot het verdwijnen van ons denken, en AI is onze alchemie, moet ons met de neus op de feiten drukken, dat dit voortgangsoptimisme voorbijgaat aan de essentiële vraag wat het verschil is tussen mens en machine. Het moet ons doen nadenken wie de mens is. Weten we wel wie we zijn?

 

Conclusies

Op grond van het voorgaande kan de vraag of in de werkelijkheid van nu dystopische elementen aan te treffen zijn en zo ja, in welke mate, beantwoord worden. Er zijn talloze elementen uit de verschillende kenmerkencategorieën in onze huidige werkelijkheid terug te vinden. De meeste zijn aan te treffen in de digitale surveillance die in toenemende mate een totaalkarakter begint te krijgen. In de onderhavige serie zijn daar talloze voorbeelden van besproken.

Gelukkig zijn er organisaties die steeds weer de vinger op de zere plek leggen en ons voorhouden wat er met ons en onze data gebeurt. Om enkele internationale organisaties te noemen: Bits of Freedom[27], Amnesty International[28], American Civil Liberties Union (ACLU)[29], Center for Democracy & Technology (CDT)[30], Civil Liberties Union for Europe (Liberties)[31].

Ook de andere kenmerken, namelijk conformisme, eenzijdige communicatie en prpaganda, het algemeen belang versus het individu en dissidentie zijn uitvoerig van voorbeelden voorzien en besproken. De laatste drie, namelijk de leefomgeving, oorlog en geweld en intermenselijke realties, zijn van minder belang gebleken, hoewel we de neiging hebben het oplaaiende, vaak racistisch of crimineel getint geweld als de ver-van-mijn-bed-show te zien en klimaatverandering te negeren.

De eerdergenoemde Robinson[32] (deel 26A) is somber over onze huidige tijd, vooral daar waar het om de door de mens veroorzaakte milieu- en klimaatverandering en de daarmee samenhangende vermindering van biodiversiteit gaat. “Het Anthropoceen[33] is een soort biosferische dystopie die iedere dag verder ontstaat, … niet alleen: het gaat slecht, maar ook: wij zijn er verantwoordelijk voor dat het slecht gaat.” Met andere woorden: “het is nu een dystopie!” Hij pleit ervoor de ogen open te houden voor het feit dat er verbeteringen mogelijk zijn. Op weg naar Utopia? Natuurlijk zijn er hindernissen te overwinnen, “maar de taak die voor ons ligt, is manieren te bedenken om die betere situatie te bereiken.” Naar zijn opvatting moet het mogelijk zijn. “Omdat we een duurzame samenleving kunnen creëren, moeten we het doen.”

 

Tot slot

De slotconclusie aan het einde van de serie is enigszins ambigu. Of de werkelijkheid van nu een dystopie is, hangt vooral af van de waarde die eenieder van ons toekent aan de verschillende elementen die in deze laatste delen van de serie besproken zijn.

De bijna totaalsurveillance kan voor de één aanleiding zijn om te vinden dat we in een dystopische maatschappij leven. Voor de ander is dat een stap te ver. Zo erg is het voor hen (nog) niet. Het Rathenau Instituut is helder: “het betekent niet meteen dat we in een Orwelliaanse dystopie leven.” Maar toch concludeert het rapport: “en zo geven we sluipenderwijs essentiële vrijheden en burgerrechten op.”

Bij nadere beschouwing zijn er dan drie mogelijkheden. Of we belanden in een transhumanistische dan wel posthumanistische samenleving, waar data geldend zijn, of we krijgen een totalitaire dictatuur, waar onze vrijheidsrechten (bijna) niets meer waard zijn of we bieden met zijn allen voldoende weerstand en zorgen voor een menselijke en democratische samenleving. Een oproep tot het laatste doet ook Ilja Leonard Pfeijffer[34].

Voor de andere belangrijke kenmerken kunnen we eveneens een afweging maken. Zoals boven beschreven kunnen we hierover ook niet al te positief zijn. De gegeven voorbeelden laten zien dat we bij conformisme, communicatie en propaganda en het belang van het individu forse tekortkomingen signaleren. Deze opvatting hangt wel sterk af van de situatie in de verschillende landen. In de Nederlandse situatie lijkt het een en ander rooskleuriger dan in vele andere landen.

De drie andere elementen, de desolate of totaal gelukkige wereld, oorlog en de gereguleerde voortplanting en liefdesrelaties, zijn van minder belang, maar laten wel negatieve ontwikkelingen zien, zoals de klimaatverandering die ons allen aangaat en de toename van gewelddadig handelen. Daarbij kunnen we er niet omheen dat de toenemende spanningen in de wereld ook ons bedreigen. Het recent gepubliceerde jaarverslag 2023 van de AIVD[35] is daar duidelijk over.

Alles op een rijtje gezet, moeten we constateren dat de eerste zes kenmerken, die (vrijwel) altijd bij een dystopie voorkomen, ook in onze werkelijkheid van vandaag de dag een niet onbelangrijke en niet te onderschatten rol spelen. De drie laatste zijn minder belangrijk, zij het dat vooral het kenmerk desolate wereld de laatste tijd nadrukkelijker naar voren komt.

Is hiermee voldoende materiaal aangedragen om tot een uitspraak te komen? Is een objectief oordeel mogelijk? Zoiets blijft moeilijk te zeggen. Er zijn altijd subjectieve afwegingen en inschattingen die een rolspelen.

Eenieder moet zijn eigen afweging maken en tot een besluit komen. In mijn persoonlijke afweging kom ik tot de conclusie dat er nog wel het een en ander ontbreekt om definitief te besluiten dat wij in een dystopie leven, maar de alarmbellen rinkelen al wel stevig.

Kortom, ondanks mijn optimisme nemen de zorgen toe. Zijn we een dystopie al niet dicht genaderd, is er nog een weg terug? Maar er zijn ook nog lichtpuntjes. Er is nog een toekomst zonder dystopie denkbaar, maar de realisatie daarvan gaat niet vanzelf.

De huidige werkelijkheid verlangt van ons actief te zijn, na te denken, alert te blijven, te protesteren en niet in de lethargie te verzinken, die sommige auteurs ons al verwijten. Het zou anders kunnen leiden tot een gedachteloos en banaal verdwijnen in de ontstaande dystopie.

 

 

Noten