Civis Mundi Digitaal #125
De laatst besproken romans beschrijven alle een sterk door technologie gedreven wereld. In dit nummer als vervolg op deel 9[1] van de serie in CM 123 waarin de roman De Cirkel van Dave Eggers werd besproken nu aandacht voor zijn nieuwste boek The Every[2], een vervolg hierop. En, niet verbazingwekkend, de wereld is hierin nog meer door technologie bepaald.
The Every – Het Alles
In deze nieuwste roman van Dave Eggers komen we Mae Holland en enkele anderen uit De Cirkel weer tegen. Mae is intussen de CEO van het bedrijf, dat na de overname van het grootste e-commercebedrijf en vele andere bedrijven The Every heet – ook in de Nederlandse vertaling van de roman met de titel Het Alles wordt het bedrijf met de naam The Every aangeduid - en een absolute monopoliepositie inneemt. In de boekbespreking van Piet Ransijn over Big Tech: Hoe we onze privacy, vrije markt en democratie in de uitverkoop doen vanRana Foroohar in CM 124[3] komt dit handelen van de Big Five als een fundamentele werkwijze naar voren. Ze hebben geen enkele behoefte aan concurrentie en kopen ook (startende) innovatieve bedrijven op om er hun voordeel mee te doen. Bij Eggers zijn de vijf in de romans tot een geworden. Bij hem kopen ze ook kleine innovatieve bedrijven op. Concurrentie wordt niet geapprecieerd. In onze werkelijkheid is het nog niet zover en blijft het vraag of het ooit tot een grote techreus zou kunnen komen, gelet op de huidige wetgeving. Niet geruststellend is overigens dat ook bij Eggers deze wetgeving bestaat, maar er toch niet toe geleid heeft dat de almachtige monopoliepositie van The Every werd voorkomen.
In de roman Eggers speelt weer met namen. Het overgenomen e-commercebedrijf “was vernoemd naar een Zuid-Amerikaanse jungle.” Het is een nauwelijks te missen toespeling op Amazon[4], een bedrijf waarover Eggers zich kritisch uitlaat in diverse interviews[5]. De nieuwe combinatie is intussen verhuisd naar een andere plek, nu op Treasure Island – nomen est omen – in de baai van San Francisco. Het eiland bestaat werkelijk en is kunstmatig, aangelegd in de dertiger jaren van de vorige eeuw om de Golden Gate International Exposition te kunnen huisvesten. Het gebied heet in de roman – gepast cynisch – Everywhere. Volkomen logisch heet de wereld buiten het gebied van The Every dan ook Nowhere. In hoeverre Eggers zich bewust is van een tweede woordspel is onduidelijk. In het eerste artikel[6] in de serie in CM werd al duidelijk dat er verschillende romans zijn die dit ‘buitengebied’ aanduiden. Het gaat om Erehwon van Butler en News from Nowhere van Morris. Beide boeken verschenen aan het eind van de negentiende eeuw. Ze beschrijven een utopia, een oord dat nergens kan zijn, ook wel Nergenshuizen, Nergensgelegen e.d. geheten, de letterlijke betekenis van utopia. Bij Eggers is het de buitenwereld, wellicht beter de boze buitenwereld vanuit het perspectief van The Every. Anderszins is de naam Everywhere voor de wereld van The Every onheilspellend, zeker wanneer we de activiteiten van het bedrijf bezien en dan vergelijken met de huidige tijd en werkelijkheid.
The Every bestaat opnieuw uit alle mogelijke gebouwen, waar ook glas een rol speelt. Het begint al bij de ingang van het omheinde en nu ook bewaakte terrein. Het wachthuisje bij de poort “was van glas, piramidevormig, leek op de top van een kristallen obelisk.” In zijn eerdere De Cirkel speelden glazen gebouwen een grotere rol. Niet te vergeten is dat Apple zijn hoofdkantoor als een cirkel heeft laten bouwen en hun kantoor in New York een grotendeels glazen gebouw is. Terug naar de roman. Ook nu begint de roman met de poging van een jongedame, Delaney Wells geheten, om medewerker te worden van het bedrijf dat nu The Every is. Eggers laat direct bij het begin zien dat het weer gaat om informatie en transparantie, om overal vandaan geplukte gegevens die niet meer gewist kunnen worden. Delaney moet aan de poort haar duim op een scanner leggen, “op het scherm verscheen een mozaïek van foto’s, filmpjes en gegevens. Er waren foto’s van Delaney bij die ze zelf nog nooit had gezien.”
Gadgets
Vanaf het begin worden we overspoeld door de grote hoeveelheid tot bijna in het absurde uitgewerkte digitale gadgets – met de meest ingenieuze namen – die Eggers als producten van The Every introduceert. Je kunt het zo gek niet bedenken of in de roman wordt het door iemand bedacht en door de medewerkers van The Every, die overigens Everyones heten, uitgewerkt. Passend heet een sollicitant dan een Everyone-abee.
Een aantal gadgets is een verdere uitwerking van al bestaande. Zo komt hier een eigen versie voor van Alexa of Siri, hoe ze ook mogen heten. Andere zijn compleet nieuw.
Veel van de gadgets worden na korte tijd in de buitenwereld geïntroduceerd en kritiekloos omarmd; het gebruik wordt al snel gestimuleerd of zelfs verplicht gesteld door overheden. Bij de beschrijving van de introductie en het verloop ervan is Eggers duidelijk: “de lancering verliep zoals bij de meeste innovaties in de eenentwintigste eeuw als kattengejank: ongeorganiseerd, onvoorzichtig en dus onstuitbaar.”
Er is altijd weer een ‘run’ op de nieuwe apps. Het ethische debat is tot mosterd na de maaltijd geworden en nog erger, het grootste deel van de bevolking is er totaal niet in geïnteresseerd. Iedereen – ‘everybody’, een fraaie en veelbetekenende woordspeling - gebruikt maar al te graag die leuke apps. Het is zoals in een recensie[7] staat: “de wrange grap is natuurlijk dat de samenleving elk de totale bewaking sterk bevorderend, technofascistisch idee dat zij zelf helpt invoeren, snel aanvaardt.”
Een heel bijzondere experimentele ontwikkeling – en waar is ook hier de ethische afweging? – in de roman is het door middel van een implantaat in de thalamus gevoelens over te brengen op en andere persoon. Beide personen hebben tegelijkertijd dezelfde tactiele sensatie die door een van beiden feitelijk wordt beleefd. De ander beleeft het dan via internet. Het zou zomaar in de nabije toekomst werkelijkheid kunnen worden. Een tweede voorbeeld is U4U, een app - ontwikkeld door een bedrijf dat overgenomen is door The Every - en later daar verder geperfectioneerd. Hier zijn online-persoonlijkheidstesten ontwikkeld, die gebruikt werden om informatie over het gedrag van de gebruikers te verkrijgen zonder dat de gebruikers dit wisten. Ze waren leuk om in te vullen en werden gezien “als een lollig tijdverdrijf. […] Omdat de testjes voor de lol werden gemaakt en omdat er honderden zeer persoonlijke vragen werden gesteld, waren de gebruikers totaal niet op de hoogte en gaven ze zich ongewild bloot.” Ook dit is op dit moment in werkelijkheid al aan de orde. En, “informatie die de meeste mensen niet zouden willen prijsgeven, lepelden ze nu zonder bedenkingen op in de testen die ze voor de lol invulden.” Eggers toont hier een mooi voorbeeld van een psychologische truc om mensen met online spelletjes aan internet te binden en daarnaast persoonlijke informatie te ontfutselen, zoals veelvuldig ook in werkelijkheid toegepast door de techreuzen.
https://nl.freepik.com/
Bewaking
De digitale bewaking van de medewerkers die we kennen uit De Cirkel is in Het Alles fors toegenomen. Er is bijna geen ontsnappen meer aan. Alles wat je doet, alles wat je zegt wordt geregistreerd, beoordeeld en van commentaar voorzien, zodat je je kunt verbeteren en dus je positie op de onderlinge en openbare ranglijst verhogen. Dit laatste is van belang omdat je aanstelling bij The Every ervan afhangt. En hier niet alleen! Individuele bedrijven in China gebruiken soms (?) ranglijsten voor hun eigen personeel[8]. Daarnaast heeft het systeem enkele kenmerken gemeen met het ‘Social Credit System’ dat in China door de staat wordt gehanteerd en waarbij eveneens digitale gegevens worden gebruikt[9].
Het spreekt voor zich dat de medische verzorging en daarmee bewaking van de gezondheid nog steeds een rol speelt. The Every hanteert gezondheidsrichtlijnen voor medewerkers, voor ‘everyone’ dus, en controleert of je je eraan houdt. Bij dit alles introduceert Eggers nu ook de vrijwel verplichte DNA-sequentiëring, die je nodig hebt voor toelating op scholen, tot universiteiten en “een eis van alle verzekeraars” is. Het verbaast niet dat in deze medische verzorging de mens steeds minder een rol speelt, nu alles wordt geregistreerd en vastgelegd, terwijl de ontevredenheid met het medische systeem is toegenomen. “De overgrote meerderheid van de patiënten gaf de voorkeur aan een diagnose van AI boven die van mensen, die ze als onverantwoord subjectief beschouwden.”
Daarnaast is nu ook de bewaking buiten het terrein toegenomen. Overal zijn camera’s en waar ze nog niet zijn, worden ze geplaatst. Waar geen camera’s aanwezig zijn wordt gewaarschuwd, dat je in die omgeving op eigen risico verblijft en de gevolgen daarvan zelf moet dragen. Vanzelfsprekend geschiedt de controle door The Every. En dit alles omdat “er zodra elke centimeter van de aardbol door camera’s wordt gezien, twee dingen zullen gebeuren: reizen wordt onnodig en misdaad zal verdwijnen. […] Misdaad wordt onmogelijk.”
Het eerste past bij de aandacht voor ecologische vraagstukken in de roman. The Every moedigt het verkleinen van de CO2-uitstoot aan. Dus spaarzaam vervoer, ook voor levensmiddelen en dus geen import, maar zoveel mogelijk lokale productie, en geen reizen, evenals beperking van het energieverbruik. Dat een eenzijdig besluit om geen levensmiddelen meer te importeren de nodige gevolgen heeft voor de verbouwers en tussenhandel en dus gepaard hoort te gaan met ondersteunende maatregelen voor hen komt bij de medewerkers van The Every niet op. Het tweede – misdaad wordt onmogelijk - is het oude argument uit De Cirkel, maar ook in onze eigen werkelijkheid wordt dit gebruikt om de bewakingsstaat te vervolmaken. En hier gaat Het Alles verder. Met software, ingebouwd in iedere mobiele telefoon die door The Every geleverd wordt, de Every-telefoon, kunnen oogbewegingen gevolgd worden, waardoor de blikrichting kan worden bepaald en daarmee wordt ogenschijnlijk ook duidelijk wat de intenties van de geobserveerde persoon zijn. Op basis hiervan kan gehandeld worden door degene die de controle uitoefent en de touwtjes in handen heeft.
Mae Holland, ze is niet veel aanwezig in deze roman, zegt hier: “wat verborgen was wordt nu geopenbaard. Wat twijfelachtig was, zal nu duidelijk zijn. Hoe beter we elkaar kennen en hoe meer ons gedrag wordt gezien en vastgelegd en belicht, hoe beter we als mens worden.” Hier gaat het om gedrag zoals vastgesteld door algoritmen en om het aldus voorspellen van toekomstig gedrag. Dit gelukt alleen maar omdat “de mens wordt voorgesteld als een informatie-verwerkende machine”, zoals Jos de Mul, hoogleraar wijsgerige antropologie te Rotterdam[10] schrijft. De mens wordt gezien als een database, waaruit je informatie kunt halen en die spontaan informatie levert. Het lijkt er erg op dat deze al ingezette ontwikkeling de meesten van ons totaal geen zorgen baart.
Boeiend is dat Eggers toch nog weer een stap verder gaat. The Every blijkt mogelijkheden om af te luisteren aangebracht te hebben in de luidsprekers – smartspeakers – die ze al enkele jaren verkopen. Ondanks afspraken er niets mee te doen, blijken alle gesprekken selectief gemonitord te worden. Het brengt Delaney ertoe te suggereren dat hiermee een mogelijkheid bestaat om kindermishandeling thuis te voorkomen. Je kunt immers meeluisteren bij ruzie, stevig woordgebruik enz. Nu komt er dus ‘surveillance’ in de privésfeer. Na aanvankelijke privacy en juridische problemen en het moedwillig lekken van gegevens, komt vrij snel uitgebreide monitoring op gang. Politiekorpsen gaan ermee aan de slag[11]. “De wereld werd veiliger voor iedereen en de veiligheid zou de komende jaren nog exponentieel toenemen. […] zo zou de universele invoering […] de veiligheid voor kinderen garanderen waar dat nodig was. Kortom, overal”. De laatste stap, nog niet gezet, zou dan het toevoegen van een videofunctie zijn. Hiermee “zou de mensheid een nieuw gevoel van controle en veiligheid kennen.” En zo zijn er nog meer gadgets om controle uit te oefenen te bedenken, zoals Eggers ons laat zien. Overigens is hij van mening in een interview met Ariana Marsh dat deze ontwikkeling in onze werkelijkheid onvermijdelijk geaccepteerd gaat worden de komende jaren, omdat we het argument dat er levens mee bespaard worden niet kunnen ontzenuwen[12].
Ook op ander terrein blijkt The Every zich niet altijd aan de eigen regels te houden. Demoxiesoftware – doemocratie is in deze vertaling afwezig – wordt door The Every aan iedere belangstellende staat gratis geleverd. De ermee verzamelde gegevens worden weliswaar zodanig voorzichtig behandeld dat “de persoonlijke informatie en de politieke keuzes van kiezers volledig afgeschermd blijven”, maar toch wordt “die informatie maar al te graag verkocht” aan regeringen en strategische partners. Tot zover privacybescherming en transparantie!
Hoofdrolspelers
Delaney Wells is de vrouwelijke hoofdrolspeler die bij The Every solliciteert en aangesteld wordt. Ze is ervan overtuigd dat het bedrijf een bedreiging voor de democratische samenleving is. Al tijdens haar studie zoekt zij naar mogelijkheden hier iets aan te doen. Zij denkt dat haar opzet niet anders kan zijn dan het van binnenuit slopen en vernietigen van The Every. “Zij had haar scriptie geschreven over de waanzin van de antitrustmaatregelen tegen de Cirkel, met als uitgangspunt dat het helemaal niet uitmaakte of het bedrijf een monopoliepositie had, als dat nu eenmaal was wat de mensen wilden. […]. Zij stelde dat als een bedrijf de beste kennis en de beste bedoelingen heeft, het toch mogelijk moet zijn dat het onbelemmerd in staat wordt gesteld ons leven te verbeteren?” Dit alles bedacht, uitgewerkt en uitgevoerd met het doel om zo gemakkelijker aangenomen te worden bij The Every.
In de beschrijving van Delaney’s levensloop laat Eggers observaties en commentaar uit de huidige werkelijkheid zien. Hoewel erop gewezen wordt dat schoolgaande kinderen te veel tijd gekluisterd aan het scherm doorbrengen, is er eigenlijk geen ontkomen aan. De school waarschuwt ervoor en maakt tegelijkertijd gebruik van digitale omgevingen om het onderwijs te verbeteren en de communicatie tussen school, leerkracht, kind en ouders te waarborgen. Deze paradox wordt stevig uitgewerkt en getoond.
Daarnaast is cameratoezicht op school bij Eggers volledig normaal geworden.
“De overgrote meerderheid van Delaneys medestudenten was al sinds de crèche gewend aan camera’s in elk lokaal. Hun ouders wisten hun hele leven al waar ze op elk moment van de dag waren en dat hadden ze nooit hinderlijk gevonden – ze kenden gewoon geen leven zonder toezicht.” In werkelijkheid is dit ook al aan de orde. In Rusland is een dergelijk systeem ingevoerd waarbij de naamgeving wel een heel bijzonder soort humor of een vernietigend cynisme veronderstelt. Het systeem draagt de naam Orwell[13].
De Britse mensenrechtadvocaat Susie Alegre laat in haar recent verschenen boek[14] Freedom to think: the long struggle to liberate our minds zien dat we vaak al voor de geboorte in deze onlinewereld aanwezig zijn via zwangerschapsapps. In ieder geval “zijn kinderen tegenwoordig vanaf hun geboorte ingeplugd in de onlinewereld.”
Delaney ontpopt zich als de grote gangmaker binnen The Every bij het genereren van ideeën voor nieuwe apps of het uitbreiden van bestaande apps. Alles om een zodanige chaos of verontwaardiging te bewerkstelligen dat The Every stevig wordt aangepakt of als het ware ontploft. Wat zij echter ook probeert, ieder idee wordt omarmd, uitgewerkt en de apps in gebruik genomen. Iedereen blij en tevreden, geen enkel negatief effect. Het is voor haar om moedeloos van te worden.
In dit boek is Eggers duidelijk over de naam van de hoofdrolspeelster. Delaney heeft een vingerwijzende betekenis, die ook in het verhaal zelf voorkomt. Eggers noemt de betekenis ‘duistere uitdager’. Er zijn echter ook totaal andere verklaringen, afhankelijk van een Franse, Engelse of Ierse oorsprong. De enige die hier nog relevant kan zijn en betekenisvol is ‘donker afwijkend kind’.
Een tweede rol is weggelegd voor haar goede vriend Wes Makazian, die evenzeer The Every verafschuwt en mee wil helpen het te laten ineenstorten. Lopende het verhaal besluit hij ook om van binnenuit te gaan werken. Het lukt hem om aangenomen te worden. Hier komt in de loop van de tijd voor hem een ommekeer. Hij raakt er langzamerhand steeds meer van overtuigd dat The Every ook tot goede dingen in staat is. Hij wordt op den duur een adept. Zijn activiteiten worden zeer gewaardeerd en hij wordt lid van de Bende van Veertig, de bepalende elite.
Hij ziet steeds beter in dat The Every eigenlijk de enige partij is die de wereld kan redden, omdat de macht van het bedrijf daarvoor groot genoeg is. Zijn discussies met Delaney hierover worden heftiger en onthutsender. Ze verwijt hem haar plannen te saboteren. Zij begrijpt hem niet langer. Hij neemt iedere ‘kleine’ inperking van de vrijheid voor lief omdat het grote doel, een betere wereld, door The Every dichterbij komt. Hij valt voor dit doel, een wereld zonder misdaad, zonder dodelijk geweld, zonder klimaatproblemen, maar ook zonder vrijheid. Hun wegen scheiden hier.
Bespreking
Eggers is er niet in geslaagd van het vervolg op De Cirkel een net zo boeiende roman te maken. Het Alles is te overdadig, te uitgesponnen, te lang, maar ook op vele momenten behoorlijk traag. De personages zijn nauwelijks uitgewerkt. Eggers heeft er kennelijk plezier in ons te confronteren met wat je allemaal kunt bedenken aan gadgets en apps die door vrijwel iedereen meteen in gebruik genomen worden zonder dat nagedacht wordt over de effecten ervan. Hier is een waarschuwende vinger te ontwaren die hij ons voorhoudt. Daarbij is in werkelijkheid al heel veel op de markt zonder dat wij allen daarvan goed op de hoogte zijn.
Een lang niet complete lijst, vooral gericht op (lijfelijke) gezondheid, variërend van meer algemene aspecten van gezondheid via ‘smartwatches’ of slimme polsbandjes tot slimme matrassen en andere slaap registrerende apps, wordt door Susie Alegre besproken. In een interview[15] met Keziah Weir maakt Eggers duidelijk dat we veel te veel waarde hechten aan hetgeen deze apps voor ons kunnen betekenen. “Wat ook absurd is, is dat alle machines die nu slaap meten, het eigenlijk niet kunnen meten. Ze meten het niet en ze weten niet of je slaapt, ze meten of je beweegt. Ze meten je hartslag. Ze kunnen niet in je hersenen komen en weten niet of je droomt of iets dergelijks.” Deze apps en niet alleen deze geven ons een verkeerd gevoel van zekerheid. “Al het getalsmatige, vertrouwen we meer dan iets verbaals.”
Onthutsend zijn Allegre’s voorbeelden – met bronvermelding, dus geen fantasie - op het gebied van sexualiteit. Wat te denken van slimme vibrators of zelfs diafragma’s die de gegevens in ‘real time’ doorspelen aan de producent, en menstruapps[16], om slechts een enkele te noemen. Zoals zij, maar zij niet alleen, zegt: “informatie over het seksleven van vrouwen, vruchtbaarheid en gevoelens is een zeer grote bron van inkomsten.”
professionals.wrha.mb.ca
In een boekrecensie in The Guardian[17] schrijft de recensent dat Het Alles “nog steeds gevoed is door woede over de macht van Silicon Valley en het afstompend effect ervan op de mensheid.” Deze macht komt ook tot uitdrukking in een onderzoeksrapport van Amnesty International[18]. Enkele citaten uit het rapport: “Google en Facebook hebben geholpen de wereld met elkaar te verbinden en hebben miljarden mensen cruciale diensten verleend. […] Het op surveillance gebaseerde bedrijfsmodel van de bedrijven dwingt mensen tot een Faustiaanse ruil waarbij ze alleen online van hun mensenrechten kunnen genieten door zich te onderwerpen aan een systeem dat gebaseerd is op schending van mensenrechten. [...] Het op surveillance gebaseerde bedrijfsmodel van Facebook en Google is inherent onverenigbaar met het recht op privacy en vormt een bedreiging voor een reeks andere rechten, waaronder de vrijheid van mening en meningsuiting, de vrijheid van gedachte, en het recht op gelijkheid en non-discriminatie. [..] De geleidelijke erosie van de privacy door toedoen van Google en Facebook is een direct gevolg van het verwerven van een dominante marktpositie en controle over de wereldwijde ‘openbare ruimte’ door deze bedrijven.”
Of wij er als samenleving van wakker liggen is aan onszelf. Veel reacties op de genoemde ontwikkelingen zijn er niet. In de Europese Unie worden weliswaar nu aanzetten gedaan om de macht van de techreuzen wat in te perken, hun winsten wat af te romen en onze privacy beter te waarborgen, maar het blijft vooralsnog onduidelijk hoeveel zoden dat aan de dijk zet. Er is een zeer sterke lobby van deze bedrijven in Washington en Brussel[19].
Intussen digitaliseren wij de maatschappij steeds verder. Dit is op diverse terreinen zichtbaar. Enkele voorbeelden. Er wordt geëxperimenteerd met kassaloze winkels[20], waar je met een app op je smartphone naar binnen kunt. Camera’s en sensoren houden je in de gaten; de gekochte waar gaat direct in de tas en wordt volautomatisch afgerekend. Meta[21] ontwikkelt “een digitale assistent in VR-brillen (‘virtual reality’) die niet alleen de voorwerpen in een kamer om je heen zou kunnen waarnemen, maar ook zou kunnen anticiperen op wat je met die voorwerpen zou willen doen, zoals een tv of een lamp aanzetten. Hij zou je zelfs kunnen helpen je vermiste sleutels terug te vinden of een inventaris van je koelkast bij te houden.”
Het besturen van een computer of de televisie door middel van oogbewegingen is al mogelijk. Eggers gaat een stap verder door de analyse van de oogbeweging te gebruiken voor controle doeleinden en bewaking van gedrag. Hoever is dat in werkelijkheid nog weg?
Maar er is meer. Susie Alegre wijst er in een interview in de NRC[22] op dat de techreuzen erop uit zijn om ons te manipuleren. Een voorbeeld dat zij in haar boek noemt en daarbij verwijzend naar een artikel van Sarah Zangh in The Atlantic, is dat Spotify muziek aanbiedt aan gebruikers gebaseerd op hun DNA. Hierbij gebruikt het bedrijf het DNA bepaald uit speeksel dat mensen hebben afgestaan aan het bedrijf AncestryDNA. Vooralsnog moet je toestemming geven voor het gebruik van je DNA-gegevens. Hoe lang nog? Daarnaast gebruikt Spotify de gegevens die het verzamelt op grond van je gebruik van Spotify.
Alegre wijst er ook op dat er technieken zijn die “in toenemende mate aangepast worden en gebruikt door kunstmatige intelligentie (AI) om te proberen te doorgronden wanneer mensen gevaarlijke gedachten hebben.” Recent was er zelfs een bericht[23] dat Chinese onderzoekers kortdurend plaatsten op internet, waarin werd beweerd dat zij intussen een systeem met kunstmatige intelligentie hebben ontwikkeld dat “gezichtsuitdrukkingen en hersengolven kan lezen, en analyseren hoeveel aandacht een lid [van de communistische partij] heeft voor gedachten- en politieke vorming teneinde hun vertrouwen en vastberadenheid om de partij dankbaar te zijn, naar de partij te luisteren en de partij te volgen, verder te versterken.” Dergelijke geluiden zijn er niet voor het eerst. Het ‘Social Credit System’ is hèt voorbeeld van bewaking door de Chinese staat, die overigens nog veel verder gaat, terwijl meer landen vormen van digitale bewaking, soms eveneens stevig, hanteren[24]. In China zouden burgers er ook aan gewend zijn en de doorgevoerde surveillance niet meer hinderlijk vinden, als er maar meer dan genoeg te besteden valt en er dus een betere levensstandaard tegenover staat. Eggers zit er in zijn roman niet ver naast!
Chris Slane (boingboing.net)
De wereld met The Every is er ondanks andere en mooie beloften niet beter van geworden. Ja, de klimaateffecten van de sociale controle zijn positief te noemen, evenals het verminderen van criminaliteit, maar de prijs ervoor is hoog. Vrijheid is er vrijwel niet meer, de sociale controle overweldigend. Ook hier is Alegre over onze werkelijkheid heel helder: “de moderne bedreiging van onze vrijheid van denken komt evenzeer van het wereldwijde bedrijfsleven als van totalitaire staten.” Het is angstaanjagend.
Transparantie is in de wereld van Het Alles tot het uiterste doorgedreven. Vertrouwenwekkend is het niet wanneer we lezen hoe men zich tot elkaar verhoudt. Steeds minder sociale contacten in de dagelijkse praktijk. Ja, via sociale media, maar verder niet. Filosoof en voormalig hoogleraar cultuurwetenschap te Berlijn Byung-Chul Han, zie ook eerdere artikelen, is van mening[25] dat in een dergelijke wereld “alles is overgeleverd aan de zichtbaarheid. Onder dit sociale media fenomeen lijkt onze samenleving op een tribale samenleving waarin het zeer moeilijk is iets te verbergen. In een stammengemeenschap weet iedereen van elkaar. Daar speelt vertrouwen geen rol in de sociale interactie. […] De transparantiemaatschappij berust op informatie en controle. Op deze manier wordt een cultuur van wantrouwen gecreëerd.” Er valt dus wel wat af te dingen als het om transparantie gaat. Han opnieuw, “meer transparantie alleen leidt niet tot een cultuur van vertrouwen. Integendeel, meer transparantie maakt nog meer transparantie noodzakelijk. Dat is de logica van transparantie. Vertrouwen volgt een heel andere logica.” Het betekent dat de roep om transparantie nooit zal verstillen. Het gevolg zal zijn dat onze privacy in toenemende mate in het geding komt. Han: “Werkelijk vrij zijn niet de mensen, doch de gegevens.” En, de argumenten deze ontwikkeling voort te zetten zijn logisch voortvloeiend uit de al aanvaarde ontwikkelingen en zijn daarnaast ook slecht te weerleggen.
Het klinkt alles zo eenvoudig en logisch! En vooral zo dat het er niet mee eens zijn je vrijwel zeker tot een paria maakt. Je wordt ‘gecanceld’. Je hoort transparant te (willen) zijn[26]. Bij Eggers zien we waartoe dat kan leiden.
Daarnaast is het huiveringwekkend met hoeveel gemak The Every de macht in handen heeft gekregen en weerstand ertegen grotendeels uitgeschakeld heeft. Ethische overwegingen zijn er eigenlijk niet meer. Dit komt aan het slot van de roman nadrukkelijk tot uiting wanneer Delaney ontmaskerd wordt en Mae als de hoogste baas van The Every laat zien dat bij haar persoonlijk ethische reflectie volledig ontbreekt. Welbewust en zonder scrupules zorgt zij er hoogstpersoonlijk voor dat Delaney het onderspit delft en haar plannen nooit zal kunnen uitvoeren.
Bijzonderheden
Taalverarming als een onontkoombare ontwikkeling komt ook in Het Alles voor. Bij Eggers leidt de digitale communicatie hiertoe, doordat “The Every door de automatische aanvulfunctie jarenlang duizenden woorden richting vergetelheid gebonjourd had omdat alleen de meest waarschijnlijke werden voorgesteld in plaats van de minder gebruikelijke en dat had als onverwacht gevolg dat complete delen van de taal vrijwel helemaal in onbruik waren geraakt.” In de werkelijkheid van vandaag de dag zien we ook dat het woordgebruik armer wordt. Of dat alleen een gevolg is van de digitalisering kun je je afvragen. Een rol speelt het zeker.
Eggers demonstreert zijn afkeer van monopolies ook in de manier waarop hij met zijn boek omgaat. Hij deelde hier een kleine speldenprik uit. De gebonden versie van het boek, in de Verenigde Staten uitgegeven bij zijn eigen uitgeverij McSweeney, is niet verkrijgbaar via Amazon, doch uitsluitend via de onafhankelijke boekhandel. Een signaal van Eggers om aandacht te vragen voor deze boekwinkels en het voortdurend moeite moeten doen om voort te kunnen bestaan. “Misschien brengt het een paar mensen ertoe om de hoek te kijken en te zien dat daar een winkeltje is dat baat zou kunnen hebben bij een aankoop of twee. Het is een klein gebaar, maar het is vooral een manier om samen te werken met de boekwinkels die McSweeney’s mogelijk hebben gemaakt, want zonder hen zouden wij niet bestaan”, aldus Eggers in een interview.
In gesprek[27] met Sam Leith van The Guardian gaat hij verder: “Amazon is een monopolist die oneerlijke handelspraktijken gebruikt om de concurrentie te verdrijven. Ze houden zich niet aan de regels en betalen nog lang niet de belasting die ze verschuldigd zijn. Ondertussen kunt u er zeker van zijn dat uw lokale onafhankelijke boekhandel belasting betaalt. Amazon verliest geld op de verkoop van boeken omdat ze die verliezen kunnen goedmaken met andere inkomstenstromen. Dat is de essentie van afbraakprijzen, en het zou illegaal moeten zijn onder de bestaande antitrustwetten.” Hij geeft ook aan dat hij zich ervan bewust is dat zijn actie slechts een druppel op de gloeiende plaat is. Maar iemand en ergens moet het beginnen. “De meeste bedrijven en distributeurs zitten vast aan contractuele verplichtingen met Amazon, waardoor ze geen keuze hebben. En dat is een deel van het probleem.” De andere versies van de roman werden ook bij Amazon verkrijgbaar, zij het pas een maand na het uitkomen van het boek. Helemaal zonder de bijna monopolist gaat het kennelijk niet.
Ten slotte
Er is duidelijk sprake van een dystopie. De argumenten zijn hierboven verspreid in de tekst gememoreerd. Eggers beschrijft een samenleving die dichtbij is, die je als het ware ziet ontstaan en welhaast als onze eigen werkelijkheid beleeft. Daardoor is het moeilijk afstand te nemen van de inhoud. Het past bij onze manier van doen; “mensen houden van het gemak, ze houden van de efficiëntie van één druk op de knop, alles op één plaats, al hun communicatie en sociale media en e-commerce, alles samengebracht op één plaats”, stelt Eggers in het interview met Ariana Marsh. Wij voeden hiermee het standaardargument van de techreuzen dat ze leveren wat wij mensen willen, zonder dat wij de gevolgen daarvan adequaat kunnen inschatten. Het is de manier om ons afhankelijk, verslaafd zo je wilt, te maken. Daarnaast stimuleert het met gepersonaliseerde reclame een onbelemmerd consumentisme.
Zoals een recensent[28] schrijft, “Eggers’ roman is een poging om een dystopische satire te schrijven over een reeds dystopische wereld.” En een ander[29], “en het is werkelijk ijzingwekkend materiaal.”
Eggers, maar ook de bovengenoemde en eerder in CM 124[30] besproken Cressman waarschuwen ons. Hun romans dwingen je tot nadenken over een toekomst die er aan komt. Misschien niet exact zo als beschreven, maar wel verrassend navolgbaar en dus ook bedreigend. In beide romans zie je dat de technologie losgezongen raakt van veel menselijke elementen en dat kunstmatige intelligentie met zijn algoritmen de mens heel veel speelruimte ontneemt. “In essentie is de tirannie van The Every een ‘algoritmocratie’” volgens een van de vele recensenten[31]. En daarbij is het, volgens Eggers in gesprek met Sam Leith, notabene ook nog zo dat “we bereid zijn het grootste deel van onze macht af te staan aan een handvol monopolisten.” Echter, kunstmatige intelligentie lijkt weliswaar de macht in handen te hebben, maar uiteindelijk zijn het de mensen achter de technologie en de mensen die de technologie gebruiken die de touwtjes in handen hebben. Het is een elite, die zich aan democratische controle onttrekt!
In het volgend deel van de serie ga ik nader kritisch in op de vijf besproken boeken, waarin de technologie de hoofdrol speelt en de meeste mensen dit wel best vinden. Het is voor hen de beste wereld die zij kennen. Toch zijn er de nodige elementen die morgen ook voor ons werkelijk zouden kunnen worden of hier en daar welhaast al zijn. Of we daar enthousiast over moeten zijn blijft vooralsnog een grotendeels onbeantwoorde vraag. Hij is zelf somber over het kunnen tegenhouden van deze ontwikkelingen, zegt Eggers in het interview met Keziah Weir. Filosoof Nick Bostrom maakt in zijn boek Superintelligence: Paths, Dangers, Strategies, door Piet Ransijn besproken in dit nummer van CM, duidelijk dat er aan de snelle en ingrijpende ontwikkeling van kunstmatige intelligentie veel reële risico’s kleven, die ons dringend tot voorzorgen manen. Eggers laat zien hoe het uit de hand kan lopen.
Noten
[1] Rutgers M.J: Een dystopische wereld: van bedenksel tot de werkelijkheid van nu? Deel 9. Een nieuwe panopticisme? Civis Mundi 2022, 123 (https://www.civismundi.nl/index.php?p=artikel&aid=7132)
[2] Eggers D: The Every. McSweeney’s Books, San Francisco, 2021 (Ned. vertaling Lidwien Biekmann, Elles Tukker en Gerda Baardman: Het Alles, De Bezige Bij, Amsterdam, 2021)
[3] Ransijn P: Macht en manipulatie van Big Tech. Civis Mundi 2022, 124 (https://www.civismundi.nl/index.php?p=artikel&aid=7166)
[4] We vergeten vaak dat Amazon veel meer is dan een internetplatform via welke we producten kunnen kopen. Het bedrijf omvat van alles, van distributiekanalen, eigen vervoersbedrijf, clouddiensten, datacentra, filmstudio’s – het heeft MGM gekocht, robotontwikkelaar tot geneesmiddeldistributie en apotheek, maar ook supermarkten.
Het is berucht voor zijn belastingconstructies, waardoor het vrijwel (geen) belasting betaalt.
[5] https://www.theeverybook.com/interviews-related-to-the-every
[6] Rutgers M.J: Een dystopische wereld: van bedenksel tot de werkelijkheid van nu?
Deel 1. Utopie en dystopie in de literatuur Civis Mundi 115, 2021 (https://www.civismundi.nl/?p=artikel&aid=6755)
[7] https://www.kirkusreviews.com/book-reviews/dave-eggers/the-every/
[8] https://www.businessinsider.com/china-social-credit-system-punishments-and-rewards-explained-2018-4?op=1
[10] Mul J. de: De mens als database. De Groene Amsterdammer, 31 maart 2022
[11] In het vorige deel van de serie in CM 123 werd in voetnoot 27 al gewezen op de huidige situatie met betrekking tot communicatie tussen autofabrikanten en de door hen verkochte auto’s, waarbij afluisteren ook tot de mogelijkheden behoort.
[12] Marsh A: Are we losing our humanity to Big Tech? Harper’s Bazaar, 8 oktober 2021. (https://www.harpersbazaar.com/culture/art-books-music/a37898897/dave-eggers-interview-the-every/)
[13] https://www.themoscowtimes.com/2020/06/16/russia-to-install-orwell-facial-recognition-tech-in-every-school-vedomosti-a70585
[14] Alegre S: Freedom to think: the long struggle to liberate our minds. Atlantic Books Ltd, Londen, 2022
[15] Weir K: To Buy Dave Eggers’s Newest Novel, You’ll Probably Have to Leave Your House. Vanity Fair, 1 oktober 2021 (https://www.vanityfair.com/style/2021/10/to-buy-dave-eggerss-newest-novel-youll-probably-have-to-leave-your-house)
[16] Susie Alegre en ook medisch antropologe en Andrea Ford (https://blog.castac.org/2019/11/period-tracking-apps-something-old-something-new/) wijzen op een Braziliaans onderzoeksrapport MENSTRUAPPS – how to turn your period into money (for others) (https://chupadados.codingrights.org/en/menstruapps-como-transformar-sua-menstruacao-em-dinheiro-para-os-outros/).
Het Britse Privacy International (https://www.privacyinternational.org/) deed hier eveneens onderzoek naar, waarbij bleek dat diverse apps data leveren aan Facebook. Dit geldt overigens voor veel meer apps dan gerelateerd aan gezondheid, menstruatie etc.
Zie ook:
Shipp L., Blasco J: How private is your period? A systematic analysis of menstrual app privacy policies. Proc. Privacy Enhancing Technologies 2020 (4):491-510
Daniela Alaattinoglu, nu docente en onderzoekster aan de Rechtenfaculteit van de Universiteit van Helsinki publiceerde recent een kritisch stuk over menstruapps: Rethinking Explicit Consent and Intimate Data: The Case of Menstruapps. Feminist Legal Studies, 30: 157-179, 2022
[17] Doyle B: The Every by Dave Eggers review – scathing big-tech satire sequel. The Guardian, 8 november 2021
[18] Amnesty International: Surveillance giants: How the business model of Google and Facebook threatens human rights. November 2019 (https://www.amnesty.org/en/documents/pol30/1404/2019/en/)
[19] Hofman E., Luimes T: ‘Je kunt hier invloed kopen’. De Groene Amsterdammer 34, 25 augustus 2022
[20] https://specials.agconnect.nl/retail-2022/de-kassaloze-winkel
[21] https://tech.fb.com/ar-vr/2021/10/update-a-year-of-progress-with-project-aria/
[22] Eijsvoogel J: Big Tech bedreigt de vrijheid te denken wat je wil, betoogt deze mensenrechtadvocaat. NRC, 3 juli 2022
[23] Tang D: Chinese AI ‘can check loyalty of party members’. The Times, 4 juli 2022
Al-Sibai N: China says it’s developing an AI to detect party loyalty. Futurism, 6 juli 2022 (https://futurism.com/china-ai-loyalty)
[24] Campbell Ch: ‘The Entire System Is Designed to Suppress Us’. What the Chinese Surveillance State Means for the Rest of the World. TIME, 21 november 2019
[25] Han B-C: Alles wird schamloser und nackter, interview door R. Hank, FAZ, 5 april 2012 (https://www.faz.net/aktuell/wirtschaft/philosoph-byung-chul-han-alles-wird-schamloser-und-nackter-11704308.html)
[26] Transparantie is in de politiek en de economie in zwang geraakt aan het einde van de vorige eeuw. Het is lang niet altijd duidelijk wat er precies mee bedoeld wordt. Het is inmiddels een modewoord geworden; het gebruik getuigt van politieke correctheid. Het spreken erover en het verlangen dat men transparant is – van handelwijze is het een persoonskenmerk aan het worden – wordt weliswaar uitgedragen, maar voor de eigen persoon gelden meestal andere regels. Een ‘mooi’ voorbeeld hiervan is de voormalige president van de Verenigde Staten Donald Trump.
[27] Leith S: ‘The Every is about an all-powerful monopoly that seeks to eliminate competition’: why Dave Eggers won’t sell his new hardback on US Amazon. The Guardian, 6 november 2021
[28] Ulin D. L: The road to hell. Alta Journal, 29 november 2021 (https://www.altaonline.com/books/fiction/a38259007/dave-eggers-every-book-review/)
[29] Mack E: Dave Egger’ new novel brings updated warnings for 2021: ‘We’re never unstudied’.
15 november 2021 (https://www.cnet.com/culture/dave-eggers-has-a-heartbreaking-list-of-staggering-tech-concerns/)
[30] Rutgers M.J: Een dystopische wereld: van bedenksel tot de werkelijkheid van nu? Deel 10. De wereld als digitaal-virtueel speelveld. Civis Mundi 2022, 124 (https://www.civismundi.nl/index.php?p=artikel&aid=7165)
[31] Roberts A: Defying the tech giants: The Every, by Dave Eggers, reviewed. The Spectator, 13 november 2021