Civis Mundi Digitaal #131
Met de nu volgende bespreking duiken we in de wereld van de algoritmen. Zij bepalen vrijwel het gehele leven in de satirische roman Qualityland[1]. Het boek is van de hand van de gelouterde Duitse auteur Marc-Uwe Kling (1982), schrijver van liedteksten, zanger, cabaretier, regisseur en auteur van vele boeken. Hij heeft filosofie en theaterwetenschappen gestudeerd. Na het succes van Qualityland – er zijn intussen 24 vertalingen – verscheen in 2020 een vervolg, Qualityland 2.0: Kikis Geheimnis. Dit laatste komt hier niet aan de orde. Ook is er intussen een website qualityland.nl, waar veel te vinden is over het boek.
Kleinkunstenaar
Voordat Kling in 2017 Qualityland uitbracht genoten zijn vele andere activiteiten al de nodige belangstelling. Zijn eerdere werk Känguru-Werke was al zeer populair en behoort tot de best verkochte boeken in Duitsland. Het is een verzameling boeken, ooit begonnen met Die Känguru-Chroniken: Ansichten eines vorlauten Beuteltiers[2] (2009) hetgeen intussen ook verfilmd is. De andere delen zijn: Das Känguru-Manifest (2011), Die Känguru-Offenbarung (2011) en Die Känguru-Apokryphen (2018). Alle zijn als luisterboek verschenen. Er zijn nu ook sinds enige jaren Comics met de kangoeroe. Daarnaast schrijft hij kinderboeken. We hebben te maken met een cabaretier, een satiricus, een humorist, kortom met kleinkunstenaar[3] die zich met de onderhavige roman tot een groot publiek richt.
Het boek is in Duitsland in twee versies verschenen, een donkere en een lichte versie. De inhoud is identiek op de pagina’s tussen de hoofdstukken na, waarop nieuwsberichten en reclameboodschappen in het kader van de inhoud staan. De donkere versie is voor pessimisten en onheilsprofeten, de lichte versie voor optimisten[4].
Qualityland
De roman wordt voorgesteld als het werk van een vrouwelijke androïde met de naam Kalliope 7.3[5], een zogenaamde e-schrijver. De roman speelt zich af in een vrije wereld met de naam QualityLand en de hoofdstad QualityCity. Na een grote economische crisis is het tijd voor wederopbouw. Op advies van BigBusinessConsulting (BBC) werd het WereldWijdeWarenhuis (WWW) ingehuurd om alles te vernieuwen, naam, imago, cultuur, zelfs de tijdrekening, noem het maar op. Het leidde tot QualityLand, QualityCity, QualityTime; het industriegebied heet voortaan Growth, de oude handelsmetropool wordt omgedoopt in Profit en de universiteitsstad in Progress. Om het nog completer te maken werd de geschiedenis afgeschaft. Er is slechts toekomst, waarin techniek alles oplost.
Hoewel het boek meer dan 350 bladzijden omvat, is de verhaallijn mager. Het is merkbaar dat er een kleinkunstenaar aan het werk is geweest. Het wemelt van de woordspelingen en op succes gerichte, snel verwoorde grappen, maar voor een cabaretvoorstelling is het veel te lang.
Toch heeft het boek een zeer serieuze ondertoon. De wereld die QualityLand heet is een wereld waarin de mensen alleen maar op jacht zijn naar eigen QualityTime, naar vaak kortstondig geluk. Geluk dat steeds opnieuw opgeroepen moet worden door eigen acties, maar vooral opgeroepen wordt door het persoonsgerichte aanbod vanuit de digitale wereld. Een digitale wereld waarin de grote concerns de dienst uitmaken en bepalen wat kwaliteit en geluk zijn. QualityLand wordt volledig beheerst door algoritmen. Mensen zijn ondergeschikt geraakt aan de technologie. Iedereen heeft een persoonlijke digitale assistent. De wereld wemelt van de robots en de androïden. Mensen ontmoeten elkaar bijna niet meer in de zin van met elkaar het gesprek aangaan. Veelal hebben ze ‘vriendschappen’ met robots of androïden.
Hoofdrolspelers
De eerste verhaallijn gaat over Peter Werkloze, een van de hoofdrolspelers. Zijn achternaam verwijst, zoals bij alle inwoners van QualityLand naar het beroep van zijn gelijkgeslachtelijke ouder, hier dus zijn vader, op het moment van zijn verwekking. Peter is de doodgoeie doorsneeburger, die niet of weinig nadenkt over zijn leven. Zoals iedere burger van QualityLand heeft hij een persoonlijke digitale assistent. Deze is getooid met de naam Niemand, hetgeen de lezer bij voortduring op het verkeerde been zet. Niemand bepaalt voor hem wat hij doet, waar hij heen gaat, welk restaurant hij bezoekt, welk kunstmatig vervaardigd voedsel hij tot zich neemt en nog veel meer. Niemand is een zogenaamde WIN-assistent (What I Need). Gebruikers van deze software heten WINNERS[6]. Een ander systeem van persoonlijke assistenten heet “QualityCorp, het bedrijf dat je leven beter maakt.” De digitale assistent zit in een minirobot, een oorworm, die zelf in je gehoorgang kruipt en daar verblijft tot je het apparaatje aanspoort er uit te komen door aan je oorlel te friemelen.
Iedereen in QualityLand heeft een zichtbare persoonlijke score, die het niveau aangeeft waarop in de samenleving gefunctioneerd kan worden. Hier is een vergelijking te zien met het Chinese Social Credit System, dat in deel 11 (CM 125) kort aan de orde was. Hoe hoger het niveau, hoe meer voordelen, hoe meer privileges. Hoge niveaus kunnen de verkeerslichten sturen, voorrang krijgen bij het inkopen of bij de dokter. RateMe – het programma dat de niveaus vaststelt en waarvan het algoritme natuurlijk geheim is – behoort tot QualityPartner. Dit laatste systeem bepaalt je best passende partner en doet dan een voorstel, zelfs aan getrouwde mensen, en wordt benut om korter of langer durende relaties te vinden. Peter behoort tot de laagste niveaus. Hij is als het ware nutteloos. Zodra zijn niveau eencijferig geworden is, blijkt hij plotseling nauwelijks nog vrienden te hebben.
Peter oefent het beroep van machinesloper uit. In de nieuwe wereld wordt niet meer gerepareerd; het “Recht op reparatie” [7] bestaat niet meer; het is eenvoudiger en goedkoper uitsluitend nieuwe producten te gebruiken. Afgekeurde en kapotte machinerie moet worden vernietigd. Hier dient Peter Werkloze voor te zorgen. In zijn kringloopwinkel staat daarom een grote pers waarin de diverse machines opgeruimd kunnen worden. Peter kan het slopen niet over zijn hart verkrijgen, laat de afgeschreven en niet goed meer functionerende machines ‘overleven’ en bewaart ze in zijn kelder. Niet verwonderlijk spelen deze ‘gemankeerde helpers’ als een soort Gideonsbende, een rol in het verhaal.
Robotica – Androïde
robot-androide.blogspot.com
In de tweede verhaallijn volgen we de andere hoofdrolspeler, de androïde John of Us, tijdens zijn verkiezingscampagne; de robot is presidentskandidaat. In een wereld die volledig bepaald wordt door kunstmatige intelligentie heeft niemand er een probleem mee dat een androïde president zou kunnen worden. Het heeft grote voordelen; de algoritmisch gestuurde robot maakt geen fouten. Zo luidt de campagneslogan dan ook: “Machines maken geen fouten.” Boeiend is het moment waarop duidelijk wordt dat mensen meer gevoelig zijn voor de mooie praatjes van zijn opponent Cornelis Kok en minder om de waarheid geven en Aisha Dokter, de menselijke assistente van John of Us, de androïde uitlegt dat goede argumenten niet helpen in de campagne. Het gaat bijna alleen maar om de emoties. Een korte conversatie volgt. Misschien, geeft ze voorzichtig aan, “is het beter om af en toe een vraag met “ik weet het niet” te beantwoorden.” John of Us laat weten: “mijn programmering verbiedt dat.” Aisha: “je mag niet zeggen dat je iets niet weet?” John of Us: “Nee. Ik mag niet liegen.” Hij weet immers alles en maakt geen fouten. Uiteindelijk lukt het de androïde tot president te worden gekozen. Het loopt niet goed af voor hem.
“De Ouwe”
Een bijzondere rol speelt een oude man. Hij leeft geheel afgezonderd van de wereld in een glazen huis. In het huis dringt geen straling door, er is geen internet, geen bewaking. Peter heeft het advies gekregen om met hem te gaan praten om zijn probleem, dat in de roman tot ‘Peters probleem’ wordt omgedoopt en tot diagnose voor veel meer wordt, te proberen op te lossen. Het is het probleem dat Peter niet door algoritmen geleefd wil worden. Interessant is vooral het college dat de Ouwe aan Peter geeft over het functioneren van de digitale wereld en de inherente gevaren ervan. “We dachten dat het internet de macht van grote bedrijven kon breken. We voorspelden het ontstaan van een markt met ontelbare alternatieven […] Maar het tegenovergestelde gebeurde! We kregen de machtigste monopolies ooit. En: “Weet je, we dachten dat het internet een democratiserend effect zou hebben. We dachten dat het voor gelijke kansen kon zorgen. Maar in plaats daarvan kregen we een inkomensongelijkheid die zijn weerga niet kent. Wat hebben we over het hoofd gezien?” Om ten slotte aan te geven: “We hebben niet bedacht dat digitale markten functioneren volgens het winner takes it all-principe.” Hier wordt de auteur serieus en waarschuwt ons via de Ouwe nadrukkelijk.
Mengelmoes van grappige satirische taferelen, dolle invallen en andere ongein
Peter Werkloze raakt in de war en wordt depressief wanneer QualityPartner zijn vriendin een andere partner aandraagt, vooral omdat Peters persoonlijke niveau eencijferig geworden is. Op Peters QualityPad verschijnt de mededeling dat zijn relatie “onverwacht beëindigd is. Onze excuses voor het eventuele ongemak.” Het wordt er niet beter op als per drone een pakketje bezorgd wordt met een roze vibrator in de vorm van een dolfijn. Volgens TheShop, de wereldwijd meest populaire en grote monopolistische webwinkel van QualityLand, is het Peters diepste wens deze vibrator te bezitten. Peter denkt hier echter geheel anders over. Hij wil de vibrator retourneren, maar dat is in QualityLand onmogelijk. Je krijgt hetgeen volgens de algoritmen bij je past. Retourneren staat niet in de leveringsvoorwaarden, die door iedereen ondertekend worden – er is slechts de mogelijkheid OK te drukken – zonder gelezen te zijn. Begrijpelijk, daar het in totaal dagenlang lezen zou betekenen.
Peter besluit al het mogelijke te ondernemen om de vibrator terug te geven, maar ook om zijn profiel te wijzigen. Hij wil zelf bepalen wie hij is. Peter in gesprek met Zeppola, de leidinggevende kunstmatige intelligentie van WIN. “Ik wil mijn profiel kunnen inzien, en ik wil het kunnen corrigeren. Ik wil kunnen begrijpen wat me waarom wel of niet wordt voorgesteld of onthouden.” Dit levert een soms vermakelijke parodie op met venijnige uithalen naar de huidige tijd. Het lukt Peter niet om zijn profiel gewijzigd te krijgen. Het algoritme staat een menselijke ingreep niet toe.
Vervolgens reist hij met zijn Gideonsbende of een deel ervan door het land om de vibrator te overhandigen aan de grote man achter TheShop, Hendryk Ingenieur. Met David, de kleine zelfrijdende auto die niet weet waar hij is, gaan ze onderweg naar Ingenieurs geheime adres. Het lukt Peter met hulp van zijn Gideonsbende om de vibrator na de nodige verwikkelingen bij Hendryk Ingenieur achter te laten. Weer thuis wordt Peter meteen verrast door een drone die hem een pakketje komt brengen. “In de doos zit een roze vibrator in de vorm van een dolfijn. Er zit een kaartje bij: “U was iets vergeten”.”
Bespreking
Kling laat scherp zien wat er kan gebeuren wanneer alleen nog maar algoritmen bepalen hoe onze wereld er uit ziet en we onze wereld vullen met ‘intelligente’ machines. Hij kiest voor korte satirische hoofdstukken, voor zwarte humor, alsof hij steeds weer de zaal mee moet krijgen bij een optreden. Hij schuwt ook hard en op de man spelend taalgebruik niet. Niet iedere lezer zal gediend zijn van sommige scenes met (bijna) beledigend taal- en woordgebruik.
Als cabaretier weet Kling als geen ander hoe onze kleinheid, onze feilbaarheid, ons gedrag en andere merkwaardigheden uit te buiten. Het meest populaire TV-programma, dagelijks uitgezonden, waarin iedereen die ook iets maar voorstelt of denkt voor te stellen, langskomt en gemodelleerd naar bekende Duitse shows, wordt in QualityLand onder de titel De naakte waarheid gepresenteerd door Julia Non, die, hoe kan het ook anders, voor betalende kijkers ongegeneerd naakt verschijnt.
Daarnaast zijn er leukere, maar ook bizarre vondsten. Te veel om op te sommen. Een enkel voorbeeld. Een bekend model zelfrijdende auto met de naam Herbert; een kleine auto met de naam David voor Peter en de Gideonsbende, onderweg naar het grootkapitaal. Achternamen die het beroep van de ouder van het gelijke geslacht bij de verwekking van het kind aangeven. Slimme systemen die eerder weten wat de mens in kwestie wil dan dat de mens het weet. Anders gezegd, je hoeft niet meer naar informatie te zoeken, “de informatie vindt jou”, zij het niet steeds foutloos, zoals we bij Peter Werkloze hebben gezien.
Een ander voorbeeld is TouchKiss, het systeem waarmee je met je QualityPad kunt betalen. Het verbaast je niet dat bij het kussen van zijn vriendin “onmiddellijk de gedachte door Peters hoofd schiet dat hij zojuist iets heeft betaald.” De leidinggevende kunstmatige intelligentie waarmee WIN functioneert draagt de naam Zeppola; dit is de naam van een zoet Calabrees gebak in de vorm van een donut. Ligt hier een link met de maffia?
Wat te denken van een drone met vliegangst, een impotente sexrobot of een advocaatandroïde die een geweten ontwikkelt? Of het voorstel rechtszaken “altijd te beslissen in het voordeel van de partij die het meeste geld voor zijn advocaat heeft betaald. Dat zou alle betrokkenen veel tijd en moeite besparen.” Is dit laatste niet al onze werkelijkheid?
barnesandnoble.com
Evenzeer zijn er in de roman talloze ‘gadgets’, die werkelijkheid kunnen worden. Hier zijn overeenkomsten met de romans[8] van Eggers The Circle uit 2013 en The Every, die in 2021 het licht zag. Fantasie kent kennelijk ongekende mogelijkheden.
Zoals in Brave New World de bewoners altijd gelukkig zijn en zo gehouden worden, is ook QualityLand een wereld vol geluk. De algoritmen weten hoe je gelukkig te houden met alle mogelijke platvloerse en oppervlakkige bezigheden. Niemand, nou ja bijna niemand, komt tekort.
Bij het lezen van Qualityland wordt duidelijk dat we ons moeten afvragen of we wel willen leven in een dergelijke wereld. Een wereld waarin anderen bepalen wat levenskwaliteit is, waar ethische overwegingen ontbreken en persoonlijke vooruitgang en gewin je houding bepalen. Een wereld waarin enerzijds algoritmen bepalend zijn en die anderzijds wel heel erg veel op onze huidige wereld lijkt. We leven zo gezien welhaast in een dystopie. En we accepteren nu al veel, omdat we denken dat algoritmen foutloos zijn. Maar daar zit de crux; algoritmen zijn door mensen ontwikkeld. Algoritmen leveren waarschijnlijkheden, constructen, die we met wetenschapsfilosofe Trudy Dehue[9] feiten noemen kunnen. Echter: “feiten zijn dus geen rechtstreekse reflecties van ‘de’ werkelijkheid.” Daartegenover staan dan andere feiten. Het zijn geen waarheden, die niet ter discussie staan.
Jamie Susskind waarschuwt in zijn boek The Digital Republic; On Freedom and Democracy in the 21st Century[10] en in het recente interview[11] voor de macht van de softwareontwikkelaars en daarmee het politieke gehalte van hun werk. “Softwareontwikkelaars zijn steeds meer ontwikkelaars van onze maatschappij. Software engineers worden social engineers, en daarmee politieke spelers.” Uiteindelijk zijn het hun opdrachtgevers, de meestal toch niet onbemiddelde eigenaren van de grote sociale platforms, die aan de touwtjes trekken. Zoals Susskind aangeeft, sprekend over een van de eigenaren, is het probleem niet de persoon in kwestie: “Het probleem is dat hij macht heeft zonder verantwoording te hoeven afleggen. Dat we overgeleverd zijn aan de wijsheid, of het ontbreken daarvan, van wie toevallig rijk genoeg is om zo’n platform te kopen.”
Het meest aangrijpende verder is dat de geschetste wereld nu eens niet in verre verten ligt, maar om de hoek. Hoe groot is nog het verschil met onze huidige wereld? Wij kunnen niet zeggen dat tegen die tijd het er toch weer anders uitziet. Het is nauwelijks overmorgen te noemen, welhaast eerder morgen of zelfs vandaag al zo ver.
Dystopie?
De roman wordt aangekondigd als dystopisch. Kijkend naar de bepalende elementen zien we dat er sprake is van een vrijwel totale digitale controle. Er is weliswaar sprake van een democratie, maar het blijkt zeer magertjes te zijn. Ook hier zetten de algoritmen de toon. Ook het feit dat een androïde presidentskandidaat kan zijn zegt veel. De inwoners confirmeren zich grotendeels aan de situatie. Er is slechts een kleine groep die zich verzet tegen de grote invloed van machines. Ze worden de Machinestormers genoemd, maar eigenlijk spelen ze nauwelijks een rol. Vrijheden zijn beperkt doordat de algoritmen alles bepalen. De geschiedenis is verdwenen, zoals in 1984 bij Orwell. QualityLand is ontstaan na een zeer grote crisis.
Er is een held, die zich verzet. Peter Werkloze wordt tot de held die niet langer accepteert dat zijn invloed op zijn eigen leven vrijwel nihil is. Ook voordien verzette hij zich al, vrijwel onbemerkt, door de min of meer defecte machines niet te slopen en zijn langzame afglijden tot eencijferig niveau te accepteren.
Alles overziend zijn er diverse elementen van een dystopische roman aanwezig; niet alle even sterk. Het stelt zeker geen wereld voor waarin wij genoegzaam zouden willen leven. Kortom, de roman is dystopisch te noemen.
Ten slotte
Is Qualityland een aanrader? Neen, dat niet. Ondanks vele rake typeringen blijft het verhaal te dun, blijven de personages vlak en viert het satirische, het cynische te veel hoogtij. Het boek bestaat eigenlijk alleen maar uit een lange rij opeenvolgende grappige invallen. De auteur is niet voor niets bekend als cabaretier en stand-up comedian. Te vaak bekroop mij het gevoel niet verder te willen lezen, het gevoel, het is mooi genoeg zo. Er kan ook anders over gedacht worden, zoals blijkt uit de recensies die een breed spectrum van positief naar negatief laten zien. Toch blijkt het een goedlopend boek te zijn, gelet ook op de vele vertalingen.
Noten
[1] Kling M-U: Qualityland. Ullstein, Berlijn 2017 (Ned. Vertaling door E. Besaris: Qualityland, Uitgeverij De Harmonie, Amsterdam, 2019)
[2] Kling M-U: Die Känguru-Chroniken: Ansichten eines vorlauten Beuteltiers. Ullstein, Berlijn 2009 (Ned. Vertaling door E. Besaris: De Kangoeroekronieken. Uitgeverij De Harmonie, Amsterdam, 2018)
[3] Op Youtube zijn diverse optredens te vinden.
[4] Het blijkt dat de donkere versie verreweg het meest verkocht wordt. In een artikel in de FAZ vraagt de recensent zich af of dat iets over de Duitsers zegt. Kling zelf ziet het iets anders: “Misschien is het gewoon omdat de donkere editie er een beetje mooier uitziet.” Zie: Thomann J: MARC-UWE KLINGS ERFOLGSREZEPT: Wo bleibt nur die große Erzählung? FAZ 16 oktober 2017
[5] Kalliope betekent ‘degene met de mooie stem’. In de Griekse mythologie is zij de oudste dochter van Zeus en een van de negen muzen. Zij is de muze van het epische gedicht, van de wetenschap, van de filosofie, van de elegie en van snaarinstrumenten. Soms wordt ook de bazuin haar toegeschreven. Kalliope is de moeder van Orpheus, de begaafde musicus en lierspeler. In het kader van de roman is Kalliope een veelzeggende naam voor een e-dichter. De auteur dicht zijn roman hiermee een hoge verwachting toe.
[6] In de originele Duitse versie is hier sprake van “PDF’s – Persönliche Digitale Freunde.”
[7] In Europees verband is een richtlijn ‘Recht op reparatie’ in de maak.
[8] Besproken in CM 123, 125, 126
[9] Op haar website (https://trudydehue.nl/) staat deze tekst: “Wij richten onze werkelijkheid in op basis van feiten. Dat is terecht – als het deugdelijke feiten zijn. Daarom is het belangrijk te beseffen dat kant en klare feiten uit ingrediënten bestaan, die tevoren zijn gemaakt, gekozen en bewerkt. Feiten zijn dus geen rechtstreekse reflecties van ‘de’ werkelijkheid. Ze zijn het eindproduct van menselijke redeneringen en besluiten. Er gaat veel denk- en ontwerp-werk aan vooraf, zodat ik ze ‘samengebalde argumenten’ noem.”
Dit lezend is duidelijk dat algoritmen, die immers mensenwerk zijn, constructies leveren die we feiten noemen. Voor deze feiten geldt dat het achteraf niet gemakkelijk, zo niet onmogelijk om te achterhalen wat er voorafgaand gedaan is. Daarom lijkt het ons dat feiten niet ter discussie kunnen staan; zij zijn onze werkelijkheid geworden. Echter, pas wanneer we kunnen aangeven hoe de ‘samenballing van de argumenten’ tot stand gekomen is en we er discussie over kunnen voeren, kunnen we de deugdelijkheid van de feiten vaststellen. In algemene zin is dat bij algoritmen onmogelijk.
[10] Susskind J: The Digital Republic; On Freedom and Democracy in the 21st Century. Pegasus Books, New York, 2022
[11] Eijsvogel J: Techcriticus Jamie Susskind: ‘We moeten anders gaan denken over technologie. Politieker’. NRC, 3 februari 2023