Filosofie en AI

Civis Mundi Digitaal #123

door Piet Ransijn

Inleiding: wanneer kunnen machines denken?

Het boek gaat in op de verbanden tussen kunstmatige intelligentie, kortweg AI, en logica, kenleer, taalfilosofie, cognitie, ethiek en politieke filosofie, waarbij vooral ook het gezonde verstand een centrale rol speelt. Het begint met een motto van Wittgenstein: “Gebruik je gezonde verstand niet als paraplu. Als je een kamer binnen gaat om te filosoferen, laat het dan niet buiten maar neem het mee naar binnen” (p7).

“Kunnen machines denken?” luidt de eerste vraag, die het begin inluidt van de kunstmatige of artificiële intelligentie, gesteld door de Brit Alan Turing, een student van Wittgenstein. Hij ontwiep de befaamde turingtest, die zegt dat machines intelligent zijn als hun antwoorden niet te onderscheiden zijn van door mensen gegeven antwoorden bij een vraag- en antwoordspel. Maar dat betekent echter nog niet dat een machine kan denken en bewustzijn heeft. Dat blijft een onderscheidend criterium. Dat bleek reeds in CM 111 en 113 in twee besprekingen over robots en AI. 

https://twitter.com/practicelabs/status/1133297246773096454?lang=de 

Wat is AI? En wat zijn de mogelijke consequenties?

Met AI wordt in ruime zin bedoeld “het soort systemen dat intelligent gedrag vertoont door hun omgeving te analyseren en - met enige graad van autonomie – actie te ondernemen om specifieke doelen te bereiken” (Wetenschappelijk Raad voor het Regeringsbeleid WRR, Opgave AI. De Nieuwe systeemtechnologie). Daar kun je diverse kanten mee op.

AI roept nogal wat vragen op. Bijv. wat intelligentie is en over wat voor soort kennis en cognitie computers beschikken. Kunnen machines beschikken over een artificiële ethiek? Wat houdt dat in? Het boek gaat in op dergelijke filosofische kwesties, waarvan de ethische kwesties m.i. het meest interessant zijn, mede gezien mijn eerdere artikelen over ethiek (zie CM 115-119).

De ethiek van surveillance-technologie kwam bij de bespreking van 1984 van George Orwell al aan de orde. De inzet van algoritmen door Big Tech roept de nodige discussie op. In hoeverre is onze vrijheid en de menselijke autonomie in het geding? Glijden we niet haast ongemerkt af naar een totalitaire samenleving, die zijn weerga niet kent? Want onze accounts worden al voortdurend bespied en geanalyseerd door megacomputers, om data te verkrijgen waar megabedrijven onrechtmatig en in het geniep, dat wil zeggen ondoorzichtig, hun voordeel mee doen.

Behalve de actualiteit is een boeiend aspect van het boek dat er steeds verbanden met grote filosofen wordt gelegd, die nog weinig van hun relevantie verloren blijken te hebben. Het begint met de logica van Aristoteles om via de kenleer van Descartes en ‘de droom van Leibniz’ van een universele symbolentaal en de taalfilosofie van Wittgenstein uit te komen bij de ethiek van het utilitarisme, de plichtsethiek van Kant, de deugdethiek van Aristoteles en de politieke filosofie van Rousseau, Marx en Foucault, om slechts enkele grootheden te noemen. Uiteraard komen ook uiteenlopende moderne denkers over AI aan de orde, die bij het grote publiek minder bekend zijn, in een interessante dialoog met grote filosofen.

De auteur (geboren in 1991) studeerde filosofie, logica en politicologie aan de UvA en werkte daar als docent bij de opleiding kunstmatige intelligentie. Er worden geen andere publicaties van hem vermeld in een literatuurlijst van veertien pagina’s, waaruit een brede onderbouwing blijkt. Dit boek is een geslaagd en mogelijk veelbelovend debuut.

 

1. Logica, wiskunde en de ontwikkeling van AI

Het eerste hoofdstuk gaat over logica als basis van AI en begint met Aristoteles, die het denken systematiseert, een onmisbare eerste stap naar AI. “De logica van Aristoteles is een eerste aanzet om te komen tot een wiskundig systeem waarin het onmogelijk is om van ware uitgangspunten tot onware conclusies te komen... Het idee is simpel: geeft een computer alleen informatie die waar is, plus een goed werkend logisch systeem, en door die combinatie kan een computer zelf nieuwe conclusies trekken” (p13). Dan moet er wel eerst een computer vervaardigd worden. Dat zien we pas 23 eeuwen later.

Het omzetten van denken in een wiskundig systeem betekent het denken herleiden tot berekeningen, zoals Thomas Hobbes meende te kunnen doen. Denken gaat volgens regels die neer zouden komen op rekenregels. Deze mechanisering en mathematisering van het denken is een belangrijke stap in de richting van AI. Rekenmachines waren de voorlopers van computers. Het Franse werkwoord computer betekent tellen. Computer betekent zoiets als ‘telmachine’. 

Descartes (1596-1650)

De vooruitziende blik van Descartes

In de tijd van Descartes waren machines in opkomst. Uurwerken en speeldozen werden populair. “Hij verwacht dat de machine zelfs met specifieke woorden kan reageren op een fysieke handeling. Maar Descartes ziet ook beperkingen... Machines missen volgens Decartes veelzijdigheid. In zijn Discours de la méthode stelt hij dat ‘zelfs als deze machines bepaalde dingen even goed of wellicht beter zouden doen dan een mens, er onherroepelijk andere dingen zijn waarin ze tekort schieten’. De machines handelen niet uit inzicht... ‘maar uitsluitend door hun mechaniek’. Ze missen de universele menselijke rede. Breed inzetbare kunstmatige intelligentie is daarmee heel ver weg” (p14).

Dat is nog steeds het geval. Verreweg de meeste toepassingen zijn specifiek. Een mijlpaal was dat een schaakcomputer wereldkampioen Kasparov versloeg. Maar verder kon deze niet eens een brood bij de bakker kopen. “De veelzijdigheid aan activiteiten die hij kan ondernemen, is voor AI vooralsnog niet weggelegd: algemene kunstmatige intelligentie bestaat ook een kleine vierhonderd jaar na Descartes nog niet” (p15). 

https://mana.net/12861/ Leibniz and the Idea of Universal Machine

Een universele symbooltaal: de droom van Leibniz

Na Descartes zet Leibniz, met Newton de uitvinder van de integraal- en differentiaalrekening, een belangrijke stap in de richting van AI. Hij streefde naar een universele symbolentaal, zoals bij wiskunde. Het project om alle kennis in een taal van symbolen uit te drukken wordt ‘Leibniz’ droom’ genoemd, de titel van het eerste hoofdstuk. Daarvoor is nodig dat kennis vertaald wordt in symbolen en vervolgens regels worden opgesteld voor het werken met die symbolen. Te vergelijken met de rekenregels bij wiskunde. Het werken met de symbolentaal van Leibniz komt dan neer op een soort hogere rekenkunde, zoals bij de programmeertaal, die momenteel door computers wordt gebruikt. Het lijkt echter een illusie om alle mogelijke kennis in symbolen onder te brengen. Er bestaat ook zoiets als onuitsprekelijke kennis. (Zie o.a. Antoon van den Braembussche, De stilte en het onuitsprekelijke en Tekens van het onzichtbare, besproken in CM 113).

Een volgende stap bij de ontwikkeling van een formele computertaal is het vertalen van logica in wiskunde. Stappen in die richting worden in de 19^e eeuw gezet door George Boole en Ada Lovelace op basis van het werk van Charles Babbages, “die ideeën heeft voor mechanische rekenmachines... te beschouwen als voorlopers van de digitale computer. Het maakt Lovelace in retrospectief tot de eerste computerprogrammeur” (p19). 

Alan Turing (1912-1954) 

Wiskundige logica en logische wiskunde

Ontwikkelingen in de logica in de richting van een wiskundig soort taal dragen bij tot de ontwikkeling van formele (computer)taal. Het werk van Gottlob Frege, Bertrand Russell en Alfred North Whitehead vormt een mijlpaal. Principia Mathematica van Russell en Whitehead “is een hoogtepunt van de poging om de wiskunde te baseren op principes uit de logica” (p20). David Hilbert bouwde hierop voort en probeert op vergelijkbare wijze de hele wiskunde te omvatten. Kurt Gödel toonde echter aan dat er onbewijsbare wiskundige uitspraken zijn, waarvan niet aan te tonen is dat deze waar zijn. Volledige ware en bewezen wiskundige kennis is onmogelijk. Er blijven imponderabilia of onbewijsbare uitgangspunten.

Beperkingen van logische en wiskundige kennis verhinderden Alan Turing echter niet een algoritme op te stellen, d.w.z. “een reeks instructies die tot een bepaald doel leiden”, om logische conclusies te trekken uit gegeven premissen. “Een algoritme gaat op een mechanische manier te werk en is dus door een machine uitvoerbaar. Turing ontwerpt vervolgens een machine die alles kan berekenen dat een algoritme kan berekenen” (p22,23). Deze wordt de turingmachine genoemd, voorloper van de computer. Beschrijving van de werking daarvan gaat hier te ver. 

https://www.lifeiscomputation.com/can-a-finite-physical-device-be-turing-equivalent/ Cartoon of a Turing Machine by Tom Dunne, 2002 

Verschillen tussen kunstmatige en menselijke intelligentie

Sindsdien nemen ingenieurs en computerwetenschappers het voortouw over van de filosofen en wiskundigen bij de ontwikkeling van machines die denken volgens algoritmen, m.a.w. computers. De term ‘kunstmatige intelligentie’ wordt geïntroduceerd door John McCarthy in 1956, nl. intelligentie die door een machine is na te doen. Volgens Turing is gedrag dat niet van menselijk gedrag is te onderscheiden intelligent gedrag. Dat geldt ook voor gesimuleerd, nagebootst, intelligent gedrag. ”Het gaat er niet om hoe de machine van binnen werkt... Turing verwacht dat voor het einde van de twintigste eeuw een machine voor de turingtest slaagt” (p26,27). Hij heeft ongeveer gelijk gekregen. “Het is 1997 als Deep Blue... met schaken van Kasparov wint” (p37).

“Maar valt intelligentie wel samen met een algoritme dat een systeem van symbolen regisseert? Omvat menselijke intelligentie niet meer dan dat?” Volgens diverse deskundigen blijft er een principieel verschil tussen menselijke en kunstmatige intelligentie. Het verschil zit hem in het moeilijk grijpbare begrip bewustzijn en in zelfreflectie en begrip van eigen acties, waartoe een machine tot dusver niet in staat wordt geacht, omdat deze geen benul heeft waarmee hij bezig is. Ook al beschikken moderne computers over zelflerend vermogen, het blijven machines die instructies volgen. Ze zijn zoals gezegd goed in specifieke vaardigheden, maar niet in algemene, veelzijdige toepassingen.

Typerend is de uitspraak van Pedro Domingos: “Mensen vrezen dat computers te slim worden en de wereld zullen overnemen. Maar het echte probleem is dat ze te dom zijn en de wereld al hebben overgenomen” (p31). Maar komt dat ook niet, omdat mensen zich dom gedragen en zich laten sturen door computers, smartphones, internet en social media? Dit geldt met name voor zgn. specifieke ‘expertsystemen’, waarin computers uitblinken, zoals navigatieapparaten, spelcomputers en zoekmachines.

De laatste tijd ligt de nadruk meer op verzamelen en verwerken van data. Van deductieve uitgangspunten verschoof de focus naar inductie en data-analyse, van rationalisme naar empirisme. Dit valt onder het domein van kenleer of epistemologie, het onderwerp van het tweede hoofdstuk. 

 

 2. Kenleer en dataverwerking

De hoeveelheid beschikbare data gaat in de richting van een zettabyte, een één met 21 nullen. Daardoor verschuift AI van logische deductie naar inductieve dataverwerking. Wat voor kennis levert dat op? Als we ervaring vervangen door data, leveren data empirische kennis op. Maar zijn data wel zintuiglijke of empirische ervaringen?

Daarnaast is er het inductieprobleem. In hoeverre zijn data of ervaringen generaliseerbaar en leveren zij juiste kennis op? Data kennen uitzonderingen. Het zien van honderd of meer zwarte raven rechtvaardigt niet de conclusie dat alle raven zwart zijn. Het levert slechts waarschijnlijkheden op, geen zekerheden of waarheden.

Dataverwerking komt neer op herkennen van patronen en eigenschappen en daar conclusies uit trekken volgens de instructies van bepaalde algoritmen. Dat vraagt herhaling en oefening aan de hand van herkenning van grote hoeveelheden data, die in een patroon passen. Bijv. uit een groot aantal kattenplaatjes volgt het patroon van een afbeelding van een kat, die bestaat uit gegenaraliseerde data van een kat. Deze vorm van verwerking heeft zijn beperkingen en is bijv. niet geschikt voor zgn. ‘tegenstrijdige voorbeelden’. In genoemd kattenvoorbeeld zijn dit plaatjes van dieren die lijken op een kat maar het niet zijn en door het ‘neurale netwerk’ van de computer ten onrechte als kat worden geklassificeerd. Neurale netwerken gaan niet uit van kenmerkende eigenschappen, maar alleen van gegeneraliseerde data, die soms verkeerd gegeneraliseerd kunnen worden daar een duidelijk indelingscriterium ontbreekt.

Inductieve dataverwerking blijkt ook niet geschikt voor oorzaak- en gevolg-relaties. Het samen voorkomen van variabelen of data impliceert nog geen oorzaak en gevolg. Die kunnen pas aangetoond worden door de feiten te veranderen door interventie met zgn. ‘tegenfeitelijkheden’ of ‘counterfactuals’. Als de zon opgaat, kraait de haan. Gaat de zon ook op als de haan niet kraait of als er geen haan is? Ja, dus is het kraaien van de haan niet de oorzaak van zonsopgang, mogelijk wel andersom.

Causale relaties herkennen vraagt meer van dataverwerking, nl. programmering met een causaal model dat vooraf wordt opgesteld. Bijv. bij een rookmelder die is geprogrammeerd volgens het model dat vuur de oorzaak is van rook, die door de rookmelder wordt verwerkt en gemeld. Verwerken van louter ervaringen zonder modellen blijkt zijn beperkingen te hebben.

Bovendien is kennis meer dan al of niet verwerkte data, zoals reeds naar voren kwam in CM 113. Kennis heeft structuur en samenhang. Het is bijv. ook een ‘web van overtuigingen’ volgens de Amerikaanse filosoof Quine. In de artikelenserie over wetenschapsfilosofie kwam naar voren dat feiten worden geïnterpreteerd in het kader van een theorie, die bestaat uit samenhangende begrippen. Het indelen van data in categorieën zoals ‘kat’ of ‘geen kat’ impliceert het begrip kat, dat meer is dan een hoeveelheid gegeneraliseerde data.

Wat betreft het verschil tussen AI en menselijke intelligentie, blijkt dat bij de laatste veel meer komt kijken dan dataverwerking. “In het licht daarvan lijkt de intelligentie van AI nog erg beperkt” (p71). Dit ondanks de spectaculaire resultaten die met behulp van dataverwerking behaald kunnen worden, zoals de overwinningvan een schaakcomputer op Kasparov.  Deze mijlpaal laat zien dat AI verder gaat dan plaatjes van katten verwerken. Geavanceerde toepassingen zoals gezichtsherkenning en het ‘aansmeren’ van artikelen om te kopen via internet berusten echter op hetzelfde grondprincipe van patroonherkenning in grote hoeveelheden data, nl. het patroon van een gezicht, resp. het patroon van eerder aangeschafte artikelen. “Gezichtsherkenning wekt op een vergelijkbare manier als met AI dierenplaatjes herkennen” (p163). De database bestaat dan uit te herkennen gezichten i.p.v. dieren.

Het volgende hoofdstuk gaat over het verschil tussen menselijke taal en computertaal. 

3. Taalfilosofie en AI

“Wie kunstmatige intelligentie wil ontwikkelen kan niet om taal heen” (p74). Er zijn grote vorderingen op het gebied van taal en AI, die kort worden weergegeven, maar menselijke taal is (uiteraard) niet te evenaren. Computers maken zich anders een taal eigen dan mensen. “Kunstmatige intelligentie kent een statistische benadering van menselijke taal; het gaat hiet niet om een menselijk wezen met een eigen bewustzijn en eigen gedachten.” Al zoekt de meeste waarschijnlijke vertaling of betekenis van een woord of zin op grond van analyse van grote hoeveelheden data van teksten.

Er zijn meestal meer betekenissen mogelijk, afhankelijk van de (sociale) context. Eerdergenoemde taalfilosoof Quine noemt dit “de onbepaalheid van vertaling… Naast de onbepaaldheid van vertaling is voor Quine het sociale karakter van de taal een belangrijk gegeven. Dit strookt met het laatste werk van Wittgenstein… Het gebruik van taal speelt een grote rol in de Philosophische Untersuchungen van Wittgenstein… Hij wijst nadrukkelijk op de veelzijdigheid van taal… Taalgebruik kent een veelvoud aan variaties. Bovendien vindt taalgebruik niet geïsoleerd plaats: het is onderdeel van een activiteit” (p80-82).

Wittgenstein heeft het over ‘taalspelen’, die zich afspelen in een bepaalde (sociale) context. “Taalgebruik vindt plaats in allerlei contexten en is daar onlosmakelijk mee verbonden.” De betekenis van taal hangt samen met “de praktijk van taalgebruik. Betekenisvol taalgebruik is… taal op de juiste manier op de juiste plaats gebruiken. Op die manier ontstaat er tussen mensen begrip” (p82). Juist taalgebruik berust niet alleen op regels toepassen, die zijn aan te leren door computers. Wat juist is wordt bepaald door de uitvoering, de toepassing. “Niet de regels dwingen het juiste taalgebruik af, maar de omgeving waarin het taalgebruik plaatsvindt.” Zoals bijv. bij schaken. “Het gaat er dus niet zonder meer om of iemand alle schaakstukken kent en de bijbehorende regels heeft geleerd. Om vast te stellen of iemand kan schaken zal hij een partij schaak moeten spelen” (p84). 

https://www.socialevraagstukken.nl/taal-bepaalt-of-we-ons-erbij-horen-voelen/

Het sociale karakter van taal

AI blijkt een spel als schaak en het ingewikkeldere Chinese spel go te kunnen leren en zelf grootmeesters te kunnen verslaan “door veel te oefenen of voorbeeldspelletjes te bekijken”. Bij taal is echter het sociale karakter dat Wittgenstein aan taal toekent voor AI problematisch. Want het leren van een taal gaat bij Wittgensten samen met de inwijding in een manier van leven. Betekenisvol taalgebruik vindt immers niet geïsoleerd plaats, maar binnen allerlei sociale en maatschappelijke activiteiten… Bijkomend probleem voor AI is de veelzijdigheid van taal… Onze taal is volgens Wittgenstein als een oude stad het is ‘een wirwar van steegjes en pleintjes, oude en nieuwe huizen… en dit alles omgeven door een groot aantal nieuwe buitenwijken met rechte en regelmatige straten en gelijkvormige huizen’… Is de manier waarop AI naar taal kijkt dan niet te vergelijken met een nieuwe buitenwijk die aan de oude stad wordt toegevoegd? Is de combinatie van taal en AI niet gewoon een nieuwe mogelijkheid in het repertoire van de veelzijdige taalspelen” (p84-86). 

Computers ontberen begrip

AI heeft moeite met de veelzijdigheid van taal, in lijn met de voorspelling van Descartes. “Omdat deze de menselijke rede ontbeert, blinkt AI niet uit in veelzijdigheid” (p89). Computers begrijpen niet wat ze lezen en schrijven. Dat doen mensen wel die computers gebruiken en programmeren. Daarom kan een computer de mist ingaan. Gebrek aan begrip gaat vaak samen met gebrek aan zelfcorrigerend vermogen. Dat blijkt bij de vertaling van “relatief elementaire zinnen… Het plaatst veelgebruikte superlatieven als ‘zelflerende AI’ in een bescheidener daglicht”(p92).

Computers blijken ook niet goed in staat om medische diagnosen te stellen op grond van ingevoerde data, ondanks investeringen van een miljard dollar. “Een dokter die een diagnose stelt is meer dan een geavanceerde zoekmachine die grote hoeveelheden informatie paraat heeft. Het taalspel van een medische diagose stelt andere eisen dan een spelshow” (waar computers in kunnen uitblinken, zoals in schaken en andere spelen). Bovendien kan een foute diagnose fataal zijn. Reden voor voorzichtigheid wat betreft AI en medische diagostiek.

“Kunstmatige intelligentie voldoet vaak niet aan de eisen van de menselijke taalspelen.... De op statistiek gebaseerde benadering komt met het bekijken van grote hoeveelheden tekst weliswaar voort uit ervaringen, maar kan desondanks niet tippen aan de mens. Wittgensten zou benadrukken dat het eindeloos bekijken van documenten niet overeenkomt met de wijze waarop mensen een taal leren. Kunstmatige intelligentie is niet ingebed in menselijke levensvormen” (p94). 

Onbekenden volgen ons https://nl.ios-data-recovery.com/bugging-a-cell-phone/ 

Winstgevende afluisterpraktijken

Een kwalijke zaak is dat spraakassistenten van Google, Amazon en Apple gebruikers afluisteren. “Medewerkers controleren de werking… Niet alleen voor politieke beïnvloeding is de menselijke taal waardevol; ook in commercieel opzicht is ze uiterst lucratief. Google en Facebook zijn allang geen zoekmachine en sociaal platform meer; het zijn advertentiebedrijven geworden. Eind 2019 blijkt dat ze tezamen de helft van de online-advertentiemarkt in handen hebben… In dat jaar ging er in totaal 330 miljard dollar in deze markt om… Niet de veelzijdigheid van onze taal is waar AI zich om bekommert; de beperkte, statistische benadering van taal is gericht op het maken van winst. Kunstmatige intelligentie weet wel raad met taal verwerken voor bepaalde doeleinden” (p95). Het grote publiek wordt langs rechte digitale straten naar internetwinkels gevoerd, zonder dat het er erg in heeft.

AI vindt in handen van Big Tech haar eigen eenzijdige en bedenkelijke toepassingen, ook al komt AI “niet in de buurt van de veelzijdigheid van de menselijke taal” en ook al kan AI zich de “universele grammatica” niet eigen maken, die volgens taalgeleerde Noam Chomsky bij mensen aangeboren zou zijn (p98).

In het volgende hoofdstuk wordt AI gerelateerd aan het menselijk brein en bewustzijn, dat zich in taal uitdrukt, en dat AI ontbeert. De daaropvolgende hoofdstukken gaan in op de ethische, politieke en maatschappelijke aspecten en risico’s van AI, die hier al kort aan de orde kwamen. AI is een belangrijke machtsfactor, die de macht vergroot van wie haar in handen heeft. 

https://airecht.nl/big-data-wetgeving Hersenen doen meer dan data verwerken 

4.      Ziel, brein en bewustzijn: cognitiefilosofie

Descartes liet zich al sceptisch uit over denkende machines die een menselijke rede ontberen. Slagen voor een turingtest en een niet van mensen te onderscheiden prestatie leveren impliceert nog geen met mensen verwante intelligentie. Bovendien hebben mensen hun intelligentie in zo’n machine gelegd, die menselijke intelligentie slechts simuleert en niet echt eigen heeft gemaakt. Machines hebben in de geest van het dualisme van Descartes alleen een lichaam en geen geest. Als we Descartes volgen is “menselijke intelligentie onlosmakelijk verbonden met de menselijke ziel, niet met een vraag- en-antwoordspel,” zoals bij de turingtest (p103). Evenmin is het dan mogelijk een machine van een ziel te voorzien, hoewel sommigen menen dat dit wel mogelijk zou zijn, zoals stenen en mineralen ook zouden beschikken over een soort ziel. Het hangt af van hoe we een dergelijk begrip definiëren.

In het moderne monistische materialisme echter “maakt het idee school dat de geest herleidbaar is tot het lichaam… want de geest bestaat dan slechts uit materie… Denkende machines kunnen nu voortkomen uit de juiste materiële voorwaarden. Bijvoorbeeld een goed werkend systeem van symbolen zoals bij Leibniz, of een neuraal netwerk en grote hoeveelheden data… Het is slechts de kunst de machine goed in te stellen. Daar is geen ziel voor nodig. Zo gaat de komst van kunstmatige intelligentie hand in hand met nieuwe ideeën die de menselijke geest herleiden tot materie” (p103-04). Er is echter wel een menselijke geest nodig om een machine goed in te stellen. En die menselijke geest blijkt tot dusver niet te herleiden tot materie (zie Jacob Jolij, Wat is bewustzijn nou eigenlijk? Besproken in CM 109). 

 

Hardware en software zijn niet goed te vergelijken met lichaam en geest

Na Descartes zijn er ook moderne filosofen die het verschil tussen menselijke en machinale intelligentie onoverbrugbaar achten. Bijv. de Amerikaan John Searle in zijn artikel ‘Minds, Brains and Programs’ (The Behavioral and Brain Sciences 3.3). “Searle wil afrekenen met de mythe dat de verhouding tussen een computerprogramma en de hardware vergelijkbaar is met de relatie tussen geest en hersenen. Volgens het fysicalisme is de geest met alle ideeën, gedachten en emoties een product van de hersenen. Maar een computerprogramma komt niet voort uit de hardware” (p107). Het komt voort uit de menselijke geest, die ook de hardware heeft ontwikkeld. Hardware en software zijn niet zo met elkaar verbonden als geest en lichaam.

Verder “ontbreekt het een computer aan wat Searle in filosofische terminologie intentionaliteit noemt… de eigenschap van mentale toestanden om ergens gedachten over te vormen of een voorstelling van te maken” (p106). Ook een mogelijke bedoeling of intentie hoort daarbij en een vorm van begrip. Behalve intentionaliteit ontbeert een computer ook (zelf)bewustzijn en subjectiviteit, subjectieve zelfervaring.  “Wat voelt een machine?… Vermoedelijk niets.”

Het is nog een vraagstuk “hoe objectieve eigenschappen op afdoende wijze subjectieve eigenschappen kunnen omvatten… Filosofen noemen dit qualia, de kwalitatieve eigenschappen van een waarneming.” Bijv. de schoonheid van een goal bij een voetbalwedstrijd. Een computer heeft ook geen smaakbeleving of andere gevoelens. “Die subjectieve, kwalitatieve eigenschappen van waarnemingen zijn niert te herleiden tot fysieke eigenschappen… Volgens Thomas Nagel is bewustzijn een moeilijk te nemen horde in de monistische poging om mentale eigenschappen te herleiden tot het fysieke brein. Vertaald naar de turingtest: zelfs als een machine niet van mensen te onderscheiden gedrag vertoont blijft er iets, namelijk bewustzijn, afwezig” (p110). 

Bewustzijn en subjectieve ervaring

Het verwerken van enorme hoeveelheden data levert nog geen subjectieve ervaring en zelfbewustzijn op. ‘een brein met een computer imiteren levert geen zogeheten qualia op – hoe geavanceerd zijn netwerk ook is, de computer voelt niets, proeft niets… Verder zijn neurale netwerken kortzichtig… ze kijken niet naar het grotere geheel” (p114). Ze zien alleen verbanden in de data, bijv. geen oorzaak-en-gevolg-relaties, tenzij die erin geprogrammeerd zijn. Ze werken anders dan het menselijk brein.

Geest en lichaam zijn bij mensen anders en meer met elkaar verbonden dan de software en hardware van een computer. Emoties bevinden zich bijv. ook in het lichaam en zijn daar voelbaar, zoals ook intuïties, zoals bijv. uitgedrukt in de term ‘speurneus’. Ervaringen worden vaak voelbaar opgeslagen in ons lichaam. “De fysieke eigenschappen van kunstmatige intelligentie zijn echter niet te vergelijken met het lichaam van een mens en de bijbehorende mogelijkheden” (p121).

Samenvattend ontberen computers intentionaliteit, qualia, bewustzijn en hebben zij naast kortzichtigheid emotionele en fysieke beperkingen. “En als het aan Descartes ligt wordt de onsterfelijke ziel daar nog aan toegevoegd” (p124). Als computers over een geest beschikken, is het wat neurofilosofen Andy Clark en. Mensen hebben hun geest uitgebreid en in computers gelegd, zoals bijv. al eerder in een notitieboekje.

Vormt AI een poort naar een ander bewustzijn of naar nieuwe afhanklijkheid?

https://leavandereem.nl/product/audio-poort-naar-nieuw-bewustzijn/ 

5.      Is een artificiële ethiek mogelijk en wenselijk?

Artificieel bewustzijn en gevoel bleek niet mogelijk. Hoe zit het met de mogelijkheid van artificiële ethiek? In eerdere artikelen over ethiek (CM 115-119) kwamen als belangrijkste ethische benaderingen naar voren het utilitarisme, de plichtethiek van Kant en de deugdethiek die terug gaat op Aristoteles. Deze komen in het hoofdstuk over ethiek en AI aan de orde.

‘Het grootste geluk voor het grootste aantal’ was het motto van Jeremy Bentham, de grondlegger van de geluksethiek van het utilitarisme. Machines hebben geen gevoel, zagen we, en kunnen dus geen geluk ervaren. Ze kunnen ons echter wel geluk voorschotelen. De fictieve geluksmachine van de Amerikaan Robert Nozick is daarvoor speciaal geprogrammeerd. Deze kan een enorm scala aan gelukservaringen bieden als mensen zich eraan vastkoppelen met hun brein en zich laten meenemen door de dromen die de machine activeert (in de hersenen). “Bij de experience machine... is alles is nep… Bij Nozick heeft de geluksmachine de regie en zijn wij losgekoppeld van de echte wereld” (p130,133).

De app van de Japanner Kazuo Yano meet het geluk van werknemers via lichaamsbewegingen en geeft suggesties om om bij te dragen aan geluk van collega’s op de werkvloer. Echter, “zolang de onderliggende oorzaken [van ongelukkige (werk)ervaringen] buiten schot blijven, is een app vooral symptoombestrijding. Bovendien neemt de geluksapp het heft in handen, niet de werknemers.” In deze voorbeelden heerst er “een utilitaristische moraal, waarbij geluk en vermijden van pijn centraal staan. Daarnaast beoordeelt utilitarisme handelingen op basis van de gevolgen voor het collectief” (p134,135).

Het utilitarisme bekommert zich echter niet alleen om de meerderheid. Het neemt ieders geluk en ongenoegen mee. Brengt AI de utilitaristische gelukscalculus dichterbij, de berekening van het grootst mogelijke geluk voor zoveel mogelijk mensen, waarbij ieders geluk meetelt bij een utilitaristisch algoritme? Computers en machines zijn onpartijdig. Dat lijkt een pré. Het utilitarisme is echter “geen beslissingsprocedure, maar een manier om de juistheid van handelingen te beoordelen” (p137). Het laat de beslissingen aan de actor over op basis van de beoordeling. 

Het principe van de geluksmachine: activeren van hersengebieden om gelukservaringen te genereren in een virtuele wereld https://medium.com/@garybasin/experience-machines-c56e5a1de08 

Bezwaren, beperkingen en onmogelijkheden van een utilitaristische artificiële ethiek

Gelukservaringen verschillen echter per persoon, zijn in hoge mate subjectief en er zijn verschillende vormen van hoger en lager geluk, zoals John Stuart Mill reeds onderscheidde. Gevolgen van daden kunnen tot ver in de toekomst reiken. Onmiddellijk geluk kan leiden tot leed op langere termijn. Hoe valt dit allemaal te meten? “De noodzaak om te blijven rekenen, de onduidelijkheid over de gevolgen van handelingen en de filosofische vragen over de aard van geluk maken het utilitarisme als morele leidraad discutabel. De belofte van een eenvoudig ethisch oordeel of advies lost het niet in.” Rekenwerk kan echter beperkt worden door vuistregels, zoals “bevorder bij twijfel het geluk van mensen in de fysieke nabijheid”(p140). Maar dit staat haaks op het universalisme van het utilitarisme dat betrekking heeft op het totale geluk van iedereen.

Bij de universele en onpartijdige strekking van het utilitarisme ontbreekt een persoonlijk, subjectief perspectief, dat nu juist aan mensen eigen is en dit zou de persoonlijke integriteit kunnen ondergraven volgens Bernard Wiliams in ‘A Critique of Utilitarism’ in Utilitarism For and Against, with J J C Smart. “Wat bij het utilitarisme telt, is de uitkomst, niet bijv. het idee dat ieder van ons vooral verantwoordelijk is voor wat je zelf doet. Utilitarisme ondergraaft zo de projecten en verplichtingen waar wij ten diepste mee verbonden zijn; het ondermijnt onze integriteit… Een onpersoonlijke berekening staat haaks op waar iemand ‘wel of niet mee kan leven’.” Berekeningen kennen geen gevoel, geen passie en bevlogenheid. “Anders gezegd, utilitarisme depersonaliseert ons” (p143). Spontaniteit verdwijnt. Het maximaliseren van het totale geluk is zelden een persoonlijke drijfveer. Liefde, empathie of solidariteit zijn dat wel en ook het zoeken van genot.

“Als een kille wereld waarin mensen het eigen karakter verliezen het uiteindelijk resultaat is, dan is het sterk de vraag of mensen gelukkiger maken via AI [al dan niet op grond van utilitaristische overwegingen] niet het doel voorbijschiet. ‘Google Ethics’ met utilitaristisch advies op maat is geen droomapp, maar een schrikbeeld” (p145). 

 

Deontologie of plichtsethiek

“Utilitarisme heeft geen oog voor fundamentele rechten of principes – alleen geluk is intrinsiek waardevol” (p146). Bij de plichtsethiek is dat wel het geval. ‘Deon’ was Grieks voor plicht. Vandaar deontologie. Deze vorm van ethiek gaat uit van de redenen, het handelen, het waarom, de maxime in termen van Kant, niet van de gevolgen zoals bij het utilitarisme. Volgens de categorische imperatief van Kant dient een maxime of reden zo te zijn dat deze kan gelden voor iedereen als een universele wet.

Mensen zijn autonoom. Wij bepalen zelf onze plichten. “Wij leggen de moraal in de vorm van de categorische imperatief aan onszelf op” (p148).

Omdat de categorische imperatief universeel is en iedereen betreft is deze onpartijdig. De autonomie en eigen wil, die bij Kant cruciaal is, maakt deze moelijker als uitgangspunt voor AI. Goede wil is belangrijker dan regels volgen. Toepassingen van AI zijn vaak in strijd met de menselijke autonomie. Door koopsuggesties en zoekresultaten voor te leggen “kookt AI steeds meer beslissingen voor… Ze pakt ons brein af en onze autonomie verdwijnt… Langzamerhand verdwijnt zo het vermogen om afwegingen te maken: dat nemen algoritmen en bedrijven over. Dat is lastig voor wie een ethiek nastreeft waarin mensen zichzelf de morele wet opleggen” (p148,149).

Inperken van de autonomie en vrije wil is bij Kant per definitie onjuist. Utilitarisme maakt de afweging of de toename van geluk opweegt tegen het verlies aan autonomie. “De vraagtekens bij utilitaristische berekeningen – hoe vergelijk je gemak met autonomie? – laten zien dat zo’n afweging niet eenvudig is… De hoge eisen die Kant aan de eigen wil stelt, confronteren mensen met de vraag in hoeverre zij door technologie autonoom kunnen handelen. Het bedreigen van autonomie heeft bij Kant vergaande ethische consequenties: moreel goed handelen gaat bij hem hand in hand met autonomie… Het staat haaks op het utilitarisme, dat de beloftes van AI verwelkomt indien ze bijdragen aan het totale geluk” (p152,153).

De categorische imperatief kenmerkt zich echter net zomin als de utilitaristische ethiek door spontaniteit en persoonlijke beweegredenen. Wie handelt er nu zo dat zijn maxime een universele wet kan zijn? Dat zou ook een vorm van rationeel berekenend handelen zijn. Persoonlijke overwegingen doen er niet toe. In de praktijk echter wel degelijk. “Met de opkomst van AI is depersonalisatie een niet te onderschatten probleem” (p153). Ethiek hoeft niet onpersoonlijk te zijn. “Ook vriendschap, doorzettingsvermogen, liefde en medemenselijkheid komen uit onszelf of de relatie met anderen voor” (p154). Dit zijn deugden. Hiermee betreden we het gebied van de deugdethiek. 

https://www.unesco-vlaanderen.be/unesco-in-de-kijker/achtergrond/ethische-dilemma-s-bij-artificiele-intelligentie-en-genoombewerking 

Deugdethiek en AI

Het klassieke Griekse werk van de deugdethiek is de Ethica Nicomachia van Aristoteles. Ethiek is niet te vangen in eenvoudige regels, die beperkt blijven tot een schets van hoe men moet handelen. “Daardoor is moreel handelen voor deugdethici niet het strikt volgen van regels, maar het ontwikkelen van deugden” (p154). Kunnen neurale netwerken met grote hoeveelheden data zich deugden zoals rechtvaardigheid matigheid of moed eigen maken? Het lijkt onmogelijk. “Wat Aristoteles voorstaat is voor AI onhaalbaar, want het gaat hem niet alleen om het vertoonde gedrag. [...maar] om een rechtvaardig persoon te zijn… Het moet, aldus Aristoteles een bewuste keuze zijn… Daar hoort volgens Aristoteles nog een ‘vaste, onveranderlijke innerlijke houding’ bij. Het is een lange weg naar een moreel wijs persoon die hierover beschikt” (p155). Het gaat dus niet slechts om simulatie van rechtvaardig of ander deugdzaam gedrag, maar om persoonlijke kwaliteiten, die behoren tot de qualia. Die kan een computer niet verkrijgen door dataverwerking of succesvol een schaakspel simuleren en eigenmaken. Wat is de innerlijke houding van een computer, als deze daarvan een equivalent zou hebben?

“De taalspelen van Wittgenstein bleken te hoog gegerepen voor AI die talloze documentemn doorspit. Datzelfde geldt voor deugden, die zo nauw verbonden zijn aan het mens-zijn… Zo laat deugdethjiek ons zien hoe moreel handelen geen kwestie is van eenvoudige regels of formules, maar het resultaat van een langdurige ontwikkeling die fundamenteel verschilt van de de ontwikkeling van machines” (p156).

Resumerend: ethiek is niet over te nemen door computers en stelt ethische grenzen aan het gebruik van AI. 

https://www.dw.com/en/surveillance-and-human-rights-in-the-digital-age/a-18399282 

6.      Macht en AI: politieke filosofie

Wat zijn de effecten van AI op democratie, economie en maatschappelijke disciplinering, bijv. door massa surveillance. Dit laatste punt kwam al ter sprake bij de bespreking van 1984 van George Orwell in CM 104. Massasurveillance heeft een voorloper in het panopticum van Jermenty Bentham, de grondlegger van het utilitarisme, die een gevangenis ontwierp waarbij gevangenen voortdurend zichtbaar waren, om de gevangenis te moderniseren en gevangenen te kunnen disciplineren.

Volgens de Franse filosoof Michel Foucault in Discipline, toezicht en straf is het panopticum typerend voor de moderne samenleving. Het typeert nog meer de digitale samenleving na Foucault, die overleed in 1984, het jaar van Orwells boek. Surveillance maakt macht onzichtbaar, anoniem en alomtegenwoordig, zoals bij Orwell en werkt disciplinerend. Zijn burgers nu gevangenen van AI of is het zover nog niet, hoewel algoritmen die kant opgaan? “Kunstmatige intelligentie is [allang] onderdeel van een web van repressie” (p163). Verwezen wordt o.m. naar de onderdrukking van de Oeigoeren in China. Ze zouden ook gebruikt worden voor experimenten op het gebied van emotieherkenning door minieme fysieke veranderingen in gezichtsuitdrukking en huidporiën e.d. Met de smartphone worden zij altijd gevolgd. Er worden ook DNA monsters van hen genomen, enz. Staan de Oeigoeren model voor wat ons te wachten kan staan als AI-surveillance verder wordt doorgevoerd?

In China staan niet alleen de Oeigoeren onder toezicht, maar de hele bevolking, zij het minder drastisch. “Schattingen spreken van 400 miljoen camera’s voor toezicht” (p167). Ook in andere landen rukt surveillance op. “In Amerika hebben bezorgauto’s die voor Amazon pakketjes thuisbrengen, bijv. camera’s uitgerust met AI… Kunstmatige intelligentie die toezicht houdt is overigens verre van foutloos. Berucht zijn de vooroordelen waar gezichtsherkenning aan lijdt, zoals valspositieven (onterechte beschuldigingen) die vaker voorkomen bij mensen met een donkere huiskleur… Bijna een zesde van 188 bekende atleten… werden onterecht gekoppeld aan gezichten uit een database van arrestanten” (p173-74). 

https://www.dewereldmorgen.be/artikel/2021/12/01/digitale-surveillance-made-in-israel-vormt-mondiale-dreiging/ 

Democratie en AI

Ook de overheid kan onder toezicht worden gesteld, suggereerde Bentham om“met openheid het openbaar bestuur te verbeteren” (p174). Zo zou iets kunnen worden gedaan aan het gebrek aan transparantie. AI kan ook de communicatie tussen politici en burgers vergemakkelijken, door te vragen wat burgers willen. Zo zou de democratie directer kunnen worden met meer discussie. Dat kan via digitale platformen, waarbij burgers suggesties kunnen doen, voorkeuren kenbaar kunnen maken en andere inbreng kunnen hebben. Door loting kunnen burgers uitgenodigd worden voor burgerraden.

Nadeel kan zijn dat persoonlijke belangen het algemene belang gaan overheersen, dat volgens Rouseau cruciaal is. Ook zouden tegenstellingen die eigen zijn aan politiek, te weinig aan bod komen in de strijd om de macht als de politiek tezeer op consensus en algemeen belang is gericht. AI zou te weinig ruimte bieden voor passie en visie.

Een “algoritmische democratie”, gebaseerd op de verwerking van de wensen, van de burgers is een andere mogelijkheid die AI biedt. Voor kwetsbare groepen blijken algoritmen echter vaak nadelig uit te vallen. “Algoritmisch bestuur dat kijkt naar de voorkeuren van burgers, dreigt zo ongemerkt de status quo te bevorderen… Geavanceerde kiezersmodellen bieden meer van hetzelfde.”  Het blijft dus oppassen geblazen met AI, die in het nadeel van achtergestelde groepen en minderheden uitvalt. “Als AI de democratie wil vernieuwen, zal ze verder moeten kijken dan de voorkeuren van de kiezers” (p182,183).

https://twitter.com/hashtag/superrijken 

Toenemende ongelijkheid

“Volkssoevereiniteit koppelt Rousseau aan een zekere economische gelijkheid… ‘schatrijken, noch bedelaars’” (p183). Kan AI dit ondersteunen? De concentratie van miljarden bij Big Tech wijzen in omgekeerde richting. Ook is er de vrees dat automatisering banen bedreigt, die er niet in passen, vaak lagere banen. AI schept echter ook nieuwe banen, vooral voor ‘techneuten’. De moderne informatiemaatschappij kenmerkt zich echter niet door grote werkloosheid. Tegenwoordig is er krapte op de arbeidsmarkt, vooral bij technische beroepen, maar ook in de zorg, bijv. verpleegkundigen, en in het vervoer (chauffeurs).

“Volledige automatisering is nu niet aan de orde.” We zien eerder een verschuiving van werk dan geleidelijke opheffing. “Het probleem is dat de vruchten van AI zo bij een beperkte groep terechtkomen… Kunstmatige intelligentie zorgt in dat geval voor een verscherpte tweedeling…. Ook zorgt de structuur van de technologiebedrijven voor ongelijkheid tussen de werknemers” (tussen hoogbetaalden en laagbetaalden, p186-87). Dat betekent dat de ongelijkheid eerder toeneemt dan afneemt.

Daarnaast blijft kapitaalconcentratie bij de superrijken toenemen. Dat komt mede door overnames: “centralisatie van kapitaal. Door overnames komen er steeds minder bedrijven die steeds meer winst maken” (p188). Concurrenten worden zo uitgeschakeld. “Behalve voor grote macht van grote technologiebedrijven, zorgt AI ook voor een sterkere tweedeling tussen landen” (p189). Afrika en Zuid-Amerika blijven achter.

Ook de ontwikkeling van AI blijft achter bij eerder hooggestemde prognoses, vanwege “gebrek aan gezond verstand, moeite met oorzaak-gevolgrelaties en slecht omgaan met de veranderlijke wereld… Aan eigenschappen zoals gastvrijheid of medemenselijkheid… ontbreekt het AI. Die tekortkomingen helpen niet bij het inlossen van de economische beloften [...maar] wat niet is kan nog komen… Als AI die economische beloften inlost, zorgt dit vermoedelijk voor meer ongelijkheid. Kunstmatige intelligentie is veelal in het voordeel van hoogopgeleide werknemers… in het middensegment zet AI banen onder druk [...en] zet kwetsbare groepen veelal op achterstand” (p190,191). 

https://zinvollerleven.nl/waarom-extreme-rijkdom-niet-goed-is/Slot

 “Het is lastig te bepalen hoe ‘goed’ kunstmatige intelligentie nu echt is… Toepassingen van AI bestrijken uiteenlopende terreinen” (p193). Moreel verwerpelijke toepassingen kwamen reeds aan de orde op het gebied van surveillance, ondoorzichtig ‘aansmeren’ van producten, toenemende ongelijkheid en bestendiging van de status quo. Hoe ‘goed’ AI wordt toegepast hangt van ons mensen af en van de machtige Techbedrijven. Het hangt af van onze waarden en deugden en de verwerkelijking daarvan.

AI blijft op veel vlakken en fronten nog achter bij de menselijke intelligentie, zoals taal, causaliteit, diagnostiek, emoties, ethiek, enz. “Het denken van mensen omvat meer dan de simulatie van intelligentie die AI biedt… AI loopt tegen beperkingen aan… Kunstmatige intelligentie heeft moeite met de stap van het laboratorium naar de echte wereld, causaliteit en gezond verstand” (p195,196). Optimisten menen dat toenemende rekenkracht, ‘deep learning’ met meer gevanceerde gelaagde neurale netwerken e.d. uitkomst kan bieden en ontwikkelingen kan versnellen. Gematigde optimisten zien daarnaast meer heil in nieuwe methoden. Echter, “obstakels als een gebrek aan intuïtie, onbekendheid met de leefwereld van mensen en het belang van het menselijk lichaam zijn niet zo makkelijk te verhelpen” (p197). Critici zijn sceptisch. Zij passen in de filosofische traditie van Descartes tot Witgenstein, die o.m. het sociale aspect van taal benadrukt en de inbedding in onze praktische leefwereld.

Doorvoeren van AI is niet automatisch waardevol. Het is zaak alert te blijven en ethische grenzen af te bakenen en in acht te nemen. Vooral wat betreft toezicht en controle. “Wat veelbelovend en onschuldig lijkt, kan desastreus uitpakken” (p198). Vliegtuigen werden bommenwerpers. Zo zijn er talloze bedenkelijke toepassingen. Het hangt af van ons mensen, met name van ons morele niveau. Daar bleek  AI tot dusver weinig aan te kunnen doen, omdat dat aan ons is. 

https://nl.123rf.com/photo_79269346_de-digitale-stad-big-brother-concept-voor-elektronisch-oog-technologie%C3%ABn-voor-wereldwijde-bewaking-bev.html

Commentaar

Het boek heeft een beschouwende, soms kritische toon. Het geeft vooral een overzicht van raakvlakken  van filosofie en AI in historisch perspectief. Aan het eind komen hedendaagse ethische en politieke kwesties aan de orde, die eigenlijk ons allen aangaan. Daarover valt meer te zeggen. Er is een uitgebreide literatuur op dit gebied, niet alleen filosofisch, maar ook literair en sociaal-wetenschappelijk, zoals o.m. uit de dystopieën blijkt die Maarten Rutgers bespreekt en een welkome literaire aanvulling vormen. Wat kunnen wij doen aan onwenselijke trends, die zijn genoemd? Als wij het niet doen, wie dan wel?

Het boek begint vooral logisch-analytisch en kentheoretisch, maar eindigt ethisch en maatschappijkritisch.

Het heeft tal van raakvlakken met thema’s die in Civis Mundi veelvuldig aan de orde komen. Behalve genoemde dystopiën, bijv. artikelen over ethiek en de discussie over democratie, waarover veel kritische boeken en artikelen verschijnen. Het boek geeft een helder beknopt overzicht van ethische richtingen en mogelijke ethische toepassingen in verband met AI, die mager genoemd kunnen worden, omdat ethiek bij uitstek een menselijk vermogen is, dat morele intelligentie en intuïtie zou vereisen. Met het voortschrijden van de techniek neemt onze menselijke verantwoordelijkheid toe als ontwerpers en bestuurders die de techniek in goede banen dienen te leiden.

Hoe ingenieuzer de techniek, hoe grote onze verantwoordelijkheid. Die stelt ongekende eisen aan ons bewustzijn en onze moraal. Niet alleen om de techniek te sturen, maar ook om de ongelijkheid te beperken, die daarvan het resultaat kan zijn. De ongelijkheid en kapitaalconcentratie is de laatste decennia drastisch toegenomen. AI levert daar op zijn minst een ongunstige bijdrage toe. Het boek geeft niet aan wat eraan te doen valt, maar signaleert wel deze onwenselijke tendens.

Waar komen we uit als we deze trend doortrekken? Een groep machthebbers die beschikking hebben over geautomatiseerde intelligentie en een ondoorzichtige invloed uitoefenen, waarmee zij de wereld in vergaande mate kunnen beheersen? De macht is nu nog verdeeld over een aantal Tech-reuzen, die soms botsen met regeringen van supermachten, als hun invloed te groot en te monopolistisch dreigt te worden.

Maar wat als de technologische macht in handen is van een autocratische regering, zoals in China? Daar gaat het boek summier op in, zonder een uitweg of prognose aan te geven. In de coronacrisis leek de Chinese repressieve benadering en bestrijding model te staan, zij het in mildere vorm met ingeperkt democratisch toezicht in de vorm van een noodwet. Griezelijke, maar volgens vele wenselijke en noodzakelijke toepassingen van AI en QR codes en bevolkingsscontrole werden tijdelijk gemeengoed. Opvallend was het gemak waarmee dit instemming vond bij de zwijgende meerderheid van de angstig gemaakte bevolking. Wat staat ons nog meer te wachten? Er waren een paar filosofen die zich roerden en een beroep deden op kritische reflectie. Dat zou best wat meer mogen zijn. Het boek gaat met geen woord in op het heikele onderwerp van corona en AI. 

Relevante recente artikelen

https://www.filosofie.nl/een-zelfbewuste-computer-is-onze-favoriete-nachtmerrie/