De twee auteurs Ronald Meester en Marc Jacobs van De onttovering van AI[1] menen van wel. Op de flaptekst lezen we waarover het boek ons wil doen nadenken. ‘Rond kunstmatige intelligentie (AI) zou het niet moeten gaan over de vraag of AI de mens gaat overnemen, maar over de vraag of wij mensen ons láten overnemen. De ontwikkelingen op het gebied van AI vormen een nieuwe stap in de richting van een samenleving waarin menselijke intuïtie en gezond verstand worden vervangen door cijfers, modellen en algoritmes’. En op een der eerste bladzijden[2]: ‘de vraag [is]wat we bereid zijn zélf op te geven in onze omgang met AI. De vragen die opdoemen zijn levensbeschouwelijke vragen naar wat mensen de moeite waard vinden, vragen over in hoeverre mensen bereid zijn verantwoordelijkheid te nemen voor hun beslissingen, daden en gedachtegoed …’. Dit is het thema van het boek.
Als een recensie geacht wordt een overzicht van een boek te geven, dan is wat hier volgt geen recensie. Ik wil namelijk proberen het hoofdstuk ‘Over bewustzijn en reductionisme’, dat de centrale vraag beantwoordt wat aan de menselijke intelligentie eigen is, een stuk sterker te maken (wat evenwel enige kritiek zal meebrengen). Er kan, verder, duidelijker gemaakt worden wat emergentie in verband met AI kan betekenen. Er loopt, vervolgens, ook iets mis met wat hun kritiek op een evolutionaire aanpak kan betekenen. En tenslotte kan hun kritiek op de moderne technologie steviger onderbouwd worden.
Ik laat dus heel wat in het boek onbesproken. Ik acht me ontslagen van het weergeven van het overzicht dat ze geven van AI en zijn werkzaamheid, eveneens van wat ze zeggen over simulaties en modellen. Ze zijn niet relevant voor wat ik wil bereiken.
Het gaat dus over intelligentie – de menselijke intelligentie en de artificiële (AI). Stel dat er geen fundamenteel verschil tussen beide bestaat – waarbij AI bovendien oneindig veel knapper is dan de menselijke intelligentie – zou het dan niet voor de hand liggen AI te volgen, er op te steunen, ons aan AI over te leveren? Tot ons heil?
Maar er is verschil – en het is essentieel. En dat tonen Meester en Jacobs overtuigend aan.
Merken we voorafgaandelijk op dat dit verschil in feite voor alle burgers die hun gezond verstand gebruiken (zulke dus die niet reeds door bepaalde filosofische theorieën bevooroordeeld zijn) duidelijk is. Ze weten immers dat AI-computers geen wil hebben (en dus) geen ethische gevoeligheid (en geen gevoeligheid zonder meer) en dat ze verstoken zijn van welke vorm van vrijheid ook? Vermits ze geen lichaam hebben, hebben ze ook geen behoeften, kennen ze schrik noch blijheid, maar ook geen liefde, haat, woede, enz. De sterfelijkheid is voor hen onbestaand. Hoe zou hun intelligentie dan met al die voor de mens uiterst belangrijke dingen rekening kunnen houden? Maar de AI-fanaten, die, zoals zovele anderen, theoretisch – objectivistisch – ingesteld zijn, zien dat anders. In feite pleit het boek van Meester en Jacob ervoor om zich tegen hen af te zetten en gewoon mens te blijven en zijn verantwoordelijkheid op te nemen.
Misschien mag de filosofische leek er toch op worden gewezen dat bij haast elk gebruik van onze intelligentie de opgesomde menselijke eigenschappen een fundamentele rol spelen. Ethiek veronderstelt oordeel en beslissing. Gevoeligheid bestaat niet zonder verstand, emoties zijn al of niet intelligent, zoals Martha Nussbaum ons geleerd heeft, ze impliceren (waarde)oordelen over levensbelangrijke zaken[3]. En zoals Strawson ons overtuigd heeft[4], we gedragen ons als vrije wezens of we dat nu willen of niet (en of de wereld deterministisch is of niet). Wie zich deterministisch opstelt, gedraagt zich ‘abnormaal’. Zich objectief (dit is, niet deelnemend) opstellen is practically inconceivable.
De fanatieke AI-ers zoals Stephen Wolfram die van mening zijn dat AI de essentie van ons denken blootlegt, gaan uit van een objectivistisch a priori – dat aan hun AI-onderzoek voorafgaat. Het vat de mens bij voorbaat zelf reeds op als een complexe machine. Wat de AI-fanaten dus niet zeggen maar impliciet vooropstellen, is dat ze de mens reductionistisch interpreteren. Kan men een uitspraak zoals die van Wolfram doen zonder eerst de menselijke intelligentie zelf tot een soort AI-intelligentie te hebben gereduceerd? Dat reduceren begint met wat op zich al cruciaal is, men vindt het evident dat er een universeel determinisme heerst. Als de mens daar onder valt, is hij als vanzelf een complexe robot. Natuurlijk dat men dan het brein kan opvatten als van dezelfde aard als AI. Maar er wordt nog veel meer als vanzelfsprekend vooropgezet. Zo moet men ethiek, normen en waarden bij voorbaat zo geïnterpreteerd hebben (in feite weggedacht hebben) dat ze geen probleem meer doen rijzen in de gelijkschakeling van menselijke intelligentie en AI-intelligentie. De idee van een zo dunne ethiek is wijd verspreid. Ethiek reduceert zich tot een verbloemd egoïsme, of tot een zekere sympathie met enkelen, zoals men bijvoorbeeld ook bij chimpansees ziet. Dat is in feite de eliminatie van ethiek – hoogst nodig als men ons ervan wil overtuigen dat AI-intelligentie en menselijke intelligentie in principe hetzelfde zijn. Het is vreemd dat onze auteurs nergens naar vrijheid/determinisme verwijzen, hoewel wat ze beschrijven honderd procent ‘fenomenologisch’, dit is anti-objectivistisch, anti-deterministisch, anti-reductionistisch is. Als de mens vrij is, is hij meteen ook verantwoordelijk voor zijn daden en kan hij zich niet meer, zonder zich een oordeel te vormen, aan wat AI doet, overgeven. Vrij zijn is een lastige zaak, zoals Rudolf Boehm in een mooi artikel laat zien[5]. Want we moeten nadenken, oordelen, beslissingen nemen.
Maar vooral – en dat betreft de idee van kennis en kennisverwerving zelf – er circuleren ‘plausibele’ opvattingen over kennis, ze vormen zelfs de hoofdstroom van de huidige epistemologie, die bijzonder geschikt zijn om de mens als een ingewikkelde computer op te vatten. De fenomenologie stelt die opvattingen in vraag – laat ze als gemeengoed aanvaard worden. Charles Taylor en Hubert Dreyfus[6] sommen de typische eigenschappen van dit kennismodel op. 1. De geest wordt beschreven als iets dat uit zijn omgeving ‘inputs’ ontvangt en van zijn kant ‘outputs’ produceert. 2. Berekeningen worden op grondslag van helder gedefinieerde informatiebrokstukken uitgevoerd en vervolgens uitgewerkt. Het brein berekent expliciete stukken informatie. 3. Als computer is het brein een zuiver ‘syntactische’ motor. Dat zijn berekeningen op de wereld ‘betrekking’ nemen, komt door de ‘inputs’ tot stand. 4. Deze theorie steunt op materialistische grondgedachten: de mentale werkstappen worden door de fysische werkstappen van de basismotor – het brein – verklaard. Deze vier kenmerken worden door een fenomenologie à la Merleau-Ponty of à la Heidegger in twijfel getrokken, zeg maar, ondermijnd. Ik kan dat hier niet uitwerken. De mens is een être au monde, de inhoud van onze kennis (de ‘inputs’), bevindt zich in een wereld, ze is holistisch, de kennis bestaat niet oorspronkelijk in analyse, ontbinding in geïsoleerde, klaar bepaalde, expliciete uit elkaar gehaalde elementen. De mens staat in direct contact met de realiteit, basaal niet door voorstellingen, taal of wat dan ook bemiddeld.
Wat AI kan en niet kan
Maar laten we Meester en Jacobs zelf verwoorden wat voor hen AI kan of niet kan. Zeggen we direct dat ze AI niet brutaal afwijzen.
ChatGPT kan veel, een samenvatting maken, de stelling van Pythagoras bewijzen, een liefdesbrief schrijven, een vertaling maken, enzovoort. ‘Hoewel het systeem (veel) fouten maakt, gaat er ook heel veel goed’[7]. Een rekenmachine kan sneller rekenen dan wijzelf. Ze kan een wereldkampioen schaken verslaan. Dat aanvaarden we omdat schaken een mathematisch object is met vaste regels, en dat een computer gewoonweg duizelingwekkend veel sneller kan rekenen dan wijzelf. Het is brute rekenkracht. AI kan tot op zekere hoogte nuttig zijn, voegen de auteurs toe, ongeveer zoals een ‘gewoon’ computerprogramma nuttig kan zijn, als een personal assisstant ‘die ons taken uit handen kan nemen waar we zelf geen tijd of geen zin in hebben, of die dermate gecompliceerd zijn dat ze per saldo onmogelijk zonder mechanische of digitale hulp uit te voeren zijn’ of zoals een beginnende stagiair, ‘je kunt er werk aan uitbesteden, maar je moet er wel zelf bij blijven’.
De relatie tussen taal en AI, die de auteurs vervolgens bespreken, brengt ons bij de kern van de zaak. Ze reageren hiermee op wat AI-specialisten zoals Stephen Wolfram beweren: dat ChatGPT de ‘essentie van ons denken’ zou blootleggen. Bij de uitspraak van Stephen Wolfram ‘roepen’ onze auteurs ‘uit’: ‘Dat is nogal een uitspraak’. Maar laten we zien waarom ze dat zeggen. Vervolgen we hun uiteenzetting.
Als we ChatGPT iets vragen, komt het programma terug met een talig antwoord. Dat kan een antwoord zijn dat op zichzelf weer nieuwe vragen oproept, en zo kun je een ‘gesprek’ gaan voeren met het algoritme. … Rekenen is onpersoonlijk, maar taal is dat zeer zeker niet. Dat geeft dan al snel de illusie dat we bij interactie met een programma als ChatGPT ook daadwerkelijk aan het communiceren zijn met een bewuste entiteit, die begrijpt wat we willen vragen en bij twijfel om opheldering vraagt. Net als een mens dat zou doen. Dit is, en we kunnen dat niet vroeg genoeg benadrukken, een enorme illusie. Een taal spreken enerzijds en communiceren anderzijds zijn echt heel verschillende dingen.
ChatGPT doet niets anders dan rekenen,
op basis van informatie die wij het programma zelf hebben aangeleverd. ‘[…] ChatGPT voert absoluut niets uit waarvan wij zouden zeggen dat het ‘intelligent’ of ‘slim’ is; je kunt stukken taal construeren op basis van heel veel voorbeelden, heel veel rekenkracht, en slimme kansrekening en statistiek.
Taal begrijpen
betekent niet alleen maar dat je moet kijken naar de vraag of iets waar of onwaar, logisch of onlogisch is, maar ook of het gesproken woord succesvol is wat betreft intentie. Dat was het inzicht van bijvoorbeeld taalfilosoof John Austin in de jaren 50 en 60 van de vorige eeuw. Maar voor intentie is een mind nodig, een bepaald soort bewustzijn[8].
Taal gaat, verder, niet alleen over de wereld maar ook over het zelf. In die zin is taal uniek, iedere persoon heeft zijn of haar eigen manier om zich uit te drukken.
De auteurs insisteren (en dat is waar het om draait):
Begrip is niet te conceptualiseren en daarmee valt het automatisch buiten het bereik van ChatGPT en haar eventuele opvolgers. … We kunnen … begeleiden bij (de) zoektocht naar begrip, maar we kunnen [iemand] … niet iets laten begrijpen. Het laatste stukje reis zal iedereen zelf, in alle eenzaamheid moeten afleggen. De kern is (dus) dat begrip nooit het gevolg is van een algoritmische activiteit. Begrip is emergent[9]. Er is geen algoritme dat tot begrip leidt. Begrip overkomt je, het emergeert uit de gegevens die je probeert te verwerken. Het is met andere woorden niet reduceerbaar. ChatGPT gaat hierbij dus niet helpen, behalve wellicht bij het aanleveren van die gegevens.
Je kunt alleen maar iets begrijpen, herhalen onze auteurs, als je je bewust bent van jezelf. We hebben echter, zo voegen ze toe, geen idee van wat bewustzijn precies is – waarbij ze waarschijnlijk, en ten onrechte, aan een (objectief-wetenschappelijke) verklaring denken. We weten natuurlijk, zeggen ze, dat we zonder brein geen bewustzijn kunnen hebben, maar de rol die ons brein daarin precies speelt is onduidelijk. Net als de vraag of bewustzijn puur materialistisch te begrijpen zal zijn. De auteurs twijfelen hier blijkbaar, en hun voorkeur gaat waarschijnlijk uit naar een niet-materialistisch (dus geestelijk) bewustzijn. Dat blijkt misschien reeds als ze zeggen dat sommige mensen denken dat bewustzijn emergeert als het netwerk in een brein maar voldoende complex is. Dat is bijvoorbeeld wat filosoof Daniel Dennett beweert. Dat is pure speculatie, zeggen ze.
De auteurs maken het bovenstaande af met een verhaal, ‘de liefdesbrief’, dat bijzonder aanschouwelijk maakt wat ze onwenselijk vinden aan het steunen op AI. Iemand doet AI een liefdesbrief schrijven. Maar wat als de geliefde merkt dat de geliefde niet zelf de brief geschreven heeft? Maakt dat niet alles fundamenteel anders? ‘Haar stemming slaat om, en ze moet toegeven dat dit haar nogal tegenvalt van haar geliefde. Een stuntelige brief had ze bij nader inzien veel authentieker en fijner gevonden dan de brief die ze ontving; een brief waarin de woorden op een bepaalde manier mooi zijn, maar bij nader inzien toch ook wat algemeen en clichématig’[10]. Wat is het punt? Het gaat om de vraag of het echt haar geliefde is die tot haar spreekt. (De geliefde onbeholpen als hij is, had misschien ook zijn geliefde kunnen verwittigen dat hij een in ChatGPT geschreven brief zou sturen. Zijn eerlijkheid had daarbij doorslaggevend kunnen zijn).
Werken we dat wat verder uit. Mensen zijn in reële mensen geïnteresseerd, een (zelf)bewustzijn in een (zelf)bewustzijn. Dat is een fenomenologisch basisgegeven. Zo kan ook een relatie met een dier (een hond, een kat) de omgang van reëel mens tot reëel mens nooit afdoende vervangen. Hoewel de mens in grote mate in zijn verbeelding kan leven, kan dat nooit op bevredigende wijze een werkelijke relatie vervangen. Een eenzame mens met een lieve kat of volgzame hond, blijft eenzaam. Hij mist iets essentieels. Het houden van een hond of een kat kan slechts een quasi-verdrijving van zijn eenzaamheid zijn. Iets anders is dat als een mens in zijn relaties met andere reële mensen gelukkig is, het houden van een kat of een hond een mens extra blij, supplementair gelukkig, kan maken.
Illustreren we nog even met wat de auteurs over ‘AI en relaties’ zeggen[11]. Sommigen hebben het over Artificial Intimacy, Virtual Friends, Digital Lovers. Het gaat van ‘virtuele vriend tot hedonistische seksrobot’. In 2022 trouwde een Japanse man met zijn virtuele vriendin. De auteurs commentariëren: ‘Het is natuurlijk maar al te gemakkelijk om alles wat afwijkt van de norm te veroordelen. Zo zal iemand die een seksrobot heeft of een digitale vriend(in) volgens velen wel niet kunnen slagen in het dagelijkse leven’ – dat is, althans volgens mij, waar, want hij vervangt wat een mens echt gelukkig kan maken, een reële verhouding, door een virtuele. Een virtuele relatie kan, geloof ik, hoogstens een twijfelachtige redplank zijn[12].
Het is passend hier toe te voegen wat de auteurs over embodiment zeggen[13]. Met dit begrip – belichaming – komen we op het fenomenologische terrein van Merleau-Ponty terecht (in feite was dit hierboven, voor zover typisch menselijke kenmerken vermeld werden ook al zo). Spijtig genoeg, lijken onze auteurs Merleau-Ponty niet te kennen. AI-systemen, neurale netwerken, zeggen de auteurs, hebben geen lichaam. Nu is het zo dat bij de mens de strikte scheiding van lichaam en geest onhoudbaar is. Ze steunen hiervoor op het werk van Antonio Damasio. ‘Er zijn vele aanwijzingen dat onze rationele activiteiten gebaseerd zijn op emoties en dat die emoties een lichamelijke status of oorsprong hebben’. ‘Ik voel dus ik ben’. ‘Ons lichaam “weet” veel dat we niet rationeel kunnen begrijpen’. ‘Kan een algoritme verlegen zijn, kan het zeker van zichzelf zijn zoals een mens dat kan zijn … Is alle kennis die een mens kan hebben in taal uit te drukken, of zijn er ook dingen die je kunt weten zonder dat je precies weet hoe je het moet zeggen maar die wel van belang zijn voor je doen en laten, of voor het antwoord dat je geeft op een bepaalde vraag?’
Besluitend
ChatGPT ‘vindt’ niets ‘uit’, heeft geen mening, en kan alleen maar zien en teruggeven wat er zoal in dat soort omstandigheden is gezegd of besloten’[14]. ‘Als ons inzicht, onze kennis van een situatie gaat afhangen van wat ChatGPT daarover te vertellen heeft, dan dreigen we de cruciale persoonlijke invulling van kennis te verliezen’. Dat is een groot risico. Als ‘we ons allemaal laten leiden door hetzelfde algoritmische programma, gaat dat onvermijdelijk en onverbiddelijk ten koste van onze persoonlijke identiteit’.
Emergentie
Wat ons, zoals gezegd, intrigeert, is het reductionisme dat de auteurs in AI aan het werk zien. De auteurs komen terug op Dennett die van mening is dat bewustzijn ‘als vanzelf’ ontspringt zodra een systeem complex genoeg is. Het is in zijn ogen een emergent verschijnsel, iets wat niet helemaal te begrijpen is in termen van de onderliggende structuur; het overstijgt als het ware de componenten waaruit het voortkomt. Zo emergeert het leven de fysica. Dennett zegt eigenlijk dat hij niet weet hoe dat dan precies ontstaat. Dennett is hier de filosoof van de gaten[15]. ‘Hij kan bewustzijn niet beschrijven of verklaren vanuit de fysica, biologie en chemie’.
Dat kan juist zijn, maar hier nu blijkt een zekere onbeholpenheid de auteurs te overvallen. We zullen geen pogingen doen, zeggen ze, om de argumenten van Dennett in directe zin te ontkrachten. We ‘zullen veeleer proberen te beschrijven wat de consequentie is van de aanname dat in principe “alles” te reduceren is tot fysica en chemie’.
Zien ze bewustzijn, begrijpen, enz. dus als niet-materieel, als ‘geestelijk’? Hier is onduidelijkheid troef. ‘Met andere woorden, zouden we bewustzijn echt niet kunnen reduceren tot een weliswaar complex maar uiteindelijk toch gewoon fysisch of chemisch verschijnsel, waarmee AI-systemen in principe ook echt bewust zouden kunnen zijn? Reduceren in dit hoofdstuk is het kunnen begrijpen van een complex begrip in termen van de onderliggende fysica en chemie’[16]. Dat is waartegen de auteurs zich verzetten.
Evenwel, het is niet alleen het bewustzijn, het is niet alleen het leven die emergent zijn. De natuur zelf is misschien een reusachtige emergentie. Denken we aan het ‘klassieke’ voorbeeld, water. Water is emergent ten overstaan van zijn fundamenten, C en O (ik zeg graag fundamenten, wat uitdrukking geeft aan het feit dat C en O de noodzakelijke voorwaarden zijn voor water, datgene waarzonder water niet kan bestaan). Water is emergent, wat betekent dat het eigenschappen heeft zoals zichtbaarheid, drinkbaarheid, enzovoort die niet uit zijn noodzakelijke bestanddelen af te leiden zijn. Maar water is een materieel iets, zoals het (menselijk) leven iets materieels is. Met welke reden zouden we dan niet ook bewustzijn, menselijke intelligentie, begrip, materieel mogen (of zelfs moeten) noemen? Maar de voorbeelden laten zien dat hier niet van reductionisme gesproken kan worden. De auteurs lijken dat te doen, zoals ook Dennett (uiteindelijk) – laat Dennett letterlijk gelijk hebben. Dat we hier een en ander niet kunnen verklaren is duidelijk. Maar er moet ook niets verklaard worden, want verklaren is enkel en alleen de reductie tot de voorwaarden waaruit een verschijnsel bestaat opsporen. Maar het verschijnsel (water bv.) zelf verdwijnt daarmee niet.
De auteurs stellen dus een pseudo-vraag. ‘Stel dat alles in de wereld uiteindelijk tot fysica te reduceren zou zijn. Hoe zit het dan met de inhoud van de gedachtes die we menen te hebben, met de inhoud van onze mentale staat dus?’[17] Maar die zijn, menen we, zo werkelijk als de fundamenten waaruit ze zijn ontsprongen. ‘Iemand heeft gedachtes, een gedachte zweeft niet rond in het heelal, grijpbaar en zichtbaar voor iedereen’. Inderdaad. En tegen Dick Swaab: ‘Laten we vooropstellen dat gedachtes zekere fysieke componenten met zich meebrengen en fysieke gevolgen zullen hebben …. Maar de inhoud van die gedachtes is niet meetbaar’. Dat is juist, maar waarom zouden ze niet iets materieels en werkelijks zijn, zonder daarom meetbaar te (moeten) zijn?
Als de auteurs zich richten tegen ‘evolutionaire verklaring’[18], duikt opnieuw het thema van de emergentie op. We zien nogmaals het nodeloze verzet van de auteurs tegen de reductie van mentale processen tot fysische processen. Waarom zou de evolutie niet iets nieuws kunnen voortbrengen dat niet te herleiden valt tot datgene waaruit het voortgekomen is, in casu het bewustzijn dat (zoals het wel moet zijn volgens de evolutietheorie) nuttig zal zijn voor het leven. ‘Als mentale processen niet zomaar tot fysische processen kunnen worden teruggebracht, dan zal een puur fysische interpretatie van het evolutieproces dus ook niet meer mogelijk zijn’.
De verwarring heerst hier alom. Het bewustzijn – je kunt ook zeggen, de mens – moest niet ontstaan. Maar als er zo iets als evolutie bestaat, en wie twijfelt daar aan, dan kan het bewustzijn (of de mens) ook niet gratuit ontstaan zijn in die zin namelijk dat de evolutie alleen datgene laat bestaan dat op de een of andere manier ‘nuttig’ voor het leven is. De emergentie van het bewustzijn is dat inderdaad. Het bewustzijn laat bijvoorbeeld toe (beter) samen te werken en nog veel andere nuttige dingen in het kader van het overleven te doen[19]. Het bewustzijn moet daarbij niet ophouden van de orde van het fysieke te zijn.
Zou, als mijn kijk op emergentie de visie van onze auteurs zou vervangen, hun kritiek op de AI-ideologie er niet een stuk steviger door worden?
AI steunend op de grondslagen van ons tijdperk van de wetenschap
De auteurs hechten groot belang aan de techniek als iets wat zich aan ons opdringt[20]. Ik zal betogen dat hun klemtoon op de techniek niet helemaal met de realiteit in overeenstemming is. De auteurs ontkennen natuurlijk niet dat techniek aan de basis ligt van heel wat goede dingen die met ons leven, ja zelfs met het goede leven, te maken hebben. Maar er zijn ook duistere kanten. ‘Er is “iets” aan de techniek dat het bijna onvermijdelijk maakt dat ze ons altijd ook in de problemen zal brengen’. Om dat aan te tonen doen de auteurs beroep op Friedrich Jüngers De perfectie van de techniek, een boek uit 1944, in het Nederlands verschenen in 2022. De problemen die zich in de jaren dertig voordeden, zeggen de auteurs, zijn tegenwoordig nog steeds dezelfde.
Het werk zou via techniek efficiënter kunnen gebeuren, extra vrije tijd opleveren. Daar is niets van. Het leven is alleen maar drukker geworden. De reden is een almaar groeiende organisatie en bureaucratie. De techniek verbruikt meer dan ze teruggeeft. Men ziet vaak de kosten niet. Zo ziet men bijvoorbeeld niet dat AI extreem veel elektriciteit vereist[21]. Misschien een ernstiger probleem is dat techniek slechts oplossingen zoekt voor technische vragen, de technicus vraagt zich niet af of de wereld er beter door wordt. ‘En als zich dan een ethisch dilemma aandient, is de technicus de eerste om de verantwoordelijkheid af te wijzen, techniek is toch maar een middel’. En wat de relatie tussen economie en techniek betreft: de economie heeft zich altijd naar de techniek moeten voegen. De techniek heerst. ‘“Niet omdat het moet, maar omdat het kan” was lange tijd de slogan van een internetprovider, en beter kunnen we de situatie eigenlijk niet verwoorden’.
Meester en Jacobs, of juister Jünger, viseren, meen ik, eenzijdig de techniek. Er is een omvattender kader nodig. Laat me verwijzen naar Rudolf Boehm[22]. Boehm spreekt van het triple-systeem van wetenschap, technologie en (kapitalistische) economie. Ze kunnen niet zonder elkaar. Ze zijn wederzijds van elkaar noodzakelijk. Voor Boehm is de wetenschap niettemin de eerste grondslag, hij noemt onze tijd zelfs het tijdperk van de wetenschap. Maar voor ons is hier belangrijk dat Boehm drie ‘doelvrije’ kernen van ons huidige tijdperk schetst. Het is niet alleen de techniek die op een doel-middelverdraaiing neerkomt. Het kapitalisme is bedoeld om winst te maken en bekommert zich in principe niet om het algemeen welzijn. Technologie en wetenschap bekommeren zich hoofdzakelijk om hun eigen ontwikkeling – hoewel ze bedoeld of onbedoeld in dienst van de economie staan. In feite is er een vierde allesbepalend motief werkzaam, de niet te stuiten vooruitgang (de laatste stap hier is AI zelf). Hier is alles dubbelzinnig. Want men verwacht de vooruitgang door de werkzaamheid van het doelvrije triple-systeem. Ik zie niet dat onze auteurs het verband met een meer en meer zinloze vooruitgang in verband brengen. Nochtans is dit verband er, zoals bijvoorbeeld Harari opmerkt[23], vooruitgang linkt hij zelfs (vooral in zijn Homo Deus) aan de vergoddelijking van de mens via technologie en wetenschap.
Besluit
Deze quasi-recensie had geen andere bedoeling dan de lezer een steun te geven bij de lectuur van dit belangrijke boek over AI. Hoewel AI niet moet verdwijnen, moet ze toch flink onttoverd worden. Het boek vraagt er als het ware om AI in het kader te plaatsen van een verreikende kritiek op het objectivisme (of determinisme) van onze tijd. Ik sluit deze quasi-recensie af door te verwijzen naar Nexus, het laatste boek van de invloedrijke Yuval Harari. Hij is de ware antipode van wat Meester en Jacobs ons willen meegeven.
De bezorgdheid van de schrijvers is volkomen terecht als je ziet hoe Harari tegen de komst en ontwikkeling van AI aankijkt. Nadia Sels in De Standaard van 14 september 2024 bij de bespreking van Nexus, Harari’s laatste boek, citeert van hem: ‘Wij sapiens hebben nog minstens een paar jaar de macht om te bepalen hoe onze toekomst eruit komt te zien’. ‘Daarna’, zo heeft Nadia Sels Harari hem horen zeggen, ‘zouden we de controle wel eens onherroepelijk kwijt kunnen zijn aan artificiële intelligentie, die onze levens en denkprocessen op allerhande niveaus zal gaan sturen. Sterker nog, dat gebeurt nu al’. ‘Ondertussen wordt die “alien” intelligentie’, zoals Harari het liever noemt, ‘alleen maar krachtiger, ondoorgrondelijker en oncontroleerbaarder’. En verder, zo parafraseert Nadia Sels Harari: ‘Maar wat als het in de toekomst AI zal zijn die de verhalen genereert waarin we leven? Dat zou ons onze meest fundamentele middelen ontnemen om ons bestaan zelf actief vorm te geven’. Wel is het zo dat Harari dit niet toejuicht.
Als het bovenstaande hout snijdt, is wat Harari schrijft, zuivere bullshit. In feite doet Harari alsof we niet kunnen kiezen, alsof we AI niet controlerend kunnen gebruiken. AI kan maar zegevieren als we met wat we AI laten doen, instemmen, als we ons denken, dat oordelen, beslissen, engagement, inhoudt, vrijwillig laten varen.
Harari gaat nog verder. Hij spreekt van een vertrouwensband met AI die ‘wel eens religieuze vormen zou kunnen aannemen. Een bovenmenselijke bron van informatie die onfeilbaar is en ons leven voor ons in goede banen leidt, is dat niet altijd een wens van de mens geweest?’. Harari vervoegt hier zijn Sapiens en vooral zijn Homo Deus. Ook in die werken spreekt hij op dubbelzinnige wijze zijn hoop uit in de moderne technologie.
Harari spreekt wel van ‘apocalyptische speculaties’ – die behoorlijk mager uitvallen, zegt Nadia Sels. Hij vreest voor machtsconcentratie. ‘Instellingen moeten openstaan voor kritiek van buitenaf, zodat foute of nefaste informatie kan worden bijgesteld’. Maar wat hij blijkbaar niet ziet, is dat hij, op bedroevende wijze, denkt in termen van onvermijdelijkheid, onontkoombaarheid – en het is alsof daarenboven ons heil ervan afhangt.
Het boek van Meester en Jacobs is een erg nodig antigif tegen al de Harari’s die graag zouden zien dat AI de mens onder de voet loopt.
Toevoeging: Er moet nog meer onttoverd worden
Hoewel het hun thema niet is, vermelden de auteurs toch dat de toelevering van gegevens ‘veel tijd en geld’ kost[24], ‘dat er een aparte industrie is ontstaan, puur voor het trainen van AI modellen. Het zal de lezer niet verbazen dat de meeste “trainers” in lagelonenlanden werken’. Ze verwijzen vervolgens naar het energieprobleem dat tegelijk een milieuprobleem is. ‘En de prijs van AI is hoog, hoewel we dat nauwelijks in de gaten hebben omdat veel van de problemen behendig uit ons directe gezichtsveld worden gehouden; zo zie je bijvoorbeeld niet onmiddellijk dat het gebruik van AI extreem veel elektriciteit vereist’[25]. ‘Deze datacenters hebben zoveel koelwater en elektriciteit nodig dat er aan deze voorzieningen soms regionaal een tekort dreigt te ontstaan’. ‘In de tijd waarin energie schaars wordt en mensen bezorgd zijn om het klimaat, lijkt in ieder geval hier in het Westen niemand van plan om daar consequenties aan te verbinden. Maar onze digitalisering kost werkelijk krankzinnig veel energie, maakt gebruik van zeldzame metalen die onder erbarmelijke omstandigheden worden gedolven, en is alleen maar mogelijk door arbeidsprocessen in lageloonlanden die wij eigenlijk alleen maar als slavenarbeid kunnen typeren’.
Wat de auteurs hier zeggen, wordt door talrijke bronnen bevestigd, onder andere door Sukel[26]. ‘De beloften van een duurzamere wereld dankzij kunstmatige intelligentie zijn groot, maar er is ook hier een keerzijde. De computers waarop AI draait gebruiken veel energie. En de apparaten die nodig zijn om deze computers te maken vereisen grondstoffen’. Zo schrijft De Morgen van 16 oktober dat Google energie aankoopt voor hun datacentra. In De Standaard van 5 december 2024 lezen we dat Meta kernenergie voor datacenters zoekt[27].
Op andere plaatsen in zijn boek vraagt Sukel zich retorisch af of een toenemend grondstof- en energiegebruik ooit de sleutel kan vormen tot verminderde consumptie. De medegedeelde gegevens zijn verontrustend. ‘Algoritmen aanleren om taken uit te voeren vraagt aanzienlijke rekenkracht en stroomverbruik’. ‘Onderzoek uit 2022 toont aan dat sommige (tegenwoordig relatief simpele) taalmodellen ongeveer 10 miljoen gram CO2 uitstoten tijdens een enkele trainingssessie – vergelijkbaar met de jaarlijkse energieconsumptie van een huis. Andere schattingen geven zelfs aan dat het trainen van een groot model evenveel energie kan verbruiken als een intercontinentale retourvlucht’. Let wel de algoritmen moeten niet slechts één keer getraind worden, ‘dit proces vereist meestal meerdere pogingen tot het gewenste resultaat is bereikt’. Er zijn updates nodig. ‘Ik heb mijn twijfels of kunstmatige intelligentie uiteindelijk positief bijdraagt aan het oplossen van de klimaatcrisis’. Sluiten we hierbij de uitspraak van Nathalie Smuha in De Standaard van 21 december 2024 aan. ‘Ja. Een zoekopdracht op ChatGPT verbruikt dan ook tien à twintig keer meer energie dan een zoekopdracht op Google’. ‘Is dat iets waarmee je rekening zou moeten houden als gebruiker?’ ‘Ja, zeker als je klimaatbewust wilt leven. In 2022 gebruikten AI-systemen zowat 2 procent van alle energie ter wereld. En dat is twee jaar geleden’.
Wat vangen de fanaten van de nieuwe technologieën – AI is toch wel het neusje van de zalm – hiermee aan? Hun beste en laatste technologie levert bepaald een negatieve bijdrage tot de oplossing van het milieuprobleem. De onkritische gedachteloosheid, niet alleen van de techfanaten, maar van veel gewone burgers, maar ook van de economen, de sociologen – en de politici – is verbijsterend. Laat me eindigen met de herhaling van een citaat van Meester en Jacobs: ‘In de tijd waarin energie schaars wordt en mensen bezorgd zijn om het klimaat, lijkt in ieder geval hier in het Westen niemand van plan om daar consequenties aan te verbinden’.
Reageren? Mail naar: willy.coolsaet@ugent.be
Prof. dr. Willy Coolsaet, ere-prof Universiteit Gent, Vakgroep Filosofie en Moraalwetenschap. Zijn laatste boek Naar een andere moderniteit. Bevrijding van de waan van oneindigheid en bovenmenselijkheid verscheen in 2024 bij Gompel&Svacina.
[1] R. Meester en M. Jacobs, De onttovering van AI, Walburg Pers, Zutphen, 2024.
[2] Meester en Jacobs, o.c., blz. 13.
[3] M. Nussbaum, Oplevingen van het denken over de menselijke emoties, AMBO, Amsterdam, 2001/2004, blz. 32 ev.
[4] P.F. Strawson, Freedom and Resentment and other essays, Routledge, Abingdon, 1974, blz. 11 e.v.
[5] R. Boehm, ‘Lastige vrijheid’, in Streven, 29 (1976) blz. 688-701.
[6] Hubert Dreyfus, Charles Taylor, Retrieving Realisme, Harvard University Press, Cambridge Mass., 2015 (dat ik in Duitse vertaling lees, Die Wiedergewinnung des Realismus, Suhrkamp, Berlijn, 2015, blz. 35-36.
[7] Meester en Jacobs, blz. 12. Alle volgende citaten komen uit paragraaf 1 van Deel I (blz. 11-33). Het citaat vervolgt: ‘Het is dan ook niet verwonderlijk dat veel mensen systemen als deze allerlei menselijke eigenschappen zoals bewustzijn en bepaalde emoties toedichten’.
[8] Maar de auteurs hadden gemakkelijk een hele reeks hedendaagse filosofen kunnen vermelden, onder wie alle door de fenomenologie geïnspireerden, Charles Taylor, Hubert Dreyfus, maar ook John Searle, enzovoort.
[9] Dit is, kan niet in termen van datgene waaruit het oprijst, begrepen worden. Dat wordt straks een belangrijk thema.
[10] De tekst gaat verder: ‘De lezer moet begrijpen dat ChatGPT tekst niet zelf kan verzinnen, … dat ChatGPT gewoon kijkt wat mensen zoal aan liefdesbrieven hebben geschreven en vervolgens met een algoritme tot een bepaalde compositie van de brief komt, op basis van al die voorbeelden die het programma aangeboden heeft gekregen, en de steekwoorden die in de opdracht besloten lagen’.
[11] Meester en Jacobs, o.c., blz., 211 (titeltje van de paragraaf). Volgend citaat ook op blz. 211.
[12] Maar ze voegen toe: ‘Wie zijn wij om iemand te veroordelen die zegt een relatie aangegaan te zijn met een digitale entiteit? Dat neemt niet weg dat je je wel kunt afvragen of AI een zinvolle vervanging kan zijn voor een persoon van vlees en bloed’. Dat is het probleem correct gesteld!
[13] Ib., blz. 91 e.v. De twee citaten die volgens eveneens daar.
[14] Ib., blz. 30. Volgende citaten, blz. 31, blz. 37.
[15] Ib., blz. 81. De volgende twee citaten, eveneens daar.
[16] In., blz. 79.
[17] Ib., blz. 84. Volgend citaat blz. 85.
[18] Ib., blz. 93 e.v. Het volgende citaat eveneens hier. Vervolgens citaat blz. 95.
[19] Ik heb dit betoogd aan de hand van de uiteenzettingen van Michael Tomasello in mijn Naar een andere moderniteit, Gompel&Svacina. Antwerpen, 2024, blz. 191 e.v. (‘9. Mens en dier’).
[20] Meester en Jacobs, o.c., blz. 107 e.v. Citaten blz. 108-109, blz. 113, blz. 117.
[21] Zie onze ‘Toevoeging’.
[22] R. Boehm, Kritiek der grondslagen van onze tijd, Het Wereldvenster, Baarn, 1977 (oorspronkelijk Kritik der Grundlagen des Zeitalters, 1974). Zie ook de hoofdstuk gewijd aan de filosofie van Rudolf Boehm in mijn Naar een andere moderniteit.
[23] Zie ook onze ‘Toevoeging’.
[24] Meester en Jacobs, o.c., 46.
[25] Ib., blz. 112. De volgende citaten blz. 113-114, blz. 114.
[26] M. Sukel, De AI Revolutie. Hoe kunstmatige intelligentie de maatschappij gaat veranderen (en daar nu al mee bezig is), Uitgeverij Balans, Amsterdam, 2024, o.a. hfst 7 ‘Klimaat’, blz. 98. Hoe informatief en leerrijk Sukels boek ook is, het lijkt geen principiële kritiek op AI te bevatten. Hij stelt de vraag niet of een systeem wel intelligent is of niet (blz. 19). Wat hem interesseert is wat de invloed van het gebruik ervan is. Hij lijkt het mogelijk te achten dat AI zelfbewust wordt (blz. 50). Bijna elke nuttige toepassing – waaronder veel pietluttige – van AI lijkt negatieve kanten te bezitten. Het is dus oppassen geblazen, zo lijkt het. Maar meer niet. AI versterkt stereotypen (hoofdstuk 4, blz. 57 e.v.). We worden overstroomd door synthetische media (onechte maar echt uitziende beelden, zoals afbeeldingen gecreëerd door DALL-E) (hfst. 5, blz. 69 e.v.). We worden overladen door prikkels (hfst. 6, blz. 83 e.v.). Er zijn problemen met privacy en veiligheid (hfst. 8, blz. 105 e.v.). Enzovoort.
[27] Voegen we nog toe: ‘OpenAI rekent op Trump voor superintelligentie’, (De Standaard van 7 januari 2025). Men rekent zelfs op de kernfusie om aan het toekomstig energieverbruik te kunnen voldoen (De Standaard van 5 december 2024). Zo ook: ‘Meta sluit aan bij een rij van bigtechbedrijven die hun hoop stellen in kernenergie om het grote stroomverbruik van hun datacenters in de VS te kunnen dekken … Meta klopt aan bij ontwikkelaars van kerncentrales met de vraag om vanaf 2030 een capaciteit van 1 tot 4 gigawatt aan energie ter beschikking te hebben. Dat staat gelijk aan de capaciteit van de kerncentrales die in ons land draaien. … Eerder kwamen Microsoft, Alphabet (het moederbedrijf van Google) en Amazon op de proppen met plannen om kernenergie in te schakelen’. ‘Big tech geeft kernenergie nieuwe zuurstof’. ‘Google sloot een deal om de elektriciteit op te kopen van zeven nog te bouwen kleine kernreactoren in de VS’ (De Standaard van 16 oktober 2024).
