Michael Weyns*
De uitspraak ‘may you live in interesting times’ kan maar beter niet terloops in de mond worden genomen. Het gezegde zou oorspronkelijk leven zijn ingeblazen, niet als hartelijke steunbetuiging, maar veeleer als verwensing. ‘Interessant’ is hier immers een eufemisme voor ‘woelig’ of ‘turbulent’ en zoals men in tijden van economische crisis mag verwachten dat slechts enkelen profijt zullen trekken van de algemene wantoestand, zo ook dienen ‘interesting times’ in het algemeen slechts tot het laven van de dorst van toch maar erg zonderlinge en singuliere figuren. Dat allerhande denkers, opiniemakers en intellectuelen gek zijn op historische turbulentie hoeft inderdaad niet te verbazen. Voor de modale mens die hoopt ooit interessante tijden te mogen doormaken, is er echter nog een ander, niet minder gnomisch, gezegde: geachte dame of heer, ‘be careful what you wish for’.
Wat onze eigen tijden betreft – oninteressant kunnen we die niet noemen. Naar verluidt bevinden we ons aan de vooravond van een historische epoche waarin de steeds intensievere uitbreiding van artificiële intelligentie (AI) naar alle regionen van het moderniserende mensenleven zich weldra zal opwerken tot een maatschappelijk hoofdthema. Aan de koortsachtige eeuwwisselingen in de bibliografie van Eric Hobsbawm – van de ‘Age of Revolutions’ tot de ‘Age of Extremes’ – kunnen we straks zeker ook de ‘Age of AI’ toevoegen. Als de advent van dit nieuwe, stralende tijdperk nog niet voldoende werd ingehuldigd in de voorbije paar decennia – de huidige vorm van artificiële intelligentie heeft, strikt genomen, een voorgeschiedenis die ten minste teruggaat op vroege ontwikkelingen in de twintigste eeuw – dan is het toch op vrijwel seismische wijze het algemene bewustzijn naar binnen geschokt aan het begin van 2023, toen OpenAI’s ChaptGPT de geschiedenis inging als snelst groeiende softwareapplicatie aller tijden.
Aan ChatGPT (en soortgenoten) zijn waarschijnlijk al te veel pennenstroken toegewijd. Het is dan ook niet mijn bedoeling nog veel toe te voegen aan de al bijeen geklutste mengelmoes van courante feiten en opinies. Ondanks de talloze tekortkomingen waar geavanceerde AI-modellen vandaag nog mee te kampen hebben – vooral wat betreft het leggen van causale verbanden en planvermogen – lijkt het onwaarschijnlijk dat tijdelijke tegenslagen of vertragingen ook maar iets zullen teweegbrengen in het eventueel temperen van de triomfantelijke gemoedssfeer. Het lijkt me dan ook bijzonder zinnig te proberen de élan vital die dit AI-enthousiasme aandrijft te doorgronden, en de eerder kortstondige ontwikkelingen en metamorfosen die de technologie nu vrijwel voortdurend ondergaat te laten voor wat ze zijn. Kortom: als we vat willen krijgen op de ‘interesting times’ die we nu willens of onwillens tegemoet treden, kunnen we ons beter toespitsen op de onderliggende drijfveren achter het huidige techno-optimisme.
Een dynamische theorie van de geschiedenis
Geschiedschrijving behelpt zich doorgaans met het semantische instrumentarium van de tijd van waaruit zij naar het verleden terugblikt. Dat wil zeggen dat men de eigen vooringenomenheden (de eigen beeldspraak en conceptuele grondstructuren) achterwaarts projecteert om de geschiedenis als een ellenlange, zwaarwichtige preambule te kunnen beschrijven (dit ondanks het welbekende adagium van L. P. Hartley: ‘the past is a foreign country: they do things differently there’). Precies zo’n vorm van Hineininterpretierung kenmerkt het latere werk van Henry Brooks Adams, die als achterkleinzoon van founding father John Adams soms wel de ‘laatste aristocraat van America’ werd genoemd. In een manuscript uit 1909, getiteld The Rule of Phase Applied to History, kunnen we lezen hoe deze uitzonderlijk leergierige telg van de Adams-dynastie een stoutmoedige poging heeft gewaagd de thermodynamiek van de fysicus Josiah Willard Gibbs toe te passen op de ganse mensengeschiedenis. Adams, die zich er in zijn magistrale opus Mont-Saint-Michel and Chartres (een van mijn persoonlijke favorieten) niet voor had geschaamd een diepe kennis van middeleeuwse poëzie, theologie, mystiek, en architectuur op een erg speelse wijze te laten resoneren in een caleidoscopisch totaalportret, bewees zo in zijn latere jaren nog maar eens zijn veelzijdigheid door bij de geschiedkundige theorievorming enkele baanbrekende ontwikkelingen uit de harde wetenschappen te betrekken.
Met behulp van de faseregel (‘the rule of phase’) kan elk thermodynamisch systeem in evenwicht worden beschreven aan de hand van drie variabelen: druk, temperatuur en volume. Adams zag meteen analogieën met historische verschijnselen. Druk, temperatuur en volume konden, binnen een geschiedkundig raamwerk, worden vertaald naar, respectievelijk, attractie (de voorwaartse beweging van de geschiedenis), versnelling (het geleidelijk opvoeren van die voorwaartse beweging) en het denken zelf (of eerder ‘de wereldgeest’, in een pseudo-Hegeliaanse zin). Daarnaast kon het fasebegrip zelf worden opgevat als een afgebakende tijdsperiode van relatieve inertie, waarbinnen telkens een fasetransitie wordt voorbereid onder invloed van allerlei attractoren (menselijke motieven en drijfveren). Adams wist dit allemaal samen te vatten in een beknopt algemeen schema:
Onder de faseregel wordt de Idee van de mens, begrepen als een enkele substantie die een reeks van historische fasen doormaakt, aangenomen zich analoog aan water te gedragen, zodat zij van de ene fase op de andere overgaat via een reeks kritische punten die telkens worden bepaald door de drie factoren aantrekking, versnelling en volume, voor elke verandering van equilibrium.
Binnen dit schema worden faseveranderingen gelijkgeschakeld met wat Adams de overgangen tussen historische ‘vormen’ of ‘richtingen’ noemt. Volgens Adams vond de laatste grote vormverschuiving plaats in de vage tussenperiode waarin we doorgaans namen als Galileo Galilei, Francis Bacon en René Descartes onderbrengen. ‘Niets,’ meent Adams, ‘kan met meer eensgezindheid worden vastgesteld dan de koerswijziging tussen het gedachtegoed van Sint Augustinus en dat van Lord Bacon.’ Inderdaad hebben we sinds de dagen van Bacon en Descartes te maken gehad met een sterk toegenomen attractiegehalte tussen ‘de som van de natuurkrachten en het volume van de menselijke geest.’ Als gevolg van deze algemene ‘verwetenschappelijking’ werd de Europese samenleving terstond een nieuwe fase binnen geloodst. Maar zoals Adams niet met zekerheid kon zeggen waar de vorige fase – de ‘religieuze fase’ – precies ten einde was gekomen, zo blijkt het moeilijk een einddatum voor de nieuwe ‘mechanische fase’ te fixeren. Bevinden we ons vandaag nog steeds in die mechanische fase, of heeft zich intussen alweer een nieuwe vormverschuiving voltrokken? Zijn we misschien al toe aan wat Adams de ‘etherische fase’ noemde? Was de digitale revolutie inderdaad geen ‘overgang van het materiële naar het immateriële’, en belooft de ontwikkeling van AI, die vrijwel gelijktijdig met de digitalisatie verliep, die overgang niet te vervolmaken?
Adams beschrijft de etherische fase als een periode van mentaal solipsisme: ‘Het denken in termen van Ether betekent alleen het denken in termen van zichzelf.’ De etherische fase wordt begrepen als een verlossing van ‘het beletsel van de materie’, waaronder de geest tot nog toe gebukt gaat. Deze verlossing doet meteen denken aan het slotstuk van de Fenomenologie van de geest van G.W.F. Hegel, waarin de geest na ontelbare omzwervingen eindelijk bij zichzelf terecht komt en zo het ‘absolute weten’, of ook, de ‘Golgotha [de schedelplaats] van de absolute geest’ ontdekt. Eenmaal verankerd in het absolute, kan de geest eindelijk tot rust komen; het absolute is zo ook de absolutie, de lang verwachte verlossing. Waar Hegel zich bij het beschrijven van de absolute geest echter beroept op een graal- of kelkmetafoor – ‘die Kelche dieses Geisterreiches’ – vergelijkt Adams het traject van de geest met de baan van een komeet of meteoor, waardoor hij zich aansluit bij een heel andere traditie dan die van het Duitse idealisme.
Figuur: Newtons komeet van 1680 als metafoor voor de ‘calculated curve… of Thought’ tussen 1600 en 1900.
De meteoormetafoor figureert prominent in de doctoraatsdissertatie van Karl Marx uit 1841 over Het verschil tussen de Democritiaanse en de Epicuristische natuurfilosofie, waarin de jonge Marx het Epicurisme probeerde te bepleiten vis-à-vis alle voorgaande Griekse filosofische systemen. Volgens Marx week het Epicuristische model van de hemellichamen (meteoren, van meteoros, ‘hooggeheven’) zodanig af van ‘de opinie van de Griekse filosofie in haar geheel’, dat men zonder overdrijven mocht stellen dat ‘Epicurus zich [had verzet] tegen de visie van het hele Griekse volk.’ Voor zowat alle Griekse wijsgeren was de hemel het referentiepunt par excellence. De hemellichamen waren niet alleen eeuwig en onveranderlijk; ze waren bovendien heilig, goddelijk. De hoogste regionen van de hemel werden ‘Ether’ genoemd; zij bevatten de lucht die door de goden werd geademd. Hoewel de etymologie leert dat ‘Ether’ afkomstig is van aíthein, wat ‘branden’ wil zeggen (zoals het branden van de zon), dacht Marx dat zij de zin van de eeuwige vitaliteit vertolkte: thein aei, ‘eeuwig lopen’. De Epicuristische levenswijze had als hoogste prioriteit het vrijwaren van de zogenaamde ataraxía of ‘gemoedsrust’ van het individu (dat wil zeggen, de persoon als sociaal atoom). Voor Epicurus vormde ‘het [volgens hem tegengestelde] geloof dat de hemellichamen gelukzalig en onsterfelijk zijn en tegelijk bewegingen aannemen ten gevolge van een wilsdaad (D. L. 10.81)’ de grootste belemmering voor de individuele gemoedsrust omdat zo’n geloof overeenstemt met een veralgemeend mythisch waangeloof in de onderwerping van de mens aan grillige, bovennatuurlijke krachten.
Het ‘project’ van Epicurus is er een van ‘onttovering’ (zoals Max Weber zou hebben gesteld). Door onszelf te ontlasten van het heerschap van ‘de murmelende bovenwereld’ (Lucr. 1.62), zullen wij ‘op gelijke voet met de hemel komen te staan’ (Lucr. 1.62). Alleen wanneer er niets onheilspellends meer boven ons hoofd hangt, kunnen we volgens Epicurus tot rust komen. Ook de meteoren moeten dus worden ontdaan van hun aureool. Enerzijds mogen de meteoren niet onrechtstreeks door de goden worden bewogen omdat dit zou betekenen dat de goden zich moeten bezighouden met ‘bestuurszaken’, wat indruist tegen hun ‘absolute verhevenheid’ en heilige gemoedsrust. Anderzijds mag niet worden toegegeven dat de meteoren zelf een goddelijke statuur genieten, omdat dit ‘ernstigste geestelijke verstoringen’ zou teweegbrengen. Zo worden alleen naturalistische oorzaken (uitgedrukt in termen van atoomconfiguraties) toegelaten als verklaringen voor het doen of laten van de meteoren.
Marx herkende in de behandeling door Epicurus van de meteoren ‘de ziel van de Epicuristische natuurfilosofie,’ omdat hier de diepe kern van de leer opduikt: Volgens Marx kan men de meteoren immers beschouwen als de zichtbare evenbeelden van de onzichtbare atomen uit de atomaire natuurfilosofie van Epicurus. Inderdaad zijn de meteoren ‘werkelijk geworden atomen’. De meteoren zijn daarom feitelijk ‘het culminerende punt’ van het Epicuristische systeem: concrete, autonome, zelf-beschikkende, zelf-bestemmende individuen, vormgegeven in de uitwendige natuur. Waarom Epicurus zich zo vijandig opstelt jegens deze meteoren (volgens Marx ‘zijn meest flagrante contradictie’) – die in alle eerlijkheid zijn paradigma bij uitstek vertegenwoordigen – laten we hier in het midden; het antwoord put waarschijnlijk uit dezelfde kerngedachte die we aantreffen in Les Chants de Maldoror:
Ik kan niet toegeven aan enige dubbelzinnigheid in mijzelf. Ik wil eenzaam verwijlen bij mijn intieme rede. Autonomie… of anders veranderen ze me maar in een nijlpaard. Begraaf jezelf ondergronds, o anoniem stigma, en verschijn nooit meer aan mijn verwilderde verontwaardiging. Mijn subjectiviteit en de Schepper zijn te veel voor één brein.
De spanning tussen de subjectiviteit van Epicurus en de sublieme zelfgenoegzaamheid van de meteoren bleek eveneens te veel voor één brein. De subjectiviteit van Epicurus was immers zo’n meteoor, en kon buiten zichzelf geen bovennatuurlijk agentschap verdragen. Diezelfde meteoor treffen we aan in de mechanistische historiografie van Henry Adams, en met de ontwikkeling van AI dreigt zij intussen de Ether te bereiken, of eerder wat Epicurus de metakosmos of Intermundia –de ‘tussenwereld’ – noemde, waar de Epicuristische dei otiosi (‘de inactieve goden’) hun luilekkerleventjes leiden in volstrekte eenzaamheid en ongenaakbaarheid.
Dat onze moderne geschiedenis, inclusief het huidige techno-optimisme, ‘meteorisch’ verloopt, hoeft niet te verbazen. De ontwikkeling van AI – met name de architectuur die ten grondslag ligt aan ‘large language models’ (LLM’s) zoals ChatGPT – bouwt voort op cognitieve theorieën die voor het eerst werden uitgewerkt in de loop van de zeventiende, achttiende en negentiende eeuw onder invloed van de herontdekking van het Epicurisme. Dezelfde namen waaraan wij onze politieke overwegingen te danken hebben – de grondgedachten van het politieke liberalisme – liggen aan de bakermat van de moderne cognitieve wetenschap, die op haar beurt de inspiratie vormde voor het computationele intelligentiemodel. Namen als Thomas Hobbes, John Locke, David Hume en John Stuart Mill zullen velen bekend in de oren klinken vanwege hun relevantie voor de epistemologie en de politieke filosofie. Dat zij echter allen door Epicurus waren beïnvloed en daarenboven psychologische inzichten verschaften die fundamenteel zouden blijken voor de ontwikkeling van AI is wellicht een stuk minder vanzelfsprekend.
Artificiële intelligence en de ‘phantasmal chaos of association’
LLM’s zoals ChatGPT worden onder de ‘machine learning’ (ML) modellen gerekend tot de diepe (generatieve) artificiële neurale netwerken. Zulke netwerken worden ‘getraind’ op gigantische ongestructureerde digitale corpora met als doel het volgende woord in een gegeven sequentie van woorden te kunnen genereren. Dat LLM’s gebruik maken van een trainingsmethode die ‘self-supervised learning’ wordt genoemd, doet er niet zo toe; ‘self-supervised learning’ is slechts een van de vele verschillende training-paradigma’s waaraan ML modellen kunnen worden onderworpen (andere voorbeelden zijn ‘supervised learning’ en ‘reinforcement learning’). Wat ons voornamelijk interesseert is het cognitieve model dat aan deze netwerken ten grondslag ligt.
In een essay uit 1951 met als titel Intelligent Machinery, A Heretical Theory, beschreef de computerwetenschapper Alan Turing als een van de eersten hoe een machine gradueel kon worden blootgesteld aan nieuwe ‘ervaringen’ zodat zij gaandeweg zou leren omgaan met een steeds ‘groter bereik aan omstandigheden’. Turing dacht dat het ‘leerproces waarschijnlijk [kon] worden versneld met behulp van een geschikte selectie van de ervaringen waaraan men [de machine] zou onderwerpen.’ Hiermee formuleerde hij de grondgedachte van het machinaal leren. Deze gedachte stemt echter overeen met een zeer specifieke kijk op wat leren precies inhoudt: het zogenaamde ‘associationisme’, waarvan artificiële neurale netwerken zoals LLM’s telkens uitgaan. Het associationisme is inderdaad een cognitief model volgens hetwelk de ervaring of empirie de leerfaculteit bij uitstek uitmaakt, en zowat alle kennis uit de ervaring kan worden afgeleid.
Afgezien van enkele intuïties in het werk van Plato, Augustinus en Zeno van Citium, en een zeer pregnante, Aristotelische passage omtrent de werking van het geheugen, duikt het associationisme als zodanig voor het eerst op in de biografie van Epicurus geschreven door Diogenes Laërtius. Volgens Epicurus ‘worden al onze noties afgeleid van percepties, ofwel door direct contact, ofwel naar analogie, ofwel naar gelijkenis, ofwel door synthese, met slechts geringe inbreng van de rede (D.L. 10.32).’ Men treft dezelfde gedachte veel later aan in An Essay Concerning Humane Understanding van Locke en vooral in A Treatise on Human Nature van Hume. Locke spreekt over de menselijke geest als een tabula rasa of ‘onbeschreven blad’ (eigenlijk is zijn letterlijke bewoording ‘een wit papier’) zonder intrinsieke, ingeboren kennis (‘zonder enige karakters’) – vergelijkbaar met een ongetraind neuraal netwerk voorzien van willekeurig geïnitialiseerde parameters – dat vervolgens gaandeweg met ervaringen moet worden ingevuld. De notie van de ziel als een tabula rasa kwam weliswaar al voor bij Aristoteles (en later bij Thomas van Aquino), maar bij Locke krijgt deze idee voor het eerst een uitdrukkelijk empirische omschrijving. Inderdaad had het concept van de tabula rasa bij Aristoteles en zijn volgers eerder betrekking op wat zij de passieve geest (‘datgene wat alles wordt’) noemden. Zij onderscheidden deze passieve geest van de actieve geest (de zogenaamde nous poiētikos die ‘alles maakt’), waarvan gezegd werd dat zij ‘van nature’ geen substantie, maar pure activiteit (energeia) was.
Hoe vruchtbaar het gedachtegoed van Locke ook was, voor een grondige uitwerking van het associationisme moeten we bij Hume zijn; het is dan ook aan hem dat we deze theorie in haar klassieke vorm te danken hebben. In De Rerum Natura van Lucretius (het Latijnse leerdicht dat de filosofie van Epicurus als geen ander heeft weten te populariseren) lezen we dat ‘wat we met de geest zien en wat we met de ogen zien noodzakelijk door dezelfde processen moeten worden voortgebracht, voor zover dat het ene fenomeen gelijkaardig is aan het andere (Lucr. 4.722-776).’ Ongeveer hetzelfde treffen we aan in het werk van Hume: ‘Aangezien alle ideeën afgeleid worden van impressies, en deze niets dan kopieën en representaties ervan zijn, moet wat waar is voor het ene ook erkend worden voor het andere. Impressies en ideeën verschillen slechts in sterkte en helderheid.’ Volgens Hume ‘worden al onze eenvoudige ideeën… van eenvoudige impressies afgeleid, die met hen corresponderen, en die ze precies vertegenwoordigen.’ De Humeaanse vorm van associationisme blijft dus trouw aan de idee dat alle kennis haar oorsprong in de ervaring vindt. Volgens het ‘kopieerprincipe’ worden impressies telkens naar exact corresponderende mentale ideeën vertaald, en leiden sterk geassocieerde impressies (impressies die vaak samen voorkomen) eveneens tot sterk geassocieerde ideeën. De ‘associations’ of ‘connexions’ van Hume – ‘associationisme’ wordt soms ook wel ‘connectionisme’ genoemd – maken de grondstructuur uit van zijn associatieve leerparadigma. Binnen dit leerparadigma valt alle kennis te herleiden tot een onderlinge associativiteit tussen ideeën, die op hun beurt iets zeggen over de relationele structuur van de impressies waarvan zij de afgeleiden zijn.
Neurale netwerken zijn Humeaans in zoverre dat zij werden ontwikkeld om via een connectieve structuur (een netwerk van onderling verbonden artificiële neuronen) associatieve patronen te leren herkennen in de ‘selectie van ervaringen’ of impressies waaraan zij worden blootgesteld. Als deze patronen eenmaal zijn aangeleerd (aan de hand van wat Turing ‘learn by experience’ noemt), kunnen de netwerken worden toegepast op tot nog toe ongeziene scenario’s waarop zij dan gepast proberen te reageren met behulp van hun al vergaarde kennis. Zoals gezegd, worden LLM’s zoals ChatGPT blootgesteld aan stapels ongestructureerde tekst, vaak van het internet geplukt, waarin ze dan erg lange, complexe associatieve patronen proberen ontdekken. Gegeven een stuk tekst als invoer, zal de LLM het meest waarschijnlijke daaropvolgende woord raden. Welk woord hier wordt geselecteerd hang af van de eerder aangeleerde relaties en associaties tussen individuele woorden en hun omliggende tekstuele contexten.
In de deining van het huidige techno-optimisme – er is momenteel zelfs sprake van een ‘AI boom’ – hangt het succes van LLM’s en andere generatieve modellen nauw samen met een hernieuwd geloof in (en angst voor) de dreiging van artificiële algemene intelligentie (AGI). AGI is de term die we plakken op vormen van artificiële intelligentie die ‘neurotypische’ menselijke vaardigheden kwalitatief weten te evenaren of zelfs overtreffen. Zo ongeveer sinds Samuel Butlers Darwin among the Machines, een artikel uit 1863, vreest men dat de mens uiteindelijk zijn eigen ‘opvolgers’ zal voortbrengen, dat het ‘mechanische leven’ (en nu ook het digitale) het menselijke leven zal verdringen en misschien zelfs verwoesten. (Ook in het boek Dune van Frank Herbert wordt soms cryptisch verwezen naar een ‘Butlerian Jihad’, een kosmische oorlog die als doel had alle ‘thinking machines’ meedogenloos te verdelgen nadat deze vermoedelijk de menselijke samenleving hadden bedreigd – een weinig subtiele allusie op het ‘technopessimisme’ van Samuel Butler.) OpenAI zelf rekent AGI tot een van de hoogste, meest lovenswaardige streefdoelen die de mensheid zichzelf heeft gesteld. Tezelfdertijd zou AGI onze ondergang kunnen inleiden: ‘Op een succesvolle manier overgaan naar een wereld met superintelligentie is waarschijnlijk het belangrijkste… project in de menselijke geschiedenis. Succes is verre van verzekerd [maar] de inzet (oneindige voordelen en oneindige nadelen) zal hopelijk volstaan om ons te verenigen’.[1]
Besluit
In het slotstuk van dit essay wil ik beargumenteren waarom het onwaarschijnlijk is dat het huidige techno-optimisme zal leiden tot AGI. Ook zou ik graag nog kort aanhalen wat de aanhoudende vooruitgang wel zal teweegbrengen. Aangezien de meest geavanceerde AI-modellen van vandaag (waarvan tegenwoordig geregeld wordt gedacht dat zij al ‘vonken van AGI’ vertonen) alle berusten op een associationistische cognitieve theorie – volgens cognitiewetenschapper Jerry Fodor ‘motiveert de idee dat het brein een neuraal netwerk is [inderdaad] de wedergeboorte van een grotendeels in diskrediet gebrachte associationistische psychologie’ – zou het oneerlijk zijn er veel meer van te verwachten dan wat het Epicurisme van de mens verwacht. Een godgelijke associationistische superintelligentie zou hoogstens lijken op een Epicuristische deus otiosus. Het intellectueel vermogen van een dergelijke technologie zou dan ook voor het merendeel inactief zijn, wat het moeilijk maakt om werkelijk van intelligentie te spreken.
Een meer uitgebreide bespreking van de omvang van een intrinsiek menselijke intelligentie – waar een AGI dus mee zou moeten wedijveren om werkelijke algemeen te mogen heten – ligt buiten het bestek van dit essay (een toekomstige verhandeling zal zich hierop toespitsen). Om de grenzen van de Epicuristische AI na te sporen, zullen we ons moeten behelpen met de schetsmatige kritiek van enkele denkers die zich vroeger al hebben afgezet tegen het psychologisch reductionisme van de associationistische school. De dichter William Blake, bijvoorbeeld, schreef een associationistische psychologie toe aan zijn mythologisch-literaire figuur ‘Urizen’, die voor hem dé representant was van het nieuwe empiristische cognitivisme. Binnen de visionaire kosmologie van Blake verpersoonlijkte Urizen de ‘horizon’ van de verlichte geest. Deze horizon (of ook: ‘your reason’), gegeven door de afhankelijkheid van het Britse empirisme van de vijf zintuigen, diende om de geest in te sluiten in een ‘narrow circle’. Blake beschreef deze ‘narrow circle’ elders ook als een ‘dark mansion’ waarin Urizen zichzelf vrijwillig had opgesloten.
Het associationisme van Urizen ging volgens Blake (paradoxaal genoeg) gepaard met een gevaarlijke, duistere ‘interioriteit’, net de blinde zelfbetrokkenheid die we eerder nog bij Adams aantroffen in de ‘etherische fase’. Zo was er in The Book of Urizen sprake van ‘narrowing perceptions’ (‘vernauwende percepties’) – een subtiele verwijzing naar de passieve ‘impressies’ van Hume – en van Urizen zelf als een ‘self-contemplating shadow… dark revolving in silent activity’ (een ‘zelf-beschouwende schaduw… duister kolkend in zwijgzame activiteit’). Door alle cognitieve activiteit te herleiden tot ‘the Train of our own Ideas’ (Locke) of ‘the constant revolution of our ideas’ (Hume), raakt de associatieve geest verdwaald in een innerlijk spiegelpaleis. Zo kan zij, ondanks alle ervaringsgerichtheid, geen greep krijgen op de dynamisch evoluerende buitenwereld (laat staan de hogere, visionaire, transcendente dimensies van ons bestaan), die voor haar uiteindelijk ontoegankelijk is. (Volgens Hume heeft het moderne empirisme inderdaad als ‘fundamentele principe’ dat alle opvattingen over de werkelijkheid ‘niets dan indrukken zijn in de geest, afgeleid van de inwerking van uiterlijke objecten, en zonder enige gelijkenis met de eigenschappen van die objecten.’ Het is een van de grootste paradoxen van de moderne filosofie dat net het empirisme en materialisme uiteindelijk aanleiding geven tot solipsisme en zelfs immaterialisme—bijvoorbeeld ook bij Bishop Berkeley. Maar dat volgt noodzakelijk wanneer men, zoals Hume, erop aandringt dat het ‘onmogelijk is voor ons zelfs maar een idee te vormen van iets dat specifiek verschilt van ideeën en impressies… Laten we onze verbeelding tot in de hemel najagen, of naar de uiterste grenzen van het universum; we komen nooit echt een stap verder dan onszelf, noch kunnen we ons een ander bestaan voorstellen dan die percepties die in die enge omtrek zijn verschenen.’)
Figuur: William Blake’s ‘The Ancient of Days setting a Compass to the Earth’—een van Blake’s favoriete verbeeldingen van Urizen.
Voor een nog scherpere beoordeling gaan we ten rade bij de Engelse dichter Samuel Taylor Coleridge. Net als Blake stond Coleridge erg kritisch tegenover het associationisme (dat hij echter, anders dan Blake, ooit zelf had onderschreven). Volgens Coleridge zou het een groot onheil voor de mensheid zijn als zou blijken dat het associationisme waar was: als gevolg van deze theorie zou ‘ons hele leven verdeeld zijn tussen het despotisme van uitwendige impressies enerzijds en het despotisme van een zinloos en passief geheugen anderzijds.’ Het associationisme betekende voor Coleridge een ‘onderwerping van de doeloorzaak [de causa finalis] aan de efficiënte oorzaak [de causa efficiens] in het menselijk wezen.’ Belangrijke geestelijke faculteiten, zoals de wil en de aandacht, worden zo gereduceerd tot ‘delen en producten van [een] blind mechanisme,’ in plaats van zelf als ‘aparte bevoegdheden’ te worden beschouwd. Al bij al dreigde de geest te bezwijken onder een ‘phantasmal chaos of association’.
Alles goed en wel, maar dit blijft natuurlijk erg vaag. We mogen de afkeer van Coleridge jegens het associationisme dan wel instinctief delen, dan nog blijft het moeilijk ons voor te stellen hoe een ‘phantasmal chaos of association’ er in de praktijk uit zou zien. Gelukkig probeert Coleridge zijn kritische beschouwingen verder te illustreren met een toch wel indringend voorbeeld. Associationisme ‘aan den lijve ondervonden’ lijkt volgens Coleridge sprekend op een soort ‘light-headedness’, een soort duizeligheid. Een jonge vrouw uit Göttingen zou blijkbaar twee jaar vóór het bezoek van Coleridge aan die stad zijn bezweken aan een ‘koortsachtige nervositeit’. Wat de waarheid van dit anekdotische geval ook moge zijn, van belang is dat de vrouw in dit verhaal onophoudelijk begon te bazelen in allerlei vreemde talen – ‘in zeer pompeuze tonen en bovendien met een klaar en duidelijke uitspraak.’ De zinnen die door de jongedame werden uitgekraamd, waren ‘elk apart coherent en verstaanbaar, maar hielden slechts weinig verband met elkaar’. Ze leek precies bezeten door ‘een zeergeleerde duivel’, net alsof het een buikspreker betrof die zomaar een lappenpop aan het dansen had gebracht.
Wanneer we dit proberen te betrekken op LLM’s dan stellen we vast dat zij inderdaad ‘zeergeleerde duivels’ zijn die, net zoals de jongedame in het verhaal van Coleridge, grotendeels zinvolle uitvoer kunnen produceren (wanneer ze niet ‘hallucineren’), maar steeds het onderliggende verband van die uitvoer missen. Voor wie met LLM’s als ChatGPT vertrouwd zijn, klinkt dit misschien vreemd – zeker gegeven hoe coherent en relevant de antwoorden van ChatGPT vaak wel niet zijn. De relevantie van de antwoorden van ChatGPT is echter te danken aan een gigantische parameterruimte die het model in staat stelt zeer lange associatieve patronen te bevatten. (Modellen van OpenAI werden inderdaad met miljarden of zelfs triljoenen parameters getraind.) LLM’s hebben aangetoond dat associatief leren, zeker wanneer het wordt opgeschaald, ons een erg overtuigend simulacrum van taalbegrip kan voorhouden. Het is echter onwaarschijnlijk dat het nabootsen van statistische patronen in voorgekauwd menselijk taalgebruik gemakkelijk of noodzakelijk kan worden vertaald naar interactieve en dynamische omgang met de wereld (toch uiteindelijk de maatstaf van intelligentie). Associatief leren is steeds passief leren en passief leren veronderstelt dat men geen actieve betrokkenheid bij de wereld (wat Martin Heidegger ‘in-de-wereld-zijn’ noemde) behoeft om die wereld te leren kennen.
De ingebakken passiviteit van het associationisme hoeft ons niet te verbazen. Voor Epicurus was het doel van het leven gemoedsrust te cultiveren en hiervoor volstond het (was het zelfs nodig) de wereld zo veel mogelijk op afstand te houden. Een leermodel dat de wereld op afstand houdt, kan die wereld enkel maar indirect aangrijpen en zal er dus slechts minimaal vertrouwd mee raken: de verworven kennis kan vrijwel onmogelijk getuigen van een intieme familiariteit met het materiaal waarop zij betrokken is. Hume deed er daarbovenop alles aan om het belang van de actieve geest van Aristoteles zo veel mogelijk in diskrediet te brengen: ‘De opinies van de antieke filosofen, hun ficties omtrent substantie en accident, en hun redeneringen over substantiële vormen en occulte kwaliteiten, zijn zoals de spookbeelden in de duisternis’. Zulke opinies krijgen volgens Hume slechts vorm in ‘zwakke geesten’ die zich laten leiden door ‘elke triviale neiging van de verbeelding’. Zo worden de antieke filosofen, met name Aristoteles, vergeleken met kinderen en dichters die geregeld ten prooi vallen aan grove sofismen, en krijgt de antieke filosofie van de actieve geest de vulgaire status van ‘sophistry and illusion’ toegemeten.
LLM’s als ‘zeergeleerde duivels’ omschrijven is bijzonder toepasselijk omdat ze het cliché van de rat de bibliothèque, de boekenwurm, tot in het extreme doortrekken: de teksten waarmee LLM’s worden gevoed, reflecteren zelf een ruim magazijn aan moeizaam vergaarde wijsheid, en leveren zo een treffend bewijsstuk van het cumulatieve menselijke in-de-wereld-zijn over de eeuwen heen; zij veronderstellen natuurlijk ook steeds een menselijk oog om met al die kennis ook daadwerkelijk iets aan te vangen. De LLM is zoals de professor die nooit zijn lessenlokaal heeft verlaten, maar zich toch gemachtigd voelt filosofie (de drang naar levenswijsheid) te doceren – of zoals de ski-instructeur die nog nooit op latten heeft gestaan, maar wel elk boek over het onderwerp, inclusief persoonlijke getuigenissen, heeft verslonden en bovendien uren aan videomateriaal heeft bekeken. En eigenlijk schieten zelfs deze vergelijkingen nog tekort omdat de professor en de ski-instructeur allebei, tegen wil en dank, bij de geboorte in de wereld werden geworpen. Door hun belichaamde toestand, hun zogenaamd ‘enactivisme’, worden zij sowieso veroordeeld tot het verwerven van een basale hoeveelheid aan ‘levenscompetentie’ – iets waaraan zelfs de meest afgezonderde mens (jawel, zelfs Epicurus) niet kan ontsnappen, hoezeer men ook, onder meer aan de hand van de voortschrijdende digitalisering, het tegendeel probeert te bewijzen.
Het huidige techno-optimisme zal er waarschijnlijk in slagen zeer indrukwekkende zeergeleerde duivels op te leiden. Deze duivels zullen dienen als virtuele bibliothecarissen met een nagenoeg perfect rappelvermogen en een bijna griezelig talent om vergezochte koppelingen tussen weinig gecorreleerde kennisdomeinen te maken. Ze zullen echter geen algemene intelligentie vertonen. Het zijn en blijven ‘duivels’, ‘demonen’ (inderdaad noemde Blake Urizen een ‘Demon’), die uiteindelijk in dienst zullen staan van hun menselijke meesters. Dit wil, welteverstaan, geenszins zeggen dat men er niet voor moet oppassen, en de waakzaamheid zomaar mag laten varen. De afhankelijkheid van de meester van de slaaf laat de meester zelden onaangeroerd. Het lijkt misschien onschuldig wanneer zo’n duivel ons zoete woorden toefluistert en belooft al onze wensen in vervulling te brengen, maar net op die manier oefent hij een ander, verdoken soort meesterschap uit over degenen die van hem willen profiteren. LLM’s zullen de wereld niet overnemen; wat de menselijke geest betreft – dat is een heel ander verhaal.
Bibliografie
G.W.F. Hegel, Fenomenologie van de Geest, Uitgeverij Boom, Amsterdam, 2013
Henry Brooks Adams, The Degradation of the Democratic Dogma, The Macmillan Company, New York, 1919
Epicurus, The Essential Epicurus, Prometheus Books, Amherst, 1993
Lucretius, De Rerum Natura, E. P. Dutton, Boston, 1916
Karl Marx, The Difference Between the Democritean and Epicurean Philosophy of Nature, Progress Publishers, 1902
Comte de Lautréamont, Les Chants de Maldoror, Éditions de la Sirène, Parijs, 1920
Alan Turing, ‘Intelligent machinery, a heretical theory’, in: Philosophia Mathematica, 1996, blz. 256-260
Samuel Butler, The Notebooks of Samuel Butler: Author of ‘Erewhon’, E. P. Dutton & Co., New York, 1917
Diogenes Laertius, Lives of Eminent Philosophers, Harvard Press, Cambridge, 1972
John Locke, An Essay Concerning Human Understanding, Griffin & Co., London, 1825
David Hume, A Treatise on Human Nature, Penguin Group, London, 1985
William Blake, The Works of William Blake, Bernard Quaritch, London, 1893
Samuel Taylor Coleridge, Biographia Literaria, Clarendon Press, Oxford, 1907
[1] Sam Altman, ‘Planning for AGI and beyond’, 2023, (https://openai.com/blog/planning-for-agi-and-beyond).