Er zijn, zoals steeds, twee soorten mensen: degenen die de huidige golf van artificiële intelligentie (A.I.) als iets aardschokkends ervaren; en degenen die, ogenschijnlijk in weerwil van alle gezond verstand, heel wat minder onder de indruk zijn. Geen van beide groepen heeft welteverstaan een monopolie op positieve of negatieve waardering. Onder degenen die zich hebben neergeworpen voor het altaar van A.I. vindt men evengoed een impuls tot het aanheffen van klaagzangen in het genre van de apocalyptiek als tot het componeren van triomfantelijke hymnen. Onder sceptici is de grondtoon een stuk ingetogener: er heerst een ijzige, gefrustreerde stilte die slechts hier en daar wordt afgewisseld met wat binnensmonds gemompel en afkeurende mimiek naar de tegenpartij. (Is dat immers niet een beetje smakeloos, de zoveelste modegril met bij momenten haast religieus getinte gravitas te beladen?)
Persoonlijk kan ik me eerder vinden in de houding van de tweede groep, zij het met de proviso dat ik de gemoedelijke sfeer daar soms een beetje te gezellig vind. Een ontwikkeling kan immers aanzienlijk gebrekkiger zijn dan zij wordt uitgedragen, zonder daardoor meteen overwegend onschuldig te zijn. Waarschijnlijk zal het uitblijven van karikaturale gevolgen er net des te meer voor zorgen dat A.I. op uiterst sinistere wijze grip krijgt op wat er nog overblijft van onze samenleving. Luttele jaren na hun aanvankelijke uitbouw en massale adoptie lijken generatieve A.I.-systemen (zoals bijvoorbeeld het ondertussen befaamde ChatGPT van OpenAI) er in feite al een potje van te hebben gemaakt. Zo is er, nog afgezien van de absurde computatiekosten die dergelijke systemen oplopen en de ongeziene welvaartskloven die wellicht zouden ontstaan als de koortsdromen van A.I.- aficionado’s effectief werden verwerkelijkt, mogelijk ook een niet verwaarloosbare cognitieve kost die ons behoorlijk wat zorgen mag baren.
Volgens Emily Bender, een prominent linguïst en A.I.-criticus, zouden generatieve A.I.-modellen niet veel meer zijn dan ‘stochastic parrots’, ofwel systemen die ‘sequenties van linguïstische vormen’ aan elkaar kunnen breien door hun onderlinge associatieve patronen statistisch na te bootsen. Bender denkt dat generatieve A.I.-systemen of ‘foundation models’ te vergelijken zijn met een ‘blind mechanisme’ – om met Samuel Taylor Coleridge te spreken – een artificieel geheugen of ‘memoria technica’ zonder vermogen tot geëngageerde betekenisgeving. Generatieve A.I. is inderdaad volstrekt passief, wat dan weer te wijten valt aan de associationistische psychologie die eraan ten grondslag ligt. (Zoals Edmund Husserl stelde: ‘elke in het donker verzonken activiteit bij associatieve opwekking [is] allereerst passief’.) Dit passieve associationisme is op zich een uitgroei van het empirisme dat onder andere door David Hume en David Hartley werd uitgedacht. Hume en Hartley wilden een ‘vraie science de l’âme’ (Simone Weil) uiteenzetten, om de werking van de geest mechanisch te kunnen verklaren. Ze gingen daarbij uit van ‘psychologisch atomisme’ (analoog aan de verwantschap tussen het empirisme als zodanig en de opkomst van de corpusculaire of atomistische filosofie), waardoor mentale activiteit op atomaire activiteit kon worden gemodelleerd, met associaties tussen individuele, atomaire ideeën geconcipieerd naar analogie met de attractie of cohesie tussen elementaire deeltjes.
Hoewel de term ‘stochastic parrot’ klaarblijkelijk bedoeld was om A.I. enigszins te ‘onttoveren’, lijkt Bender de bal te hebben misgeslagen. Sam Altman, de CEO van OpenAI, reageerde op Benders gebruik van de term met de tergende, maar ook bijzonder onthullende uitspraak: ‘i am a stochastic parrot and so r u’. De les is duidelijk: men kan aanhangers van het empirisme niet meer onttoveren; de empiristische filosofie is immers, zowel in historisch als zuiver theoretisch opzicht, de motor van de Entzauberung zelf. Voor mensen met enig resterend zelfrespect heeft dat misschien nog iets aanstootgevend, met een papegaai vergeleken worden; onder de lotuseters van Silicon Valley is het inmiddels je reinste ‘common sense’. Het gevaar bestaat er nu in dat Altman zijn gelijk nog zou kunnen halen. Voor zover de ontwikkeling van de moderne technologie een voortdurende verwerkelijking is van de hypothetische schijnwerelden die zij zuiver theoretisch vooropstelt, zal het geïnstitutionaliseerde gebruik van generatieve modellen er misschien nog in slagen ons om te vormen tot een nieuwe soort van papegaaiachtigen: de tot nog toe slechts sporadisch te bezichtigen homines stochastici zouden in dat geval weldra overal de kop opsteken.
De dominante kenmerken van zo’n nakende evolutionaire etappe kunnen nu al worden afgeleid uit het gedrag van de mechanische ‘intelligenties’ waar we reeds op grote schaal mee interageren: aangezien artificiële geheugens slechts bedreven zijn in het maken van statistische samenvattingen, blijkt hun uitvoer doorgaans nogal ‘middelmatig’, om niet ronduit mediocre te zeggen. A.I.-modellen geven weinig gewicht aan uitzonderingen, die immers statistische idiosyncrasieën vertegenwoordigen en dus weinig representatief zijn voor algemene patronen. Generatieve modellen die aan een ‘autofagisch’ dieet worden onderworpen en recursief met hun eigen uitvoer worden gevoed, degenereren dan ook aanzienlijk na slechts enkele vreetpartijen. De middelmatigheid wordt in dat geval zodanig overheersend dat er uiteindelijk nog nauwelijks iets zinvols wordt uitgekraamd. In de literatuur wordt dit ‘Model Autophagy Disorder’ (MAD) genoemd, naar analogie met de gekkekoeienziekte, een fatale neurodegeneratieve ziekte die microscopische ‘gaten’ achterlaat in het hersenweefsel.
Bijzonder griezelig is hoe we op gelijkaardige manier de gekmakende dynamieken van onze polariserende, digitaal gemedieerde massamaatschappij kunnen beschrijven: patiënten die lijden aan de menselijke variant van gekkekoeienziekte rapporteren vaak symptomen zoals nervositeit, angstigheid, depressie, insomnia, sociale afzondering, waanideeën en overgevoeligheid; zaken die we, weliswaar in mildere vormen, dadelijk associëren met de perikelen van langdurige blootstelling aan de virtuele wereld. Een van de typische kenmerken van virtuele omgang is overigens een extreem mediocre vorm van extremisme, ofwel een bijzonder verdovende variant van conformiteit die er geregeld toe leidt dat anders redelijke, vriendelijke mensen zich opeens enorm dom, waanzinnig en wreedaardig gaan gedragen. Online wordt mentale activiteit inderdaad vaak herleid tot loutere ‘activiteit in de passiviteit’, zoals we van een associationistische psychologie zouden verwachten; of tot een bijna instinctief ‘geknepen of gestreeld’ worden door het materiaal dat men te zien of te horen krijgt. Het is in deze lichtzinnige omgeving dat ook de generatieve modellen die nu in omloop zijn, grootgebracht werden. Bovendien wordt een steeds groter aandeel van de virtuele ‘ideeënvorming’ inmiddels door A.I. gedreven.
Voor zover onze leefwereld dus meer een meer geïntegreerd wordt met een zich autofagisch reproducerende virtualiteit (online ‘content’ door en voor A.I.), zijn er wellicht slechtere ideeën dan ons eens serieus af te vragen wat de repercussies hiervan zouden kunnen zijn. Zal Altman effectief gelijk krijgen? Ik vermoed eigenlijk van niet. Mensen zijn geen papegaaien; elke poging (zelfs de meest verregaande) om zo’n verwrongen zelfbeeld waar te maken, kan dus slechts bij benadering slagen. Het is echter geenszins uitgesloten dat virtueel aangestookte waanzin overloopt in het alledaagse leven; dat is sinds het ontstaan van het internet al talloze keren gebeurd (denk maar aan ‘QAnon’, ‘woke’, de zogeheten ‘manosphere’, enzovoort). Menselijke cognitie als zodanig mag dan niet te reduceren zijn tot een ‘blind mechanisme’, dat wil geenszins zeggen dat we niet al te vaak het laagste (i.e., het meest onbezonnene) in onszelf de bovenhand durven geven. Niemand minder dan John Locke was er zich pijnlijk van bewust dat de ‘association of ideas’ geregeld aanleiding kon geven tot ‘a Degree of Madness found in most Men.’ Locke alludeerde in het bijzonder op de ‘irreconcilable opposition between different sects of philosophy and religion’, die verder versterkt werd door ideologische feedbackloops (‘the constant din of their party’) of wat we vandaag ‘echokamers’ zouden noemen – die al van meet af van een zekere ‘autofagie’ getuigden, zelfs nog vóór de ideeënproductie kon worden geautomatiseerd (zoals intussen het geval is). A.I. speelt hier waarschijnlijk een katalyserende rol; hoewel het gebruik ervan in sommige gevallen misschien net kan aanzetten tot geïntensiveerde kritische reflectie (bijvoorbeeld naar aanleiding van de ‘hallucinaties’ waar A.I. zich al te vaak schuldig aan maakt), lijkt het voornaamste effect voorlopig toch de verdere uitholling van de gedachtegang, en vooral van de aandacht, te zijn.
Mij lijkt dit alles zonneklaar, of in ieder geval toch vrij aannemelijk. Dat desondanks weinig ervan overtuigend of doorslaggevend zal klinken voor wie rotsvast in het tegendeel gelooft, vind ik jammer genoeg ook best aannemelijk. Stug volhoudende associationisten moesten volgens Coleridge een bittere remedie worden voorgeschreven: ‘Such men need discipline, not argument; they must be made better men, before they can become wiser.’ Mensen zoals Altman die wanneer ze in de spiegel kijken, hallucineren dat ze een ‘stochastic parrot’ te zien krijgen, hebben dringend nood aan karakteriële verbetering om zichzelf niet meer zo laag te hoeven inschatten. Een kille, mechanische blik ziet overal slechts zijn eigen slaafse aard gereflecteerd; willen we ons mensbeeld alsnog boven de artificiële mediocriteit (en al de gekte die eruit voortvloeit) verheffen, dan zullen we allereerst zelf moeten deelnemen aan een mooier menszijn.
