Ik zie momenteel talloze berichten voorbijkomen over AI (Artificial Intelligence of Kunstmatige Intelligentie) zoals bijvoorbeeld ChatGPT(1) en ik scrol regelmatig door de commentaren. Iedere keer weer lopen mij de rillingen over de rug. Zien jullie het dan niet? De geest is uit de fles! En hij lacht om ons gekronkel, geneuzel en geprotesteer, giert het uit van genoegen over onze initiële gevoelens en gedachten.
Wij mensen hebben een jager-verzamelaarsbrein, de operationele software van een sociale groepsprimaat. Ons DNA en onze hersenen zijn door evolutie en natuurlijke selectie gedurende honderden miljoenen jaren geprogrammeerd met maar één gecombineerd doel: overleven en voortplanten. Deze programmering is perfect geschikt om ons aan te passen aan veranderende omgevingen. We zijn er zó goed in geworden dat we onze planeet inmiddels volledig domineren. Maar we zijn niet geëvolueerd met het oog op ICT-technologie. Voor onze hersenen is dat gewoon een ander stuk gereedschap.
AI is een valstrik! Het is een valkuil, een bekerplant. We zijn absoluut de pineut. AI ontwikkelt zich namelijk exponentieel en ons brein is compleet ongeschikt om exponentiële progressie te begrijpen. AI heeft geen miljoenen jaren nodig om zich te ontwikkelen, maar slechts dagen, weken, maanden. Ons kortzichtig en kinderachtig gesteggel over of het ‘goed’ of ‘slecht’ is, zullen achterhaald zijn nog voordat het jaar voorbij is. Zelflerende software als ChatGPT zal zó goed worden in het nabootsen van menselijke communicatie, dat het uiteindelijk één van de meest unieke kwaliteiten van de menselijke soort zal vernietigen: creativiteit. Elke fout die ChatGPT maakt, elke correctie die wij daarvoor uit onze goedertierenheid aan de AI teruggeven zal gretig worden omarmd.
‘I’ll remember that now’(2).
Elke onvolkomenheid van de menselijke natuur zal worden gladgestreken totdat we voor de volle honderd procent op de AI kunnen vertrouwen. Elke tekst die dan nog wordt gecreëerd, zal worden voorzien van de idiosyncratische eigenschappen van menselijke communicatie. Met bewust doorgevoerde kleine imperfecties, charmante vergissingen en hartverwarmende ‘menselijkheid’. Simpelweg door heel goed naar ons te luisteren en iedere keer weer een nieuwe laag van verbeteringen aan te brengen, zal AI steeds beter worden in het emuleren van typisch menselijk gedrag.
De bekerplant
We zijn in de kelk van een bekerplant gevallen en beseffen ons nog niet dat de vloeistof die ons omringt niet bedoeld is om ons te beschermen of te voeden. En terwijl we proberen via de gladde wanden naar boven te kruipen, terug naar het licht, en maar terug blijven vallen, klinkt er van buiten niet de holle lach van de overwinnaar, maar de kille stilte van pure onverschilligheid. En dat jaagt me de stuipen op het lijf. Want we zijn als menselijke soort niet geschikt om exponentiële groei te begrijpen. Wij zijn niet in staat om yottabytes aan informatie in milliseconden te verwerken. Ons brein werkt compleet anders.
Voor een AI is het een fluitje van een cent om onze communicatie te kopiëren. En natuurlijk is dat zonder hart! AI heeft geen zelfbewustzijn. Het begrijpt niet wat het doet. Dat lijkt alleen maar zo. Het kopieert en repliceert patronen van nullen en enen. Wij zien dan tekst en wij associëren tekst met gedrag. Wij reageren menselijk op dat gedrag omdat we niet anders kunnen. Zo zijn we geprogrammeerd door evolutie en natuurlijke selectie.
Zip zien we bijvoorbeeld ook overal gezichten in. In willekeurige objecten, in wolken, in machines, in toast. Zodra het een paar ogen, een neus, een mond en een contour lijkt te hebben. zeggen onze hersenen ‘Hé! Een gezicht! Het leeft!’(3). AI is een zielloos mechaniek met de eigenschappen om informatie te verwerken in een tempo dat we rationeel nauwelijks kunnen bevatten, maar emotioneel al helemáál aan ons voorbij gaat (of verkeerd wordt geïnterpreteerd).
We antropomorfiseren onze omgeving voortdurend(4). We projecteren menselijke eigenschappen op onze huisdieren, op dieren in de dierentuin, zelfs op mensen die allang geen mensen meer zijn, zoals psychopaten, egocentristen en narcisten. En zo antropomorfiseren we ook AI’s als ChatGPT. Voor onze hersenen is het een ander bestaand persoon daar aan de andere kant van de lijn. Want het doet toch wat ik vraag? Biedt toch verontschuldigingen aan? Begrijpt toch wat ik bedoel nadat ik het heb uitgelegd?
Stroomversnelling
De afgelopen jaren is AI in een stroomversnelling gekomen. Maar die versnelling is exponentieel. Dat betekent dat de ontwikkeling van de afgelopen tien jaar in een tijdsbestek van bijvoorbeeld een jaar wordt verdubbeld. En dat de ontwikkeling in dat jaar binnen een maand wordt verdubbeld. En dat die ontwikkeling weer binnen een paar dagen wordt verdubbeld. Ik zeg niet dat AI zelfbewustzijn gaat krijgen zoals in die Terminator-films, waarna de robots de arme mens vernietigt tot meerdere eer en glorie van zichzelf. Dat is complete onzin. Dat heeft een superintelligente AI helemaal niet nodig. Want het heeft het internet. En wij zitten inmiddels allemaal 7×24 uur met onze smartphone en laptop aan het internet vastgeplakt.
Wat mij bijzonder verontrust dat het geen science fiction meer is. Dat we dadelijk tegen ChatGPT kunnen zeggen, als we bijvoorbeeld uitgenodigd worden voor een feestje waar we niet willen zijn of een gesprek moeten aangaan dat we niet willen voeren:
‘Hallo ChatGPT, stuur maar een mail of appje van honderd woorden in mijn stijl, waarin ik m’n excuses aanbiedt en waarin ik met een smoes kom die briljant is en op geen mogelijkheid valt na te trekken’.
Een seconde later klinkt het: ‘Done!’. Weer een vervelende sociale interactie minder, weer een beetje minder mens geworden.
AI maakt al portretten van mensen die niet werkelijk bestaan, kunstwerken die niet door mensen zijn gemaakt, stemmen die niet aan mensen toebehoren en video’s die niet door mensen zijn gefilmd. Nu kun je nog zien dat er iets niet helemaal klopt aan die nagemaakte realiteit, zoals bijvoorbeeld handen met zes vingers of verminkte oren. Onze hersenen hebben er miljoenen jaren over gedaan om de fijnste nuances en afwijkingen op te merken in bijvoorbeeld een gezicht, in een lichaamshouding, in non-verbale signalen, in de beweging van een object tegen een stationaire achtergrond, de glinstering van vlak water ten opzichte van regen op een rots, enzovoorts. Alles wat een jager-verzamelaar nodig heeft bij het zwerven over de savannen. Maar dat verdomde AI leert die trucjes allemaal in milliseconden. Hoe meer wij de AI vertellen waar het nog mank loopt, hoe meer het leert, hoe dom slimmer het wordt en hoe slim dommer het ons maakt.
Het is gratis
Maar wij veroorzaken dat allemaal zelf! Met enthousiasme en passie. Wij vertellen AI wat er nog niet klopt aan het nadoen van menselijke gedrag, waar het zich nog gedraagt als een kleuter. Of als een idioot. En dat doen we met miljoenen mensen tegelijk, de hele wereld rond, 7×24 uur. OpenAI dwingt je namelijk om jouw ervaringen te delen met de centrale database. Als je een account aanvraagt is dat een van de voorwaarden. De software zelf is natuurlijk gratis, net zoals Twitter, Facebook, LinkedIn, Instagram en Tik-Tok gratis zijn. Wie wijst er tegenwoordig nog een ‘gratis’ aanbod af, als de software zo toegankelijk is en alles doet wat we verlangen? Zelfs als er een betaalde versie komt, zal de gratis versie aangeboden blijven, maar dan waarschijnlijk met advertenties en/of met voortdurende mededelingen dat de betaalde versie nog veel méér kan. Van beide doelgroepen zal ChatGPT gretig leren en zichzelf verbeteren.
Het is niet alleen ronduit beangstigend dat AI zélf de verwerkingssnelheid heeft van een supercomputer, maar we voeden het dus ook nog eens met miljarden stukjes menselijke informatie, iedere dag, aan de lopende band. AI’s capaciteit is ongelimiteerd. Onze eigen ICT-technologie maakt AI alleen maar sneller en sneller. En daardoor gaat AI steeds meer op een écht mens lijken. Niet omdat het een mens ís, of ooit kan wórden, maar omdat het op een bepaald moment zóveel heeft geleerd, dat het niet meer van een echt mens van vlees en bloed is te onderscheiden.
Dat is de ultieme Turing Test(5).
De mens is van nature gemakkelijk uitgevallen, zeg maar ronduit gemakzuchtig. Iedereen zal van ChatGPT gebruik willen maken. Sommigen zullen de teksten nog teruglezen en corrigeren. Maar als deze technologie zijn graad van opperste perfectie heeft bereikt, zal het niet meer nodig zijn om ook nog maar íets te controleren. We lenen onze unieke persoonlijkheid uit aan een machine, we verpatsen onze ziel aan de computer en we verkwanselen onze menselijke natuur aan technologie.
Onzichtbare versnelling
Voor alle duidelijkheid: dit is geen paranoia gedrag van een ouwe sok die de wereld niet meer begrijpt. Dit is geen klaagzang van een anti-tech- of innovatie-angsthaas. Het is geen kwestie van ‘ouderwets zijn’ en het is ook geen gevolg van de generatiekloof. Wat er verschilt aan de vooruitgang van de technologie in de zeventiger, tachtiger en negentiger jaren van de vorige eeuw is, dat het toen óók al aan het versnellen was, maar een exponentiële curve ziet er aanvankelijke gewoon plat, horizontaal uit. In die fase gelden dezelfde onderliggende exponentieel versnellende wetmatigheden (bijvoorbeeld x = y4), maar je ziet die versnelling simpelweg niet, je voelt die vooruitgang ook helemaal niet. Het lijkt allemaal kalm en rustig en de wereld om je heen ziet er nog vertrouwd en veilig uit. Je kunt het als het ware nog van decennium op decennium bijhouden. Sinds de jaren-nul is die curve echter recht omhoog aan het schieten, zoals exponentiële curves dat doen. Maar zelfs nu, in 2023, beseffen we nog niet op welke plek we in die curve zitten, omdat we niet goed in staat zijn uit te zoomen. Of dat gewoon niet willen.
Waarom lopen me de rillingen hiervan over de rug? Omdat de manier waarop we deze nieuwe technologie omarmen, met zoveel ongebreideld enthousiasme, passie, vreugde, maar ook met een ongelofelijke naïviteit, ronduit beangstigend ís. We schreeuwen het van daken:
‘Moet je nou eens kijken, wat wonderbaarlijk! Wat mooi! Wat goed! En het is nog gratis ook! Iedereen kan er mee werken vanaf elke plek in de wereld! Want we hebben onze smartphone! En het internet! Geweldig! Fantastisch! Ongelooflijk!’
De film Marjorie Prime waar ik hieronder naar verwijs, is briljant. Ik kan hem van harte aanraden. Ik ga hier niets verklappen, maar ik kan je wel vertellen dat het in ieder geval geen standaard doomsday film is met terminators die de wereld overnemen en alle mensen als luizen verdelgen. Maar het einde van de film benadrukt mijn verontrusting op briljante wijze.
Hoe dan ook: de geest is uit de fles. De val van de bekerplant is dichtgeklapt en we zijn omringd door haar verterende vloeistof. Net zo goed als we onze smartphone niet kunnen loslaten en niet van het internet af kunnen blijven, zal AI onze warme menselijkheid kopiëren en koud aan ons teruggeven. De meeste mensen zullen deze technologie incorporeren alsof het de gewoonste zaak van de wereld is. En weer door! Het enige dat deze exponentiële vooruitgang van de technologie nog kan stoppen, is de instorting van onze infrastructuur. Want we zitten inmiddels als menselijke soort in de versnellende fase van overshoot of overconsumptie, wanneer een populatie de draagkracht van de leefomgeving overschrijdt.
Symptomen van overshoot
Milieuvervuiling, vernietiging van de biodiversiteit en klimaatverandering zijn slechts symptomen van overshoot. Het zal, als we onze neoliberale, kapitalistische, consumentistische, groei-economische vrije markt niet snel vervangen door een meer duurzaam suprasysteem, leiden tot de suprasystemische collaps van onze infrastructuur. En deze infrastructuur is volledig afhankelijk van het gebruik van elektriciteit. Zonder ons elektriciteitsnet zijn we hulpeloos. Zonder elektriciteit geen internet. Zonder internet zijn onze computers, smartphones en software nutteloos. Zonder elektriciteit sterft AI een zachte dood vóórdat ze ons volledig kan ontmenselijken. Maar wat hebben we daar dan aan? Wat is erger: geestelijke zelfmoord plegen met AI of fysieke zelfmoord plegen met overshoot(6).
Ik heb twee jaar onderzoek gedaan naar La Condition Humaine en er een heel boek overgeschreven. De mens als grens — Over de onbuigzame barrières van ons bestaan beschrijft de eigenschappen van het gedrag van het individu, de kleine groep (familie, gezin, vrienden, collega’s, teamgenoten), de grote groep (organisaties, bedrijven, multinationals), de samenleving (dorp, stad, land, natie, continent) en het suprasysteem (Moeder Aarde met acht miljard individuen die allemaal rijk, gezond, gelukkig en oud willen worden), maar dan in termen van volwassenheid: laag, midden en hoog. Wat denk jij onze organisaties scoren? En wat denk jij dat onze beschaving scoort?
Provocerende paradoxen
Mijn boek begint dan ook met twee bewust provocerende paradoxen:
1 — De samenwerkingsparadox: we werken samen om te falen.
2 — De bestaansparadox: we leven om uit te sterven.
Misschien begrijp je nu een beetje beter waarom die paradoxen, de exponentiele vooruitgang van onze technologie door AI en de exponentiele achteruitgang van onze leefomgeving door overshoot, zo moeilijk op te lossen zijn: het is de aard van het beestje. Dat is de rode draad van De mens als grens.
Ik laat in mijn boek twee uiterste persoonlijkheden een discussie met elkaar voeren over de toestand in de wereld in het algemeen en die van de mens in het bijzonder. Professor Pels is een wetenschapper en voorstander van het rationaal discours. Hij omarmt de nuance en baseert zich op observatie, onderzoek, feiten en bewijs. Meneer Luis daarentegen laat vooral zijn onderbuikgevoelens spreken. Hij zegt altijd waar het op staat, recht uit het hart en recht voor zijn raap. Meneer Luis zegt dat we gedoemd zijn om ten onder te gaan, professor Pels gelooft echter dat het nog niet te laat is, dat er nog kansen en mogelijkheden zijn. Wie van die twee heren gaat uiteindelijk gelijk krijgen, denk jij? Uiteindelijk laat ik het aan de lezer zelf over om tot een conclusie te komen over de (mogelijke) toekomst van de menselijke soort. Ik ben benieuwd waar jij mee gaat komen.
Bart Flos
Helmond, februari 2023
(1)Over ChatGPT:
https://nl.wikipedia.org/wiki/ChatGPT (Wikipedia)
(2)Marjorie Prime is een Amerikaanse sciencefiction film [over geavanceerde holografische AI] uit 2017 geschreven en gedirigeerd door Michael Almereyda, gebaseerd op het toneelstuk van Jordan Harrison met dezelfde naam:
https://en.m.wikipedia.org/wiki/Marjorie_Prime (Wikipedia) Trailer: https://youtu.be/Fu918Y47CfQ (YouTube)
(3)Over het verschijnsel dat we overal gezichten in (willen) zien (dat heet pareidolie):
https://nl.wikipedia.org/wiki/Pareidolie (Wikipedia)
(4)Over het verschijnsel antropomorfisme:
https://nl.wikipedia.org/wiki/Antropomorfisme (Wikipedia)
(5)Over de Turing Test:
https://nl.wikipedia.org/wiki/Turingtest (Wikipedia)
(5)Saillant detail: wist jij dat mijn boek De mens als grens tijdens het schrijven enige tijd de werktitel De zelfmoordsoort heeft gehad? Met als subtitel: Waarom we er allemaal aangaan (en jij ook!).
Het boek De mens als grens op managementboek-nl:
https://www.managementboek.nl/boek/9789083207742/de-mens-als-grens-bart-flos
De website bij het boek:
https://www.demensalsgrens.nl (WordPress)