Gebruiker: Mannen zijn allemaal hetzelfde.
Chatbot: In welk opzicht?
Gebruiker: Ze vinden altijd wel iets om ons lastig over te vallen.
Chatbot: Kan je een concreet voorbeeld geven?
Gebruiker: Nou, mijn vriend heeft me hierheen gestuurd.
Chatbot: Jouw vriend heeft je hierheen gestuurd?
Gebruiker: Hij zegt dat ik me vaak depressief voel.
Chatbot: Ik vind het jammer te horen dat je depressief bent.
Men zou gemakkelijk kunnen denken dat deze uitwisseling onlangs plaatsvond tussen ChatGPT en een menselijke gebruiker. Maar die conclusie zou onjuist zijn. Dit gesprek vond in werkelijkheid plaats in de jaren zestig tussen een computerprogramma genaamd ELIZA en een mens. Deze voorloper van ChatGPT — die in vergelijking bescheiden mogelijkheden had maar toch een vloeiend gesimuleerd gesprek met een menselijke gesprekspartner kon voeren — bestond al lang vóór de eeuwwisseling. Vandaag wordt ELIZA erkend als de eerste chatbot, de overgrootmoeder — als men het zo kan noemen — van de huidige grote taalmodellen zoals ChatGPT.
De ironie van het verhaal van ELIZA is echter dat de programmeur — net als Mary Shelleys Dr. Frankenstein — al snel het gevaar in zijn eigen creatie begon te zien. Een groot deel van zijn verdere loopbaan besteedde hij dan ook aan mensen waarschuwen voor artificiële intelligentie (AI). Hij leverde bovendien felle kritiek op het technologische en posthumanistische wereldbeeld dat door sommige pioniers van de AI-wetenschap werd uitgedragen.
De programmeur noemde Joseph Weizenbaum (1923–2008). Hij was een Duitse wetenschapper die als jongeman nazi-Duitsland ontvluchtte en een belangrijke rol speelde in de beginjaren van de gemeenschap rond kunstmatige intelligentie — een man die later desalniettemin een van haar scherpste critici zou worden.
Het ontstaan van ELIZA
Weizenbaum publiceerde het bovenstaande transcript in een wetenschappelijk artikel uit 1966, waarin hij uitlegde hoe ELIZA werkte. In wezen imiteerde ELIZA de Rogeriaanse stijl van psychotherapie, waarbij de patiënt het gesprek leidt. De therapeut onderbreekt af en toe met vragen of korte opmerkingen om de patiënt aan te zetten tot verdere reflectie. Dat model was ideaal voor een primitieve chatbot die wel een gesprek moest kunnen simuleren, maar nog niet verfijnd genoeg was om veel originele tekst te produceren.
ELIZA scande de invoer van de gebruiker op bepaalde sleutelwoorden, zoals “ik”, “jij” of “moeder”. Zulke woorden activeerden een bijbehorende regel die een zin of vraag als reactie genereerde, vaak door enkele woorden van de gebruiker in een vooraf vastgelegd antwoordpatroon te plaatsen. Daardoor ontstond de indruk dat de bot daadwerkelijk reageerde op de inhoud van de boodschap van de gebruiker. Als iemand schreef: “Ik ben verdrietig”, kon de machine bijvoorbeeld antwoorden: “Hoe lang bent u al verdrietig?” De betekenis van het woord “verdrietig” was daarbij irrelevant. De chatbot kopieerde het simpelweg uit de invoer van de gebruiker. Het werkte net zo goed met “depressief”, “blij”, “boos” of elk ander bijvoeglijk naamwoord. Als ELIZA geen sleutelwoorden oppikte in een uitspraak van de gebruiker, genereerde het systeem een algemeen antwoord, zoals “Ik begrijp het” of “Gaat u verder.”
De illusie werkte verrassend overtuigend. In zijn artikel uit 1966 merkte Weizenbaum op dat sommige proefpersonen “zeer moeilijk te overtuigen” waren dat ELIZA geen mens was. Toen hij zijn secretaresse het systeem liet testen, vroeg zij hem zelfs de kamer te verlaten zodat zij haar gesprek met de “therapeut” privé kon voortzetten. Weizenbaum had onbedoeld een fenomeen ontdekt dat later bekend zou worden als “het ELIZA-effect”: onze neiging om menselijke eigenschappen toe te schrijven aan levenloze machines.
Weizenbaum merkte dat de verleiding om menselijkheid of persoonlijkheid toe te schrijven aan ELIZA — en aan andere machines — niet alleen bij zijn secretaresse voorkwam. Hij begon zich ernstig zorgen te maken toen sommige psychiaters verkondigden dat ELIZA (of een variant ervan) misschien daadwerkelijk nuttig kon zijn voor therapeutische doeleinden. Weizenbaum was verbijsterd dat iemand echte psychische problemen aan dit speelgoed zou toevertrouwen. Zijn grondige kennis van de blinde, algoritmische werking van ELIZA maakte voor hem glashelder dat het systeem niet als een echte therapeut mocht worden behandeld. Het was een systeem dat net zo inert en onbewust was als een zakrekenmachine — en het had niets zinnigs te zeggen over het menselijk leven. Het idee vond hij “obsceen”.
De verontrustende ontdekking van het ELIZA-effect begon Weizenbaum zelf te verontrusten en bracht hem ertoe het kader van de relatie tussen mens en technologie opnieuw te overdenken. In een interview uit 1998 komt de diepgang en scherpte van zijn denken duidelijk naar voren. Daarin schetst hij zijn kritiek op het mechanistische wereldbeeld dat volgens hem ten grondslag lag aan pogingen om mensen door machines te vervangen.
“Deze auteurs — die AI promoten — verspreiden een uiterst gevaarlijk mensbeeld aan de vooravond van het nieuwe millennium”, zei hij tegen Bernhard Pörksen in dat interview.
“Het is gebaseerd op het idee dat de mens een machine is die — in principe en in de nabije toekomst — volledig kan worden begrepen en ontcijferd om hem te corrigeren en te verbeteren. Het centrale dogma van deze visie op de mens is dat elk aspect van het leven berekenbaar is — dat wil zeggen dat het kan worden teruggebracht tot berekenbare en formaliseerbare processen.”
In het interview richtte Weizenbaum zijn pijlen op de opkomende theorie van het transhumanisme. Volgens hem was die gebaseerd op een fundamenteel verkeerde opvatting van zowel de menselijke natuur als van de werkelijkheid in haar geheel. AI-enthousiastelingen droomden van een “beter model” van de mens — mensheid 2.0 — een versnelde evolutionaire sprong naar een hoger niveau, zelfs als dat betekende dat mensheid 1.0 overbodig zou worden. Weizenbaum vreesde dat deze denkers en wetenschappers, met een bijna religieuze overtuiging, bereid waren de mens van vandaag op te offeren voor de mens van de toekomst. Hij ging zelfs zo ver om de materialistische wetenschap “de dominante wereldreligie van vandaag” te noemen.
Door de mens te reduceren tot het niveau van een machine en de machine te verheffen tot het niveau van een god, vreesde Weizenbaum dat voorstanders van AI mensen aan het ontmenselijken waren. Hij vergeleek het met de nazi-retoriek tijdens de Tweede Wereldoorlog.
Hij verklaarde: “Ik geloof dat de essentiële overeenkomst tussen het nationaalsocialisme en de ideeën van [AI-theoreticus] Hans Moravec ligt in de degradatie van de mens en in de fantasie van een perfecte nieuwe mens die tegen elke prijs moet worden gecreëerd.”
Een bedreiging voor de mensheid
Weizenbaum sprak uit ervaring, want hij en zijn familie waren in 1935 uit Duitsland naar de Verenigde Staten gevlucht nadat zij de activiteiten van de nazi’s hadden meegemaakt.
Toch kon de verering van machines en technologie volgens hem nog catastrofaler uitpakken dan de giftige ideologie van het nazisme, omdat het doelwit niet één specifiek ras was, maar de hele mensheid. Aan het einde van de krankzinnige zoektocht naar de perfecte mens, merkte Weizenbaum op, “is de mens er niet meer”.
Weizenbaum zou waarschijnlijk hebben ingestemd met de gedachte van C.S. Lewis: “De menselijke natuur zal het laatste deel van de natuur zijn dat zich aan de mens overgeeft. … De strijd zal inderdaad gewonnen worden. Maar wie, precies, heeft hem gewonnen? … De uiteindelijke overwinning van de mens blijkt de afschaffing van de mens te zijn.”
Voor Weizenbaum was een verkeerd beeld van de mens gevaarlijker dan welk menselijk wapen ook. Het was vaak het motief voor het gebruik van wapens — het was niet het zwaard zelf, maar de arm die het zwaard hanteert. Hij zag een groot gevaar in het gelijkstellen van mens en machine. Door hen als gelijk te beschouwen, werd volgens hem de menselijke waardigheid en het respect voor het leven genegeerd, en werden menselijke lichamen gereduceerd tot louter “vleesmachines”.
Hij verklaarde: “Uit de geschiedenis van deze eeuw — misschien wel de meest brute eeuw — kunnen we leren hoe belangrijk het mensbeeld was bij de misdaden van het verleden. De gruwelijkste misdaden werden namelijk mogelijk omdat daders de menselijkheid van hun slachtoffers ontkenden.”
De tegenstanders van Weizenbaum baseerden hun hoop om de menselijke natuur te overstijgen via machine-intelligentie op de veronderstelling dat de mensheid, het menselijk gedrag en de menselijke ervaring uiteindelijk volledig gekwantificeerd, begrepen en opgelost zouden kunnen worden — en dus ook nagebootst en verbeterd. Weizenbaum hield daarentegen vol dat een mens en het universum waarin die mens leeft nooit volledig verklaard of “gehackt” kunnen worden.
“De wereld zit vol mysteries, en het credo van de AI-wereld dat alles berekenbaar is, ontkent het mysterie van het leven”, zei hij. “Het wekt de illusie van volledige transparantie en suggereert dat alle aspecten van ons bestaan kunnen worden ontrafeld.”
Hoewel zijn waarschuwing destijds voor velen klonk als de achterhaalde angst van een verstarde en wereldvreemde mopperkont, klinkt ze vandaag steeds relevanter.
Vaste overtuigingen, consequente waarschuwingen
In de decennia na ELIZA — en vooral nadat hij in 1976 het boek Computer Power and Human Reason: From Judgment to Calculation publiceerde — maakte Weizenbaums felle verzet tegen kunstmatige intelligentie hem tot een soort buitenstaander in de academische en wetenschappelijke wereld.
“Er zijn bepaalde taken die computers niet zouden moeten uitvoeren, los van de vraag of ze dat technisch gezien wel kunnen”, schreef hij in het boek.
Weizenbaum verzette zich openlijk tegen de ideeën van John McCarthy en Marvin Minsky, twee van de organisatoren van de Dartmouth-workshop in 1956, die het begin markeerde van het AI-onderzoek. Zowel McCarthy als Minsky werden pioniers van het vakgebied, dat in de beginjaren grotendeels werd gefinancierd door het Amerikaanse leger. McCarthy bestempelde Weizenbaums boek als “moralistisch en onsamenhangend”, en hij en zijn collega’s gingen gewoon verder op hun weg.
Weizenbaums waarschuwing bleef grotendeels onbeantwoord.
Vandaag staan we op een punt waarop de verfijning van onze chatbots die van ELIZA ver overtreft, waardoor het nog makkelijker wordt in de val te trappen en deze machines als onze gelijken te beschouwen. We hebben gezien hoe mensen beweren dat chatbots bewustzijn hebben, hoe sommigen verliefd worden op chatbots en zelfs hoe mensen door chatbots worden overtuigd om zelfmoord te plegen.
Dergelijke ontwikkelingen zouden de Duitse wetenschapper waarschijnlijk bedroeven. Weizenbaums dochter, Miriam, vertelde aan Smithsonian Magazine dat haar vader “de tragedie zou herkennen van mensen die zich hechten aan letterlijk nullen en enen — zich hechten aan code.”
Weizenbaum ging uiteindelijk in 1988 met pensioen aan MIT, waar hij hoogleraar was geweest, en verhuisde in 1996 terug naar Duitsland, waar hij een ontvankelijker publiek vond voor zijn opvattingen. Hij overleed in 2008.
Weizenbaum was een introspectieve, melancholische en zelfkritische man, maar ook iemand met sterke overtuigingen en een bijna mystieke intuïtie. Hij herkende de verwondering en het mysterie van de wereld met een zekerheid die groter was dan welk wiskundig bewijs ook. Er is iets méér dan nullen en enen, iets voorbij tandwielen, radertjes en atomen. Er is iets in ons en in onze ervaringen dat zich voor altijd zal onttrekken aan voorspelling, automatisering en berekening.
Weizenbaum was gevoelig voor die ervaringen.
Hij zei tegen Pörksen: “Er is de ervaring van verdriet en schok, er is de plotselinge vreugde in de ochtend, en er is de ervaring van liefde tussen mensen. Wel, een wonder is een wonder. Je kunt het niet beschrijven. Je zou een kunstenaar moeten zijn om het te benaderen.”
In Computer Power and Human Reason beschreef Weizenbaum een moment van die menselijke liefde en verbondenheid.
Hij schreef: “Toen mijn kinderen nog klein waren, stond ik soms samen met mijn vrouw gebogen over het bed waarin zij sliepen. We spraken met elkaar zonder woorden; het was de herhaling van een tafereel zo oud als de mensheid zelf.”
In dat moment ging volgens Weizenbaum iets schuil dat taal overstijgt — laat staan algoritmen.
“Mijn overtuiging is inderdaad dat er iets onuitsprekelijks bestaat, een levende waarheid die niet in woorden kan worden gevangen”, schreef hij.
Deze mystieke inslag maakte Weizenbaum voor sommigen tot een held en voor anderen tot een mikpunt van spot. Toch hoeft men zijn spirituele intuïties niet te delen om zijn nuchtere zorgen te begrijpen. Hoe indrukwekkend hun technische mogelijkheden ook zijn, AI-systemen zijn moreel inert — ze missen het geweten dat wij allemaal in ons hart ervaren. Daarom zouden ze niet in posities geplaatst moeten worden waarin morele oordelen nodig zijn.
In Weizenbaums eigen woorden: “Het meest elementaire inzicht dat hieruit voortkomt is dat, zolang wij geen manier hebben om computers wijsheid bij te brengen, we ze ook geen taken moeten geven die wijsheid vereisen.”
Dit is een uitdaging waarover we in deze tijd goed zouden moeten nadenken..
Gepubliceerd door The Epoch Times (4 maart 2026): He Built the First Chatbot—Then Spent His Life Warning the World About AI
