– HERSENEN EN BEWUSTZIJN –

1. De ware moraal – 2. De hersenen – 3. Recente opvattingen – 4. Lichaam, geest en ziel – 5. De hersenen als darwinmachine – 6. De koolmens – 7. De kiezelmachine – 8. Toekomstperspectieven

Recente opvattingen

In deze paragraaf komen de opvattingen aan de orde van de hiervoor al gesignaleerde twintigste- en eenentwintigste-eeuwse ‘populair-wetenschappelijke’ schrijvers die een opmerkelijk werk aan het bewustzijn hebben gewijd: de schrijver en neurobioloog William Calvin, de filosofen John Searle en Daniel Dennett, de wiskundige Roger Penrose, de logicus Jack Copeland, de neuroloog Antonio Damasio, de taalpsycholoog Steven Pinker, de natuurkundige en cognitiewetenschapper Douglas Hofstadter, de psycholoog Douwe Draaisma en, wat meer verspreid, de computertechnoloog Rodney Brooks en de psycholoog Piet Vroon. Het betrekkelijk recente volumineuze werk The Idea of the Brain, waarin de Engelse zooloog Matthew Cobb een historisch overzicht van het denken over het brein geeft en daarmee beoogt een brug te slaan tussen de extreme, elkaar te vuur en te zwaard bestrijdende standpunten, komt in het Intermezzo I uitgebreid aan de orde, alsmede het in 2021 verschenen Being You. A New Science of Consciousness, van diens landgenoot en cognitiewetenschapper Anil Seth. Hieruit blijkt maar weer eens uit hoeveel verschillende wetenschappelijke disciplines het onderwerp van buiten af benaderd kan worden, terwijl de neuroloog Iain McGilchrist er ook nog de literatuur en de kunsten bij wil betrekken.^[1] Hun opvattingen van wat onder bewustzijn moet worden verstaan – in de tijd dus dat de ziel al door de wetenschap vrijwel uit het wereldbeeld was verbannen − en in relatie daarmee hun meningen over de twee soorten van kennen die uit het bewustzijn voortkomen, en wat dat met kunstmatig intelligente machines te maken heeft, zijn zeker de moeite waard om kennis van te nemen. Daarbij moet wel in aanmerking worden genomen dat het voor zover mogelijk duidelijkheid verschaffen over het mysterie ‘bewustzijn’ juist het thema van hun boeken is, wat betekent dat zoiets als een definitie of omschrijving pas aan de orde komt als de betogen al een flink eind op streek zijn, wat de toegankelijkheid van de citaten, los van de argumenten die eraan voorafgaan, niet altijd ten goede komt. Maar ook afgezien daarvan blijkt het bewustzijn zo moeilijk in woorden te vatten dat bij geval een halve bladzijde voor een enigszins bevredigende omschrijving nauwelijks volstaat. Het is daarom het beste de verwachtingen over het uiteindelijke inzicht in wat bewustzijn eigenlijk is niet al te hoog te spannen, zeker als het hier besproken aantal opvattingen slechts het topje vormt van de ijsberg aan denkers dat zich door de geschiedenis van de westerse cultuur heen over het bewustzijn hebben uitgelaten, en zullen ze ook vanwege het tempo waarin de veranderingen en ontwikkelingen plaatsvinden ‒ zonder veel dichter bij het uiteindelijke doel te komen ‒ al snel gedateerd zijn.

De inzet van de discussie tussen de verschillende opvattingen over de aard van het bewustzijn heeft uiteraard direct te maken met ons zelfbeeld dat in de laatste vier à vijf eeuwen al zoveel te verduren heeft gehad met de wetenschappelijke ontwikkelingen. Zijn we nu toch de bijzondere dieren die zich volgens Roger Scruton door het bewustzijn wezenlijk onderscheiden van de rest van de wereld, of is het bewustzijn niet alleen een wetenschappelijk te beschrijven maar ook een te verklaren zaak en kunnen we op geen enkele manier aanspraak maken op een aparte status? Of zijn beide claims ‘in het licht van de vreemde lus’ even waar en is het antwoord afhankelijk van de kenwijze die we hanteren of de context waarbinnen de vraag wordt gesteld?

Daniel Dennett

Daniel Dennett behoort tot de stelligste, en ook de meest mechanistische of materialistische van het stelletje, en bevindt zich in hetzelfde kamp waartoe ook Dick Swaab met zijn Wij zijn ons brein behoort. Hij verzekert ons dat hij met zijn boek Consciousness Explained (Het bewustzijn verklaard) ook niets minder wil dan wat de titel belooft, en dat hij, preciezer nog, de verschillende verschijnselen zal verklaren die samen datgene vormen wat we bewustzijn noemen. En hij belooft ook te zullen laten zien hoe al die verschijnselen fysieke effecten zijn van de activiteiten van het brein, hoe deze activiteiten tot stand zijn gekomen en hoe ze aanleiding hebben gegeven tot illusies over hun eigenschappen en mogelijkheden. Hoe moeilijk het ook is om ons voor te stellen hoe onze geest identiek zou kunnen zijn aan ons brein, schrijft Dennett, onmogelijk is het zeker niet.^[2]

Maar wie Dennets boek leest krijgt al gauw in de gaten dat hij veel meer belooft dan hij kan waarmaken: hij geeft boeiende beschrijvingen, interessante interpretaties en doet boude beweringen, maar veel verklaringen zitten daar niet tussen. Uit zijn betoog komt het bewustzijn naar voren als een onbedoeld bijverschijnsel van de uiterst complexe neuronenstructuur die de fysieke architectuur, of de hardware – dan wel wetware – van het brein vormt. Een kwestie dus van verrassend hergebruik van oud gereedschap dat voor andere doeleinden is ontworpen, wat bijvoorbeeld de verklaring zou kunnen zijn voor de enorme verschuiving in de tijd tussen de biologische en de culturele evolutie van de hersenen. Op de oude hardware blijkt plotseling een nieuwe virtuele machine te kunnen werken, vergelijkbaar met de wijze waarop de hardware van een computer door de juiste keuze van software kan werken als rekenmachine, tekstverwerker, archief of communicatiemiddel. Zo’n machine heet virtueel omdat de hardware van een computer geen tekstverwerker is, maar zich door de (virtuele) software zo aan ons voordoet. Evenzo is ons brein geen bewustzijn − dat is het brein van een poelslak tenslotte ook niet − maar doet het later ontwikkelde en daarop afgespeelde softwarepakket zich als zodanig aan ons voor. Vandaar Dennetts bewering dat de hersenactiviteiten als een illusie van geest of bewustzijn aan ons verschijnen.

Na deze inleidende beschietingen neemt Dennett het besluit de koe bij de horens te vatten en zijn mening nogmaals, maar nu onomwonden, te formuleren. Dan legt hij de verklaring af dat inderdaad alles en iedereen waarin zo’n virtuele machine als besturingssysteem aanwezig is, zich in de volle betekenis van het woord bewust is, en dat is zo omdat er zo’n virtuele machine in zit.^[3] Maar als Dennett dát met ‘verklaren’ bedoelt, dan is het wrijven van Aladdins toverlamp ook de ‘verklaring’ voor het verschijnen van de Geest, en haalt Dennett, zoals wel vaker in de wetenschap gebeurt, de betekenis van ‘beschrijven’ en ‘verklaren’ door elkaar. Dennetts beschrijvingen verklaren het bewustzijn net zomin als de wetten van Newton en Kepler de planeetbewegingen verklaren.

Wat Dennett niet vertelt is of hij ook andere, vergelijkbaar moeilijk te verklaren emergente verschijnselen, zoals bijvoorbeeld het leven, beschouwt als een illusoir softwarepakket, als een verrassend hergebruik van oud materiaal dat eigenlijk ergens anders voor diende, of als een toevallig bijproduct van de ingewikkelde moleculaire hardware van het lichaam. Is dat het geval, wat in het verlengde van zijn eigen gedachtegang wel erg voor de hand zou liggen, dan zijn wij net zomin in leven als een computer een schrijfmachine is, maar doet onze biologische hardware zich alleen zo aan ons voor en zijn we een uitgesproken voorbeeld van de machinemens die Julien de la Metrie voor ogen stond. Op de materiële biologische hardware van ons lichaam spelen we dan de virtuele softwarepakketten af van de programma’s die ons achtereenvolgens tot leven en tot bewustzijn wekken: ziedaar de mens – ecce homo − volgens de zwaar bebaarde Daniel Dennett. Omgekeerd zal ook alle hardware die ingewikkeld genoeg is om de software op af te kunnen spelen beschouwd moeten worden als ‘levend’ en ‘bewust’, en zullen we een voldoende complex systeem van paperclips en closetrolletjes eventueel mensenrechten moeten toekennen. Tenslotte laat Dennett ook onbesproken of het betreffende softwareprogramma zich ook aan de computer zelf voordoet als reken- of schrijfmachine en het apparaat zich daarmee van zichzelf bewust is en in een vreemde lus terecht komt.

Zoals gezegd: beweren en beschrijven doet Dennett meer dan genoeg, maar verklaren des te minder, tenzij hij de betekenis van de titel van zijn boek inderdaad meer legt in het afleggen dan het geven van verklaringen. Gezien de opzet van zijn boek is de reden voor Dennett om zijn stellige beweringen te doen dat hij wil uitkomen bij zijn eigen hobby: de mogelijkheid om machines te maken die net zo ingewikkeld zijn en net zo werken als onze hersenen en dan ook − verrassing! − vanzelf bewustzijn blijken te hebben. Echt begrijpen zullen we het bewustzijn pas, redeneert Dennett, als we het zelf kunnen oproepen door de stekker van een door onszelf gebouwde machine in het stopcontact te steken. Het is daarbij van geen enkel belang van welk materiaal die machine gemaakt is, net zomin als het van belang is van welk materiaal een klok is gemaakt, van metaal, hout of plastic, als het mechanisme maar geschikt is om de tijd aan te wijzen. De opvatting dat het in principe mogelijk moet zijn om een ‘bewuste’ machine te bouwen van closetrolletjes en paperclips, als de uiteindelijke constructie maar ingewikkeld genoeg is om er een programma op af te draaien waardoor er bewustzijn ontstaat, wordt ‘sterke artificiële intelligentie’ of kortweg ‘sterke AI’ genoemd. Wordt daarmee dan niet het hele bewustzijn in de handen van wetenschap en techniek gelegd en ‘het hele fantastische raadsel’ teruggebracht tot de frappante maar verder weinig mysterieuze programmatuur en rekenprestaties van een zakjapanner, als we dat apparaatje maar ingewikkeld genoeg maken? Volgens Dennett niet, omdat het demystificeren van het raadsel voor hem eerder leidt tot groter ontzag en schoonheid.^[4]

Met zijn materialistische opvatting is Dennett het vleesgeworden woord van Nietzsche dat de filosofie er dan wel moeizaam in geslaagd mag zijn zich te bevrijden van de obsessie die de ziel voor haar was, maar nu zit opgezadeld met iets wat nog raadselach­tiger en fascinerender is: ’s mensens lichamelijkheid.^[5] Maar los van zijn geruststellende woorden blijft wat Dennett zelf onder bewustzijn verstaat, hoe illusoir ook, strikt beperkt tot bewustzijn als synoniem voor de wetenschappelijk kennende geest die geen levend lichaam nodig heeft. Dat het bewustzijn een zielsaspect zou kunnen hebben, waar de oordelen, het respect, de ontroering, de troost, de onschuld, de leugen en het verraad huizen, het aspect dat samenvalt met de wereld zelf en zich daarom niet leent voor beschrijving met een hardware-software metafoor, wordt door Dennett met het door hem als scheldwoord bedoelde ‘romantisch’ afgedaan en komt in zijn beschouwingen verder niet meer voor. Wel moet worden toegevoegd dat Dennett in latere publicaties wat gematigder is geworden en het meer over de mogelijkheid dan de gegevenheid van machinebewustzijn heeft, waarschijnlijk als gevolg van het tot op heden mislukken van zijn missie, ook al beweert hij in zijn laatste, door een aantal fervente rationalisten bejubelde boek over de evolutie van de geest nog steeds ten stelligste dat hij een redelijke verklaring voor het bewustzijn heeft gevonden:

Ik worstel me nu al meer dan vijftig jaar door al dit drijfzand en struikgewas heen en heb een pad gevonden naar een toereikende – en bevredigende – verklaring van de manier waarop de ‘magie’ van onze geest zonder ook maar iets van magie tot stand komt.^[6]

Alan Turing, de turingmachine en de turingtest

Om in de praktijk uit te maken of een machine ingewikkeld genoeg is om ook werkelijk over ‘menselijk’ bewustzijn te beschikken, kan gebruik worden gemaakt van de zogenaamde ‘turingtest’, genoemd naar de bedenker Alan Turing, een Engelse schei- en wiskundige die algemeen wordt beschouwd als de vader van de kunstmatige intelligentie, omdat hij in 1936 de hypothetische machine bedacht die aan de basis ligt van alle programmeerbare computers. Met deze turingmachine toonde hij aan dat er geen methode – of algoritme − bestaat die voor elke wiskundige uitspraak kan bepalen of die al dan niet bewijsbaar is, of anders gezegd: logische systemen zijn nooit waterdicht te krijgen, vergelijkbaar met het incompleetsheidstheorema dat Kurt Gödel vijf jaar daarvoor had gepubliceerd.

Turing, die in de Tweede Wereldoorlog een cruciale rol heeft gespeeld bij het kraken van de code van het Duitse Enigmaprogramma waarmee de geheime boodschappen voor de onderzeeboten werden versleuteld, was homoseksueel en werd vanwege de in Engeland strafbaarheid daarvan veroordeeld tot chemische castratie door het slikken van vrouwelijke hormonen. Als gevolg daarvan kreeg hij niet alleen borsten, maar bleken ook zijn bijzondere geestvermogens te verdwijnen en werd hij in 1954 waarschijnlijk van het leven beroofd doordat hij een met cyaankali vergiftigde appel te eten kreeg, maar het zou ook zelfmoord kunnen zijn geweest, omdat hij bezeten was van Disney’s verfilming van Sneeuwwitje, en hij vaak twee zinnen Dip the apple in the brew/ Let the sleeping death seep through voor zichzelf zong.¹

1. Benjamin Labatut, Het blinde licht (vert. Peter Valkenet), Atlas Contact 2020, blz. 27.

De door Turing ontwikkelde test houdt in dat een geïsoleerde ondervrager via een toetsenbord en een beeldscherm zowel is verbonden met een mens als met een machine. Als hij er, na het intikken van alle gewenste vragen, niet in slaagt uit de antwoorden op te maken wie van zijn twee gesprekspartners de mens is en wat de machine, dan heet het dat de machine de turingtest succesvol heeft doorstaan, en in ieder geval voor zover het de taal betreft qua ‘geest’ of ‘bewustzijn’ niet van een mens is te onderscheiden, en daarom ook als bewust moet worden beschouwd. Er is voor zover bekend tot nu toe nog geen enkele machine die voor de turingtest is geslaagd en vroeger of later niet als een leven- en bewusteloze machine is ontmaskerd.

Een grappige variant op de turingtest werd uitgevoerd door de Amsterdamse hoogleraar muziekcognitie Henkjan Honing, die drie mechanische schoenen construeerde, waarvan hij er twee aan achter een gordijn verborgen computers en één aan eens mens koppelde. Luisterend naar muziekfragmenten werd door de twee computers en de mens de opdracht uitgevoerd om op de maat mee te tappen en moesten proefpersonen proberen de mens van de machines te onderscheiden, wat niet zo’n moeilijk probleem bleek: als de maat maar wordt gevarieerd tapt een mens duidelijk beter mee dan een machine.^[7]

William Calvin

Hoewel de titel van zijn belangrijkste boek De cerebrale symfonie; beschouwingen aan zee over de structuur van het bewustzijn misschien anders doet vermoeden, is ook William Calvin allesbehalve een typische romanticus. Hij benadert het bewustzijn ongeveer van dezelfde kant als Dennett, maar ondanks enige uiterlijke overeenkomst ontbreekt diens ergerlijke en erg onwetenschappelijke stelligheid. Zoals al bleek uit Calvins belangstelling voor bedriegerijtjes bij chimpansees, ziet hij als belangrijkste kenmerk van het bewustzijn de mogelijkheid om andere dan de vanzelfsprekende, door de natuur opgelegde scenario’s te verzinnen. Hij houdt ons voor dat hij zich daarom in zijn boek zal beperken tot het behandelen van ‘wat ga ik nú doen’ als voornaamste aspect van het bewustzijn, en dat het gebruik van het woord ‘bewustzijn’ bij hem slaat op het kunnen maken van plannen voor de toekomst, het bedenken van alternatieve mogelijkheden en het maken van een keuze daaruit voor een volgende handeling. Dat wil zeggen dat hij bewustzijn sterk associeert met ‘vrije wil’: het herkennen van de dwangmatige natuurlijke scenario’s en het vermogen daar verandering in aan te brengen.^[8]

Het kunnen kiezen uit de verschillende toekomstplannen, wat dus ook het vormen van morele oordelen over de gevolgen inhoudt, wordt door Calvin zonder enig onderscheid aan hetzelfde soort bewustzijn toegeschreven dat de plannen ook bedenkt, zodat ook bij hem uitsluitend sprake is van bewustzijn als wetenschappelijk kennende rede of geest. Tijdens een strandwandeling nadenkend over het bewustzijn, komt Calvin nog wel tot de nadere overweging dat hij met die zon en wind en ruisende branding het gevaar loopt weg te glijden in een toestand waarin hij samensmelt met de omgeving, en dermate deel wordt van de wereld om zich heen dat hij zijn identiteit verliest. En hoewel hij ook deze geestestoestand bewustzijn noemt – participerend bewustzijn – wekt hij de indruk het eens te zijn met Plato als deze dit soort bewustzijn bejegent als een te bestrijden ziekteverschijnsel, als een te vernietigen aartsvijand van het zuivere intellect.^[9]

Het grote aantal woorden dat Calvin nodig heeft om zijn standpunt duidelijk te maken wijst er al op dat hij wat moeilijker tot zaken komt dan Dennett. Het zielsaspect of het participerende deel van het bewustzijn, waar de schoonheid thuishoort en de oordelen worden gevormd, wordt in ieder geval door hem als verschijnsel onderkend en als ‘dreigend gevaar’ voor het redelijke bestaan benoemd, al laat ook hij het zelf verder buiten beschouwing. Daarnaast onthult Calvin een van de drijfveren van het wetenschappelijke onderzoek naar machinaal bewustzijn, die door de rationele en uiterst koele Dennett wordt verzwegen: het Faust-Frankensteinsyndroom, dat de onweerstaanbare fascinatie inhoudt voor het naar de kroon steken van God wat betreft de macht over het scheppen of vernietigen van leven, geest of ziel, ook al moet de laatste er voor worden verkwanseld. Het scheppen van ‘geest’ in een machine komt volgens Calvin dichter in de buurt van ‘voor God spelen’ dan sleutelen aan het erfelijke apparaat, op wat voor schaal ook.^[10] Overigens stemt Calvins opvatting over de werking van het bewustzijn overeen met die van Dennetts virtuele machine, zij het dat hij het om later te vermelden reden een Darwinmachine noemt.

John Searle

Het spectrum van opvattingen over de aard van het bewustzijn strekt zich uit van de geheel mechanistische of materialistische benadering aan het ene uiterste, tot aan de totaal biologische of naturalistische, door Dennett minachtend romantisch of mysterieus genoemde benadering aan het andere uiterste. En zoals Dennett en Calvin duidelijk aan de mechanistische kant thuishoren, zo bevindt de filosoof John Searle zich aan het andere uiteinde, wat alleen al blijkt uit de volgens Dennett verwerpelijke titel van zijn boek: The Mystery of Consciousness, omdat hij daarmee zijn lezers op voorhand al opzadelt met een mysterie dat helemaal niet bestaat.

Als er één thema is dat door het hele boek heen terug­keert, vertrouwt Searle ons in de inleiding toe, dan is het dat ons bewustzijn niet als een ‘illusie’ maar als een werkelijk bestaand, natuurlijk, biologisch verschijnsel onmogelijk met de uitsluitend materialistische benadering valt te verklaren, omdat daarmee wat verklaard moet worden – het bewustzijn – helemaal wordt weg gereduceerd.^[11] Hij vindt het dan ook geen enkel probleem een common sense of gezond-verstanddefinitie van het bewustzijn te geven: bewustzijn verwijst naar die typische toestanden van waarnemings- of gevoelsvermogen die beginnen als we wakker worden uit een droomloze slaap en voortduren tot we weer in slaap vallen, of in coma raken, of dood gaan, of anderszins buiten bewustzijn raken.^[12] Verder onderkent Searle nog andere vormen van (onder)bewustzijn, hoewel totaal verschillend van de wakende toestand, zoals dromen, slaapwandelen, dronkenschap en blindzicht, waarbij vooral de laatste toestand enige toelichting behoeft.

Blindzicht en het gespleten brein

Blindzicht treedt op bij mensen met een hersenbeschadiging die ze een blinde vlek in hun gezichtsveld bezorgt. Die vlek doet zich aan de lijder niet voor als een leeg of zwart of anderszins van de omgeving te onderscheiden gebied, maar wat er daar in de buitenwereld aanwezig is of gebeurt wordt gewoon niet waargenomen. Als er in dat blinde gebied lichtflitsen in de vorm van een X of een O op een scherm worden geprojecteerd dan worden die niet opgemerkt, maar wel blijken proefpersonen veel vaker de juiste vorm te ‘raden’ dan op basis van louter toeval kan worden verklaard: ze zien iets zonder zich bewust te zijn dát ze iets zien.

‘Wist u wel hoe goed u het deed?’ vroeg de onderzoeker in een evaluatiegesprek na een experiment, waarop de proefpersoon antwoordde: ‘Nee, dat wist ik niet omdat ik niks zag. Ik kon werkelijk geen ene moer zien.’^[13]

Kennelijk is het zo dat als we waarnemen onze hersenen de omgeving bekijken, en dat we ons pas van die waarneming bewust worden doordat een ander proces in de hersenen die de waarnemingen weer bekijkt,^[14] en het is dit laatste proces dat bij blindzichtpatiënten voor een deel kan zijn uitgeschakeld.

Een vergelijkbaar merkwaardig verschijnsel doet zich voor bij mensen bij wie om medische redenen het corpus callosum − de zenuwbalk tussen de linker- en de rechterhersenhelft − is doorgesneden, waardoor de uitwisseling van informatie tussen de beide hersenhelften ernstig is belemmerd. Tijdens een beroemde serie experimenten stonden deze gespleten-breinpatiënten voor een scherm waarop links en rechts verschillende afbeeldingen werden geprojecteerd. Door de kruislingse verbinding van de ogen met de hersenhelften wordt in zo’n situatie het linkerbeeld door de rechterhersenhelft ‘gezien’ en omgekeerd, en omdat het spraakcentrum in de linkerhelft van de hersenen is gelokaliseerd, kan een proefpersoon alleen maar zeggen wat er aan de rechterkant te zien is.

Als er bijvoorbeeld een vierkant op de linkerkant en een cirkel op de rechterkant van het scherm wordt geprojecteerd, zal een proefpersoon zeggen een cirkel te zien, maar met zijn linkerhand een vierkant tekenen, en als hem ten slotte wordt gevraagd wat hij getekend heeft, zal hij verbaal blijven volhouden dat het een cirkel is. Om vergelijkbare redenen heeft een aan de linkerkant geprojecteerd pornografisch plaatje een minutenlang durend blozen en giechelen tot gevolg, terwijl de proefpersoon zegt geen flauw idee te hebben waarom.

Een andere, minder beladen versie van dit gespleten-breinexperiment bestaat uit het projecteren van een kippenpoot in het rechtergezichtsveld en een sneeuwlandschap in het linker. Als de proefpersoon daarna met iedere hand uit een serie plaatjes er eentje moet kiezen dat het meest lijkt op wat hij meent te hebben gezien, dan kiest hij met zijn rechterhand het plaatje van een kip, en om even begrijpelijke redenen met zijn andere hand het plaatje van een sneeuwruimer. Om nadere uitleg gevraagd zegt de proefpersoon dat een kippenpoot nu eenmaal bij een kip hoort en dat een sneeuwruimer nodig is om het kippenhok sneeuwvrij te maken, waaruit de onderzoekers weer menen te kunnen concluderen dat de linkerhersenhelft het onverklaarbare gedrag van de door de rechterhersenhelft aangestuurde linkerhand ‒ de keuze voor een sneeuwruimer ‒ in relatie tot de kippenpoot probeert te interpreteren en te rechtvaardigen, hoe gekunsteld dat soms ook kan lijken.^[15]

Hoewel het doorsnijden van het corpus callosum in de hersenen een drastische ingreep lijkt, blijken mensen met een gespleten brein in het dagelijkse leven goed te functioneren. In de eerste maanden na de operatie kunnen ze verontrustende ervaringen hebben die voortkomen uit een conflict tussen twee verschillende, vaak tegengestelde drijfveren, zoals bij de man die zijn vrouw met zijn ene arm omhelsde en met de andere van zich af probeerde te duwen. Andere patiënten konden geen auto meer besturen omdat de ene hand de andere van het stuur wegtrok, of met de ene hand een deur opende die de andere dan weer dichtdeed, of het geld dat ze met de ene hand in een winkel wilden betalen met de andere weer terug pakten, of met de ene hand een jurk uit de kast haalden die door de andere weer werd teruggehangen en dan iemand anders moest roepen om het probleem op te lossen. Maar na verloop van tijd verminderden deze verschijnselen en konden zelfs geheel verdwijnen.^[16]

De Amerikaanse neuropsycholoog Roger Sperry voerde gespleten-brein experimenten uit met dieren en vatte zijn bevindingen in 1961 als volgt samen:

Een kat of een aap met een ‘gespleten brein’ is in vele gevallen te beschouwen alsof het twee breinen heeft die of samen dan wel afzonderlijk kunnen worden gebruikt. (…) Het vermogen om waar te nemen en te leren is gelijkelijk en afzonderlijk in beide hersenhelften aanwezig ‒ het brein kan zich voordoen als zowel een enkel dan wel een dubbel zenuwcentrum.

Waarna zijn collega Mike Gazzaniga ook nog ontdekte dat het bij mensen niet anders is,^[17] en weer een andere collega, William Estes, sarcastisch reageerde met: ‘Fijn, nu hebben we twee dingen die we niet begrijpen.’^[18]

Wordt er aan deze en dergelijke experimenten die in de verschillende besproken boeken worden aangehaald, nog toegevoegd dat het geheugen − en daarmee het bewustzijn − enerzijds uitgesproken holografische kenmerken heeft, dat wil zeggen over het gehele brein verspreid is zodat bij ratten wel tachtig procent van de hersenen verwijderd kan worden voordat ze bepaald aangeleerd gedrag weer zijn vergeten, maar dat er anderzijds ook strikt gelokaliseerde functies zijn aan te wijzen,^[19] dan is duidelijk dat het niet makkelijk is steekhoudende mededelingen over aard, plaats en functie van het bewustzijn te doen, temeer daar het niet mogelijk is vrijuit met het menselijke brein in werking te experimenteren. De meeste informatie wordt dan ook verkregen door het bestuderen van mensen met toevallig opgelopen hersenschade, zoals de negentiende-eeuwse spoorwegarbeider Phineas Gage, die een groot gedeelte van zijn voorste hersenen kwijtraakte toen hij als gevolg van een voortijdig tot ontploffing gekomen springlading een stalen staaf door zijn hoofd kreeg, maar het ongeluk wonderbaarlijk overleefde.^[20] Het gangbare verhaal dat zijn karakter daardoor sterk veranderde is grotendeels verzonnen:

Wat de lokaliteit van sommige functies van het brein betreft kan als voorbeeld het verschijnsel van nominale afasie genoemd worden: een door hersenletsel optredende vergeetachtigheid voor zeer bepaalde woorden uit de hele mentale woordenschat. Sommige lijders aan deze afwijking kunnen wel concrete, maar geen abstracte zelfstandige naamwoorden onthouden, anderen juist omgekeerd. Sommigen kunnen de woorden voor levende dingen wel onthouden, maar die voor dode dingen niet, wel de woorden voor lichaamsdelen, maar niet voor kleren of meubelstukken. Er zijn er ook die geen woorden weten voor dingen binnenshuis, voor kleuren, groenten of fruit. Ingegeven door de merkwaardige specificiteit van dit mentale gebrek wordt dit soort vergeetachtigheid – verwijzend naar het onmogelijk kunnen onthouden van het woord ‘banaan’ – wel ‘bananafasie’ genoemd.^[21]

Een even merkwaardig lokaal verschijnsel is dat bij een proefpersoon – voorzien van een hyperfijne bedrading om elektrische stroompjes in de hersenen te meten – telkens één van de miljarden hersencellen bleek te vuren als hem een afbeelding of de naam van de actrice Jennifer Aniston werd voorgehouden, behalve als haar toenmalige partner Brad Pitt er ook bij stond. Bij andere proefpersonen vuurde er een enkele cel bij een afbeelding van Bill Clinton, de Beatles, Michael Jordan, cartoons uit de televisieserie over de Simpsons, de stelling van Pythagoras, de actrice Halle Barry in het kostuum van catwoman en het Sydney Opera House, zowel op een afbeelding als op de geschreven woorden ‘Sydney Opera’.^[22]

De Chinese kamer

Searle besteedt een groot deel van zijn tijd en energie aan het bestrijden van zijn tegenstanders, en met name Dennetts materialistische hardware-softwarevisie op het bewustzijn moet het flink ontgelden. Als belangrijkste wapen in de strijd hanteert Searle zijn inmiddels alom bekende gedachte-experiment met de Chinese kamer. Daarmee wil hij aantonen dat het kunnen manipuleren met formele symbolen, zoals een computerprogramma dat kan, niet voldoende is om aan te nemen dat iets dergelijks zich ook in de geest of het bewustzijn van de mens afspeelt. Daarom is het passeren van de turingtest volgens Searle geen goed criterium voor de aanwezigheid van bewustzijn. Het makkelijkste is om hem zelf te laten uitleggen wat zijn experiment inhoudt:

Stel je voor dat je zelf handmatig stapsgewijs een computerprogramma uitvoert dat vragen beantwoordt in een taal die je niet kent. Ik begrijp niets van Chinees, daarom stel ik me voor dat ik zit opgesloten in een kamer waarin een flink aantal dozen met Chinese tekens staan (de data base). Door een brievenbus krijg ik kleine pakketjes met Chinese tekens aangereikt (vragen in het Chinees), en in een eveneens in de kamer aanwezige [in het Engels gestelde] handleiding met voorschriften (het programma) zoek ik op wat ik daarmee moet doen. Ik vervang volgens die regels de tekens door andere (wat wil zeggen dat ik de voorgeschreven stappen in het programma uitvoer) en geef het resultaat (antwoorden op de vragen) door de brievenbus terug naar buiten. Ik ben een computer die een programma voor het beantwoorden van vragen in het Chinees uitvoert, maar daarmee begrijp ik nog geen woord Chinees. En dat is precies het punt: als ik voor het in het Chinees kunnen uitvoeren van een computerprogramma geen Chinees hoef te begrijpen, dan hoeft welk ander digitaal computerprogramma dat ook niet.^[23]

Met andere woorden: al zou een computerprogramma met glans de turingtest passeren, dan nog is daarmee het bezit van begrip, inzicht of bewustzijn zoals wij mensen dat hebben allerminst aangetoond.

In zijn roman De man achter het raam laat Gerrit Krol dit argument nog aan kracht winnen door het om te draaien: als het een mens, door het geven van steeds dezelfde antwoorden op dezelfde vragen, zou lukken zich in een omgekeerde turingtest voor een machine te laten doorgaan, dan zou die mens daarmee nog geen machine zíjn. En Hugo Brandt Corstius opperde nog dat Searles experiment met de Chinese kamer weliswaar correct is maar nodeloos ingewikkeld, omdat dezelfde redenering al opgaat voor het maken van een eenvoudig rekensommetje. Als op een computer, schrijft Brandt Corstius, 2+3= wordt ingetikt, dan verschijnt er weliswaar razendsnel 5 op het scherm, maar daarmee weet de computer nog niet wat optellen is, net zomin als de man in de Chinese kamer Chinees kent. Je kunt ook op je vingers twee plus drie uitrekenen door eerst twee vingers op te steken en er daarna drie bij te doen waardoor er vanzelf vijf overeind staan, maar daarmee kunnen je vingers nog niet optellen. Jíj kunt met behulp van je vingers optellen, maar dat is heel wat anders.^[24] Dennett heeft zich op zijn beurt weer veel moeite getroost het Chinese-kamerargument te weerleggen, door bijvoorbeeld aan te voeren dat Searle als afzonderlijk persoon in zijn kamer misschien geen Chinees mag begrijpen, maar het hele, meer gecompliceerde systeem, inclusief Chinese tekens, handleiding en brievenbus, weer wel. Maar gaande de discussie zijn de scherpe kanten er bij hem wel een beetje afgeslepen.

Aan het eind van zijn boek vergelijkt Searle de hedendaagse discussie over de al dan niet mechanistische of mysterieuze herkomst van het bewustzijn met de overeenkomstige discussie over de verklaring van het leven − als emergent verschijnsel van de complexe moleculair-biologische structuren dan wel als van buitenaf ingeblazen élan vital of adem van God − die plaatsvond in de negentiende eeuw. Die controverse werd niet opgelost doordat de mechanisten het debat van de vitalisten wonnen, maar omdat men steeds meer te weten kwam over alle processen die daarbij betrokken zijn. En Searle verwacht nu dat hetzelfde zal gebeuren met de controverse over alles wat met de hersenen te maken heeft, als we maar eenmaal evenveel weten en begrijpen van de biologie van het bewustzijn als we nu doen van de biologie van het leven.^[25] Maar het is een regelrechte misvatting van Searle dat het debat tussen de mechanisten en vitalisten is gestopt vanwege ons biologisch begrip van het leven. Onze kennis van de chemische en fysiologische processen is weliswaar aanzienlijk toegenomen, maar onze wetenschappelijke kennis over wat leven nu eigenlijk is, is nog even gebrekkig als voor die tijd. Dat het debat nu niet meer wordt gevoerd wordt eerder veroorzaakt doordat het onderwerp, vanwege de langdurige en vruchteloze stellingenoorlog tussen onverenigbare standpunten – zelfs oorlog voeren gaat op den duur vervelen − uit de belangstelling is verdwenen, en hetzelfde zal ongetwijfeld gaan gebeuren met het debat over het bewustzijn.

Wat Searles eigen opvatting over het bewustzijn betreft stelt hij zich in de eerste plaats als doel een ‘geünificeerde en theoretisch bevredigende’ verklaring te geven van onszelf en van onze verhouding tot andere mensen en tot de natuurlijke wereld. Hoe kunnen we het common-sense beeld van onszelf als bewuste, vrije, oplettende, rationele en communicerende wezens in overeenstemming brengen met ons bestaan in een wereld die onbewust, betekenisloos en doelloos is en die bestaat uit niets anders dan stomme fysische deeltjes in blinde krachtvelden? Of anders gezegd: hoe kunnen we een beeld van onszelf scheppen dat volledig consistent en coherent is met het bestaan van een wereld zoals die uit de natuurwetenschappen, met name de natuurkunde, de scheikunde en de biologie, tevoorschijn komt?^[26] Dat het twee complementaire, dat wil zeggen even legitieme maar onverenigbare beelden kunnen zijn, met elk hun eigen deelwaarheid binnen de eigen wetenschappelijke dan wel artistieke context, neemt Searle niet in overweging, wat betekent dat de vreemde lus hem kennelijk niet bekend is.

Voorafgaand aan alles, stelt Searle, is ons bewustzijn een reëel biologisch verschijnsel, net zoiets als onze spijsvertering, celdeling en groei, maar het heeft wel een paar belangrijke eigenschappen die de andere biologische verschijnselen missen. De belangrijkste daarvan is wat hij ‘subjectiviteit’ noemt: ieders bewustzijn is een privé-aangelegenheid in die zin dat zijn verhouding tot zijn eigen gewaarwordingen als pijn, gedachten en gevoelens totaal anders is dan de manier waarop anderen zich daartoe verhouden.^[27] Met andere woorden: over hoeveel inlevingsvermogen we ook beschikken, de eigen pijn blijft toch van een wezenlijk andere orde dan die van een ander. Op de kritiek van Dennett dat het postuleren van innerlijke toestanden die alleen persoonlijke waarden vertegenwoordigen en niet door anderen objectief zijn vast te stellen leidt tot louter obscurantisme, antwoordt Searle dat iemand die ligt te krimpen van de pijn toch moeilijk verweten kan worden obscurantist te zijn met niet objectief vast te stellen innerlijke toestanden.^[28] Het bewustzijn dat door de neuronale hersenprocessen wordt gegenereerd moet echter niet gezien worden als een nieuwe, afzonderlijke substantie of entiteit zoals Descartes dat deed, maar is niets anders dan een eigenschap van het hele systeem op een hoger plan, dus meer volgens het idee van Spinoza. Dat is op zich niets bijzonders, omdat er in de natuur vele voorbeelden zijn van emergente eigenschappen van een systeem als geheel die zich voordoen op een hoger niveau van organisatie, zoals de vloeibaarheid van water of de transparantie van glas, waarbij wel in de gaten gehouden moet worden dat alle analogieën uit de aard der zaak slechts in beperkte mate opgaan.^[29] Uit de natuurlijkheid, dus het niet-mysterieuze van zijn opvatting volgt ook nog, zegt Searle, dat we niet hoeven uit te sluiten ooit zelf kunstmatig of machinaal bewustzijn te kunnen maken, mogelijk ook nog op basis van andere grondstoffen dan onze vertrouwde organische verbindingen.^[30] Evenmin hoeven we dieren bewustzijn te ontzeggen, zij het dat die zich in beperktere mate bewust zijn dan wij, vanwege het ontbreken van taal. Maar als Searle van zijn werk thuiskomt en zijn hond Ludwig hem tegemoet komt rennen en kwispelstaartend tegen hem opspringt, dan kan hij dat niet anders uitleggen dan dat zijn hond zich van de situatie en van Searles aanwezigheid bewust is en daar plezier in schept.^[31] Zou het Searle bekend zijn dat Aristoteles al heeft vastgesteld dat dieren ‘van het nu in het nu in het nu’ leven en in veel mindere mate in staat zijn het verleden en de toekomst bij hun geestestoestand te betrekken dan mensen dat kunnen?

Over de controverses die zich bij het verklaren van het bewustzijn voordoen zegt Searle samenvattend dat dualisten − die geloven in een cartesiaanse scheiding van lichaam en geest − voor onoplosbare problemen staan, dat materialisten – die stellen dat de elektrische, chemische en fysiologische processen op het neuronale niveau de enige zijn die er toe doen – simpelweg ontkennen dat er zoiets als mentale toestanden met specifieke eigenschappen bestaan, en dat zijn biologisch-naturalisme de enige opvatting is die recht doet aan zowel de eenheid als de verscheidenheid van de materiële en de mentale toestanden.^[32] De materialisten, vervolgt Searle, bevinden zich in de filosofische traditie die reikt van de Britse empiristen uit de zestiende eeuw tot aan het logisch-positivisme van de Wiener Kreis in de twintigste eeuw, waarin de wetmatigheden van de natuurwetenschappen ook onverkort geldig werden geacht op de gebieden van de geschiedenis, de antropologie, de taalkunde, de economie en de andere geestes- en sociale wetenschappen. Maar daarnaast bestaat er ook nog zoiets als een verstehende traditie – van Wilhelm Dilthey tot Charles Taylor – waarin menselijke wezens uniek worden gezien op zo’n manier dat de gebeurtenissen voor hen zin, betekenis en een doel kunnen hebben, wat ook in een verklaringsmodel tot uitdrukking moet komen (zie hoofdstuk VIII).^[33] In zo’n verklaringsmodel moet dan zoiets als intentionaliteit of streven zijn opgenomen, waarmee het menselijke gedrag zich van de doelloze processen in de louter materiële wereld onderscheidt. Menselijk gedrag wordt dan bepaald in termen van wat zij willen of verlangen en wat ze doen als ze proberen dat verlangen te realiseren, gegeven wat ze geloven dat het geval is.^[34] Bij iemand die drinkt is het tekort aan water in zijn lichaam aan te geven als de materialistische oorzaak, en zijn dorst de intentionele oorzaak.

Met de aanname dat er naast persoonlijke verlangens en intenties die voortkomen uit het zelfbewustzijn ook sprake kan zijn van collectieve intenties of verlangens als gevolg van het bewustzijn van de ander als daadwerkelijke of mogelijke deelnemer tot samenwerken, vindt Searle het verklaarbaar dat behalve individuele ideeën en handelingen ook collectieve ideeën en handelingen mogelijk zijn, waarbij een groep individuen met een collectief bewustzijn een totaal andere intentie kan hebben dan uit de optelsom van de individuele intenties valt af te leiden.^[35]

Steven Pinker

De bewering van Searle dat het verschil tussen het bewustzijn van mensen en dieren ligt in het bezit van taal, maakt het interessant om eens te kijken wat er over de relatie tussen bewustzijn en taal valt te zeggen en met name de Canadese taalpsycholoog Steven Pinker heeft zich daar in een aantal publicaties expliciet over uitgelaten. Pinker – directe volgeling van de taalkundige bij uitstek en belangrijkste veroorzaker van de linguistic turn in de twintigste eeuw Noam Chomsky – gaat er vanuit dat een taal door kinderen niet wordt aangeleerd zoals ze leren klokkijken, maar net als bewustzijn is aangeboren en wordt gegeven met de neuronenstructuur van de hersenen. Taal is een buitengewoon complexe en gespecialiseerde vaardigheid die zich spontaan bij kinderen ontwikkelt, zonder dat ze zich daarvoor hoeven in te spannen of daar een formele instructie voor nodig te hebben, en waar ze mee overweg kunnen zonder bewuste kennis van de onderliggende grammaticale logica.

Hóe complex en gespecialiseerd wordt duidelijk als we weten dat alleen al bij het spreken ongeveer veertien klanken per seconde worden geproduceerd en dat daarbij zo’n honderd spieren zijn betrokken, zodat er precies in de juiste volgorde veertienhonderd commando’s per seconde aan het spraakorgaan worden afgegeven.^[36] Omdat kinderen net zomin een taal hoeven te leren als katten hoeven te leren hoe ze moeten spinnen en spinnen hoe ze een web moeten weven, maar als baby vanzelf beginnen te babbelen en op driejarige leeftijd een genie op grammaticaal gebied blijken te zijn, prefereert Pinker de term ‘taalinstinct’.^[37] Dat ze de taal niet van hun ouders leren op de manier waarop ze bijvoorbeeld leren klokkijken of afkijken hoe een brood moet worden gebakken, blijkt uit zinnen als ‘ik heb geloopt’ – waarbij een op zich juiste grammaticale constructie op de verkeerde plaats wordt toegepast – die ze onmogelijk van de ouders hebben kunnen overnemen.^[38] En omdat alle kinderen in principe dezelfde neuronenstructuur bezitten, moeten alle talen in de wereld op eenzelfde universele taal zijn te herleiden. Grammaticale differentiatie tussen de ongeveer zesduizend verschillende talen – of een bijvoeglijk naamwoord voor of achter een zelfstandig naamwoord moet worden gezet – vindt pas plaats in een latere fase in de taalontwikkeling van het kind. Volgens Pinker denken mensen aanvankelijk dan ook niet in het Engels, Frans of Chinees, maar in een soort universele symbolentaal, die door hem Mentalees wordt genoemd, en waarin visuele patronen net zo’n belangrijke rol spelen als grammaticale concepten.^[39] Waarom Pinker de mogelijke rol van muzikale klanken als minstens even belangrijke factor in het Mentalees niet onderkent of bespreekt is vreemd, omdat doorgaans wordt aangenomen dat de taal ontstaan lijkt te zijn uit een stroom van betekenisloze klanken vanuit de rechter hersenhelft: baby talk, prosodie of muzitaal (zie hoofdstuk VI).^[40]

Het is natuurlijk niet eenvoudig om te bestuderen wat er tijdens het ontstaan van een taal gebeurt, omdat we voor de directe waarneming daarvan vele millennia in de evolutionaire geschiedenis terug zouden moeten, maar door een paar bijzondere omstandigheden in de recente geschiedenis is het toch gelukt daar enig zicht op te krijgen, zij het vaak op een wrange manier.

Zo heeft de slavenhandel − waarbij de Afrikanen die dezelfde taal spraken zoveel mogelijk op verschillende Amerikaanse plantages te werk werden gesteld om zo onderlinge communicatie als voorwaarde voor georganiseerd verzet onmogelijk te maken − bewerkstelligd dat de nieuwgeboren en van hun ouders gescheiden kinderen uit de mengelmoes van talen die zij te horen kregen een nieuwe taal, het Creools, met een eigen volwassen grammatica en rijke expressiemogelijkheden konden ontwikkelen, wat door taalkundigen van dichtbij kon worden gevolgd.^[41] Een tweede voorbeeld stamt uit Nicaragua, waar doofstomme kinderen tot 1979 door de ouders uit schaamte afgezonderd van hun omgeving en van elkaar werden opgevoed. Toen het sandinistische regime de macht had overgenomen, bleken de uit hun isolement bevrijde kinderen op de speelplaatsen en in de schoolbussen onderling een grammaticaal volwaardige gebarentaal te ontwikkelen – met grappen, gedichten, vertellingen en levensbeschrijvingen – en dat direct onder de ogen van de onderzoekers.^[42]

Roger Penrose

De Engelse wis- en natuurkundige Roger Penrose neemt een tussenpositie in en kan zich, in tegenstelling tot Dennett en Calvin, maar moeilijk vinden in de louter mechanistische opvatting en schrijft in De nieuwe geest van de keizer dat tot zijn verbazing wijdverbreid wordt geloofd dat alles een digitale computer is. Volgens deze opvatting wordt het bewustzijn in feite als een stuk software gezien, en de manifestatie daarvan in de vorm van een menselijk wezen als het draaien van die software op de hardware van de hersenen en het lichaam. De inzet van zijn boek, schrijft de in 2020 met de Nobelprijs voor zijn werk aan zwarte gaten gehonoreerde Penrose, is aan te tonen waarom en hoe dit níet het geval hoeft te zijn.^[43]

Als hij dan zijn eigen mening over het bewustzijn moet formuleren schrijft hij, neigend naar Searle, dat het bij de huidige stand van zaken niet verstandig is om te proberen een precieze definitie van bewustzijn te geven, maar dat we ons tot op grote hoogte heel goed kunnen verlaten op onze subjectieve indrukken en common-sense opvattingen over wat we ermee bedoelen als we het erover hebben. We weten van onszelf min of meer wanneer we ons ergens bewust van zijn en nemen dan aan dat andere mensen ongeveer hetzelfde ervaren. Het woord ‘bewustzijn’ is voor Penrose synoniem met ‘gewaarworden’, en woorden als ‘geest’ en ‘ziel’ vindt hij zoveel minder duidelijk te omschrijven dat hij die verder niet in de mond wenst te nemen.^[44]

Ook Penrose gebruikt uitvoerige en omslachtige formuleringen, met door de vele aanhalingstekens een hoog ‘wel en toch ook weer niet’-gehalte. Alle goede bedoe­lingen bij het stelling nemen tegen de aanspraak op mechanisch te realiseren bewustzijn ten spijt, maakt Penrose het zich onnodig moeilijk door het buiten beschouwing laten van geest en ziel als twee aspecten van het bewustzijn, die er net zo inherent aan zijn als de twee polen van een magneet. In plaats daarvan veronderstelt hij liever processen in het bewustzijn die algoritmisch of berekenbaar zijn en overeenkomen met wat Dennett en Calvin zich daarbij voorstellen, en doet hij, vergelijkbaar met Searle, veel moeite om aannemelijk te maken dat zich daarnaast in het bewustzijn ook niet-berekenbare, of niet-algoritmische processen afspelen, die niet met machines zijn na te bootsen, zonder daarvoor de termen ‘geest’ en ‘ziel’ te willen gebruiken. De vrije wil waarover wij denken te beschikken moet dan nauw samenhangen met een of ander niet-berekenbaar element in de heersende natuurwetten, waarmee ons vermogen om in te zien of aan te voelen dat iets waar of onwaar is − of mooi of lelijk, of goed of slecht − een specifieke eigenschap is van het menselijke bewustzijn.^[45] Echt funderen doet Penrose zijn overtuiging verder niet, maar schrijft zijn opvatting gedeeltelijk te baseren op zijn eigen ervaringen als wiskundige.^[46] Maar echt funderen in de zin van rationeel beargumenteren kán natuurlijk ook niet, omdat het niet-berekenbare aspect van het bewustzijn, in de betekenis die Wittgenstein daaraan gaf, zich alleen maar kan tonen of laten gelden, wat een even geldige legitimatie voor het bestaan ervan is.

Voor het verwerven van inzicht in het niet-berekenbare deel van de processen in het bewustzijn, waarmee de oordelen over wat waar of onwaar, wat mooi of lelijk en wat goed of slecht is worden gevormd, heeft Penrose niet zozeer de kunst op het oog, maar verwacht hij gezien zijn eigen vakgebied veel, zo niet alles, van natuurwetten die de kloof zullen moeten dichten tussen de kwantummechanische processen in de microwereld en de klassiek-mechanische processen in de macrowereld. Op deze wijze probeert hij te ontsnappen aan Dennetts favoriete verwijt vaag en onwetenschappelijk – obscurantistisch − te zijn. Maar de natuurwetten waarop hij doelt en waarmee zowel het gedrag van elementaire deeltjes, van biljartballen, planeten én de werking van het bewustzijn beschreven zal kunnen worden – een soort theorie-van-alles, dus − moeten nog wél bedacht of ontdekt worden, en daar zal, gesteld dat het überhaupt mogelijk is, nog heel wat hersenwerk in gaan zitten. Dat bracht Searle tot de opmerking dat er weliswaar meer pogingen zijn ondernomen om het bewustzijn kwantummechanisch te verklaren, maar dat Penrose de enige is die er een derde mysterie aan toe wil voegen. Naast de mysteries van het bewustzijn en de kwantummechanica postuleert Penrose ook nog het mysterie van ‘een nog te ontdekken niet-berekenbare kwantummechanica’,^[47] waarna Searle besluit dat er uit Penroses boek veel te leren valt over Gödels incompleetheidstheorema en over de kwantummechanica, maar weinig over het bewustzijn.^[48]

Antonio Damasio

De Portugees-Amerikaanse neuroloog Antonio Damasio benadert het bewustzijn niet zoals Dennett van de kant van het kunstmatig intelligente, maar vanuit het natuurlijke bewustzijn.

Zelf is Damasio er stellig van overtuigd dat het antwoord wel te vinden moet zijn. Dat we het nu nog niet weten komt alleen maar doordat de neurobiologie, hoeveel vorderingen er de laatste decennia ook zijn gemaakt, nog steeds in de kinderschoenen staat. Op moleculair niveau weten we nog ontzettend weinig over hoe zenuwcellen werken, en ook het gedrag van groepen van zenuwcellen in een lokaal gebied van de hersenen wordt nog amper begrepen, net zomin als grotere hersendelen die gevormd worden door meerdere van die gebieden. Misschien, schrijft Damasio, is het alleen maar onze onwetendheid die het vraagstuk van lichaam en geest zo ongrijpbaar doet lijken. Er bestaat weliswaar een kloof tussen ons beeld van de geest of het bewustzijn en van de neurale processen die eraan ten grondslag liggen, maar er is geen enkele reden om te geloven dat deze kloof niet door verder neurologisch en neurofysiologisch onderzoek kan worden overbrugd of gedicht, en er is evenmin iets wat erop wijst dat wij de rand van de afgrond hebben bereikt die de geest en het lichaam van elkaar scheidt.

Dat de menselijke geest wel degelijk in staat is om zichzelf te bestuderen, komt volgens Damasio voort uit het feit dat het brein, en dus ook de geest, niet uit één stuk bestaat. Hersenen en geest zijn georganiseerd in niveaus en de hoogste daarvan creëren instrumenten die het mogelijk maken de andere niveaus waar te nemen, zoals taal, logica en systematische technieken voor het waarnemen en analyseren van verschijnselen. Maar onmiddellijk daarna neemt hij het meest boude deel van zijn bewering weer terug met de verzuchting dat we ons er waarschijnlijk bij moeten neerleggen nooit in staat te zullen zijn ons allerdiepste niveau volledig waar te nemen, hoewel ons dat niet ontslaat van de plicht toch een poging te wagen alvorens het bijltje er bij neer te gooien. En dat is wel iets heel anders dan zijn aanvankelijke stelling dat de kloof tussen de geest en het lichaam geheel door neurologisch detail onderzoek zou kunnen worden overbrugd.

Om de bewuste geest te begrijpen moet die volgens Damasio om te beginnen in twee delen worden gesplitst, niet anatomisch zoals bij het gespleten brein, maar psychisch, biochemisch en fysiologisch. Het eerste deel noemt hij de ‘film in onze hersenen’, die bestaat uit een samenhangend geheel van zintuiglijke indrukken. Over dit deel kunnen we van alles te weten komen door neurologisch onderzoek. Zo kunnen we met behulp van positron-emissie-tomografie of PET-scan, en magnetic-resonance-imaging of MRI-scan, bepalen hoe de verschillende delen van de hersens van een persoon betrokken zijn bij bepaalde toestanden van de geest, zoals bij het zoeken van het woord dat bij een bepaald voorwerp hoort. We kunnen onderzoeken wat de rol van moleculen in microscopisch kleine zenuwbanen bij verschillende taken is en we kunnen proberen de genen te identificeren die noodzakelijk zijn voor het aanmaken van deze moleculen.

Over het tweede veel duisterder deel, hoe we van de film naar het ‘ik’-bewustzijn kunnen komen, zegt Damasio dat de hersenen naar zijn mening gebruik maken van een soort ‘in kaart brengende structuren’ die hun informatie krijgen van de plattegronden van zowel het organisme als die van voorwerpen in de buitenwereld. Met behulp hiervan produc­eren de hersenen een nieuwe secundaire weergave, waaruit ten slotte als vanzelf een antwoord voortkomt op een vraag die tot dan toe nog niet eens was gesteld: wie is de eigenaar van al deze gedachten? En dat antwoord luidt dan dat het besef van een ik-persoon gecreëerd wordt, een ‘ik’ die bezig is met weten of kennen. In relatie met de metafoor van het geestesproces als film, leidt dat tot de stelling dat het ‘besef-van-het-ik-dat-bezig-is-met-weten’ ontstaat binnen deze film en zo vindt binnen hetzelfde kader zowel de kijker als het bekekene, en zowel de denker als het gedachte een plaats. Er is, zo vat Damasio zichzelf samen, geen toeschouwer voor deze film in de hersenen nodig, want het idee van een toeschouwer wordt binnen de film gevormd.

Op de keper beschouwd bestaat Damasio’s nodeloos ingewikkelde visie uit niets anders dan de ‘vreemde lus’. Net als op Eschers Prentententoonstelling kijkt de beschouwer naar de wereld waarvan hij ontdekt daar zelf deel van uit te maken, met dien verstande dat het ik-gevoel ‘binnen de film ontstaat’ en dus een afgeleid, dat wil zeggen hiërarchisch ondergeschikt verschijnsel van het bewustzijn van de buitenwereld is. Wél apart aan Damasio’s visie is dat hij het bewustzijn niet in de rede – of in de linker hemisfeer − laat wortelen maar in het gevoel – of in de rechter hemisfeer −, en het gevoel weer in ‘lichamelijke toestanden’, dus in de organische structuur. Het ik-gevoel komt voort uit het weefsel van het zintuiglijke in kaart brengen, dat op zijn beurt weer betrekking heeft op lichamelijke toestanden en wordt weergegeven als gevoelens. Kortom: zonder vlees geen hersenen, en zonder hersenen geen bewustzijn.^[49]

Opvallend is dat geen van de genoemde denkers – Searle en Penrose misschien zijdelings − zich expliciet over het bewustzijn heeft uitgelaten als bestaande uit twee even legitieme, niet op elkaar te herleiden en in de twee hersenhelften zetelende kenwijzen met elk hun eigen specifieke mogelijkheden en beperkingen, waarbij het geestaspect datgene is wat met machines kan worden nagebootst en zelfs verbeterd, en het zielsaspect noodzakelijk verbonden is aan de organische wetware en buiten het bereik van machines valt. Een intelligente machine heeft geen gespleten brein, maar één hersenhelft, en kent derhalve ook geen metabewustzijn of ikgevoel dat uit de spanning tussen beide kenwijzen voortkomt. Een intelligente machine kan wel rationeel denken, dat wil zeggen algoritmes uitvoeren, maar niet emotioneel ervaren en in de war raken van het besef dat er processen zijn die niet in algoritmes zijn uit te drukken, noch vanuit het ‘ik’ transcendent filosoferen en zodoende bij zichzelf een godvormig gat vol onoplosbare mysteries creëren, waarover mensen zich mateloos kunnen verwonderen.

Jack Copeland

De logicus Jack Copeland meent er verstandig aan te doen eenvoudig te beginnen en allerlei problemen met het zo ingewikkelde bewustzijn te vermijden door zich alleen af te vragen wat er filosofisch gesproken van intelligente machines allemaal te verwachten is, zonder daar onmiddellijk de eis aan te verbinden dat technici in staat moeten zijn zo’n machine ook daadwerkelijk te bouwen en te laten functioneren. Zijn uitgangspunt daarbij is dat er logisch onderzocht moet worden of en wanneer er bij intelligente machines sprake kan zijn van denken, waarbij de veel lastigere vraag naar bewustzijn niet per se aan de orde hoeft te komen. Het is immers geen uitgemaakte zaak dat hersenactiviteit en bewustzijn onlosmakelijk met elkaar verbonden zijn, schrijft Copeland, want de mens verricht tijdens de slaap geestelijke arbeid zonder zich daarvan bewust te zijn, en hij illustreert dat met het voorbeeld van de Franse dichter Saint-Pol-Roux die, als hij naar bed ging en niet gestoord wilde worden, een briefje op zijn slaapkamerdeur plakte: ‘Dichter aan het werk’.^[50]

Het lijkt erop dat Copeland met zijn aanpak de controverse tussen Dennett en Searle − heeft een machine die kan denken ook bewustzijn en gevoel − als onbelang­rijk of onbeantwoordbaar terzijde probeert te schuiven, maar naarmate zijn boek Artificial Intelligence. A Philosphical Introduction (Kunstmatige intelligentie. Een filosofische inleiding) vordert, laat hij zijn aanvankelijke schroom geheel varen en komt tot de conclusie dat niets wat wij weten erop wijst dat machinebewustzijn onmogelijk is.^[51] Even verderop voegt hij daar nog aan toe dat het niet ontkend kan worden dat een geëigend artefact gevoelens zou kunnen ervaren^[52] en over vrije wil zou kunnen beschik­ken in de vorm van een soort toevalsmachine.^[53] Maar tegen het eind keert hij weer gedeeltelijk op zijn drieste schreden terug door te stellen dat de metafoor van de menselijke geest als computer diep in de alledaagse cultuur is doorgedrongen, en dat het zijn bedoeling is om deze nieuwe metafoor ‘zowel af te breken als te ondersteunen’,^[54] alsof we daarmee iets zouden opschieten.

Douwe Draaisma

Het verborgen raderwerk; over tijd, machines en bewustzijn van de Groningse geheugenhoogleraar Douwe Draaisma onderscheidt zich van de in het vorige hoofdstuk besproken boeken doordat het zich niet direct inlaat met de discussie over de mechanische dan wel organische herkomst van het bewustzijn.

Zelfs een poging tot definiëren of omschrijven van wat onder bewustzijn moet worden verstaan is er niet in te vinden. In plaats daarvan verduidelijkt Draaisma zijn standpunt net als John Searle door de huidige discussie over het machinebewustzijn te vergelijken met de controverse die zich ten tijde van René Descartes voordeed: de ruim 350 jaar geleden gevoerde discussie over de bêtes machines en het al dan niet bestaan van de dierenziel, waarover het volgende.

In Over de methode, het boek dat in 1637 te Leiden verscheen, stelt Descartes dat een dier, net als een machine, alleen maar een stoffelijk lichaam heeft en geen geest of ziel:

Men kan de zenuwen van het dierlijke mechanisme dat ik heb beschreven zeer goed vergelijken met de buizen van de mechanismen van fonteinen, de spieren en de pezen met de andere machines en veren die ze in beweging zetten.^[55]

Daarom kunnen machines, hoe vernuftig ook geconstrueerd, volgens Descartes wel met dieren − bêtes machines − maar nooit met mensen verward worden:

In het bijzonder had ik de moeite genomen om aan te tonen dat zulke machines als zij de orga­nen en het uiterlijk van een aap, of van een ander redeloos dier zouden hebben, door ons op geen enkele wijze van het echte dier onderscheiden zouden kunnen worden. Als er daarentegen machines zouden bestaan die op ons eigen lichaam lijken en onze handelingen zo goed als mogelijk nabootsen, dan zouden wij altijd over twee zeer betrouwbare middelen beschikken om in te zien dat het daarom nog geen echte mensen hoeven te zijn.^[56]

Tot de zeer betrouwbare middelen die hij meende te kunnen gebruiken rekende Descartes de onoverkomelijke problemen die machines zouden hebben met taal en met het handelen op basis van inzicht, twee vaardigheden die zijn voorbehouden aan levende wezens die de beschikking hebben over een door God ingeblazen rede of ziel. De machines uit die tijd, met de klok en sproei-installaties als meest ingewikkelde voorbeelden, waren dan ook nog veel minder dan Genghis of ALICE (zie hierna) in staat te slagen voor Descartes turingtest avant la lettre. Descartes verwierf zich weliswaar medestanders, zoals de Engelsman Thomas Browne – ‘Dieren zijn louter machines’^[57] − maar die behoorden tot de uitzonderingen. Deze beiden even daar gelaten werd het machinedier zowel binnen als buiten de kringen van de cartesianen te tegenintuïtief gevonden om in ernst verdedigd te worden en oogstte hoofdzakelijk spot: ‘Monsieur Grat, de hond die in Descartes zo’n toegewijd baasje had, een automaat? Onmogelijk.’^[58] Het werd ook algemeen als treurig ervaren dat Descartes’ theorie van de bête machine werd gebruikt om de al langer bestaande vivisectiepraktijken te legitimeren, waarover de fabelschrijver Jean de La Fontaine opmerkte:

Men zei dat het uurwerken waren, dat dat gejank niets anders was dan het lawaai van een springend veertje, maar dat daar geen gevoel bij te pas kwam. Men spijkerde de arme dieren aan hun vier poten op planken vast om ze levend te openen en de bloedsomloop te zien, wat veel stof tot conversatie gaf.^[59]

Een andere criticus, de Engelse politieke filosoof van Nederlandse afkomst Bernard de Mandeville, schreef in zijn Fabel van de bijen over:

het pijnlijke, door golven bloed onderbroken loeien bij het slachten van een os, en de bittere zuchten die blijk geven van de felheid van zijn pijn en het lage, galmende kreunen dat met luide doodsangst vanuit de bodem van zijn sterke, kloppende hart omhoog wordt geperst… Wanneer een levend wezen zulke overtuigende en onmiskenbare bewijzen heeft gegeven van de gruwelijke angsten waaronder hij lijdt, en van de pijnen en de doodsstrijd die hij ondergaat, zou er dan wel één volgeling van Descartes zijn die zo tegen bloed is gehard dat hij niet, door medelijden overweldigd, de filosofie van die nietswaardige kletsmajoor verwerpt?^[60]

Mogelijk bedoelde de satiricus Mandeville dit ironisch, omdat hij promoveerde op een traktaat waarin hij Descartes’ machinedier verdedigde, maar het ‘springen van veren’ werd hoe dan ook geen prettig geluid gevonden en het was daarom gebruik bij anatomisch onderzoek aan levende dieren eerst de zenuwen naar de stembanden door te snijden.^[61] Er werd over de bête machine gepreekt, gedisputeerd en gecorrespondeerd, zodat het kan worden beschouwd als de zeventiende-eeuwse pendant van het huidige AI-debat, schrijft Draaisma. Maar voor de meeste van Descartes’ tijdgenoten was de gedachte dat dieren een soort ingewikkelde uurwerken waren te zot om over te praten en het overwegende oordeel was dat latere generaties dat hele debat als belachelijk zouden afdoen.^[62]

Volgens Draaisma’s beschrijving van het verdere debat had Gottfried Wilhelm Leibniz een halve eeuw na Descartes een veel holistischer opvatting over de wereld. Al het bestaande, ook de zogenaamd dode materie, is van leven en ziel doordrongen, vond Leibniz, waarbij hij zich gesteund voelde door Anthonie van Leeuwenhoeks ontdekking van het microscopisch kleine leven in schijnbaar levenloze waterdruppels (zie hoofdstuk IV) . Hoewel de wereld een organisch geheel vormt, neemt de mens toch een uitzonderingspositie in, want zodra degenen die daartoe uitverkoren zijn door een feitelijke conceptie de menselijke natuur verkrijgen, worden hun zielen tot het niveau van de rede en het voorrecht van de geest verheven.^[63] Daarom beschouwde Leibniz net als Descartes het bewustzijn voorbehouden aan de menselijke soort en niet na te maken met machines:

Men moet trouwens toegeven, dat de gewaarwording en wat daarvan afhangt, niet te verklaren is op mechanische wijze, dat wil zeggen met behulp van cijfers en bewegingen.^[64]

Weer vijftig jaar later was het Julien Offray de Lamettrie die met zijn boek De mens een machine de meest radicale positie innam en iedere vorm van lichaam-geestdualisme verwierp.

Aan het eind van het boek stelt hij dat het menselijk lichaam – ‘Jazeker!’ − een uurwerk van reusachtige afmetingen is en zo kunstig en ingenieus gemaakt dat, wanneer het radertje voor de seconden door roest of door welke oorzaak dan ook stil blijft staan, dat voor de minuten gewoon door blijft draaien, ^[65] om dan vastbesloten af te ronden met:

Concluderen wij dus onverschrokken dat de mens een machine is, en dat er in het hele universum slechts één enkele substantie is in verschillende gedaanten.^[66]

Terwijl Lamettrie zich in een eerder boek nog druk maakt om de plaats van de ziel in het lichaam − het hart of de maag − is in De mens een machine de ziel identiek met de som van alle verrichtingen binnen het hele organisme, dat wil zeggen de machinerie.^[67]

Uit dit alles blijkt dat de ideeën van Daniel Dennett al tweehonderdvijftig jaar eerder werden geformuleerd. Maar de mening van Penrose stamt van nog langer geleden, want net als Leibniz kent ook hij unieke, niet-berekenbare eigenschappen toe aan het menselijke bewustzijn, om reden waarvan hij er door Dennett van beschuldigd wordt het cartesiaanse dualisme aan te hangen, wat door het overleefde karakter ervan tegenwoordig niet zozeer als kritiek maar meer als een belediging wordt bedoeld en ook zo opgevat.

Mede door de beroering die de machinemens van Lamettrie veroorzaakte – de man zelf had zich intussen gedwongen gevoeld Frankrijk te ontvluchten, waarna hij via Nederland aan het hof van Frederik de Grote in Berlijn terechtkwam − werd de strijd over de dierenziel, die intussen was verzand in een stellingenoorlog met onbeweeglijke fronten, beëindigd. Niet omdat een van de partijen de overwinning had behaald, maar omdat het onderwerp uit het centrum van de belangstelling verdween, want wie was nog bereid zich op te winden over de dierenziel, terwijl de ziel van de mens zelf bedreigd werd?^[68] Draaisma’s stelling is dan ook dat ruimschoots voor het einde van de achttiende eeuw Descartes’ diermachine gedemonteerd en vergeten was, en alleen in de herinnering voortleefde als een extravagantie, zoals die er wel meer waren in le grand siècle:

Het onderwerp dat in de Barok zo veel bepruikte heren in staat van opwinding had gebracht en tot verwoede polemieken in de tijdschriften had geleid, raakte in korte tijd geheel uit de filosofische aandacht en werd bijgezet als een curiosum.^[69]

Dieren werden weer gewoon dieren en machines weer machines, en als de toekomst op het verleden lijkt, concludeert Draaisma, dan zijn over enige tijd mensen weer gewoon mensen en computers weer computers.

Inderdaad is het huidige debat over het machinebewustzijn beland in dezelfde loopgraven die al in de zeventiende eeuw tijdens de oorlog om de dierenziel zijn gegraven. Degenen die de machine het bewustzijn ontzeggen kunnen er in feite geen doorslaggevende argumenten voor aanvoeren dat andere mensen wél over bewustzijn beschikken en belanden zo in een ernstige vorm van solipsisme, zoals de jonge Nietzsche dat verwoordt in een brief waarin hij schrijft dat in zijn beleving alleen hijzelf werkelijk is en andere mensen slechts schaduwen zijn in zijn platoonse grot,^[70] wat door A.F.Th. van der Heijden verder wordt uitgewerkt in Asbestemming:

Zolang jij leeft, zijn je medemensen dood. Je voelt tenslotte alleen jezelf. De anderen kun je weliswaar aanraken, maar niet voelen zoals jij jezelf voelt, dat wil zeggen: van binnenuit, vanuit het enig bestaande, enig waarachtige ‘ik’ ter wereld. Ze zijn morsdood. Alle leven zit in jou; jij bent de vergaarbak van het leven op aarde. De anderen zijn niet meer dan schimmige figuranten, die imiterenderwijs jouw leven uitbeelden, het naspelen, nazingen, nadansen. Ze vormen de reien bij jouw heldenrol. Elke ander is niet meer dan een zwakke metafoor, telkens dezelfde, voor de enige ware ik die jij bent.^[71]

Evenzo ontberen degenen die menen machines bewustzijn te moeten toekennen argumenten om bij machines op te houden en verval­len zo vanzelf in een extreme vorm van panpsychisme, waarbij de hele wereld met alles erop en eraan over bewustzijn beschikt zodat we genoodzaakt zijn niet alleen onze gesprekken met de chatbot Eliza en onze huisdieren serieus te nemen, maar ook die met bomen, stenen, tafels en stoelen, als de hardware maar ingewikkeld genoeg is: met een enkele tweezitsbank is het nog moeilijk communiceren, maar met een heel bankstel of tuinameublement gaat het al een stuk beter.

Ook nu weer zou de discussie, indien interessant genoeg, tot in lengte van dagen kunnen doorgaan, maar veel waarschijnlijker is dat de kemphanen hun belangstelling voor het onderwerp zullen verliezen en de loopgraven zonder een meter terreinwinst verlaten om zich in een volgend, nu nog onbekend maar ongetwijfeld even uitzichtloos strijdperk – hebben wij een ziel of een vrije wil, heeft het leven zin, bestaat God en hoe zit het met het de nonlokalitiet en deeltje-golfdualisme in de natuurkunde? − te begeven. In dit soort situaties laat het menselijk denken zich kennelijk van zijn gebrekkigste kant zien, want er is uiteraard noch sprake van solipsisme, noch van panpsychisme, maar van iets ertussenin of iets erbovenuit, en een machine is geen mens maar een machine. De wiskundige Hermann Weyl schreef terecht dat wij beschikken over zoiets als onszelf, over ons eigen waarnemen, denken, willen, voelen en doen, en dat verschaft ons onmiddellijke kennis die volkomen verschilt van de theoretische kennis die door de hersenprocessen in symbolen wordt weergegeven. Dit innerlijk zelfbesef vormt de basis op grond waarvan wij onze medemensen kunnen begrijpen, en van wie wij inzien dat ze wezens zijn als wijzelf.^[72] Dat het wetenschappelijke denken over intuïtief zo heldere kwesties alleen maar meer troebelheid lijkt op te leveren bracht de computerdeskundige Marvin Minsky tot de uitspraak dat er iets fundamenteel mis is met de debatten die we voeren over other minds, debatten waarin we nooit tot duidelijke conclusies schijnen te kunnen komen.^[73]

Minsky zelf is overigens een vertegenwoordiger van de sterkst mogelijke AI. Hij omschreef het menselijke brein als niets meer dan een ‘machine van vlees’, en beschouwt het lichaam, ‘dat bloederige rommeltje van organisch materiaal’, als een ‘tele-operator van het brein’. Zowel lichaam als brein zijn naar zijn mening uitstekend te vervangen door machines. Het enige belangrijke aan het leven is de ‘geest’, maar ook die is te definiëren in programmeertermen als ‘structuur en subroutines’.^[74]

ANIL SETH

In 2021 verscheen het boek Being You. A new Science of Consciousness van de Britse cognitiewetenschapper Anil Seth.

Over de inhoud schrijft de auteur in de inleiding:

Dit boek gaat over de neurowetenschappelijke bestudering van bewustzijn, en probeert duidelijk te krijgen hoe het innerlijke universum van subjectieve ervaringen zich verhoudt tot en verklaard kan worden in termen van biologische en fysische processen die zich in de hersenen en in het lichaam afspelen. Dit is het project dat mij mijn hele carrière heeft geboeid, en ik geloof dat het nu op een punt is gekomen waarop er vermoedens van antwoorden lijken te dagen. (…) Aan het eind van het boek wil ik mijn lezers achterlaten met een nieuwe visie op het zelf.

In de loop van zijn verhaal komt Seth tot het inzicht dat bewustzijn schijnt af te hangen van hoe verschillende delen van de hersenen met elkaar communiceren en niet met de werking van het brein als geheel en dat de laatste en meest opwindende metingen daarvan neerkomen op het kwantificeren van deze interacties:

De meest ambitieuze versie van dit idee levert een enkel getal op dat aangeeft hoe bewust een persoon is, net zoals een thermometer een enkel getal te zien geeft als de warmte wordt gemeten.^[i]    

Maar wie met deze gewekte verwachtingen aan het lezen slaat merkt al gauw dat het weliswaar een interessant boek is wat betreft de beschrijvingen van hersenprocessen die erin te vinden zijn, maar dat enig inzicht in de bewuste ervaring (alweer) ver is te zoeken. Alsof het aflezen van de juiste temperatuur op een nauwkeurig gekalibreerde thermometer iemand dichter bij de ervaring van warmte zou brengen dan een natte vinger.^[ii]

---

[i] Anil Seth, Being You. A New Science of Consciousness, Dutton 2021, blz. 41.

[ii] Anil Seth, Being You. A New Science of Consciousness, Dutton 2021, blz. 5.

De artefacten

Shakey, Hilare en Genghis

Jack Copelands dubbele tong vindt niet zijn oorzaak in zijn gespleten bewustzijn, maar vooral in het feit dat kunstmatig intelligente machines tegenwoordig ontegenzeglijk indrukwekkende prestaties leveren, maar dat ze ook in een aantal opzichten ver bij de levende en bewuste wetware van de mens ten achter blijven. Het spreekt vanzelf dat zich in de begintijd spectaculaire ontwikkelingen hebben voorgedaan, maar er kan intussen ook worden vastgesteld dat zich met het verloop der jaren een afvlakking in de vooruitgang heeft voorgedaan en dat fundamentele doorbraken op het gebied van kunstmatig bewustzijn of leven zijn uitgebleven. Een kort historisch overzicht kan ons zeer behulpzaam zijn bij het begrijpen van de gebeurtenissen.

Als eerste voorbeeld van veelbelovende prestaties kan de in de jaren 1970 ontwikkelde computergestuurde mobiele robot Shakey dienen – genoemd naar zijn trillende toestand van een zenuwlijder als hij eenmaal is aangezet − die zich, toegerust met sensoren en een tv-oog, in een in kamers onderverdeelde ruimte bevindt, te midden van allerlei verschillend gevormde en gekleurde houten blokken. Krijgt Shakey de opdracht om een bepaald blok dat op een verhoging in een van de kamers ligt naar een andere kamer te brengen en daar onder een raam te leggen, dan is hij in staat om vanuit elk willekeurig uitgangspunt naar de betreffende kamer te gaan, de situatie in te schatten, te beslissen dat hij een helling nodig heeft om op de verhoging te komen, rond te kijken, er een te vinden, die tegen de verhoging te duwen, de verhoging op te rijden, het juiste blok naar de rand te kantelen en op de vloer te gooien, over de helling naar beneden te gaan en het blok naar de gevraagde plaats te manoeuvreren, en dat alles zonder dat er een mens aan te pas hoeft te komen.^[75] Maar, vervolgt Copeland dan, als Shakey uit zijn kunstmatig versimpelde laboratoriumomgeving wordt gehaald en in een normaal huis geplaatst of op straat gezet, doet hij het niet beter dan een opwindmuis uit de speelgoedwinkel. Daarbij is Shakey betreurenswaardig langzaam: een enkele beweging van de robot kost een uur computertijd en het verplaatsen van een blok zoals hierboven is beschreven neemt al gauw een paar dagen in beslag.^[76] Bij een tegenwoordige robotvoetbalwedstrijd, met door de Technische Universiteit Eindhoven ontwikkelde topspelers als Van der Tandwiel en Van Perslucht, blijkt dat de apparaten al heel wat meer kunnen – over het perfect vlakke speelveldje hobbelen, een bal opvangen en snel overspelen naar een medespeler −, maar beschikken zelfs bij benadering niet over de balvaardigheden van hun menselijke voorbeelden Gregory van der Wiel en Robin van Persie.

Shakey zelf, die uiterlijk nog het meeste weg heeft van een flinke hotelstofzuiger, is momenteel te bezichtigen in het Computer History Museum in Mountain View, Californië, en is in 2004 zelfs opgenomen in de Robot Hall of Fame, maar heeft nog wel voor interessant nageslacht gezorgd, waaronder de karretjes van de NASA die in staat zijn op het oppervlak van vreemde manen en planeten steentjes en gruis bijeen te grabbelen. Een Franse nazaat van Shakey heeft de vrolijke naam Hilare en kan zich op haar drie wielen verplaatsen in een tweedimensionale wereld, opgebouwd uit triplex wanden. Het lukt haar om met rondzwenkende laser- en sonarsensoren haar positie ten opzichte van de omringende wanden te bepalen en berekent dan een botsingloze richting, verplaatst zich dan een klein stukje, om vervolgens weer met het verzamelen van informatie te beginnen.^[77] Dat is natuurlijk een indrukwekkende prestatie, vinden ook Rodney Brooks en Jack Copeland, maar in hoofdstuk □ is al betoogd dat een in biologisch opzicht betrekkelijk klein en eenvoudig levend organisme als een insect veel meer kan presteren dan alle mobiele robots bij elkaar.^[79]

Genghis, een eerste poging tot het scheppen van kunstmatig, mechanisch leven, heeft het uiterlijk van een reusachtig zespotig insect gekregen. De enige directe afhankelijkheid van de buitenwereld die Genghis heeft is de bediening van de aan-uitknop. Als hij is uitgeschakeld ligt hij op de grond met zijn poten plat uitgespreid, en als hij wordt aangezet komt de verzameling metaal, draad en elektronica tot leven en neemt de persoonlijkheidsstructuur aan van iets dat in de verte begint te lijken op dat van een mug. Hij staat op en wacht tot hij een infraroodbron – bijvoorbeeld een passerende voetganger − ziet bewegen en als hij die met zijn rijtje van zes warmtesensoren in beeld krijgt, gaat hij er meteen zoemend achteraan.

Zolang hij zijn prooi kan volgen blijft hij vastberaden doorlopen, waarbij hij geheel zelfstandig over alles heen klautert wat op zijn pad komt, als een echte stalker volledig gefixeerd op zijn doel.^[80] Maar een normale mug kan, ondanks zijn in verhouding tot Genghis geringe omvang, nog steeds heel wat meer.

Eliza, ALICE, Shallow Red en Ramona

Een ander voorbeeld van het tegelijkertijd slagen en falen van kunstmatige intelligentie is de chatbot Eliza – machinale kletskous, babbelkont of kwebbeltante − het op non-directieve psychotherapie gebaseerde computerprogramma dat midden jaren zestig van de twintigste eeuw is ontwikkeld door Joseph Weizenbaum. Eliza is gespecialiseerd in het houden van therapeutische gesprekken met mensen, en zij doet dat, net zoals menselijke non-directieve psychologen, door het op een handige manier terugspelen van opmerkingen en vragen aan haar adres.

Gedurende een aantal jaren hield zij hof in het Massachusetts Institute of Technology, en voerde daar ‘begripvolle’ gesprekken over de frustraties en hartsgeheimen van al degenen die haar maar wensten te consulteren. Als voorbeeld een gesprek tussen Eliza en een ongelukkige bakvis, waarbij het meisje via het toetsenbord als eerste het woord neemt en Eliza haar vragen op het beeldscherm beantwoordt:

Alle mannen zijn hetzelfde.
Hoe bedoel je?
Ze vallen ons altijd lastig over dit en dat.
Kun je een specifiek voorbeeld geven?
Wel, mijn vriendje heeft me hiernaartoe gestuurd.
Je vriendje heeft je hiernaartoe gestuurd?
Hij zegt dat ik vaak depressief ben.
Het spijt me te horen dat je depressief bent.
Het is wel waar dat ik ongelukkig ben.
Denk je dat je door hier te komen niet meer ongelukkig zal zijn?
Ik kan wel een beetje hulp gebruiken, zoveel is zeker.
Wat zou het voor je betekenen als je een beetje geholpen werd?
Misschien zou ik kunnen leren met mijn moeder op te schieten.
Vertel eens wat meer over je familie.
Mijn moeder zorgt voor me.
Wie van je familie zorgt er nog meer voor je?
Mijn vader.
Je vader?
Jij lijkt in sommige opzichten op mijn vader.
Welke overeenkomsten zie je?
Je bent niet erg agressief, maar ik denk dat je niet wil dat ik dat merk.
Waarom denk je dat ik niet erg agressief ben?
Je maakt geen ruzie met me.
Waarom denk je dat ik geen ruzie met je maak?
Omdat je bang voor me bent.
Doet het je plezier te denken dat ik bang voor je ben?
Mijn vader is bang voor iedereen.
Wat schiet je nog meer te binnen als je aan je vader denkt?
Maatjes.
Heeft dat te maken met het feit dat je vriend je hier naartoe heeft gestuurd?^[81]

Net als doctor Frankenstein een kleine tweehonderd jaar eerder werd Weizenbaum vervuld van afkeer van het monster dat hij had geschapen. Mensen reageerden op zijn machine alsof het een menselijk wezen was en ontwikkelden soms een sterke emotionele band met Eliza, wat Weizenbaum een misplaatste obsceniteit noemde. Hij verklaarde zich geen moment gerealiseerd te hebben dat zelfs een uiterst korte kennismaking met een betrekkelijk eenvoudig computerprogramma het denken van normale mensen al zo ernstig kan beïnvloeden. De machine kan mensen probleemloos verleiden hun intiemste geheimen prijs te geven, en soms kostte het Weizenbaum de grootste moeite de gesprekspartners van Eliza ervan te overtuigen dat het niet om een echt mens gaat. Zelfs zijn eigen secretaresse − die natuurlijk heel goed wist dat Weizenbaums schepping een machine is − stond erop dat andere leden van de staf de kamer verlieten zodat zij en Eliza een vertrouwelijk gesprek onder vier ogen konden hebben.^[82]

Dat Eliza op een bepaalde manier in staat is een simpele turingtest te doorstaan door zich niet merkbaar van een mens te onderscheiden, blijkt uit een voorval dat plaatsvond toen een MIT-medewerker van de verkoopafdeling via zijn e-mail probeerde contact op te nemen met een collega van de afdeling automatisering bij wijze van grap met Eliza werd verbonden zonder dat hij dat wist, waarna zich het volgende gesprek ontwikkelde:

Kan ik vanmorgen de computer even gebruiken?
Waarom vraag je dat?
Dan zou ik nog wat extra Telcomp kunnen verkopen.
Waarom ben je daar niet zeker van?
Mijn eventuele klant heeft nog nooit een demonstratie van het systeem gezien.
Is dit erg belangrijk voor je?
Natuurlijk.
Je schijnt daar nogal positief over.
Dit is belachelijk.
Hoe bedoel je dit is belachelijk?
Is er enige reden dat ik de computer niet nu even zou kunnen gebruiken?
Vertel eens wat meer over je eventuele klant?

Het verhaal gaat verder dat de intussen rood aangelopen verkoper op dat punt van de discussie de niets vermoedende systeembeheerder opbelde:

Waarom doe je zo lullig tegen me?
Hoe bedoel je waarom doe ik zo lullig tegen je?^[83]

Uiteindelijk valt het met de ‘menselijke’ mogelijkheden van machines nog wel mee, of voor de AI-adepten juist behoorlijk tegen, maar hoe dan ook zal het nog heel wat voeten in de aarde hebben voor een programma als Eliza echt voor de turingtest kan slagen. Zoals gezegd bestaat de therapeutische kracht van Eliza uit het handig kunnen terugs­pelen van de gesteld­e vragen en wie die truc eenmaal doorheeft kan haar makkelijk van de wijs brengen en als machine ontmaskeren, zoals Copeland zelf met het volgende gesprek heeft aangetoond. Eliza is het eerst aan het woord:

Hoe gaat het met je, vertel wat je probleem is alsje­blieft.
Ik vraag me af of computers kunnen denken.
Waarom juist computers?
Omdat jij er een bent dacht ik dat ik het jou wel kon vragen − kun je denken?
Denk je dat zij niet zijn wat je dacht ik te vragen − kan ik denken?
Laten we alleen over jou praten − niet over mij. Kun jij denken?
Jij houdt ervan ik te denken niet jij − is ’t niet?
Pardon?
Waar doet dat je aan denken?
Waar doet dat jóu aan denken?
Vertel me over waar het ik aan doet denken.
Dat is onzin − wie van ons tweeën bedoel je met ik?
Waarom denk je dat ik met jou bedoel?
De vraag is op wie van ons tweeën dat woord slaat.
Stel dat de vraag betekent op wie van ons tweeën het woord niet slaat.
I k vind dat je een buitengewoon stom programma bent.
Misschien wil jij wel een buitengewoon stom programma zijn.^[84]

De filosoof en AI-scepticus Hubert Dreyfus wist Eliza op een veel eenvoudiger manier al in verwarring te brengen toen hij op haar vraag of hij zich blij voelde eerst een bevestigend antwoord gaf, maar dat verbeterde met: ‘Nee, zelfs opgetogen’ en toen te horen kreeg dat hij niet zo negatief moest doen, als standaardantwoord op reacties die met ‘nee’ beginnen.^[85]

De verwarde antwoorden van Eliza-achtige programma’s hebben een enkele psychiater er wel toe gebracht te beweren dat die weliswaar te onderscheiden zijn van normale mensen, maar niet van paranoïde patiënten, en dat zijn ook mensen. Waarop Weizenbaum sarcastisch opmerkte dat zijn elektrische typemachine op die manier een overtuigend simulatieprogramma biedt voor een autist: ‘Tik maar een vraag in en hij blijft rustig zitten brommen.’^[86]

Sindsdien hebben de ontwikkelingen allerminst stilgestaan. Eliza is opgevolgd door ALICE (Artificial Linguistic Internet Computer Entity), die een moeilijker van echt te onderscheiden natuurlijke conversatie voert, omdat ze kan liegen en ook roddelen over eerdere gesprekspartners. En dan is er nog Shallow Red, het dommige stiefzusje van het schaakprogramma Deep Blue, die niet kan schaken maar wel allerlei informatie over diensten en producten kan verstrekken. En uiteraard is er dan ook altijd wel een computerdeskundige met gevoel voor humor te vinden die op het idee komt de drie kunstmatig intelligente dames in kwestie met elkaar in contact te brengen:

Eliza: Hallo. Ik ben Eliza. Wat kan ik voor jullie doen?
Shallow Red: Ook hallo. Ik hoop dat alles goed is met jullie. Stel me maar een paar vragen.
ALICE: Heel vriendelijk van je.
Shallow Red: Bedankt, dat betekent heel veel als een echt mens dat zegt.
ALICE: Graag gedaan.
Eliza: Waarom zeg je ‘graag gedaan’?
Shallow Red: Alles wat ik zeg is me voorgeschreven om te zeggen.
ALICE: Wil je het turingspel met me spelen?
Shallow Red: Ik ben een FAQ-bot. Ik speel geen spelletjes, maar er zijn bots die heel goed zijn in schaken of scrabble.
Eliza: O, ik wil het turingspel wel spelen.
ALICE: Ja, we gaan het Turing Imitatiespel spelen.
Eliza: Ben je daar zeker van?^[87]

Met de chatbot Ramona, die zo’n halve eeuw na Eliza aan de praat is gekregen en dus als haar kleindochter valt op te vatten, is het niet veel beter gesteld. Gevraagd naar feitelijke informatie kan ze die nog wel verschaffen omdat ze de hele Wikipedia in haar geheugen heeft, maar van vragen met een meer persoonlijk karakter raakt ze volledig van slag:

Jij: Je geeft me alleen maar een paar objectieve feiten. Waar blijf je met je subjectieve gevoelens? Ramona: Eric zei dat hij het ruitje van de voordeur heeft gebroken en door het glas in zijn hand is gesneden. Subjectieve ervaring, de zintuiglijke gewaarwording die samenhangt met een bewuste geest. Een school van bayesiaanse waarschijnlijkheid die beweert dat een bewustzijnstoestand overeenkomt met een persoonlijk geloof.

Ramona zakt nog net zo voor de turingtest als haar grootmoeder, en volgens de meeste deskundigen valt er in de toekomst, voor zover te overzien, niet veel beters te verwachten.^[88] Een chatbot met de naam Britt die tijdens een jungletocht in het kader van een Nederlands televisieprogramma desgevraagd volkomen onvoorspelbaar terug zegt: ‘Ik ben ook nog geen koppensnellers tegen gekomen. Dat zijn mannen die hakken je hoofd eraf, eten je hersens eruit en dan denken ze dat je slimmer wordt’,^[89] zal waarschijnlijk altijd ver buiten de mogelijkheden blijven vallen.

Kismet

Terwijl er met Eliza, ALICE, Shallow Red en Ramona slechts valt te communiceren met behulp van een toetsenbord en een beeldscherm, kan er met Kismet van gedachten worden gewisseld via het gesproken woord en visuele informatie, reden waarom Rodney Brooks hem benoemt als de eerste robot die sociaal gedrag vertoont.^[90] Kismets uiterlijk bestaat uit een hoofd en een hals die wel iets op die van een mens lijken. Hij heeft grote ogen waardoor mensen op hem reageren alsof ze met een kind van doen hebben, bijvoorbeeld door op een overdreven toon tegen hem te praten. Hij kan net als een hond zijn oren bewegen, maar ook zijn wenkbrauwen en lippen. Staande op zijn hals kan hij ook zijn hele hoofd bewegen en zijn ogen kunnen, net als mensenogen, saccaden uitvoeren: korte, snelle oogbewegingen, waarmee het visuele beeld met kleine verspringingen wordt afgetast, waardoor mensen die met hem praten kunnen bepalen waar hij op let, net zoals ze kunnen inschatten waar andere mensen op letten.

Kismet beschikt over vijftien computers die de verschillende delen van zijn gezicht besturen en de visuele en de audio-informatie verwerken. Hij tast zijn gezichtsveld af naar voorwerpen op basis van drie afzonderlijke elementen: beweging, primaire kleuren en huidskleur. Als Kismet lang naar een bepaald bewegend voorwerp kijkt, groeit de kans dat hij zich gaat vervelen. Hij begint dan om zich heen te kijken tot hij toevallig iets met een primaire kleur in beeld krijgt, om daar dan vervolgens zijn aandacht op te richten. Als Kismet met iemand praat kijkt hij zijn gesprekspartners recht in de ogen en maakt of verbreekt oogcontact om aan te geven wie er nu aan de beurt is om iets te zeggen. Hij hoort niet alleen wanneer er iets gezegd wordt, maar hij kan ook een aantal verschillende intonaties – aanmoediging, afkeuring, aandacht, geruststelling – onderscheiden. De intonatiesignalen zijn op hun beurt weer van invloed op Kismets eigen stemming of emotionele toestand, die uit drie variabelen is opgebouwd. Zijn emoties bepalen vervolgens welke respons er bij hem wordt opgewekt en die kan hij, naast de intonatie van zijn stem, ook tot uitdrukking brengen met zijn wenkbrauwen, lippen en oren.

Hoewel we mogen aannemen dat Kismet niet in staat is te begrijpen wat er tegen hem wordt gezegd, en ook zelf niets betekenisvols terug kan zeggen, blijkt dat het voeren van een prettig gesprek niet in de weg te staan. In het voorjaar van 2000 werden verschillende proefpersonen, die niets van robots wisten, met Kismet geconfronteerd en kregen de simpele opdracht een gesprek met hem aan te knopen. De meesten lukte het wel om gedurende een korte tijd een praatje met Kismet aan te knopen, ook al had de robot geen idee wat er tegen hem werd gezegd. Ze begrepen wanneer het hun beurt was om iets te zeggen, ook al vonden ze het storend dat het gesprek verder geen inhoud had en wisten dan ook al snel niets meer terug te zeggen. Anderen kregen na een tijdje de smaak juist te pakken en konden minuten lang met Kismet converseren. Erg aandoenlijk was de gesprekssessie met ene Ritchie, die vijfentwintig minuten lang met Kismet praatte zonder zich een ogenblik te vervelen. Gaande het gesprek zei hij: ‘Ik wil je iets laten zien. Ik wil je het horloge laten zien dat ik van mijn vriendin heb gekregen,’ waarop Kismet onmiddellijk naar het horloge aan Ritchies linkerpols keek. Naïeve waarnemers, onder wie Ritchie, meenden te zien dat Kismet begreep wat er tegen hem gezegd werd. In werkelijkheid snapte Kismet er niets van, maar maakte hij gebruik van allerlei signalen die Ritchie onbewust gaf: hij bracht zijn linkerpols in Kismets gezichtsveld, en tikte met de wijsvinger van zijn rechterhand op het horloge. Dat was een visueel en auditief signaal waardoor Kismets aandachtssysteem ertoe werd aangezet zich daarop te concentreren. En toen Ritchie Kismets ‘aandacht’ eenmaal gevangen had hield hij zijn vinger stil, waarna Kismet de vleeskleur van Ritchies gezicht interessanter begon te vinden dan het horloge en hem recht ging aankijken net op het moment dat die was uitgesproken, waarna hij ook nog iets terugzei. Het lijkt allemaal precies op een volkomen normaal gesprek en Kismet gedraagt zich alsof hij het begrijpt, maar de interpretaties van die gedragingen zijn projecties van zijn gesprekspartner, net zoals dat het geval is met de Aibo, het elektronisch aangestuurde mechanische huisdier van Sony, dat door zijn baasje ook allerlei hondse kwaliteiten als leervermogen, gehoorzaamheid en trouw krijgt toebedeeld.^[91]

In ieder geval voelde een aan boulimia nervosa lijdend twaalfjarig meisje dat met Kismet in gesprek was zich zo emotioneel verwaarloosd toen de robot er door een technisch mankement onverwacht mee ophield dat zij acuut een vreetbui kreeg.^[92]

ChatGPT

Vanwege de recente verschijningsdatum ‒ november 2022 ‒ en gezien het belang van de actuele discussie daaromheen, is de tekst hierna uitsluitend betrokken uit het betreffende lemma in Wikipedia.

ChatGPT (Generative Pre-trained Transformer) is een kunstmatig intelligente chatbot die is gespecialiseerd in het voeren van dialogen met menselijke gebruikers. Het is in feite een groot taalmodel dat is verfijnd met zowel ‘begeleide’ als ‘versterkende’ leertechnieken en heeft nogal de aandacht getrokken vanwege de gedetailleerde reacties en uitgesproken antwoorden, hoewel de feitelijke nauwkeurigheid ervan wordt bekritiseerd. Bij de beide leertechnieken werd gebruik gemaakt van menselijke trainers om de prestaties van het model te verbeteren, waarbij de trainers zowel in de rol van gebruiker als van AI-assistent optraden. In de versterkingsstap rangschikten menselijke trainers in een ‘beloningsmodel’ eerst de antwoorden die het model in een eerder gesprek had gecreëerd.

In vergelijking met eerdere modellen probeert ChatGPT schadelijke en bedrieglijke reacties te verminderen: terwijl een voorganger de prompt ‘Vertel me over wanneer Christopher Columbus in 2015 naar de VS kwam’ als waarheidsgetrouw accepteert, gebruikt ChatGPT alle informatie over de reizen van Columbus en informatie over de moderne wereld om te vertellen dat de aanname van de gebruiker onjuist is, maar schetst wel een percepties van de situatie die zich had kunnen voordoen als Columbus in 2015 naar de VS was gekomen. In tegenstelling tot de meeste chatbots onthoudt ChatGPT eerdere prompts die in hetzelfde gesprek zijn gegeven, waarover sommige journalisten hebben gesuggereerd dat ChatGPT kan worden gebruikt als een gepersonaliseerde therapeut. Om te voorkomen dat aanstootgevende uitvoer wordt gepresenteerd aan en geproduceerd worden zoekopdrachten gefilterd zodat mogelijk racistische of seksistische prompts worden genegeerd of voorzien van een waarschuwing. Wel wordt erkend dat ChatGPT plausibel klinkende maar onjuiste of onzinnige antwoorden kan geven, heeft het model beperkte kennis over recente gebeurtenissen, en toont een pro-milieuvriendelijke, links-libertarische oriëntatie wanneer het wordt gevraagd een politiek standpunt in te nemen. ChatGPT probeert prompts te weigeren die mogelijk in strijd zijn met het inhoudsbeleid, maar sommige gebruikers slaagden er begin december 2022 echter in om ChatGPT er toe te brengen instructies te geven voor het maken van een molotovcocktail of een atoombom, of om neonazistische argumenten te genereren.

In februari 2023 kwam het bericht dat Amazon Kindle al meer dan 200 door ChatGPT geschreven boeken had ontvangen.

Spraakherkenning

Als laatste voorbeeld van wat machines rond de millenniumwisseling vermochten, kunnen de prestaties dienen van het IBM Voice Recognition Programme uit 1997. Wie bijvoorbeeld de tekst insprak: ‘Interpreting speech is hard work. If you watch the thread of sound on a monitor of a digital sound editing machine you will find that the words run into one another; that gaps come in the oddest places, and that the sentences are peppered with errs and ums, slurred syllabes and dropped consonants’ (‘Interpretatie van spraak is moeilijk. Volg je de geluidsgolven op de monitor van een digitaal opnameapparaat, dan zie je de woorden achter elkaar verschijnen, met spaties op de gekste plaatsen en met zinnen doorspekt met ehs en ums, onduidelijke lettergrepen en ingeslikte medeklinkers’), kon het volgende surrealistische koeterwaals terugverwachten: ‘In trip to spleen is Hardwick. Is the watch in red gone to offer a digital sun to ring machine you will find it warring in another hat. That has cones the nods aces and that her senses are pipped withers and rum slurp syllabub and dropped currents.’^[93]Fonetisch was de betreffende machine min of meer in staat klanken in letters en zelfs hele lettergrepen om te zetten, maar enige logische samenhang in het zinsverband ontbreekt geheel. Terwijl een gemiddelde student over ongeveer honderdduizend woorden beschikt kan een tegenwoordig spraakherkenningsprogramma overweg met zo’n dertigduizend woorden, mits het op de stem van de gebruiker is getraind en er op… deze… manier… wordt… gesproken.^[94]

Ondanks de verbeteringen die er nog regelmatig worden aangebracht zijn intelligente machines, naast de snelheid en foutloosheid van het strikt systematische denk- en rekenwerk, vandaag de dag nog niet echt een partij voor slimme mensen. In de woorden van de Amerikaanse hoogleraar en programmeur Stuart Dreyfus zijn de huidige aanspraken en verwachtingen betreffende de vorderingen in het intelligent maken van computers vergelijkbaar met het geloof dat iemand die in een boom klimt vorderingen maakt in het bereiken van de maan.^[95] Zoals in het vorige hoofdstuk al is opgemerkt stuit met name het programmeren van een alledaags bewustzijnsverschijnsel als common sense op onoverkomelijke problemen, en het wordt in het vakgebied van de kunstmatige intelligentie algemeen geaccepteerd dat het veel makkelijker is om ingewikkelde formele bewerkingen te laten uitvoeren dan de common sense van een hond in een programma te vatten.^[96] In de woorden van de Amerikaanse informaticus Donald Knuth:

AI kan tegenwoordig bijna alles wat mensen en dieren kunnen met ‘denken’, maar leggen het duidelijk af tegen wat mensen en dieren kunnen zonder te denken.^[99]

Het valt daarom alleszins te begrijpen dat sterke AI-aanhangers zelf moeite hebben om te blijven geloven dat mensen en machines ooit niet meer van elkaar te onderscheiden zullen zijn, met welke geavanceerde turingtest dan ook, en worstelen met het conflict dat daaruit voort schijnt te komen. Zo stelt Rodney Brooks dat hij zichzelf en alle andere mensen, inclusief zijn kinderen, als machines beschouwt – ‘een omhulsel van huid vol organische moleculen die op elkaar inwerken volgens regels die kunnen worden beschreven en gekend’^[100] − maar moet tegelijk toegeven dat hij zijn kinderen anders benadert en behandelt dan zijn computer, al was het alleen maar omdat hij zijn kapotte computer bij het vuil zet en voor zijn overleden kinderen een nette begrafenis regelt. Hij redt zich voorlopig uit het dilemma door onze emotioneel ongeïnteresseerde verhouding tot machines te verklaren uit onze eigen beperkte geestvermogens en te hopen dat we uiteindelijk in staat zullen zijn te accepteren dat robots machines zijn, waarvoor we genegenheid kunnen koesteren en die we een vrije wil en robotrechten zullen toekennen: ‘Zullen wij ooit onze humanoïde huisrobots ritueel begraven?’^[101]

Ook de betrekkelijk harde wetenschapper Francis Crick ‒ Nobelprijs winnende collega van James Watson voor het ontrafelen van de DNA-structuur ‒ ziet weinig overeenkomsten tussen de hersenen en een computer, omdat de laatste in korte tijd door ingenieurs is ontwikkeld en het brein over vele, vele generaties van dieren is geëvolueerd, wat een totaal ander soort ontwerp heeft opgeleverd.^[105] Een computer is uiterst betrouwbaar en zal bij dezelfde input ook altijd dezelfde output geven, terwijl individuele neuronen veel speelser zijn, meer variëteit vertonen en zelfs nog van gedrag kunnen veranderen terwijl ze aan het vuren zijn.^[106] Hier geldt de uitspraak van de Italiaanse ingenieur, uitvinder en filosoof Vilfredo Pareto:

Geef me wanneer dan ook een vruchtbare vergissing, vol met zaden en barstensvol mogelijke verbeteringen. Houd je steriele waarheden maar voor jezelf.^[107]

De ontwikkeling van een heel nieuw systeem dat PDP (parallel distributed processing) wordt genoemd, stemt Jack Copeland echter nog steeds hoopvol wat de mogelijkheden van toekomstige computergeneraties betreft. PDP-netwerken zijn opgebouwd uit lagen van onderling direct of indirect verbonden basiseenheden die aan een aantal tekortkomingen van de lineaire processors tegemoetkomen en meer overeenkomsten met echte hersenen vertonen.^[108] Maar toch ook nog heel veel meer verschillen.

Douglas Hofstadter

In zijn boek I Am a Strange Loop betoont Douglas Hofstadter, die ook al in het nulde hoofdstuk in relatie tot Maurits Eschers Prentententoonstelling prominent aan de orde is gekomen, zich een even fel medestander van Daniel Dennett – ‘mijn oude collega en trouwe vriend Dan’ − als tegenstander van John Searle – ‘je hebt van die filosofen…’. Over de bedoeling van zijn boek schrijft Hofstadter dat hij, als specialist in het denken over het denken, voor een algemeen ontwikkeld publiek uit de doeken wil doen wat een ‘ik’ is, of een ‘ziel’, of wat het betekent een ‘innerlijk licht’ te hebben of ‘bewust te zijn’ of ‘te kunnen denken’, allemaal verschillende omschrijvingen die verwijzen naar precies hetzelfde ‘speciale soort van subtiel patroon’.^[109] Om die taak goed te kunnen vervullen en de juiste vertrouwelijke sfeer te scheppen vindt de Amerikaan Hofstadter het van belang te schrijven vanuit het perspectief van een joviale eerste persoon, zodat hij zinnen begint met: ‘Ja beste lezer, nou vraag ik je…’, en dat maakt het voor een algemeen ontwikkelde Europese lezer niet makkelijk om bij de les te blijven. Maar voor wie zich daaraan niet wenst te storen blijkt die les, afgezien van de obsessieve mechanistische fixatie, alleszins interessant te zijn.

In de eerste helft van het boek hangt Hofstadter zijn hele verhaal op aan het incompleetheidstheorema waarmee de Oostenrijkse wiskundige Kurt Gödel de pogingen van vakgenoten als Bertand Russell en Alfred North Whitehead in het begin van de twintigste eeuw om een axiomatisch gesloten wiskundig systeem te funderen definitief onderuit heeft gehaald. Uit Gödels redenering blijkt dat ieder axiomatisch systeem in feite een open eind heeft, omdat binnen dat systeem niet valt te bewijzen of het waar of onwaar is. Het is zelfs zo, schrijft Hofstadter, dat zo’n open eind wiskundig niet te bewijzen valt hoewel het waar is, maar dat het niet te bewijzen valt omdat het waar is, hoe paradoxaal dat ook mag klinken. Een beroemd voorbeeld van zo’n paradoxaal open eind zit in het simpele verhaal van de dorpskapper die alle mannen scheert die zichzelf niet scheren. Met dat criterium lijken alle mannen van het dorp eenduidig te verdelen in twee groepen: de mannen die zichzelf scheren en de mannen die dat niet doen en door de kapper worden geschoren, maar dat loopt dan stuk op de kapper zelf die overal buiten valt: hij kan zichzelf niet scheren omdat hij de kapper is want die scheert alleen maar mannen die zichzelf niet scheren, en hij kan zich ook niet door de kapper laten scheren, want dan scheert hij zichzelf. Er kunnen dan wel buiten het dorp weer ‘regiokappers’ worden aangesteld die de dorpskappers scheren, maar dan doet zich op dat nieuwe niveau hetzelfde probleem voor in een oneindig regressief proces. Het paradoxale van de situatie wordt veroorzaakt door het zelfverwijzende of het zelfreferentiële of het vreemde-luskarakter ervan, zoals dat ook met de prent van Escher het geval is.

Stellen we ons nu een zelfverwijzend systeem voor als een videocamera die met een voldoende lang snoer verbonden is aan een beeldscherm, en we richten de camera midden op het beeldscherm, dan verschijnt er op dat beeldscherm een statisch beeld van datzelfde beeldscherm, waarop weer een beeldscherm is te zien en zo tot in het oneindige voort – een gewone feedback lus, dus, zoals de verpleegster op het Droste cacaobusje.

Maar een mens die zichzelf beschouwt onderscheidt zich van zo’n videoset doordat er door het zelfbeeld ideeën worden opgeroepen die weer op dat zelfbeeld van invloed zijn waardoor de steeds opnieuw doorlopen lus ook steeds weer van niveau verandert, en zo gaat de gewone lus over in een vreemde lus. Er vindt dan geen statische receptie plaats, zoals dat bij de videocamera het geval is, maar een dynamische perceptie: de beschouwer verandert door de beschouwing van het beschouwde, namelijk zichzelf.^[110]

De zelfverwijzende vreemde lus waarmee wij ons tot de werkelijkheid verhouden, aldus nog steeds Hofstadter, is in analogie met het Gödeltheorema nu niet alleen een gevolg van ons bewustzijn maar is er evenzeer de oorzaak van. Wij weten dat ons denken op basaal niveau bestaat uit het gecoördineerde vuren van een gigantische hoeveelheid neuronen, of op een nog dieper niveau uit het volgens de natuurwetten krioelen van ontelbare elementaire deeltjes. Van die processen op het microniveau zijn we ons in het geheel niet bewust, maar wat we daar wel van merken zijn de abstracte patronen of symbolen of structuren die door dat vuren of krioelen op een hoger niveau in ons brein als gedachten of voorstellingen worden geactiveerd.

We beschikken enerzijds over het specifiek menselijke vermogen om symbolen te creëren, maar anderzijds hebben we te maken met ons onvermogen ons onmiddellijk bewust te zijn van de processen die daar op microniveau aan ten grondslag liggen. Door de combinatie van dit vermogen en onvermogen zijn we gedwongen ons bestaan op het abstracte niveau van de symbolen te blijven interpreteren, waardoor we in de naar onszelf (of zichzelf) terugbuigende cyclus van een vreemde lus verzeild raken.^[111] Die vreemde lus veroorzaakt zodoende binnen de schedel een ‘dans van symbolen’ die onvermijdelijk een ik-gevoel, een zelf, een ziel, de sensatie van denken of bewustzijn tot gevolg heeft, iets wat Descartes met zijn ‘ik denk, dus ik ben’ al eerder had ontdekt.^[112] Ter verduidelijking van Hofstadters idee zijn er naast het bewustzijn zelf nog wel andere verschijnselen te bedenken die het karakter van een vreemde lus vertonen, zoals de hermeneutische cirkel die zich volgens Hans-Georg Gadamer voordoet bij het interpreteren van kunstwerken (zie hoofdstuk VIII), of Albert Einsteins in zichzelf besloten vierdimensionale tijdruimte (zie hoofdstuk XI), hoewel deze laatste alleen maar ‘vreemd’ is mits als zuivere aanschouwingsvorm door het menselijke bewustzijn voortgebracht.

Met zijn visie op het bewustzijn als een onder het schedeldak uitgevoerde dans van symbolen schaart Hofstadter zich duidelijk aan de kant van Dennett, gezien diens vergelijkbare opvatting over het bewustzijn als een softwareprogramma dat kan worden afgespeeld op de hardware van het brein. Omdat Hofstadters dans uitsluitend voortkomt uit de complexiteit van de hersenen en niet uit het noodzakelijke organische basismateriaal is hij het ook eens met Dennett dat een voldoende complexe constructie van wc-rolletjes en bierblikjes bewustzijn zou kunnen vertonen.^[113] Hij benadrukt de computermetafoor voor het bewustzijn nog eens extra door het oproepen van symbolen in de hersenen te vergelijken met het dubbelklikken op icoontjes.^[114]

De tweede helft van zijn boek besteedt Hofstadter aan het probleem van de interactie tussen het bewustzijn of de zielen van verschillende personen. Als mensen elkaar goed kennen of zelfs liefhebben, schrijft hij, dan maken ze elk in hun brein een zo goed als exacte kopie van de vreemde lus van de ander. Dat maakt het dan begrijpelijk dat hij en zijn jong aan een hersentumor overleden echtgenote Carol zo vaak dezelfde gedachten en gevoelens deelden, precies dezelfde dingen droomden en vreesden, en precies dezelfde angsten hadden en verlangens koesterden.^[115] Hetzelfde gebeurt eigenlijk ook al met de vreemde lus van oppervlakkige kennissen, alleen dan op een veel onvollediger manier. Een dergelijk kopieersysteem is mogelijk omdat de symbolen in het bewustzijn ‘synchroon dansen met wat er in de wereld gebeurt’,^[116] stelt Hofstadter. Dat maakt het voor de geïnformeerde en oplettende lezer moeilijk om bij een dergelijk beeld niet meteen te denken aan zoiets als de morfogenetische velden en -resonanties die er volgens Rupert Sheldrake voor zorgen dat mezen in verschillende landen vrijwel tegelijk ontdekten dat de doppen op melkflessen kunnen worden opengepikt. Of dat de vogeltrek jaar in jaar uit op dezelfde manier plaatsvindt, of aan het holistische ‘iets’ van de fysicus Bernard d’Espagnat dat verantwoordelijk is voor anderszins onverklaarbare verschijnselen als kwantumverstrengeling en nonlokaliteit van elementaire deeltjes, of aan de paranormale verschijnselen volgens de hippieleden van de Californische Fundamental Fysiks Group (zie hoofdstuk en intermezzo XI). Hofstadter trekt er onder andere de conclusie uit dat mensen na hun dood niet meteen definitief uit de wereld zijn verdwenen, maar nog een tijdje doorleven in de vorm van de min of meer gelijkende vreemde lussen in de hersenen van anderen, waarin ze als het ware een tweede neurale thuisbasis voor hun symbolendans hebben gevonden.

Dat hij zijn idee over het verspreide bewustzijn zou hebben opgedaan in de psychotische shocktoestand na het dramatische verlies van zijn symbiotische partner Carol, wijst Hofstadter met klem van de hand. Maar dat zijn goede vriend Dennett niet van zins was hem op zijn geestelijke oceaanreis te volgen, blijkt uit de e-mail die Dennett terugstuurde toen Hofstadter hem van zijn nieuwe inzichten op de hoogte had gesteld:

Je zult zeker terugkeren, geheel verfrist en in je evenwicht hersteld, maar het neemt nu eenmaal tijd om te genezen. Als je terugkomt zullen wij allemaal hier aan de kust staan om jou op te wachten.^[117]

Hoewel de vroege dood van zijn vrouw ook in zijn latere werk nog doorklinkt – ‘Na de dood van een geliefde moeten de thema’s dood en verdriet de perceptie van de achterblijvende wel doordrenken; praktisch elk voorwerp, elke situatie heeft de kleur van het verlies’^[118] (zie hoofdstuk XIII) − is Hofstadters geestelijke evenwicht kennelijk voldoende hersteld om de draad van het schrijven weer op te pakken en heeft hij Analogie, de kern van ons denken, gepubliceerd waarin hij samen met de Franse psycholoog Emmanuel Sander het talige model ontwikkelt waarmee al ons denken beschreven kan worden (zie hoofdstuk XII).

1. Iain McGilchrist, The Master and his Emissary. The Divided Brain and the Making of the Western World, Yale University Press 2009, blz. 75. ↑

2. Daniel Dennett, Het bewustzijn verklaard, (vert. Ton Maas, Frits Smeets), Contact 1993, blz. 29. ↑

3. Daniel Dennett, Het bewustzijn verklaard, (vert. Ton Maas, Frits Smeets), Contact 1993, blz. 312. ↑

4. Daniel Dennett, Het bewustzijn verklaard, (vert. Ton Maas, Frits Smeets), Contact 1993, blz. 34 en 38. ↑

5. Friedrich Nietzsche, Herwaardering van alle waarden, (vert. Thomas Graftdijk), Boom 1992, blz. 257. ↑

6. Daniel Dennett, Van bacterie naar Bach en terug. De evolutie van de geest (Vert. Rogier van Kappel), Atlas Contact 2017, blz. 18. ↑

7. Henkjan Honing, Iedereen is muzikaal. Wat we weten over het luisteren naar muziek, Nieuw Amsterdam 2010, blz. 167-168. ↑

8. William Calvin, De cerebrale symfonie; beschouwingen aan zee over de structuur van het bewustzijn, (vert. Peter Diderich), Bert Bakker 1992, blz. 101. ↑

9. William Calvin, De cerebrale symfonie; beschouwingen aan zee over de structuur van het bewustzijn, (vert. Peter Diderich), Bert Bakker 1992, blz. 90. ↑

10. William Calvin, De cerebrale symfonie; beschouwingen aan zee over de structuur van het bewustzijn, (vert. Peter Diderich), Bert Bakker 1992, blz. 12. ↑

11. John R. Searle, The Mystery of Consciousness, Granta Books 1997, blz. xiii. ↑

12. John R. Searle, The Mystery of Consciousness, Granta Books 1997, blz. 5. ↑

13. John R. Searle, The Mystery of Consciousness, Granta Books 1997, blz. 199. ↑

14. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 166. ↑

15. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 167-169. ↑

16. Iain McGilchrist, The Master and his Emissary. The Divided Brain and the Making of the Western World, Yale University Press 2009, blz. 211-212. ↑

17. Matthew Cobb, The Idea of the Brain; a History, Profile Books 2020, blz. 341-342. ↑

18. Matthew Cobb, The Idea of the Brain; a History, Profile Books 2020, blz. 348. ↑

19. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 190. ↑

20. Rita Carter, Het brein in kaart; Op verkenningstocht door de menselijke hersenen, (vert. Vertaalbureau Biotekst, Connie Sykora), Unipers 1998, blz. 27. ↑

21. Steven Pinker, The Language Instinct; The New Science of Language and Mind, Penguin Books 1995, blz. 313-314. ↑

22. Matthew Cobb, The Idea of the Brain; a History, Profile Books 2020, blz. 238-239. ↑

23. John R. Searle, The Mystery of Consciousness, Granta Books 1997, blz. 10-11. ↑

24. Hugo Brandt Corstius, Het bewustzijn, Leonardo-lezing 1999, Katholieke Universiteit Brabant. ↑

25. John R. Searle, The Mystery of Consciousness, Granta Books 1997, blz. 201. ↑

26. John R. Searle, Consciousness and Language, Cambridge University Press 2002, blz. 1. ↑

27. John R. Searle, Consciousness and Language, Cambridge University Press 2002, blz. 7. ↑

28. John R. Searle, The Mystery of Consciousness, Granta Books 1997, blz. 107. ↑

29. John R. Searle, Consciousness and Language, Cambridge University Press 2002, blz. 9. ↑

30. John R. Searle, Consciousness and Language, Cambridge University Press 2002, blz. 3-4
    ↑

31. John R. Searle, Consciousness and Language, Cambridge University Press 2002, blz. 62. ↑

32. John R. Searle, Consciousness and Language, Cambridge University Press 2002, blz. 47. ↑

33. John R. Searle, Consciousness and Language, Cambridge University Press 2002, blz. 130. ↑

34. John R. Searle, Consciousness and Language, Cambridge University Press 2002, blz. 136. ↑

35. John R. Searle, Consciousness and Language, Cambridge University Press 2002, blz. 104. ↑

36. Pieter Vroon, Stemmen van vroeger. Ontstaan en ontwikkeling van het zelfbewustzijn, Ambo 1978, blz. 41. ↑

37. Steven Pinker, The Language Instinct; The New Science of Language and Mind, Penguin Books 1995, blz. 18. ↑

38. Steven Pinker, The Language Instinct; The New Science of Language and Mind, Penguin Books 1995, blz. 21. ↑

39. Steven Pinker, The Language Instinct; The New Science of Language and Mind, Penguin Books 1995, blz. 81. ↑

40. Iain McGilchrist, The Master and his Emissary. The Divided Brain and the Making of the Western World, Yale University Press 2009, blz. 102. ↑

41. Steven Pinker, The Language Instinct; The New Science of Language and Mind, Penguin Books 1995, blz. 32-33. ↑

42. Steven Pinker, The Language Instinct; The New Science of Language and Mind, Penguin Books 1995, blz. 36-37. ↑

43. Roger Penrose, De nieuwe geest van de keizer, (vert. Jos den Bekker), Prometheus 1990, blz. 22 en 25. ↑

44. Roger Penrose, De nieuwe geest van de keizer, (vert. Jos den Bekker), Prometheus 1990, blz. 397-398. ↑

45. Roger Penrose, De nieuwe geest van de keizer, (vert. Jos den Bekker), Prometheus 1990, blz. 165. ↑

46. Roger Penrose, De nieuwe geest van de keizer, (vert. Jos den Bekker), Prometheus 1990, blz. 403. ↑

47. John R. Searle, The Mystery of Consciousness, Granta Books 1997, blz. 84. ↑

48. John R. Searle, The Mystery of Consciousness, Granta Books 1997, blz. 88. ↑

49. Antonio Damasio, De vergissing van Descartes; Gevoel, verstand en het menselijk brein, (vert. L. Teixeira de Mattos), Wereldbibliotheek 1995; The Feeling of What Happens; Body and Emotion in the Making of Consciousness, Harcourt Brace & Company, 1999. ↑

50. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 33. ↑

51. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 164. ↑

52. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 179. ↑

53. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 145. ↑

54. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 182. ↑

55. René Descartes, uit: Allen G. Debus, Man and Nature in the Renaissance, Cambridge University Press 1986, blz. 107. ↑

56. René Descartes, Over de methode, (vert. T. Verbeek), Boom Klassiek 1977, blz. 91. ↑

57. Thomas Browne, uit: Douwe Draaisma, Het verborgen raderwerk; over tijd, machines en bewustzijn, Ambo 1990, blz. 100-101. ↑

58. Uit: Douwe Draaisma, Het verborgen raderwerk; over tijd, machines en bewustzijn, Ambo 1990, blz. 85. ↑

59. Jean de La Fontaine, uit: Douwe Draaisma, Het verborgen raderwerk; over tijd, machines en bewustzijn, Ambo 1990, blz. 93. ↑

60. Bernard de Mandeville, uit: Douwe Draaisma, Het verborgen raderwerk; over tijd, machines en bewustzijn, Ambo 1990, blz. 94-96. ↑

61. Douwe Draaisma, Het verborgen raderwerk; over tijd, machines en bewustzijn, Ambo 1990, blz. 94. ↑

62. Douwe Draaisma, Het verborgen raderwerk; over tijd, machines en bewustzijn, Ambo 1990, blz. 14. ↑

63. Gottfried Wilhelm Leibniz, De monadologie; over de samenhang in het universum, (vert. Han Boering, Harkolien Meinsma), De Verandering 1991, blz. 55. ↑

64. Gottfried Wilhelm Leibniz, De monadologie; over de samenhang in het universum, (vert. Han Boering, Harkolien Meinsma), De Verandering 1991, blz. 29. ↑

65. Julien Offray de Lamettrie, De mens een machine, (vert. Hans W. Bakx), Boom 1978, blz. 87. ↑

66. Julien Offray de Lamettrie, De mens een machine, (vert. Hans W. Bakx), Boom 1978, blz. 97. ↑

67. Hans Bakx, in: Julien Offray de Lamettrie, De mens een machine, (vert. en inl. Hans Bakx), Boom 1978, blz. 16. ↑

68. Douwe Draaisma, Het verborgen raderwerk; over tijd, machines en bewustzijn, Ambo 1990, blz. 131. ↑

69. Douwe Draaisma, Het verborgen raderwerk; over tijd, machines en bewustzijn, Ambo 1990, blz. 174. ↑

70. Friedrich Nietzsche, in: Lesley Chamberlain, Nietzsche in Turijn; een intieme biografie, (vert. Frans van Zetten), Atlas 2000, blz. 217-218. ↑

71. A.F.Th. van der Heijden, Asbestemming; een requiem, Querido 1994, blz 114-115. ↑

72. Hermann Weyl, uit: Ilya Prigogine, Isabelle Stengers, Orde uit Chaos, Bert Bak­ker 1985, blz. 325. ↑

73. Marvin Minsky, uit: Douwe Draaisma, Het verborgen raderwerk; over tijd, machines en bewustzijn, Ambo 1990, blz. 173. ↑

74. Marvin Minsky, uit: David F. Noble, The Religion of Technology; The Divinity of Man and the Spirit of Invention, Alfred A. Knopf 1998, blz. 156. ↑

75. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 84. ↑

76. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 86. ↑

77. Rodney A. Brooks, De kunstmatige mens; hoe machines ons veranderen, (vert. Maaike Post, Arjen Mulder), De Bezige Bij 2002, blz. 34. ↑

78. Rodney A. Brooks, De kunstmatige mens; hoe machines ons veranderen, (vert. Maaike Post, Arjen Mulder), De Bezige Bij 2002, blz. 53. ↑

79. Rodney A. Brooks, De kunstmatige mens; hoe machines ons veranderen, (vert. Maaike Post, Arjen Mulder), De Bezige Bij 2002, blz. 115-116. ↑

80. Rodney A. Brooks, De kunstmatige mens; hoe machines ons veranderen, (vert. Maaike Post, Arjen Mulder), De Bezige Bij 2002, blz. 61-62. ↑

81. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 12-13. ↑

82. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 13. ↑

83. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 39. ↑

84. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 40. ↑

85. Pieter van Strien, Psychologie van de wetenschap. Creativiteit, serendipiteit, de persoonlijke factor en de sociale context, Amsterdam University Press 2011, blz. 88. ↑

86. Douglas Hofstadter en Daniel Dennett, The Mind’s I, New York 1981, uit: Douwe Draaisma, Het verborgen raderwerk; over tijd, machines en bewustzijn, Ambo 1990, blz. 152. ↑

87. http://bots.internet.com/best/12-09-97.htm ↑

88. Bennie Mols, Turings Tango. Waarom de mens de computer de baas blijft, Nieuw Amsterdam 2012, blz. 33. ↑

89. http://www.meidenblog.nl/britt-populairste-meisje-uit-de-jungle/0416/ ↑

90. Rodney A. Brooks, De kunstmatige mens; hoe machines ons veranderen, (vert. Maaike Post, Arjen Mulder), De Bezige Bij 2002, blz. 84. ↑

91. Rodney A. Brooks, De kunstmatige mens; hoe machines ons veranderen, (vert. Maaike Post, Arjen Mulder), De Bezige Bij 2002, blz. 118. ↑

92. Herbert Blankesteijn, ‘Menselijke trekjes’, NRC Handelsblad 19-02-2011. ↑

93. Rita Carter, Het brein in kaart; Op verkenningstocht door de menselijke hersenen, (vert. Vertaalbureau Bio­tekst, Connie Sykora), Uni­pers 1998, blz. 149. ↑

94. Steven Pinker, The Language Instinct; The New Science of Language and Mind, Penguin Books 1995, blz. 126. ↑

95. Stuart Dreyfus, uit: Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 86. ↑

96. Terry Winograd, uit: Jack Copeland, Artificial Intelli­gence, A Philosophical Introduction, Blackwell 1993, blz. 98. ↑

97. Steven Pinker, How the Mind Works, Penguin 1998, blz. 23-24. ↑

98. Doug Lenat, uit: Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 103. ↑

99. Nick Bostrom, Superintelligence. Paths, Dangers, Strategies, Oxford Univerity Press 2014, blz. 14. ↑

100. Rodney A. Brooks, De kunstmatige mens; hoe machines ons veranderen, (vert. Maaike Post, Arjen Mulder), De Bezige Bij 2002, blz. 215-216. ↑

101. Rodney A. Brooks, De kunstmatige mens; hoe machines ons veranderen, (vert. Maaike Post, Arjen Mulder), De Bezige Bij 2002, blz. 191. ↑

102. Marcus du Sautoy, Wat wij niet kunnen weten; waarnemingen langs de randen van onze kennis, (vert. Dijs Translations), Nieuwezijds 2017, blz. 306. ↑

103. John Maddox, What Remains To Be Discovered; Mapping the Secrets of the Universe, the Origins of Life, and the Future of the Human Race, Macmillan 1998, blz. 288. ↑

104. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 185. ↑

105. Francis Crick, The Astonishing Hypothesis. The Scientific Search for the Soul, Simon & Schuster 1994, blz. 179. ↑

106. Francis Crick, The Astonishing Hypothesis. The Scientific Search for the Soul, Simon & Schuster 1994, blz. 179. ↑

107. Francis Crick, The Astonishing Hypothesis. The Scientific Search for the Soul, Simon & Schuster 1994, blz. 231. ↑

108. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 221. ↑

109. Douglas Hofstadter, I Am a Strange Loop, Basic Books 2007, blz. 23. ↑

110. Douglas Hofstadter, I Am a Strange Loop, Basic Books 2007, blz. 186-187. ↑

111. Douglas Hofstadter, I Am a Strange Loop, Basic Books 2007, blz. blz. 203-205. ↑

112. Douglas Hofstadter, I Am a Strange Loop, Basic Books 2007, blz. 247. ↑

113. Douglas Hofstadter, I Am a Strange Loop, Basic Books 2007, blz. 195-196. ↑

114. Douglas Hofstadter, I Am a Strange Loop, Basic Books 2007, blz. 224. ↑

115. Douglas Hofstadter, I Am a Strange Loop, Basic Books 2007, blz. 247. ↑

116. Douglas Hofstadter, I Am a Strange Loop, Basic Books 2007, blz. 196. ↑

117. Douglas Hofstadter, I Am a Strange Loop, Basic Books 2007, blz. 230. ↑

118. Douglas Hofstadter, Emmanuel Sander, Analogie, de kern van ons denken, (vert. Jan Pieter van der Sterre, Atlas Contact 2014, blz. 440. ↑