– HERSENEN EN BEWUSTZIJN –

1. De ware moraal2. De hersenen3. Recente opvattingen4. Lichaam, geest en ziel5. De hersenen als darwinmachine6. De koolmens7. De kiezelmachine8. Toekomstperspectieven

De kiezelmachine

Het feit dat alleen mensen over bewustzijn beschikken, betekent allerminst dat er aan machines niets te beleven zou zijn. Mensen kunnen weliswaar in een oogopslag een paard van een koe onderscheiden, een kopje van een schotel, een prullenbak van een verfkwast of een woestijnspringmuis van de Kilimanjaro, terwijl zo’n globaal herkenningsprobleem voor machines nog heel ingewikkeld is, en mensen kunnen zich moeiteloos door een willekeurige omgeving met obstakels en hindernissen begeven zonder om te vallen of zich te stoten, waar robots problemen mee hebben, maar daar staat tegenover dat machines een feilloos geheugen hebben en foutloos, onvermoeibaar en miljoenen malen sneller kunnen rekenen, of wat algemener gesteld sneller algoritmes kunnen uitvoeren dan de grootste idiot savant, zonder dat vervelend te gaan vinden. Dit is wat door iedereen kunstmatige intelligentie wordt genoemd en door sommigen, zoals Dennett en Calvin, op één hoop wordt gegooid met bewustzijn, terwijl Calvin nota bene ook degene is die het maken van fouten als een van de drijvende en vitale krachten van het leven en het menselijke bewustzijn weet aan te wijzen. Waarom machines volgens AI-adepten per se het hele menselijke bewustzijn zouden moeten kunnen simuleren en niet hun eigen ‘toevallige bijproduct van hun complexiteit’ mogen hebben in de vorm van een veel beter functionerend deelaspect, blijft een merkwaardige zaak. Volgens David Noble willen sterke AI-aanhangers hun machines niet zomaar van bewustzijn voorzien, maar zouden ze het liefst hun eigen bewustzijn in een machine onderbrengen om zich voor eens en voor altijd van hun lichamelijke beperkingen te bevrijden en zo het eeuwige leven tegemoet te zien.[1] Maar wie wenst zich nu een eindeloos maar doodsaai leven als de software van een razendsnelle, foutloze en onvermoeibare rekenmachine?

Zo tergend langzaam als de biologische evolutie van het menselijke bewustzijn op de kosmische tijdschaal in z’n werk is gegaan, zo razendsnel ontwikkelt de kunstmatige intelligentie zich als gevolg van de culturele evolutie. Terwijl het eerste vertoon van typisch aan het bewustzijn gekoppelde menselijke vaardigheden dateert van zo’n vijftigduizend jaar geleden, is er pas vanaf de zeventiende eeuw gewerkt aan het ontwikkelen van rekenmachines, als eenvoudigste vorm van kunstmatige intelligentie, als we de abacus waarmee de oude Grieken plachten te rekenen even niet meetellen. Als we de hele geschiedenis van het universum in een twee uur durende documentaire film zouden samenvatten, kwam de modern-wetenschappelijke homo sapiens die bekend is met de stoommachine, de kerncentrale en de computer, één tienduizendste deel van een seconde voor het einde het beeld binnenlopen.[2]

In 1642 ontwierp de Franse wiskundige en filosoof Blaise Pascal zijn pascaline, bedoeld om zijn vader van dienst te zijn bij het vele optel- en aftrekwerk dat hij als ’s konings belastinginner moest verrichten. De volgende stap staat op naam van de Duitser Gottfried Wilhelm Leibniz – dezelfde die zich met het voor de digitale computer zo essentiële binaire getallenstelsel bezig hield – die in 1675 een verbeterde versie construeerde die ook kon vermenigvuldigen en delen. De Engelse wis- en werktuigbouwkundige Charles Babbage werkte vanaf 1823 aan een mechanische rekenmachine op basis van ponskaarten, hoewel hij er nooit in geslaagd is er een ook echt aan de praat te krijgen. Aan het eind van de negentiende eeuw was het Herman Hollerith, een Amerikaan die het produceren van ponskaartenmachines commercieel aanpakte door de Tabulating Machine Company, de latere International Business Machines (IBM) op te richten. Beperken we ons verder tot de digitale elektronische computer, dan valt de Duitser Konrad Zuse de eer te beurt om in het begin van de Tweede Wereldoorlog als eerste een werkend exemplaar te hebben gefabriceerd. En deze heeft zich in de daarop volgende decennia zo snel ontwikkeld tot de tegenwoordige supercomputer dat de overeenkomst met de eerste voorouder ver is te zoeken en er beter van revolutie dan van evolutie kan worden gesproken. Een kort overzicht van de verbazingwekkende verrichtingen waartoe hedendaagse kunstmatig intelligente machines in staat zijn is in het vorige hoofdstuk al gegeven, maar door de onvolledigheid is daar binnen de context van het onderhavige hoofdstuk nog wel het nodige aan toe te voegen.

In Disappearing Through the Skylight beschrijft de cultuurfilosoof O.B. Hardison wat de mogelijke gevolgen van dit kunstmatige denken op allerlei gebieden van de cultuur kunnen zijn. Het boek behandelt vijf fundamentele en onderling verweven deelgebieden van de moderne cultuur: natuur, geschiedenis, taal, kunst en menselijke ontwikkeling, waarbij de veranderingen worden bekeken die de kernbegrippen op elk van die gebieden vanaf het begin van de twintigste eeuw hebben ondergaan. De titel en de voorplaat van het boek verwijzen naar het idee van de auteur dat de werkelijkheid steeds virtueler, dus allengs vluchtiger wordt en uiteindelijk door een geopend dakraam zal ontsnappen en in de ruimte verdwijnen.[3]

Zo schetst Hardison het proces dat emulatie wordt genoemd, waarbij de uit koolstofstructuren bestaande koolmens met zijn ideeën, stap voor stap vervangen en verdrongen zal worden door de uit siliciumchips samengestelde kiezelmachine met haar programmatuur. Naarmate dit proces zich voortzet zullen de grenzen tussen de menselijke ‘moderne’ werkelijkheid en de ‘postmoderne’ werkelijkheid van de machine steeds vager worden en ten slotte geheel verdwijnen. Ook Jean-François Lyotard stelt in zijn boek Het onmenselijke dat de gehele technologische ontwikkeling, en die van de kunstmatige intelligentie in het bijzonder, is op te vatten als de voorbereiding op een samengestelde levensvorm, waarvoor de mens niet meer is dan één van de grondstoffen.[4] Of zoals Edward M. Forster het in 1909 al opschreef:

De Machine ontwikkelt zich − maar niet in de richting die wij willen. De Machine rukt op − maar niet naar ons doel. Wij hebben alleen bestaansrecht als bloedlichaampjes die door haar aderen stromen, en als zij zonder ons kon, liet zij ons sterven.[5]

De aanhangers van deze transhumanisme genoemde opvatting ontlenen hun argumenten aan het onvoorzichtige, rechtlijnig in de toekomst dóórtrekken van ontwikkelingen zoals die zich tot op heden hebben voorgedaan. Er is immers al een kunstmatig intelligente machine – IBM’s Deep Blue Supercomputer − die in 1997 wereldkampioen schaken Garry Kasparov versloeg. Max Pam no­teerde in dat verband dat het geen prettig gezicht is gebroken mensen te zien, geknakt en vernederd door een machine, maar het is ook wel weer zo dat, zelfs volgens Kasparov, het uitblinken in schaken tegenwoordig niet meer wordt gezien als een aanwijzing voor meer algemene intelligentie.[6] Niettemin zullen machines in de toekomst ongetwijfeld met hun wiskundige prestaties in het algemeen de mens nog de nodige krenkingen bezorgen. In de zomer van 1956 stuurde een opgewonden Herbert Simon een brief aan Bertrand Russell, waarin hij schreef dat het voor het eerst gelukt was met behulp van een machine een logisch theorema uit de Principia Mathematica, het wiskundige levenswerk van Alfred North Whitehead en Russell, te bewijzen. Russell schreef zuur terug dat hij zeer verheugd was te vernemen dat de Principia Mathematica nu ook met een machine kan worden gemaakt, maar dat Whitehead en hij alleen graag van deze mogelijkheid hadden geweten vóór ze allebei tien jaar van hun leven hadden verdaan met dat handmatig te doen (zie hoofdstuk VII).[7]

Op het ogenblik zijn er nog maar weinig wiskundigen die bij hun werkzaamheden geen gebruik maken van een computer en het lijkt erop dat het Andrew Wiles in 1995 voor het laatst is gelukt een serieus wiskundig probleem − het bewijs van de stelling van Fermat – op te lossen zonder hulp van een computer. Simon Singh schreef dat Wiles’ enige wapens in zijn strijd tegen Fermats Laatste Stelling potlood, papier en pure logica waren, maar dat hij waarschijnlijk als laatste wiskundige in de eerbiedwaardige traditie van Pythagoras en Euclides moet worden beschouwd, en dat er donkere voortekenen zijn dat toekomstige resultaten uitsluitend zullen berusten op een aanpak van machinaal grof geweld in plaats van elegant menselijk redeneren.[8] Maar hoezo ‘uitsluitend’? Waarom zouden dezelfde resultaten niet met machinaal geweld, dan wel met elegant redeneren verkregen kunnen worden?

Degenen die minder onder de indruk zijn van de prestaties van machines zullen aanvoeren dat al deze voorbeelden het wetenschappelijke denken betreffen, en dat de mens zich juist van de machine onderscheidt door zijn vermogen om kunst voort te brengen. Maar ‒ zoals ook in het vorige hoofdstuk als opgemerkt ‒ als we de gemiddelde museumbezoeker mogen geloven zijn er ook al machines die beter schilderen dan Piet Mondriaan en is er ook een computerprogramma dat Bachwerken produceert die door kenners niet of nauwelijks zijn te onderscheiden van Bachs eigen composities. Maar in beide gevallen blijken eerst alle schilderijen en composities in de computer te moeten worden ingevoerd voor alle variaties daarop door de machine kunnen worden geproduceerd en blijft het scheppen van het oorspronkelijke werk door de menselijke meesters een noodzakelijke voorwaarde.

Ook op het gebied van het proza zijn er door computers al opvallende prestaties geleverd. De door de Manchester University ontwikkelde Ferranti Mark I – waaraan ook Alan Turing nog heeft gewerkt − mocht zich er in 1951 op beroemen de eerste niet-mens op onze planeet te zijn die een liefdesbrief heeft geschreven:

Liefste Lieveling,
Jij bent mijn begerige vrijersgevoel.
Mijn genegenheid blijft vreemd vastgeklampt
aan jouw hartstochtelijk verlangen. Mijn
lust smacht naar jouw hart. Jij
bent mijn weemoedige medegevoel: mijn
tedere lust.
Je geweldige
Manchester University Computer.[9]

Waarbij aangetekend kan worden dat de machine wel met de juiste woorden heeft kunnen manipuleren, maar de typisch voor mensen bijbehorende gevoelens heeft gemist.

En er zijn ook al machines die zich oefenen in het maken van poëzie. Om dat te illustreren vermeldt Hardison een computergedicht van Nanni Balestrini, vervaardigd met een programma dat op een dadaïstische manier willekeurig passages ontleent aan Michiko Hachiya’s Hiroshima Diary, Paul Goldwins The Mystery of the Elevator, en Lao Tse’s Tao Te Tsjing. Het resultaat is een ontegenzeglijk ontroerende overpeinzing gewijd aan de atoombom op Hiroshima:

Haar tussen lippen, zij keren alle terug
naar hun wortels, in de verblindende vuurbal
voorzie ik hun terugkeer, tot hij zijn vingers
traag beweegt, en hoewel de zaken voor de wind gaan
neemt de bekende paddenstoel vorm aan, in een poging
om het te vatten terwijl de veelheid van dingen
in het aanzijn verschijnt.

In de verblindende vuurbal voorzie ik
hun terugkeer als het de stratosfeer bereikt terwijl de veelheid
van dingen in het aanzijn verschijnt, hoofd gedrukt
tegen schouder, dertig keer helderder dan de zon
keren zij alle terug naar hun wortels, haar
tussen lippen neemt de bekende paddenstoelvorm aan.[10]

Vertederender nog, juist vanwege het onbeholpen beginnerskarakter, is Edwin Morgans (onvertaalbare) Computer’s First Christmas Card:

jollymerry
hollyberry
jollyberry
merryholly
happyjolly
jollyjelly
jellybelly

en vervolgens nog vele variaties en permutaties, om dan te eindigen met:

merrymerry
merryChris
ammerryasa
Chrismerry
asMerryChr
Ysanthemum[11]

Maar ook hier ligt het bezwaar dat tegen welke verdienste van de machine dan ook kan worden ingebracht voor de hand: als er al sprake is van een literaire (wan)prestatie van enig belang, dan moet die worden toegeschreven aan de menselijke werken die er aan ten grondslag liggen en aan de zielenroerselen van de programmeur, net zoals het product van zijn op toeval gebaseerde haiku-machine toekomt aan J.P. Guépin en niet aan het door hem verzon­nen programma. Guépin noemt zijn haiku-programma een gezelschapsspel met een vaste syntaxis en een vocabulaire van drie maal vijftien genummerde woorden: substantieven, werkwoorden, adjectieven. Een speler noemt drie getallen onder de zestien, de spelleider vult de woorden in op de open plaatsen van een vooraf gegeven zinsbouw:

de maan valt in de vijver
de dwaze gans kwaakt heimelijk
Ai! de gelukkige klaprozenkelk is oud

of:

de rots onder de kikker verbleekt
de witte dag bloeit grijs
Ai! de koele rijp is licht

of:

de vijver met een kreet buigt
de oude rijp sterft heimelijk
Ai! de zuivere dag is naakt.[12]

Nou, de eerste haiku gaat dan nog wel, maar − ai! − de laatste twee zijn wel heel erg onder de maat. Maar ondanks al deze gehele of gedeeltelijke successen van de computer, lijkt zoals gezegd de programmering van de common sense van een hond een voorlopig nog ondoenlijke taak.

En dan hebben we het alleen nog maar gehad over de betrekkelijk overzichtelijke situaties, waarin machines de mens als geheel voor bepaalde taken kunnen vervangen, en het koolbewustzijn en de kiezelintelligentie in principe probleemloos strikt gescheiden naast elkaar kunnen blijven voortbestaan. Aparte aandacht verdient het bionische geval, met de cyborg als extreme en de robot als ultieme versie daarvan, waarbij één of meerdere − in het ultieme geval alle − lichaamsdelen of organen, in- of uitwendig, door kunstmatige constructies zijn vervangen, een toestand die tegenwoordig eerder alledaags dan futuristisch is te noemen, omdat het regelmatig voorkomt dat mensen slechts in leven zijn te houden met machinale verlengstukken, zoals nog tijdens de recente coronacrisis door de beademingsmachines op de intensive care-afdelingen is aangetoond.

Als A.F.Th. van der Heijden het lijk van zijn kort daarvoor in het ziekenhuis overleden vader bezoekt, vraagt hij zich af wat de kamer zo kaal doet lijken:

Een moment later wist ik wat het was. Ze hadden alle apparatuur verwijderd. Verdwenen het kastje met de meters, de standaards met de kolven, de artificiële ingewanden die om hem heen gehangen hadden. Weggenomen de draden, de kabels, de slangen die hem, van lieverlede tegen wil en dank, met naalden aan het leven vastgepind hadden. Hij was vrij.[13]

William Gibson beschrijft in ‘Winter Market’ een constructievere symbiose tussen mens en machine:

Het exoskelet droeg haar over het stoffige vloerkleed met diezelfde gang, als een mannequin over een catwalk. Weg van het feestgedruis kon ik de zachte klikjes horen waarmee het haar voortbewoog. Ze bleef staan, keek omlaag naar de snelscanner. Zoals ze daar stond kon ik de ribben van het ding zien, kon ik ze op haar rug onderscheiden, door het versleten zwarte leer van haar jasje heen. Eén van die ziektes. Een van die oude die ze nooit goed onder de knie hebben gekregen, of een van de nieuwe – zo’n overduidelijk milieugeval − waarvoor ze nog amper een naam hebben bedacht. Ze kon zich niet bewegen, althans niet zonder dit extra skelet, een myo-elektrische interface, dat rechtstreeks in haar brein was geplugd. Broos ogende draagbeugels van polycarbonaat bewogen haar armen en benen, maar haar magere handen werden gestuurd door een subtieler systeem van galvanische implantaten.[14]

Is Gibsons beschrijving nog fictie, Rodney Brooks is een roboticus die in zijn boek over de verhouding tussen mensen en machines inzicht geeft in de feitelijke stand van zaken. Dan blijkt dat er nu al duizenden mensen rondlopen met implantaten die een rechtstreekse verbinding leggen tussen zenuwcellen en chips, waardoor bijvoorbeeld doven weer kunnen horen.

A picture containing text

Description automatically generated

Er worden ook al proeven gedaan met chips die in het oog worden ingebracht, waardoor mensen met bepaalde vormen van blindheid weer globale visuele waarnemingen kunnen doen. En op het instituut waar Brooks werkt is ook nog een andere onderzoeker in dienst bij wie beide benen onder de knie zijn geamputeerd en rondloopt met het prototype van robotische ledematen, met overal los zwabberende metalen onderdelen: gewrichten met magnetische dempvloeistoffen, boordcomputers, batterijen, verbindingsstukken en draadharnassen. Hij zal er heel wat minder elegant uitzien dan de beeldschone Amerikaanse actrice en atlete Aimee Mullins die geboren werd zonder kuitbenen, het na amputatie onder de knie met twaalf paar soms buitengewoon fraai uitgevoerde kunstbenen moet doen en met de springveren versie daarvan wereldrecords op de honderd en tweehonderd meter sprint heeft gevestigd, zonder dat daar een chip of een batterij aan te pas komt.

A person sitting on a chair

Description automatically generated with low confidence

Daarnaast implanteren onderzoekers chips in het lichaam van dieren, soms ook van mensen, en laten vervolgens de zenuwcellen uitgroeien tot ze er een verbinding mee aangaan, waardoor er een directe interface tussen mens en machine ontstaat.[15]

Op den duur zal zich daarbij wel het ethische probleem gaan voordoen bij welke mate van vervanging de grens tussen mens en machine wordt overschreden. Het meest voor de hand ligt af te spreken dat het functionerende creatuur als mens beschouwd wordt zolang het nog de beschikking heeft over zijn koolhersenen. Dat is misschien geen waterdichte afspraak, maar zal voor de meeste praktijksituaties wel afdoende uitsluitsel verschaffen. In ieder geval is het nu nog niet direct nodig ons diepgaand te bezinnen op de door Brooks’ en Calvins ‘machinebe­wustzijn’ opgeworpen probleemsituaties als ‘mensenrechten, inclusief vrijwaring van slavernij en doodslag, vrijheid van spreken, de verplichting tot het betalen van belastingen, het recht om eigendom in bezit te hebben en erover te beschikken, stemrecht, en wat dies meer zij’ voor kunstmatig intelligente machines.[16] En het is in overeenstemming met het verhaal ‘William en Mary’ van Roald Dahl, waarin het brein van William, met nog één daaraan verbonden lidloos oog, ronddobberend in een met voedende vloeistof gevulde, witgeëmailleerde schaal, volgens de hersenchirurg Landy nog over hetzelfde bewustzijn beschikt als de voordien volledige persoon:

‘Bent u er absoluut zeker van dat hij bij bewustzijn is?’ vroeg Mary, zonder op te kijken.
‘O ja, volkomen,’ zei Landy.
‘En kan ie me zien?’
‘Ja, heel duidelijk.’
‘Is dat niet geweldig? Hij zal zich nu wel afvragen wat er is gebeurd.’
‘Welnee. Hij weet precies waar hij is en waarom hij hier is. Dat kan hij onmogelijk zijn vergeten.’
‘Bedoelt u dat hij weet dat hij in dit bassin ligt?’
‘Natuurlijk. Als hij maar kon spreken, zou hij op dit ogenblik ongetwijfeld een strikt normale conversatie met u kunnen voeren. Voor zover ik kan beoordelen bestaat er in geestelijk opzicht totaal geen verschil tussen déze William en de William die u thuis hebt gekend.’[17]

Waarna het Mary lukt haar lichamelijk gedecimeerde echtgenoot mee naar huis te krijgen, waar ze meteen een sigaret opsteekt, wat William haar altijd ten strengste verboden had, om met duivels genoegen rook in het ene lidloze oog te blazen.

Maar kúnnen koolbewustzijn en kiezelintelligentie wel probleemloos naast elkaar voortbestaan? De koolmensen, schrijft Hardison, zullen hun kiezelmachines steeds verder verbeteren, en nog maar een paar robotgeneraties en zij kunnen zichzelf reproduceren, zoals Samuel Butler al dacht in de tijd van de stoommachine. De kiezelkinderen hebben dan geen behoefte meer aan hun koolouders, noch aan voedsel, schone lucht of schoon water. Ook hebben ze geen last van de toegenomen straling als gevolg van nucleaire ongelukken, met kernwapens uitgevochten conflicten of afbraak van de ozonlaag, evenmin van hoge temperaturen of dorre en verzuurde landschappen en zeker niet van pandemische uitbraken van virussen en resistente bacteriestammen. Van de twee soorten nageslacht − onze kool- en onze kiezelkinderen − aan wie wij de stervende aarde zullen nalaten, heeft er maar eentje een redelijke kans op voortbestaan.[18]

William Calvin voorspelt dat binnen enkele decennia computers en robots met een darwinmachine als brein kunnen worden toegerust, en die met hun grootschalig geïnstrueerde parallelle netwerken zullen beschikken over een rekenkracht die het menselijke brein in alle opzichten zal overtreffen. We zullen dan machines bouwen waarmee (of met wie?) we interessante gesprekken kunnen voeren en misschien moeten we dan wel toegeven dat die machines over een zekere mate van bewustzijn beschikken.[19] Zo’n ontwikkeling brengt natuurlijk enige risico’s met zich mee. Stel dat die robots net zo onverantwoord met hun kiezelbewustzijn tekeer zullen gaan als wij dat doen met ons koolbewustzijn, dat ze net zo zullen liegen en kwaad zullen willen? Het ligt immers voor de hand dat een echt slimme machine eerst zal overwegen waar hij het meest aan heeft: een opgedragen taak uitvoeren of een manier verzinnen om daar onderuit te komen. Maar Calvin weet raad: we zullen ze voorzien van extra gedragspatronen, met name van gedragingen waarvan we zelf graag zouden willen dat we daar wat beter in waren, zoals altruïsme, rentmeesterschap over onze natuurlijke omgeving en anderen niet nodeloos in gevaar brengen door roekeloos gedrag:

We zullen beschermingen inbouwen tegen herrieschopperij, boekverbrandingen en het plegen van obscene telefoontjes om vier uur in de ochtend.[20]

Dat is een paar stapjes verder dan de robots waar Isaac Asimov in de jaren vijftig van de twintigste eeuw al over schreef, en die zo gemaakt waren dat ze zich onontkoombaar aan drie wetten moesten houden: geen mensen kwaad doen en te allen tijde voorkomen dat mensen kwaad wordt gedaan, alle opdrachten van mensen uitvoeren, behalve als de eerste wet daarmee wordt overtreden, en zijn eigen bestaan veiligstellen, behalve als de eerste twee wetten daarmee worden overtreden. Het is dan wel aan te bevelen de robots als vierde wet mee te geven ook elkaar niet te beschadigen, omdat er anders binnen de kortste keren alleen nog maar een rokende hoop schroot van zou overblijven.

Als het dan zover zou komen dat wij met onze kwetsbare lichamen en gebrekkige geesten het eindstadium blijken te zijn van de biologische evolutie, dan kunnen de uit onze culturele evolutie voortkomende modelrobots kroon en scepter van ons overnemen. Die zullen dan niets verkeerd kúnnen doen, omdat ze zijn voorzien van Calvins moraalchip, die er voor zal zorgen dat de kiezelmoraal zich niet buiten het roestvrij stalen raamwerk van de mechanische en elektronische natuurwetten kan begeven. Die kiezelmoraal zal inderdaad de ware moraal zijn, want dat is, sprak Nietzsche, de instinctieve zekerheid van handelen die met de dageraad van het grillige en onbetrouwbare koolbewustzijn naar de duivel is gegaan.

Een ander verrassend perspectief op dit gebied, en dat naadloos aansluit bij de ideeën van Rodney Brooks, wordt geschilderd door de Britse futuroloog Peter Cochrane. Deze verwacht dat we, nu we zenuwcellen op siliciumchips kunnen kweken, binnen afzienbare tijd de knarsende menselijke koolhersenen direct kunnen aansluiten op het geruisloze kiezeldenken van een computer. Niet alleen op het primitieve deel van de hersenen waar de motorische functies zitten, zoals dat het geval is met het exoskelet in de literaire fantasie van Gibson, maar ook op de typisch menselijke neocortex. Als gevolg daarvan, zegt Cochrane, zal het ‘geest’-deel van het bewustzijn enorm worden uitgebreid: het ‘hoofdrekenwerk’ kunnen we dan zelf uitvoeren met de snelheid en betrouwbaarheid van een computer, terwijl ons geheugen in staat zal zijn de inhoud van alle bibliotheken in de wereld te bevatten.[21] Dat zal zowel voor de getallenschuwe literatoren als voor de literaire analfabeten uit de natuurwetenschappen, en zeker voor hun onderlinge communicatie, een aanmerkelijke verbetering betekenen. Deze verregaande mechanistische uitbreiding van de menselijke geest mogen wij nu misschien nog als lichaamsvreemd voelen, maar Douglas Rushkoff stelt vast dat het voor kinderen die reeds twaalf piercingringen in hun gezicht, hun navel en geslachtsdelen hebben, al heel wat makkelijker zal zijn om enkele daarvan te vervangen door een stekker of een elektrode, gevolgd door het implanteren van röntgenlenzen in de ogen of microchips in de hersenen.[22]

Aangevuld met het idee van de sterke AI dat machines hetzelfde soort bewustzijn zullen hebben als mensen, opent dat de mogelijkheid om ook andere bij het ouder worden verslechterende hersenfuncties dan geheugen en rekencapaciteit alleen door een vastgekoppelde intelligente machine te laten overnemen.

En als het brein uiteindelijk sterft bevindt de geest zich geheel op de hard disk van de computer. Als er dan ook nog ‒ volgens de wens van Daniel Dennett ‒ met USB-sticks voor voldoende ruim over de wereld verspreide kopieën wordt gezorgd, zou de definitieve dood van iemands persoonlijke geest hoogst onwaarschijnlijk worden.[23] Dat mag misschien een fascinerend toekomstperspectief lijken, maar het ligt veel meer voor de hand dat we er in de praktijk weinig mee zullen opschieten. Het gaat immers niet alleen om de totale hoeveelheid beschikbare informatie zoals die ook nu al ligt opgeslagen in bibliotheken en op hard disks, maar om het bewust worden ervan, en dat zal, als de claims van de sterke AI onterecht blijken, toch door de flessenhals van de koolhersenen moeten gebeuren. En wat is trouwens het verschil tussen over de wereld verspreide USB-sticks als remedie tegen het sterven en Schopenhauers idee dat een individu wel kan sterven, maar niet de ‘wil’ waarvan ieder sterfelijk individu een min of meer toevallige tijdruimtelijke manifestatie of ‘voorstelling’ is? Of Douglas Hofstadters idee van de gekopieerde ‘vreemde lussen’ in de hersenen van andere mensen?

Misschien moet de vervolmaking van het mensdom daarom niet gezocht worden op het gebied van het mechanische lichaam al dan niet toegerust met een elektronisch brein, maar moet er volgens sommigen ernstig over worden nagedacht of moleculair-biologische technieken voor de verbetering van het organische lichaam en bijbehorende hersenen en geest niet de voorkeur verdienen. In dat verband liet in september 1999 Peter Sloterdijk weer eens nadrukkelijk van zich horen met een voordracht die hij ‘Regels voor het mensenpark’ heeft genoemd. Daarin beweert hij eerst dat de mens zich al sinds heugenis bezighoudt met het construeren van een ‘beter’ nageslacht, zij het tot op heden met behulp van de dwang die door ouders en andere opvoeders als onderwijzers, priesters, psychiaters, mental coaches, gymnastiekleraren en sporttrainers wordt uitgeoefend, maar dat het gezien de recente ontwikkelingen op het terrein van de genetische modificatie denkbaar is dat eerder dáár de spectaculaire gebeurtenissen op het gebied van de veredeling van onze soort zullen plaatsvinden − uiteraard met verwijzing naar Nietzsches Übermensch. De gentechnologie maakt het ons immers in principe mogelijk om met crispr-cas9 technieken onze gewelddadige inslag en andere onaangename trekken uit onze genenvoorraad te verwijderen en daar sympathiekere eigenschappen zoals empathie voor in de plaats te stellen (zie hoofdstuk X).

Hoeveel stof Sloterdijks voordracht ook heeft doen opwaaien, al vóór die tijd was de uiterste consequentie van deze ideeën op papier gezet door de Franse microbioloog en schrijver Michel Houellebecq in zijn roman Elementaire deeltjes, wat nog aanmerkelijk meer rumoer veroorzaakte. Houellebecq voert de moleculaire bioloog Michel Djerzinski op, die wat zijn geestesleven betreft het nodige met Mary Shelleys Frankenstein gemeen heeft:

Al jarenlang leidde Michel een zuiver intellectueel bestaan. De gevoelens die het leven van de mensen uitmaken waren niet zijn onderzoeksobject; hij kende ze slecht.[24]

Djerzinski heeft een gentechniek ontwikkeld waarmee een tot perfectie gemanipuleerd menselijk DNA-molecuul onbeperkt kan worden gekloond en aangezet tot deling en de vorming van een volmaakt ‘menselijk’ wezen. Deze wezens zijn onderling uiteraard genetisch geheel ononderscheidbaar zodat er in aanleg van typisch persoonlijke eigenschappen geen sprake meer kan zijn. Dat blijkt, in de roman althans, alleen maar voordelen te hebben:

Als argument tegen de gedachte dat de menselijke persoonlijkheid dreigde te verdwijnen voerde hij het concrete aanschouwelijke voorbeeld van eeneiige tweelingen aan, die ondanks een volkomen identieke erfmassa door hun individuele geschiedenis inderdaad hun eigen persoonlijkheid ontwikkelen, maar tegelijkertijd ook een raadselachtig gevoel van verbondenheid blijven behouden.[25]

Het feit dat er ook geen geslachtelijke verschillen meer kunnen voorkomen betekende nog niet dat er geen sprake meer kon zijn van seksueel genot. Integendeel:

De coderende sequenties die tijdens de embryogenese verantwoordelijk waren voor de vorming van Krause-lichaampjes waren recentelijk geïdentificeerd. In de huidige toestand van de menselijke soort waren die lichaampjes karig verspreid over het oppervlak van de clitoris en de eikel. Er was niets dat ons belette ze in een toekomstige toestand over het gehele huidoppervlak aan te brengen − wat binnen het genotssysteem voor een nieuwe, ongeëvenaarde erotische gewaarwording zou zorgen.[26]

Het oude ras – ‘die deerniswekkende, vuige soort, nauwelijks van de aap te onderscheiden, die gekwelde, tegenstrijdige, individualistische en twistzieke soort met zijn grenzeloze egoïsme, die soms tot enorme geweldsuitbarstingen in staat was maar toch altijd in de goedheid en de liefde bleef geloven’[27] − dat dit nieuwe wezen het licht heeft doen zien, zoals Fausts assistent Wagner dat deed met de homunculus, staat zelf op uitsterven als de zo succesvolle opvolgers zich nog eenmaal over hun scheppers uitspreken:

Wij hebben de kinderlijke band die ons aan de mensheid bond verbroken, en we leven. Naar het oordeel van de mensen is ons leven gelukkig. Inderdaad hebben we ons weten te bevrijden van de voor hen onontkoombare invloed van egoïsme, wreedheid en woede; we leiden in ieder geval een ander leven. Wetenschap en kunst bestaan nog altijd in onze samenleving, maar het streven naar het Ware en het Schone heeft wel een minder urgent karakter gekregen nu het niet meer zo sterk door de prikkel van de individuele ijdelheid wordt gedreven. Op de mensen van het oude ras komt onze wereld over als een paradijs. Het gebeurt overigens wel eens dat we onszelf − met iets van humor, dat wel − betitelen met de naam ‘goden’ die hen altijd zo dromerig stemde.[28]

Het kan voorlopig nog tot opluchting dienen dat dit perspectief, dat een huiver van weerzin en tegelijk gelukzaligheid opwekt, indien realiseerbaar nog heel ver weg in de toekomst ligt, omdat zelfs de eenvoudigste vorm van gentherapie tegenwoordig nog meer dodelijke slachtoffers eist dan dat het tot genezing leidt. Als er tenminste überhaupt enige kans op realiseerbaarheid is, want het is al eerder benadrukt dat het maken van fouten bij de reproductie van DNA-moleculen essentieel is voor het – lichamelijke en geestelijke − aanpassingsvermogen en de levensvatbaarheid van de soort, wat betekent dat de genetisch volmaakte wezens van Houellebecq óf op den duur ook zullen uitsterven, óf zich door allerlei ongelukjes bij het aanmaken van nieuw genetisch materiaal weer tot ‘gewone’ mensen zullen ontwikkelen.

Naast de perspectieven van machines die zich geheel zullen verzelfstandigen om vervolgens de macht van de mensen over te nemen, of van mensen die via bionische toepassingen uiteindelijk tot complete cyborgs zullen worden omgebouwd, of van mensen die via biotechnologische veranderingen alles van zichzelf kunnen maken tot wandelende, voortdurend orgasmes producerende eikels of clitorissen toe, ziet Rodney Brooks eerder gebeuren dat de nog volop in ontwikkeling zijnde biotechnologie uiteindelijk zal samensmelten met de robottechnologie. We zullen dan tegelijk aan de biologische en aan de mechanische kant van ons lichaam sleutelen, en niet zo’n klein beetje, maar fundamenteel. We zullen het vermogen verwerven ons lichaam met biotechnologische bouwplannen net zo te manipuleren als we momenteel al met het ontwerp van machines doen. We hoeven ons dan ook geen zorgen te maken dat robots de macht eenzijdig van ons zullen overnemen, want we zullen zelf de macht over onszelf overnemen met manipuleerbare lichaamsbouwplannen en vermogens die minstens zo goed zijn als die van welke robot ook. Ieder onderscheid tussen ons en de robots zal verdwijnen.[29]

Een nieuwe en voorlopig laatste dimensie wordt aan dit probleem toegevoegd door de recente ontwikkeling op het gebied van de nanotechnologie. Hoewel nog in de ontwerpfase op de tekentafel zal de nanotechnologie op enige termijn in staat zijn uiterst kleine, moleculaire apparaatjes of robotjes te leveren die zichzelf kunnen reproduceren en verbeteren, en die zijn toegerust om op moleculaire schaal bepaalde opdrachten uit te voeren, niet alleen bij allerlei voor de mensheid nuttige taken en productieprocessen in de buitenwereld maar ook binnen het menselijke lichaam, waaronder het transporteren van geneesmiddelen, het herstellen van genetische schade of zelfs het aanleggen van nieuwe eigenschappen in welk orgaan of lichaamsdeel dan ook.

Wat deze technologie, naast al deze voortreffelijke toepassingsmogelijkheden, risicovol maakt is de onbeheersbaarheid van ongewilde en ongewenste processen die er mogelijk mee op gang kunnen worden gebracht, en de betrekkelijke eenvoud – er zijn geen ingewikkelde installaties of zeldzame grondstoffen voor nodig − zodat vrijwel iedereen er mee aan de slag kan gaan, ook ongure types: de nanorobotjes kunnen niet alleen worden toegerust als een breed-spectrum vernietigingswapen, maar ook selectief worden toegepast voor de vernietiging van bepaalde bevolkingsgroepen. En als het niet mogelijk blijkt hun gedrag aan banden te leggen door het inbouwen van een ‘ijzeren moraal’, zijn ze in staat hun ontwikkeling en vermenigvuldiging in eigen hand te nemen en dan is het maar afwachten wat daaruit tevoorschijn komt, en dat is – volgens de computerexpert en schrijver van het artikel ‘Waarom de toekomst ons niet nodig heeft’ Bill Joy – niet veel goeds.[30]

  1. David F. Noble, The Religion of Technology; The Divinity of Man and the Spirit of Invention, Alfred A. Knopf 1998, blz. 160.

  2. Richard Sennett, De ambachtsman; de mens als maker, (vert. Willem van Paassen), Meulenhoff 2020, blz. 23.

  3. O.B. Hardison, Disappearing Through the Skylight; Culture and Technology in the Twentieth Century, Viking Penguin 1989.

  4. Jean-François Lyotard, uit: Jos de Mul, Het humanisme heeft een vorm; over de actualiteit van Montaignes es­says, 1993.

  5. E.M. Forster, ‘The Machine Stops’, uit: Roslynn D. Haynes, From Faust to Strangelove; Representations of the Scientist in Western Literature, Johns Hopkins University Press 1994, blz. 146.

  6. Bennie Mols, Turings Tango. Waarom de mens de computer de baas blijft, Nieuw Amsterdam 2012, blz. 55.

  7. David F. Noble, The Religion of Technology; The Divinity of Man and the Spirit of Invention, Alfred A. Knopf 1998, blz. 155.

  8. Simon Singh, Het laatste raadsel van Fermat; het verhaal van een stelling die de grootste geesten der aarde 358 jaar lang tot wanhoop dreef, (vert. Mea Flothuis), De Arbeiderspers 1998, blz. 322.

  9. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 5.

  10. Jack Copeland, Artificial Intelligence, A Philosophical Introduction, Blackwell 1993, blz. 5.

  11. O.B. Hardison, Disappearing Through the Skylight; Culture and Technology in the Twentieth Century, Viking Penguin 1989, blz. 271-272.

  12. J.P. Guépin, ‘Met de hand en met de computer geproduceerde toevalsteksten’, Maatstaf, 1999/2.

  13. A.F.Th. Van der Heijden, Asbestemming; een requiem, Querido 1994, blz. 110.

  14. William Gibson, ‘Winter Market’, uit: Biotech, Nox B, Duizend & Een, 1993.

  15. Rodney A. Brooks, De kunstmatige mens; hoe machines ons veranderen, (vert. Maaike Post, Arjen Mulder), De Bezige Bij, 2002, blz. 7-8.

  16. William Calvin, De cerebrale symfonie; beschouwingen aan zee over de structuur van het bewustzijn, (vert. Peter Diderich), Bert Bakker 1992, blz. 353.

  17. Roald Dahl, ‘William en Mary’, uit: Topklasse, (vert. Hans Edinga, Peter Verstegen), Meulenhoff, blz. 142.

  18. William Calvin, De cerebrale symfonie; beschouwingen aan zee over de structuur van het bewustzijn, (vert. Peter Diderich), Bert Bakker 1992, blz. 356-357.

  19. William Calvin, De cerebrale symfonie; beschouwingen aan zee over de structuur van het bewustzijn, (vert. Peter Diderich), Bert Bakker 1992, blz. 296.

  20. William Calvin, De cerebrale symfonie; beschouwingen aan zee over de structuur van het bewustzijn, (vert. Peter Diderich), Bert Bakker 1992, blz. 354.

  21. Steve Connor, ‘Chip koppelt hersenen aan computer’, Het Parool, 29 mei 1995.

  22. Douglas Rushkoff, Children of Chaos; Surviving the End of the World as We Know it, Flamingo 1997, blz. 140-141.

  23. Hans Moravec, uit: David F. Noble, The Religion of Technology; The Divinity of Man and the Spirit of Invention, Alfred A. Knopf 1998, blz. 162.

  24. Michel Houellebecq, Elementaire deeltjes, (vert. Martin de Haan), De Arbeiderspers 1999, blz. 127.

  25. Michel Houellebecq, Elementaire deeltjes, (vert. Martin de Haan), De Arbeiderspers 1999, blz. 335.

  26. Michel Houellebecq, Elementaire deeltjes, (vert. Martin de Haan), De Arbeiderspers 1999, blz. 334.

  27. Michel Houellebecq, Elementaire deeltjes, (vert. Martin de Haan), De Arbeiderspers 1999, blz. 339.

  28. Michel Houellebecq, Elementaire deeltjes, (vert. Martin de Haan), De Arbeiderspers 1999, blz. 338.

  29. Rodney A. Brooks, De kunstmatige mens; hoe machines ons veranderen, (vert. Maaike Post, Arjen Mulder), De Bezige Bij, 2002, blz. 289.

  30. Bill Joy, ‘Waarom de toekomst ons niet nodig heeft’, NRC Handelsad, 31-8-2000.

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *