“De menselijke geest zit niet in elkaar” (Louk Fleischhacker)
Inleiding over zijn, er-zijn en bewust-zijn
“Ik ben er!” zegt vader als hij de kamer binnenkomt. “Ja, dat zien we zo wel!” is moeders reaktie.
Dat je er bent, dat hoef je niet meer te zeggen. En dat je er niet bent, dat kún je helemaal niet zeggen. Dat wil zeggen: je kunt niet zeggen en ook nog eens serieus bedoelen wat je zegt wanneer je zegt: “ik ben er niet”. Want om te zeggen dat je er niet bent moet je er toch in ieder geval zijn. Dus over ‘er zijn’ hoeven we geen mededelingen te doen. We zijn er gewoon, en dat is het wel zo’n beetje. Heidegger noemt het er-zijn van de mens Dasein, de typische bestaanswijze van de mens. Mens-zijn is Dasein. Omdat er-zijn ‘zijn’ inhoudt en we anderzijds niet kunnen ‘zijn’ zonder ergens te zijn, er te zijn, hebben we het ook daar niet meer over.
Maar hoe zit het met bewust-zijn? Is alles wat is ook bewust-zijn? Of geldt dit alleen voor de menselijke bestaanswijze? Hebben de (andere) dieren dan geen bewustzijn? Een leeuw, een muis, een worm, een luis? Waar vindt de overgang plaats naar bewustzijn? En hebben machines bewustzijn?
“Heeft de lamp bewustzijn?”
Hoe kom je op die vraag? Wel, dat ging zo:
In onze nieuwe auto zit een hele rij, wel acht, schakelaars. Bij het starten van de motor lichten sommige rood op, andere niet, die blijven zwart. Ik had wel door dat dit iets te betekenen moest hebben. Maar wat? Welke functie heeft elk van die schakelaars? En wat betekent het als het rode lampje van de schakelaar brandt? Betekent het dat de betreffende functie ingeschakeld is, of wijst het juist op de mogelijkheid deze functie in te schakelen. Sommige schakelaars tonen het woord OFF dat als je er op drukt verandert in ON. Je weet dan niet of OFF zegt dat het ding uit is of dat je er juist op moet drukken om het ding uit te zetten. Zegt het lampje iets over de huidige toestand (ON betekent: ik ben aan): of zegt het wat je moet doen om die toestand te realiseren (ON zegt: druk hier om het ding aan te zetten) ? De interface heeft twee gezichten; die van de gebruiker en die van de machine.
Hoe het ook zij, ik was er vanuit gegaan dat de stand van de schakelaar iets zegt over de toestand van een of andere werking die zich ergens in de auto afspeelt. Bijvoorbeeld of een bepaalde lamp brandt of niet. Of wat dan ook. Maar wel van iets ánders dan van de schakelaar zelf. Ik kon me niet voorstellen dat de autofabrikant een schakelaar had gemaakt met een lampje dat rood oplicht als je er op drukt alleen maar om dat lampje zelf op te laten lichten. De schakelaar moest wel iets zeggen en doen met iets anders, met een wezenlijker functie van het systeem. Omdat er een één-op-één verband is tussen de toestand van de schakelaar en de toestand van de lamp die er door bediend wordt, toont de schakelaar niet alleen zijn eigen toestand, maar daarmee ook die van de lamp. De schakelaar zegt mij of de lamp brandt of niet.
De schakelaar biedt mij als gebruiker de mogelijkheid om de toestand van de lamp te veranderen en deze toont tevens de huidige toestand van de lamp. Er zijn ook lampjes die alleen maar tonen wat de toestand is van een onderdeel van de auto. Je kunt er verder niets mee. Het vertelt je iets over de toestand in de wereld die voor jou als gebruiker ervan (volgens de ontwerper) van belang is. De lamp zegt je of hij brandt of niet. Moet een lamp ook zeggen dat hij er is? Lijkt me niet.
En toen vroeg ik me af of een lamp bewustzijn heeft. Dat lijkt me een voor de hand liggende vraag, omdat de lamp immers het vermogen heeft iets over zijn eigen (interne?) toestand te zeggen. De lamp deelt aan mij, aan de schakelaar en aan een heleboel andere dingen in zijn omgeving mee dat hij er is, en hoe hij ‘er in staat’, in welke staat hij is. Dat doet de lamp door op mij, op de schakelaar en op al die andere dingen en processen in zijn omgeving in te werken. En al die andere dingen, zoals de schakelaar, werken omgekeerd in op de lamp. En dat geheel, dat is wat het is, en elk onderdeel is wat het is. Heeft de lamp bewustzijn? Of is de lamp bewustzijn? Is de lamp er bewust?
De formulering ‘bewustzijn hebben’ maakt van bewustzijn iets dat iets al dan niet kan hebben. Dat kan nog op minstens twee manieren worden opgevat. ‘Heeft liefde een kleur?’ Daarmee wordt bedoeld of liefde iets is dat gekleurdheid toekomt. Zoja, dan is de vraag: welke kleur heeft de liefde dan? Bewustzijn is als gekleurdheid, niet zoals rood. Als iets gekleurd als eigenschap heeft, dan is het ook gekleurd. Gekleurd-zijn en bewust-zijn zijn wijzen van zijn, zijns-wijzen. Welke kleur zich toont hangt van de omgeving af. Voor de kleurenblinde bestaan bepaalde kleuren niet. Voor iemnd die helemaal geen kleuren kan onderscheiden bestaat gekleurdheid niet als een echte visuele eigenschap van de dingen. Analoog hangt de bepaalde wijze van bewust-zijn van iets af van de omgeving. Er zijn gradaties van bewustzijn. Klassiek wordt mens-zijn beschouwd als hogere graad van bewust-zijn, dan de andere dieren en het dier is in hogere graad bewust dan de plant. Dingen zoals tafels en stoel en lampen worden geen bewustzijn toegekend. Er is verband tussen levend zijn en bewust-zijn. Niet-levende dingen hebben geen bewustzijn, levende zijnden hebben bewust-zijn.
Ook als vader thuis of op zijn werk door niemand waargenomen achter zijn bureau zit te turen naar zijn beeldscherm is hij er. Ik weet dat zijn zijn niet afhangt van het waargenomen worden. Ik weet zeker dat de lamp er ook is als deze niet door iemand wordt waargenomen. Ze zijn zelfstandig. Maar ‘zegt’ de lamp ook iets als er niemand is die de lamp ‘waarneemt’? Het lijkt me dat daarvoor iemand of iets aan de lamp aanwezig moet zijn voor wie de lamp iets zegt. Waarnemen zegt aanwezigheid voor iets anders. Zijn er dingen in aanwezigheid van de lamp die de lamp niets ‘zeggen’? De warmte van de lamp straalt af op zijn omgeving en omgekeerd; lamp en omgeving beïnvloeden elkaar in hoe ze op elk moment zijn. Plotseling gaat de lamp uit. Ik zie dat het draadje is doorgebrand. Mijn vader leeft niet meer. Hij is dood, maar hij is er soms in mijn gedachten. Maar ook, wezenlijker, in mijn leven en karakter. Een kapotte lamp is een lamp met een gebrek. Hij werkt niet meer.
Wat is eigenlijk bewustzijn? Heeft de lamp ervaringen, een ‘innerlijk leven’? Als deze dat zou hebben, zou hij er dan niet iets van willen mededelen aan zijn omgeving, aan de andere dingen, aan dingen die hem verstaan? We zeiden dat de lamp invloed heeft op zijn omgeving en dat deze aan of uit kan zijn. Maar weet de lamp ook in welke toestand deze zich bevindt? Is zijn toestand voor de lamp zelf aanwezig? Kent de lamp reflectie en zelf-reflectie? Als dat zo was, zou de lamp daar niet iets van mededelen? We kunnen ons bewust-zijn van dingen alleen voorstellen als een ‘schaduw’ van ons eigen zelf-bewustzijn.
Is een lamp die ‘alleen maar’ licht kan geven (alsof dat niet genoeg was!) een complex genoeg zijnde om bewust te zijn, om voor zichzelf aanwezig te zijn? Vroeg ik me als ingenieur af.
Laten we eens naar een complexer ding kijken. Naar een automaat, de ‘denkende machine’.
Het intentioneel correlaat
De Nederlandse filosoof Jan Hollak heeft in verschillende artikelen zijn gedachten over het fenomeen van de ‘denkende machine’ en de ‘bewuste machine’ met zijn lezers gedeeld. In zijn beroemde inaugurele rede Van Causa sui tot Automatie plaatst hij de volgende voetnoot.
“Wanneer hier voortdurend in verband met mechanismen van ‘reflectie’, ‘zelfreflectie’, etc. sprake is dan is daarmee vanzelfsprekend nooit het subjectieve act-leven van het menselijk denken bedoeld (machines hebben geen bewustzijn), maar steeds slechts zijn intentioneel correlaat” (In: Hollak en Platvoet, voetnoot op p. 185)
Hollak verwijst in deze voetnoot een hele boekenkast vol filosofieën waarin uitgegaan wordt van de mogelijkheid van het bestaan van de ‘denkende machine’ naar het rijk der fabelen.
In Meeting on neutral ground, a reflection on man-machine contest, zegt de wiskundige en logicus Albert Visser:
“After all, machine and program are intentional notions. So to understand the machine, we need to understand man.” (Albert Visser, 2020).
Om de machine te begrijpen moeten we de mens begrijpen, want machine is een intentioneel begrip.
Voor veel mensen is het echter helemaal niet zo ‘vanzelfsprekend’ dat de machine ‘geen bewustzijn heeft’. De term ‘intentioneel correlaat’ komt uit een stroming in de filosofie die niet zo populair is bij wetenschappers en filosofen. Het is een belangrijke notie, waar diverse filosofen hele boeken aan besteedden (Searle, 1983; Dennett).
Searle wijst erop dat “we can attribute intelligence to whatever proces“. De vallende steen die ‘zijn snelheid berekent volgens de wetten van Newton, is een ‘observer-relative’ computer.
Visser stelt dat we om de machine te begrijpen we het ‘intentionele begrip’ machine moeten begrijpen. Het gaat dus om begrip van begrip. De machine is uitdrukking van ons begrip en dat zouden we moeten begrijpen.
Het object van de intentionele act (bewustzijn is altijd bewustzijn vàn iets, we denken altijd iets, een gedachte), heet in de fenomenologische traditie het ‘intentioneel correlaat’ van de act. Als ik denk aan de lamp is het denkbeeld het intentioneel correlaat van mijn gedachte. We maken een onderscheid tussen de toestand van de lamp: hij is aan of uit, en de toestand van de lamp als representatie van de toestand van het technische systeem waarvan deze onderdeel is. De controlelamp van de schakelaar in de auto heeft een functie in een werkend systeem, in de auto, in een machine. De toestand ervan is een toestand zoals ik die begrijp: de lamp is aan of uit, als onderdeel van een systeem. Die toestand als toestand van een systeem is niet iets dat de lamp op zich eigen is. Die denken wij erbij. Voor wie niet bekend is met de technische constructie is de lamp slechts wat deze onmiddellijk in de ervaring is. Voor wie niet weet wat rekenen is bestaat de rekenmachine niet.
We kunnen daarentegen het ook zo zien dat de toestand van de lamp iets ‘zegt’ over de lamp ‘zelf’. De filosoof Austin vond dit een absurde gedachte. (Austin, Other Minds). Alsof de theepot zegt: ik ben een theepot. (Zie ook mijn blog Quid of quod? De geschiedenis van het feit.)
De gedachte toestand van de machine is bij de machinetechniek niet de toedracht in haar onmiddellijke ervaringsvorm, maar de toedracht als toedracht uitgedrukt. Het is resultaat van reflectie. Machinetechniek is een reflexieve techniek. Deze is anders dan de onmiddellijke ervaringstechniek van het primitieve werktuig: het vuur, de steen, de stok die we als gebruiksvoorwerpen zien. De machinetechniek veronderstelt dat de natuur ‘zich uitdrukt in’, of ‘beschreven kan worden in de vorm van’ natuurwetten. In de machine zijn de toedrachten aanwezig zoals ík ze denk, namelijk in de vorm van een technisch concept. Dus als ‘intentioneel correlaat’ van mijn denken. Een toestand van een systeem, zoals een machine is een mathematische constructie.
Zo kunnen we begrijpen wat Albert Visser bedoelt wanneer hij stelt dat de machine een ‘intentioneel begrip’ is.
We kunnen de machine dus alleen in relatie tot de mens zinvol beschouwen omdat deze alleen in een cognitieve relatie tot de mens als machine bestaat. (Zoals de kriebels op papier alleen voor wie weet wat taal is woorden voorstellen.) Het wezenlijke van de machine is de technische idee, het concept.
We kunnen mens en machine wel onderscheiden, maar niet van elkaar scheiden. Zoals we de binnenkant en de buitenkant van een kopje wel kunnen onderscheiden, maar niet werkelijk van elkaar scheiden. Die horen bij elkaar als de twee relata van een relatie. Ze komen niet apart in werkelijkheid naast elkaar voor. Nu is het bij de mens-machine-relatie zo dat beide ook zelfstandigheid hebben. Ze komen buiten elkaar als ‘dingen’ in de werkelijkheid voor. De mens staat tegenover de machine en kan de machine bedienen via lichamelijk contact. Dat maakt dat veel mensen vergeten dat de machine alleen machine is in relatie tot de mens. Als we het over dat ding als machine hebben en het als machine gebruiken dan hebben we het over een cognitief gefundeerde relatie die in een materiële vorm is geobjectiveerd: het ding is uitdrukking, realisatie van een concept, een ontwerp. Zonder dat relatieve moment tot de mens die het ding heeft ontworpen is het ding geen machine.
Bij de klassieke machine techniek ligt de verhouding van het concept tot de fysische realisatie ervan anders dan bij de rekenmachine. Bij de laatste verwijzen de onderdelen en hun werking naar wiskundige operaties en grootheden, bij de klassieke machine (zoals de stoommachine) gaat het om de werking van de materiële onderdelen zelf.
Reflectie van de reflectie
We kunnen abstraheren van de bijzondere fysische implementatie van een bepaalde functionaliteit zodra we beseffen dat het voor het functioneren van de machine om communicatie van toestanden van onderdelen van het systeem gaat en niet om de fysische processen zelf. We zien dan bijvoorbeeld dat een bepaalde klep van een verbrandingsmotor een signaal doorgeeft aan andere onderdelen ervan. Of dat een lampje iets meedeelt aan ons of aan andere onderdelen over de koplampen. Dit is de tweede reflectievorm, een reflectie op de reflectie die in de informatieverwerkende systemen tot uitdrukking komt. Dan zeggen we dat de signalen informatie uitwisselen over de aktuele toestand van de verschillende onderdelen van het gehele systeem. Zo treden we het stadium van de techniek van de electronische circuits binnen.
De vergissing die men volgens Hollak vaak maakt is de toedracht van een machine alleen inhoudelijk te nemen (‘materialiter’) en niet ook naar de vorm (als toedracht, ‘formaliter’). Een toestand van een systeem heeft altijd twee kanten. De ene kant verwijst naar een mathematisch veld van mogelijke toestanden. De andere kant verwijst naar een fysische realiteit, een onmiddellijke stand van zaken, een feit. Een signaal verwijst naar een toestand: de bron waarvan het een teken is. Het signaal heeft een bepaalde uitwerking op andere systemen die het signaal ontvangen. Daarin vindt een bepaalde toestandsverandering plaats. Welke dat is, dat wordt bepaald door het signaal. Het geheel is weergave van een technisch ontwerp.
Die lamp zoals ik die onmiddellijk waarneem is natuurlijk niet het intentioneel correlaat van mijn ontwerp van die lamp. Net zo min als de zon dat is. Maar de auto en alle functionele onderdelen ervan, zoals de motor en de electronica, maar ook de lampen, die zijn allemaal bedacht. De toestanden van deze onderdelen verwijzen naar een concept, een technisch ontwerp. Ze hebben een betekenis of functie in het ontwerp. Ze zijn in die zin weergaven, of correlaat van het bewuste ontwerp van de ingenieur, die in een manual de gebruiker uitlegt hoe deze ‘werkelijkheid’ moet worden gezien om deze te gebruiken, zoals door de ontwerper bedoeld was. Als ik me afvraag wat het rode lampje op de schakelaar betekent dan probeer ik iets van het technisch ontwerp te begrijpen. Ik beschouw de schakelaar met het lampje dan als onderdeel van zo’n ontwerp. Ik snap dat het niet om het licht van het lampje zelf gaat. Het aan of uit zijn is een teken van iets anders, van een wezenlijker systeemfunctie. Als gebruiker van de auto hoef je niet alles te weten van de werking van de auto, maar het is wel handig om te weten wat je wel en niet moet weten van de werking van de auto. Moeten we weten hoe een rekenmachine werkt om ermee te kunnen rekenen?
Informatietechniek
De informatietechniek is gebaseerd op het principe van een correspondentie tussen de feiten en het denken van de feiten. Fysische processen in de werkelijkheid refereren naar denk-processen. Op grond van dit principe kan de appel die uit de boom valt worden gebruikt als middel om de uitkomst van een wiskundige formule uit de Newtonse mechanica, waarvan het fysisch proces van het vallen van de appel de implementatie is, te berekenen. Bij een bepaalde waarde van de invoer (het argument van een functie): de hoogte waarvanaf de appel valt berekent de vallende appel exact de functiewaarde: de snelheid waarmee de appel op de grond valt. De vallende appel is zo een analoge rekenmachine geworden. Iedere digitale computer is gebouwd op basis van continue, analoge, fysische processen, die gedigitaliseerd worden.
Iedere machine zit logisch, dat wil zeggen: in principe begrijpelijk, in elkaar. Deze is immers weergave van een door de mens bedacht ontwerp. Een rekenmachine is bij uitstek een logische machine. De basisonderdelen ervan zijn logische circuits.
De logische schakeling heet ‘logisch’ omdat de beschrijving van zijn werking in termen van hoe de uitvoer ervan afhangt van de invoer, overeenkomt met een logische operatie. Bijvoorbeeld: de logische AND heet zo omdat de uitvoer de waarde ‘true’ (1) heeft, dan en alleen dan als de twee invoerkanalen de waarde true (1) hebben en anders ‘false’ (0). Het oordeel “Jan rookt en Piet drinkt” is waar als en alleen als het oordeel “Jan rookt” waar is en het oordeel “Piet drinkt” waar is. Als we de ‘waarheidswaarden’ van de basisonderdelen van de bewerende samengestelde zin weten dan kunnen we de ‘waarheidswaarde’ van de gehele zin berekenen door toepassing van de functie die hoort bij de logische connectieven (zoals: ‘en’) die de basisonderdelen tot een geheel maken. Dit is het resultaat van het werk van de wiskundige en logicus Frege (Begriffschrift) en de ingenieur en filosoof Wittgenstein (Tractatus).
Een logische schakeling representeert een abstracte functionele relatie tussen de toestanden van onderdelen van een systeem. ‘Abstract’ omdat het abstraheert van de materiële vorm waarin de functionele relatie gerealiseerd is. De waarden van de invoer en uitvoerkanalen worden door ons beschouwd als waarheidswaarden van een bewering die zegt wat de waarde is van de toestand van een bepaald deel van een systeem is. Bijvoorbeeld: de toestand van een klep, of de stand van een schakelaar.
Het begrip toestand is een sleutelbegrip van de zelf-reflexieve techniek. Die techniek komt voort uit een bepaalde visie op de wereld. Een technisch-mathematische visie op de wereld is een visie waarin “de wereld alles is wat het geval is” (“Die Welt ist Alles was der Fall ist”, Wittgenstein, Tractatus). Het is de wereld van de feiten (‘Tatsache’). Een feit is de uitdrukking van de door het denken voorgestelde identiteit van de beschrijving van een werkelijkheid met die werkelijkheid zelf. De structuur van de taal van de uitdrukking is gelijkvormig met de structuur van de werkelijkheid zelf zoals deze gedacht wordt. Het intentioneel correlaat van het denken correspondeert met de feiten zelf. Het cognitief bewustzijn drukt zich in het algemeen uit als “het is zo”. De wereld is zo een complexe machine die door de ontwerper, de technicus, gebruiksklaar is gemaakt voor de gebruiker. Zijn ontwerper en gebruiker beide ook onderdeel van die wereld?
Zitten die gebruiker en die ontwerper zelf ook zo in elkaar? Is de mens, of een onderdeel daarvan, het brein, ook (slechts) een intentioneel correlaat van zijn eigen denken? Het verschil tussen machine en brein is dat de mens de machine heeft ontworopen en gemaakt, het brein is een natuurlijk gegeven. Is dat brein ook louter instrument zoals de door de mens gemaakte machine en gereedschappen?
Het moeilijke probleem
“Tussen de werkelijkheid die de receptiviteit gegeven is, en de betekenis die deze werkelijkheid kan krijgen, schijnt een onderscheid te bestaan.” (Emmanuel Levinas, Betekenis en zin)
Het schijnt een ‘onweerlegbaar uitgangspunt’ te zijn dat bewustzijn voortkomt uit hersenactiviteit.
“There is no consensus about how it is generated, or how best to approach the question, but all investigations start with the incontrovertible premise that consciousness comes about from the action of the brain.” (Kitchener and Hales, 2022)
Maar…
“Waarom zouden fysieke processen überhaupt aanleiding geven tot een rijk innerlijk leven? Het lijkt duidelijk onredelijk dat dit zou moeten gebeuren, en toch is het zo.”
“Why should physical processing give rise to a rich inner life at all? It seems obviously unreasonable that it should, and yet it does.”
Deze vraag, tevens constatering, van ‘philosopher of mind’ David Chalmers staat bekend als ‘The Hard Problem of Consciousness”, het ‘Lastige Probleem van het Bewustzijn’. ( Chalmers 1995, 1997). Dat het een lastig probleem is blijkt wel uit het feit dat heel wat wetenschappers: neurofysici, gedragswetenschappers, psychologen, biologen en filosofen er hun hersenen op hebben gekraakt. Wat maakt het probleem zo lastig?
Laten we eerst eens kijken met wat voor soort probleem we hier te maken hebben.
Wanneer ik naar de stad wil fietsen en ik heb een lekke band, dan heb ik een technisch probleem. Wanneer door een noodlottig ongeval een metalen spies mijn hersenpan doorboort en de balk tussen de linker en rechter hersenhelft doorklieft, dan heb ik een probleem. Ook dat is een technisch probleem. Een filosofisch probleem is een ander soort probleem. Niemand zal geconfronteerd met één van de de twee genoemde probleemsituaties zich afvragen met wat voor soort probleem hij te maken heeft. Als een lekke band een probleem is, dan is het géén filosofisch probleem. Het vraagt om een technische oplossing: we moeten analyseren, de boel uit elkaar halen, zoeken waar het lek zit en het lek dichten of de band vervangen. In het geval van de metalen spies moeten we de hersenpan lichten en onderzoeken waar de spies de hersenbalk heeft getroffen en doorgesneden en of het euvel hersteld kan worden. In dit geval is het wel de vraag in hoeverre we van de persoon die dit ongeluk treft nog kunnen zeggen dat deze ‘een probleem heeft’. Hij zal zich er vermoedelijk niet bewust van zijn (ik heb echter geen verstand van hersenen) .
Is Chalmers ‘hard problem’ een technisch probleem? Waarom twijfel ik? Omdat het enerzijds behoort tot de ‘philosophy of mind’, en door velen als een filosofisch probleem wordt opgevat (een ‘mind-body probleem’), terwijl anderzijds de formulering van het probleem doet voorkomen alsof het een technisch probleem is. Het onderscheidt ‘fysische processen’ en een ‘innerlijk leven’ als twee onderscheiden zaken en vraagt hoe het kan dat “het ene het andere kan doen gebeuren”. Beide, ‘fysische processen’ en ‘innerlijk leven’ zijn door ons bedachte concepten, zie op een of andere manieren een werkelijkheid uitdrukken.
Kenmerk van een technisch probleem is dat het opgelost wordt door te analyseren, door uit elkaar te halen en door weer samen te stellen. De technicus gaat er vanuit dat het probleem een zaak betreft die uit elkaar gehaald kan worden en dus samengesteld is uit onderdelen.
De (menselijke) geest zit echter niet in elkaar. Laten we daarvan uitgaan. (De stelling is van de wiskundige en filosoof Louk Fleischhacker en komt uit een interview in het tijdschrift Ta!). De geest is één. De geest is geen geheel, want een geheel bestaat uit delen en de geest heeft geen delen. Als er al een probleem met de geest is dan betreft het niet een probleem dat zo geformuleerd kan worden door te doen alsof we aparte onderdelen van de geest kunnen onderscheiden en benoemen. Zodra we dat wel doen, zoals Chalmers doet, dan creëren we een probleem. Dat is het werkelijke ‘hard problem’. We zouden dat het ‘hard problem 2.0’ kunnen noemen. Het is een ander probleem dan het oorspronkelijke probleem, maar ook weer niet. Dat hangt er vanaf of het oorspronkelijke probleem als een technisch of als een filosofisch probleem wordt opgevat.
Wat het probleem zo lastig maakt is dus het probleem zelf, of beter gezegd de formulering van het probleem. En daarbij moeten we degene voor wie het probleem een probleem is en die het zo formuleert als deze het formuleert niet uit het oog verliezen.
Is de mens een bewust-zijn? Of moeten we zeggen: heeft de mens bewustzijn? Alsof het een eigenschap is van een bepaalde soort zijnde, zoals een kleur, of vorm.
Dat we door een pilletje te nemen ‘buiten bewustzijn’ kunnen raken is een onmiskenbaar feit.
Het probleem zoals door Chalmers geformuleerd is niet alleen zijn probleem. Veel mensen hebben zich dezelfde vraag of vergelijkbare vragen gesteld: hoe is het mogelijk dat ons brein, dat toch uit materie bestaat, zoiets geestelijks als bewustzijn, subjectieve belevingen, kan ‘veroorzaken’ ?
Ik zet dat ‘veroorzaken’ maar tussen quotes, omdat het ons wellicht al op een bepaald spoor zet over de aard van de relatie tussen het fysische proces en de beleving, ‘the rich inner life’. Chalmers geeft die relatie aan met ‘gives rise to’. Men zegt ook wel dat bewustzijn een ’emergente eigenschap’ is van een signaalverwerkingsproces, of informatieverwerkingsproces. Anderen zeggen weer dat het hetzelfde proces is alleen dat we het anders benoemen. We bekijken hetzelfde gebeuren vanuit een ander perspectief. Vanuit het ene zien we een fysisch proces, vanuit het andere noemen we het beleving. Op één of andere manier verlopen die twee verschijnselen dan parallel in twee parallelle werelden, die van de fysische processen en die van het denken. Misschien komen deze perspectieven overeen met wat de filosofen van de geest het eerste persoon (1PP) en het derde persoon (3PP) perspectief noemen.
Het feit dat we in staat zijn om machines te maken die denken toont volgens sommigen aan dat we hier slechts met één gebeuren te maken hebben. Volgens de identiteitstheorie zijn denken en fysisch proces identiek. Dan valt er dus niets te verklaren. Er is geen relatie, behalve dan dat de processen identiek zijn. In werkelijkheid identiek, want zodra we zeggen dat twee dingen identiek zijn hebben we ze al onderscheiden. De vraag is dan waarom dit onderscheid? Waar komen die twee onderscheiden kanten vandaan?
Het lijkt mij dat die tot stand komen door er over na te denken. Al denkend en sprekend hebben we een aantal aspecten aan de werkelijkheid onderscheiden en vervolgens vragen we ons af hoe die aspecten gerelateerd zijn. We zoeken dan weer een verband en komen er achter dat de twee niet zonder elkaar kunnen, maar toch niet hetzelfde zijn. De technische mens realiseert in werkelijkheid nieuwe identiteiten van fysische werkelijkheden en denken.
Zo kunnen we die twee luciferhoutjes hier voor mij als een geheel zien of als twee. Maar het is beide, de tweeheid en de eenheid zijn één en dezelfde realiteit. Daarom is één en één ook wiskundig gelijk (=) aan twee. En om dezelfde reden is 5 plus 7 ook gelijk (=) aan 12. Het gaat hier dus duidelijk om een ervaringsgegeven. (En niet, zoals Kant dacht, om een synthetisch apriori, kennis die niet uit de ervaring komt maar daaraan vooraf zou gaan.)
Het fysische proces is als fysisch proces weliswaar iets buiten ons dat we waarnemen en waaraan we metingen kunnen verrichten, maar ook iets waarvan we weten dat het van ons eigen denken komt. We vatten de natuur wetenschappellijk op als geheel van fysische processen. Het zelfde geldt voor het denken, de ‘inner life’, de beleving, dat is wel iets van ons maar toch stellen we het ons al reflecterend, al denkend, voor. Als object van dit denken is het niet het denken zelf maar we ervaren het wel als ons zelf denkend. Er is dus onderscheid en identiteit van het denkend bewustzijn zelf.
Zodra David Chalmers en wij er over na gaan denken hoe het brein bewust-zijn kan zijn ontstaat ‘het moeilijke probleem’.
De echte moeilijkheid zit hem er dus in dat we te maken hebben met een onderscheid dat de probleemsteller maakt tussen twee perspectieven: de ene stelt de identiteit op de voorgrond, de andere het onderscheid tussen twee kanten. En die perspectieven doen hun eigen licht schijnen op het zelfde: de identiteit, ik, die denkt, die bewustzijn is, die ervaart. De werkelijkheid is als (denkende) geest de eenheid van onderscheid en eenheid.
Neurofysici, en fysici in het algemeen, zien vanuit hun perspectief van buiten slechts één kant van de identiteit van de realiteit. Ze maken de hersenpan open en kijken eronder, Ze sluiten meetinstrumenten aan en vinden fluctuaties in EM velden. Ze zullen vanuit dat perspectief nooit zoiets als bewustzijn vinden. Noch zullen ze iets vinden dat ‘wijst op’ zoiets als bewustzijn, of beleving, want dat is heel iets anders. En dat weten ze ook. Daarvan zijn ze immers uitgegaan! Wat ze vinden is wat ze noemen; cellen, neuronen, signaalverwerking, structuren. Maar geen bewustzijn. Omdat ze dat bij voorbaat al hebben uitgesloten. Wat ze wel doen/uitoefenen: dat is bewust zijn, ze interpreteren. Ze beschrijven de dingen die ze waarnemen. Daar zit op dat moment hun (eigen) bewustzijn in! In de verwoording van de ervaring.
Het betekenisprobleem
Ondertussen zitten we al denkend, schrijvend en lezend, in de wereld van de taal. Hebben we daar al niet met een vergelijkbaar ‘moeilijk probleem’ te maken? Zodra we er over nadenken komt de vraag op hoe de woorden zich verhouden tot de betekenissen, de gedachten die ze in de lezer oproepen. Zijn het niet de woorden die onze gedachten in ons brein brengen? Hoe komen de woorden waarin we het probleem beschrijven, en daarmee als het ware bepalen, tot stand? Is dat ‘tot stand komen’, ‘dat onder woorden brengen’ van het probleem niet een onderdeel van het proces zelf waar het lastige probleem naar verwijst als naar een problematisch verschijnsel? Het emergente gedrag van het brein zou immers volgens neurofysici in interaktie met de omgeving tot stand komen! (Buzsáki).
Reductionisme
In het artikel Consciousness in Artificial Intelligence: Insights from the Science of Consciousness dat onlangs in het arXiv preprint repository verscheen (2308.08708) gaan de auteurs uit van de expliciet gestelde ‘werkhypothese’ dat de mens net als de machine een informatieverwerkend systeem is. Het gaat in dit artikel over de vraag of AI bewustzijn heeft of kan hebben. Onder de negentien auteurs zijn neurowetenschappers, cognitiewetenschappers, computerwetenschappers en filosofen.
(Het gaat dus niet over bewust-zijn als wijze van zijn, maar over bewustzijn als een mogelijke eigenschap van een systeem, wat iets kan ‘hebben’. Er is wel een verband tussen gekleurd zijn en een kleur hebben. Maar bij bewust-zijn en bewustzijn hebben ligt dat weer net iets anders. lijkt me.)
De auteurs beweren nu het volgende.
Onder de aanname dat a) mens en machine beide informatieverwerkende systemen zijn en b) dat verschillende neurologisch onderzoeken (deels disjuncte) verzamelingen van functies hebben geïdentificeerd die bij de mens als indicatie van bewustzijnsprocessen beschouwd kunnen worden, kunnen we door middel van een analyse van de inwendige software en hardware-structuur van AI-systemen (‘the workings of AI systems’) voor elk van deze indicatorfuncties testen of deze geimplementeerd zijn. Wanneer dit voor voldoende van deze functies het geval is hebben we derhalve een aanwijzing dat er bewustzijn aanwezig is.
Uit het onderzoek concluderen de auteurs dat geen van de geteste AI systemen bewustzijn heeft. (“This work does not suggest that any existing AI system is a strong candidate for consciousness.”) De auteurs zien echter geen barrières die de verwerkelijking van bewuste AI systemen in de toekomst in de weg zouden kunnen staan. Daarmee blijft bewustzijn van machine een mogelijkheid die in de toekomst gerealiseerd kan worden.
Dit bevestigt ons idee dat wat als ‘werkhypothese’ wordt gepresenteerd een ‘contrafactisch postulaat’ is: een uitgangspunt dat de vraagstelling en de interpretatie van de resultaten stuurt. Het zegt niet iets over de werkelijkheid, maar het is constituerend voor (de verhouding tot) het object van onderzoek. De sociale robot wordt in de praktijk van de interaktie ermee als intelligent en bewustzijn beschouwd: dit constitueert de conversaties met de AI. We vinden dit constitueren terug in de idee dat de omgang met de technologie als een vorm van spelen wordt gezien. Het taalgebruik past bij een ‘form of life’, een als spel opgevatte ‘praktijk’van leven. De terminologie en zienswijze is Wittgensteiniaans.
De auteurs sluiten hun artikel af met een plichtmatige morele waarschuwing. Hun project zou wel eens als resultaat kunnen hebben dat mensen in staat zijn werkelijk machines in de toekomst te maken die ‘echt’ bewustzijn hebben.
“On balance, we believe that research to better understand the mechanisms which might underlie consciousness in AI is beneficial. However, research on this topic runs the risk of building (or enabling others to build) a conscious AI system, which should not be done lightly. Mitigating this kind of risk should be carefully weighed against the value of better understanding consciousness in AI.”
Deze afweging of we wel door moeten gaan met te onderzoeken of de idee van ‘bewuste AI’ mogelijk is wanneer dit onderzoek tot de verwerkelijking van dit idee kan leiden, is kenmerkend voor het contrafactisch postulaat dat constituerend is voor dit project. Wat bedoel ik daarmee?
Het contrafactisch postulaat
Theses zoals “de mens is een informatieverwerkend systeem”, of “AI heeft bewustzijn”, of “de sociale robot is een persoon” (Gunkel 2023) of “de werkelijkheid is kenbaar”, die als ‘werkhypothese’ worden gezien zijn filosofische, contrafactische postulaten. Een contrafactisch postulaat berust niet op een bewezen inzicht, noch is het uitdrukking van een door empirisch onderzoek vastgesteld feit. Het zijn ook geen hypotheses zoals die door empirisch onderzoek weerlegd (gefalsifieerd) kunnen worden door bepaalde feiten.
Een contrafactisch postulaat is een aanname die constitutief is voor een bepaalde verhouding tot de werkelijkheid en die bepaalde aktiviteiten zinvol maken. We gaan er bijvoorbeeld in een gesprek met de ander vanuit dat de ander rationeel is en betrokken bij de zaak waar het omgaat; dat hij een redelijk antwoord zal geven op vragen. We gaan er in een gesprek vanuit dat we met een verantwoordelijk persoon van doen hebben. Zonder die houding, zonder dit postulaat, is er geen gesprek. Wie een dialoog voert met een machine, zoals een sociale robot die kan daarbij uitgaan van het contrafactisch postulaat dat hij met een persoon van doen heeft. Zonder die aanname is er geen dialoog. (zie Theo de Boer, Grondslagen Kritische Psychologie.) Maar het hoeft niet: hij kan ook de houding aannemen van de scepticus die de gesprekspartner op de pijnbank legt en uittest wat de gespreksmogelijkheden ervan zijn. Wie weet dat hij met een machine te maken heeft die zal een dubbele houding hebben.
Het contrafactisch postulaat van de moderne mens constitueert een project waarin de mens een door hemzelf (mathematisch) geconstrueerde ideële werkelijkheid (technisch) wil ‘implementeren’ in de fysische realiteit. De uitdrukking van de autonome, denkende mens zelf in de vorm van de informatie- en communicatietechnologie is het meest aansprekende voorbeeld van zo’n project. Zo’n project is feilbaar, maar leidt tot contemplatie en terughoudendheid ten aanzien van de mogelijkheden van de mens die zich tegenover de natuur, zijn natuur, plaatst. (Fleischhacker, 2001) Technische problemen zijn problemen die door de technologie ontstaan. Ze veronderstellen uiteindelijk een houding waarin de mens afstand schept tot de problematische ‘uitwendige’ werkelijkheid om deze te onderzoeken en aan te passen.
Het contrafactisch postulaat dat constituerend is voor de ‘philosophy of mind’ (Plato, Descartes, Leibniz, Hegel, Frege, Wittgenstein, Russell, Austin, Dennett, Chalmers, Putnam, Nagel, Searle, Visser, om een paar te noemen) is dat de geest één en tevens analyseerbaar is. De overtuiging is dat we die eenheid kunnen bevestigen door te onderzoeken. Dat wil de ‘filosoof van de geest’ die tevens technicus is. Dat is zijn project. Een feilbaar project.
Ten slotte kunnen we, niet zonder enige scepsis, stellen dat de ‘philosophy of mind’ noodzakelijk is om problemen op te lossen die voortgebracht worden door de philosophers of mind, zonder welke er geen problemen op het gebied van de philosophy of mind zouden zijn. De geest creëert een probleem dat deze zelf niet kan oplossen, omdat het geest is.
We hoeven geen keuze te maken tussen monisme (“mind is what the brain does”. Dick Swaab: “Wij zijn ons brein”) en dualisme (“mind is what the brain produces” Dick Swaab: “Zoals de nieren urine produceren, zo produceert ons brein de geest”).
Ze zijn twee kanten van een zelfde werkelijkheid.
Bronnen en noten
Austin, J.L. (1956). Other Minds. In: Philosophical Papers, Third Edition, Edited by Urmson, J.O. and Warnock, G.J., Oxford University Press, 1979.
Austin oppert een interessante verklaring voor het ‘onkritische gebruik’ van het direct object van kennen of weten in constructies van de vorm “knows what”. Hij brengt dit taalgebruik in verband met een bepaalde visie op de werkelijkheid, de visie namelijk alsof sense-data, dingen, kleuren, geluiden en de rest, van nature spreken, of anders gezegd: van nature voorzien zijn van een label, zodat ik letterlijk kan zeggen wat (datgene wat, quod) ik zie. Het lijkt alsof we de dingen herkennen, ze hebben al een naam. Wat het woord toont is wat het woord betekent. Het is alsof de dingen zelf woorden zijn.
“It is as if sensa were literally to ‘announce termselves’ or to ‘identify themselves’, in the way we indicate when we say ‘It presently identified itself as a particularly fine white rhinoceros’. But surely this is only a matter of speaking (…): sensa are dump, and only previous experience enables us to identy them.” (Austin, p. 97)
Theo de Boer (1991). Grondslagen van een Kritische Psychologie. Ambo, 1991.
De postulaten van de dialoog gelden contrafactisch (p. 111), ze zijn constituerend voor de dialoog. Het postulaat van de rationaliteit (: de ander is rationeel en verantwoordelijk voor wat hij zegt, is persoon – Kant) geldt contrafactisch (Habermas). Interessant is de opmerking aan het eind van deel II. Grondslagen dialoog. “Wie een etalagepop groet (of een mens etaleert), begaat een categoriefout. Wat zo iemand doet is absurd en kan niet verbeterd of verholpen worden. Hij zal op zijn schreden moeten terugkeren.” Hoe zit dat met de dialogen die we met een sociale robot voeren? Zijn die ‘absurd’, gebaseerd op een categoriefout?
Butlin, P. et al. (2023) Consciousness in Artificial Intelligence: Insights from the Science of Consciousness Preprint at https://arxiv.org/abs/2308.08708
Buzsáki, György (2006). Rhythms of the Brain. Oxford University Press, 2006.
“It is not always easy to distinguish between ‘internal’ and ‘external’ operators. The brain, the body and the environment form a highly coupled dynamical system. They are mutually embedded” (p. 11, footnote 19).
Wij zijn het die bepalen wat ‘binnen’ en ‘buiten’ is, wat ‘zelf’ is en wat het ‘andere’ is.
“‘Representation’ of external reality is therefore a continual adjustment of the brain’s self-generated patterns by outside influences, a process called ‘experience’ by psychologists. From the above perspective, therefore, the engineering term ‘calibration’ is synonymous with ‘experience’ ” (p. 11)
“How smart is a neuron?” “Smartness” comes from adaptivity of the brain in interaction with the environment, including other brains. (p.11)
Chalmers, D.J. (1997). Facing up to the hard problem of consciousness. In Explaining Consciousness: The Hard Problem, ed.J. Shear (Cambridge: MIT Press), 9–32.
Chalmers, D.J. (1995). Facing up to the problem of consciousness. In: J. Conscious. Stud. 2, 200–219.
Louk Fleischhacker (1994). “De menselijke geest zit eigenlijk helemaal niet in elkaar.” Interview met Eric Oltmans in thema nummer Enschede – een technische blik op computerlinguïstiek. Ta! studentenblad computationele taalkunde, nr 3. jaargang 2, voorjaar 1994.
Louk Fleischhacker (2001). Zelfreflectie van de moderniteit. Lezing tijdens conferentie over Moderniteit bij het afscheid van Pieter Tijmes en Louk Fleischhacker van de Universiteit Twente. Hierin verdedigt Louk de these dat de moderniteit berust op een contrafactisch postulaat. Zie voor een kort verslag van de conferentie van Steven Dorrestijn: Filosofie, jrg. 11, nr. 5 okt/nov. 2001.
Gunkel, David J. (2023). Person, Thing, Robot A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.
Hollak, Jan en Wim Platvoet (red.) (2010). Denken als bestaan: het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin ogenomen.
De opmerking over het intentionele correlaat komt ook voor in Technik und Dialektik, ook in een voetnoot, maar dan in het Duits. De uitleg zoals ik die geef is mede gebaseerd op een mondelinge toelichting die Hollak gaf aan Maarten Coolen, toen we dit artikel bestudeerden in het kader van het colloquium Antropologische interpretaties van de techniek, waaraan ook Theo de Boer deelnam.
Kitchener P.D, Hales C.G. (2022). What Neuroscientists Think, and Don’t Think, About Consciousness. Front Hum Neurosci. 2022 Feb 24;16:767612. doi: 10.3389/fnhum.2022.767612. PMID: 35280212; PMCID: PMC8907974.
“The approach the majority of neuroscientists take to the question of how consciousness is generated, it is probably fair to say, is to ignore it.” (from the abstract)
Twee citaten uit de Conclusion.
“What is proposed here isn’t an ElectroMagnetism Theory of Consciousness but a case for why a ToC should be sought in the EM phenomena of brains. It proposes EM as the answer to the challenge: “Which electrical property provides the most fruitful explanatory basis for understanding consciousness remains an open question”. (p. 8).
“Computational activity, or aspects of that activity, will define the particulars of conscious experience, but the computations are not what generates consciousness: that is a deeper level of the fundamental signaling physics originating in the activity of the membrane. That signaling is entirely and only an EM field phenomenon.” (p. 8)
Hilary Putnam (1964). Robots: Machines or Artificially Created Life? In: The Journal of Philosophy, Vol. 61, No. 21. November, 12, 1964, pp. 668-691.
“What is it for a person to ‘know’ that he has a sensation? Since only philosophers talk in this way, no uniform answer is to be expected.” (p. 673)
Als Putnam zegt dat robots can have sensations’ dan bedoelt hij dat er een model bestaat zodat er een ‘thoroughgoing logical analogy‘ bestaat tussen ‘sensation-talk’ over mensen en over robots.
De betekenis van ‘de robot weet dat p’ is dat de robot in een interne toestand is die dit predikaat realiseert. (p. 674)
Saying that a robot (or an octopus) has a psychology (obeys psychological rules) does not imply that it is necessarily concious”. (p. 677)
Voor Putnam “psychological isomorphism” is “sameness of functional organization”.
De vraag of de robot ‘conscious’ is, leidt volgens Putnam tot de vraag ‘heeft de robot civil rights’? (p. 678)
Gegeven de snelle veranderingen in technologie is het zeer wel mogelijk dat op een gegeven moment er robots zijn die zeggen “wij zijn levend”, “wij hebben bewustzijn!”. Putnam introduceert het analoge idee van ‘ROBOTS, second order robots, robots created and regarded by robots as mere ROBOTS’.
Uiteindelijk komt Putnam tot de conclusie dat het niet te ontdekken valt of een robot bewustzijn heeft. Het is op grond van een beslissing van ons mensen of de robot bewustzijn heeft.
“Until the decision is made, the statement that ROBOTS are “conscious” has no truth value. In the same way, I suggest, the question: Are robots conscious ? calls for a decision, on our part, to treat robots as fellow members of our linguistic community, or not to so treat them. As long as we leave this decision unmade, the statement that robots (of the kind described) are conscious has no truth value.”
“I have concluded from these failures that there is no correct answer to the question: Is Oscar conscious? Robots may indeed have (or lack) properties unknown to physics and undetectable by us; but not the slightest reason has been offered to show that they do, as the ROBOT analogy demonstrates.”
“It is reasonable, then, to conclude that the question that titles this paper calls for a decision and not for a discovery. If we are to make a decision, it seems preferable to me to extend our concept so that robots are conscious -for “discrimination” based on the “softness ” or “hardness” of the body parts of a synthetic “organism” seems as silly as discriminatory treatment of humans on the basis of skin color.”
De robot is door de mens bedacht en gemaakt. Dat geldt niet voor de mens zelf. De robot ‘handelt’, ‘denkt’ en ‘spreekt’ niet uit zichzelf, maar vanzelf, als een natuurproces. Het zelf van de robot denken wij erbij omdat het handelen ons gedrag weerspiegelt. Dat het manipuleren van steentjes of het veranderen van toestand rekenen is, dat is het voor ons. Dat de woorden die de machine spreekt woorden zijn en niet zo maar wat klanken, dat is voor ons. Het feit dat ik me kan vergissen en een robot voor een mens houdt, zoals ik de stem van een antwoordapparaat wel eens voor de stem van een echt mens houdt, neemt niet weg dat er een verschil is tussen de stem van een machine en die van een mens. De stem van de machine is een abstractie van de stem, een geluid, los van de mens die spreekt.
John R. Searle (1983). Intentionality, an essay in the philosophy of mind. Cambridge University Press, 1983.
Searle begrijpt de relaties tussen mind en body, tussen pijn-ervaring en neurofysische processen, tussen de natheid van water en de opbouw van water uit moleculen die niet nat zijn, als beschrijving van hetzelfde fenomeen maar op verschillende niveaus (‘levels of description‘). Deze doen denken aan de ‘levels of abstraction’ van Luciano Floridi. Searle rekt het begrip veroorzaken op zodat we kunnen zeggen dat de fysiologische processen de pijn ‘veroorzaken’.
“(…) but any principes, to give us an account of the brain, will have to recognize the reality of, and explain the causal capacities of, the Intentionality of the brain.” (final page, 272)
Op Youtube staat een Talk at Google (2015) waarin John Searle een lezing geeft over consciousness in artificial intelligence en in discussie gaat met critici.
Albert Visser (2020). Meeting on neutral ground. A reflection on man-machine contests. In: Studia Semiotyczne (Semiotic Studies) t. XXXIV, nr. 1 (2020), pp. 279-294.
