“Het objectiverende verstand verbreekt de fascinatie van de objectiviteit en moet concluderen dat de enige zekerheid is: Cogito sum.” (L. Fleischhacker)
Toen ik laatst een geluidsopname van mij hoorde, meende ik mijn zoon te horen. Je eigen stem klinkt vreemd. Je herkent je eigen stem niet wanneer die van buiten van een opname tot je komt. Ben ik dat? vraag ik. Ja, dat ben jij, kijk maar, zegt mijn vrouw. Ik kijk naar de video. Ik vertrouw haar. Haar woorden spreken de waarheid. Op haar kan ik bouwen.
Deze blog gaat over de vraag: Waar kunnen wij tegenwoordig nog zeker van zijn?
Van ons zelf? Maar wie is dat? In hoeverre maken we zelf uit wie we zijn?
The Capture: over de corrupte waarneming
We kijken ‘s avonds samen naar The Capture, een dramaserie.
In The Capture jaagt de ambitieuze rechercheur Rachel Carey (Holliday Grainger) op de oud-militair Shaun Emery (Callum Turner) die wordt verdacht van aanranding en ontvoering. Het misdrijf is gefilmd door bewakingscamera’s waarop te zien is hoe Emery, na een feestelijke avond in een kroeg zijn advocaat Hannah Roberts (Laura Haddock) aanrandt en meesleurt in zijn auto. De advocaat is daarna spoorloos verdwenen. Wij hebben, als kijkers, al kunnen zien hoe Shaun en Hannah na een innige omhelzing bij de bushalte afscheid van elkaar namen. We zien hoe Hannah in de bus stapt, nagezwaaid door Shaun. Geconfronteerd met de videobeelden van de bewakingscamera’s waarop de aanranding te zien is herkent Shaun zichzelf maar de twijfel slaat toe. Twijfel en woede maken zich van hem meester.
Emery zweert dat iemand hem erin luist en dat hij zijn advocaat geen kwaad heeft gedaan. Rechercheur Carey vindt dat moeilijk te geloven, De videobeelden zijn voor haar overtuigend bewijs. De oud-militair zou, gezien wat hij heeft meegemaakt op zijn missies in Afghanistan, best aan PTSS kunnen lijden waardoor hij zich niets meer herinnert van de aanranding. Maar dan maakt rechercheur Carey zelf iets mee waardoor haar kijk op de zaak dramatische verandert. Hoe betrouwbaar zijn die videobeelden eigenlijk? Wie van haar collega’s kan zij nog vertrouwen? Ze vermoedt een complot.
In de loop van de serie raakt de kijker meegesleurd in een verwarrend netwerk van rechercheurs, spionage, en contra-spionage, waarbij een heel team van regisseurs en video-technici blijkt te zijn ingezet om bijna real-time camerabeelden te manipuleren. Je weet niet goed wie nu bij de Goeden hoort en wie bij de Slechten. Als naïeve toeschouwers waren we aan deze indeling gewend. Maar is het leven nog wel zo simpel?
Wat in de tijd dat de film gemaakt werd (2019) nog grotendeels fantasie was, is tegenwoordig (2023) realiteit waar we bijna dagelijks mee worden geconfronteerd: gemanipuleerde camerabeelden, audio-opnames, door machines gegenereerde teksten en remixed videos. De werkelijkheid is niet meer wat het was. Via de media maken we kennis met niet meer van echt te onderscheiden, met behulp van Artificial Intelligence geconstrueerde, nepwerkelijkheden. Wat is nog echt en wat is fake? De rotsvaste bodem van de ware werkelijkheid waarin we geloofden is ons door de media en de technologie onder de voeten weggehaald. Het resultaat van de toepassing van de ooit zo onbetwijfelbare mathematische waarheden. Waar vindt ons denken nog houvast nu LLMs en ChatGPT teksten genereren die niet van originele door mensen geschreven teksten te onderscheiden zijn? Wie zitten er eigenlijk achter de berichten die we via de media tot ons nemen? Welke machten bepalen welke beelden wij voor de werkelijkheid krijgen voorgeschoteld?
We vertrouwden op de zekerheden van de mathematische wetenschap. De werkende techniek zagen we als bewijs dat die wetenschap de ware wetten van de natuur onthulde. Maar die techniek blijkt de waarheid net zo goed te kunnen verhullen. Omdat het een constructie van de mens blijkt te zijn. Waar kunnen we dan nog zeker van zijn? Wie garandeert nog de waarheid die we in de technologie meenden te vinden? De overheid? Maar, is die ook niet corrupt?
De Autonome Mens
“Der Staat ist die Wirklichkeit der sittlichen Idee” (G.W.F, Hegel, Grundlinien der Philosophie des Rechts, $ 257 Der Staat)
Velen ontberen de onmiddellijke zekerheden van het leven in hun eigen familiekring en cultuur. Ze zijn – al dan niet door omstandigheden buiten hun wil – op drift geraakt en op zoek naar nieuwe zekerheden en waarheden. Sommigen zoeken een nieuw bestaan in een ander land. Ze hopen dat daar de Staat als bewaker van wetten en regels hun een vaste bestaansbodem biedt. Een Staat waarop ze kunnen vertrouwen. Anderen keren zich teleurgesteld door het leven tegen iedere Staat, tegen ieder gezag. Ze vluchten als moderne mensen in hun eigen autonome denken weg van de instituten, los van de Staat met zijn wetten en regels. Hun geest is gevangen geraakt in de kleine cirkel van hun eigen autonome solipsistische ik.
‘Autonome’ burgers erkennen het gezag van de overheid niet’. Haro Kraak schreef er een artikel over in de Volkskrant. “Spoelt u uw wc door, mevrouw?” vroeg de deurwaarder van het gemeentelijk incassobureau, de GBTwente, toen de autonoom die weigerde waterschapsbelasting te betalen de deur voor hem opende. Maar deze autonome denkers is iedere redelijkheid vreemd. Liever nog zouden ze niet meer eten en niet meer naar de wc gaan dan dat ze erkennen niet alleen op de wereld te zijn en afhankelijk van anderen. Maar is de autonome denker wel zo autonoom als hij of zij denkt te zijn?
David Chalmer’s Zuivere Denker
In zijn APA 2023 voordracht getiteld Can Large Language Models Think? voert de philosopher of mind David Chalmers de figuur op van ‘De Zuivere Denker‘ (‘pure thinker’).
De Zuivere Denker is een (mogelijk niet menselijke) denker zonder zintuigen. Zintuiglijke waarneming is de Zuivere Denker dus vreemd, waardoor het van elk contact met de werkelijkheid buiten het denken zelf verstoken is. Althans voor zover we dat ons als mens kunnen voorstellen. Enige notie van ‘buiten’ in onderscheid van ‘binnen’ is de Zuivere Denker vreemd. Toch is Chalmers van mening dat de Zuivere Denker werkelijk bestaat.
In een recent essay in de Boston Review komt hij op de kwestie of de Zuivere Denker bestaat terug in verband met de vraag of LLMs bewustzijn hebben. Deze vraag wordt daar onmiddellijk vervangen door, cq. gekoppeld aan de vraag of in de toekomst LLM+-s bewustzijn zullen hebben. Dit is om duidelijk te maken dat het hem niet zozeer om de feitelijke actuele toestand van de techniek gaat, maar om de mogelijkheden die de technologie te bieden heeft. Daarmee zijn we in het fantasierijk van het autonome denken van de technologie, het denken dat onder andere zichzelf denkt, terechtgekomen.
Merk op dat Chalmers bewustzijn als een eigenschap van een zijnde en niet als zijnswijze ziet. Of een entiteit bewustzijn ‘heeft’ kan volgens Chalmers door experimenteel onderzoek worden bepaald. Verder maakt Chalmers onderscheid tussen cognitief bewustzijn en denken. Een onderscheid dat hij verder niet toelicht. Kennen zonder denken lijkt me ondenkbaar en omdat het denken gericht is op het kennen lijkt me dat beide in de werkelijkheid nooit zonder elkaar voor kunnen komen. Misschien wel in Chalmers denken, maar hoe werkelijk is dat denken dan?
Waarover kan een denker zonder sensoren, zonder enig contact met de buitenwereld, denken? Chalmers: over logica, over wiskunde, en over het denken zelf. De gedachte dat het wiskundig denken niet over de waarneembare werkelijkheid zou gaan is echter lastig te rijmen met het bestaan van machines en al helemaal niet met het bestaan van rekenmachines en kunstmatige intelligentie. Hoe is het immers denkbaar dat de wiskunde op alle gebieden van de werkelijkheid toepasbaar is, als het Zuivere Denken in staat is wiskunde te beoefenen zonder enige band met de zintuiglijke werkelijkheid? Zonder een samenhang van de mathematische objecten met de waarneembare wereld zou de wiskunde toch niet toepasbaar zijn.
Is de filosofie dan al die tijd, vier eeuwen na het ‘cogito sum’ (het ik denk dus ik ben) en de mathematische metafysica van Descartes, niets opgeschoten?
Is het niet zo dat door de act van de zelf-reflectie het denken niet alleen tot inzicht in zichzelf komt, maar dat deze act tevens aantoont dat het zelf-reflecterende Cartesiaanse subject zich onderscheidt van zijn externe wereld? Het mathematisch denken houdt de aan de werkelijkheid ontleende tekenstructuren die betekenisvolle aspecten van de waarneembare werkelijheid representeren voor zelf-genoegzame structuren, opgevat als quasi-substanties, om hun ideale structuren te begrijpen. Zonder de ingenieuze act van het construeren is er geen wiskunde, noch technologie. Zonder waarneembare tekens die als ‘rigid identifiers’ (Kripke) de wiskundige objecten identificeren is wiskundig redeneren niet mogelijk. Juist door het identificeren door middel van een teken krijgen de mathematische constructies hun quasi-object karakter.
Chalmer’s Zuivere Denker is een gedachte-experiment. In zo’n experiment wordt geabstraheerd van aspecten die in werkelijkheid niet eenvoudig te elimineren zijn. Galileï voerde gedachte-experimenten uit waarin hij abstraheerde van de weerstand die de lucht uitoefent op een vallende steen om zo de invloed van de zwaartekracht op de valsnelheid te bepalen en in een wiskundige formule uit te drukken. Wil Chalmers zijn gedachte-experiment omzetten in een echt experiment dan moet hij condities realiseren waarin de invloed van het aspect waarvan in het gedachte-experiment geabstraheerd is (hier de lichamelijkheid van de denker) verwaarloosbaar is. Het hangt volgens zijn filosofie immers van de empirische gegevens af of we kunnen concluderen of de zuivere denker in staat is te denken. Maar om waarneembaar te zijn moet het denken lichamelijk zijn. Hoe kan het verband tussen het zuivere denken en het denken in de realiteit getoetst worden als denken in de realiteit om waarneembaar en meetbaar te zijn (de eis die de empirische wetenschappelijke methode aan het echte experiment oplegt) lichamelijk moet zijn? Een dergelijk experiment is onmogelijk.
Ik denk, dus ik ben
“Scepsis en twijfel zijn de vertrekpunten van de moderne metafysica”, schrijft Gert-Jan van der Heiden in zijn Metafysica – van orde naar ontvankelijkheid. Met Descartes keert de filosoof de blik naar binnen, naar het subject. En vindt daar het denkende ik zelf. De moderne filosofie probeert het autonome subject, wars van iedere vorm van autoriteit: van traditie, Kerk en Staat, van rites en gewoontes door gender en genen opgelegd, nieuwe grond onder de voeten te geven. De wiskunde geldt sindsdien voor velen als de wetenschap die onze kennis zekerheid moet bieden. Maar de natuur noch de wiskunde zelf bleek in de loop van de 19de eeuw het fundament te kunnen bieden voor haar waarheden. Pogingen de wiskunde zichzelf te laten funderen en haar waarheden uit het zuivere denken te produceren zijn op paradoxen (Russell, Gödel) uitgelopen. Het ‘bijprodukt’ van deze meta-mathematische exercities die van het denken rekenen maakt en van de woorden van onze taal formele (statistische) gegevens is de ‘denkende machine’. In deze machine ziet de moderne autonome mens zichzelf voor zich, als denkende machine, een slechts uitwendige objectivatie van zijn denken en taalgebruik. Ik spreek hier van ‘bijprodukt’ in de zelfde zin als het uurwerk het onbedoelde ‘bijprodukt’ was van de bouw van de mathematisch/kosmologische modellen die de regelmatige bewegingen van de planeten nabootsen. Het mobieltje is in de plaats gekomen van het horloge. (Met dank aan de historicus Douwe Draaisma die ons wees op het horloge als bijprodukt van het kosmologisch model.)
De uitwendige objectivatie van de mens als bewustzijn onderkennen is de uitdrukking van het feit dat het hier gaat om slechts een uitwendige (fysische) objectivatie, dat wil zeggen dat deze als zelfstandig zijnde slechts in de afhankelijkheid van deze relatie tot de mens kan worden begrepen. Zonder de relatie tot de mens is de (intelligente) machine geen machine. Het lijkt inderdaad een tegenstrijdigheid dat iets door een relatie (mens-machine) bepaald is en niettemin een zelfstandigheid heeft. Ook het teken heeft als teken een eigen zelfstandigheid (het is een waarneembaar object) maar is voor zijn waarde volledig afhankelijk van de betekenis die het heeft voor een subject voor wie het teken een teken is. De programmeerbare (rekenende) machine is een werkend teken.
De God van Descartes die het denken van de wiskunde een zekere basis moest geven hebben we inmiddels dood verklaard. De techniek is haar lijk. De werkloze theologen en de filosofen van de geest proberen het lijk nog nieuw leven (bewustzijn) in te blazen. Zonder succes. De strijd om de verantwoordelijkheid is begonnen. Laten we de robot toe tot onze ‘morele cirkel’, zoals de dieren, de zeeën en rivieren?
Wat zal de toekomst de filosofen van de geest brengen?
Wie of wat zal de autonome mens (“ik ben geen persoon, ik ben een mens”) nog weer een plek op aarde schenken waar hij weer als verantwoordelijk persoon deelneemt aan de strijd voor zijn eigen (of onze) waarheid?
Als de machine bewustzijn had dan zou deze net als de oud-militair Shaun Emery uit The Capture vechten voor zijn eigen waarheid. Een strijd op leven en dood.
Wat niet is kan ook niet komen.
