De braam, de wolf en de jood

 “Lupus est homo homini” (Plautus, 200 v. Chr.)

Dit stuk bevat scenes van verontrustend grensoverschrijdende aard. Ouderlijk toezicht en volwassen inzicht wordt aanbevolen.

Bert was op bezoek en het gesprek leidde ons op een gegeven moment naar de braam. Of hij ook meer last had van bramen op zijn erf dan pakweg 25 jaar geleden, vroeg ik. (Hij moest van het waterschap een slootje onderhouden, maar kon daar moeilijk bij vanwege de overdadige groei van bramen aan de kant van de buren). Nou dat weet ik niet, was zijn antwoord, maar ik zie wel steeds vaker een variant die ik vroeger niet zag. Het blad is wit aan de onderkant en de stekels zijn ook anders. “Het is een exoot”, zei hij met de stelligheid van de kenner. Wat hem opviel is dat er steeds vaker bramen in de bossen voorkomen. En dat komt door de stikstof? opperde ik. Ja zeker, dat is stikstof. Die braam hoort niet in de bossen. De door Bert bedoelde ‘exoot’ is vermoedelijk de koebraam (rubis ulmifolius Schott, iepbladig). Kenmerk: bladsteel met 5-15 kromme stekels; onderzijde bladeren wit tot zilvergrijs. (zie rubus-nederland.nl). Maar waarom “een exoot”?

Een organisme wordt als exoot (‘uitheems’, niet ‘inheems’) beschouwd in een bepaald gebied wanneer deze zich in dat gebied gevestigd heeft en voor een bepaald jaar ergens in het verleden niet in dit gebied voorkwam. Voor planten wordt de grens tussen ‘inheems’en ‘uitheems’ gelegd in het jaar 1825. Ik heb niet kunnen vinden waarom 1825. We moeten dus in het verleden duiken om te bepalen of een plant een exoot is. Sommige mensen hechten daar een waardeoordeel aan.

Dat Bert de koebraam ‘exoot’ noemt komt vermoed ik vanwege het feit dat deze braamsoort nieuw is in het midden van het land. De herkomst lijkt het Middellandse Zeegebied te zijn. Verspreiding: “West- en Zuid-Europa, noordelijk in Nederland tot aan de Rijn”.

Wolvenwappie

“Maar iets anders, hebben jullie hier al wolven?” vraagt onze ecoloog. Marion meent zeker te weten er één gezien te hebben. Ergens in een weiland in de buurt. “Was het geen herdershond?” Niemand heeft hier in de buurt een herdershond. Bert vindt het wel mooi dat de wolf weer terug is in Nederland. “Maar die arme schapenboeren dan?”, vraag ik. Die moeten maar afrasteringen maken. We moeten leren leven met de wolf, vindt hij. Dat beest hoort hier thuis. Nou, Tiny van de spingroep van Marion vertelde dat de wolf in Nederland was uitgezet. Mensen hadden gezien hoe ze in een VW-busje ‘van achter de paal’ de grens over waren gekomen en uitgezet. “Geloof ie dat echt?” had Marion gevraagd. Ja hoor. Marion: “Ie bent een Wolvenwappie!”

De wolf is vermoedelijk zelf aan komen lopen en niet met een VW-bus uitgezet zoals de immigranten, arbeiders uit Polen, Roemenie en Bulgarije, die bij ons de glasvezel aangelegd hebben voor miljardair Wessels uit Rijssen. Wat bezielt de wolf om naar Nederland terug te keren? Wat trekt hem aan? Of is hij ergens voor gevlucht? Denkt de wolf het hier beter te hebben dan in Duitsland of Polen?

De Wageningen Environmental Research Group heeft in samenwerking met o.a. Het Institutuut Natuur en Bosonderzoek op verzoek van de Nederlandse regering een ‘factfinding study‘ naar de wolf in Nederland gedaan. (Jansman et al. 2021). Volgens het rapport is een exoot “een soort die middels menselijk handelen in een gebied voorkomt dat niet tot zijn natuurlijke verspreidingsgebied behoort.” Wat de auteurs onder menselijk handelen verstaan is niet duidelijk (Het vervoeren in VW-busjes neem ik aan wel, maar valt het houden van schapen, die het leven in een gebied aantrekkelijk maken voor de wolf, daar ook onder?) Op de vraag wat ‘natuurlijk’ is gaan de auteurs, wijselijk, voorbij. Maar kun je daar echt om heen? In de discussies in de media slaan voor- en tegenstanders van de wolf elkaar met het predikaat ‘natuurlijk’ om de oren. Volgens de Wageningse geleerden is de wolf geen exoot in Nederland. Hij is zelf aan komen lopen.

De wolf zoekt een territorium, een gebied waar het dier zich in een kleine populaties kan vestigen. Wáár de wolf zijn heil zoekt, dat is van vele factoren afhankelijk. In de woorden van de wetenschapper: “De populatiedynamiek is complex en van vele factoren afhankelijk.” Denk aan: de grootte van rustgebieden, beschikbaarheid van voedsel, aanwezigheid van vijanden en de populatiegrootte in een bepaald gebied. Ook speelt klimaat een rol. Ik ga dat hier niet allemaal uitspitten. In het kader van dit stukje is echter de volgende omschrijving van het begrip ‘territorialiteit’ interessant.

Territorialiteit is een specifieke vorm van agressie die bepaald wordt door de relatie van het dier met een bepaalde plaats.” (p. 29).

Dat brengt me bij een bijzondere diersoort: de mens, en zijn strijd om ‘Het Beloofde Land’.

De exodus

Wolven geloven niet in Goden. Volgens Thomas Hobbes is de mens voor zichzelf een God en voor de ander een wolf. De mens is een individualistisch familie- en kuddedier. Het meest onderscheidend kenmerk van de diersoort mens is dat het een taal heeft, verhalen maakt, schrijft en leest. De mens geeft zichzelf niet alleen door aan zijn nageslacht via de genen maar vooral via zijn technologie en zijn verhalen. Het dier mens beroept zich op historische rechten. Het samenleven in grotere leefgemeenschappen vindt gestalte in de vorm van naties. Territoria en omgangsregels tussen volken en naties worden vastgelegd in contracten, verdragen, wetten, afspraken, conventies, handvesten en declaraties.

“De populatiedynamiek is complex en van vele factoren afhankelijk.” Dit geldt niet alleen voor de braam en de wolf, het geldt in hoge mate voor de mens. Neem de ‘populatiedynamiek’ van de jood, wiens territorialiteit meer dan voor enig andere diersoort bepaald wordt door de relatie van deze soort met een bepaalde plaats. “Het verlangen naar een thuisland heeft de eeuwen door in Joden geleefd.” (Van Agt 2009).

Voor het joodse geslacht heeft dit verlangen religieuze trekken aangenomen toen volgens het Bijbelverhaal God de stamvader, de Ur Abraham, een land in het vooruitzicht stelde waar zijn volk rust kon vinden en van waaruit het zich kon voortplanten over de hele aarde. Jakob, nazaat van Abraham, kreeg de naam Israël wat betekent ‘Hij die met God gestreden heeft’ of ‘God heerst‘. De belofte werd geconcretiseerd tot de idee van Het Beloofde Land, een metafoor, een ‘land van melk en honing’. Een niet bestaand land.

Een voorname factor die de ‘dynamiek’ van de joden in Europa bepaalde waren de religieuze wetten die golden in de streek waar ze zich hadden gevestigd. Zo mochten in West-Europa christenen volgens hun religie geen rente heffen op geldleningen. De joodse wetten stonden dit wel toe, en daar maakten de joden dankbaar gebruik van, waardoor ze vaak tot de meest welgestelde burgers behoorden. De oermenselijke neiging van de mens te begeren wat de ander begeert leidde tot roof en moord. De jood werd verbannen en moest op de vlucht naar veiliger oorden. Had de jood geen andere keus? Kon hij geen afstand doen van zijn geloof? Dat zou betekenen dat hij afstand zou doen van zijn volk, zijn familie, van zijn historische banden met Gods volk. Natuurlijk waren er joden die dat deden. Vaak uit economische overwegingen zoals de ouders van de fysicus Hertz, of om morele, intellectuele, redenen, zoals Otto Weiniger. Hitler trok zich weinig aan van dergelijke motieven. Voor hem gold: eens een jood, altijd een jood en die horen hier niet. (zie Bronnen en noten.)

In de 19de eeuw werd het beloofde land door de joodse journalist Theodor Herzl (1860-1904) geconcretiseerd in de idee van Der Judenstaat, “Versuch einer modernen Lösung der Judenfrage” (1896). De zionistische joden kozen in meerderheid voor Palestina. Daar zouden de joden van de hele wereld hun thuisland vinden. Volgens Herzl, de oprichter van het zionisme, zouden de joden in Palestina een einde maken aan de daar heersende ‘barbarij’, de arabieren zouden voor de joden kunnen werken op het land. (Zie ook de referenties op de uitgebreide Wikipedia pagina, item: Theodor Herzl.)

Volgens de ex-premier van Nederland A.A. van Agt heeft de Britse regering een zeer dubieuze rol gespeeld als het gaat om de verdeling van rechten in Palestina. Terwijl ze een mandaat had over Palestina werd in 1917 door London de Balfour-verklaring uitgegeven waarin de Britten de joden beloofden zich te beijveren voor een nationaal tehuis voor het Joodse volk.

De letterlijke tekst van de Balfour declaractie is:

“His Majesty’s Government view with favour the establishment in Palestine of a national home for the Jewish people, and will use their best endeavors to facilitate the achievement of this object, it being clearly understood that nothing shall be done which may prejudice that civil and religious rights of existing non-Jewish communities in Palestine, or the rights and political status enjoyed by Jews in any other country.”

De rechten van de Palestijnse inwoners zouden worden gerespecteerd. Wat is het probleem dat van Agt met de Britse opstelling had?

In 2017, 100 jaar na de Balfour declaratie, schreef Judea Pearl (professor Computer Science and Statistics van UCLA Californië en voorzitter van de Daniel Pearl Foundation, genoemd naar zijn zoon die vermoord werd door Al Qaida tijdens zijn werk als journalist in Afghanistan) een artikel in het Jewish Journal waarin hij met instemming Balfour citeert die in de introductie van Nachum Sokolow’s boek, “History of Zionism, 1600-1919″, een boek dat twee jaar na de declaratie verscheen, schrijft:

“De positie van de Joden is uniek. Voor hen zijn ras, religie en land met elkaar verbonden, zoals ze bij geen enkel ander ras, geen andere religie en geen ander land op aarde met elkaar verbonden zijn. … Bij geen enkele andere religie is de ontwikkeling ervan in het verleden zo nauw verbonden met de lange politieke geschiedenis van een klein territorium ingeklemd tussen staten die veel machtiger zijn dan het ooit zou kunnen zijn; bij geen enkele andere religie zijn haar aspiraties en hoop, uitgedrukt in taal en beelden, voor hun betekenis zo volkomen afhankelijk van de overtuiging dat alleen vanuit dit ene land, alleen door deze ene geschiedenis, alleen door dit ene volk, volledige religieuze kennis mogelijk is. verspreid over de hele wereld.”

Balfour wijst hier op de bijzondere status van het volk van Israël. Volgens Pearl begreep Balfour beter dan wie ook de essentie van het Joodse volk, beter dan die historici voor wie “Zionism is a 19th century invention that started with Theodor Herzl in 1896 and ended with the Six-Day War of 1967.”

Volgens Pearl kan het Palestijnse volk geen rechten op een inheemse status in Palestina claimen op louter genetische en geografische gronden. Hij stelt …

“… dat de diepste indruk van de Balfour verklaring op het bewustzijn van de wereld het universele begrip is geweest dat de essentie van indigineiteit cultureel en intellectueel is, en niet genetisch of geografisch.”

Kortom wat Judea Pearl hiermee bevestigt is de idee van de unieke historische positie van het Joodse volk. Aan de combinatie van ras, religie, en de historische, religieuze relatie tot het beloofde land ontlenen de joden hun identiteit en bijzondere rechten in ‘Eretz Israël’.

Ik verwijs verder voor de historische details naar het goed gedocumenteerde werk van de ex-premier van Nederland A.A. van Agt Een schreeuw om recht (Van Agt 2009) en naar het Clingendaal rapport (van Veen & Batrawi 2018)

In 1948 werd de staat Israël uitgeroepen. Sinds 1967 houdt Israël de Westelijke Jordaanoever en de Golanhoogten bezet en deels onder zijn bestuur.

“Sinds Ben Goerion hebben successievelijke Israëlische regeringen zich op het standpunt gesteld dat gedwongen en massale verplaatsing van de Palestijnse bevolking moreel aanvaardbaar en existentieel noodzakelijk is. De ‘New Israeli Historians’, zoals Benny Morris en Ilan Pappé, hebben dit overtuigend aan het licht gebracht.” (Van Veen & Batrawi 2018, voetnoot 10, p.2)

De Israëlische regeringen, waaronder die van de huidige prime minister Netanyahu hebben zich nooit iets gelegen laten liggen aan internationale verdragen en humanitaire afspraken. Zo weigerde Netanyahu de Oslo-akkoorden uit te voeren.

Rabin, Clinton en Arafat, tijdens ondertekening Oslo-akkoord 13 september 1993 (bron: Wikipedia, Door Vince Musi / The White House – gpo.gov )

Volgens de VN en de juridische ‘communis opinio’ bezet Israël de Gazastreek en de Palestijnse gebieden in de Westoever. Maar Israël, de bullebak van het Midden-Oosten, komt er mee weg, omdat zowel de VS als Egypte en de landen van de EU inclusief Nederland, hun kop in het zand steken. De onderdrukking van de Palestijnse bevolking wordt oogluikend toegelaten. ‘De schreeuw om recht’ en de brief J’accuse van Van Agt aan de Nederlandse regering en het parlement, waarin hij opkomt voor de rechten van het Palestijnse volk, heeft geen invloed gehad op de stellingname van de Nederlandse regeringen. Ook de huidige regering olv de VVD-er Rutte staat nog steeds vierkant achter Israël. Niet alleen wijst ze op het recht van Israël zich te verdedigen, dat behoeft immers niet gezegd te worden. Het verklaart stilzwijgend de Israëlische politiek, inhoudende het isoleren en treiteren van de Palestijnse bevolking door Israël, te steunen.

“Israël claimt dat de Geneefse Conventies (over humanitair recht in tijden van een gewapend conflict) niet van toepassing zijn op de Westelijke Jordaanoever en Gaza. Als gevolg hiervan zou er geen sprake zijn van militaire bezetting. Israël baseert zijn argumentatie grotendeels op de stelling dat er geen ‘soeverein’ over deze gebieden heerste toen Israël ze veroverde (de Blum-Shamgar thesis). De internationale juridische ‘communis opinio’ verwerpt deze lezing van de Geneefse Conventies echter omdat Israël ten tijde van verovering in ieder geval niet de soevereiniteit over deze gebieden genoot, en omdat ze gewapenderhand werden ingenomen. Zie: Meron, T., ‘The West Bank and international humanitarian law on the eve of the fiftieth anniversary of the six-day war’, The American Journal of International Law, Online: doi: 10.1017/ajil.2017.10, 2017. ” (Van Veen & Batrawi 2018, p. 3).

Ook hier zien we weer dat het de bijzondere ‘unieke’ historische status van het joodse volk en de ‘barbaarse, ongeorganiseerde’, status van de Palestijnse bevolking is waaraan de regering van Israel haar rechten op het land meent te ontlenen.

Waarom is een Fries geen Jood? Waarom is Friesland geen Israël, met Noord-Holland als Westbank en Schiermonnikoog als Gaza? Waarom hebben de Friezen, die zich in de loop der eeuwen overal over de wereld verspreid hebben, geen ‘synagoges’? Het antwoord is even simpel als complex: omdat de Fries niet in één God geloofd, zoals de Islamiet, de Christen, de Jood. De Fries worstelt niet met een God, die hem volgens de overgeleverde verhalen een heitelân Fryslân, en een wetboek: de Koran, de Tora, de Bijbel heeft gegeven, een heilige stem die hem voorschrijft wie er wel en wie er niet mag zijn.

Zijn er nog mensen op deze aarde die niet getraumatiseerd zijn door de indirecte gevolgen van hun geloof? Vele getraumatiseerden zijn in naam van hun God door hun regeringen misbruikt als kanonnenvoer om te strijden voor de eer van hun land, of ze zijn door hun aristocratische leiders gegijzeld geworden. Hun leed en pijn wordt beschouwd als noodzakelijke ‘collateral damage’. Ze zijn de offers in de strijd om de macht. Soms neemt de getraumatiseerde als een ‘lonely wolf’ de wapens ter hand om verblind door woede en wraak wild om zich heen te schieten. Hij (of zij) heeft niet kunnen wachten op de Verlossing van het Beloofde Land.

De geschiedenis van het Joodse volk samengebald in de geschiedenis van de staat Israël (‘die worstelt met God’) is een tragedie van ongekende omvang. Schopenhauer zag in de tragedie: ‘De macht van het toeval en de dwaling, de ondergang van de rechtvaardigen en de triomf van de kwaadwilligen.’ (citaat uit: Marek van der Jagt, Otto Weininger, of bestaat de jood?)

(23 oktober 2023)

De strijd tussen Israël en de Palestijnen is voor de zoveelste keer geëscaleerd nadat de terreur-organisatie Hamas vele honderden burgers heeft vermoord en gegijzeld en vanuit Gaza doelen in steden heeft beschoten. De regering van Netanyahu neemt met ongekend geweld tegen de inwonders van Gaza wraak op de Palestijnse bevolking. De recente uitbarsting van Hamas is één in een reeks van opstanden van de onderdrukte volkeren tegen de ondemocratische religieuze leiders van de Arabische staten én van Israël.

De braam, de wolf en de jood. Drie verschillende wijzen waarop het leven uitdrukking geeft aan de territorialiteit, die specifieke vorm van agressie die bepaald wordt door de relatie van het leven tot een bepaalde plaats. De geschiedenis zoals die verhaald wordt en beleefd neemt in de ontwikkeling van de levensvormen een steeds voornamere plaats in. Bij de overgang van dier naar mens is het aanvaarden van de historiciteit een bepalende factor voor de toekomst van het leven in een wereldgemeenschap waarin verschillende culturen met onderling respect voor hun waarden samenleven. Daartoe zal de mens het verleden als verleden moeten aanvaarden en niet als een te herhalen vroeger, waaraan het absolute rechten ontleent. Voor de joodse mensen in het bijzonder lijkt dit door het verabsoluteerde, religieuze ‘unieke’ karakter van de historische band met het land Israël een moeilijke opdracht te zijn.

Tot slot: de functie van de religie

In een commentaar vroeg Marion of die religie niet gebruikt wordt door “de relies”, zoals alles tegenwoordig functioneel wordt gezien. Is religie nuttig, functioneel? Geloven ze echt of voeren ze het op omdat ze dat te pas komt? Misschien is dat wel het wezen van de religie, een historische constructie die functioneert in naam van de machthebbers die hun macht ontlenen aan een “niet bestane” Hogere Macht. Maar waarom willen ze die macht? Macht omwille van het behoud van de macht. Wie zei dat ook alweer?

Bronnen en noten

Dries van Agt (2009). Een schreeuw om recht – de tragedie van het Palestijnse volk. Derde druk 2009, De Bezige Bij, Amsterdam.

Erwin van Veen & Samar Batrawi (2018). Wie wind zaait zal storm oogsten: bezetting en de staat Israël. RCRU Policy Brief. Netherlands Institute of International Relations, december 2018.

Marek van der Jagt (pseudoniem van Arnon Grunberg) (2005). Otto Weininger of Bestaat de jood? Stichting Maand van de Filosofie, 2005.

Jansman, H. A. H., Mergeay, J., van der Grift, E. A., de Groot, G. A., Lammertsma, D. R., Van Den Berge, K., Ottburg, F. G. W. A., Gouwy, J., Schuiling, R., Van der Veken, T., & Nowak, C. (2021). De wolf terug in Nederland: Een factfinding study. (Rapport / Wageningen Environmental Research; No. 3107). Wageningen Environmental Research. https://doi.org/10.18174/553564

Otto Weininger (1903/1920). Geschlecht und Charakter – eine prinzipelle Untersuchung. 19de druk, Wien/Leipzig, 1920.

“Dieses Buch unternimmt es, das Verhältnis der Geschlechter in ein neues, entscheidendes Licht zu rücken.” (voorwoord, eerste druk).

Een anti-semitisch en anti-feministisch boek, dat als proefschrift werd ingediend. Freud vond het maar niks.

Otto Weininger (1984). Geslacht en karakter: een principieel onderzoek, (Vert. Tineke Davids) Amsterdam, De Arbeiderspers, 1984.

De Weense jongeling Otto Weininger bekeerde zich tot het protestantisme. Hitler had zoveel bewondering voor Weiningers joodse rassen-theorie dat het verhaal gaat dat hij hem als de enige goede jood beschouwde. Weininger pleegde echter in 1903 op 23-jarige leeftijd zelfmoord. Het is niet bekend of deze daad het oordeel van Hitler heeft beïnvloed. Otto’s vader zou een anti-semitische jood zijn. Weininger pleegde zelfmoord.

Zelfmoord was overigens in de mode in het Wenen van het eind van de 19de en het begin van de nieuwe 20ste eeuw. Volgens Grunberg was Weininger verstrikt geraakt in het onderscheid tussen het creëren van kunst en het creëren van een persoonlijke identiteit.

Geniaal is een mens te noemen, wanneer hij in een bewust verband met heel de wereld leeft. Pas het geniale is dus eigenlijk het goddelijke in de mens“. (Otto Weininger)

Voor veel meer over het enfant terrible Otto Weininger en zijn invloed op Wittgenstein zie mijn blog Henide – de oorspronkelijk eenheid van het mannelijk en het vrouwelijke.

Heinrich Hertz en Adolf Hitler

In 2007 herdacht Duitsland het 150ste geboortejaar van de fysicus Heinrich Hertz. De natuurkundige eenheid voor het aantal trillingen per seconde is naar hem genoemd. Verschillende media besteedden er aandacht aan. Ook de Duitse ZDF. Op de internetsite van deze televisieomroep stond te lezen:

“Da Heinrich Hertz Jude war, wurde sein Name in der Nazizeit getilgt.”

Deze bewering is slechts deels waar. Wanneer gesteld wordt: “Omdat Heinrich Hertz joods was, werd zijn naam tijdens het nazi-tijdperk verwijderd.” dan verwijst de term “joods” hierin naar het ‘joodse ras’ en niet naar de religie. De wetten van de Nazis classificeerden de mensen naar hun ras.

De bewering dat Hertz jood was klopt niet. Heinrich Hertz beschouwde zich niet als joods. De vader van Heinrich was op zevenjarige leeftijd samen met verschillende familieleden al in 1838 protestants geworden. Zelfs gegoede burgers, zoals de familie Hertz, hadden als ze jood waren, minder burgerrechten dan protestanten. Heinrich zelf trouwde met een protestants meisje. De familie Hertz had het joodse geloof achter zich gelaten. Toch werd de naam Heinrich Hertz in de nazi-tijd verbannen. Straten en instellingen die naar hem waren vernoemd kregen een nieuwe naam. Men overwoog zelfs de natuurkundige eenheid Hz voortaan te lezen als Helmholtz in plaats van Hertz.

Hitler wilde het joodse ras uitroeien en daarmee trof hij niet alleen de religieuze jood.

Wolff, Stefan (2008). Juden wider Willen – wie es den Nachkommen des Physikers Heinrich Herz im NS-Wissenschafsbetrieb erging. In: Jüdische Allgemeine, 04-01-2008.

Over David Chalmers ‘hard problem’ en de eenheid van de geest

“De menselijke geest zit niet in elkaar” (Louk Fleischhacker)

Inleiding over zijn, er-zijn en bewust-zijn

“Ik ben er!” zegt vader als hij de kamer binnenkomt. “Ja, dat zien we zo wel!” is moeders reaktie.

Dat je er bent, dat hoef je niet meer te zeggen. En dat je er niet bent, dat kún je helemaal niet zeggen. Dat wil zeggen: je kunt niet zeggen en ook nog eens serieus bedoelen wat je zegt wanneer je zegt: “ik ben er niet”. Want om te zeggen dat je er niet bent moet je er toch in ieder geval zijn. Dus over ‘er zijn’ hoeven we geen mededelingen te doen. We zijn er gewoon, en dat is het wel zo’n beetje. En omdat er-zijn ‘zijn’ inhoudt en we anderzijds niet kunnen ‘zijn’ zonder ergens te zijn, er te zijn, hebben we het ook daar niet meer over. Maar hoe zit het met bewust-zijn? Is alles wat is ook bewust-zijn?

“Heeft de lamp bewustzijn?” Hoe kom je op die vraag? Wel, dat ging zo:

In onze nieuwe auto zit een hele rij, wel acht, schakelaars. Bij het starten van de motor lichten sommige rood op, andere niet, die blijven zwart. Ik had wel door dat dit iets te betekenen moest hebben. Maar wat? Welke functie heeft elk van die schakelaars? En wat betekent het als het rode lampje van de schakelaar brandt? Betekent het dat de betreffende functie ingeschakeld is, of wijst het juist op de mogelijkheid deze functie in te schakelen. Sommige schakelaars tonen het woord OFF dat als je er op drukt verandert in ON. Je weet dan niet of OFF zegt dat het ding uit is of dat je er juist op moet drukken om het ding uit te zetten. Zegt het lampje iets over de huidige toestand (ON betekent: ik ben aan): of zegt het wat je moet doen om die toestand te realiseren (ON zegt: druk hier om het ding aan te zetten) ? De interface heeft twee gezichten; die van de gebruiker en die van de machine.

Hoe het ook zij, ik was er vanuit gegaan dat de stand van de schakelaar iets zegt over de toestand van een of andere werking die zich ergens in de auto afspeelt. Bijvoorbeeld of een bepaalde lamp brandt of niet. Of wat dan ook. Maar wel van iets ánders dan van de schakelaar zelf. Ik kon me niet voorstellen dat de autofabrikant een schakelaar had gemaakt met een lampje dat rood oplicht als je er op drukt alleen maar om dat lampje zelf op te laten lichten. De schakelaar moest wel iets zeggen en doen met iets anders, met een wezenlijker functie van het systeem. Omdat er een één-op-één verband is tussen de toestand van de schakelaar en de toestand van de lamp die er door bediend wordt, toont de schakelaar niet alleen zijn eigen toestand, maar daarmee ook die van de lamp. De schakelaar zegt mij of de lamp brandt of niet.

De schakelaar biedt mij als gebruiker de mogelijkheid om de toestand van de lamp te veranderen en deze toont tevens de huidige toestand van de lamp. Er zijn ook lampjes die alleen maar tonen wat de toestand is van een onderdeel van de auto. Je kunt er verder niets mee. Het vertelt je iets over de toestand in de wereld die voor jou als gebruiker ervan (volgens de ontwerper) van belang is. De lamp zegt je of hij brandt of niet. Moet een lamp ook zeggen dat hij er is? Lijkt me niet.

En toen vroeg ik me af of een lamp bewustzijn heeft. Dat lijkt me een voor de hand liggende vraag, omdat de lamp immers het vermogen heeft iets over zijn eigen (interne?) toestand te zeggen. De lamp deelt aan mij, aan de schakelaar en aan een heleboel andere dingen in zijn omgeving mee dat hij er is, en hoe hij ‘er in staat’. Dat doet de lamp door op mij, op de schakelaar en op al die andere dingen en processen in zijn omgeving in te werken. En al die andere dingen, zoals de schakelaar, werken omgekeerd in op de lamp. En dat geheel, dat is wat het is, en elk onderdeel is wat het is. Heeft de lamp bewustzijn? Of is de lamp bewustzijn? Is de lamp er bewust?

De formulering ‘bewustzijn hebben’ maakt van bewustzijn iets dat iets anders al dan niet kan hebben. Dat kan nog op minstens twee manieren worden opgevat. ‘Heeft liefde een kleur?’ Daarmee wordt bedoeld of liefde iets is dat gekleurdheid toekomt. Zoja, dan is de vraag: welke kleur heeft de liefde dan? Bewustzijn is als gekleurdheid, niet zoals rood. Als iets gekleurd als eigenschap heeft, dan is het ook gekleurd. Gekleurd-zijn en bewust-zijn zijn wijzen van zijn, zijns-wijzen. Welke kleur zich toont hangt van de omgeving af. Voor de kleurenblinde bestaan bepaalde kleuren niet. Voor iemnd die helemaal geen kleuren kan onderscheiden bestaat gekleurdheid niet als een echte visuele eigenschap van de dingen. Analoog hangt de bepaalde wijze van bewust-zijn van iets af van de omgeving. Er zijn gradaties van bewustzijn. Klassiek wordt mens-zijn beschouwd als hogere graad van bewust-zijn, dan de andere dieren en het dier is in hogere graad bewust dan de plant. Dingen zoals tafels en stoel en lampen worden geen bewustzijn toegekend. Er is verband tussen levend zijn en bewust-zijn. Niet-levende dingen hebben geen bewustzijn, levende zijnden hebben bewust-zijn.

Ook als vader thuis of op zijn werk door niemand waargenomen achter zijn bureau zit te turen naar zijn beeldscherm is hij er. Ik weet dat zijn zijn niet afhangt van het waargenomen worden. Ik weet zeker dat de lamp er ook is als deze niet door iemand wordt waargenomen. Ze zijn zelfstandig. Maar ‘zegt’ de lamp ook iets als er niemand is die de lamp ‘waarneemt’? Het lijkt me dat daarvoor iemand of iets aan de lamp aanwezig moet zijn voor wie de lamp iets zegt. Waarnemen zegt aanwezigheid voor iets anders. Zijn er dingen in aanwezigheid van de lamp die de lamp niets ‘zeggen’? De warmte van de lamp straalt af op zijn omgeving en omgekeerd; lamp en omgeving beïnvloeden elkaar in hoe ze op elk moment zijn. Plotseling gaat de lamp uit. Ik zie dat het draadje is doorgebrand. Mijn vader leeft niet meer. Hij is dood, maar hij is er soms in mijn gedachten. Maar ook, wezenlijker, in mijn leven en karakter. Een kapotte lamp is een lamp met een gebrek. Hij werkt niet meer.

Wat is eigenlijk bewustzijn? Heeft de lamp ervaringen, een ‘innerlijk leven’? Als deze dat zou hebben, zou hij er dan niet iets van willen mededelen aan zijn omgeving, aan de andere dingen, aan dingen die hem verstaan? We zeiden dat de lamp invloed heeft op zijn omgeving en dat deze aan of uit kan zijn. Maar weet de lamp ook in welke toestand deze zich bevindt? Is zijn toestand voor de lamp zelf aanwezig? Kent de lamp reflectie en zelf-reflectie? Als dat zo was, zou de lamp daar niet iets van mededelen? We kunnen ons bewust-zijn van dingen alleen voorstellen als een ‘schaduw’ van ons eigen zelf-bewustzijn.

Is een lamp die ‘alleen maar’ licht kan geven (alsof dat niet genoeg was!) een complex genoeg zijnde om bewust te zijn, om voor zichzelf aanwezig te zijn? Vroeg ik me als ingenieur af.

Laten we eens naar een complexer ding kijken. Naar een automaat, de ‘denkende machine’.

Het intentioneel correlaat

De Nederlandse filosoof Jan Hollak heeft in verschillende artikelen zijn gedachten over het fenomeen van de ‘denkende machine’ en de ‘bewuste machine’ met zijn lezers gedeeld. In zijn beroemde inaugurele rede Van Causa sui tot Automatie plaatst hij de volgende voetnoot.

“Wanneer hier voortdurend in verband met mechanismen van ‘reflectie’, ‘zelfreflectie’, etc. sprake is dan is daarmee vanzelfsprekend nooit het subjectieve act-leven van het menselijk denken bedoeld (machines hebben geen bewustzijn), maar steeds slechts zijn intentioneel correlaat” (In: Hollak en Platvoet, voetnoot op p. 185)

Hollak verwijst in deze voetnoot een hele boekenkast vol filosofieën waarin uitgegaan wordt van de mogelijkheid van het bestaan van de ‘denkende machine’ naar het rijk der fabelen.

In Meeting on neutral ground, a reflection on man-machine contest, zegt de wiskundige en logicus Albert Visser:

“After all, machine and program are intentional notions. So to understand the machine, we need to understand man.” (Albert Visser, 2020).

Om de machine te begrijpen moeten we de mens begrijpen, want machine is een intentioneel begrip.

Voor veel mensen is het echter helemaal niet zo ‘vanzelfsprekend’ dat de machine ‘geen bewustzijn heeft’. De term ‘intentioneel correlaat’ komt uit een stroming in de filosofie die niet zo populair is bij wetenschappers en filosofen. Het is een belangrijke notie, waar diverse filosofen hele boeken aan besteedden (Searle, 1983; Dennett).

Visser stelt dat we om de machine te begrijpen we het ‘intentionele begrip’ machine moeten begrijpen. Het gaat dus om begrip van begrip. De machine is uitdrukking van ons begrip en dat zouden we moeten begrijpen.

Het object van de intentionele act (bewustzijn is altijd bewustzijn vàn iets, we denken altijd iets, een gedachte), heet in de fenomenologische traditie het ‘intentioneel correlaat’ van de act. Als ik denk aan de lamp is het denkbeeld het intentioneel correlaat van mijn gedachte. We maken een onderscheid tussen de toestand van de lamp: hij is aan of uit, en de toestand van de lamp als representatie van de toestand van het technische systeem waarvan deze onderdeel is. De controlelamp van de schakelaar in de auto heeft een functie in een werkend systeem, in de auto, in een machine. De toestand ervan is een toestand zoals ik die begrijp: de lamp is aan of uit, als onderdeel van een systeem. Die toestand als toestand van een systeem is niet iets dat de lamp op zich eigen is. Die denken wij erbij. Voor wie niet bekend is met de technische constructie is de lamp slechts wat deze onmiddellijk in de ervaring is. Voor wie niet weet wat rekenen is bestaat de rekenmachine niet.

We kunnen daarentegen het ook zo zien dat de toestand van de lamp iets ‘zegt’ over de lamp ‘zelf’. De filosoof Austin vond dit een absurde gedachte. (Austin, Other Minds). Alsof de theepot zegt: ik ben een theepot. (Zie ook mijn blog Quid of quod? De geschiedenis van het feit.)

De gedachte toestand van de machine is bij de machinetechniek niet de toedracht in haar onmiddellijke ervaringsvorm, maar de toedracht als toedracht uitgedrukt. Het is resultaat van reflectie. Machinetechniek is een reflexieve techniek. Deze is anders dan de onmiddellijke ervaringstechniek van het primitieve werktuig: het vuur, de steen, de stok die we als gebruiksvoorwerpen zien. De machinetechniek veronderstelt dat de natuur ‘zich uitdrukt in’, of ‘beschreven kan worden in de vorm van’ natuurwetten. In de machine zijn de toedrachten aanwezig zoals ík ze denk, namelijk in de vorm van een technisch concept. Dus als ‘intentioneel correlaat’ van mijn denken. Een toestand van een systeem, zoals een machine is een mathematische constructie.

Zo kunnen we begrijpen wat Albert Visser bedoelt wanneer hij stelt dat de machine een ‘intentioneel begrip’ is.

We kunnen de machine dus alleen in relatie tot de mens zinvol beschouwen omdat deze alleen in een cognitieve relatie tot de mens als machine bestaat. (Zoals de kriebels op papier alleen voor wie weet wat taal is woorden voorstellen.) Het wezenlijke van de machine is de technische idee, het concept.

We kunnen mens en machine wel onderscheiden, maar niet van elkaar scheiden. Zoals we de binnenkant en de buitenkant van een kopje wel kunnen onderscheiden, maar niet werkelijk van elkaar scheiden. Die horen bij elkaar als de twee relata van een relatie. Ze komen niet apart in werkelijkheid naast elkaar voor. Nu is het bij de mens-machine-relatie zo dat beide ook zelfstandigheid hebben. Ze komen buiten elkaar als ‘dingen’ in de werkelijkheid voor. De mens staat tegenover de machine en kan de machine bedienen via lichamelijk contact. Dat maakt dat veel mensen vergeten dat de machine alleen machine is in relatie tot de mens. Als we het over dat ding als machine hebben en het als machine gebruiken dan hebben we het over een cognitief gefundeerde relatie die in een materiële vorm is geobjectiveerd: het ding is uitdrukking, realisatie van een concept, een ontwerp. Zonder dat relatieve moment tot de mens die het ding heeft ontworpen is het ding geen machine.

Bij de klassieke machine techniek ligt de verhouding van het concept tot de fysische realisatie ervan anders dan bij de rekenmachine. Bij de laatste verwijzen de onderdelen en hun werking naar wiskundige operaties en grootheden, bij de klassieke machine (zoals de stoommachine) gaat het om de werking van de materiële onderdelen zelf.

Reflectie van de reflectie

We kunnen abstraheren van de bijzondere fysische implementatie van een bepaalde functionaliteit zodra we beseffen dat het voor het functioneren van de machine om communicatie van toestanden van onderdelen van het systeem gaat en niet om de fysische processen zelf. We zien dan bijvoorbeeld dat een bepaalde klep van een verbrandingsmotor een signaal doorgeeft aan andere onderdelen ervan. Of dat een lampje iets meedeelt aan ons of aan andere onderdelen over de koplampen. Dit is de tweede reflectievorm, een reflectie op de reflectie die in de informatieverwerkende systemen tot uitdrukking komt. Dan zeggen we dat de signalen informatie uitwisselen over de aktuele toestand van de verschillende onderdelen van het gehele systeem. Zo treden we het stadium van de techniek van de electronische circuits binnen.

De vergissing die men volgens Hollak vaak maakt is de toedracht van een machine alleen inhoudelijk te nemen (‘materialiter’) en niet ook naar de vorm (als toedracht, ‘formaliter’). Een toestand van een systeem heeft altijd twee kanten. De ene kant verwijst naar een mathematisch veld van mogelijke toestanden. De andere kant verwijst naar een fysische realiteit, een onmiddellijke stand van zaken, een feit. Een signaal verwijst naar een toestand: de bron waarvan het een teken is. Het signaal heeft een bepaalde uitwerking op andere systemen die het signaal ontvangen. Daarin vindt een bepaalde toestandsverandering plaats. Welke dat is, dat wordt bepaald door het signaal. Het geheel is weergave van een technisch ontwerp.

Die lamp zoals ik die onmiddellijk waarneem is natuurlijk niet het intentioneel correlaat van mijn ontwerp van die lamp. Net zo min als de zon dat is. Maar de auto en alle functionele onderdelen ervan, zoals de motor en de electronica, maar ook de lampen, die zijn allemaal bedacht. De toestanden van deze onderdelen verwijzen naar een concept, een technisch ontwerp. Ze hebben een betekenis of functie in het ontwerp. Ze zijn in die zin weergaven, of correlaat van het bewuste ontwerp van de ingenieur, die in een manual de gebruiker uitlegt hoe deze ‘werkelijkheid’ moet worden gezien om deze te gebruiken, zoals door de ontwerper bedoeld was. Als ik me afvraag wat het rode lampje op de schakelaar betekent dan probeer ik iets van het technisch ontwerp te begrijpen. Ik beschouw de schakelaar met het lampje dan als onderdeel van zo’n ontwerp. Ik snap dat het niet om het licht van het lampje zelf gaat. Het aan of uit zijn is een teken van iets anders, van een wezenlijker systeemfunctie. Als gebruiker van de auto hoef je niet alles te weten van de werking van de auto, maar het is wel handig om te weten wat je wel en niet moet weten van de werking van de auto. Moeten we weten hoe een rekenmachine werkt om ermee te kunnen rekenen?

Informatietechniek

De informatietechniek is gebaseerd op het principe van een correspondentie tussen de feiten en het denken van de feiten. Fysische processen in de werkelijkheid refereren naar denk-processen. Op grond van dit principe kan de appel die uit de boom valt worden gebruikt als middel om de uitkomst van een wiskundige formule uit de Newtonse mechanica, waarvan het fysisch proces van het vallen van de appel de implementatie is, te berekenen. Bij een bepaalde waarde van de invoer (het argument van een functie): de hoogte waarvanaf de appel valt berekent de vallende appel exact de functiewaarde: de snelheid waarmee de appel op de grond valt. De vallende appel is zo een analoge rekenmachine geworden. Iedere digitale computer is gebouwd op basis van continue, analoge, fysische processen, die gedigitaliseerd worden.

Iedere machine zit logisch, dat wil zeggen: in principe begrijpelijk, in elkaar. Deze is immers weergave van een door de mens bedacht ontwerp. Een rekenmachine is bij uitstek een logische machine. De basisonderdelen ervan zijn logische circuits.

De logische schakeling heet ‘logisch’ omdat de beschrijving van zijn werking in termen van hoe de uitvoer ervan afhangt van de invoer, overeenkomt met een logische operatie. Bijvoorbeeld: de logische AND heet zo omdat de uitvoer de waarde ‘true’ (1) heeft, dan en alleen dan als de twee invoerkanalen de waarde true (1) hebben en anders ‘false’ (0). Het oordeel “Jan rookt en Piet drinkt” is waar als en alleen als het oordeel “Jan rookt” waar is en het oordeel “Piet drinkt” waar is. Als we de ‘waarheidswaarden’ van de basisonderdelen van de bewerende samengestelde zin weten dan kunnen we de ‘waarheidswaarde’ van de gehele zin berekenen door toepassing van de functie die hoort bij de logische connectieven (zoals: ‘en’) die de basisonderdelen tot een geheel maken. Dit is het resultaat van het werk van de wiskundige en logicus Frege (Begriffschrift) en de ingenieur en filosoof Wittgenstein (Tractatus).

Een logische schakeling representeert een abstracte functionele relatie tussen de toestanden van onderdelen van een systeem. ‘Abstract’ omdat het abstraheert van de materiële vorm waarin de functionele relatie gerealiseerd is. De waarden van de invoer en uitvoerkanalen worden door ons beschouwd als waarheidswaarden van een bewering die zegt wat de waarde is van de toestand van een bepaald deel van een systeem is. Bijvoorbeeld: de toestand van een klep, of de stand van een schakelaar.

Het begrip toestand is een sleutelbegrip van de zelf-reflexieve techniek. Die techniek komt voort uit een bepaalde visie op de wereld. Een technisch-mathematische visie op de wereld is een visie waarin “de wereld alles is wat het geval is” (“Die Welt ist Alles was der Fall ist”, Wittgenstein, Tractatus). Het is de wereld van de feiten (‘Tatsache’). Een feit is de uitdrukking van de door het denken voorgestelde identiteit van de beschrijving van een werkelijkheid met die werkelijkheid zelf. De structuur van de taal van de uitdrukking is gelijkvormig met de structuur van de werkelijkheid zelf zoals deze gedacht wordt. Het intentioneel correlaat van het denken correspondeert met de feiten zelf. Het cognitief bewustzijn drukt zich in het algemeen uit als “het is zo”. De wereld is zo een complexe machine die door de ontwerper, de technicus, gebruiksklaar is gemaakt voor de gebruiker. Zijn ontwerper en gebruiker beide ook onderdeel van die wereld?

Zitten die gebruiker en die ontwerper zelf ook zo in elkaar? Is de mens, of een onderdeel daarvan, het brein, ook (slechts) een intentioneel correlaat van zijn eigen denken? Het verschil tussen machine en brein is dat de mens de machine heeft ontworopen en gemaakt, het brein is een natuurlijk gegeven. Is dat brein ook louter instrument zoals de door de mens gemaakte machine en gereedschappen?

Het moeilijke probleem

“Tussen de werkelijkheid die de receptiviteit gegeven is, en de betekenis die deze werkelijkheid kan krijgen, schijnt een onderscheid te bestaan.” (Emmanuel Levinas, Betekenis en zin)

Het schijnt een ‘onweerlegbaar uitgangspunt’ te zijn dat bewustzijn voortkomt uit hersenactiviteit.

“There is no consensus about how it is generated, or how best to approach the question, but all investigations start with the incontrovertible premise that consciousness comes about from the action of the brain.” (Kitchener and Hales, 2022)

Maar…

“Waarom zouden fysieke processen überhaupt aanleiding geven tot een rijk innerlijk leven? Het lijkt duidelijk onredelijk dat dit zou moeten gebeuren, en toch is het zo.”

Why should physical processing give rise to a rich inner life at all? It seems obviously unreasonable that it should, and yet it does.”

Deze vraag, tevens constatering, van ‘philosopher of mind’ David Chalmers staat bekend als ‘The Hard Problem of Consciousness”, het ‘Lastige Probleem van het Bewustzijn’. ( Chalmers 1995, 1997). Dat het een lastig probleem is blijkt wel uit het feit dat heel wat wetenschappers: neurofysici, gedragswetenschappers, psychologen, biologen en filosofen er hun hersenen op hebben gekraakt. Wat maakt het probleem zo lastig?

Laten we eerst eens kijken met wat voor soort probleem we hier te maken hebben.

Wanneer ik naar de stad wil fietsen en ik heb een lekke band, dan heb ik een technisch probleem. Wanneer door een noodlottig ongeval een metalen spies mijn hersenpan doorboort en de balk tussen de linker en rechter hersenhelft doorklieft, dan heb ik een probleem. Ook dat is een technisch probleem. Een filosofisch probleem is een ander soort probleem. Niemand zal geconfronteerd met één van de de twee genoemde probleemsituaties zich afvragen met wat voor soort probleem hij te maken heeft. Als een lekke band een probleem is, dan is het géén filosofisch probleem. Het vraagt om een technische oplossing: we moeten analyseren, de boel uit elkaar halen, zoeken waar het lek zit en het lek dichten of de band vervangen. In het geval van de metalen spies moeten we de hersenpan lichten en onderzoeken waar de spies de hersenbalk heeft getroffen en doorgesneden en of het euvel hersteld kan worden. In dit geval is het wel de vraag in hoeverre we van de persoon die dit ongeluk treft nog kunnen zeggen dat deze ‘een probleem heeft’. Hij zal zich er vermoedelijk niet bewust van zijn (ik heb echter geen verstand van hersenen) .

Is Chalmers ‘hard problem’ een technisch probleem? Waarom twijfel ik? Omdat het enerzijds behoort tot de ‘philosophy of mind’, en door velen als een filosofisch probleem wordt opgevat (een ‘mind-body probleem’), terwijl anderzijds de formulering van het probleem doet voorkomen alsof het een technisch probleem is. Het onderscheidt ‘fysische processen’ en een ‘innerlijk leven’ als twee onderscheiden zaken en vraagt hoe het kan dat “het ene het andere kan doen gebeuren”. Beide, ‘fysische processen’ en ‘innerlijk leven’ zijn door ons bedachte concepten, zie op een of andere manieren een werkelijkheid uitdrukken.

Kenmerk van een technisch probleem is dat het opgelost wordt door te analyseren, door uit elkaar te halen en door weer samen te stellen. De technicus gaat er vanuit dat het probleem een zaak betreft die uit elkaar gehaald kan worden en dus samengesteld is uit onderdelen.

De (menselijke) geest zit echter niet in elkaar. Laten we daarvan uitgaan. (De stelling is van de wiskundige en filosoof Louk Fleischhacker en komt uit een interview in het tijdschrift Ta!). De geest is één. De geest is geen geheel, want een geheel bestaat uit delen en de geest heeft geen delen. Als er al een probleem met de geest is dan betreft het niet een probleem dat zo geformuleerd kan worden door te doen alsof we aparte onderdelen van de geest kunnen onderscheiden en benoemen. Zodra we dat wel doen, zoals Chalmers doet, dan creëren we een probleem. Dat is het werkelijke ‘hard problem’. We zouden dat het ‘hard problem 2.0’ kunnen noemen. Het is een ander probleem dan het oorspronkelijke probleem, maar ook weer niet. Dat hangt er vanaf of het oorspronkelijke probleem als een technisch of als een filosofisch probleem wordt opgevat.

Wat het probleem zo lastig maakt is dus het probleem zelf, of beter gezegd de formulering van het probleem. En daarbij moeten we degene voor wie het probleem een probleem is en die het zo formuleert als deze het formuleert niet uit het oog verliezen.

Is de mens een bewust-zijn? Of moeten we zeggen: heeft de mens bewustzijn? Alsof het een eigenschap is van een bepaalde soort zijnde, zoals een kleur, of vorm.

Dat we door een pilletje te nemen ‘buiten bewustzijn’ kunnen raken is een onmiskenbaar feit.

Het probleem zoals door Chalmers geformuleerd is niet alleen zijn probleem. Veel mensen hebben zich dezelfde vraag of vergelijkbare vragen gesteld: hoe is het mogelijk dat ons brein, dat toch uit materie bestaat, zoiets geestelijks als bewustzijn, subjectieve belevingen, kan ‘veroorzaken’ ?

Ik zet dat ‘veroorzaken’ maar tussen quotes, omdat het ons wellicht al op een bepaald spoor zet over de aard van de relatie tussen het fysische proces en de beleving, ‘the rich inner life’. Chalmers geeft die relatie aan met ‘gives rise to’. Men zegt ook wel dat bewustzijn een ’emergente eigenschap’ is van een signaalverwerkingsproces, of informatieverwerkingsproces. Anderen zeggen weer dat het hetzelfde proces is alleen dat we het anders benoemen. We bekijken hetzelfde gebeuren vanuit een ander perspectief. Vanuit het ene zien we een fysisch proces, vanuit het andere noemen we het beleving. Op één of andere manier verlopen die twee verschijnselen dan parallel in twee parallelle werelden, die van de fysische processen en die van het denken. Misschien komen deze perspectieven overeen met wat de filosofen van de geest het eerste persoon (1PP) en het derde persoon (3PP) perspectief noemen.

Het feit dat we in staat zijn om machines te maken die denken toont volgens sommigen aan dat we hier slechts met één gebeuren te maken hebben. Volgens de identiteitstheorie zijn denken en fysisch proces identiek. Dan valt er dus niets te verklaren. Er is geen relatie, behalve dan dat de processen identiek zijn. In werkelijkheid identiek, want zodra we zeggen dat twee dingen identiek zijn hebben we ze al onderscheiden. De vraag is dan waarom dit onderscheid? Waar komen die twee onderscheiden kanten vandaan?

Het lijkt mij dat die tot stand komen door er over na te denken. Al denkend en sprekend hebben we een aantal aspecten aan de werkelijkheid onderscheiden en vervolgens vragen we ons af hoe die aspecten gerelateerd zijn. We zoeken dan weer een verband en komen er achter dat de twee niet zonder elkaar kunnen, maar toch niet hetzelfde zijn. De technische mens realiseert in werkelijkheid nieuwe identiteiten van fysische werkelijkheden en denken.

Zo kunnen we die twee luciferhoutjes hier voor mij als een geheel zien of als twee. Maar het is beide, de tweeheid en de eenheid zijn één en dezelfde realiteit. Daarom is één en één ook wiskundig gelijk (=) aan twee. En om dezelfde reden is 5 plus 7 ook gelijk (=) aan 12. Het gaat hier dus duidelijk om een ervaringsgegeven. (En niet, zoals Kant dacht om een synthetisch apriori, kennis die niet uit de ervaring komt maar daaraan vooraf zou gaan.)

Het fysische proces is als fysisch proces weliswaar iets buiten ons dat we waarnemen en waaraan we metingen kunnen verrichten, maar ook iets waarvan we weten dat het van ons eigen denken komt. We vatten de natuur wetenschappellijk op als geheel van fysische processen. Het zelfde geldt voor het denken, de ‘inner life’, de beleving, dat is wel iets van ons maar toch stellen we het ons al reflecterend, al denkend, voor. Als object van dit denken is het niet het denken zelf maar we ervaren het wel als ons zelf denkend. Er is dus onderscheid en identiteit van het denkend bewustzijn zelf.

Zodra David Chalmers en wij er over na gaan denken hoe het brein bewust-zijn kan zijn ontstaat ‘het moeilijke probleem’.

De echte moeilijkheid zit hem er dus in dat we te maken hebben met een onderscheid dat de probleemsteller maakt tussen twee perspectieven: de ene stelt de identiteit op de voorgrond, de andere het onderscheid tussen twee kanten. En die perspectieven doen hun eigen licht schijnen op het zelfde: de identiteit, ik, die denkt, die bewustzijn is, die ervaart. De werkelijkheid is als (denkende) geest de eenheid van onderscheid en eenheid.

Neurofysici, en fysici in het algemeen, zien vanuit hun perspectief van buiten slechts één kant van de identiteit van de realiteit. Ze maken de hersenpan open en kijken eronder, Ze sluiten meetinstrumenten aan en vinden fluctuaties in EM velden. Ze zullen vanuit dat perspectief nooit zoiets als bewustzijn vinden. Noch zullen ze iets vinden dat ‘wijst op’ zoiets als bewustzijn, of beleving, want dat is heel iets anders. En dat weten ze ook. Daarvan zijn ze immers uitgegaan! Wat ze vinden is wat ze noemen; cellen, neuronen, signaalverwerking, structuren. Maar geen bewustzijn. Omdat ze dat bij voorbaat al hebben uitgesloten. Wat ze wel doen/uitoefenen: dat is bewust zijn, ze interpreteren. Ze beschrijven de dingen die ze waarnemen. Daar zit op dat moment hun (eigen) bewustzijn in! In de verwoording van de ervaring.

Het betekenisprobleem

Ondertussen zitten we al denkend, schrijvend en lezend, in de wereld van de taal. Hebben we daar al niet met een vergelijkbaar ‘moeilijk probleem’ te maken? Zodra we er over nadenken komt de vraag op hoe de woorden zich verhouden tot de betekenissen, de gedachten die ze in de lezer oproepen. Zijn het niet de woorden die onze gedachten in ons brein brengen? Hoe komen de woorden waarin we het probleem beschrijven, en daarmee als het ware bepalen, tot stand? Is dat ‘tot stand komen’, ‘dat onder woorden brengen’ van het probleem niet een onderdeel van het proces zelf waar het lastige probleem naar verwijst als naar een problematisch verschijnsel? Het emergente gedrag van het brein zou immers volgens neurofysici in interaktie met de omgeving tot stand komen! (Buzsáki).

Reductionisme

In het artikel Consciousness in Artificial Intelligence: Insights from the Science of Consciousness dat onlangs in het arXiv preprint repository verscheen (2308.08708) gaan de auteurs uit van de expliciet gestelde ‘werkhypothese’ dat de mens net als de machine een informatieverwerkend systeem is. Het gaat in dit artikel over de vraag of AI bewustzijn heeft of kan hebben. Onder de negentien auteurs zijn neurowetenschappers, cognitiewetenschappers, computerwetenschappers en filosofen. 

(Het gaat dus niet over bewust-zijn als wijze van zijn, maar over bewustzijn als een mogelijke eigenschap van een systeem, wat iets kan ‘hebben’. Er is wel een verband tussen gekleurd zijn en een kleur hebben. Maar bij bewust-zijn en bewustzijn hebben ligt dat weer net iets anders. lijkt me.)

De auteurs beweren nu het volgende.

Onder de aanname dat a) mens en machine beide informatieverwerkende systemen zijn en b) dat verschillende neurologisch onderzoeken (deels disjuncte) verzamelingen van functies hebben geïdentificeerd die bij de mens als indicatie van bewustzijnsprocessen beschouwd kunnen worden, kunnen we door middel van een analyse van de inwendige software en hardware-structuur van AI-systemen (‘the workings of AI systems’) voor elk van deze indicatorfuncties testen of deze geimplementeerd zijn. Wanneer dit voor voldoende van deze functies het geval is hebben we derhalve een aanwijzing dat er bewustzijn aanwezig is.

Uit het onderzoek concluderen de auteurs dat geen van de geteste AI systemen bewustzijn heeft. (“This work does not suggest that any existing AI system is a strong candidate for consciousness.”) De auteurs zien echter geen barrières die de verwerkelijking van bewuste AI systemen in de toekomst in de weg zouden kunnen staan. Daarmee blijft bewustzijn van machine een mogelijkheid die in de toekomst gerealiseerd kan worden.

Dit bevestigt ons idee dat wat als ‘werkhypothese’ wordt gepresenteerd een ‘contrafactisch postulaat’ is: een uitgangspunt dat de vraagstelling en de interpretatie van de resultaten stuurt. Het zegt niet iets over de werkelijkheid, maar het is constituerend voor (de verhouding tot) het object van onderzoek. De sociale robot wordt in de praktijk van de interaktie ermee als intelligent en bewustzijn beschouwd: dit constitueert de conversaties met de AI. We vinden dit constitueren terug in de idee dat de omgang met de technologie als een vorm van spelen wordt gezien. Het taalgebruik past bij een ‘form of life’, een als spel opgevatte ‘praktijk’van leven. De terminologie en zienswijze is Wittgensteiniaans.

De auteurs hun artikel sluiten af met een plichtmatige morele waarschuwing. Hun project zou wel eens als resultaat kunnen hebben dat mensen werkelijk denken dat de door hun gemaakte machines in de toekomst ‘echt’ bewustzijn hebben.

“On balance, we believe that research to better understand the mechanisms which might underlie consciousness in AI is beneficial. However, research on this topic runs the risk of building (or enabling others to build) a conscious AI system, which should not be done lightly. Mitigating this kind of risk should be carefully weighed against the value of better understanding consciousness in AI.”

Deze afweging of we wel door moeten gaan met te onderzoeken of de idee van ‘bewuste AI’ mogelijk is wanneer dit onderzoek tot de verwerkelijking van dit idee kan leiden, is kenmerkend voor het contrafactisch postulaat dat constituerend is voor dit project. Wat bedoel ik daarmee?

Het contrafactisch postulaat

Theses zoals “de mens is een informatieverwerkend systeem”, of “AI heeft bewustzijn”, of “de sociale robot is een persoon” (Gunkel 2023) of “de werkelijkheid is kenbaar”, die als ‘werkhypothese’ worden gezien zijn filosofische, contrafactische postulaten. Een contrafactisch postulaat berust niet op een bewezen inzicht, noch is het uitdrukking van een door empirisch onderzoek vastgesteld feit. Het zijn ook geen hypotheses zoals die door empirisch onderzoek weerlegd (gefalsifieerd) kunnen worden door bepaalde feiten. Een contrafactisch postulaat is een aanname die constitutief is voor een bepaalde verhouding tot de werkelijkheid en die bepaalde aktiviteiten zinvol maken. We gaan er bijvoorbeeld in een gesprek met de ander vanuit dat de ander rationeel is en betrokken bij de zaak waar het omgaat; dat hij een redelijk antwoord zal geven op vragen. We gaan er in een gesprek vanuit dat we met een verantwoordelijk persoon van doen hebben. Zonder die houding, zonder dit postulaat, is er geen gesprek. Wie een dialoog voert met een machine, zoals een sociale robot die kan daarbij uitgaan van het contrafactisch postulaat dat hij met een persoon van doen heeft. Zonder die aanname is er geen dialoog. (zie Theo de Boer, Grondslagen Kritische Psychologie.) Maar het hoeft niet: hij kan ook de houding aannemen van de scepticus die de gesprekspartner op de pijnbank legt en uittest wat de gespreksmogelijkheden ervan zijn. Wie weet dat hij met een machine te maken heeft die zal een dubbele houding hebben.

Het contrafactisch postulaat van de moderne mens constitueert een project waarin de mens een door hemzelf (mathematisch) geconstrueerde ideële werkelijkheid (technisch) wil ‘implementeren’ in de fysische realiteit. De uitdrukking van de autonome, denkende mens zelf in de vorm van de informatie- en communicatietechnologie is het meest aansprekende voorbeeld van zo’n project. Zo’n project is feilbaar, maar leidt tot contemplatie en terughoudendheid ten aanzien van de mogelijkheden van de mens die zich tegenover de natuur, zijn natuur, plaatst. (Fleischhacker, 2001) Technische problemen zijn problemen die door de technologie ontstaan. Ze veronderstellen uiteindelijk een houding waarin de mens afstand schept tot de problematische ‘uitwendige’ werkelijkheid om deze te onderzoeken en aan te passen.

Het contrafactisch postulaat dat constituerend is voor de ‘philosophy of mind’ (Plato, Descartes, Leibniz, Hegel, Frege, Wittgenstein, Russell, Austin, Dennett, Chalmers, Putnam, Nagel, Searle, Visser, om een paar te noemen) is dat de geest één en tevens analyseerbaar is. De overtuiging is dat we die eenheid kunnen bevestigen door te onderzoeken. Dat wil de ‘filosoof van de geest’ die tevens technicus is. Dat is zijn project. Een feilbaar project.

Ten slotte kunnen we, niet zonder enige scepsis, stellen dat de ‘philosophy of mind’ noodzakelijk is om problemen op te lossen die voortgebracht worden door de philosophies of mind, zonder welke er geen problemen op het gebied van de philosophy of mind zouden zijn. De geest creëert een probleem dat deze zelf niet kan oplossen, omdat het geest is.

We hoeven geen keuze te maken tussen monisme (“mind is what the brain does”. Dick Swaab: “Wij zijn ons brein”) en dualisme (“mind is what the brain produces” Dick Swaab: “Zoals de nieren urine produceren, zo produceert ons bein de geest”).

Ze zijn twee kanten van een zelfde werkelijkheid.

Bronnen en noten

Austin, J.L. (1956). Other Minds. In: Philosophical Papers, Third Edition, Edited by Urmson, J.O. and Warnock, G.J., Oxford University Press, 1979.

Austin oppert een interessante verklaring voor het ‘onkritische gebruik’ van het direct object van kennen of weten in constructies van de vorm “knows what”. Hij brengt dit taalgebruik in verband met een bepaalde visie op de werkelijkheid, de visie namelijk alsof sense-data, dingen, kleuren, geluiden en de rest, van nature spreken, of anders gezegd: van nature voorzien zijn van een label, zodat ik letterlijk kan zeggen wat (datgene wat, quod) ik zie. Het lijkt alsof we de dingen herkennen, ze hebben al een naam. Wat het woord toont is wat het woord betekent. Het is alsof de dingen zelf woorden zijn.

“It is as if sensa were literally to ‘announce termselves’ or to ‘identify themselves’, in the way we indicate when we say ‘It presently identified itself as a particularly fine white rhinoceros’. But surely this is only a matter of speaking (…): sensa are dump, and only previous experience enables us to identy them.” (Austin, p. 97)

Theo de Boer (1991). Grondslagen van een Kritische Psychologie. Ambo, 1991.

De postulaten van de dialoog gelden contrafactisch (p. 111), ze zijn constituerend voor de dialoog. Het postulaat van de rationaliteit (: de ander is rationeel en verantwoordelijk voor wat hij zegt, is persoon – Kant) geldt contrafactisch (Habermas). Interessant is de opmerking aan het eind van deel II. Grondslagen dialoog. “Wie een etalagepop groet (of een mens etaleert), begaat een categoriefout. Wat zo iemand doet is absurd en kan niet verbeterd of verholpen worden. Hij zal op zijn schreden moeten terugkeren.” Hoe zit dat met de dialogen die we met een sociale robot voeren? Zijn die ‘absurd’, gebaseerd op een categoriefout?

Butlin, P. et al. (2023) Consciousness in Artificial Intelligence: Insights from the Science of Consciousness Preprint at https://arxiv.org/abs/2308.08708 

Buzsáki, György (2006). Rhythms of the Brain. Oxford University Press, 2006.

“It is not always easy to distinguish between ‘internal’ and ‘external’ operators. The brain, the body and the environment form a highly coupled dynamical system. They are mutually embedded” (p. 11, footnote 19).

Wij zijn het die bepalen wat ‘binnen’ en ‘buiten’ is, wat ‘zelf’ is en wat het ‘andere’ is.

“‘Representation’ of external reality is therefore a continual adjustment of the brain’s self-generated patterns by outside influences, a process called ‘experience’ by psychologists. From the above perspective, therefore, the engineering term ‘calibration’ is synonymous with ‘experience’ ” (p. 11)

“How smart is a neuron?” “Smartness” comes from adaptivity of the brain in interaction with the environment, including other brains. (p.11)

Chalmers, D.J. (1997). Facing up to the hard problem of consciousness. In Explaining Consciousness: The Hard Problem, ed.J. Shear (Cambridge: MIT Press), 9–32.

Chalmers, D.J. (1995). Facing up to the problem of consciousness. In: J. Conscious. Stud. 2, 200–219.

Louk Fleischhacker (1994). “De menselijke geest zit eigenlijk helemaal niet in elkaar.” Interview met Eric Oltmans in thema nummer Enschede – een technische blik op computerlinguïstiek. Ta! studentenblad computationele taalkunde, nr 3. jaargang 2, voorjaar 1994.

Louk Fleischhacker (2001). Zelfreflectie van de moderniteit. Lezing tijdens conferentie over Moderniteit bij het afscheid van Pieter Tijmes en Louk Fleischhacker van de Universiteit Twente. Hierin verdedigt Louk de these dat de moderniteit berust op een contrafactisch postulaat. Zie voor een kort verslag van de conferentie van Steven Dorrestijn: Filosofie, jrg. 11, nr. 5 okt/nov. 2001.

Gunkel, David J. (2023). Person, Thing, Robot A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.

Hollak, Jan en Wim Platvoet (red.) (2010). Denken als bestaan: het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin ogenomen.

De opmerking over het intentionele correlaat komt ook voor in Technik und Dialektik, ook in een voetnoot, maar dan in het Duits. De uitleg zoals ik die geef is mede gebaseerd op een mondelinge toelichting die Hollak gaf aan Maarten Coolen, toen we dit artikel bestudeerden in het kader van het colloquium Antropologische interpretaties van de techniek, waaraan ook Theo de Boer deelnam.

Kitchener PD, Hales CG. (2022). What Neuroscientists Think, and Don’t Think, About Consciousness. Front Hum Neurosci. 2022 Feb 24;16:767612. doi: 10.3389/fnhum.2022.767612. PMID: 35280212; PMCID: PMC8907974.

“The approach the majority of neuroscientists take to the question of how consciousness is generated, it is probably fair to say, is to ignore it.” (from the abstract)

Twee citaten uit de Conclusion.

“What is proposed here isn’t an ElectroMagnetism Theory of Consciousness but a case for why a ToC should be sought in the EM phenomena of brains. It proposes EM as the answer to the challenge: “Which electrical property provides the most fruitful explanatory basis for understanding consciousness remains an open question”. (p. 8).

“Computational activity, or aspects of that activity, will define the particulars of conscious experience, but the computations are not what generates consciousness: that is a deeper level of the fundamental signaling physics originating in the activity of the membrane. That signaling is entirely and only an EM field phenomenon.” (p. 8)

John R. Searle (1983). Intentionality, an essay in the philosophy of mind. Cambridge University Press, 1983.

Searle begrijpt de relaties tussen mind en body, tussen pijn-ervaring en neurofysische processen, tussen de natheid van water en de opbouw van water uit moleculen die niet nat zijn, als beschrijving van hetzelfde fenomeen maar op verschillende niveaus (‘levels of description‘). Deze doen denken aan de ‘levels of abstraction’ van Luciano Floridi. Searle rekt het begrip veroorzaken op zodat we kunnen zeggen dat de fysiologische processen de pijn ‘veroorzaken’.

“(…) but any principes, to give us an account of the brain, will have to recognize the reality of, and explain the causal capacities of, the Intentionality of the brain.” (final page, 272)

Albert Visser (2020). Meeting on neutral ground. A reflection on man-machine contests. In: Studia Semiotyczne (Semiotic Studies) t. XXXIV, nr. 1 (2020), pp. 279-294.

Sporen naar het verleden – de geometrie van de levenslijn

“De mens wil de natuur niet ontmoeten, maar beheersen” (F. de Graaff, Als goden sterven) (1)

… that learning is nothing else than the soul’s recollection of her inherent reasons.” (Proclus, Commentary on Euclid)

Inleiding: wat de lezer mag verwachten

Zo’n 300 jaar voor Christus schreef Euclides van Alexandrië in zijn Elementen op wat hij onder een punt en wat hij onder een lijn verstaat. Een punt is “dat wat geen delen heeft“. Een lijn is “een lengte zonder breedte“. De derde definitie is: “De uiteinden van een lijn zijn punten“. En dan komt de vierde, de meest opmerkelijke:

Een rechte lijn is een lijn die gelijk ligt met de punten erop.”

Dit is de formulering zoals J.H. van den Berg die geeft in zijn Metabletica van de Materie (1969).

In de Engelse vertaling van Sir Thomas L. Heath, die bekend staat als de beste vertaling van de oorsponkelijke tekst: “A straight line is a line which lies evenly with the points on itself”. (The thirteen Books of Euclid’s Elements. Sir Thomas Little Heath. New York. Dover. 1956.)

De vraag die onmiddellijk opkomt: is dan niet iedere lijn een rechte lijn? Maar waarom dan een aparte definitie van een rechte lijn? Na de definities volgen de postulaten waarvan de eerste is: “Van elk willekeurig punt naar elk ander punt kan één rechte lijn getrokken worden.” Daaruit zouden we kunnen concluderen dat Euclides wel degelijk ook niet-rechte lijnen als lijnen beschouwde. Daarvan is het kenmerk kennelijk dat ze niet samenvallen met de punten die erop liggen. Het is duidelijk dat Euclides geworsteld moet hebben met deze tekst.

Deze worsteling moeten we zien als een uiting van één van de belangrijkste ontdekkingen die de ‘oude Grieken’ hebben gedaan: de ontdekking dat wiskunde geen natuurwetenschap is. We staan met Euclides aan de wieg van de zuivere wiskunde. Dat Euclides zich ervan bewust was, en dat ook wilde benadrukken, dat hij het niet over aanwijsbare, waarneembare, dingen in de natuur had, dat blijkt uit zijn ‘negatieve’ formuleringen: “dat wat geen delen heeft”, “een lengte zonder breedte”. Een punt is geen punt zoals je die met een potlood op papier tekent. Dat is slechts hoe wij een punt soms voorstellen. In dat licht moeten we die merkwaardige definitie van de rechte lijn zien. Hoe kun je zo’n begrip uitleggen wanneer je niet kunt verwijzen naar iets bekends in de waarneembare wereld, naar iets dat buiten de wereld die in de Elementen geconstrueerd wordt, al bekend is?

Het zou nog eeuwen duren voordat het bewustzijn van de eigenaard van de wiskunde, de bevrijding van de natuurwetenschappen, volledig bewaarheid zou worden. De vraag is óf de wiskunde zich volledig van de ervaring kan bevrijden.

Die Weltgeschichte ist der Fortschritt im Bewusstsein der Freiheit.” schreef de grote filosoof G.W.F. Hegel in zijn Philosophie der Geschichte. Bij de Grieken is het bewustzijn van de vrijheid van de geest ontstaan, waardoor deze ook in potentie vrij werd. Maar dat betekent nog niet dat alle Grieken meteen vrije mensen waren. Zo is het met de vrijheid van de wiskunde. Lange tijd werden wiskunde, natuurwetenschap en metafysica niet onderscheiden. Pas in de 17-de en 18de eeuw werd de wiskunde als een zuivere wetenschap gezien. En daarmee werd ze geleidelijk aan ook de maat voor wat wetenschap mag heten. De inspanningen van Lagrange en tijdgenoten de dynamica, als uitbreiding van de mechanica, te baseren op fundamentele principes en deze van metafysische invloeden (zoals het vitale krachtbegrip) te bevrijden uiten zich in de mathematisering van de mechanica, in die zin dat de natuurkundige inhoud op mathematische wijze werd geformuleerd. Bij Kant vinden we de uitspraak dat de kennisinhoud van de natuurwetenschap (waarbij hij de Newtonse mechanica op het oog had) bepaald wordt door de hoeveelheid wiskunde. “… das in jeder besondere Naturlehre nur so viel eigentliche Wissenschaft angetroffen werden könne, als darin Mathematik anzutreffen ist.” (Kant, Metaphysische Anfangsgründe, 14 (A VIII).

Kan de wiskunde de last van de werkelijkheid wel dragen? De vraag naar de fundamenten van de wiskundige kennis werd steeds prangender. Als er niet iets buiten de wiskunde is waarop ze zich kan funderen kan ze dan misschien die fundering in zichzelf vinden? We weten inmiddels wat de pogingen daartoe ons gebracht hebben: de hoofdpijn van de paradoxen (zoals de Russell Paradox), de Gödelstellingen. De geest van de wiskunde kan haar eigen waarheid en zinvolheid niet bewijzen. Uit deze metamathematische zelfreflectie, die verliep via de omweg van de mathematisering van de taal van de wiskunde, kwam als een aap uit de mouw de informatica, de kunstmatige intelligentie. Zoals de uurwerken voor het aanduiden van de tijd onstonden als bijvangst uit de modellering van de kosmos zo is de computer ontstaan als bijvangst uit de zelfreflectie van de wiskunde, de mathematische modellering van het (rekenende) denken zelf.

Terug naar Euclides definitie van de rechte lijn: een lijn die samenvalt met de punten die erop liggen. Hoe moeten we nu Euclides ‘raadselachtige definitie’ van de rechte lijn begrijpen? Bij de wiskundige en historicus E.J. Dijksterhuis vinden we de volgende definitie van de rechte lijn. Die wijst ons indirect naar de oplossing van dit raadsel. “Een rechte lijn is een lijn die, wanneer het oog twee punten ervan doet samenvallen, alle punten voor dat oog in het samenvallende punt brengt.” Je ziet het de timmerman doen. Om te bepalen of een lat recht is, houdt hij deze op ooghoogte in het verlengde van de kijkrichting en beweegt deze zo dat het eindpunt samenvalt met het beginpunt ervan. Als er geen tussenliggende punten van de lat zichtbaar zijn is de lat recht. Dan liggen alle punten ervan op die lijn. Deze ‘definitie’ maakt echter gebruik van een zichtlijn en veronderstelt dat de zichtlijn recht is. Mogen we dat zomaar aannemen? Volgt het licht een rechte lijn? Volgens de huidige inzichten in de fysica niet. De materie zou de ruimte krom trekken. Euclides wist dat hij geen fysica bedreef en kon dus geen beroep doen op zoiets als een zichtlijn, die als maat zou kunnen dienen voor de rechtheid van een meetkundige rechte. Die laatste was juist maat voor de eerste. Hoe moest hij zich hier uit redden?

Een lijn(stuk) is een continuum, een geheel dat deelbaar is in delen die zelf ook weer continue gehelen zijn. (“deelbaar in delen gelijksoortig aan het geheel” zou de Hollakiaanse definitie luiden volgens Harm Boukema in een notitie over deel en geheel bij Angelinus.) Euclides zou gebruik hebben kunnen maken van een middel waarvan in zijn tijd wel vaker door de filosofen gebruik was gemaakt. Denk maar aan de paradoxen van Zenon. Die bedacht een constructie waarmee hij ‘bewees’ dat Achilles de schildpad nooit in kon halen. Een recursieve definitie zou als volgt kunnen luiden. Om te beginnen is een lijn(stuk) waarvan begin- en eindpunt samenvallen vanzelfsprekend recht: alle punten liggen er op. Als begin en eindpunt niet samenvallen, dan is een lijn recht als je deze op ieder willekeurig punt, zeg p, ervan op kunt delen in twee rechte (deel)lijnen. Een stel punten, die een lijn vormen, vormen een rechte lijn wanneer voor elk tweetal punten ervan geldt dat als je er een rechte lijn tussen trekt, de andere er allemaal op liggen. Dat geldt dus ook voor elk tweetal punten waarvan eentje op de ene deellijn, de andere op de andere deellijn ligt. Als je daar een rechte lijn tussen trekt dan moet het deelpunt p op die lijn liggen.

Zo zien we hoe in de geest van de zuivere wiskundige Euclides de informaticus reeds schuil gaat. De informaticus definieert iets door gebruik te maken van het enige wat hem al definierend ter beschikking staat, via de uitwendigheid van de taal, de uitdrukkingen die hij in zijn definitie gebruikt. (Zo wordt de lengte van een lijst gedefinieerd in termen van de lengte van zijn deellijsten.) Merk op dat zonder gebruik te maken van eenzinnige tekens (identifiers) we wiskundige objecten niet kunnen identificeren en er dus ook niet over na kunnen denken. In de programmeerbare automaat wordt de natuur, de tijdelijke en ruimtelijke uitwendigheid van de geest, gebruikt om de wiskundige tekens hun werk te laten doen: rekenen. De succesvolle werking van de rekenmachine is nu het enige ‘bewijs’ van de waarheid van de wiskunde.

Twee opmerkingen moeten nog gemaakt worden bij de recursieve definitie van de rechte lijn. Ten eerste: de Grieken zouden met het basis-geval, de situatie waarin begin- en eindpunt van de lijn samenvallen en de lijn dus gedegenereerd is tot een punt, serieuze problemen hebben. Zo iets kon net zo min bestaan als het vacuum kon bestaan. (Met dank aan Albert Visser die me hier op wees). Men zat nog teveel vast aan de materiële werkelijkheid. Merk daarbij op dat een lijn niet bestaat uit punten. Een punt heeft geen lengte en kan dus geen deel zijn van een lijn. Ten tweede eindigt de recursie niet, vanwege de oneindige dichtheid van het continuum. Niettemin geeft de recursive definitie meer inhoud aan de definitie van Euclides die we als een soort van conclusie van deze dnekbeweging kunnen zien. De abstracte idee van de rechtheid is een transcendentale limiet van de recursieve definitie.

Henri Poincaré merkt op dat men bij het onderzoek van de definities en bewijzen van de meetkunde zich genoodzaakt ziet, zonder ze te bewijzen, niet alleen de mogelijkheid van de beweging van een onveranderlijke figuur, maar ook enkele van haar eigenschappen te aanvaarden. Dat blijkt volgens Poincaré uit de definitie van de rechte lijn. “Daarvan zijn er vele gegeven die onjuist zijn.” De juiste is volgens hem de volgende.

“Het kan voorkomen dat een onveranderlijke figuur zodanig bewogen wordt, dat alle punten van een lijn die tot die figuur behoort op hun plaats blijven, terwijl alle punten die buiten die lijn liggen verplaatst worden. Een dergelijke lijn heet een rechte lijn. (Poincaré, Wetenschap en Hypothese, p. 77). Twee figuren zijn congruent wanneer men ze op elkaar kan leggen. Maar dit veronderstelt dat ze verplaatsbaar zijn zonder hun vorm te veranderen en wel op de manier zoals we onveranderlijk vaste lichaam verplaatsen. We blijven dus als wiskundigen vast zitten aan onze ervaring van de natuurlijke vaste lichamen. Volgens Poincaré veronderstellen de Euclidische definities impliciet het bestaan van onveranderlijke vaste figuren.

Drie eeuwen voor Christus onderscheidde Euclides de discrete punten en de continue lijn, en definieerde het begrip rechte lijn als volgt

Een rechte lijn is een lijn die gelijk ligt met de punten erop.”

Een “raadselachtige” definitie want geldt dat niet voor iedere lijn? In het volgende kijk ik terug op de periode in mijn leven dat ik wiskundestudent was aan de Technische Hogeschol Twente. Ik begon bij de zuivere wiskunde en studeerde af op een onderwerp in de informatica. Wie terugkijkt op zijn leven realiseert zich dat zijn levenslijn een rechte lijn is volgens de definitie van Euclides. De enige rechte en de kortste. De discrete momenten in het verleden vallen samen met de eenheid, de continue levenslijn, die de identiteit van de persoon uitmaakt. Ondanks alle onzekerheden van de keuzemomenten, ondanks al die zaken die de aandacht trekken en het ik af doet wijken van het voorgeschreven curriculum, de rechte lijn die als maat moet dienen voor een op een bepaalde toekomst gerichte studie, kunnen we stellen dat deze momenten liggen op ‘het kortste kronkelpaadje’ dat ik tijdens mijn studie heb afgelegd. Had ik op enig moment anders gekozen dan ik gedaan heb, dan was ik nu immers een ander geweest. Maar gegeven wie ik nu ben liggen achteraf de momenten vast en konden ze niet tot iets anders leiden dan tot het moment van nu. Zoals we in de kwantumfysica van elk individueel deeltje pas achteraf kunnen inzien waarom het de baan volgt die het heeft afgelegd. Leibniz dacht dat wanneer we de begintoestand van een systeem kennen we met behulp van de wetten der natuur, zoals Huygens en Newton die hebben geformuleerd, de toekomst ervan kunnen berekenen. Dat blijkt niet zo te zijn. “Je moet niet alleen de begintoestand maar ook de eindtoestand voorschrijven” om de baan van een deeltje te berekenen. (Vincent Icke, De Principes van Huygens, p. 114).

Ieder individueel leven heeft zijn eigen geometrie. Je daarvan bewust te zijn dat is het begin van de (soms als een verschrikkelijke last ervaren) vrijheid. Reeds Aristoteles sloot niet uit dat euclidische en niet-euclidische meetkundes naast elkaar als logische systemen kunnen bestaan. Dat zou alleen een probleem zijn wanneer met die logica’s ook één universele ontologie zou moeten bestaan. Niet alle levens hoeven elkaar echter te ontmoeten. Maar zonder de ontmoetingen zou het leven niet de moeite waard zijn. Ja, zonder die momenten zou dat leven zelfs inhoudloos zijn.

Een levenslijn: meer dan een wiskunde curriculum

Simpel gezegd komt het er op neer dat ik vanaf augustus 1970 tot eind 1978 wiskunde studeerde in Twente.

Maar zo simpel was het niet. Want wie was die ‘ik’ en wat had hij met die wiskunde? En waarom studeren aan een Technische Hogeschool? Het waren jaren van onzekerheid. Jaren waarin ‘ik’ zich afzette tegen alles wat pretendeerde zo te zijn zoals het zich voordeed of zoals men zei dat het was of moest zijn. Jaren ook waarin ik vooral wilde weten. Waarin ik alles mij wilde toe-eigenen. Waarin ik van elk plantje dat ik op eenzame wandelingen in de bosrijke omgeving van de campus tegenkwam wilde weten welke naam erbij hoorde, door te determineren. En vooral wilde ik begrijpen. Want wat zegt een naam nou helemaal. Maar ook wilde ik, kennelijk, zo weinig mogelijk tijd besteden aan de verplichtingen die het curriculum aan dat ‘ik’ oplegde: ‘vakjes halen’. Ik wilde zelf de maat van mijn studie bepalen. Er waren zoveel andere dingen die je bezig hielden: het onrecht in de wereld: de honger in ‘de Sahel of een andere hel’, de verliefdheden, de proliferatie van kernwapens, de acties tegen de neutronenbom, de demonstraties bij Kalkar tegen de bouw van “der Schneller Brüter”, de studentenacties voor democratisering van de universiteit. Ik moest in militaire dienst, maar ik weigerde. Ik had ‘gewetensbezwaren’. Zo heette dat. Ik moest een brief schrijven om dat toe te lichten en naar een psychiater (dr. Hanrath) in Den Haag. Die nam een test af in de vorm van een gesprek: of ik wel goed bij mijn verstand was. En dan kwam daar het eerste Rapport van De Club van Rome. De hele wereld was in een economisch model opgeslagen en op basis daarvan was berekend dat we zo niet door konden gaan met leven. De mens moest maar eens beseffen dat de wereld eindig is. Er zijn grenzen aan de groei. Ik had me altijd al afgevraagd waarom ‘de economie’ altijd moest groeien en hoe automatisering gelijk op kon gaan met het streven naar volledige werkgelegenheid. Kortom: het waren jaren waarin ik op zoek was naar zekerheid. Is het gek dat je dan uiteindelijk voor de wiskunde kiest? (2)

Eén ding wist ik zeker toen ik in Leeuwarden afstudeerde: ik moest en zou het huis uit. Het ouderlijk huis was te klein geworden. Maar wat te doen? Profvoetballer worden, want dat was wat ik het liefste deed: voetballen. Maar, denk toch aan je toekomst! Een psychologiestudie misschien. Omdat ik daarmee (of daarin) hoopte te vinden wat ik zocht: de eigen identiteit. Maar, zo vertelde de studievoorlichter in Groningen, dat ging iedereen tegenwoordig doen die wilde studeren (Eriksons ‘identiteitscrisis’ was populair) en daar was geen droog brood mee te verdienen. Ik was goed in de exacte vakken. Dat moest dan maar de doorslag geven en dus werd het ‘iets technisch’. Bovendien vond ik bewijzen leuk. En knutselen. Maar dat is misschien wel hetzelfde. De motieven om naar Twente te gaan: het wonen op de campus, de bosrijke omgeving, de sportfaciliteiten, hadden niets met een technische studie te maken. Kon ik zo’n studie eigenlijk wel aan? Waarom niet naar de HTS? Dat kon immers in Leeuwarden. Geen denken aan! Naar Twente. God zegen de greep.

Het P1 haalde ik in één jaar. Toen had ik voor mezelf wel bewezen dat ik de studie aan zou kunnen. De rest ging minder snel: in 1973 rondde ik de propedeuse af, in 1975 mijn baccalaureaat (bij Kees Hoede op een onderwerp in de topologie: balanced incomplete block designs, zuivere wiskunde, geen idee waar het goed voor was). Eind 1978 studeerde ik af bij de vakgroep Theoretische Informatica op de formule Z(Z) = Z(Z), waarbij Z = λx.x(x) de zelfapplicatie functie is. Dat is de mathematische uitdrukking van de zelfstandigheid van de programmeerbare automaat.

Die Z(Z) links van het =-teken moet je lezen als een applicatie (of een opdracht daartoe) van de zelfapplicatiefunctie Z op zichzelf als argument. Die Z(Z) rechts is het resultaat van deze bewerking. Het is dus een ‘dynamische gelijkheid’. In principe niet veel anders dan meer bekende ‘gelijkheden’ als 4/8 = 1/2 of 5 + 7 = 12. Wat links staat is een (opdracht tot een) bewerking, maar ook al aanduiding van het resultaat. Wat rechts staat is het resultaat nog een keer, maar in een normaalvorm. In de Z(Z)=>Z(Z) gaat de bewerking over in de bewerking zelf, ad infinitum. Zoals een onbelaste motor in zichzelf blijft draaien. In onbelaste vorm volstrekt nutteloos, maar zelfapplicatie kom je overal tegen waar geprobeerd wordt op mathematische wijze automatie of het leven te begrijpen en in een mathematische formule uit te drukken. De wiskunde is de wetenschap van het =-teken. De informatica gaat over hoe de betekenis van de wiskunde-formules gerealiseerd worden door deze volgens hun betekenis te herschrijven.

Het vakkenpakket

Mijn vakkenpakket is verdeeld in:

De wiskunde: 18 vakken, waarvan drie bij Louk Fleischhacker: inleiding logika, mathematische logika en axiomatische verzamelingenleer. Projectieve meetkunde deden we in een klein studiegroepje met Professor van Spiegel op zijn kamer, het boek van A. Heyting op schoot. Hét struikelvak was Statistiek dat ik vier keer moest doen voor ik een voldoende had. Kansrekening en statistiek ging me pas boeien toen ik vele jaren later Probability Theory, the logic of science, van de fysicus E.T. Jaynes las. Jaynes was een echte Bayesiaan. Over de statistiek zoals die standaard aan de universiteiten gegeven werd zei hij: “de wiskundigen hebben er een zootje van gemaakt”.

De informatica (5) en de praktika ALGOL LISP ASSEMBLER en numerieke wiskunde en programmeermethoden. Bij het ALGOL praktikum leverde je je programmaatje in op een velletje papier. Een secretaresse maakte daar ponskaarten van. De student-assistent, P.P. van Diemen de Jel, een ouderejaars flatgenoot, hield die dan tegen het licht om te kijken of er een foutje in de code zat. Vervolgens werden de kaarten na eventuele correctie in de machine gestopt die het programma uitvoerde.

De technische vakken (11) waaronder lab-werk scheikunde. Hieronder ook het vak Informatietheorie van Dirk Kleima (“bewijstechniek is net zo belangrijk als soldeertechniek”). Kleima behandelde in dit boeiende college de statistische theorie van communicatiekanalen en de coderingstheorie van Shannon en Weaver. Hij behandelde het gedachtenexperiment van het Maxwell-duiveltje en bewees met een krijtje op het bord dat informatieuitwisseling energie kost. Ergo: het duiveltje bestaat niet. Dat je zoiets kan bewijzen!

De WMW vakken (8), waaronder Wijsbegeerte van het Wiskundig Denken van Louk Fleischhacker en Sociale Filosofie van Pieter Tijmes. Maar ook staat het vak Mens, Ervaring en Geloof over Godsdienstpsychologie van Viktor van der Hurk op de lijst. Viktor was tevens pastor bij het oecumenisch Campuspastoraat, net als Paul van Dijk die het college Ethiek gaf en Arnulf Sibbing, met wie ik nog eens een week zonder een cent op zak door Twente heb gewandeld. We werkten bij boeren en sliepen in een hooiberg of in de stal. Ik las met veel interesse het tweedelige werk van Han Fortmann Als Ziende de Onzienlijke, waarin o.a. Freud, Jung en Marx’ projectietheorie van de religie: ‘opium van het volk’ aan de orde kwamen. Het geloof dat ik van huis uit had meegekregen, maar dat ik als een oude boterham had weggedaan, bleef me achtervolgen. Ook dat wilde ik begrijpen.

De onderwijskunde vakken (4), waaronder vakdidaktiek. Een paar studenten hadden zich verenigd in hun kritiek op de nogal traditionele onderwijsvorm waarin de meeste vakken gegeven werden. We deden daarover een studie en schreven een rapport met aanbevelingen. Dat werd door de vakdocent erg gewaardeerd en beschouwd als onderdeel van onze studie. Na een hospiteerstage bij Marianum in Groenlo, waar ik een paar weken de docent wiskunde verving, had ik mijn onderwijsaantekening verdiend. Na mijn studie was ik “eerste graads bevoegd om wiskunde en natuurkunde te geven”. Ik zou docent worden.

Naast mijn studie was ik student-assistent bij de groep van de polemoloog Peter Boskma en de fysicus Wim Smit. In het Boerderijproject werden onder leiding van Frans-Bouke van der Meer simulatiestudies gedaan naar de effecten van vakbondsstrategieën op de dynamiek van arbeidsconflicten.

De DDR-reis: 31-03-1975 tot 10-04-1975

Met zijn achttienen maakten we onder leiding van docent sociale filosofie Pieter Tijmes een studiereis naar de DDR (4). Ter voorbereiding waren er bijeenkomsten waarin lezingen werden gehouden over De Koude Oorlog, De Geschiedenis van de DDR, de Pers (we lazen de staatscourant Neues Deutschland en maakten zo kennis met ‘de Waarheid’). Maar ook het Onderwijs en de Ekonomische Orde (Marxisme) kwamen aan bod. De treinreis ging vanaf Münster via Eisenach en Gerstingen (4 uur oponthoud voor passen en bagage-controle bij de grens), onder politiebegeleiding naar Erfurt, waar we opgevangen werden door onze Betreuer (gids). Overnachten in een Jugendherberg, eigendom van de Sovjet Unie, met veel jongeren uit Polen, Hongarije en Roemenië. “In de straten in Erfurt hangt een eigenaardige sfeer die me doet denken aan de boeken van Dostojewski. Er rijden zeer smalle, oude trammetjes rond waarvan de deuren met veel herrie open en dicht gaan, waarbij een snerpende bel klinkt.”, zo lees ik in mijn dagboekaantekeningen. We discussiëerden met studenten en medewerkers van de pedagogische akademie over kernbewapening, het communisme, de verhouding tussen de DDR en de Sovjet-Unie. Ook was er een bijeenkomst met meisjes van de FDJ, de Freie Deutsche Jugend. Op een gegeven moment ving ik het woord ‘Fruchtabtreibung’ op. Waar gaat dit over? vroeg ik aan een studente die naast me zat. Het bleek over abortus te gaan. Het was een leerzame reis. In Weimar bezochten we het Goethe en Schiller huis. In de boekwinkels in de DDR kun je heel goedkoop literatuur kopen: Goethe, Schiller, Heine, en uiteraard veel Marx, Engels en Lenin. Ik kocht voor slechts 5.20 Ostmark een luxe uitgave van Marx’ Zur Kritik der Politischen Ökonomie. Veel indruk op mij maakte het bezoek aan het Konzentrationslager Buchenwald (“Jedem das Seine” staat boven de poort) op de gure noordelijke helling van de Ettersberg bij Weimar. Vele duizenden door de nazis gevangen genomen Joden, communisten, Roma, Sinti, kwamen er vanwege dwangarbeid onder mensonterende omstandigheden om het leven.

Het Hek van Buchenwald (Ieder het zijne)
Door Pascal Rehfeldt – Eigen werk, CC BY-SA 3.0

Stage in Israël

In juli 1976 ging ik voor drie maanden via IAESTE op stage naar Israël.

Waarom Israël? Door mijn opvoeding in een streng katholiek gezin (in het noorden zijn katholieken stricter in de leer dan in Brabant en Limburg) had Israël een bijzondere betekenis voor mij als het land van de Bijbel. Bovendien werd het sinds de opkomst van Herzl’s zionisme als het Beloofde Land van de Joden beschouwd. Israël had ook een magische klank vanwege de kibboets, de collectieve landbouwnederzettingen.

Deze kans kon ik niet laten liggen. Ik ging werken bij IBM (spreek uit: jot bet mem), werelds meest vooraanstaande computerbedrijf, in Tel-Aviv.

Het was een moeilijke tijd. Het was in een periode waarin regelmatig aanslagen werden gepleegd door de PLO (de Palestijnse Bevrijdingsorganisatie). Eind jaren 60 begin jaren 70 werden door sympatisanten van de PLO vliegtuigen gekaapt om aandacht te vragen voor het zelfbeschikkingsrecht van de Palestijnen of om gevangen Palestijnen vrij te krijgen. Mijn sympathie ging naar de Palestijnen, de onderdrukten, de indirecte slachtoffers van de jodenvervolging in Europa en de halfslachtige politiek van de westerse landen. Ik vloog met ELAL vanaf een startbaan op Schiphol; om veiligheidsredenen ver van de gates. Mijn eerste vliegreis. Na aankomst op de luchthaven Ben Gurion moest ik met de bus naar Tel Aviv. Voor mij in de rij stond een militair die bij het instappen plotseling bukte: hij had een handvol kogels laten vallen die hij rustig weer bijeenraapte en in zijn zak stopte voordat hij de bus in stapte. Shalom, welkom in Israël. Een land waar politie en militairen overal aanwezig zijn. Waar je nog geen minuut een tas kan laten staan of een beveiliger vraagt of die tas van u is. Ik logeerde in een studentenappartement op de campus van de Technische Universiteit. Hier, op dit terrein in het noorden van de stad was vroeger een Palestijnse nederzetting. Studenten van de universiteit liepen bij toerbeurt gewapend met een geweer wacht bij de poort van het door hoge hekken afgebakende campusterrein. Ik was als gast vrijgesteld en kon met een pasje in en uitlopen.

Bij aankomst bij het IBM gebouw aan Petah-Tikva Road in Tel-Aviv vroeg mijn stagebegeleider, Shimon Yagil heette hij, welke studierichting ik volgde. “Applied Mathematics”. Waarop hij lachte en vroeg of je ook “Unapplied Mathematics” kon studeren. Ik weet niet meer wat ik geantwoord heb. Ik heb daar nog wel over nagedacht. Had ik moeten zeggen dat er ook zoiets als ‘zuivere wiskunde’ bestond? Maar werd die dan niet toegepast? Had hij misschien begrepen dat ‘applied mathematics’ eigenlijk helemaal géén wiskunde is. En dat de zuivere wiskundige eigenlijk een informaticus is. Had hij zich misschien ook al afgevraagd wat Euclides in zijn Elementen, het begin van de zuivere, axiomatische wiskunde, bedoelde toen hij de rechte lijn definieerde met: Een rechte lijn is een lijn “die gelijk ligt met de punten erop“? Een “raadselachtige omschrijving”, zoals de psychiater J.H. van den Berg in zijn geschiedenis van de niet-Euclidische meetkundes opmerkt. (5)

Hoe kun je een definitie van iets geven dat niet voorstelbaar is en dat ook niet refereert naar iets dat al bij de lezer bekend is? Dan moet die definitie wel naar iets in die definitie zelf verwijzen. Zo’n definitie moet het dus van de woorden of tekens hebben waarin het begrip dat door de definitie wordt uitgedrukt zelf wordt uitgedrukt. “Zo’n circulaire definitie, dat mag niet”, zeiden de filosofen. “We doen het toch”, zeggen de informatici en ze schrijven programma’s met recursieve definities van functies die zichzelf aanroepen. Wat is het probleem! Het werkt toch! In iedere zuivere wiskundige schuilt een informaticus. En deze vraagt zich vervolgens verbaasd af hoe het toch mogelijk is dat zijn wiskundige structuren werken.

Hoe kunnen we iets tot stand brengen alleen maar door middel van de woorden waarmee we definiëren wat het is? Zijn de Godsbewijzen niet gebaseerd op hetzelfde principe? Neem Anselmus’ Godsbewijs. Het prijkt op de omslag van het boek met wel acht Godsbewijzen, verzameld door de wiskundige en filosoof Emanuel Rutten. Anselmus definieerde: “God is datgene waarboven niets groters gedacht kan worden“. Omdat bestaan iets groter maakt dan niet-bestaan moet God wel bestaan. Kortom: omdat God het grootst denkbare is, bestaat God. Mijn studiegenoot de wiskundige en logicus Albert Visser (6) zei van Anselmus’ Godsbewijs dat het hem niet kon overtuigen. Waarom niet? “Omdat ik de intuïtie heb dat zo’n soort stelling niet bewezen kan worden met zo’n simpel ‘logisch’ argument. (…) Er worden heel weinig specifieke inzichten aangaande God gebruikt, terwijl Hij – zo hij al bestond – toch een heel individueel iets zou moeten zijn. Anselmus laat God meer lijken op het neutrino, waarvan het bestaan voorspeld kon worden nog voor het experimenteel ontdekt was.” Gods bestaan is een hypothese, die kun je aannemen, zoals je aan kunt nemen dat Israël het door God Beloofde Land is. Maar je kunt daar ook van afzien.

Shimon Yagil wees me een bureau en gaf me een opdracht waaraan ik een paar maanden heb zitten puzzelen. Het Ministerie van Handel in Jeruzalem had IBM gevraagd een programma te maken voor het op kostenefficiënte wijze vervoeren van goederen per boot van Haifa naar diverse havens in de VS en weer terug. Een lineair programmeerprobleem waar ik geen enkele ervaring mee had. Toen ik wat had gevonden schreef ik de programmatekst uit op papier en bracht dat naar het rekencentrum van IBM aan de overkant van de straat waar ik later de resultaten weer op kon halen. Ik werd er snipverkouden van want buiten was het erg warm en binnen koud, van de airco. Eens in de zoveel tijd reisde ik met de bus naar Jeruzalem voor overleg op het ministerie. Ik kan me niets meer herinneren van hoe dat ging, maar wel dat de busreis altijd een hele spannende belevenis was. Je hoorde regelmatig van aanslagen, onlangs nog in Netanya, de badplaats die ik in een weekend bezocht had. Je moest altijd op je hoede zijn. Je werd voortdurend benaderd door hulpbehoefenden, meest arabieren, de tweede of derderangs burgers van het land, die geld van je wilden voor medicijnen voor hun kind dat ziek was, of voor de tandarts. Als je dan zei dat je geen dollars had: “Ik werk hier, ik verdien een paar lira.” (150 IL per maand, een hongerloon) dan werden ze kwaad en agressief. Wat was ik blij toen de stageperiode erop zat en ik mijn vriendin, die overkwam uit Nederland voor een korte vakantie, op kon halen van het vliegveld. We reisden via Jerusalem en Beersheva naar de Dode Zee en via Bethlehem en Ashkelon terug naar Tel Aviv. Door mijn stage in ‘Het Beloofde Land’ zeggen deze namen me waarschijnlijk net iets meer dan wanneer ik er niet was geweest.

Ik studeerde af bij de groep Theoretische Informatica op een onderwerp op het grensgebied van de filosofie van de techniek en de wiskundige semantiek van programmeertalen. Louk Fleischhacker en Professor Leo Verbeek waren mijn afstudeerbegeleiders.

Afscheid: het contrafactisch postulaat

In het zelfde jaar waarin ik naar Twente kwam, kwamen Pieter Tijmes en Louk Fleischhacker naar Twente om onderzoek te doen en les te geven bij de groep Systematische Wijsbegeerte. Hun onderwijs betekende voor mij een belangrijke schakel tussen de twijfel die het filosofische denken begeleidt enerzijds en de zekerheid die voortkomt uit de wiskundige denkhouding anderzijds. (7)

In juni 2001 namen zowel Pieter Tijmes als Louk Fleischhacker afscheid van de Universiteit. Dat deden ze samen met een symposium dat als thema had: de moderniteit. Daar verdedigde Louk de these dat ‘de moderne westerse mens’ gekenmerkt wordt door een houding waarin hij zichzelf opvat als deel van de zelf gepostuleerde ideële werkelijkheid. De moderne mens beseft dat hij vanuit een (mathematisch) geconstrueerde ideële werkelijkheid de reële werkelijkheid (technisch) kan vormgeven. Deze moderne attitude berust volgens Louk op een filosofisch, ‘contrafactisch postulaat’. Filosofische postulaten over de menselijke autonomie, of over de mogelijkheid van kennis van de werkelijkheid, zijn geen ontdekkingen (geen bewijsbare waarheden of aantoonbare feiten), maar behelzen veeleer een metafysisch project dat de moderne mens door hard werken tracht te verwerkelijken. In de hedendaagse informatie- en communicatietechnologie komt deze moderne attitude het beste tot uitdrukking. In die technologie wordt immers het menselijk redeneren (en daarmee zijn taalgebruik) steeds verder in reële (fysische) processen buiten ons geïmplementeerd. Met zijn these verwees Louk indirect naar het onderwerp van mijn afstudeerproject. Hij wees niet alleen op de feilbaarheid van dit project, maar stelde dat we ook aandacht moeten hebben voor het positieve moment dat hieruit voort zou moeten vloeien: een voorzichtige en contemplatieve houding. Een houding waarin we de werkelijkheid ontmoeten in plaats van deze te willen beheersen.

Hierop reflecterend realiseer ik me hoe de ‘moderne houding’ niet alleen in de technologie van de AI tot uitdrukking komt, maar ook in de secularisering van Het Beloofde Land, de metaforische belofte van God aan Abraham, die door de mens ‘naar beneden werd gehaald’ en getransformeerd tot Theodor Herzls idee van Der Judenstaat, een ideële constructie die door middel van een project in de vorm van de staat Israël, een staat zonder grenzen, werkelijkheid moest worden. En moeten we ook het bestaan van God en het bestaan van ‘bewuste AI’, niet beschouwen en begrijpen als ‘contrafactische postulaten’, ideële constructies aan de verwerkelijking waarvan de moderne mens door hard werken (het leveren van een overtuigend ‘bewijs’, het doen van empirisch onderzoek) bijdraagt, in plaats van als een uitdrukking van iets wat we al aangetroffen zouden hebben en dat simpelweg bestaat? (8)

Terugkijkend naar het verleden van dat ‘ik’, dat van 1970 tot 1979 met zijn studie van de wiskunde aan de TH Twente en met zijn zoektocht naar zekerheid een wankele basis legde voor wat komen zou, denk ik dat hij ‘het kronkelpaadje af heeft gelopen dat achteraf de kortste weg blijkt te zijn’ naar wie dat ‘ik’ nu is. (9) De momenten van dat leven zijn pas achteraf als momenten van dat leven geworden. Had ik op die keuzemomenten op een andere wijze mijn vrijheid gerealiseerd dan was ik niet geworden wie ik nu ben. Vanuit het perspectief van een Minister van Onderwijs die de studie meet aan de hand van het standaard curriculum moet gezegd dat er vele afleidingen waren die de student deden afwijken van ‘de rechte lijn’. Dat de levenslijn achteraf beschouwd niettemin de kortste weg was, toont aan dat ieder individueel leven slechts begrepen kan worden als realisatie van zijn eigen niet-euclidische geometrie.

Noten

  1. Deze tekst schreef Rouke Henstra in het exemplaar van zijn baccalaureaatsverslag. “Voor Rieks, omdat hij een bijzondere buurman was.” En dat was wederzijds. Rouke was mijn buurman aan de Witbreuksweg waar ik het tweede jaar van mijn studie woonde. Hij studeerde af bij Anton Jetten op ‘lerende automaten’, een studie op het gebied van de algebra van half-groepen en de formele talen. Vele lange avonden zaten we samen en bespraken we een boek; fenomenologie of psychologie. Metabletica van de Materie van de psychiater J.H. van der Berg was zo’n boek. Van Rouke leerde ik het recept voor “paaltjes” voor als je echt niets anders meer in huis had en de winkel dicht of het geld op: macaroni met hagelslag. Klaar in nog geen 10 minuten. Rouke ging na zijn baccalaureaat in Utrecht verder studeren. Mede door hem besloot ik na de propedeuse over te stappen van Electrotechniek naar de Toegepaste Wiskunde.
  2. Ik ben geboren in 1952. Het jaar waarin Aad van Wijngaarden, directeur van het Mathematisch Centrum de ARRA (Automatische Relais Rekenmachine Amsterdam), de eerste Nederlandse rekenmachine, aan pers en politiek laat zien. “Die ARRA deed het niet” schrijft Gerard Alberts, met wie ik in Amsterdam deelnam aan het Colloquium Anthropologische Interpretaties van de Techniek onder leiding van Maarten Coolen, over deze historische gebeurtenis. Gerard promoveerde op de veranderende verhoudingen van de wiskunde met de werkelijkheid en de taak van de wiskundige in Nederland in de eerste helft van de vorige eeuw. De technologie van de automatisering zou mijn leven nog vele jaren blijven boeien. Na mijn studie promoveerde ik bij Informatica en werd ik docent Kunstmatige Intelligentie en Converserende Agenten aan de Universiteit Twente. Ik werkte aan het “formaliseren van de natuurlijke taal” zodat de machine onze eigen taal zou kunnen verstaan en spreken. Toen ik eens aan Louk, mijn afstudeerbegeleider, die ik als mijn leermeester beschouw, vertelde dat ik daar mee bezig was, zei hij: “Dat is nog een hele klus, want dan moet je de hele mens formaliseren”. Hij had gelijk. Zoals zo vaak. De sprekende sociale robot was (en is) een feilbaar project.
  3. “Het is niet verwonderlijk dat juist wiskundigen buitengewoon veel belang bleken te hechten aan een onvoorwaardelijke absolute zekerheid op het terrein van leven en kennen” schrijft de theoloog Hans Küng in zijn magistrale werk Bestaat God?. “De zekerheid van de wiskunde, die iedere twijfel uitsluit, werd in de moderne tijd het heimwee van de filosofen.” Over dat ‘heimwee’ ging onder andere het college Wijsbegeerte van het Wiskundig Denken van Louk Fleischhacker. Hij promoveerde op een onderzoek naar het kwantitatieve aspect van de zintuiglijke ervaring, waar het wiskundig denken bij aansluit. Het is die kwantitatieve uitwendigheid die aan alle werkelijkheid zit waar de technologische beheersing de natuur bij de lurven pakt om die naar onze hand te zetten in plaats van haar te ontmoeten. Want, zo leerde Louk ons, de werkelijkheid laat zich mathematiseren voor zover er van de eigen aard ervan wordt afgezien. Voor die ‘eigen aard van de natuur’ hebben we veel te lang geen oog gehad, waardoor we nu met de gebakken peren zitten.
  4. Behalve docent Pieter Tijmes gingen mee: Bert Zuurke, Tom Vollers, Louk Stolwijk, Ton Kleinegris, Dick Stegeman, Bob Verschoor, Pieter Weeder, Pauline van Andel, Rieks op den Akker ,Jan, Buys, Roelof Landman, Marleen Mulder, Kees van Arnhem, Ali Lely, Menno van de Most, Sjirp de Boer en Joke de Boer.
  5. Wat Euclides doet is wiskunde bedrijven. In een tijd waarin het voor de mens nog alles behalve gesneden koek is dat wiskundige objecten niet op dezelfde wijze bestaan als de waarneembare dingen om hem heen. Getallen zijn geen dingen zoals stoelen en tafels. Het zijn ‘gedachtedingen’. Een punt is niet een waarneembaar object, zoals een steen of een appel. Een appel is deelbaar, uitgebreid. Een punt is dat niet. “Een lijn is een lengte zonder dikte.” Negatieve bepalingen. Dit is geen fysica! zo wil Euclides ons zeggen. Van een ‘fysische’ lijn kunnen we soms zeggen dat de dikte verwaarloosbaar is, maar niet dat deze geen dikte heeft. Het is een vorm van mathematisme (zeer populair overigens) te denken dat de mathematische lijn door een ‘limietproces’ uit een fysische lijn kan ontstaan, namelijk door de dikte naar nul af te laten nemen. Fysische objecten en mathematische objecten behoren tot verschillende zijnsordes. Hoe moeten we nu Euclides ‘raadselachtige definitie’ van de rechte lijn begrijpen? Bij de wiskundige en historicus E.J. Dijksterhuis vinden we de volgende definitie van de rechte lijn. Die wijst ons naar de oplossing van dit raadsel. “Een rechte lijn is een lijn die, wanneer het oog twee punten ervan doet samenvallen, alle punten voor dat oog in het samenvallende punt brengt.” Je ziet het de timmerman doen. Om te bepalen of een lat recht is, houdt hij deze op ooghoogte in het verlengde van de kijkrichting en beweegt deze zo dat het eindpunt samenvalt met het beginpunt ervan. Als er geen tussenliggende punten van de lat zichtbaar zijn is de lat recht. Deze ‘definitie’ maakt gebruik van een zichtlijn en veronderstelt dat de zichtlijn recht is. Mogen we dat zomaar aannemen? Volgt het licht een rechte lijn? Volgens de huidige inzichten in de fysica niet. De materie zou de ruimte krom trekken. We kunnen niet zeggen welke weg een individueel lichtdeeltje gaat. Het gaat ‘zijn eigen weg’. Maar Euclides bedreef geen fysica en kon dus geen beroep doen op zoiets als een zichtlijn. Hoe redde hij zich hier uit? Door gebruik te maken van een middel waarvan in zijn tijd wel vaker door de filosofen gebruik was gemaakt. Euclides redeneerde namelijk zo: een rechte lijn bestaat uit rechte lijnen. Een stel punten, die een lijn vormen, vormen een rechte lijn wanneer voor elk tweetal punten ervan geldt dat als je er een rechte lijn tussen trekt, de andere er allemaal op liggen. Zolang de wiskunde bestaat is het een probleem hoe die zich tot de waarneembare werkelijkheid verhoudt; hoe het komt dat wiskunde toepasbaar is, maar ook wat de grenzen aan die toepasbaarheid zijn. Zie daarover het proefschrift van L.E. Fleischhacker, Over de grenzen van de kwantiteit (Mathematisch Centrum, Amsterdam, 1982) of zijn Beyond Structure. Ook zijn filosofiecollege ging daarover.
  6. Albert Visser was altijd aan het tekenen in de kantlijnen van zijn collegedictaten, op losse blaadjes en waar niet op. Grappige fantasiefiguurtjes in een heel herkenbare stijl. Sommige verschenen in de afdelingsbulletins Ideaal van TW en Scintilla van EL. Albert ging gelijk met Rouke Henstra naar Utrecht en werd daar later hoogleraar logica. Ik heb veel gehad aan zijn kritische beschouwingen toen ik hem vertelde over mijn afstudeerproject. Hij kende de valkuilen op het grensgebied van filosofie en wiskunde. Precies daar gaat het artikel over waarin Albert Lucas’ Argument (tegen de dwaas die zegt: de mens is een machine) weerlegt. Hij vergelijkt daarin Lucas argument met Anselmus argument voor het bestaan van God.
  7. Louk overleed, veel te vroeg, in het voorjaar van 2006. Op zijn crematie gaf Pieter Tijmes een treffende beschrijving van de stijl van Louks colleges: “Geen hoorcolleges, maar een vormings­werk­achtige happening”. Inderdaad, Louk gaf je het idee dat je als student ook zelf iets zinvols in te brengen had en de inhoud van de zaak waarover het ging mede vorm gaf. Louk wàs filosofie en hij leerde je dat het in een college filosofie niet gaat om informatieoverdracht. Op één of andere manier heeft dat mij duidelijk gemaakt dat er iets met dat taalbegrip in ons tijdperk van de informatica niet in de haak is. Dat het leven geen taalspel is waarin de woorden slechts functioneren, zoals Wittgenstein dat voorstelde.
  8. Over de achtergrond van de relatie tussen beide ideeën: het bestaan van God als Causa sui en het bestaan van de denkende, bewuste machine, verwijs ik naar het werk van Jan Hollak. Met name naar zijn beroemde inaugurele rede “Van causa sui tot automatie” en naar het artikel “Enige beschouwingen over de eigenaard van het godsbewijs.”. Beide zijn opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak. Uit dat laatste artikel citeer ik over de geperverteerde vorm van de moderne godsidee. Zo’n godsidee “wordt in een politieke theologie gefunctionaliseerd tot middel in een strijd om een volmaakte menselijke samenleving waarbij beide (zijden) niet zien dat zij daarmede op hun beurt eenzelfde fout begaan door aan eindige waarden een absolute betekenis toe te kennen: de volmaakte mens, respectievelijk de volmaakte samenleving, niet als nastreefbaar ideaal, maar als bereikbaar objectief idee.” (Denken als bestaan, p. 413) Via Louk maakte ik kennis met het denken van Hollak. Zijn artikel “Hegel, Marx en de Cybernetica” was als bijlage opgenomen in Louks collegebundel over het mathematische denken en de informatietechnologie. Het zou de aanleiding vormen voor mijn afstudeerproject over de zelfapplicatie van functies in de denotationele semantiek van programmeertalen als wiskundige uitdrukking van de ideale zelfstandigheid van de programmeerbare machine.
  9. Met dank aan de fysicus en Minister van Onderwijs en Wetenschappen Robbert Dijkgraaf die in zijn nota Inzet Werkagenda mbo over het Middelbaar Beroeps Onderwijs (20 oktober 2022) opmerkt: “Voor mij staat voorop dat elke student een duurzame toekomst met perspectief verdient. Ongeacht achtergrond, sociaal-economische positie van hun ouders of ondersteuningsbehoefte moet iedereen mee kunnen doen in de maatschappij en op de arbeidsmarkt. Iedereen heeft bij zijn studie de rust en ruimte nodig om z’n eigen weg te vinden. Om het kronkelpaadje af te lopen dat achteraf de kortste weg naar de bestemming blijkt te zijn.” Daarmee wil hij, denk ik, zeggen dat hij liefst geen lijn (curriculum) zou willen opleggen voor de levenslijn (studie) die de student zou moeten volgen en die zou moeten dienen als maat om te bepalen of deze succesvol (recht en daarmee de kortste) is. ‘De bestemming’ wordt door iedere student zelf tijdens zijn leven bepaald en is niet een punt in de toekomst dat al van te voren vastgelegd kan worden. Zoals je van een deeltje in de fysica ook pas achteraf de weg kan berekenen die het is gegaan. De kortste, rechte, levenslijn is die waarop alle momenten van het leven tot aan het nu liggen. Dat geldt niet alleen voor studenten en schoolse curricula. Het zal duidelijk zijn dat deze stelling ethische consekwenties heeft voor het beoordelen van het ‘nut’ van de momenten van een mensenleven. Albert Visser: “Voor dat kronkelen was destijds veel meer ruimte dan nu. De professionalisering van het curriculum heeft het moeilijker gemaakt. Toen ik in Utrecht begon kwamen talentvolle doctoraalstudenten bij mij thuis om dingen buiten het programma te lezen. De moderne docent heeft voor zulke dingen simpelweg geen tijd.”

Met dank aan Albert Visser voor zijn commentaar op een eerdere versie. Eventuele feitelijke onjuistheden zijn natuurlijk voor mijn rekening.

Bronnen

Beason, Michael (2022). On the notion of equal figures.

Dit artikel bespreekt de notie ‘area’ (oppervlak, of ruimte die een figuur inneemt) een notie die bij Euclides niet expliciet voorkomt. Maar het bewijs dat Euclides geeft van de stelling van Pythagoras gaat wel uit van het deelbaar (knippen) zijn van een vierkant of driehoek en het verplaatsen ervan. Euclides meet geen lengtes en oppervlakte, kent er geen getal aan toe. Meetkundige figuren krijgen daardoor iets fysisch, materieels. Verplaatsen wordt dan ook beschouwd als een mechanische notie, niet als een mathematische. Poincaré bespreekt dit punt ook. Tegenwoordig wordt dit door middel van een afbeelding (functie) beschreven. De dekpunt-verzameling van een functie van de punten van een vlak in dat vlak zelf die twee punten a en b bevat vormt een rechte lijn tussen a en b. Dit veronderstelt echter de notie ‘plat vlak’. Bij Descartes krijgen de punten een locatie t.o.v. een als vast gedacht assenstelsel. Punten en lijnen, geometrische objecten, zijn dan dingen die in een reeds bestaande ruimte lijken voor te komen.

J.H. van den Berg (1969). Metabletica van de materie – meetkundige beschouwingen. Tweede druk, Uitg. Callenbach NV, Nijkerk, 1969.

J. Christiaan Boudri (1994). Het mechanische van de mechanica – Het krachtbegrip tussen mechanica en metafysica van Newton tot Lagrange. Proefschrift Universiteit Twente. Promotor: Prof. dr. H.F. Cohen.

E.J. Dijksterhuis (1930). De elementen van Euclides. Twee delen. Groningen, 1929, 1930.

L.E. Fleischhacker, Over de grenzen van de kwantiteit, Proefschrift, Uitgave Mathematisch Centrum, Amsterdam, 1982.

Fleischhacker, Louk E. (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

Hartshorne, Robin (2000). Geometry: Euclid and Beyond, Springer-Verlag, New York, 2000.

Th. L. Heath (1956). The thirteen Books of Euclid’s Elements, 2 Volumes, New York, 1956.

G.W.F.Hegel (1837). Vorlesungen über die Philosophie der Geschichte. Philipp Reclam Jun. Stuttgart. Universal Bibliothek, 1961.

Hollak, Jan H.A. (1963). Hegel, Marx en de Cybernetica, in: Tijdschrift voor Philosophie (25) 1963, pp 279-294. Ook opgenomen in de bundel Hollak en Platvoet (2010).

Hollak, Jan H.A. (1968). Betrachtungen über das Wesen der heutigen technik. Kerygma und Mythos VI Band III, Theologische Forschung 44, 1968, Hamburg, Evangelischer Verlag, pp 50-73. Ook opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak (Hollak en Platvoet, 2010).

Hollak, Jan en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin opgenomen.

Poincaré, Henri  (1979). De niet-euclidische meetkunden. Opgenomen in de bundel Wetenschap en Hypothese, Boom Meppel, 1979.

Proclus (1792). The Commentaries of Proclus on the First Book of Euclid’s Elements of Geometry. Translated by Thomas Taylor (London, 1792) Transcribed by David R. Wilkins August 2020.

Proclus Diadochus (412-485 na Chr.) . Hij schreef uitvoerig commentaar op het werk van Euclides van Alexandrië (300 v Chr). Bij hem vinden we een stelling die gelijkwaardig is aan het parallellenpostulaat; de som van de drie hoeken van een driehoek is gelijk aan een gestrekte hoek.

Imre Tóth (1972). Die nicht-euklidische Geometrie in der Phänomenologie des Geistes. Wissenschaftstheoretische Betrachtungen zur Entwicklungsgeschichte der Mathematik. Horst Heiderhoff Verlag, Frankfurt am Main. 1972.

Volgens Imre Tóth toonde de ontdekking van de niet-euclidische meetkunde aan dat Kant gelijk had dat de meetkunde synthetisch apriori kennis inhoudt. De fysische werkelijkheid is immers niet niet-euclidisch, dus deze meetkunde zegt niets over de ruimte zoals we die kennen.

Tóth betoogt dat de meetkunde ontstaan is uit de praktijk van de omgang met de natuur. Ook al is het een ‘zuivere wetenschap’ (Kant). De niet-euclidische axioma’s zijn in feite negaties van dezelfde inhoud waar ook de euclidische meetkunde over gaat. De inhoud is het begrip, driehoek. Euclidisch: de hoekensom van alle driehoeken is 2R. Niet-euclidisch: de hoekensom van alle driehoeken is niet 2R. Het is niet mogelijk dat sommige driehoeken een som hebben van 2R en andere niet. Maar dit sluit niet uit dat er zowel euclidische als niet-euclidische meetkundes kunnen bestaan. (p.16).

Tóth wijst erop dat Aristoteles de enige was voor wie het een ‘reeële’ mogelijkheid was dat een driehoek een hoekensom heeft die niet gelijk 2R is. Tóth sluit niet uit dat er zowel, naast elkaar, euclidische als niet-euclidische ruimtes kunnen bestaan. Hij besteedt een lange voetnoot 112 aan het punt dat een formele logica niet als een ontologie hoeft te worden beschouwd.

Waarvan men niet kan spreken…

“The unspoken is present in all speech.” (Louk Fleischhacker)

If we ask the question “What is it Derrida is trying to say, here?” that very question—a mode of inquiry which seeks to discover what an author is saying in and by the writing—is logocentrism par excellence.” (David J. Gunkel In: Does writing have a future)

De stripfiguur Ollie B. Bommel eindigde zijn betoog vaak met de woorden: “Als je begrijpt wat ik bedoel”. Wat zou de heer Bommel moeten doen als het antwoord zou zijn: “Nee, ik begrijp het niet”? Nog eens hetzelfde zeggen, maar met andere woorden? Kan dat? Hetzelfde zeggen, maar dan precieser? Waarom kunnen we niet alles meteen zo helder en precies mogelijk zeggen?

Ik toon u hier niet wat woorden om u iets te lezen te geven. Ik heb u wat te zeggen. Het is alledaags, maar daarom niet minder opmerkelijk: dat wij door elkaar woorden aan te bieden iets voor elkaar kunnen betekenen. Kennelijk gaat er een werkelijkheid schuil achter dat aanbieden van woorden. Iets dat ter sprake gebracht wordt door de woorden.

“Dieses Buch wird viellecht nur der verstehen, der die Gedanken, die darin ausgedrückt sind – oder doch ähnliche Gedanken – schon selbst einmal gedacht hat.”

Met deze woorden begint Ludwig Wittgenstein het voorwoord van zijn beroemde Tractatus. Misschien kunnen alleen zij mijn woorden begrijpen die de gedachten die erin uitgedrukt zijn – of vergelijkbare – al eens zelf hebben gedacht.

Wat heeft het voor zin een boek te schrijven als je denkt dat enkel die lezers het zullen begrijpen die zelf al eens hebben gedacht wat je ze wil vertellen?

En wat zijn dat eigenlijk: ‘Gedanken’ die in woorden en zinnen uitgedrukt zijn en die verschillende individuen kunnen denken en via de woorden kunnen delen met anderen?

Wittgenstein had toch kennelijk ons iets te zeggen. Het gaat over de wereld (‘alles wat het geval is’) en over de taal die deze in een systeem van zinnen afbeeldt. Om het daarover te kunnen hebben heeft hij de taal nodig. Maar waar gaat die dan over? Hij besluit zijn stellingen met:

“Meine Sätze erläutern daduch, dass sie der, welcher mich versteht, am Ende als unsinnig erkennt, wenn er sie – auf ihnen – über sie hinausgestiegen is. (Er muss sozusagen die Leiter wegwerfen, nachdem er auf ihr hinausgestiegen ist.) Er muss diese Sätze überwinden, dann sieht er die Welt richtig.” (6.54).

De filosoof moet de woorden die hem enig zicht op de werkelijkheid hebben verleend weer weggooien als de ladder waarmee hij naar boven is geklommen om van boven de wereld te kunnen beschouwen.

Wie de weg van de Tractatus gegaan is, die moet aan het eind gekomen wel inzien dat:

“Wovon man nicht sprechen kann, darüber muss man schweigen.” (7).

In het woordje ‘muss’ komt de ethische en mystieke lading van deze slotconclusie en daarmee van de Tractatus tot uitdrukking: we moeten respect hebben voor de diepere dimensie van het bestaan door er niet over te spreken zoals we over de feiten spreken. De paradoxale slotzin van de Tractatus heeft tot heel wat discussie geleid. Had de schrijver zich niet wat ondubbelzinniger kunnen uitdrukken, vraag je je af.

“Ik vind dat dit resultaat precies de onzinnigste uitspraak is van de hele Tractatus” zegt Jan Hollak erover in zijn Afscheidscollege. Daarin gaat hij in op Wittgensteins stellingname tegen de metafysica, diens opvatting dat de taal van de metafysica onzinnig is. “Want”, vervolgt Hollak, “waarover men niet spreken kan, daarover kan men ook niet zwijgen. En het heeft dan geen zin te eisen dat men erover moet zwijgen. (…) Omdat men eenvoudig niets ziet. Er wordt hier betoogt door Wittgenstein dat wij door die houding aan te nemen zien wat we niet zeggen kunnen. In werkelijkheid zien we helemaal niets; dat is het resultaat van deze Tractatus.” Zo fulmineert Hollak tegen Wittgenstein. En zijn kritiek geldt niet alleen de Tractatus. “Ook in de Philosophische Untersuchungen zien we hetzelfde probleem optreden.”

Wat is dat probleem dat Hollak met de taalopvatting van Wittgenstein heeft? Welke is ‘die houding’ die Wittgenstein aanneemt waardoor we “zien wat niet gezegd kan worden”?

De taak van de filosofie is eigenlijk een onmogelijke, namelijk een logische taal ontwerpen die zegt wat in de dagelijkse taal op verhullende wijze wordt gezegd. Onmogelijk; want hoe leg je uit wat de relatie is tussen de uitdrukkingen in de formele taal en in de gewone taal? In Over de grenzen van de reflexiviteit vergelijkt Boukema dit met de functie van een oorlog die aan alle oorlogen een eind zou moeten maken. (Boukema, 1987, p. 14). Wittgenstein zag het als zijn taak een einde te maken aan de filosofie die toch eigenlijk een onmogelijke taak heeft. Het resultaat van deze ‘onmogelijke taak’ is de Tractatus.

Het is de mathematische houding in de Tractatus dat Wittgenstein een scheiding aanbrengt tussen ‘Sagen’ en ‘Zeigen’, tussen het feitelijke en het mystieke, tussen dat waarvan we kunnen spreken en dat waarover we moeten zwijgen. Maar die twee kún je niet van elkaar scheiden. “The unspoken is present in all speech and we cannot get rid of speech when trying to concentrate on the unspoken, and that is exactly the paradox of the last sentence of the Tractatus.” (Fleischhacker, 1995, p. 82)

Het spreken is een vorm van wijzen. Zolang je de aandacht richt op de wijzende vinger, snap je niet waar het om gaat. De laatste zin van de Tractatus drukt de interne spanning uit van het filosofisch taalgebruik, waarvan Wittgenstein pretendeerde voor altijd een einde te hebben gemaakt.

Ich bin also der Meinung, die Probleme im Wesentlichen endgültig gelöst zu haben.”

Waarmee overigens, zo voegt hij toe, weinig verandert is. (Hetzelfde idee dat je hebt wanneer je een bewijs van het (niet) bestaan van God wordt geleverd.)

In de Philosophische Untersuchingen (PU) gaat het over de taal als sociaal medium, als onderdeel van een levensvorm. Eerst was het idee dat de logicus nodig was om te zeggen wat de mensen precies bedoelen wanneer ze een zin uitspreken, op grond van de logische structuur van de werkelijkheid. De zoektocht is nu naar de regels van het dagelijkse taalgebruik zelf, waarbij het feitelijk gebruik van de taal leidend is. “De filosofie mag het feitelijk gebruik van de taal op geen enkele manier aantasten, zij kan dit gebruik uiteindelijk dus alleen beschrijven. Zij kan er ook geen reden voor geven. Zij laat alles zoals het is.” (PU 124). Het gaat echter ons zelf om het ophelderen van verwarringen die door het gebruik, de werking, van onze taal ontstaan.

In PU 7: “We kunnen ons ook indenken dat het hele proces van het gebruik van de woorden in (2) een van die spelen is waardoor kinderen hun moedertaal leren. Ik zal deze spelen ‘taalspelen’ noemen, en van primitieve taal soms spreken als een taalspel. (…) Ik zal ook het geheel: de taal en de activiteiten waarmee ze verweven is, het ‘taalspel’ noemen.”(PU 7)

Dit idee ‘taalspel’ en ‘spel’ in het algemeen zal de nieuwe tijd meer en meer beheersen. De opkomst van de ‘games’ industrie, de opvatting dat het leven een soort spel is. De verwarring en vervaging van het onderscheid tussen leven en spelen is een gevolg van het identificeren van de wijze waarop we het leven van buiten af beschrijven en beregelen in wetenschap en praktijk met het spontane ongereflecteerde leven zelf, het leven zoals we dat beleven. Het leven is een project binnen een zelfgekozen spelvorm met winnaars en verliezers.

De kern van de kritiek van Hollak is dan ook dat er in de Tractatus een formele identiteit is tussen de ideale taal en de feiten. Daardoor kan over de verhouding tussen beide niet meer zinvol gesproken worden. De taal zou geen ruimte bieden voor reflectie. In de Untersuchungen komt dit hierin tot uitdrukking dat de taal, en dat is de gewone omgangstaal, die als norm genomen wordt van zinvol taalgebruik, behoort tot een levensvorm en een taalspel. De betekenis van de woorden wordt bepaald door het gebruik ervan in een taalspel. Dat we in taal onze belevingen en ervaringen verwoorden, dat is een aspect van taal dat bij Wittgenstein uit het zicht is verdwenen. Weliswaar hebben we de taal nodig om onze Gedanken in uit te drukken, maar we moeten een onderscheid blijven maken tussen de uitdrukking in woorden en dàt wat verwoord wordt.

In plaats van een verklaring te bieden van wat nou de betekenis van de woorden is, biedt Wittgenstein een algemene methode, namelijk dat je naar het gebruik moet kijken, om te zien wat de woorden betekenen. En dat gebruik speelt zich af in ‘Sprachspiele‘. Die bepalen dus feitelijk de betekenis. De taal moet puur functioneel bekeken worden, als een instrument waarmee we gedachten communiceren. Gedachten die dezelfde structuur hebben als de zinnen waarmee ze overeenkomen. De verschillende taalspelen en hun talen zouden disjunct zijn, volledig gescheiden.

Volgens Hollak is deze houding van Wittgenstein, net als de ‘Gedanke’, en het begrip ‘waarheidswaarde’, een erfenis van Frege: de identificatie van de wijze waarop men iets begript en uitdrukt met datgene wat men daardoor begrijpt en uitdrukt. Zoals we bij het maken van wiskundige berekeningen geen onderscheid maken tussen de tekens, de cijfers en de formules enerzijds en de mathematische objecten, de getallen en structuren waar ze naar verwijzen anderzijds. Deze identificatie van de talige kant en de inhoudelijke kant zien we ook in het begrip informatie, de vorm waarin we ‘de feiten’ communiceren, door ze in de schemas van de taal vast te leggen.

Filosofische teksten communiceren geen informatie aan de lezer. Het is de bedoeling dat de lezer meedenkt en de woorden slechts als verwijzers ziet naar datgene wat niet gezegd kan worden: “the unspoken that is present in all speech.”.

Wat expliciet gezegd wordt moet begrepen worden tegen een achtergrond die niet gezegd wordt. En deze verhouding tussen het gezegde en het niet-gezegde is een andere dan de formele relatie volgens welke de hoeveelheid informatie in een bericht kwantitatief bepaald wordt door het veld van mogelijke berichten waaruit het bericht geselecteerd is. Het mathematische van de Tractatus is precies de identificatie van deze twee verhoudingen. Dat verklaart het vermoeden door Wittgenstein uitgesproken in het voorwoord dat de lezer, de ontvanger van de boodschap, de Gedanken ervan bekend moet voorkomen. De spreker, schrijver, toont woorden die voorkomen in een systeem van zinnen. Zoals je een computer een programma toont.

Waar het Hollak om te doen is, is de filosofie in haar eigen waarde te laten tegenover de positieve wetenschap, tegen de moderne stromingen in waarin filosofie en positieve (natuur- zowel als geestes-)wetenschappen voortdurend door elkaar lopen. En dat heeft volgens Hollak alles te maken met het feit dat men het hypothetische karakter van de wetenschap niet voldoende onderkent.

Wat bedoelt Hollak daar mee? Ik zal in het vervolg een recent voorbeeld geven van recent hypothetisch onderzoek om mijn antwoord op deze vraag te presenteren.

Wat dat ‘hypothetische karakter van de wetenschap’ betreft onderscheid ik fundamenteel hypothetisch en methodisch hypothetisch. Met het fundamenteel hypothetische karakter van de wetenschap wordt bedoeld dat de wetenschap uitgaat van de aanname dat de werkelijkheid door ons denkend te begrijpen is en in theoretische structuren te vatten is. Feiten worden niet op zich, als feit, genomen maar beschouwd als functies van zekere condities: als dit en dit dan gebeurt er dat. Met het methodisch hypothetisch karakter bedoel ik dat de bijzondere wetenschap voor haar onderzoek hypotheses opstelt die vervolgens door experimenteel onderzoek getoetst worden (falsificatie) en eventueel aangepast. Vaak worden deze hypotheses mathematisch uitgedrukt en statistisch getoetst aan de hand van (experimenteel verkregen) data.

Merk op dat een succesvol geslaagd experiment een methode/regel geeft (van de vorm “als A dan B”) die eventueel technisch gebruikt kan worden: om B te realiseren moeten we condities A realiseren. De werkende techniek levert een pragmatisch ‘bewijs’ voor de ‘waarheid’ van de theorie. Het doet er niet toe hoe we de (statistische) theorieën moeten interpreteren, waar de theoretische noties in de werkelijkheid naar refereren. Is licht een golf of deeltje? Het hangt af van de hypothese die we opstellen en het meetsysteem hoe de natuur zich toont. Als het experiment, maar reproduceerbaar is dan hebben we een bruikbare regel. (zie de discussie Einstein/Bohr over de onzekerheidsrelatie in de kwantummechanica) . “De kwantumtheorie werkt”, zei de fysicus Gerard ‘t Hooft. (Zie Hiroshima, zie kerncentrales). En dat is voldoende bewijs van de ‘waarheid’ van de kwantumtheorie. Waarheid is gedefinieerd in termen van technisch/economisch succes.

De hypothetische machine. Heeft AI bewustzijn?

Is het dier een machine, een soort uurwerk, zoals Descartes dacht. De cartesianen hebben in de discussie over de geloofwaardigheid van het mechanisch uurwerk als model voor het dier een argumentatiestrategie benut die ook in het AI debat met betrekking tot de vraag of AI bewustzijn heeft wordt gehanteerd. Ze gaven toe dat de bestaande machines geen plausibel model voor het dier waren, maar “de werkelijk interessante vraag was volgens de cartesianen of het denkbaar is dat ooit een nog te bouwen machine een geschikte simulatie van het dier zal zijn.” (Draaisma, 1986).

De discussie werd verplaatst van het niveau van de feitelijkheid naar het niveau van de denkbaarheid, de hypothetische machine. Dat het denkbaar is werd door de cartesianen verdedigd door te wijzen op het feit dat de mens in staat is steeds complexere machines te bouwen. Het extrapolatie-argument werd ingebracht te samen met de aanname dat het slechts om een verschil in complexiteit van het systeem gaat: de meeste dieren tonen complexer gedrag dan met bestaande machines kan worden gesimuleerd. Dat is het verschil: niet wezenlijk, maar kwantitatief, bijkomstig.

De vraag of AI bewustzijn heeft, of misschien beter: of we een AI systeem als een bewust wezen moeten beschouwen, is weer aktueel nu kunstmatige intelligente ‘machines’ steeds beter in staat zijn aktiviteiten te verrichten waarvan sommigen vinden of vermoeden dat ze die alleen kunnen wanneer er sprake is van bewustzijn. Sociale robots worden door sommigen als ‘levenspartners’ beschouwd en mensen voeren geanimeerde gesprekken met AI programma’s zoals ChatGPT. De sprekende robot zou als juridisch persoon moeten worden opgenomen in de ‘morele cirkel’ van statushouders, die beschermd moeten worden en verantwoordelijke gehouden voor hun ‘handelen’.

Naast de treffende overeenkomsten in argumentatie is er ook een verschil in argumentatie tussen het debat over de bête-machine en het huidige debat over bewustzijn van AI systemen. Neurologisch onderzoek naar de werking van het brein heeft allerlei theorieën en modellen opgeleverd die een verband aangeven tussen verschillende neurale structuren en hersenfuncties, en bepaalde ‘gedragingen’ die we bij de mens constateren en waarvoor we bewustzijn als noodzakelijke voorwaarde zien.

Onlangs verscheen in het arXiv preprint repository het artikel Consciousness in Artificial Intelligence: Insights from the Science of Consciousness (2308.08708). Het gaat over de vraag of AI bewustzijn heeft of kan hebben. Onder de negentien auteurs zijn neurowetenschappers, cognitiewetenschappers, computerwetenschappers en filosofen.

Het artikel presenteert op basis van neuro-wetenschappelijk onderzoek een checklist van ‘bewustzijnsindicatoren’, eigenschappen waaraan een entiteit moet beantwoorden opdat er een kans is op de aanwezigheid van bewustzijn. Het team heeft onderzocht of huidige AI systemen voldoen aan genoeg indicatoren om te kunnen stellen dat er van bewustzijn sprake is.

Computationeel functionalisme als werkhypothese

Als ‘werkhypothese‘ zijn de auteurs uitgegaan van de stelling dat het voor bewustzijn noodzakelijk en voldoende is dat het systeem ‘het juiste soort van berekeningen maakt’ (“the thesis that performing computations of the right kind is necessary and sufficient for consciousness”). Het gaat er dus om hoe een systeem informatie verwerkt; niet om wat voor materiaal daarvoor wordt gebruikt. Deze hypothese, ‘computationeel functionalisme’ genoemd, wordt vaak aangenomen door philosophers of mind, maar staat sinds jaar en dag ook onder felle kritiek (o.a van Hubert Dreyfus, John Searle, die zich baseren op werk van o.a. Heidegger en Merleau-Ponty. Zie ook het werk van Maarten Coolen, De Machine Voorbij.

Bijvoorbeeld wordt ‘self-attention’ in deze doctrine gedefinieerd als een “process in AI in which information about multiple input tokens is integrated through pairwise interactions between functional units”.

Een tweede uitgangspunt van de onderzoekers is dat neuro-wetenschappelijke theorieën over bewustzijn functies hebben opgeleverd die noodzakelijke en voldoende indicatoren zijn voor de aanwezigheid van bewustzijn. Deze functies, of vergelijkbare, zouden vanwege de hypothese ook toepasbaar zijn op AI systemen. Omdat er veel neurologische theorieën over bewustzijn bestaan, zijn uit elk van de belangrijkste theorieën een aantal indicatorfuncties genomen. Het idee is dat naarmate een systeem aan meer van deze functies voldoet de kans des te groter is dat er bewustzijn is. Zo lijkt het onderzoek dus een (voorlopige: de neuro-wetenschap kan in de toekomst betere indicatoren opleveren) operationele definitie op te leveren voor de kans dat een systeem over bewustzijn beschikt. Waarbij bewustzijn in termen van een aantal functionaliteiten is vastgelegd.

Een alternatieve methode van onderzoek zou zijn om het interaktief ‘gedrag’ van AI systemen te onderzoeken op de mogelijke ‘aanwezigheid van bewustzijn’. Maar, zo stellen de auteurs, AI systemen zoals ChatGPT zijn erg goed in het simuleren van menselijk gedrag, daarom is zo’n gedragstest geen goede test op aanwezigheid van bewustzijn. In hun conclusie merken ze nog op dat ze niet uitsluiten dat een beslissende gedragstest in de toekomst mogelijk is.

We zien hier nog een verschil met de situatie ten tijde van de discussie over de bête-machine drie eeuwen geleden. Gedragsimulaties worden inmiddels zo goed bevonden dat het machine gedrag op zich niet als indicatie van bewustzijn wordt gezien. Terwijl dat gedrag juist voor mensen de reden is om te denken dat de AI robot cognitief bewustzijn en gevoelens heeft. Simulatie door een machine wordt dus door de wetenschap onderkend als ‘slechts simulatie’. De wetenschapper weet immers dat de robot door technologen (mede-auteurs) op basis van de wetenschappelijke modellen gemaakt is, niettemin wordt de vraag gesteld of de robot bewustzijn heeft. De enige manier om hier achter te komen is door ‘onder de hoed’ te kijken en het systeem ‘inwendig’ te onderzoeken.

Wat denken ze daar te vinden? Zou je denken. Hegel wist wel wat je aantreft als je de hersenpan licht op zoek naar de geest: “nur Knochen”.

Het testen van een AI systeem op de aanwezigheid van bewustzijn komt er op neer voor elk van de theoretische modellen te analyseren of het AI systeem dit geimplementeerd heeft. Bijvoorbeeld, volgens de Global Workspace Theory zou een bewust systeem een modulaire opbouw moeten hebben waardoor het verschillende taken parallel kan uitvoeren, maar waarbij er ook sprake is van het verdelen van de schaarse aandacht over de te verrichten taken. Typische functies die we bij mensen ook tegen komen en die gezien worden als bewustzijnsindicatoren.

De uitkomst van het onderzoek “suggereert” dat geen van de geteste AI systemen bewustzijn heeft. “This work does not suggest that any existing AI system is a strong candidate for consciousness.” De auteurs zien echter geen barrières die de verwerkelijking van bewuste AI systemen in de toekomst in de weg zouden kunnen staan. Met andere woorden: het is volgens de wetenschappers (en filosofen) denkbaar dat een technisch systeem bewustzijn heeft.

In het onderzoek dat een antwoord moet geven op de vraag of huidige AI systemen bewustzijn hebben is de methodische hypothese dat mens en machine onder de zelfde categorie van informatieverwerkende systemen vallen. Kortgezegd: de ‘werkhypothese’ is: een mens is een informatieverwerkend systeem, net als een programmeerbare automaat. Dit houdt in dat de mens geïdentificeerd wordt met een wetenschappelijk systeem, dat is een systeem dat gebaseerd is op de correspondentie tussen denkprocessen en fysische processen (zie Herz). De fundamentele aanname van de wetenschap dat de werkelijkheid door het verstand begrepen kan worden, wordt hier nog eens ‘overruled’ door de hypothese dat deze twee identiek zijn. Deze identificatie werd door Hegel uitgedrukt met de beroemde woorden:

Was vernüftig ist, das is wirklich;

und was wirklich ist, das ist vernünftig.

(G.W.F. Hegel. Grundlinien der Philosophie des Rechts, Vorrede, 1820)

Althans in principe, als idee. Over de kwestie of Hegel zelf aanhanger was van de doctrine van het absoluut idealisme, inhoudende de identificatie van werkelijkheid en redelijkheid, verenigd in een Absoluut Wezen, is het laatste woord nog niet gesproken. Hans Küng merkt op dat velen van mening zijn dat “alles weliswaar nog niet verstandig is, maar dat het wel verstandig kan worden”. (Küng, p. 190).

Hetzelfde optimisme dat we bij de auteurs van het artikel tegen komen. Hetzelfde grenzeloze geloof in de technologie.

“Het zelfbewustzijn bereikt zijn bevrediging alleen in een ander zelfbewustzijn” (Hegel). Is het misschien de behoefte aan zelferkenning dat de mens een zelfbewustzijn zoekt in de intelligente machine? Maar de mens weet toch dat hij de machine gemaakt heeft voor zichzelf als instrument. Zo lijkt de technische mens verscheurd tussen geloven en weten.

Hoe vaak lezen we niet in de krant koppen inhoudende dat AI intelligenter is of een taak beter kan uitvoeren dan de mens. Dan wordt ‘AI’ niet meer gezien als een instrument, dat door de mens gebruikt wordt, maar als een zelfstandige entiteit.

“Onder de conditie dat een computer een technisch produkt is, kun je niet zinvol de vraag stellen of hij net zo intelligent is als de mens.” (Louk Fleischhacker in Ta! Jaargang 2, Nr 3. 1994) En ook niet of de machine bewustzijn heeft.

Met betrekking tot de mogelijkheden en de prestaties van de techniek worden de meest onzinnige vragen gesteld en onzinnige beweringen gedaan. Onzinnig omdat niet goed onderscheiden wordt de normale dagelijkse betekenis van de woorden en de betekenissen die de woorden hebben gekregen door de wetenschappelijke reconstructie ervan. We projecten de wetenschappelijke structuren op de werkelijkheid en doen alsof ze van die werkelijkheid zelf zijn.

Maar waarheid en bewijsbaarheid in een formeel systeem zijn twee totaal verschillende begrippen, ook al heeft de wetenschap bewijsbaarheid in de plaats gesteld van waarheid. Ook al hebben we een machine kunnen maken die de facto ‘goede zinnen’ produceert volgens een bepaald algoritme, dan nog zijn ‘goede zin’ en een ‘goede zin zoals geproduceerd’ niet synoniem. De machine kan kapot gaan, het algoritme of het onderliggende model kan een fout bevatten.

Het formele systeem heeft alleen betekenis voor ons als formalisering van het inhoudelijke intuïtieve gedoe. De maat is als maat van een andere orde dan dat wat er mee in de realiteit gemeten wordt. De ‘goede zin’ is maat waaraan de goede zinnen uit de machine gemeten worden. Het is de mens die uiteindelijk de betekenis van de woorden die de ‘AI spreekt’ bepaalt. Wij mensen zijn zoals de Jehova getuige die zei: “En God zei terecht dat het goed was.”.

Te geloven dat de machine kan denken, is net zo (on)zinnig als te geloven dat de appel die uit de boom valt al vallend met behulp van de wetten van de Newtonse mechanica berekent met welke snelheid hij op de grond moet neerkomen. Maar zijn wij het niet die de appel gebruiken om bijvoorbeeld de cumulatieve rente op ons kapitaal of de toename van het aantal deeltjes te berekenen?

We hebben de neiging waarheid af te leiden uit succesvol zijn. Wanneer een methode ‘werkt’ dan gaan we er vanuit dat we de werkelijkheid kennen, dat is: op correcte wijze hebben gemodelleerd. Ook al weten we uit ervaring hoe voorlopig dit ‘werken’ van onze methodes en technieken is. Omdat het op contingente feiten berust en niet op noodzakelijke inzichten.

De wereld zoals die in onze wetenschappelijke beschouwingen aan ons verschijnt is niet dezelfde als de belevingswereld, de wereld van onze relaties met de dingen en de anderen.

Door alles door een wetenschappelijke, technische bril, functioneel te zien verdwijnt de mogelijkheid om nog iets in zijn eigen waarde te begrijpen. Iets is mathematiseerbaar precies in zoverre we abstraheren van de eigen aard ervan. Dat is de voorwaarde onder welke de natuurwetenschap werkt. Afzien van de eigen waarde, de eigen aard van de natuur, door deze te objectiveren en ons er tegenover, er buiten te plaatsen.

De kritiek op het functionele, mathematiserende, denken treft volgens Hollak ook de ecologie.

“Die huidige ecologie wil natuurlijk wel dat de natuur tot zijn recht komt, maar die moet in zoverre tot zijn recht komen, dat wij kunnen bestaan en omwille van ons moet zij zo beheerst worden, die natuur.” (Hollak, Afscheidscollege, p. 442). De natuur zou volgens de ecologen aanvaard moeten worden in zoverre wij kunnen bestaan.

De natuur laat echter niet met zich experimenteren. We kunnen nog zo ons best doen om de randvoorwaarden zo in te richten dat ze naar onze pijpen danst, uiteindelijk doet die verdomde wolf gewoon wat zijn natuur hem ingeeft. “De wolf is niet af te brengen van zijn kijk op de dingen en vreet het schaap op.” (Kaube, p. 160)

We staan niet buiten de natuur, we maken net als de wolf en het schaap, deel uit van die natuur. Dat we als zelfbewuste, redelijke mensen ook boven de natuur staan doet niets af aan het feit dat we er onderdeel van zijn. De wolf verwerft geen zelfbewustzijn in de confrontatie met het schaap. Het ziet daarin geen ander, geen werkelijkheid, waaraan hij zich kan spiegelen als aan een ander zelfbewustzijn. De mens daarentegen kan zich verplaatsen in de ander. In principe. De ervaring leert hoe moeilijk het is de mens af te brengen van zijn ‘grensoverschrijdend’ gedrag. Het opstellen van gedragsregels en wetten helpt niet. Mensen zijn niet programmeerbaar. Regels waaraan de mens zich bij de ontwikkeling van technologie zou moeten houden werken alleen als mensen overtuigd zijn van het perspectief van waaruit die zijn geformuleerd en dat zich eigen hebben gemaakt. Er moet een (biologisch) ‘systeem’ zijn waarin die regels geimplementeerd kunnen worden, om het in de taal van de ingenieur uit te drukken. De mens gedraagt zich niet zoals de technicus denkt die het gedrag van de mens wil simuleren door een robot. Om het onderliggend ‘systeem’ te veranderen, moeten we de diepte in. Tastend naar dat waarover men niet spreken kan.

Bronnen en noten

Boukema, Harm, (1987). Over de grenzen van de reflexiviteit. In: Reflexiviteit en Metafysica. Bijdragen aan het symposium bij het afscheid van prof. J.H.A. Hollak. (Redactie: Louk Fleischhacker). Filosofische Reeks Centrale Interfaculteit Universiteit van Amsterdam, nr. 20. 1987, pp. 6-19.

Over de taal bij Wittgenstein.

Butlin, P. et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness Preprint at https://arxiv.org/abs/2308.08708 (2023).

Dit artikel bespreek ik als recent voorbeeld van het ‘hypothetische’ karakter van de wetenschap. Filosofie en positieve wetenschap worden verward. Of iets bewustzijn heeft, bestaat, een feit is dat wordt door de wetenschapper als vraag gezien waarop door (experimenteel) onderzoek naar de feiten een antwoord kan worden gevonden.

Coeckelbergh, M., and Gunkel, D. 2023. ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.

Maarten Coolen (1992). De machine voorbij: over het zelfbegrip van de mens in het tijdperk van de informatietechniek. Boom Meppel, Amsterdam, 1992.

René Descartes (1937). Vertoog over de methode . Vertaling Helena Pos, Inleiding Prof. Dr. H.J.Pos. Wereldbibliotheek Amsterdam-W. 1937. Oorspronkelijke Franse uitgave: Discours de la méthode, 1637.

Douwe Draaisma (1987). De Machine achter het Gordijn – drie eeuwen debat over bewustzijn en mechanicisme. In Geest Computer Kunt (Peter Hagoort & Rob Maessen , red.) Uitgave van Stichting Grafiet, Utrecht, 1986.

De historicus Draaisma vergelijkt de discussie over de bête machine van Descartes inhoudende dat dieren mechanieken zijn met de huidige discussie over de competenties van AI.

Hij voorspelt hierin dat net als de salondiscussies over de bête machine, de academische discussies van tegenwoordig over een tijdje uitgewoed zijn met als resultaat dat dieren weer gewoon dieren, mensen gewoon mensen, machines machines en robots weer gewoon robots zijn. Hij lijkt gelijk te krijgen. Zie (Gunkel 2023).

Albert Einstein, B. Podolsky, and N. Rosen. (1935). “Can Quantum-Mechanical Descriptions of physical Reality Be Considered Complete?” Physical Review 47: 777-80.

“Every element of the physical reality must have a counterpart in the physical theory” Dit geldt niet voor de kwantum-mechanica. Deze kan daarom niet als volledig worden beschouwd. We moeten zoeken naar een aanvulling van de theorie.

Einstein kon niet accepteren dat de werkelijke toestand van een systeem pas door het observeren (meten) ervan bepaald wordt, zoals Niels Bohr beweerde. Volgens Bohr kun je de werkelijkheid niet beschrijven zonder de meetmethode te beschrijven. Het geeft een recept voor de reproduceerbaarheid van het meten.

Fleischhacker, Louk (1987). Het wiskundig teken. In: Reflexiviteit en Metafysica. Bijdragen aan het symposium bij het afscheid van prof. J.H.A. Hollak. (Redactie: Louk Fleischhacker). Filosofische Reeks Centrale Interfaculteit Universiteit van Amsterdam, nr. 20. 1987, pp. 20-37.

Louk Fleischhacker (1994). “De menselijke geest zit eigenlijk helemaal niet in elkaar.” Interview met Eric Oltmans in thema nummer Enschede – een technische blik op computerlinguïstiek. Ta! studentenblad computationele taalkunde, nr 3. jaargang 2, voorjaar 1994.

“Ik geloof niet zo erg in die geïsoleerdheid van culturen. Het is veel eerder een continuüm.”

“Het idee van vertalen gaat al uit van een discrete veelheid van talen, van een mathematisch model van wat een taal is. En als je dat nou houdt voor de werkelijkheid en dus denkt dat die verschilende culturen niets met elkaar te maken hebben, moet je wel tot de conclusie komen dat vertalen onmogelijk is. Dat was ook de fout van Wittgenstein die zei dat er verschillende taalspelen waren.”

Fleischhacker, Louk E. (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

Zodra we bedenken dat taal ergens over gaat, maken we een onderscheid tussen het gebruik van taal en waar het over gaat. Maar deze twee komen niet gescheiden voor in werkelijkheid. We kunnen taal niet eens gebruiken zonder dat het ergens over gaat. Natuurlijk kunnen we ook naar de buitenkant, de structuur van de taal kijken, naar de woorden en zinnen van taal als op zich zelf staande objecten. Maar de taal die we zo bekijken is juist niet de taal als gebruikte taal. Dan is de taal onderwerp waar we het in taal over hebben.

Taal gaat ergens over. De woorden verwijzen naar een wereld buiten de taal. We kunnen het niet over taal hebben en over wat dan ook zonder taal te gebruiken. De mens zit echter niet gevangen in de taal. “If language is not considered to be about something, it cannot even be about itself, and we are no longer able to say that language is not about something.” (Fleischhacker 1995, p59-60). Het is dus logisch onmogelijk te ontkennen dat de taal over iets gaat dat buiten het spreken zelf ligt. Deze ontkenning is immers onmogelijk en zinledig zonder ervan uit te gaan dat ze ergens over gaat.

Begrijpelijk (intelligibel) zijn betekent dat het verstand (het intellect) er toegang toe heeft. De enige manier waarop dat zich kan manifesteren is dat er iets over gezegd kan worden dat zin heeft (makes sense). De taal is de wijze waarop de werkelijkheid intelligibel schijnt.

Fleischhacker, Louk (1999). De Henide als Paradigma: Otto Weiningers invloed op Ludwig Wittgenstein. In: De Uil van Minerva 15 nr. 3 (Lente 1999), pp. 161-178.

Frege, Gottlob (1892). Uber Sinn und Bedeutung. Opgenomen in: Gottlob Frege: Funktion, Begriff, Bedeutung, Uitgave: Vandenhoeck & Ruprecht in Gottingen, pp. 40-65, 1975.

Frege voert de term ‘Gedanke’ in voor de inhoud van een oordeelszin: ”Ein solcher Satz enthält einen Gedanken.” “Ich verstehe unter Gedanke nicht das subjektive Tun des Denkens, sondern dessen objektiven Inhalt, der fähig ist, gemeinsames Eigentum von vielen zu sein.” (Voetnoot p. 46).

“Warum genügt uns der Gedanke nicht? Weil und soweit es uns auf seinen Wahrheitswert ankommt. Nicht immer ist dies der Fall. Beim Anhören eines Epos z.B. fesselen uns neben dem Wohlklange der Sprache allein der Sinn der Sätze und die davon erweckten Vorstellungen und Gefühle. Mit der Frage nach der Wahrheit würden wir der Kunstgenuss verlassen und uns einer wissenschaftlichen Betrachtung zuwenden.” (Frege, Über Sinn und Bedeutung, 1892, p. 48)

Of het ons “gleichgultig” is dat ChatGPT ons een werkelijkheid voorstelt die waar is of niet, hangt daarvan af of we deze machine als kunstwerk dan wel ‘wetenschappelijk’ beschouwen.

“Ich verstehe unter dem Wahrheitswerte eines Satzes den Umstand, das er wahr oder das er falsch ist.” (Frege, 1892, Über Sinn und Bedeutung) De waarheidswaarde is iets dat als het ware van buiten af aan een oordeel toekomt. Het zijn de omstandigheden die een zin waar maken, zoals ze de feiten feitelijk maken.

Gunkel, David J. (2012). The machine question: Critical perspectives on AI, robots, and ethics. Cambridge: MIT Press.

Gunkel, David J. (2014). The Rights of Machines–Caring for Robotic Care Givers. Presented at AISB 2014. Chapter in the Intelligent Systems, Control and Automation: Science and Engineering book series (ISCA,volume 74).

Gunkel, David, Does Writing Have a Future? (September 2, 2023). Available at SSRN: https://ssrn.com/abstract=4578778 or http://dx.doi.org/10.2139/ssrn.4578778

Dit gaat over Logocentrisme. “Logocentrism identifies the assumed primacy and importance of the spoken word.” Volgens Derrida is de dichotomie tussen schrijven en spreken, prototypisch voor alle dichotomieen die het westerse denken sinds Plato’s Phaedrus beheersen. Het primaat van het spreken over het schrijven. Volgens Gunkel wijzen LLMs, en taalmachines als ChatGPT op deze overheersing van het logocentrisme. 1) Schrijven is een techniek, kunstmatig. 2) Schrijven is secuntair, spreken is primair 3) De schriijven/spreken dichotomie is prototypisch

“Plato thinks of writing, and tries to comprehend it, to dominate it, on the basis of opposition as such. In order for these contrary values (good/evil, true/false, essence/appearance, inside/outside, etc.) to be in opposition, each of the terms must be simply external to the other, which means that one of these oppositions (the opposition between inside and outside) must already be accredited as the matrix of all possible opposition.” And writing, Derrida concludes, “far from being governed
by these oppositions, opens up their very possibility without letting itself be comprehended by them.”

Wenen is belangrijk vanwege Weininger en Wittgenstein, de dichotomie in anti-semistisme, vanweg de henide, de bron van alle dichotomieën. Het onuitgesprokene als de afgrond van het spreken. Niet Derrida’s dichotomie spreken/schrijven, maar de relatie van het spreken met het onuitgesprokene is de bron van de dichotomieén in de westerse samenleving.

Zie (Fleischacker 1999) over de henide.

Gunkel, David J. (2023). Person, Thing, Robot A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.

“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things. And it is with the robot— who plays the role of or occupies the place of a kind of spokesperson for Things— that we are now called to take responsibility for this privileged situation and circumstance.” (p. 184)

Heinrich Hertz (1894). Die Prinzipien der Mechanik in neuen Zusammenhange dargestellt. Mit einen Vorworte von H. von Helmholtz

De correspondentie tussen denkproces en natuurproces werd geformuleerd door de fysicus Heinrich Herz in de Inleiding van zijn Prinzipien der Mechanik.

Deze correspondentie is tot principe gemaakt in de informatietechnologie. Denkprocessen en fysische processen zijn uitwisselbaar. Ze zijn elkaars model geworden.

De AI (en iedere informatietechnologie is kunstmatige intelligentie) is gebaseerd op het principe van eenzinnige correspondentie tussen denkinhouden en fysische toestanden. De machine is zodanig gemaakt dat causale gevolgen van instellingen ervan die corresponderen met denkinhouden (ingevoerde gegevens, informatie) volgens fysische processen die zich in de machine voltrekken, resulteren in informatietoestanden die corresponderen met de denknoodzakelijke gevolgen van de ingestelde toestanden.

Hollak, J.H.A. (1968). Betrachtungen über das Wesen der heutigen technik. Kerygma und Mythos VI Band III, Theologische Forschung 44, 1968, Hamburg, Evangelischer Verlag, pp 50-73. Dit is de vertaling van het Italiaanse artikel (Hollak 1964) Ook opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak (Hollak en Platvoet, 2010).

Hollak, J.H.A. (1964). Considerazioni sulla natural della tecnica odierna, l’uomo e la cirbernetica nel quadro delle filosofia sociologica, Tecnica e casistica, Archivo di filosofia, 1/2, Padova, 1964 pp. 121-146, discussie pp 147-152.

Hollak, Jan en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin opgenomen.

Volgens Hollak wordt alles tegenwoordig functioneel opgevat. “Het aanvaarden van een feitelijke toedracht is er niet meer bij.” (p. 436). Alles wat we kunnen observeren is maar zo onder bepaalde condities en hypothesen, die we zo weer kunnen veranderen. Feiten zijn functie-waarden van bepaalde aannames. Ook het tegendeel van een feitelijke toedracht wordt als mogelijkheid gezien. Terwijl als het een feit is dat vandaag de zon is opgegaan het toch niet meer zo kan zijn dat deze niet is opgegaan.

Ook al onze ‘leefverhoudingen’ worden volgens Hollak door de moderne wetenschap tot puur hypothetische, logisch mogelijke ietsen gemaakt. Het is niet zo dat onze wetenschap ons leven verheldert. Dezelfde aanklacht tegen de wetenschap zien we bij Husserl in zijn Krises der Europäischen Wissenschaften.

De moderne wetenschap is niet uit op in wezensinzichten. Factische en wezensinzichten sluiten nog altijd hun tegendeel uit.

“Ook de factische, niet waar, als Ceasar de Rubicon overtrekt, dan kan hij haar niet tegelijkertijd niet overtrekken. Hier wordt voortdurend gesteld: dit factische is mijn hypothese, het had net zo goed anders kunnen zijn. Het contingente bij een factsiche toedracht wordt hier gemaakt tot een puur formeel logische mogelijkheid: het kan evengoed zo en anders zijn. Het aanvaarden van een feitelijke toedracht is er niet meer bij.” (Hollak, Afscheidscollege, p. 436)

Jürgen Kaube (2022). Hegel – een biografie. Uitgeverij Ten Have, 2022.

Hans Küng (1978). Bestaat God? Uitgeverij Gooi en Sticht b.v., Hilversum. Vertaling van Existiert Gott? Verschenen bij R.Piper & Co. Verlag München/Zürich.

Het heimwee naar zekerheid blijft bestaan. “Het is niet verwonderlijk, dat juist wiskundigen buitengewoon veel belang bleken te hechten aan een onvoorwaardelijke, absolute zekerheid op het terrein van leven en het kennen. (…) De zekerheid van de wiskunde, die iedere twijfel uitsluit, werd in de moderne tijd het heimwee van de filosofen.” (Deel A. Verstand en geloof, Hoofdstuk I. Ik denk, dus ben ik? p, 23)

Albert Visser (1986). Kunnen wij elke machine verslaan? Beschouwingen rondom Lucas’ Argument. Dit artikel verscheen in 1986 in de bundel Geest, Computers en Kunst, een uitgave van de Stichting Grafiet.

“Het hele eiereten is dat ‘waarheid’en ‘bewijsbaarheid’ begippen zijn in termen waarvan we cognitief succes formuleren, terwijl een formeel systeem je een proces geeft waarmee je eventueel bewijzen kunt produceren. Vergelijk het met een stenenfabriek: aan de ene kant heb je de criteria waaraan een goede steen moet voldoen, aan de andere kant een produktieproces dat zulke goede stenen oplevert. Ook al levert het proces de facto goede stenen, nog steeds zijn ‘goede steen’ en ‘steen geproduceerd volgens het proces’niet synoniem: we kunnen ons voorstellen dat om een of andere reden die we totaal over het hoofd hebben gezien, het proces plotseling slechte stenen zou gaan opleveren. ‘Goede steen” correspondeert hier met bewijs, ‘proces’met ‘formeel systeem’.

Hier wijst Visser op het wezenlijke verschil tussen het formele systeem, zoals een grammatica of machine, enerzijds en het informele gedoe, de taal zoals we die spreken, ons werken, anderzijds. Het formele systeem heeft alleen betekenis voor ons als formalisering van het inhoudelijke intuïtieve gedoe. De maat is als maat van een andere orde dan dat wat er mee in de realiteit gemeten wordt. De ‘goede steen’ is maat waaraan de goede stenen van de fabriek gemeten worden.

Ook de ideale argumentatie in een formele logica is maat voor de feitelijke argumentatie die we in een argument geven. We kunnen ons best vergissen als we redeneren. We geloven dat we het goed doen.

Wittgenstein, Ludwig (1973). Tractatus logico-philosophicus. Logisch-philosophische Abhandlung. Ed. Suhrkamp, Uitgave 1973. Oorspronkelijke Duitstalige uitgave 1921.

Wittgenstein droeg de Tractatus (1921) op aan zijn vriend David Pinsent. In het voorwoord waarschuwt Wittgenstein zijn lezer: de stellingen in dit boek zullen vermoedelijk alleen begrepen kunnen worden door die lezer die zelf al eens dergelijke gedachten gehad heeft. Waarmee hij misschien wel een kerngedachte van zijn denken uitdrukt, namelijk dat de taal niet geschikt is om wezenlijke dingen mee te communiceren.

Wittgenstein, L. (1967). Philosophical Investigations. Transl. by Anscombe, G.E.M. Oxford: Blackwell

Over de notie begrip in conceptual engineering

De meeste wetenschappelijke disciplines maken zich niet zo druk om de notie die als het ware hun domein afbakent. De bioloog niet om de notie leven, de informaticus niet om de notie informatie, de gedragswetenschapper niet om de notie gedrag. Die bepalen als het ware stilzwijgend waar de wetenschapper zich in een bepaald domein mee bezig houdt. Traditioneel behoort het denken over deze grondbegrippen en over de demarcatie van de verschillende disciplines tot de filosofie. Conceptual engineering lijkt zich als algemene technologie, als soort van unified science en als soort van positivistische, post-moderne filosofie niets van traditionele grenzen aan te trekken. Het pretendeert een onderdeel van de filosofie te zijn. Maar wel een praktische filosofie, één die de mensen de juiste richting wijst. Betere begrippen zouden (ook) in morele zin beter zijn.

Wat is conceptual engineering?

“Als gevolg van sociale en conceptuele verstoringen gebruiken ethiek en filosofie mogelijk niet altijd een optimaal conceptueel raamwerk.” (..) “… als contingente constructies hebben concepten altijd gebreken en beperkingen en kunnen ze worden verbeterd.” (Van de Poel, 2023, vertaling uit het Engels)

Conceptual engineering is de tak van sport die zich bezig houdt met het opsporen van ‘gebreken en beperkingen’ in conceptuele structuren met het doel deze te verbeteren en eventueel te vervangen door nieuwe begrippen. En omdat het denken zich als denkend noodzakelijk in taal uitdrukt zal dat gepaard moeten gaan met de introductie van nieuwe woorden en nieuwe uitdrukkingen, met veranderingen van de betekenis van bestaande woorden en uitdrukkingen, en met nieuwe metaforen. Conceptual engineering is dan ook linguistic engineering.

Het gaat bij Conceptual Engineering over hoe we omgaan (en zouden moeten omgaan) met nieuwe wetenschappelijke ontdekkingen en technische creaties. Er is dus overlap met werk op het gebied van Human Media Interaction, Human Computer Interaction en Human Robot Interaction. Wat indeling in aktiviteiten betreft: ontwerp (‘design’), implementatie en evaluatie, heeft conceptual engineering veel weg van software engineering. Waar de laatste betrekking heeft op het programmeren van machines, zou je kunnen zeggen dat CE betrekking heeft op het programmeren van mensen en samenlevingen. Dat die vergelijking mank gaat is duidelijk voor wie mens en samenleving niet als een soort van systeem ziet. Daar ligt dus een punt van aandacht.

Een paar voorbeelden van disruptieve technologie

De introductie van intelligente sprekende machines, zoals sociale robots, is aanleiding tot ‘conceptuele disruptie’. Moeten we deze robots niet in morele en juridische zin als persoon beschouwen? Het verschijnsel dat machines teksten, audio en video genereren die niet van die door mensen gemaakte onderscheiden kunnen worden zet vraagtekens bij de begrippen auteur, acteur en regisseur. Maar ook conceptuele dichotomieën als origineel-namaak, kunstmatig-natuurlijk en ding-persoon leiden tot revisie en ‘deconstructie’ (Derrida) van heersende metafysica en bestaande ontologieën. (Gunkel, Coeckelbergh)

Nieuwe ‘medische’ technologie, denk aan de pil, aan transplantatie van lichaamsonderdelen, is sociaal en conceptueel disruptief. Ze doen iets met onze verhouding tot onze lichamelijkheid, zoals de introductie van weefmachines en andere machines die het werk van de mens overnamen de relatie tot de arbeid verandert. Van de Poel (2023) bespreekt de disruptieve gevolgen van externe-baarmoeder-technologie op de betekenis van ‘moederschap’.

Uit evaluatie van de Corona-app die door de overheid voor bestrijding van de pandemie in Nederland werd ontwikkeld blijkt dat veel mensen niet wisten hoe deze werkt of een verkeerd beeld hadden hoe deze werkt en van wat de privacy implicaties van het gebruik ervan zijn. Voor velen betekenden de medische en sociale overheidsmaatregelen (avondklok, corona-pas, het verbod bezoek te ontvangen) een onacceptabele aantasting van de individuele vrijheid en het zelfbeschikkingrecht over eigen lichaam en leven. De relatie individu en gemeenschap stond opnieuw ter discussie. Autonoom betekent niet onafhankelijk van anderen.

De analyse van conceptuele disrupties en het zoeken naar oorzaken daarvan is niet een doel op zich is (Van de Poel 2023). Conceptual engineering wordt wel gezien als een onderdeel van filosofie. Het is ook een technische aanpak die ten dienste staat van de filosofie en de ethiek; en dan met name ten dienste van de filosofie en de ethiek van de techniek. Het is een soort technologie van de technologie. Een volgende stap in de ontwikkeling van de technische idee. Maar is dit nog wel technologie?

Wat wordt er met het begrip ‘concept’ bedoeld door de wetenschappers en filosofen die zich bezig houden met conceptual engineering?

Begrippen zijn in deze conceptie constructies die een bepaalde functie hebben en die kunnen fouten bevatten.

De notie ‘optimaal conceptueel framework’ roept de vraag op naar het doel dat conceptual engineering voor ogen staat: in welke zin ‘optimaal’? “Nieuwe tijden vragen om nieuwe begrippen”. Maar waarom? Wat is het uiteindelijke doel? Is dat beter begrip, betere technologie, een beter mens, een betere samenleving? Betere begrippen om beter te begrijpen? En zijn niet alle constructies noodzakelijk  contingent, zodat ons niets rest dan toe te zien hoe de tijd bepaalt wat zin en wat onzin is? Zo roept een eerste kennismaking met conceptual engineering vele vragen op. Laten we ons richten op die ene vraag. Wat bedoelen we met de notie begrip?

Over de notie begrip

De filosoof Manuel Gustavo Isaac onderscheidt een psychologische en een filosofische notie van concept (Isaac 2023). In conceptual engineering wordt volgens Isaac de ‘filosofische’ notie van concept gebezigd. “The primary function of concepts on this view is to pickout or denote objects in its extension.” (Westerblad, p.3). Cappelen (Fixing Language) stelt dat ‘the only universal, i.e. stable, function of a concept “C” is to denote Cs’.” (op cit. Westerblad p.3). Het begrip stoel verwijst naar concrete stoelen. Die vallen onder dat begrip.

Maar de psychologische notie van concept zou volgens Isaac geschikter zijn voor conceptual engineering.

“Concepten worden vanuit deze visie geïndividualiseerd op basis van de functionele rollen die ze spelen in verschillende cognitieve taken en worden verder geëvalueerd op basis van hun efficiëntie in de contekst van die taken. In tegenstelling tot de duidelijke stabiliteit van het filosofische concept, lijken psychologische concepten flexibeler te zijn, omdat een concept gespecificeerd wordt en kan worden herzien op basis van het soort rol dat het speelt. Hoewel het filosofische concept misschien de stabiliteit heeft die nodig is om hetzelfde te zeggen, maakt het CE moeilijk, aangezien elke verandering in het concept een verandering in de extensie van het begrip zal vereisen.” (mijn vertaling uit het Engels). Het werkwoord stoelen betekent ook ondersteunen in algemene zin. En de uitnodiging ‘pak een stoel’ betekent niet dat de stoel waarnaar verwezen verplaatst moet worden, noch dat deze draagbaar is.

De filosofische notie van concept zou te star zijn, heeft weinig te maken met “the cognitive lives of humans”, terwijl concept engineering gericht is op het veranderen van hoe mensen denken: “it makes it actionable and useful, since changing a concept will be a matter of changing minds.”

Het psychologisch begrip is “based on the kind of functional-informational role that concepts play in people’s thoughts and activities” (Westerblad, p.10)

“The psychologistic notion of concept is going to be too varied for the kinds of uses that we want to identify of concepts in Conceptual Engineering.”

Westerbald acht de psychologische notie ‘te psychologisch’ en ziet meer in de notie van concept zoals hij dat bij Dewey aantreft. Deze zou geschikter zijn voor een ‘actionable’, meer pragmatische invulling van conceptual engineering. Deze moet actief op zoek naar de tekorten van bestaande begrippen.

(Westerblad 2023) bekijkt conceptual engineering vanuit Dewey’s pragmatistische notie van concept als ‘means-consequence relation’.

Concepten worden in CE getest door experimenteren. Het experimentele in het filosofisch onderzoek naar de ‘vruchtbaarheid’ (Carnap) van abstracte begrippen kan het beste begrepen worden als de implementatie van de begrippen in de verschillende praktijken waarin het relevant is. Voor Dewey gaan de consekwenties van de nieuwe begrippen verder dan ‘slechts filosofische’ problemen. Vandaar zijn reconstructies van noties als kennis (‘knowledge’), waarheid (‘truth’), werkelijkheid (‘reality’), en het goede (‘the good’), die hij alle wil relateren aan specifieke activiteiten en aan praktische deelname aan experimenten. Als het gaat om praktische, ethische, of politieke concepten, zijn volgens deze doctrine experimenteren en implementeren twee aspecten van hetzelfde proces.

“For Dewey, ethical and political goods were subject to revision in much the same way that scientific concepts were.” (Westerblad, p. 21)

Conceptual engineering heeft enerzijds betrekking op hoe er feitelijk door mensen gedacht wordt, anderszijds gaat het over de begrippen die gehanteerd worden en betreft het dus de logische kennis-inhoud van het denken.

Frege’s logicisme was een reaktie op het in zijn tijd heersende psychologisme. Frege voert de term ‘Gedanke’ in voor de inhoud van een oordeelszin: ”Ein solcher Satz enthält einen Gedanken.” “Ich verstehe unter Gedanke nicht das subjektive Tun des Denkens, sondern dessen objektiven Inhalt, der fähig ist, gemeinsames Eigentum von vielen zu sein.” (Voetnoot p. 46).

Wat Frege hier ‘das subjektive Tun des Denkens‘ noemt is wat Metzger in Automation und Autonomie ‘das einsame Denken‘ noemt wanneer hij het over de automaat, de ‘denkende machine’ heeft. “Gewiss es ist nicht das einsame Denken in seiner imaginativen Produktivität, von dem hier gesprochen wird, sondern das rechnend beweisende, konstuierende Denken, das in seiner formalisierten Sprache in der symbolische Logik sein Thema findet … (Metzger, p. 9)

Wanneer Westerblad in navolging van Dewey de psychologische notie van Isaac te psychologisch noemt dan wijst dit mogelijk op het verschil dat Frege en Metzger aangeven tussen Gedanken enerzijds en het subjectieve denken van het individu anderzijds. Begrip kent een psychisch, een logisch en een talig aspect. Conceptual engineering kan niet afzien van het psychologische aspect, van hoe de mens feitelijk denkt en begrijpt en hoe dit zijn gedrag bepaalt. CE is meer een sociologie van het denken en communiceren in een bepaalde (sub-)cultuur of levenvorm (‘form of life’).

Over een geschikte notie van begrip voor conceptual engineering is men het nog niet eens. Het filosofische en het psychologische begrip voldoen beide niet.

Drie soorten van begrip

In On the notion of life onderscheidt Fleischhacker drie soorten van begrip (zie ook Beyond Structure).

  1. De alledaagse begrippen. Deze drukt een ordening van de ervaren werkelijkheid uit die inherent is aan een specifieke cultuur. Dit zijn de noties die Wittgenstein in gedachten had wanneer hij opmerkingen maakte over ‘familiegelijkenissen’ en over betekenis als gebruik. Zie bijvoorbeeld zijn speurtocht naar het gemeenschappelijke van ‘spelen’ in de Filosofische Onderzoekingen.
  2. Wetenschappelijke begrippen. Deze zijn definieerbaar door middel van een mathematisch model van het domein waar ze voor gebruikt worden. Ze zijn afhankelijk van de wetenschappelijke reconstructie van de ervaringswereld en alleen dan exact wanneer ze beschouwd worden in relatie tot de specifieke gekozen reconstructie.
  3. Filosofische begrippen. Deze wijzen op een zeker perspectief gebaseerd op principes die voorondersteld worden bij het maken van zekere onderscheidingen in – of reconstructies van – de ervaringswereld.

Wat Fleischhacker onder ‘filosofisch’ verstaat wijkt dus af van wat Isaac en Westerblad eronder verstaan. Wat beide laatsgenoemden eronder verstaan is meer wat Fleischhacker ‘wetenschappelijk’ noemt. Het onderscheid tussen wetenschappelijk en filosofisch begrip is van belang.

Met de ontwikkeling van het Duitse idealisme vanaf Kant is volgens Fleischhacker een volledig nieuwe draai gegeven aan het gebruik van de filosofische begrippen. Ze onderscheiden zich niet alleen qua inhoud van de alledaagse en de wetenschappelijke begrippen maar ook wat betreft hun vorm. Hegel noemde ze speculatief. Ze drukken een orientatie uit, veeleer dan een onderscheid. Door ze toe te passen ontstaan twee tegengestelde perspectieven op het onderhavige onderwerp. Beide zijn mogelijk en valide en ze moeten in relatie tot elkaar worden begrepen. Wanneer de antipoden als zelfstandige bepalingen worden beschouwd verdwijnt het werkelijke begrip. Een voorbeeld is eenheid en veelheid. Beide gezichtspunten zijn legitiem en het is een verabsolutering om iets alleen als het ene of alleen als het andere te zien. We kunnen de wereld nu eenmaal niet in eenheden en in veelheden verdelen. Een andere dichotomie is mens-machine. Om grip te krijgen op de eigen aard van de zelfstandigheid van mens en machine moeten deze in verhouding tot elkaar gezien worden. Hoe tegenstrijdig dat ook mag klinken. Cantors verzamelingbegrip is speculatief. Het kan niet zelf als mathematisch begrip worden beschouwd. De verzameling van alle verzamelingen is paradoxaal. Een definitie van het begrip begrip is problematisch, wanneer dit beschouwd wordt als het vastleggen van de extensie ervan.

‘Wetenschappelijk’ staat voor velen voor ‘mathematisch’. Niet alleen in de natuurwetenschappen, ook in de menswetenschappen is het streven vaak kennis in wiskundige (zoals statistische) modellen en termen uit te drukken. Fleischhacker wijst op de neiging van filosofen tot mathematisme, de opvatting dat structureerbaarheid het wezen van alles is en dat iets kennen betekent dat je het een structuur kunt geven en er een wiskundige model van kunt maken. Een goed voorbeeld vinden we in Our Mathematical Universe van de fysicus Max Tegmark die alle parallelle levens in een complex mathematische model stopt.  Anderzijds lijkt Fleischhacker het wetenschappelijke en het mathematische vaak te identificeren. Dat is overigens geheel in lijn met de moderne westerse opvatting over wetenschappelijkheid. Kant getuigde van de opvatting dat de natuurwetenschap van zijn tijd alleen in zoverre waarheid bevat als het wiskundige inhoud heeft. Paradigmatisch voor wetenschap voor Kant was de Newtonse mechanica.

Beyond Structure is een poging tot ‘systematische deconstructie van het mathematisme’, waarbij Fleischhacker er op wijst dat deconstructie zelf ook een metafysische positie inhoudt, die niet impliciet mag blijven.

Wiskunde is op alles toepasbaar. Tegmark zocht een antwoord op de vraag hoe dat komt en zijn antwoord was: omdat de werkelijkheid een mathematische structuur ís (niet hééft, maar ís). Om dat aan te tonen moet hij uit gaan van een hypothese, de External Reality Hypothese. Die luidt:

Er bestaat een externe fysische werkelijkheid onafhankelijk van ons mensen.

De hypothese drukt expliciet het onderscheid uit tussen twee aspecten van de kenrelatie die bij Descartes als twee gescheiden substanties tegenover elkaar komen te staan: het denkend subject (res cogitans) enerzijds en anderzijds de natuur, waaruit alle emotie en verandering onttrokken is: pure zielloze uitgebreidheid (res extensa). De wiskunde ziet af van haar eigen activiteit. Ze stelt iets en keert nooit op haar schreden terug. Ze kan ook geen verantwoording afleggen voor haar eigen stellingname, zonder in tegenspraken te vervallen. Ze kan zich wel buigen over haar eigen activitiet, maar slechts van buiten af, formeel genomen, niet als eigen aktiviteit.

Wiskunde is op alles toepasbaar in zoverre het verdraagt dat van de eigen aard ervan wordt afgezien. We vermoeden hier een probleem voor CE, omdat deze enerzijds wil afzien van de eigen aard van het begrip en dit op een wetenschappelijke wijze wil onderzoeken, anderzijds juist met die eigen aard van het alledaagse begrip van doen zegt te hebben. Hoe kun je het alledaagse begrip op wetenschappelijk experimentele wijze onderzoeken zonder de alledaagse eigen aard ervan te niet te doen?

Willen we iets van de eigen aard van een concrete werkelijkheid begrijpen dan zullen we het begrip ‘begrip’ zo moeten opvatten dat de algemeenheid, de grens (definitie, bijzonderheid) en het unieke, de enkelheid alle drie tot hun recht komen. (Fleischhacker, Inleiding Logika) Dat kan volgens Hegel alleen speculatief, dat is: door deze drie momenten in verhouding tot elkaar te ontwikkelen. Dat is een dynamisch (dialectisch) proces waar we zelf als denkend en begrijpen subject dat in verstandelijke onderscheidingen denkt en deze weer opheft, niet buiten kunnen blijven staan. Het is een wordingsproces waar we voor open staan en waarin ons inzicht tot zelfbewustzijn komt.

Filosofie is denken gericht op de concrete werkelijkheid. Niet op een abstract algemeen begrip ervan.

Wat we gewoonlijk een begrip noemen. Bijvoorbeeld kleur in “alles heeft een kleur” (algemeen, zonder iets te zeggen over de specifieke kleur), als specifiek bepaald begrip, kleur tegenover vorm of materiaal, of als uitdrukking van een concrete inhoud van de beleving (“waar je sprakeloos geniet van de kleuren die je ziet”)

Bij Hegel is de eigenheid van het begrepene een moment van het begrip. In het begrijpen verwijst het begrip naar de werkelijkheid.

Wanneer we de denkbeweging, het logische, formele denken, op zich nemen dan zien we af van het verwijzingskarakter van het eigenlijke denken naar onze werkelijkheid. Begrijpen is concreet iets wat een mens doet.

Hegels denken is speculatief in die zin dat het zijn bedoeling is dat we met hem meedenken in een levende verwijzing naar de werkelijkheid van ons bestaan die we trachten te begrijpen.

Aan dat inzicht ontleent het begrip haar algemeenheid.

Taal en begrip

De relatie tussen het alledaagse en het filosofische taalgebruik is een centraal onderwerp in het denken van Ludwig Wittgenstein. Hij moest niets hebben van wezens en wezensinzichten en kon niet anders dan de eenheid van alles wat we ‘spel’ noemen zien als een ‘familiegelijkenis’, of als een touw dat uit draadjes bestaat waarvan niet één zo lang is als het touw zelf. De betekenis van het woord is niet een referentie naar een wezensinzicht, maar die is functie van het gewone alledaagse gebruik van de woorden. Kijk naar wat de mensen met de woorden doen! zou de conceptual engineer Wittgenstein na kunnen zeggen.

De definitie drukt het ingeziene principe uit in een algemeen begrip en geeft de grens aan van wat wel en niet onder het begrip valt. Het werkelijke ingeziene principe en werkzame begrip bestaat echter in de unieke concrete ontwikkeling waar het begrip het principe van is. Het ware begrip bestaat alleen in het begrijpen van een concrete toedracht.

Mathematisch zouden we dit als ‘het toepassen van het begrip’ in een concrete situatie zien. Maar die situatie moet dat wel gezien worden als iets waar dit begrip op toepasbaar is. Het toepassen van een regel of wet in de rechtspraak bijvoorbeeld is niet hetzelfde als het toepassen van een functie op een argument volgens een computeralgoritme. De concrete toepassing doet namelijk iets met de algemene regel.

Hier botsen het technische en het filosofische karakter van conceptual engineering. Techniek gebruikt een mathematische functioneel functie-begrip, filosofie is juist, in tegenstelling tot de betekenis die Isaac en Westerblad er aan geven, ‘flexibel’.

Volgens Frege is begrip een functie. De functie zelf is de grens of definitie die aangeeft waarop het begrip betrekking heeft en waarop niet, de Gegenstand waar het begrip op toegepast wordt is het unieke, concrete. De waarheidswaarde drukt het algemene van het begrip uit. Alles waarop de functie toegepast wordt, wordt op hetzelfde object afgebeeld. Wiskundig worden deze drie als mathematische objecten gedacht, waardoor hun verhouding tot elkaar te niet is gedaan. Functie en argument zijn uitwisselbaar geworden omdat ze niet in verhouding tot elkaar worden opgevat. Wanneer we de verhouding mens machine niet als verhouding zien worden beide uitwisselbaar. Dat is wat we zien gebeuren als mensen AI als zelfstandig bewustzijnde zijnden zien. Het spiegelbeeld en het orgineel worden niet meer als verschillende zijnswijzen opgevat, maar volledig geïdentificeerd.

Niet zo vreemd dus dat in de intersubjectiviteit – van mens enerzijds en de als autonoom subject gedachte machine anderzijds – een transcendentie van de technische verhouding wordt gezien.

Dan zou niet conceptual engineering, maar de intersubjectiveit van mens en technisch artefact de nieuwe fase zijn in de ontwikkeling van de technische idee.

Relatie mathematiek en techniek

Het mathematisch denken is bij uitstek geschikt voor technologie: bij beide gaat het om uitvinden, maken en testen van nieuwe constructies. Technologie maakt gebruik van wetten van de natuur. Maar technologie vereist niet per sé dat de wetten die ze gebruikt mathematisch exact in kwantitieve relaties zijn uitgedrukt. Praktische intuïtie blijft in alle fasen van de ontwikkeling van de technologie een belangrijke rol spelen, zowel bij de primitieve handwerktechniek als bij software design. De machinetechniek is gebaseerd op expliciet uitgedrukte mathematische wetten. Bij de informatietechnologie hoeven we niet meer te weten hoe de machine mathematisch-fysisch werkt. Het is juist de bedoeling dat we, programmeur en gebruiker, daarvan af kunnen zien. We communiceren ermee in ‘onze’ taal.

Taalgebruik in de filosofie is reflexief. Het doel is niet – wat de vorm suggereert – een communiceerbare inhoud, een feit of stelling mede te delen. In een filosofisch vertoog gaat het niet om informatieoverdracht. Het gaat erom een denkbeweging mee te voltrekken waarin een impliciet inzicht verwoord wordt.

Vanwege haar praktische doelstelling houdt conceptual engineering er een functionele notie van begrip op na. Begrip heeft een sociale, politieke en morele functie die buiten het begrijpen zelf valt. Het gaat de conceptuele ingenieur altijd om een (morele) preoccupatie met de waarde die een bepaalde zaak voor hem/haar heeft. Conceptual engineering probeert tot filosofische begrippen te komen en deze op een wetenschappelijke wijze te gebruiken om het dagelijke gebruik van de begrippen in de praktijk te beïnvloeden, zodat mensen ze beter begrijpen.

We hebben hier dus te maken met alle drie door Fleischhacker genoemde soorten van begrip die elk hun eigen rol spelen in het conceptual engineering project.

Het begrip als verplichtend

Technologie staat buiten de waarde van het doel dat het dient. Technologie is waarde-neutraal. Het a-morele is meteen het problematische van de technologie: ze dwingt op zich niet af het goede te doen, wat de goede bedoelingen van de uitvinder ook waren, omdat het technische op zich buiten de sfeer van het goede staat. De ethische problematiek komt pas met de concrete (economische) toepassingen van de techniek. Conceptual engineering is de poging het goede gebruik van de technologie in het technische ontwerp van het gebruik in te bouwen door de ‘juiste conceptuele denkkaders’ te ontwerpen. Hoe gebruiken we het verstand, dat volgens het beroemde woord van Descartes ‘het best verdeelde goed ter wereld’ is, goed?

Wittgenstein schreef in een brief aan zijn vriend Paul Engelman:

Ik wou dat ik een beter mens was en een beter verstand had. Eigenlijk is dat het zelfde.” (Ludwig Wittgenstein, 1917)

Het uiteindelijke doel van de conceptual engineer, of hij of zij zich nu als filosoof, wetenschapper, technicus, of kunstenaar ziet, is een goed mens te zijn. Een goed mens die “de juiste begrippen ontwerpt en gebruikt”. Of kunnen we gewoon zeggen: die logisch nadenkt? Met een open blik op wat zich in de wereld afspeelt.

Het door Wittgenstein bewonderde en verguisde genie Otto Weininger zei het in zijn Geschlecht und Charakter (1903) zo:

“Logica en ethiek komen in wezen op hetzelfde neer – verplichting tegenover zich zelf” 

Het is de technologie zelf, in al haar verschillende uitingsvormen, die de conceptual engineer verplicht verplichting af te leggen tegenover zich zelf.

Bronnen en noten

Austin, J.L. 1956. Other Minds. In: Philosophical Papers, Third Edition, Edited by Urmson, J.O. and Warnock, G.J., Oxford University Press, 1979.

“It is as if sensa were literally to ‘announce termselves’ or to ‘identify themselves’, in the way we indicate when we say ‘It presently identified itself as a particularly fine white rhinoceros’. But surely this is only a matter of speaking (…): sensa are dump, and only previous experience enables us to identy them.” (p. 97)

P. de Bruin S.J. (1937). Philosophie der Techniek. Studia Catholica 13 (1937),pp 437-464.

Butlin, P. et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness Preprint at https://arxiv.org/abs/2308.08708 (2023).

Chalmers, David. (2020). ‘What is conceptual engineering and what should it be?’, Inquiry, https://doi.org/10.1080/0020174X.2020.1817141

Mark Coeckelbergh (2012). Growing Moral Relations: Critique of Moral Status Ascription. New York: Palgrave MacMillan (2012).

Ethics and moral practices are parts of our ‘form of life’. Meta-ethics cannot escape from this. But this shouldn’t lead to relativism. We can’t not take part. Moral stance is implicit in our way of life, in the relations we practice, in the language we use to order our world.

Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.

Coeckelbergh, M., and Gunkel, D. (2023). ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.

Maarten Coolen (1992). De machine voorbij: over het zelfbegrip van de mens in het tijdperk van de informatietechniek. Boom Meppel, Amsterdam, 1992.

Maarten Coolen (1987). Philosophical Anthropology and the Problem of Responsibility in Technology. In P. T. Durbin (Ed.), Philosophy and Technology, Vol. 3: Technology and Responsibility (pp. 41-65). Dordrecht: Reidel.

Information technology must be conceived of as the objectification of the modern self-concept of man as an autonomous being.” 

Louk Fleischhacker (1992). Wijsbegeerte van het Wiskundig Denken en van de Informatietechniek, syllabus van het collegejaar 1990/91. Faculteit der Wijsbegeerte en Maatschappijwetenschappen, Universiteit Twente, 1992.

Louk E. Fleischhacker (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

Louk E. Fleischhacker (1998). On the notion of life. Theory of Bioscience. 117:139-160. In dit artikel geeft Louk een eigentijdse ‘vertaling’ van de natuurfilosofie van Hegel opgevat als een kritische filosofische theorie van het leven.

Frege, Gottlob (1892). Uber Sinn und Bedeutung. Opgenomen in: Gottlob Frege: Funktion, Begriff, Bedeutung, Uitgave: Vandenhoeck & Ruprecht in Gottingen, pp. 40-65, 1975.

Frege voert de term ‘Gedanke’ in voor de inhoud van een oordeelszin:”Ein solcher Satz enthält einen Gedanken.” “Ich verstehe unter Gedanke nicht das subjektive Tun des Denkens, sondern dessen objektiven Inhalt, der fähig ist, gemeinsames Eigentum von vielen zu sein.” (Voetnoot p. 46).

“Warum genügt uns der Gedanke nicht? Weil und soweit es uns auf seinen Wahrheitswert ankommt. Nicht immer ist dies der Fall. Beim Anhören eines Epos z.B. fesselen uns neben dem Wohlklange der Sprache allein der Sinn der Sätze und die davon erweckten Vorstellungen und Gefühle. Mit der Frage nach der Wahrheit würden wir der Kunstgenuss verlassen und uns einer wissenschaftlichen Betrachtung zuwenden.” (Frege, Über Sinn und Bedeutung, 1892, p. 48)

Of het ons “gleichgultig” is dat ChatGPT ons een werkelijkheid voorstelt die waar is of niet, hangt daarvan af of we deze machine als kunstwerk dan wel als wetenschappelijk beschouwen.

“Ich verstehe unter dem Wahrheitswerte eines Satzes den Umstand, das er wahr oder das er falsch ist.” (Frege, 1892, Über Sinn und Bedeutung)

Erving Goffman (1967). Interaction Rituals: essays on face-to-face behavior. 1967.

Gunkel, David J. (2012). The machine question: Critical perspectives on AI, robots, and ethics. Cambridge: MIT Press.

Gunkel, David J. (2014). The Rights of Machines–Caring for Robotic Care Givers. Presented at AISB 2014. Chapter in the Intelligent Systems, Control and Automation: Science and Engineering book series (ISCA,volume 74).

Gunkel, David J. (2017). The Other Question: Can and Should Robots have Rights? In: Ethics and Information Technology, 2017.

Gunkel, David J. (2023). Person, Thing, Robot A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.

“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things. And it is with the robot— who plays the role of or occupies the place of a kind of spokesperson for Things— that we are now called to take responsibility for this privileged situation and circumstance.” (p. 184)

Hacking, Ian (2006). The Emergence of Probability: a philosophical study of early ideas about probability, induction and statistical inference. Second Edition, Cambridge University Press, 2006.

Georg W.F. Hegel (1830/1970), Enzyklopädie der Philosophischen Wissenschaften, Zweiter Teil, Die Naturphilosophie. Theorie Werkausgabe 9, Suhrkamp, 1970.

Georg W.F. Hegel (1969). Jenaer Realphilosophie – Vorlesungsmanuskripte zur Philosophie der Natur und des Geistes von 1805-1806. Uitgave Johannes Hoffmeister, Verlag von Felix Meinder, Hamburg, 1969.

Gert-Jan van der Heiden (2021). Metafysica: van orde naar ontvankelijkheid. Boom uitgevers, Amsterdam, 2021.

Hollak, J.H.A. (1968). Betrachtungen über das Wesen der heutigen technik. Kerygma und Mythos VI Band III, Theologische Forschung 44, 1968, Hamburg, Evangelischer Verlag, pp 50-73. Dit is de vertaling van het Italiaanse artikel (Hollak 1964) Ook opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak (Hollak en Platvoet, 2010).

Hollak, J.H.A. (1964). Considerazioni sulla natural della tecnica odierna, l’uomo e la cirbernetica nel quadro delle filosofia sociologica, Tecnica e casistica, Archivo di filosofia, 1/2, Padova, 1964 pp. 121-146, discussie pp 147-152.

Hollak, Jan en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin ogenomen.

Vincent Icke (2021). Licht – tussen waarheid en wetenschap. Prometeus, Nieuw Licht, Amsterdam, 2021.

Begrip is iets anders dan intelligentie, zegt Icke. Intelligentie betekent bedenken wat de gevolgen zouden kunnen zijn van een bepaalde oorzaak. “Begrijpen werkt andersom: bedenken wat de oorzaak kan zijn van een waargenomen gevolg.” Maar dat bedenksel moet wel getest worden. Begrip is er pas wanneer het bedenksel juist blijkt te zijn. Begrip is van een hogere orde dan kennis, zegt Icke. Daarbij vat hij ‘kennis’ op als het resultaat van het vergaren van gegevens, het doen van experimenten en het vastleggen van resultaten. “Maar uit een stapel resultaten volgt geen begrip”. (p.43).

Manuel Gustavo Isaac (2023). Which Concept of Concept for Conceptual Engineering? Erkenntnis (2023) 88:2145–2169. https://doi.org/10.1007/s10670-021-00447-0

Jürgen Kaube (2022). Hegel – een biografie. Uitgeverij Ten Have, 2022.

Olya Kudina (2019), “The technological mediation of morality: Value dynamism, and the complex interaction between ethics and technology”, PhD dissertation, University of Twente, Enschede.

Levinas, E. (1987). Collected Philosophical Papers. Trans. Alphonso Lingis. Dordrecht: Martinus Nijhoff.

Emmanuel Levinas (1971). Het menselijk gelaat. Vertaald en Ingeleid door O. de Nobel en A. Peperzak. Ambo, 1969, Bilthoven. Hierin: Betekenis en zin, pp.152-191. (Vertaling van La signification et le sens. in: Revue de Métaphysique et de Morale 69 (1964), 125-156.)

Levinas, E (1951). L’ontologie est-elle fondamentale? In: Revue de Métaphysique et de Morale 56 (1951) 88-98.

Arnold Metzger (1964). Automation und Autonomie. Das Problem des freien Einzelnen im gegenwärtigen Zeitalter, Neske, 1964.

Ray Monk (1991). Ludwig Wittgenstein – het heilige moeten, een biografie. Prometheus, Amsterdam, 1991. Vertaling door Ronald Jonkers, van Ludwig Wittgenstein – the duty of genius, Ray Monk, 1990.

Mulisch, Harry (1998). De Procedure. Uitgeverij De Bezige Bij, Amsterdam. 1998.

Navon, Mois (2023). Let us make man in our image‑a Jewish ethical perspective on creating conscious robots. AI and Ethics, 2023.

Van de Poel, Ibo, et al. (editors) (2023). Ethics of Social Disruptive Technologies. Open access boek van het ESDIT consortium.

Toivakainen, Niklas (2015). Machines and the face of ethics. In: Ethics and Information Technology, Springer, 2015.

Otto Weininger (1903/1920). Geschlecht und Charakter – eine prinzipelle Untersuchung. 19de druk, Wien/Leipzig, 1920.

“Dieses Buch unternimmt es, das Verhältnis der Geschlechter in ein neues, entscheidendes Licht zu rücken.” (voorwoord, eerste druk)

Otto Weininger (1984). Geslacht en karakter: een principieel onderzoek, (Vert. Tineke Davids) Amsterdam, De Arbeiderspers, 1984

Wittgenstein over Weiniger:

“Het is waar dat hij fantasie heeft, maar een grootse fantasie. Je hoeft het niet
met hem eens te zijn, of beter, je kunt het niet met hem eens zijn, maar het
grootse ligt in datgene waar we het mee oneens zijn. Het is zijn enorme vergissing
die groots is. Ik bedoel, globaal gezegd, als je een ~ (bedoeld wordt het teken voor de logische negatie uit de mathematische logica – RodA) voor het hele boek zet, drukt het een belangrijke waarheid uit.” (Monk, The Duty of Genius)

Over het centrale thema van Weiningers boek dat vrouwen de bron van
alle kwaad waren, gaf Wittgenstein tegenover Drury toe: “How wrong he was, my
God he was wrong
.” (zie Fleischhacker, De Henide als paradigam, Otto Weiningers invloed op Ludwig Wittgenstein.)

Westerblad, Oscar (2023). Deweyan conceptual engineering: reconstruction, concepts, and philosophical inquiry. Inquiry https://doi.org/10.1080/0020174X.2022.2118163

Wittgenstein, Ludwig (1973). Tractatus logico-philosophicus. Logisch-philosophische Abhandlung. Ed. Suhrkamp, Uitgave 1973. Oorspronkelijke Duitstalige uitgave 1921.

Wittgenstein droeg de Tractatus (1921) op aan zijn vriend David Pinsent. In het voorwoord waarschuwt Wittgenstein zijn lezer: de stellingen in dit boek zullen vermoedelijk alleen begrepen kunnen worden door die lezer die zelf al eens dergelijke gedachten gehad heeft. Waarmee hij misschien wel een kerngedachte van zijn denken uitdrukt, namelijk dat de taal niet geschikt is om wezenlijke dingen mee te communiceren.

Wittgenstein, Ludwig (2006). Filosofische Onderzoekingen. Vertaling Maarten Derksen en Sybe Terwee. Boom, Amsterdam, 2006. De oorspronkelijk Duitse tekst verscheen in 1953 bij Basil Blackwell te Oxford.

Waarom wij niet korter leven

Waarom leven wij niet korter dan wij doen? Dat is de vraag waarop ik een antwoord heb gevonden. Zonder dat ik het zocht. In dit stukje leg ik uit hoe dat zit. Ik zal proberen dat zo kort mogelijk te doen, zodat we zo snel mogelijk bij het eindpunt zijn. (1)

Laat dit het beginpunt zijn.

Ons leven bestaat uit momenten, de punten op onze levenslijn, de lijn die ons beginpunt verbindt met dit moment, nu.

Een rechte lijn is de kortste lijn tussen twee punten. (‘Kortste’ zegt dat je lengtes kunt vergelijken. Ik kom daar later, in noot 7, op terug.)

Als onze levenslijn een rechte lijn is dan is dat de kortste lijn.

Ik moet dus alleen nog aantonen dat onze levenslijn een rechte lijn is. Dan volgt uit de vorige stelling dat ons leven niet korter kon dan het is.

Om aan te tonen dat onze levenslijn een rechte lijn is gaan we terug naar een oude tekst. Daarin wordt uitgelegd wat een rechte lijn is.

Zo’n 300 jaar voor onze jaartelling legt de Griekse filosoof Euclides de basis voor de meetkunde (2). In deze tekst, de Elementen, zegt hij eerst wat hij onder een punt verstaat: “Wat geen delen heeft” en wat hij onder een lijn verstaat: “Een lijn is een lengte zonder breedte”.

En vervolgens lezen we wat hij onder ‘een rechte lijn’ verstaat.

Een rechte lijn is een lijn “die gelijk ligt met de punten erop“.

Een “raadselachtige omschrijving”, zoals de psychiater J.H. van den Berg in zijn geschiedenis van de niet-Euclidische meetkundes opmerkt.

Ligt niet iedere lijn gelijk met zijn punten erop? Het antwoord kan kort zijn: ja.

Maar dan zou volgens Euclides iedere lijn recht zijn. Dat zou de eigenschap ‘recht zijn’ niet een beperkende bepaling zijn. Er zijn echter ook kromme lijnen; lijnen die niet recht zijn.

Euclides eerste postulaat luidt: Van elk willekeurig punt naar elk ander punt kan precies één rechte lijn getrokken worden.

Het heeft alleen zin dit op te merken als er andere lijnen tussen twee punten zijn die niet recht zijn. Euclides zegt niet: als er twee lijnen tussen twee punten recht zijn dan vallen ze samen. Er ís er maar één. En voor die lijn geldt dat die “gelijk ligt met de punten er op“.

Wat we uit de woorden van Euclides opmaken is dat hij de punten van de lijn onderscheidt van de lijn zelf. Anderzijds vormen de punten van de lijn natuurlijk samen de lijn. De punten zijn de discrete eenheden; de lijn is de continue eenheid. Door te stellen dat de punten van een rechte lijn ‘gelijk liggen met de lijn’ drukt hij de eenheid van beide onderscheiden momenten van de lijn uit: veelheid en eenheid. Maar waarom zou die eenheid nu het recht zijn van de lijn kenmerken?

Hoe moeten we nu zijn raadselachtige definitie van de rechte lijn begrijpen?

Bij de wiskundige en historicus E.J. Dijksterhuis vinden we de volgende definitie van de rechte lijn. Die wijst ons naar de oplossing van dit raadsel.

Een rechte lijn is een lijn die, wanneer het oog twee punten ervan doet samenvallen, alle punten voor dat oog in het samenvallende punt brengt.

Je ziet het de timmerman doen. Om te bepalen of een lat recht is houdt hij deze op ooghoogte in het verlengde van de kijkrichting en beweegt deze zo dat het eindpunt samenvalt met het beginpunt ervan. Als er geen tussenliggende punten van de lat zichtbaar zijn is de lat recht.

Deze definitie maakt gebruik van een zichtlijn en veronderstelt dat de zichtlijn recht is. Mogen we dat zomaar aannemen? Volgt het licht een rechte lijn? Volgens de huidige inzichten in de fysica niet. De materie zou de ruimte krom trekken. We kunnen niet zeggen welke weg een individueel lichtdeeltje gaat. Het gaat ‘zijn eigen weg’ (3).

Euclides had heel goed in de gaten dat hij geen fysica bedreef, maar wiskunde. Daarom stelde hij ook zo nadrukkelijk dat een punt geen delen heeft. Dat doet hij om aan te geven dat een punt niet verward mag worden met een zichtbaar materiëel iets, zoals een stip op papier. (4)

Euclides kon dus geen beroep doen op zoiets als een zichtlijn. Hoe redde hij zich hier uit? Door gebruik te maken van een middel waarvan in zijn tijd wel vaker door de filosofen gebruik was gemaakt (5).

Euclides redeneerde namelijk zo (6). Een stel punten, die een lijn vormen, vormen een rechte lijn wanneer voor elke twee punten ervan geldt dat als je er een rechte lijn tussen trekt, de andere er allemaal op liggen.

Ik hoor u al denken: dat is een cirkel. En geldt niet het gebod dat een definitie van een begrip geen gebruik mag maken van datzelfde begrip? Tegenwoordig noemen wij zo’n definitie recursief. Ze zijn zeer populair en zelfs onmisbaar voor het programmeren van de machine. Die heeft immers ook niets anders buiten de woorden van het programma; de woorden die zeggen wat de machine moet doen.

We begrijpen nu wat Euclides voor ogen stond toen hij een rechte lijn definieerde als een lijn “die gelijk ligt met de punten erop“. Er liggen geen punten van de lijn naast de lijn want het zijn de punten van de lijn.

Resumerend. Als u accepteert dat de momenten van uw leven, de punten van uw levenslijn zijn, dan is die lijn een rechte lijn, de enige en daarmee de kortste lijn vanaf uw beginpunt tot nu. Ofwel elk leven kan niet korter zijn dan het is. (7)

Euclides had gelijk: er is maar één rechte lijn die twee punten verbindt. Dat is de lijn die je hebt afgelegd, de lijn waarop alle momenten van de lijn liggen.

Elk mens loopt “het kronkelpaadje af dat achteraf de kortste weg naar de bestemming blijkt te zijn.” (8)

Dit is het eindpunt van dit verhaal. Korter kon ik het niet maken.(9)

Noten

  1. Voetnoten en eindnoten zijn dè truc om een lang verhaal kort te maken.
  2. Wat Euclides doet is wiskunde bedrijven. In een tijd waarin het voor de mens nog alles behalve gesneden koek is dat wiskundige objecten niet op dezelfde wijze bestaan als de waarneembare dingen om hem heen. Getallen zijn geen dingen zoals stoelen en tafels. Het zijn ‘gedachtedingen’. Een punt is niet een waarneembaar object, zoals een steen of een appel. Een appel is deelbaar, uitgebreid. Een punt is dat niet. Een lijn is een lengte zonder dikte. Negatieve bepalingen. Dit is geen fysica! Van een ‘fysische’ lijn kunnen we soms zeggen dat de dikte verwaarloosbaar is, maar niet dat deze geen dikte heeft. Het is een vorm van mathematisme (zeer populair overigens) te denken dat de mathematische lijn door een ‘limietproces’ uit een fysische lijn kan ontstaan, namelijk door de dikte naar nul af te laten nemen. Fysische objecten en mathematische objecten behoren tot verschillende zijnsordes. Zolang de wiskunde bestaat is het een probleem hoe die twee zich tot elkaar verhouden; hoe het komt dat wiskunde toepasbaar is, maar ook wat de grenzen aan die toepasbaarheid zijn. Zie daarover het proefschrift van L.E. Fleischhacker, Over de grenzen van de kwantiteit (Mathematisch Centrum, Amsterdam, 1982)
  3. Euclides’ Geometrie is het begin van de moderne wiskunde. Een wiskundige stelling moet bewezen worden door logische conclusies uit voor waar aangenomen axioma’s of eerder bewezen stellingen te trekken. Met cijfers en cijferrijtjes duiden we getallen aan. Een cijfer is zelf geen getal. Dit onderscheid tussen de voorstelling, zoals een teken of een tekening, en dat wat het voorstelt, het wiskundig object, houden we consequent vast wanneer we wiskunde bedrijven. Een getekende lijn is slechts een voorstelling van een wiskundige lijn. Maar waar kunnen we de wiskunde beginnen? Uit niets komt niets. De wiskundige stelt iets. Zo is het.
  4. Wat bepaalt welke richting een lichtdeeltje op zeker moment neemt? “Het antwoord dat de Natuur ons opdringt is verbluffend, namelijk niets.” zegt Vincent Icke in De Principes van Huygens. Dat is onbepaald. Je kunt pas achteraf beschrijven welke weg het heeft afgelegd.
  5. Zie bijvoorbeeld de paradox van Zeno volgens welke Achilles de schildpad niet in kon halen. Lewis Carroll legt de relatie uit met de formele logica, de basis van de programmeerbare machine. In: “What the Tortoise Said to Achilles,” Mind 4, No. 14 (April 1895): 278-280. Snappen we wel hoe die werkt?
  6. Eureka! Dit is hoe ik Euclides definitie nu begrijp.
  7. Het predikaat ‘korter’ vergelijkt afstanden tussen punten. Als drie punten op een rechte lijn liggen dan kun je ze zo benoemen met de namen A, B en C dat de afstand tussen A en C gelijk is aan de som van die tussen A en B en die tussen B en C. Bij de punten van een rechte lijn, dat zijn er oneindig veel!, geldt deze eigenschap voor iedere drie punten. Omgekeerd kun je de rechte lijn definiëren als een verzameling punten zodanig dat er een ordening op alle punten bestaat waarvoor deze eigenschap geldt. Merk op dat het niet nodig is de afstand tussen punten te bepalen als een getal. Het is de ordening die de afstand oplegt aan de punten die van belang is voor het bepalen wanneer de punten op een rechte lijn liggen. Ze liggen ‘in elkaars verlengde’. We kunnen het begrip rechte lijn dus wel definiëren zonder het begrip zelf te direct gebruiken, maar niet zonder het begrip afstand dat een ordening op de punten bepaalt. Je kunt dan zeggen dat de punten een rechte lijn vormen wanneer je ze ‘lineair’ kunt ordenen. De functie afstand moet voldoen aan drie voorwaarden. (1) Ieder paar heeft een afstand. (2) De afstand tussen een punt en zichzelf is 0. (3) Ieder paar ongelijke punten heeft een afstand die groter is dan 0.
  8. Met dank aan de fysicus en Minister van Onderwijs en Wetenschappen Robbert Dijkgraaf die in zijn nota Inzet Werkagenda mbo over het Middelbaar Beroeps Onderwijs (20 oktober 2022) opmerkt: “Voor mij staat voorop dat elke student een duurzame toekomst met perspectief verdient. Ongeacht achtergrond, sociaal-economische positie van hun ouders of ondersteuningsbehoefte moet iedereen mee kunnen doen in de maatschappij en op de arbeidsmarkt. Iedereen heeft bij zijn studie de rust en ruimte nodig om z’n eigen weg te vinden. Om het kronkelpaadje af te lopen dat achteraf de kortste weg naar de bestemming blijkt te zijn.” Daarmee wil hij, denk ik, zeggen dat hij liefst geen lijn (curriculum) zou willen opleggen voor de levenslijn (studie) die de student zou moeten volgen en die zou moeten dienen als maat om te bepalen of deze succesvol (recht en daarmee de kortste) is. ‘De bestemming’ wordt door iedere student zelf tijdens zijn leven bepaald en is niet een punt in de toekomst dat al van te voren vastgelegd kan worden. Dat geldt niet alleen voor studenten en schoolse curricula. Het zal duidelijk zijn dat de stelling ethische consekwenties heeft voor het beoordelen van het ‘nut’ van de momenten van een mensenleven.
  9. Henri Poincaré over de definitie van de rechte lijn: “Men heeft er veel onjuiste van gegeven, maar de juiste is diegene die stilzwijgend verondersteld wordt in alle bewijzen waarin de rechte lijn optreedt. “Het kan voorkomen dat een onveranderlijke figuur zodanig bewogen wordt, dat alle punten van een lijn die tot die figuur behoort op hun plaats blijven, terwijl alle punten die buiten die lijn liggen verplaatst worden. Een dergelijke lijn heet een rechte lijn.” (Uit: De niet-euclidische meetkunden. Opgenomen in de bundel Wetenschap en Hypothese, Boom Meppel, 1979, p.78). De timmerman moet de lat om zijn as draaien om zich ervan te overtuigen dat deze recht is. Bij een ideale mathematische lijn zonder dikte hoeft dat niet. Door een vlak te draaien om een as door twee punten in het vlak blijven de punten van de draai-as op hun plaats, terwijl alle andere punten van plaats veranderen. De aanname dat een onveranderlijk star lichaam bewogen kan worden is volgens Poincaré wat betreft waarheidsgehalte gelijkwaardig met het postulaat van Euclides dat zegt dat men door een punt slechts één rechte lijn kan trekken die evenwijdig is aan een gegeven rechte lijn.

Over sociaal ontwrichtende technieken en begrippen

“Tussen de werkelijkheid die de receptiviteit gegeven is, en de betekenis die deze werkelijkheid kan krijgen, schijnt een onderscheid te bestaan.”

(Emmanuel Levinas, La signification et le sens)

Onlangs verscheen Ethics of Social Disruptive Technologies een Open Book publicatie van het ESDiT Research Consortium, een onderzoekgroep werkzaam op het gebied van de ethische vragen rond maatschappij-ontwrichtende technologieën. (Van de Poel et al. 2023). Naast een inleidend hoofdstuk bevat de bundel hoofdstukken over aktuele onderwerpen zoals sociale media en democratie (hoe bedreigen de sociale media de democratie?), sociale robots (zijn robots morele agenten?), climate engineering en externe zwangerschaptechnologie. In al deze hoofdstukken ligt de focus op de disruptieve gevolgen van nieuwe technologie en de begripsmatige, filosofische, en dan met name ethische vragen die deze oproepen. In het hoofdstuk over ‘ectogestatieve’ technologie gaat het bijvoorbeeld om de vraag wat het voor het moederschap betekent wanneer de eerste levensfase van het nog ongeboren kind zich in een kunstmatige baarmoeder voltrekt. Wat is een ‘echte’ moeder nog? is de vraag die deze techniek in ontwikkeling oproept. Het hoofdstuk bevat een mooi schema van soorten moederschap in relatie tot verschillende voorplantingstechnologieën. Technologie verandert de betekenis van de woorden. Elk hoofdstuk bevat verwijzingen naar podcasts met presentaties en discussies over de besproken onderwerpen. In het laatste hoofdstuk: Conceptual disruption and the ethics of technology, gaat het over conceptual engineering, een onderzoekgebied waar experimentele wetenschap, engineering, filosofie en ethiek van technologie elkaar ontmoeten.

Hoe verhouden deze verschillende disciplines zich tot elkaar? Is conceptual engineering een nieuwe fase in de begripsmatige en historische ontwikkeling van de technologie, een soort van meta-technologie? Of is het oude wijn in nieuwe zakken: een herbenoeming van historische disrupties in het filosoferen over de mens en zijn door mathematiek en technologie vormgegeven (relaties tot de) werkelijkheid?

Waarom is conceptual engineering een interessant fenomeen?

Wanneer de informatietechnologie de technologie van de technologie is, de technologie in haar zelf-reflexieve vorm, zoals wel beweerd wordt, en wanneer de technische idee ‘als zodanig’ expliciet tot uitwendige objectivatie is gekomen in de programmeerbare automaat en wanneer de moderne westerse mens als autonoom subject dat zich als heerser tegenover de natuur plaatst in de zelfstandige humanoide intelligente artefacten, zoals de sociale robots, zijn zelfbeeld ziet voorgespiegeld, waarmee de historische en begripsmatige ontwikkeling van de technische idee in haar eindstadium is gekomen (Hollak, Metzger, Coolen, Fleischhacker), dan rijst de vraag wat er daarna komt. Is er een technologie die de technologie overstijgt? Een technologie van de technologie?

De informatietechnologie als de zichzelf begrepen zelf-reflexieve vorm van technologie zou niet getranscendeerd en opgevolgd kunnen worden in de vorm van een nieuwe technologie. Deze moet dan over gaan in een andere vorm die de technologie als zodanig overtreft en ‘opheft’. In de kunst misschien? Of in de religie?

Volgens Hegel gaat de technologie over in de relatie tussen ‘man’ en ‘vrouw’ (Jenenser Philosophie des Geistes, ‘Das Sich-Erkennen in Andern’). Bij hem vinden we teksten waarin het biologische onderscheid tussen de geslachtskenmerken van de man en vrouw als bijna vanzelfsprekend metafysische betekenis wordt verleend.

“De man is dus door dit onderscheid (de splitsing bij de man in de producerende hersenen en het hart) het actieve; de vrouw is echter het ontvangende (de uterus), omdat ze in haar onontwikkelde eenheid blijft”.

“De voorplanting moet men niet reduceren tot de eierstok en het zaad alsof het nieuwe leven (‘Gebilde’) slechts een samenstel uit de vormen of delen van beide zijden waren. Daarentegen ligt in het vrouwelijke wel het materiële element, in de man echter de subjectiviteit besloten.” (Hegel, Enz. Phil. W’schaften, par. 369 Zusatz, p. 519).

“Het vrouwelijke wordt verbonden met de materie en het mannelijke met de vorm, zodat in de mens het vrouwelijke de natuur en het mannelijke de geest vertegenwoordigt.” (Fleischhacker over De Henide bij Weininger)

De geslachtelijke voorplanting is een soort van informatietechniek, het vorm geven aan de materie.

Volgens sommige AI-fanatici is het ultieme doel van de technologie het maken van een persoon, waarmee de mythe van Frankenstein en de mythe van de Golem een moderne opvolger hebben (Navon 2023). Gaat de technologie over in een vorm van ‘intersubjectiviteit’, interaktie tussen de mens en zijn in de vorm van de uitwendigheid geprojecteerde evenbeeld? Is dat beeld wel een ‘echt’ subject? Dan zouden we volgens sommigen in de sociale robots een morele agent moeten herkennen, zoals we als Westerse koloniale overheersers ooit in onze slaven mensen herkenden. Het verschil met de menselijke slaaf is dat de machine nooit een mens is geweest, zoals de filosoof Niklas Toivakainen (2015) terecht opmerkt. Die status van morele agent moeten we van buiten af aan de robot toewijzen. Ze dwingt deze niet zelf af door middel van demonstraties of protestakties. De morele en juridische constructie lijkt eerder een onderdeel te zijn van de sociale constructie die de robot is. Ook zouden we de robot een smoel (face) moeten geven ten teken dat deze tot onze ‘morele cirkel’ is toegelaten. Want is het niet het menselijk gelaat (Levinas) dat ons aanspreekt en dat paal en perk stelt aan de macht van het ik over de Ander? Anderen vragen zich af wat het voor nut kan hebben om een persoon te maken in een wereld die al vol mensen en gezichten is (Niklas Toivakainen). Te vol, volgens sommigen. En is het economische nut niet dat waarin de techniek haar ultieme waarde vindt: in het gebruik voor de bevrediging van een menselijke behoefte. Laten we het technische en het economische niet met elkaar gelijk stellen, zoals veel filosofen lijken te doen. Zie (P. de Bruin, 1937) en ook mijn stukje Het instrumentaal: wat woorden doen.

Het is niet zo vreemd dat in de intersubjectiviteit – van mens enerzijds en de als autonoom subject gedachte machine anderzijds – een transcendentie van de technische verhouding wordt gezien. Wie de robot als persoon ziet ziet hem niet meer als puur technisch middel, maar wenst rekening te houden met de eigen aard ervan.

Social disruptive technology, technologie die tot sociale ontwrichting aanleiding blijkt te geven is vaak niet zo bedoeld (zoals de autonome drones als wapens in een oorlog). De ontwrichting is een onbedoeld neveneffect. Het is een ‘toegiftverschijnsel’ in de zin van (Coolen, 1992): de esthetische en ethische aspecten die kleven aan (het gebruik van) de technische constructie zijn niet een beoogd resultaat van de technische constructie. Vaak zijn die onbedoelde neveneffecten van de introductie van een nieuwe technologie ongewenst, omdat het gebruik ervan tot ongewenst gedrag leidt of gewenst gedrag belemmert. Om dat te voorkomen is het van belang om te onderzoeken hoe sociale ontwrichting door technologie ontstaat. Misschien kunnen we er dan bij het ontwikkelen van nieuwe technologie rekening mee houden: responsible design. De wens ontstaat om de ontwikkeling van de technologie zelf te sturen. “Power over the power over nature” zou de technologie zijnde “power over nature”, transcenderen (Fleischhacker).

Maar kan dat op een technische wijze, dat is: van buiten af, via technische middelen? Kunnen we de ontwikkeling van nieuwe technologie wel stop zetten of afremmen zoals recentelijk werd voorgesteld de ontwikkeling van nieuwe AI tijdelijk te stoppen.

“Een nieuwe technologie breed beschikbaar maken voor het publiek, dat doen we toch ook niet met kernenergie en genetische manipulatie? Ja, ik schaal AI – artificial intelligence – op hetzelfde risiconiveau in, van dingen die onze hele samenleving kunnen verstoren, kunnen disrupten.”

Dit zei hoogleraar ethiek & technologie Jeroen van den Hoven van de TU Delft in een interview met de Ingenieur (30 maart 2023). Hij is medeondertekenaar van een oproep van tech-ondernemers waaronder Elon Musk en AI wetenschappers ‘om even een denkpauze in te lassen op het onderwerp AI.’. In een cultuur die zo beheerst wordt door technologische vernieuwingsdrang heeft zo’n oproep veel van een poging de klok een tijdje stil te zetten.

Er zijn legio historische voorbeelden, maar een bekend voorbeeld van hoe ontwrichtend technologie kan zijn voor de sociale (arbeids)verhoudingen, wordt beschreven in Karl Marx ‘Het Kapitaal’. De machinetechnologie leidde tot het ontstaan van de arbeidersklasse, een nieuwe klasse van mensen die uit hun noaberskap op het land de steden in werden gedreven om daar als slaven van de machinerie van het groot-kapitaal onder onmenselijke omstandigheden de kost te verdienen. Die machines waren ook het resultaat van een conceptuele revolutie, een rationalisatie die tot een ‘verlichting’ van het werk leidde. Het werk dat overgenomen werd door de zelfstandig werkende cybernetische machine, werkend op waterkracht, windkracht, en steenkool. Met de machinale industriële produktie kwamen ook de begrippen arbeider, arbeidersklasse en kapitalisme tot stand. De technologie is de motor van het kapitalisme. De automatisering zou de arbeider het Rijk der Vrijheid brengen. Het einde van de kapitalistische uitbuiting.

Marx heeft zijn positie tegenover de werkelijkheid van zijn tijd tot uitdrukking gebracht in de ‘elfde These über Feuerbach’: “Die Philosophen haben die Welt nur verschieden interpetiert; es kommt darauf an, sie zu veranderen.”

In plaats van het ‘Reich der Freiheit’ (Marx) heeft de Verlichting voor velen een ‘Gehäuse der Hörigkeit’ (Weber) opgeleverd, waarin het individu als een moderne slaaf als onderdeel functioneert in een gebureaucratiseerd systeem, bestuurd door algoritmes waarvan gezegd wordt dat ze beter weten wat het wil dan het zelf denkt te weten.

Hollak ziet twee mogelijke alternatieven als reaktie op de automatisering waarin de mens-machine relatie een radikale omwenteling heeft gemaakt ten opzichte van de eerdere fase van de technologie – omdat het cybernetische principe van zelf-regulatie in de automatie expliciet als zodanig is uitgedrukt. Die alternatieven zijn: “óf toe te geven dat de moderne machine ‘denkt’ en dat dus onze traditionele opvatting over het wezen van het ‘mechanisme’ vals was, óf te ontkennen dat dit mogelijk is en dus te aanvaarden dat ons begrip van de menselijke geest, zoals in de moderne wijsbegeerte sedert Descartes zich vorm gaf en in de Hegelse filosofie haar hoogtepunt bereikte, onvolledig was.”

Het zal duidelijk zijn dat we al voor het laatste alternatief gekozen hebben. Uit de zinvragen die de automatisering en de kunstmatige intelligentie oproepen blijkt de mens meer te zijn dan het beeld van het autonome subject dat zich tegenover de natuur plaatst en arbeidend zichzelf realiseert, het beeld dat tot uitwendige objectivatie is gekomen in de zichzelf sturende ‘intelligente machine’.

De moderne Westerse mens is consument, de burger is klant van de overheid. Het individualistisch idealisme waarin ieder leven een eigen project is, wordt beheerst door een ‘kunnen-bewustzijn’ (zie Kaube’s Hegel biografie): je doet iets niet om iets te verwerven maar omdat het mogelijk is. Dit gaat gepaard met een grenzeloos vertrouwen in de technische mogelijkheden: wat denkbaar is, is maakbaar.

De ethische bezwaren die de kritische Pugwash beweging in de jaren zeventig aantekende tegen de ontwikkeling van sprekende machines (die misleiden immers de mensen door te doen alsof ze begrijpen wat ze zeggen) zijn niet erg succesvol gebleken. Het verzet van de eerste luddieten tegen de spin- en weef-machines lijkt zich nu te herhalen in het verzet van auteurs, acteurs en musici tegen de kunstmatige intelligentie. AI-programma’s als ChatGPT produceren teksten die vaak niet verschillen van door mensen geschreven teksten. Ook beeldmateriaal wordt machinaal geproduceerd door remix van bestaand materiaal. Wordt het creatieve werk van de schrijver, kunstenaar overgenomen door de technologie of gaat het slechts om een nieuw stuk gereedschap dat hen ter beschikking staat?

Aan alle werkelijkheid zit een uitwendige kant. Vanuit technisch perspectief is arbeid slechts werk, een functie, iets uitwendigs. Het koppelt het werk van de mens los van de mens die er zijn zelf in verwerkelijkt. ChatGPT daagt het begrip ‘auteur’ uit. De auteur heeft zijn tijd gehad. Aan deze abstractie, deze ontkoppeling, ligt dezelfde mathematische houding ten grondslag die de getallen abstraheerde van de concrete aantallen dingen en ze als zelfstandige pseudo-objecten creëerde en hun een naam gaf. De wiskundige objecten zouden als quasi-substanties als gedachte constructies vervolgens gebruikt worden om er de werkelijkheid de maat mee te nemen. Die mathematische denkhouding is de denkhouding van de Verlichting waarin het primaat van het economisch geldt. ‘Alles is nuttig’. Want niet alleen aan de arbeid zit een uitwendige kant, maar aan alle aktiviteit, zowel aan denken als aan communiceren. kenmerk van onze cultuur is dat alles als functioneel wordt gezien. Ook het denken en de taal.

De Taal van Conceptual Engineering

Het laatste hoofdstuk in het boek Conceptual Disruption and the Ethics of Technology is gewijd aan conceptual engineering. Sociale disruptie gaat altijd gepaard met het door elkaar schudden van oude, bestaande, begrippen en zienswijzen. Techniek zet de filosoof aan het denken. Er zijn ethische vragen. De techniek creëert nieuwe mogelijkheden. Maar moet alles maar mogen wat in ons technisch vermogen ligt? Als het al mogelijk zou zijn uit ‘dood’ materiaal op technische wijze een persoon te maken ‘naar het beeld van de mens’, mogen we dat dan doen? Waarom zouden we ons tegenwoordig nog iets aantrekken van oude joods-christelijke teksten waarin ons dat verboden wordt? Teksten waarvan we niet eens met zekerheid kunnen zeggen wie de auteur ervan is. Zijn Adam en de Golem niet volgens dezelfde procedure gemaakt; de procedure zoals die geschreven staat in de amper vijf kantjes van de Sefer Jetsirah, ‘Het Boek der Schepping’, een boek dat er al voor de schepping moet zijn geweest (zoals het computerprogramma er voor de intelligente robot moet zijn geweest). (zie Mulisch, De Procedure, 1998) Waarom zouden we dat kunstje niet nog eens mogen herhalen?

De macht van de techniek is de macht van het begrip, de technische idee, waarin de macht over de natuur wordt uitgedrukt in een nieuwe werkwijze. Conceptual engineering is een poging grip te krijgen op het ontwerp, de implementatie en de evaluatie van nieuwe begrippen. Omdat we nieuwe begrippen met nieuwe woorden aanduiden is conceptual engineering ook altijd linguistic engineering. Oude woorden krijgen nieuwe betekenissen of er worden nieuwe woorden gemaakt, vaak door varianten of verwijzingen naar bestaande woorden. Conceptual engineering houdt er een bepaalde maar impliciete opvatting over de relaties tussen taal, begrip en werkelijkheid op na. Een engineering-opvatting waarin begrip en taal primair functioneel bekeken worden.

De filosoof David Chalmers noemt een hele reeks voorbeelden van conceptual engineering, met name uit de ‘philosophy of mind’ en de filosofie van de taal (Chalmers 2020): Frege’s ‘sense’, Grice’s ‘implicature’, Kripke’s ‘rigid designator’; ‘vruchtbare’ filosofische begrippen die veel stof hebben doen opwaaien omdat het om begripsmatig lastige begrippen gaat die een sleutelrol spelen in een bepaalde filosofische stroming en die om een conceptuele perspectiefwisseling vragen, een andere kijk op het zelf en de werkelijkheid.

Ik denk dat in retrospectief Frege, vanwege zijn onderscheid tussen Sinn en Bedeutung, een onderscheid waarop de mathematische functionalisering van het begrip berust, en Wittgenstein, vanwege zijn onderscheid tussen het ‘Sagen’ en ‘Zeigen’ en de begrippen ‘taalspel’ en ‘levensvorm’, beschouwd kunnen worden als voorlopers van de conceptuele ingenieurs. Hun succes blijkt uit de impact van hun denkwerk op het westerse functionele denken over de relatie tussen begrip, taal, en werkelijkheid. Begrip werd een functie en taal werd een werktuig, waarvan de betekenis het gebruik ervan is.

Dat een machine iets kan zeggen, zoals sommigen denken, dat is een vreemde gedachte. Frege wijst in zijn Begriffschrift op het onderscheid tussen de zin en de bewering. De zin op zich beweert niets. Een machine kan wel een zin produceren maar beweert niets. De lezer die met de zin geconfronteerd worden denkt het beweerd zijn erbij. (En dan moet er ook wel een subject zijn dat beweert.) Dat er iets beweerd wordt, is slechts schijn, buitenkant. De zin is een voorstelling, iets dat getoond wordt. Het verschil tussen ‘sagen’ en ‘zeigen’ is een belangrijk thema in Wittgensteins filosofische onderzoekingen.

Het denken opereert in taaldomeinen waarvan de woorden lastig zo niet onmogelijk vertaald kunnen worden in andere taaldomeinen. Neem bijvoorbeeld het woord ‘belief’ zoals in ‘belief-update’ of het woord ‘mind’. Ze hebben een technische functie in een bepaald filosofisch domein als in een Wittgensteiniaans taalspel. In de wetenschappen krijgen alledaagse woorden een formele betekenis, ze verwijzen daar naar het mathematische begrip (ding) waarvoor het alledaagse begrip model stond: ‘gebeurtenis’ of ‘event’ en ‘normaal’ zijn voorbeelden daarvan uit de statistiek. Neem het woord ‘waarheidswaarde’. Deze 19-de eeuwse constructie behoort tot een domein dat ontstond door de hele Griekse filosofie over de subject-predikaat-verhouding in het oordeel op zijn kop te zetten. Een waarheidswaarde is mathematisch het resultaat van het toepassen van een functie. Die functie is het substantiële.

Traditioneel is het de filosofie die aan begripsanalyse doet en waar nieuwe begrippen worden geintroduceerd. Niet met een vooropgezet doel, niet als resultaat van ‘engineering’, maar vanuit het denken zelf, zoals de dichter op een nieuw woord komt dat een bepaalde beleving verwoordt. De taal is niet uitwendig aan de beleving of de gedachte, maar constitueert deze. De gedachte in haar uitdrukking zouden we nog weer moeten onderscheiden van datgene wat we begrijpen en uitdrukken. Doen we dat niet en identiferen we dat wat we begrijpen en trachten uit te drukken met de woorden waarin we ons begrip uitdrukken dan wordt de betekenis van het woord een functie van het gebruik in een ‘taalspel’. Daarmee verdwijnt het verwoordingskarakter van de taal.

Over de rol van de taal schrijft Olya Kudina in haar proefschrift over hoe we nieuwe technologie betekenis geven in ons leven:

“Reality becomes intelligible to us through language, where it functions as a medium, or a lens that sharpens the perception of reality and brings it into focus. In particular, it is through speaking with others or engaging in a mental conversation with the self that a particular meaning comes to being.” (Kudina, 2019, p. 115).

In het gesprek komt “een specifieke betekenis van de realiteit tot stand”. Dit roept de vraag op of de woorden die in het gesprek gebruikt worden met hun betekenissen al klaar liggen of dat dit gesprek het karakter heeft van een verwoorden. Anders gezegd: Is het gesprek een mededelen, een uitwisseling van informatie, van een bestaand reeds verwoord inzicht (‘speaking with others’) of is het een inwendige dialoog waarin getracht wordt tot inzicht te komen door dit te verwoorden (‘a mental conversation with the self’)? Kudina lijkt die twee heel verschillende aktiviteiten hier te identificeren. De werkelijkheid spreekt ons echter niet aan zoals een ander mens ons aanspreekt. De filosoof Austin wijst ons in zijn Other Minds op dit belangrijke onderscheid.

Woorden veranderen van betekenis als gevolg van of als uitdrukking van sociale veranderingen.

De auteurs noemen de introductie van de filosofische notie van natuurlijke gelijkheid in de zeventiende eeuw door Hobbes en Locke, die vervolgens werd vertaald in morele en politieke gelijkheid en gelijkheid voor de wet, de hele sociale contract traditie van de politieke filosofie mogelijk gemaakt, evenals de traditie van het liberalisme en de opvatting van individuele rechten. De introductie van het begrip privacy aan het einde van de negentiende eeuw heeft filosofen in staat gesteld een dimensie van menselijke autonomie en welzijn te verwoorden en te bestuderen die ze anders misschien niet zo goed hadden kunnen onderscheiden en bestuderen.

De geschiedenis van het feit laat zien dat we het ‘feit’ zoals we dat nu kennen volgens Wootton (2020) niet bestond voor 1700. Niet in de zin van Hume’s ‘matters of fact’. Niet in de zin van Wittgensteins ‘Tatsachen’. Volgens Hacking ontstond er geleidelijk een nieuw begrip feit dat nog slechts gradueel verschilt van een mening; namelijk in de hoeveelheid gegevens dat het feit of de mening ondersteunt. De nieuwe betekenis van feit is volgens Hacking onlosmakelijk verbinden met Hume’s scepsis en empirisme. Kennis werd statistisch. En daarmee moesten we ons ook in haar toepassingen tevreden stellen met statistische prestaties. De techniek werkt meestal zoals bedoelt; de computer heeft het meestal goed.

Conceptual disruption

De introductie van een nieuw technologisch artefact (de sociale robot) of het doen van een nieuwe ontdekking (de ontdekking van het virus) leidt vaak tot onzekerheid over welke concepten we moeten gebruiken of toepassen bij de interactie ermee of het classificeren ervan. Dit is een vorm van conceptuele verstoring (‘conceptual disruption’). Er is sprake van een conceptuele verstoring als we ofwel geen concepten hebben om iets te classificeren, ofwel als twee of meer conflicterende concepten min of meer even goed van toepassing lijken te zijn, zodat we een conceptueel besluit moeten nemen. Is het virus een levende cel of niet? Voor de aanhanger van het informaticisme, volgens welke alles wat is informatie en informatieverwerking is, is het lood om oud ijzer en is er hoogstens een verschil in complexiteit tussen een systeem dat opgebouwd is uit natuurlijk levend celmateriaal en een systeem dat opgebouwd is uit silicium of ander anorganisch materiaal.

Conceptual engineering onderzoekt de ins en outs van het ontwerpen van nieuwe concepten, die een oplossing kunnen bieden voor dergelijke conceptuele verstoringen. De soort van aktiviteiten van conceptual engineering heeft veel weg van die van software engineering: ontwerp, implementatie, evaluatie, maar bij de laatste gaat het om het programmeren van de computer, bij conceptual engineering gaat het om het (her-)programmeren van het denken en, omdat de taal de uitdrukking is van het denken als denken, daarmee ook van de taal, linguistic engineering (zie Cappelen, Fixing Language). Aangezien we de handleiding voor het omgaan met een nieuw apparaat kunnen zien als het programmeren van de gebruiker: ze zegt hoe deze moet handelen in het gebruik van het apparaat, kunnen we conceptual engineering zien als een voortzetting van de technologie van mens-machine interaktie. Daarbij is het introduceren van nieuwe metaforen een belangrijk onderdeel, want die zijn het mentale beeld dat de gebruiker nodig heeft om met de nieuwe techniek om te gaan.

Een goed voorbeeld van een technologie die vraagtekens zou plaatsen bij oude ontologieën is die van de sociale converserende robot. Daarover gaat hoofdstuk 3 van de bundel, Social Robots and Society. In het inleidende hoofdstuk wordt daar al even op vooruit gelopen.

In het vervolg van deze wat uit de hand gelopen boekbespreking zal ik daar wat dieper op in gaan omdat het ook een goede illustratie is van hoe nieuwe technologie aanleiding is tot conceptuele ‘herprogrammering’.

De morele status van sociale robots en de nood van conceptual engineering

De ‘Machine Question’ is de vraag “Is een robot een ding of een persoon?” (David J. Gunkel, 2022/2023). Beschouw de volgende redenering in hoofdstuk 1 (Van der Poel 2023, p. 19) die typisch is voor hoe er over deze vraag wordt gedacht.

Erica, the humanoid like robot from the ERATO ISHIGURO Symbiotic Human-Robot Interaction Project 

“Consider humanoid artificial agents like social robots and voice assistants that can evoke affective reactions (…) People can feel upset when a robot is kicked or when a voice assistant is abused. Yet are such responses appropriate? They would be if the social robot and voice assistant were considered to be a ‘person’ or ‘agent’: after all, if a person is harmed, this calls for an empathetic response. Yet concepts like ‘personhood’ or ‘agency’ have traditionally been reserved for humans, and it is not yet established whether they can be extended to humanoid artificial agents, which may lack other relevant features of ‘agency’ and ‘personhood’, such as ‘intentionality’ or ‘free will’. One solution would be to extend attributions of ‘personhood’ and ‘agency’ to humanoid robots. But doing so also requires us to rethink what these concepts mean, and what their application conditions are, given the distinct characteristics of new digital technologies.” (p. 19)

Het gaat hier over ‘sociale robots’, een ‘humanoide kunstmatige agent’, waarvan we niet goed weten wat we allemaal onder dat begrip ‘sociale robot’ moeten verstaan. Het is een technisch idee dat vele verschillende bestaande en (nog) niet bestaande constructies dekt. Vervolgens wordt een situatie gepresenteerd waarin iemand ziet dat een robot wordt geschopt of geslagen en daarover nogal ontdaan is. Het is niet duidelijk waaruit het ontdaan zijn in dit geval blijkt, maar uit allerlei onderzoeken blijkt dat mensen inderdaad tijdens interakties met ‘intelligente machines’ gedrag vertonen dat lijkt op sociaal gedrag met andere mensen. Dat gedrag heeft daarom meteen een morele kant.

Terzijde. Ik spreek uit eigen ervaring wanneer ik zeg dat je een (weliswaar) kort gesprek kunt voeren dat achteraf blijkt een gesprek met een machine te zijn geweest, terwijl je tijdens dat gesprek niet anders wist dan dat het een gesprek met een echt persoon was. Zo groet je bijvoorbeeld beleefd zoals je een persoon groet die je aan de telefoon hebt. Later werd ik er op gewezen dat ik een antwoordmachine aan de lijn had gehad. Nadat me dat werd meegedeeld heb ik geprobeerd het gesprek te reconstrueren. Aan het gesprek kun je niet zien of het met een echt persoon was of met een machine die zich als echt persoon gedroeg. Griezelig of unheimisch (‘uncanny’) is de term voor de gewaarwoording van zo’n ‘grenservaring’. Je hebt iets beleefd waarvan je ‘achteraf’ weet dat het niet werkelijk was zoals je het hebt beleefd.

Ik heb in diverse onderzoekprojecten aan de technische ontwikkeling van sociale robots en conversational agents bijgedragen en onderzoek gedaan naar hoe mensen met deze artefacten om gaan, meestal in lab oratoriumsettings. Uit onderzoek is gebleken dat bekendheid met de technische mogelijkheden op het gebied van de sociale robots je niet beletten dat je een gesprek met een machine als een gesprek met een echte gesprekspartner beleeft.

Einde terzijde. Verder met de tekst.

De vraag wordt vervolgens gesteld of de reaktie die het zien van het agressieve gedrag tegenover de robot gepast (‘appropriate’) is. Dat zou zo zijn, zegt de wetenschapper, als de robot als een persoon werd gezien, want – zo is de redenering -, als het een persoon is dan is de reaktie op het zien van het agressieve gedrag gepast. Maar, is dan de vraag: is een sociale robot wel een persoon? Dan zou die toch ook andere eigenschappen moeten hebben (‘intentionaliteit’, ‘vrije wil’) die we aan persoon zijn verbinden. De redenering stapt over van de concrete beleving die iemand heeft naar de algemene vraag naar waar een robot aan moet voldoen opdat het gedrag ‘gepast’ is.

Is het gepast om een antwoordapparaat ‘goede morgen’ te wensen wanneer je deze aan de telefoon krijgt? Misschien niet. Maar mensen die dat doen die beleven de ontmoeting als die met een mens, wanneer ze niet in de gaten hebben dat het niet een mens is maar een antwoordapparaat. De reaktie past dus bij de beleving met een mens te maken te hebben, omdat het in de beleving een mens is.

“One solution would be to …” . Er wordt een oplossing voorgesteld. Maar wat is het probleem? Waarom zou het gedrag leiden tot de vraag of de sociale robot wel een persoon is? Wat vervolgens tot de vraag leidt wat we dan onder een persoon verstaan en of we dan, om een robot als persoon te kunnen beschouwen, dat begrip persoon wellicht wat moeten oprekken, zodat robots daar ook onder vallen.

Wat is hier nu feitelijk aan de hand? Het komt er op neer dat iemand een bepaalde beleving heeft en geëmotioneerd is bij het zien dat een afbeelding van een geliefd persoon wordt verscheurd. Een afbeelding is een beeld waarin het afgebeelde aanwezig wordt gesteld. Een wetenschapper vraagt zich af of de reactie wel gepast is. Dat zou zo zijn, stelt deze, als in de afbeelding een persoon werd herkend. En dat is het geval. Maar, zo redeneert hij, de afbeelding is geen persoon, want er ontbreken veel kenmerken aan de afbeelding. Kenmerken die we normaal toekennen aan een persoon. Een oplossing zou zijn het begrip persoon op te rekken. Ook afbeeldingen die we als afbeelding van een persoon herkennen en waar we op reageren alsof we met een persoon te maken hadden vallen in het vervolg onder het opgerekte begrip, zeg persoon2.0.

Is de reaktie op het zien van het schoppen van een robot ‘gepast’? Dat was de vraag die de wetenschapper stelde. Die reaktie is simpelweg een feit en toont dat er emotionele betrokkenheid is bij wat er in deze situatie wordt afgebeeld. In de emotie is het afgebeelde aanwezig, zoals deze aanwezig is in het beeld. De kunstenaar maakt gebruik van de werking van de verbeelding. De converserende sociale robot produceert de voor de gebruiker herkenbare woorden, zoals het informatiebord langs de weg de tekst “U bevindt zich hier” gebruikt om iemand te zeggen waar deze zich bevindt of zoals de geldautomaat de woorden “Voer uw pas in” gebruikt om de gebruiker te vragen zijn pas in te voeren. Of zoals een sociale robot zijn hand opsteekt om iemand te begroeten. Het zijn rituele gebaren die passen in standaard situaties en daarin een sociale functie hebben.

Voor de wetenschapper is de hele situatie aanleiding om zich af te vragen of we de sociale robot, de agent, als een soort van persoon moeten gaan zien, een morele agent. Een entiteit die we in onze morele cirkel moeten opnemen. Waarom? Omdat we ons tegenover de afbeelding gedragen alsof het de identiteit van het afgebeelde heeft. Maar wat hier aanwezig wordt gesteld is niet een reëel bestaand iets, maar slechts een technische constructie. Anders dan bij een afbeelding van een echt persoon, of een bandopname van een familielid, is de machine niet iets dat we anders kennen dan als een instrument dat functionele belevingen genereert. Het is een abstracte technische constructie, waarbij elementen van gedragingen zijn nagemaakt.

De ‘gedragingen’ zijn de ‘tiny behaviors’ (Erving Goffman, Interaction Rituals) die we bij de analyse van de sociale interactie van mensen waarnemen, abstraheren en objectiveren, als elementen van een (lichaams)taal: het afwenden van het hoofd, het aankijken, als onderdelen van het turn-taking-gedrag, het opheffen van de schouders, de oog-bewegingen, etc.

Achteraf blijkt dat degene waarmee we dachten te communiceren een heel abstracte, uitgeklede, entiteit is, een denkmaaksel, een fantasiebeeld. De afbeelding komt slechts in enkele kenmerken overeen met het erin afgebeelde. Is het voldoende voor het toekennen van een ‘morele status’ aan ‘het artefact’ dat interaktie ermee bij de mens soms dezelfde emotionele en morele reakties oproept dan bij de ontmoeting met een echt mens het geval is? Deze vraag doet zich voor zolang het niet om concrete interakties gaat met een concreet ‘individu’, een instantie van de soort sociale robot, maar om een abstract idee, een constructie. Om daarnaar te verwijzen is de term ‘agent’ in gebruik genomen.

We moeten de beleving van de mens die in de afbeelding een geliefd persoon ziet of die in het zien slaan van de robot een pijnlijke handeling ervaart respecteren. Omdat het om de beleving van deze mens gaat die getuigt van de moraliteit van de situatie. Maar dat betekent niet dat het ‘intentionele object’ van deze ervaring bestaat zoals de afgebeelde of de gesimuleerde mens bestaat.

“The question of social and moral status does not necessarily depend on what the other is in its essence but on how she/he/it (and the pronoun that comes to be deployed in this situation is not immaterial) supervenes before us and how we decide, in “the face of the other”. (Gunkel, 2017).

De robot agent doet alsof deze de taal van de gebruiker verstaat en spreekt. De techniek doet intelligent niet om de gebruiker te misleiden, maar omdat het werkt. Het doen alsof is functioneel. De gebruiker moet in het gedrag dat de machine produceert iets zinvols, iets menselijks, herkennen. Antropomorfisme is een functioneel aspect van de technologie.

Het technische instrument is een uitwendige objectivatie van de idee. Het gaat om uitwendigheid die, om als uiterlijkheid te worden gezien (wat het pretendeert te zijn), de innerlijkheid van het begrijpend en waarderend subject blijft vooronderstellen. Zonder die innerlijkheid is het teken zonder betekenis en derhalve geen teken, is de robot niet wat het pretendeert te zijn, en is de AI niet intelligent.

De muizenval is een slim instrument omdat het slim bedacht is: het is functioneel in relatie tot een bepaalde levenswijze en mensenpraktijk. De moraliteit van dit instrument is de moraliteit (zedelijkheid) van de mensenpraktijk en de levensvorm waarbinnen dit instrument een functie heeft, zoals de moraliteit van de mobiele telefoon of de echoscopie de moraliteit is van de mensenpraktijk waarin deze technologieën functioneren.

De vraag of het artefact een morele agent of morele actor is wordt vaak in verband gebracht met de vraag wie verantwoordelijk is voor het ‘gedrag’ van deze instrumenten. Een persoon onderscheidt zich volgens sommige denkers (Kant) van het ding hierin dat de persoon verantwoordelijk is (ter verantwoording kan worden geroepen) voor de handelingen die deze uit vrije wil verricht. Maar hoe kan een abstract concept dat slechts in de verbeelding van de gebruiker een concreet zelfstandig bestaan heeft verantwoordelijk zijn? Er is immers niet een substantie, een entiteit, een body, die we als werkelijk bestaande actor kunnen beschouwen van het gebeuren.

De mathematisch/technische denkwijze is wezenlijk dualistisch. Deze denkt een stricte scheiding tussen het object en het subject van het construerende denken. De gemaakte objecten: getallen, mathematische structuren, technische constructies, worden als quasi-substanties, als zelfstandige entiteiten, buiten het denken, gedacht. De fysische realisatie van de constructie geeft de bedachte quasi-substantie nog weer een fysische objectiviteit in de zintuiglijk waarneembare realiteit waardoor deze deel gaat uitmaken van de belevingswereld van de mens. In de belevingswereld waarin de mens het technische artefact ontmoet worden vele inhouden aan de constructie toegevoegd die al dan niet door de fysische presentatie worden opgewekt. Sommige zijn bedoeld, ze maken dat het artefact functioneert zoals bedoeld, andere niet. Die kunnen de bedoelde werking zelfs belemmeren. De wetenschappelijke modellen bepalen steeds meer hoe we de werkelijkheid zien en ervaren. Maar de belevingswereld is een andere wereld en die lijkt strikt gescheiden te zijn van de wereld van de wetenschapper. De vraag is dan ook of je op de openheid die de beleving kenmerkt als ontwerper van nieuwe technologie kunt anticiperen. De beleving is niet programmeerbaar. Die ligt buiten het technisch maakbare, programmeerbare. Dat de gebruiker die met de robot een gesprek voert dit beleeft alsof hij met een echt mens praat is een toegiftverschijnsel.

Mensen hebben de neiging de techniek als norm te zien. Vergelijk een techniek met een regelsysteem zoals de grammatica van de moedertaal, de taal die je van huis uit hebt leren schrijven en spreken. Die grammatica legt vast hoe de taal in elkaar zit, maar die leert je niet hoe je moet schrijven en spreken. Dat kon je immers al voordat er een grammatica werd gemaakt en voordat je op school met de regels kennis maakte. We zeggen dat de machine zich gedraagt, spreekt en denkt, zoals een mens. Maar de mens gedraagt zich niet, noch spreekt, noch denkt hij, ‘zoals een mens’. De wetenschap en de technologie hebben de neiging de mens z’n eigen reconstructie van het menselijk gedrag, een grammatica, als norm op te leggen. Zoals ze het spreken van grammaticaal correct Nederlands als norm opleggen voor echt Nederlands. Die norm wordt gepersonificeerd in het technische instrument: “De computer zegt het.”. De techniek wordt een subject, de ander van ons zelf. Ons zelfbewustzijn.

Omdat de techniek als norm wordt gezien wordt deze ook verantwoordelijk gehouden voor de norm die ze oplegt aan de werkelijkheid en aan de mens die ermee omgaat.

Het verlenen van een morele status aan sociale robots lijkt een machtspolitieke kwestie. Hoe hoger de status van het produkt des te hoger is de status van de producent ervan. Het wordt als een teken van macht gezien wanneer je in staat bent om een intelligente robot te maken met bewustzijn en gevoel (zie de legende van de Praagse rabbi Leib en zijn creatie, de Golem). AI is een media spektakel geworden waarin de mythe in stand wordt gehouden van de reële mogelijkheid van het bestaan van een superintelligent wezen dat alle hedendaagse en toekomstige problemen oplost. Wetenschappers en filosofen die beweren dat AI bewustzijn heeft of kan hebben (meestal is de waarheid nog niet werkelijk, maar iets toekomstigs) houden deze mythe in stand (zie bijvoorbeeld Butlin, P. et al. 2023). De politieke en commerciële propaganda rondom AI is een onderdeel van de AI waarin het er om gaat de schijn van bewuste en morele AI hoog te houden. Het gaat hier om een vorm van vervreemding die religieuze trekken heeft en die de leemte opvult die na ‘de dood van God’ ontstaan is: de superintelligente AI als verlosser.

Of als bedreiging. Moeten we bang zijn voor een toekomst waarin de computers de macht grijpen? In plaats van een gewaagde gedachte, ingegeven door de hedendaagse technische mogelijkheden lijken de science-fictionachtige scenarios eerder een terugval in een 19de eeuwse idealistische geesteshouding, waarin de menselijke geest slechts één kant van de ‘absolute geest’ is die zich in de wereldgeschiedenis verwerkelijkt, zoals Hegel dat voorstelde. Volgens die 19de eeuwse geesteshouding zijn wij immers niet meer de zelfstandige auteur van de informatiemaatschappij, (het dualistische onderscheid tussen subject en object, mens en natuur, is ‘opgeheven’ in de relatie die de absolute geest is) en kan de AI, als de realisatie van die relatie van mens en natuur, evengoed als onze erfgenaam de geschiedenis overnemen. (Zie Hollak over hoe de AI als ‘uitwendige’ realisatie van het Hegelse absolute idealisme gezien kan worden; ook Fleischhacker 1992).

De muizenval is een natuurlijk ding. Alles wat er aan is, is natuur. Maar de natuur komt niet zelf ertoe een muizenval te maken. De natuur komt niet zelf op het idee van de muizenval, de idee die uitgedrukt wordt in de ordening van de onderdelen. waardoor de natuur gedwongen wordt te werken zoals het door het verstand bedacht is. Tenzij we ook de intelligente, behoeftige mens als onderdeel van die natuur begrijpen. Wat deze uiteraard ook is. Het is als met de vraag naar de aard van een wiskundige stelling. Is dat een ontdekking van een natuurlijke eigenschap of is het een creatie van het verstand? Bedekken we met onze technische creaties de natuurlijke werkelijkheid of ontdekken we door de creaties de natuur waardoor deze tot zichzelf komt?

Het blijft lastig de aard van zelfstandigheid van het technische ding in relatie tot de mens te begrijpen, maar de mens moeten we vooralsnog een ‘hogere’ zijnswijze toekennen dan zijn technische producten, juist omdat het zijn technische producten zijn.

En dat heeft gevolgen voor de kwestie of sociale robots morele agenten zijn, Gunkel’s Machine Question.

“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things. And it is with the robot— who plays the role of or occupies the place of a kind of spokesperson for Things— that we are now called to take responsibility for this privileged situation and circumstance.” (Gunkel 2023, p. 184)

Het lijkt er op dat Gunkel in de robot die we een face hebben gegeven een woordvoerder ziet die niet voor zichzelf rechten opeist maar die de mens als het ware oproept verantwoordelijkheid te nemen voor haar creaties.

“With great power comes great responsibility.” (Spider-Man, source: David Gunkels Thing, Person, Robot, note 8 on page 197).

De makers van AI verschuilen zich gesteund door de media achter hun produkt door hun produkt zelfstandigheid en moreel actorschap toe te dichten. Wie de machine zelfstandigheid verleent is echter zelf daarvoor verantwoordelijk. De machine is niet uit zichzelf zelfstandig. Het gevaar van AI zit hem dan ook niet in de mogelijkheid dat AI in de toekomst de macht over de wereld zal overnemen, het gevaar van AI is nu en bestaat erin dat mensen onder invloed van Big Tech ondernemingen en de media AI capaciteiten toedichten die ze helemaal niet waar kan maken.

Informatie is smeerolie en brandstof van de informatiemaatschappij en de kennis-economie. De macht van de Big Tech en sociale media-bedrijven die de informatie productie en distributiekanalen in handen hebben kan niet makkelijk overschat worden. Ze hebben een grote invloed op de politieke besluitvorming en kunnen het democratisch proces zodanig sturen dat het uitgehold wordt. In het boek komt dit onderwerp aan de orde in het hoofdstuk over sociale media en de democratie.

“socio-technical systems within sociale media platforms carry values, commercial motives, and political intentions. These do not just affect individual private decisions (denk aan de functie van ‘gebruikersprofielen’ ) but can also influence society’s ability to exercise collective decision-making.” (p. 38).

Voor Hegel was de aanvankelijk door hem bewonderde Napoleon de ‘Weltgeist’ in eigen persoon.

“Ik zag de keizer – deze wereldziel – op verkenning de stad uit rijden. Het is inderdaad een prachtige sensatie om zo iemand te zien, die, hier geconcentreerd op één punt, schrijlings op een paard, zich over de wereld uitstrekt en deze beheerst. Wat het lot van de Pruisen betreft, kon er in werkelijkheid geen betere prognose worden gegeven.” schreef Hegel aan Niethammer op 6 September 1806, de dag dat Napoleon Jena binnentrok.

Wat zich eens als de grote bevrijder van de burger presenteerde ontpopte zich als een tiranniek heerser. Niet Hitler, noch Putin is de huidige erfgenaam van Napoleon, maar eerder een Elon Musk, de schatrijke ondernemer die de democratische besluitvorming marginaliseert en naar eigen goeddunken de ‘informatiebanen’ en communicatiekanalen van de strijd om de wereldhegenomie beheerst. Wat drijft deze figuur, anders dan Wille zur Macht, een Nietzschiaanse macht om de macht?

Waar gaat het bij conceptual engineering uiteindelijk om?

Zoals gezegd ligt voor mij de waarde van deze artikelenbundel in de bijdrage die het levert een antwoord te vinden op de vraag naar de transcendentie van het mathematiserende en technologische denken.

In het slothoofdstuk merken de auteurs op dat de analyse van conceptuele disrupties en het zoeken naar oorzaken daarvan niet een doel op zich is. Conceptual engineering wordt wel gezien als een onderdeel van filosofie. Het is ook een technische aanpak die ten dienste staat van de filosofie en de ethiek; en dan met name ten dienste van de filosofie en de ethiek van de techniek.

Begrippen zijn in deze conceptie constructies die een bepaalde functie hebben en die kunnen fouten bevatten. Geheel volgens de westerse mode van leven en filosoferen waarin alles functioneel wordt bekeken.

“Due to social and conceptual disruptions, ethics and philosophy may not always be using an optimal conceptual framework.“ (..) “… as contingent constructs, concepts always have flaws and limitations and can be improved upon.”

De notie ‘optimaal conceptueel framework’ roept de vraag op naar het doel dat conceptual engineering voor ogen staat: in welke zin optimaal? “Nieuwe tijden vragen om nieuwe begrippen”. Maar waarom? Wat is het uiteindelijke doel? Is dat beter begrip, betere technologie, een beter mens, een betere samenleving? Betere begrippen om beter te begrijpen. Zijn niet alle constructies noodzakelijk contingent? Zodat ons niets rest dan toe te zien hoe de tijd bepaalt wat zin en wat onzin is.

Technologie staat buiten de waarde van het doel dat het dient. Technologie is waarde-neutraal. Het a-morele is meteen het problematische van de technologie: ze dwingt op zich niet af het goede te doen, wat de goede bedoelingen van de uitvinder ook waren, omdat het technische op zich buiten de sfeer van het goede staat. De ethische problematiek komt pas met de concrete (economische) toepassingen van de techniek. Conceptual engineering is de poging het goede gebruik van de technologie in het technische ontwerp van het gebruik in te bouwen door de ‘juiste conceptuele denkkaders’ te ontwerpen. Hoe gebruiken we het verstand, dat volgens het beroemde woord van Descartes ‘het best verdeelde goed ter wereld’ is, goed?

Wittgenstein schreef in een brief aan zijn vriend Paul Engelman:

Ik wou dat ik een beter mens was en een beter verstand had. Eigenlijk is dat het zelfde.” (Ludwig Wittgenstein, 1917)

Het uiteindelijke doel van de conceptual engineer, of hij of zij zich nu als filosoof, wetenschapper, technicus, of kunstenaar ziet, is een goed mens te zijn. Een goed mens die “de juiste begrippen ontwerpt en gebruikt”. Of kunnen we gewoon zeggen: die logisch nadenkt? Met een open blik op wat zich in de wereld afspeelt.

Het door Wittgenstein bewonderde en verguisde genie Otto Weininger zei het in zijn Geschlecht und Charakter (1903) zo:

“Logica en ethiek komen in wezen op hetzelfde neer – verplichting tegenover zich zelf” 

Het is de technologie zelf, in al haar verschillende uitingsvormen, die de conceptual engineer verplicht verplichting af te leggen tegenover zich zelf.

Wij worden geworpen in een wereld die geordend is door begrip en taal. Maar al snel blijft er van die ordening niets meer over. De werkelijkheid blijkt een chaos te zijn. En de mensen chaotische gekken. Tijd voor deconstructie, voor reconstructie. Maar welke kant op, en hoe daar te komen? Hoe moeten we, gekken die we zijn, deze chaos begrijpen? Zit er nog enige logica in deze chaos? Welke principes gelden nog? Wat is nog van waarde om na te streven?

Gelukkig staan we er niet alleen voor. Elke gek heeft zijn gebrek. Maar elke gek brengt ook zijn eigen perspectief waarvanuit hij wel íets van waarde ziet. Vanuit die gedachte moeten we het gesprek aangaan. Niet alleen met die andere gekken, die schuldig zijn aan de chaos, maar ook met de onschuldigen, met de dingen en de andere dieren.

Bronnen en noten

Austin, J.L. 1956. Other Minds. In: Philosophical Papers, Third Edition, Edited by Urmson, J.O. and Warnock, G.J., Oxford University Press, 1979.

“It is as if sensa were literally to ‘announce termselves’ or to ‘identify themselves’, in the way we indicate when we say ‘It presently identified itself as a particluarly fine white rhinoceros’. But surely this is only a matter of speaking (…): sensa are dump, and only previous experience enables us to identy them.” (p. 97)

P. de Bruin S.J. (1937). Philosophie der Techniek. Studia Catholica 13 (1937),pp 437-464.

Butlin, P. et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness Preprint at https://arxiv.org/abs/2308.08708 (2023).

Chalmers, David. (2020). ‘What is conceptual engineering and what should it be?’, Inquiry, https://doi.org/10.1080/0020174X.2020.1817141

Mark Coeckelbergh (2012). Growing Moral Relations: Critique of Moral Status Ascription. New York: Palgrave MacMillan (2012).

Ethics and moral practices are parts of our ‘form of life’. Meta-ethics cannot escape from this. But this shouldn’t lead to relativism. We can’t not take part. Moral stance is implicit in our way of life, in the relations we practice, in the language we use to order our world.

Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.

Coeckelbergh, M., and Gunkel, D. (2023). ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.

Maarten Coolen (1992). De machine voorbij: over het zelfbegrip van de mens in het tijdperk van de informatietechniek. Boom Meppel, Amsterdam, 1992.

Maarten Coolen (1987). Philosophical Anthropology and the Problem of Responsibility in Technology. In P. T. Durbin (Ed.), Philosophy and Technology, Vol. 3: Technology and Responsibility (pp. 41-65). Dordrecht: Reidel.

Information technology must be conceived of as the objectification of the modern self-concept of man as an autonomous being.” 

Louk Fleischhacker (1992). Wijsbegeerte van het Wiskundig Denken en van de Informatietechniek, syllabus van het collegejaar 1990/91. Faculteit der Wijsbegeerte en Maatschappijwetenschappen, Universiteit Twente, 1992.

Louk E. Fleischhacker (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

Het project dat Fleischhacker hier ter hand neemt is de deconstructie van het mathematisme. Deze deconstructie houdt noodzakelijk een nieuwe metafysica in.

Louk E. Fleischhacker (1998). On the notion of life. Theory of Bioscience. 117:139-160. In dit artikel geeft Louk een eigentijdse ‘vertaling’ van de natuurfilosofie van Hegel opgevat als een kritische filosofische theorie van het leven.

Frege, Gottlob (1892). Uber Sinn und Bedeutung. Opgenomen in: Gottlob Frege: Funktion, Begriff, Bedeutung, Uitgave: Vandenhoeck & Ruprecht in Gottingen, pp. 40-65, 1975.

Frege voert de term ‘Gedanke’ in voor de inhoud van een oordeelszin:”Ein solcher Satz enthält einen Gedanken.” “Ich verstehe unter Gedanke nicht das subjektive Tun des Denkens, sondern dessen objektiven Inhalt, der fähig ist, gemeinsames Eigentum von vielen zu sein.” (Voetnoot p. 46).

“Warum genügt uns der Gedanke nicht? Weil und soweit es uns auf seinen Wahrheitswert ankommt. Nicht immer ist dies der Fall. Beim Anhören eines Epos z.B. fesselen uns neben dem Wohlklange der Sprache allein der Sinn der Sätze und die davon erweckten Vorstellungen und Gefühle. Mit der Frage nach der Wahrheit würden wir der Kunstgenuss verlassen und uns einer wissenschaftlichen Betrachtung zuwenden.” (Frege, Über Sinn und Bedeutung, 1892, p. 48)

Of het ons “gleichgultig” is dat ChatGPT ons een werkelijkheid voorstelt die waar is of niet, hangt daarvan af of we deze machine als kunstwerk dan wel als wetenschappelijk beschouwen.

“Ich verstehe unter dem Wahrheitswerte eines Satzes den Umstand, das er wahr oder das er falsch ist.” (Frege, 1892, Über Sinn und Bedeutung)

Erving Goffman (1967). Interaction Rituals: essays on face-to-face behavior. 1967.

Gunkel, David J. (2012). The machine question: Critical perspectives on AI, robots, and ethics. Cambridge: MIT Press.

Gunkel, David J. (2014). The Rights of Machines–Caring for Robotic Care Givers. Presented at AISB 2014. Chapter in the Intelligent Systems, Control and Automation: Science and Engineering book series (ISCA,volume 74).

Gunkel, David J. (2017). The Other Question: Can and Should Robots have Rights? In: Ethics and Information Technology, 2017.

Gunkel, David J. (2023). Person, Thing, Robot A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.

“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things. And it is with the robot— who plays the role of or occupies the place of a kind of spokesperson for Things— that we are now called to take responsibility for this privileged situation and circumstance.” (p. 184)

Gunkel beschouwd Thing als “…a monstrous excrescence that escapes the conceptual grasp of existing categories.” (p. 166-167)

De meest expliciete realisatie van dit conceptuele monster is noch ding, noch persoon, de robot. Om de status van dit Thing te snappen moeten we de klassike dichotomie persoon/ding deconstrueren. En dat is het project dat Gunkel uitvoert: deconstructie van de klassieke ontologie.

Hacking, Ian (2006). The Emergence of Probability: a philosophical study of early ideas about probability, induction and statistical inference. Second Edition, Cambridge University Press, 2006.

Georg W.F. Hegel (1830/1970), Enzyklopädie der Philosophischen Wissenschaften, Zweiter Teil, Die Naturphilosophie. Theorie Werkausgabe 9, Suhrkamp, 1970.

Georg W.F. Hegel (1969). Jenaer Realphilosophie – Vorlesungsmanuskripte zur Philosophie der Natur und des Geistes von 1805-1806. Uitgave Johannes Hoffmeister, Verlag von Felix Meinder, Hamburg, 1969.

Gert-Jan van der Heiden (2021). Metafysica: van orde naar ontvankelijkheid. Boom uitgevers, Amsterdam, 2021.

Hollak, J.H.A. (1968). Betrachtungen über das Wesen der heutigen technik. Kerygma und Mythos VI Band III, Theologische Forschung 44, 1968, Hamburg, Evangelischer Verlag, pp 50-73. Dit is de vertaling van het Italiaanse artikel (Hollak 1964) Ook opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak (Hollak en Platvoet, 2010).

Hollak, J.H.A. (1964). Considerazioni sulla natural della tecnica odierna, l’uomo e la cirbernetica nel quadro delle filosofia sociologica, Tecnica e casistica, Archivo di filosofia, 1/2, Padova, 1964 pp. 121-146, discussie pp 147-152.

Hollak, Jan en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin ogenomen.

Vincent Icke (2021). Licht – tussen waarheid en wetenschap. Prometeus, Nieuw Licht, Amsterdam, 2021.

Begrip is iets anders dan intelligentie, zegt Icke. Intelligentie betekent bedenken wat de gevolgen zouden kunnen zijn van een bepaalde oorzaak. “Begrijpen werkt andersom: bedenken wat de oorzaak kan zijn van een waargenomen gevolg.” Maar dat bedenksel moet wel getest worden. Begrip is er pas wanneer het bedenksel juist blijkt te zijn. Begrip is van een hogere orde dan kennis, zegt Icke. Daarbij vat hij ‘kennis’ op als het resultaat van het vergaren van gegevens, het doen van experimenten en het vastleggen van resultaten. “Maar uit een stapel resultaten volgt geen begrip”. (p.43).

Manuel Gustavo Isaac (2023). Which Concept of Concept for Conceptual Engineering? Erkenntnis (2023) 88:2145–2169. https://doi.org/10.1007/s10670-021-00447-0

Jürgen Kaube (2022). Hegel – een biografie. Uitgeverij Ten Have, 2022.

Olya Kudina (2019), “The technological mediation of morality: Value dynamism, and the complex interaction between ethics and technology”, PhD dissertation, University of Twente, Enschede.

Levinas, E. (1987). Collected Philosophical Papers. Trans. Alphonso Lingis. Dordrecht: Martinus Nijhoff.

Emmanuel Levinas (1971). Het menselijk gelaat. Vertaald en Ingeleid door O. de Nobel en A. Peperzak. Ambo, 1969, Bilthoven. Hierin: Betekenis en zin, pp.152-191. (Vertaling van La signification et le sens. in: Revue de Métaphysique et de Morale 69 (1964), 125-156.)

Levinas, E (1951). L’ontologie est-elle fondamentale? In: Revue de Métaphysique et de Morale 56 (1951) 88-98.

Arnold Metzger (1964). Automation und Autonomie. Das Problem des freien Einzelnen im gegenwärtigen Zeitalter, Neske, 1964.

Ray Monk (1991). Ludwig Wittgenstein – het heilige moeten, een biografie. Prometheus, Amsterdam, 1991. Vertaling door Ronald Jonkers, van Ludwig Wittgenstein – the duty of genius, Ray Monk, 1990.

Mulisch, Harry (1998). De Procedure. Uitgeverij De Bezige Bij, Amsterdam. 1998.

Navon, Mois (2023). Let us make man in our image‑a Jewish ethical perspective on creating conscious robots. AI and Ethics, 2023.

Van de Poel, Ibo, et al. (editors) (2023). Ethics of Social Disruptive Technologies. Open access boek van het ESDIT consortium.

Toivakainen, Niklas (2015). Machines and the face of ethics. In: Ethics and Information Technology, Springer, 2015.

Otto Weininger (1903/1920). Geschlecht und Charakter – eine prinzipelle Untersuchung. 19de druk, Wien/Leipzig, 1920.

“Dieses Buch unternimmt es, das Verhältnis der Geschlechter in ein neues, entscheidendes Licht zu rücken.” (voorwoord, eerste druk)

Otto Weininger (1984). Geslacht en karakter: een principieel onderzoek, (Vert. Tineke Davids) Amsterdam, De Arbeiderspers, 1984

Wittgenstein over Weiniger:

“Het is waar dat hij fantasie heeft, maar een grootse fantasie. Je hoeft het niet
met hem eens te zijn, of beter, je kunt het niet met hem eens zijn, maar het
grootse ligt in datgene waar we het mee oneens zijn. Het is zijn enorme vergissing
die groots is. Ik bedoel, globaal gezegd, als je een ~ (bedoeld wordt het teken voor de logische negatie uit de mathematische logica – RodA) voor het hele boek zet, drukt het een belangrijke waarheid uit.” (Monk, The Duty of Genius)

Over het centrale thema van Weiningers boek dat vrouwen de bron van
alle kwaad waren, gaf Wittgenstein tegenover Drury toe: “How wrong he was, my
God he was wrong
.” (zie Fleischhacker, De Henide als paradigam, Otto Weiningers invloed op Ludwig Wittgenstein.)

Westerblad, Oscar (2023). Deweyan conceptual engineering: reconstruction, concepts, and philosophical inquiry. Inquiry https://doi.org/10.1080/0020174X.2022.2118163

Wittgenstein, Ludwig (1973). Tractatus logico-philosophicus. Logisch-philosophische Abhandlung. Ed. Suhrkamp, Uitgave 1973. Oorspronkelijke Duitstalige uitgave 1921.

Wittgenstein droeg de Tractatus (1921) op aan zijn vriend David Pinsent. In het voorwoord waarschuwt Wittgenstein zijn lezer: de stellingen in dit boek zullen vermoedelijk alleen begrepen kunnen worden door die lezer die zelf al eens dergelijke gedachten gehad heeft. Waarmee hij misschien wel een kerngedachte van zijn denken uitdrukt, namelijk dat de taal niet geschikt is om wezenlijke dingen mee te communiceren.

Wittgenstein, Ludwig (2006). Filosofische Onderzoekingen. Vertaling Maarten Derksen en Sybe Terwee. Boom, Amsterdam, 2006. De oorspronkelijk Duitse tekst verscheen in 1953 bij Basil Blackwell te Oxford.

Heeft AI bewustzijn? Ofwel: Kunnen de dingen een gelaat(*) krijgen?

Dat onze wetenschap fundamenteel hypothetisch is, daar werd ik onlangs weer eens op gewezen bij het lezen van een wetenschappelijk artikel over de kwestie of AI bewustzijn heeft. We hebben de neiging om bij het presenteren van onze bevindingen de aannames waar we vanuit zijn gegaan te vergeten. Van wetenschappers verwacht je dat ze objectieve resultaten presenteren, dat wil zeggen: dat ze hun conclusie presenteren als conclusie, dat is: in relatie tot de gemaakte vooronderstellingen en de methodes van het onderzoek. Populaire presentaties laten die relatie meestal weg omdat dat te ingewikkeld zou worden voor de oppervlakkige lezer. Dit leidt tot artikelen met koppen als Neuro-wetenschappers zijn overtuigd: AI met bewustzijn in de toekomst wellicht mogelijk.

Our Mathematical Universe van de fysicus en mede-oprichter van het Future of Life instituut Max Tegmark is een recent goed voorbeeld van wat hypothetische wetenschapsbeoefening inhoudt (Tegmark, 2014).

Tegmarks zocht een antwoord op de vraag: “Hoe komt het dat de wiskunde overal toepasbaar is?” Om die vraag te beantwoorden gaat hij uit van de Externe Realiteit Hypothese (ERH). Die luidt: There exists a physical reality that is independent of man. Op basis van de moderne fysica, van kwantumtheorieën tot kosmologieën, laat Tegmark zien hoe dat ‘ons universum’ een wiskundige structuur is (niet heeft, maar is). En dat is: inclusief de levensverschijnselen. Tegmark laat zien hoe deze conclusie volgt uit de hypothese. Het probleem is nog, zoals MT aan het eind van het boek opmerkt, dat we ons zelf als individuen niet kunnen herkennen in dit universum, ook al bevat het ons bewustzijn en onze levensloop in de vorm van complexe informatiestructuren. Kortom: ons universum is een mathematische structuur indien we afzien van de relatie die wij als bewust, levend en kennend subject met het universum hebben en daarmee afzien van het feit dat wij en de dingen om ons heen daarin hier en nu een plaats hebben.

Tegmark presenteert een moderne variant van de strict Cartesiaanse, mathematische, scheiding tussen bewustzijn en denken enerzijds en de als wiskundige structuur gedachte ‘externe’ werkelijkheid anderzijds. Tegmarks Mathematisch Universum is een gigantische intelligente informatiemachine voorgesteld als een multidimensionale Hilbertruimte waarin de trajectorieën staan voor alle op de tijdlijnen uiteengelegde mogelijke informatieverwerkende processen. Daarin komen wij wel ergens voor, maar we kunnen ons niet identificeren. Daarvoor zouden we de namen moeten introduceren waarmee we de dingen in onze echte wereld aanwijzen. En dat is in strijd met de hypothese. Het aangewezene en benoemde wordt gemodelleerd niet het werkelijk benoemen en aanwijzen. Een krantenkop dat Tegmarks onderzoek samenvat zou kunnen luiden: Fysicus Max Tegmark toont aan: ons universum is mathematisch.

De hedendaagse fysicus is, anders dan Descartes, zich bewust van het hypothetische en mathematische karakter van zijn wetenschap. Hij drukt zijn mathematiserende houding tegenover de werkelijkheid expliciet uit in de vorm van een hypothese. Bij Tegmark is dat overduidelijk: zijn Externe Realiteit Hypothese drukt expliciet de strikte scheiding uit tussen de beide Cartesiaanse substanties: res cogitans en res extensa. Maar het gevolg dat we ons als levende individuen niet in zijn universum herkennen wordt door hem niet als gevolg van de hypothese gezien. Tegmark acht het heel wel mogelijk dat dit in de toekomst wel het geval zal zijn.

Misschien moeten we de filosofie van de Verlichting vanaf zeg maar Descartes’ twijfelexperiment en zijn mathematistische metafysica nog maar eens grondig opnieuw hernemen. Nu, met de ervaringen die de wetenschappen en technologie ons hebben gebracht.

Ook in het artikel Consciousness in Artificial Intelligence: Insights from the Science of Consciousness dat onlangs in het arXiv preprint repository verscheen (2308.08708) gaan de auteurs uit van een expliciet gestelde hypothese. Het gaat in dit artikel over de vraag of AI bewustzijn heeft of kan hebben. Onder de negentien auteurs zijn neurowetenschappers, cognitiewetenschappers, computerwetenschappers en filosofen. De vraag of AI bewustzijn heeft, of misschien beter: of we een AI systeem als een bewust wezen moeten beschouwen, is weer aktueel nu kunstmatige intelligente ‘machines’ steeds beter in staat zijn aktiviteiten te verrichten waarvan sommigen vinden of vermoeden dat ze die alleen kunnen wanneer er sprake is van bewustzijn. Sociale robots worden door sommigen als ‘levenspartners’ beschouwd en we voeren geanimeerde gesprekken met AI programma’s zoals ChatGPT.

Maar hoe weten we of deze systemen werkelijk ‘bewustzijn hebben’? Hoe kunnen we dit vermoeden bevestigen dan wel ontkennen? Dat iemand een schreeuw van pijn produceert nadat we hem op de tenen zijn gaan staan, dat zien we meestal als indicatie van de aanwezigheid van gevoel en bewustzijn. Maar Descartes stelde al (in zijn Vertoog over de Methode, 1637/1937) dat het heel goed mogelijk is een mechanisme te maken dat hetzelfde gedrag vertoont, terwijl zo’n mechanisme volgens zijn metafysica geen bewustzijn (ziel) heeft, zoals een mens. Ook in het gedrag van het ‘gevoelige plantje’ “kruidje-roer-me-niet” (mimosa pudica) dat bij aanraking zijn gevingerde bladeren samentrekt zien we een schaduw van bewustzijn of gevoel. Maar zijn we hier wel getuige van een echt bewustzijn? Descartes wilde graag aantonen dat ook dit gedrag een mechanistische verklaring heeft. Helaas kwam het enige zaadje dat hij van zijn vriend, pater Mersenne, vanuit Parijs kreeg toegestuurd niet op.

Het zijn vooral AI-wetenschappers, cognitie-wetenschappers en ‘filosofen van de geest’ (philosophers of mind) die zich met hernieuwde belangstelling met het onderzoek naar bewustzijn van AI bezig houden. Waarbij bewustzijn voor ‘subjective experience’ staat, een term die verder niet verhelderd wordt. De vraag is relevant, zo stellen de auteurs, nu we steeds vaker met AI te maken hebben en we ons nu eenmaal op andere wijze moreel verhouden tot entiteiten die geen bewustzijn hebben (dingen) dan tot wezens waarvan we zeker menen te weten dat ze wel bewustzijn hebben (zoals dieren, in het bijzonder mensen). Moraliteit en bewustzijn gaan onverbrekelijk samen.

De confrontatie met een dier waarvan we ons bewust zijn dat het om een bewustzijn gaat, kent een moreel aspect. Dat wil niet zeggen dat bepaald gedrag jegens het dier zonder meer is geboden of verboden. Het wil zeggen dat we daarmee in een morele situatie zitten waarin morele kwesties zich aan dienen. Of we willen of niet. Moraliteit is aan de orde zodra het besef met een bewustzijn te maken te hebben aanwezig is. De vraag naar bewustzijn van AI is dus relevant voor de vraag of AI tot het morele domein behoort, of kan behoren. Wat dit betekent voor het belang van de resultaten van (experimenteel) wetenschappelijk onderzoek voor de praktijk, op die kwestie gaat het artikel niet in. Ik kom hier verderop in mijn commentaar nog op terug.

Het artikel presenteert op basis van neuro-wetenschappelijk onderzoek een checklist van bewustzijnsindicatoren, eigenschappen waaraan een entiteit moet beantwoorden opdat er een kans is op de aanwezigheid van bewustzijn. Het team heeft onderzocht of huidige AI systemen voldoen aan genoeg indicatoren om te kunnen stellen dat er van bewustzijn sprake is.

Computationeel Functionalisme als werkhypothese

Als werkhypothese zijn de auteurs uitgegaan van de stelling dat het voor bewustzijn noodzakelijk en voldoende is dat het systeem het juiste soort van berekeningen maakt (“the thesis that performing computations of the right kind is necessary and sufficient for consciousness”). Het gaat er dus om hoe een systeem informatie verwerkt en niet om wat voor materiaal daarvoor wordt gebruikt. Deze hypothese genoemd ‘computationeel functionalisme’ wordt vaak aangenomen door philosophers of mind, maar staat sinds jaar en dag ook onder felle kritiek (o.a van Hubert Dreyfus, John Searle, die zich baseren op werk van o.a. Heidegger en Merleau-Ponty. Zie ook het werk van Maarten Coolen, De Machine Voorbij)

Bijvoorbeeld wordt ‘self-attention’ in deze doctrine gedefinieerd als een “process in AI in which information about multiple input tokens is integrated through pairwise interactions between functional units”.

Een tweede uitgangspunt is dat neuro-wetenschappelijke theorieën over bewustzijn functies hebben opgeleverd die noodzakelijke en voldoende indicatoren zijn voor de aanwezigheid van bewustzijn. Deze functies of vergelijkbare zouden vanwege de hypothese ook toepasbaar zijn op AI systemen. Er zijn veel theorieën over bewustzijn. Uit elk van de belangrijkste theorieën zijn een aantal indicatorfuncties genomen. (Zie onderstaande tabel). Het idee is dat naarmate een systeem aan meer van deze functies voldoet des te groter is de kans op bewustzijn. Zo lijkt het onderzoek dus een (voorlopige) operationele definitie op te leveren voor de kans dat een systeem over bewustzijn beschikt. Waarbij bewustzijn in termen van een aantal functionaliteiten is vastgelegd.

Een alternatieve methode van onderzoek zou zijn om het gedrag van AI systemen te onderzoeken op de aanwezigheid van bewustzijn door er mee te interakteren. Maar, zo stellen de auteurs, AI systemen zoals ChatGPT zijn erg goed in het simuleren van menselijk gedrag, daarom is zo’n gedragstest geen goede test op aanwezigheid van bewustzijn. In hun conclusie merken ze nog op dat ze niet uitsluiten dat een beslissende gedragstest in de toekomst mogelijk is.

Het testen van een AI systeem op de aanwezigheid van bewustzijn komt er op neer voor elk van de theoretische modellen uit de tabel te analyseren of het AI systeem dit geimplementeerd heeft. Bijvoorbeeld, volgens de Global Workspace Theory zou een bewust systeem een modulaire opbouw moeten hebben waardoor het verschillende taken parallel kan uitvoeren, maar waarbij er ook sprake is van het verdelen van de schaarse aandacht over de te verrichten taken. Typische functies die we bij mensen ook tegen komen en die gezien worden als bewustzijnsindicatoren.

Het onderzoek “suggereert” dat geen van de geteste AI systemen bewustzijn heeft. (“This work does not suggest that any existing AI system is a strong candidate for consciousness.”) De auteurs zien echter geen barrières die de verwerkelijking van bewuste AI systemen in de toekomst in de weg zouden kunnen staan.

Wat is de waarde van dit onderzoek voor de praktijk?

Een eerlijke samenvatting van dit onderzoek zou ongeveer zo luiden.

Onder de aanname dat a) mens en machine beide informatieverwerkende systemen zijn en b) dat verschillende neurologisch onderzoeken (deels disjuncte) verzamelingen van functies hebben geïdentificeerd die bij de mens als indicatie van bewustzijnsprocessen beschouwd kunnen worden, kunnen we door middel van een analyse van de inwendige software en hardware-structuur van AI-systemen (‘the workings of AI systems’) voor elk van deze indicatorfuncties testen of deze geimplementeerd zijn. Wanneer dit voor voldoende van deze functies het geval is hebben we derhalve een aanwijzing dat er bewustzijn aanwezig is.

Deze wetenschappelijke conclusies zijn, zoals gezegd, belast door het hypothetische karakter van het onderzoek. Als mens en machine als informatieverwerkende machines worden beschouwd, dan zijn de eventuele verschillen er tussen te beschrijven in termen van verschillen in complexiteit en organisatie van geimplementeerde algoritmes en data-structuren. En dat is wat dit onderzoek heeft onderzocht: zijn er dergelijke verschillen, waarbij gekeken wordt naar die functies die met bewustzijn te maken hebben. Of er werkelijk van bewustzijn sprake is wordt daarmee afhankelijk gemaakt van het voorkomen van bepaalde mathematische (recursieve en/of reflexieve) structuren die specifieke functionaliteiten, leergedrag, interaktie en aanpassen aan de omgeving, ondersteunen.

AI en ethiek

Wat kan de betekenis van dit soort hypothetische bevindingen zijn voor de wijze waarop we ons moreel ten opzichte van AI gedragen? Ik verwacht dat het hiervoor van nul en generlei waarde en betekenis is. Dat heeft alles te maken met het niet-hypothetische karakter van de morele ontmoeting met de ander.

Over de ethische kant van het onderzoek naar bewuste AI systemen merken de auteurs op dat dit goed is, maar dat het wel eens tot het maken van een bewust AI systeem zou kunnen leiden. En dat is niet zonder risico’s.

“On balance, we believe that research to better understand the mechanisms which might underlie consciousness in AI is beneficial. However, research on this topic runs the risk of building (or enabling others to build) a conscious AI system, which should not be done lightly. Mitigating this kind of risk should be carefully weighed against the value of better understanding consciousness in AI.”

Het niet vaststellen of een AI-systeem bewust is geworden, zou belangrijke morele implicaties hebben. Als iets als ‘bewust’ is bestempeld, volgens co-auteur Megan Peters, neurowetenschapper aan de Universiteit van Californië, “verandert dat veel aan hoe wij als mensen vinden dat die entiteit moet worden behandeld”.

De auteurs gaan verder niet in op de aard van de risico’s van een bewust AI systeem. Ik ben zelf van mening dat het risico van AI niet zit in het feit dat deze uit zichzelf een bedreiging zouden zijn voor de mens, maar in het feit dat mensen deze systemen capaciteiten toekennen die ze helemaal niet hebben en ze verantwoordelijkheden toewijzen die helemaal niet past bij het feit dat het uiteindelijk slechts om gereedschap gaat, hoe slim ook bedacht. Een mening die ik deel met o,a, de filosoof D.C. Dennett en AI-onderzoeker uit het veld Timnit Gabru, die bij Google ontslagen werd vanwege haar bijdrage aan het ‘stochastic parrots’ artikel, waarin ze kritische kanttekeningen plaatst bij de ontwikkeling en het gebruik van grote taal-modellen (LLMs), de modellen waarop o.a. ChatGPT gebaseerd is.

Met hun onderzoek dragen de negentien auteurs bij aan de mythe van de mogelijkheid van bewuste AI. Het zou goed zijn wanneer de auteurs meer aandacht zouden besteden aan het fundamenteel hypothetische karakter van hun onderzoek en daarmee aan de betrekkelijkheid van de waarde van hun resultaten. Ze zouden op basis van hun wetenschappelijke en technische kennis een bijdrage kunnen leveren aan een meer realistischer kijk op AI en daarmee aan een meer verantwoord gebruik ervan in de samenleving. Voor een kritisch onderzoek naar de betekenis van AI is het noodzakelijk filosofie niet met hypothetische wetenschap te verwarren.

Ons gedrag ten opzichte van anderen (dingen, machines, personen) wordt niet primair bepaald door wetenschappelijk ondersteunde cognitieve regels en wetten, maar door een emotionele en morele relatie die situationeel bepaald is. Onze cognitieve, verstandelijke, relatie met technologie wordt bepaald door de kennis die we bij het maken en programmeren van deze systemen hebben gebruikt. De esthetische en ethische aspecten zijn een toegift. Ze zijn geen beoogd effect van de constructie. Deze aspecten kunnen niet gereduceerd worden tot het construeerbare, technische. Het gaat dan om de moraliteit van de situatie waarin het instrument wordt toegepast en waartoe het instrument ons uitnodigt (als een spoor om te gaan), niet om de moraliteit van het instrument op zich zelf. Een uitnodiging, hoe dwingend ook, kan men echter altijd naast zich neerleggen.

Volgens Levinas kan onze relatie met de ander niet gereduceerd worden noch gebaseerd worden op een verstandelijke relatie. Bovendien is deze relatie een affectieve, morele relatie.

“The ethical relationship is not grafted on to an antecedent relationship of cognition; it is a foundation and not a superstructure…It is then more cognitive than cognition itself, and all objectivity must participate in it” (Levinas, 1987, p. 56).

De filosoof David J. Gunkel spreekt van een ‘relational turn’ in ons denken over de relatie met de ander. Het is niet zo dat we verstandelijk redeneren vanuit de door ons eerste onderkende aanwezigheid van bepaalde eigenschappen (zoals het hebben van bewustzijn) of de ander tot onze morele cirkel behoort. Het is juist omgekeerd.

“In social situations, then, we always and already decide between who counts as morally significant and what does not and then retroactively justify these actions by “finding” the essential properties that we believe motivated this decision-making in the first place. Properties, therefore, are not the intrinsic prior condition for moral status. They are products of extrinsic social interactions with and in the face of others.” (David J. Gunkel, 2022)

We hebben als wetenschappers de neiging de wetenschappelijke vorm waarin we als wetenschappers de werkelijkheid vormgeven, modelleren en begrijpen in die werkelijkheid zelf te projecteren. Dat komt omdat we als wetenschappers willen begrijpen en we de werkelijkheid niet buiten ons verstandelijk begrijpen om kunnen begrijpen. Er is echter altijd een voorwetenschappelijk aanwezig-zijn waar vanuit ons verstand te werk gaat. Ons op constructie en technologie gerichte analytische denken is geneigd dit receptieve ken-moment te vergeten.

De basis voor het identificeren van bewustzijnindicatorfuncties is dezelfde als de basis voor de analyse van de aanwezigheid van deze functies in AI-systemen.

Wanneer je verschijnsel A als indicatie van X ziet en vervolgens op grond daarvan in een constructie van M verschijnsel A gaat simuleren, dan is het vanzelfsprekend dat je bij het interne onderzoek van M een structuur vindt die beschouwd kan worden als implementatie van verschijnsel A, waarna het uiteraard niet moeilijk is daarin een indicatie voor aanwezigheid van X te herkennen.

Het onderzoek is biased en de conclusie kan slechts een tautologie zijn.

The face of ethics”

Gebaseerd op Emmanuel Levinas’ ethiek van het gelaat neemt Niklas Toivakainen (2015) een kritische positie in tegenover de ‘Machine Question’ (Gunkel, 2012), de vraag of machines als bewuste en ethische wezens moeten worden beschouwd.

‘Als je de Levinasiaanse benadering van ethiek zou volgen, zou je niet geïnteresseerd zijn in het formuleren van een nieuwe theorie over waarom of hoe de machine een gelaat zou kunnen of moeten hebben. Je zou dus niet geïnteresseerd zijn in bijvoorbeeld de wetenschap dat alles in orde is, “werkelijke” informatieverwerking, dat net zoals de menselijke biologie of het menselijk brein, bijvoorbeeld, de computer ook in wezen een informatieverwerkingssysteem is. Deze kennis als zodanig kan niets voor de ethiek betekenen. Wat men in plaats daarvan zou moeten doen, is kijken, zoals Wittgenstein het zou zeggen: “denk niet, maar kijk!” (Wittgenstein 1967, §66), over hoe iemands relatie met een machine, zeg maar een computer, werkelijk wordt ingevuld: het gelaat van de computer, als ‘die’ er een heeft, moet zijn betekenis op zichzelf dragen – als het gelaat van een ander – en er niet aan winnen door middel van theoretische speculaties en abstracties.” (Toivakainen, 2015)

Volgens Gunkel gaat het bij de Machine Question uiteindelijk om onze beslissing of ‘we’ de robot toelaten tot onze morele cirkel. En daarin speelt macht een belangrijke rol. De vraag is wie er belang bij heeft om AI systemen als bewuste morele subjecten te beschouwen.

“Ultimately the question concerning the moral status of others and other forms of otherness, like AI and robots, is not really about the artifact. It is about us and the limits of who is included in and what comes to be excluded from that first-person plural pronoun, “we.” It is about how we decide—together and across differences—to respond to and take responsibility for our shared social reality. It is, then, in responding to the moral opportunities and challenges posed by seemingly intelligent and social artifacts that we are called to take responsibility for ourselves, for our world, and for those others who are encountered here.” (Gunkel, 2023)

Ethiek is geen theorie. Het is niet iets dat een proefpersoon in een labsituatie zelf kan bepalen als basis voor zijn gedrag. Ethiek kan niet worden bepaald door rationele abstracties en theorieën en is in die zin niet iets waarover we kunnen beslissen en controle hebben. Ethiek zit in onze onmiddellijke reactie op het gelaat van de mens, de persoon, die we in ons praktische leven tegenkomen. De filosoof Emmanuel Levinas wordt vaak degene genoemd die ons bewust heeft gemaakt van het ‘oncontroleerbare en onontkoombare’ feit van de ontmoeting met het gelaat van de Ander. Dit betekent niet dat de ontmoeting ons dwingt om op een bepaalde manier te reageren. Het betekent dat we moeten reageren, of beter gezegd, dat alles wat we doen wordt gezien als een morele reactie op de situatie die we tegenkomen.

Volgens Mark Coeckelbergh wordt de morele status die we aan de robot toekennen niet door theorie bepaald, maar in en door de praktische omgang met de technologie: “relations are prior to the things related”. (Coeckelbergh 2012). Gunkel spreekt van een ‘social relational ethics’ in het denken over de morele status van technische artefacten. (Gunkel 2014)

Wat betekent dit voor onze morele houding tegenover de robot? Mensen reageren inderdaad soms op robots alsof het mensen zijn. Maar misleidt de intelligente sociale robot ons niet door mensachtige gebaren en uitdrukkingen te tonen? We kunnen ons gedrag als reactie op de machine niet rechtvaardigen door te wijzen op de automatische ‘oncontroleerbare’ reactie die we hebben op wat de machine zegt of doet. We weten dat de machine zo is geconstrueerd en geprogrammeerd dat deze de onmiddellijke reactie teweegbrengt die de ontwerper van ons wilde. Het verzonnen gezicht van een machine is geen natuurlijk gelaat in de Levinasiaanse zin. Het is onze morele plicht om te weten wat een sociale robot sociaal maakt, hoe deze onderdeel is geworden van onze sociale praktijken, net zoals het onze morele plicht is om de wording van de computer te begrijpen, om niet te worden misleid door degenen die robots willen verkopen als eersterangsburgers. Ik ben het eens met Niklas Toivakainen waar hij zegt “that understanding our ethical relationship to artificial things cannot be detached from a critical examination of what moral dynamics drives our technological aspirations.” (Toivakainen, 2015). Waarom hebben we sociale robots nodig? Waarom kunstmatige zeehondjes om onze ouderen te onderhouden? Welk tekort moeten deze compenseren?

Het is ook belangrijk om de conceptuele dynamiek te begrijpen die heeft geleid tot de ontwikkeling van de computer en de intelligente sociale robots.

Machines worden ontworpen en gebouwd en dat maakt ze tot fundamenteel andere wezens dan levende wezens. Ze passen niet in de natuurlijke orde van levende wezens, virussen, microben, planten, dieren, mensen. Toivakaienen wijst op het fundamentele verschil tussen de slavernij en de situatie van AI-systemen. Slaven waren altijd al mensen, ze waren mensen die als slaaf behandeld werden en hun rechten ontzegd werden als het de overheerser zo uit kwam. Technische AI systemen zijn nooit bewuste wezens geweest.

Kunnen de dingen een gelaat krijgen? Is de kunst niet een aktiviteit die de dingen een gezicht verleent?” Deze vraag stelt Levinas in zijn opstel “Is de ontologie fundamenteel?” Geheel in de geest van Levinas moet het antwoord ontkennend zijn. Want wie kan de dingen die van zichzelf geen gelaat hebben een gelaat geven? Het gelaat is niet iets dat na de ontmoeting met de ander aan ons verschijnt. Een gelaat geef je niet. Alsof we daar de macht toe hebben! Het gelaat betekent de weerstand tegen de macht van de technologie, die de dingen een gezicht wil verlenen ten behoeve van het functioneren van het bedrog. Want zonder de suggestie iets voor de mens te betekenen werkt de machine niet.

Tenslotte, terug naar het hypothetisch wetenschappelijke onderzoek. Met dat de mens zich als informatieverwerkend systeem beschouwt en voorstelt, toont hij al aan zich niet met die voorstellling te identificeren. Hij is daar dan al voorbij. De programmeerbare machine (automaat, robot) is de uitwendige objectivatie van de voorstelling van de mens als informatieverwerkend systeem, dat zijn zelfstandigheid ontleent aan de fysische processen die als werkende tekens van denkprocessen worden gezien (zie ook Hollak, 1968 en Hollak en Platvoet 2010). We moeten de zelfstandigheid van de machine zien in relatie tot de mens die de machine heeft uitgedacht voor gebruik. Deze ‘technische relatie’ is een andere dan de ‘sociale ethische relatie’ waar Coeckelbergh (2012) en Gunkel (2014) het over hebben. De laatste heeft betrekking op het omgaan met en het gebruik van het technisch instrument, terwijl de ‘technische relatie’ de specifieke ken-relatie betreft die in de ‘technische idee'(zie Hollak 1964) tot uitdrukking komt. Zonder de relatie tot de mens is de machine geen machine, maar slechts een fysisch proces. Anderzijds is het fysische, de uitwendigheid een noodzakelijk aspect aan het menselijk handelen en denken. Het rekenende, mechanische, denken bestaat niet zonder het gebruik van fysische tekens. De rekenmachine is een werkend teken, een apparaat waarin de natuurkrachten het manipuleren met ‘calculi’ (rekensteentjes) hebben overgenomen. Hoe complex de berekenbare processen in de AI machines ook zijn het zijn in de basis geprogrammeerde rekenmachines, geprogrammeerd door middel van eenzinnige programmeertaaluitdrukkingen die het fysisch proces aansturen dat wij als uitvoering van het programma interpreteren.

Bovengenoemd reflexief argument voor het feit dat de mens meer is dan een informatieverwerkend systeem betekent dat de resultaten van het onderzoek naar het bewustzijn van AI op een onwaarheid berusten. Dagelijks zijn we getuige van vele levensuitingen waaruit deze onwaarheid blijkt. De vele uitingen van behoeftigheid aan energie, voeding, informatie en kennis en de vele vormen van verslaving, maar ook de oncontroleerbare processen in het natuurlijk milieu (‘klimaatcrisis) en de religieuze conflicten tussen etnische groeperingen kunnen niet gereduceerd worden tot informatieverwerkende cybernetische processen. Dit voert direct terug tot de vraag naar het waarom van de automatisering. Het is de vraag die ook Toivakainen (2015) stelt: waarom zouden we machines een gelaat willen geven in een wereld waarin er al zoveel zijn? Uit welke behoefte komt dit voort? Waarom wil de zelfbewuste mens zich door kennis de werkelijkheid eigen maken en de natuur in bezit nemen en controleren?

Het belangrijkste bezwaar wat ik tegen het hier besproken wetenschappelijk onderzoek naar bewuste AI heb is dat de onderzoekers weliswaar expliciet melding maken van het hypothetische karakter van het onderzoek, maar dat de gevolgen hiervan voor de status van de conclusies kennelijk nog niet tot het zelfbewustzijn van de wetenschap zijn doorgedrongen. Wat betekent het de mens als informatieverwerkend systeem op te vatten?

Naast mechanicisme en mathematisme bestaat er in onze cultuur een wijdverbreid informaticisme, de opvatting, vaak onbewust aanwezig, dat alles informatie is en dat de werkelijkheid (inclusief het individuele leven) uitputtend als informatieverwerkend systeem kan worden beschreven.

(*) Voetnoot:

De Nederlandse bundel met essays van Emmanuel Levinas heeft als titel Het Menselijk Gelaat. Vaak worden ‘gelaat’ en ‘gezicht’ als synoniemen beschouwd. Het Engelse ‘face’ is zowel vertaling van het Nederlandse ‘gezicht’ als van het Nederlandse ‘gelaat’. Ik voel een verschil dat in de Engelse vertaling verloren gaat. Het Franse ‘visage’ heeft het zelfde probleem. Je kunt wel een gezicht tekenen, een gezicht afbeelden en een robot een gezicht geven, maar niet een gelaat. Het woord ‘inter-face’ (ook ‘user inter-face’) dat staat voor de component van een systeem dat zorgt voor de technische interaktie tussen gebruiker en systeem bevat het woord ‘face’. Het is hoe het instrument zich naar de gebruiker toont. Het biedt zicht op de toestand van het proces en omvat ook de hendels en knoppen voor het besturen van het systeem. De geformaliseerde ‘natuurlijke taal’ is de inter-face van de chat systemen. Alleen de mens heeft een gelaat in de morele betekenis van Levinas. Erving Goffmans On face-work gaat over politeness, beleefde gedragingen in social encounters. Hoe moeten we een agent maken die we kunnen accepteren in onze sociale ontmoetingen?

Bronnen

Butlin, P. et al. Consciousness in Artificial Intelligence: Insights from the Science of Consciousness Preprint at https://arxiv.org/abs/2308.08708 (2023).

Mark Coeckelbergh (2012). Growing Moral Relations: Critique of Moral Status Ascription. New York: Palgrave MacMillan (2012).

Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.

Maarten Coolen (1992). De machine voorbij: over het zelfbegrip van de mens in het tijdperk van de informatietechniek. Boom Meppel, Amsterdam, 1992.

René Descartes (1937). Vertoog over de methode . Vertaling Helena Pos, Inleiding Prof. Dr. H.J.Pos. Wereldbibliotheek Amsterdam-W. 1937. Oorspronkelijke uitgave Discours de la méthode, 1637.

Gunkel, David J. (2012). The machine question: Critical perspectives on AI, robots, and ethics. Cambridge: MIT Press.

Gunkel, David J. (2014). The Rights of Machines–Caring for Robotic Care Givers. Presented at AISB 2014. Chapter in the Intelligent Systems, Control and Automation: Science and Engineering book series (ISCA,volume 74).

“In any event, how we respond to the opportunities and challenges of this machine question will have a profound effect on the way we conceptualize our place in the world, who we decide to include in the community of moral subjects, and what we exclude from such consideration and why. But no matter how it is decided, it is a decision—quite literally a cut that institutes difference and makes a difference.”

Gunkel, David J. (2022). The Relational Turn: A Media Ethics for the 21st Century and Beyond, Media Ethics, 2022

Heidegger, Martin (1977). The Question Concerning Technology and Other Essays. Trans. William Lovitt. New York: Harper & Row (1977).

“One says: Technology is a means to an end. The other says: Technology is a human activity. The two definitions of technology belong together. For to posit ends and procure and utilize the means to them is a human activity. The manufacture and utilization of equipment, tools, and machines, the manufactured and used things themselves, and the needs and ends that they serve, all belong to what technology is.”

Hollak, J.H.A. (1968). Betrachtungen über das Wesen der heutigen technik. Kerygma und Mythos VI Band III, Theologische Forschung 44, 1968, Hamburg, Evangelischer Verlag, pp 50-73. Dit is de vertaling van het Italiaanse artikel (Hollak 1964) Ook opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak (Hollak en Platvoet, 2010).

Hollak, J.H.A. (1964). Considerazioni sulla natural della tecnica odierna, l’uomo e la cirbernetica nel quadro delle filosofia sociologica, Tecnica e casistica, Archivo di filosofia, 1/2, Padova, 1964 pp. 121-146, discussie pp 147-152.

Hollak, Jan en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin ogenomen.

“Wanneer hier voortdurend in verband met mechanismen van ‘reflectie’, ‘zelfreflectie’, etc. sprake is dan is daarmee vanzelfsprekend nooit het subjectieve act-leven van het menselijk denken bedoeld (machines hebben geen bewustzijn), maar steeds slechts zijn intentioneel correlaat” (Voetnoot op p. 185)

Voor veel mensen is dat helemaal niet zo ‘vanzelfsprekend’. De term ‘intentioneel correlaat’ komt uit een stroming in de filosofie die niet zo populair is bij veel wetenschappelijke filosofen.

Het object van de intentionele act (: bewustzijn is altijd bewustzijn van iets, we denken een gedachte), heet in de fenomenologische traditie het ‘intentioneel correlaat’ van de act. Het gedachte is bij de machinetechniek niet de toedracht in haar onmiddellijke ervaringsvorm, maar de toedracht als toedracht uitgedrukt. Het is dus resultaat van reflectie, het is een reflexieve techniek. De natuur is uitgedrukt in natuurwetten. In de machine zijn de toedrachten aanwezig zoals ik ze denk, namelijk in de vorm van een technisch concept. Dus als intentioneel correlaat van mijn denken. Een toestand van een systeem, een machine is een mathematische constructie. We kunnen abstraheren van de bijzondere fysische implementatie zodra we beseffen dat het voor de werking van de machine om communicatie van toestanden van onderdelen van het systeem gaat. Dit is de tweede reflectievorm, een reflectie op de reflectie die in de informatieverwerkende systemen tot uitdrukking komt.

De vergissing die men volgens Hollak vaak maakt is de toedracht alleen inhoudelijk te nemen (‘materialiter’) en niet ook naar de vorm (als toedracht, ‘formaliter’).

Dit komt overeen met een opmerking van Fleischhacker dat we onze interpretatie van de betekenis van een gegeven in het gegeven zelf leggen als we de werkelijkheid mathematiseren.

Levinas, E. (1987). Collected Philosophical Papers. Trans. Alphonso Lingis. Dordrecht: Martinus Nijhoff.

Levinas, E. (1969). Het Menselijk Gelaat. Vertaald en Ingeleid door O. de Nobel en A. Peperzak. Ambo, 1969. Hierin opgenomen: Is de ontologie fudamenteel? vertaling van Levinas (1951).

Levinas, E (1951). L’ontologie est-elle fondamentale? In: Revue de Métaphysique et de Morale 56 (1951) 88-98.

Tegmark, Max (2014). Our Mathematical Universe: My Quest for the Ultimate Nature of Reality, Penguin Books, 2014.

Toivakainen, Niklas (2015). Machines and the face of ethics. In: Ethics and Information Technology, Springer, 2015.

“…my concern here is with why we aspire to devise and construct machines that have a face, when the world is filled with faces.”

Wittgenstein, L. (1967). Philosophical Investigations. Transl. by Anscombe, G.E.M. Oxford: Blackwell

Van der Poel, Ibo et al. (editors) (2023). Ethics of Social Disruptive Technologies. Open access boek van het ESDIT consortium.

Beschouw de volgende redenering uit (Van der Poel 2023) die typisch is voor het denken over de ‘Machine Question’, e.g. Is een robot een ding of een persoon? (David J. Gunkel, 2022).

“Consider humanoid artificial agents like social robots and voice assistants that can evoke affective reactions (…) People can feel upset when a robot is kicked or when a voice assistant is abused. Yet are such responses appropriate? They would be if the social robot and voice assistant were considered to be a ‘person’ or ‘agent’: after all, if a person is harmed, this calls for an empathetic response. Yet concepts like ‘personhood’ or ‘agency’ have traditionally been reserved for humans, and it is not yet established whether they can be extended to humanoid artificial agents, which may lack other relevant features of ‘agency’ and ‘personhood’, such as ‘intentionality’ or ‘free will’. One solution would be to extend attributions of ‘personhood’ and ‘agency’ to humanoid robots. But doing so also requires us to rethink what these concepts mean, and what their application conditions are, given the distinct characteristics of new digital technologies.” (p. 19)

Het gaat hier over ‘sociale robots’, een ‘humanoide kunstmatige agent’, waarvan we niet goed weten wat we allemaal onder dat begrip ‘sociale robot’ moeten verstaan. Het is een technisch idee dat vele verschillende bestaande en (nog) niet bestaande artefacten dekt. Vervolgens wordt een situatie gepresenteerd waarin iemand ziet dat een robot wordt geschopt of geslagen en daarover nogal ontdaan is. Het is niet duidelijk waaruit het ontdaan zijn in dit geval blijkt, maar uit allerlei onderzoeken blijkt dat mensen inderdaad tijdens interakties met ‘intelligente machines’ gedrag vertonen dat lijkt op sociaal gedrag met andere mensen. Dat gedrag heeft daarom meteen een morele kant.

Terzijde. Ik spreek uit eigen ervaring wanneer ik zeg dat je een (weliswaar) kort gesprek met een machine kunt voeren waarbij je tijdens dat gesprek niet anders wist dan dat het een gesprek met een echt persoon was. Zo groet je bijvoorbeeld beleefd, zoals je een persoon groet die je aan de telefoon hebt. Later werd ik er op gewezen dat ik toch echt met een antwoordmachine een gesprek had gevoerd. Nadat me dat werd meegedeeld heb ik geprobeerd het gesprek te reconstrueren. Aan het gesprek kun je niet zien of het met een echt persoon was of met een machine die zich als echt persoon gedroeg. Griezelig of unheimisch (‘uncanny’) is de term voor de gewaarwoording van zo’n grenservaring. Je hebt iets echt ervaren waarvan je ‘achteraf’ weet dat het niet werkelijk is zoals je hebt ervaren.

Ik heb in diverse onderzoekprojecten aan de technische ontwikkeling van de eerste sociale robots en conversational agents bijgedragen en onderzoek gedaan naar hoe mensen met deze artefacten om gaan. Ook uit onderzoek is gebleken dat bekendheid met de technische mogelijkheden op het gebied van de sociale robots je niet beletten dat je een machine als een echte gesprekspartner beleeft.

De vraag wordt vervolgens gesteld of de reaktie die het zien van het agressieve gedrag tegenover de robot gepast (‘appropriate’) is. Dat zou zo zijn, zegt de wetenschapper, als de robot als een persoon werd gezien, want – zo is de redenering -, als het een persoon is dan is de reaktie op het zien van het agressieve gedrag gepast. Maar, is dan de vraag: is een sociale robot wel een persoon? Dan zou die toch ook andere eigenschappen moeten hebben (‘intentionaliteit’, ‘vrije wil’) die we aan persoon zijn verbinden. De redenering stapt over van de concrete beleving die iemand heeft naar de algemene vraag naar waar een robot aan moet voldoen opdat het gedrag ‘gepast’ is.

Is het gepast om een antwoordapparaat ‘goede morgen’ te wensen wanneer je deze aan de telefoon krijgt? Misschien niet. Maar mensen die dat doen die beleven de ontmoeting als die met een mens, wanneer ze niet in de gaten hebben dat het niet een mens is maar een antwoordapparaat.

“One solution would be to …” . Er wordt een oplossing voorgesteld. Maar wat is het probleem? Waarom zou het gedrag leiden tot de vraag of de sociale robot wel een persoon is? Wat vervolgens tot de vraag leidt wat we dan onder een persoon verstaan en of we dan, om een robot als persoon te kunnen beschouwen, dat begrip persoon wellicht wat moeten oprekken, zodat robots daar ook onder vallen.

Wat is hier nu feitelijk aan de hand? Het komt er op neer dat iemand een bepaalde beleving heeft en geëmotioneerd is bij het zien dat een afbeelding van een geliefd persoon wordt verscheurd. Een afbeelding is een beeld waarin het afgebeelde aanwezig wordt gesteld. Een wetenschapper vraagt zich af of de reactie wel gepast is. Dat zou zo zijn, stelt deze, als in de afbeelding een persoon werd herkend. Maar, zo redeneert hij, de afbeelding is geen persoon, want er ontbreken veel kenmerken aan de afbeelding die we normaal toekennen aan een persoon. Een oplossing zou zijn het begrip persoon op te rekken. Ook afbeeldingen die we als afbeelding van een persoon herkennen en waar we op reageren alsof we met een persoon te maken hadden vallen in het vervolg onder het opgerekte begrip, zeg persoon2.0.

Is de reaktie op het zien van het schoppen van een robot ‘gepast’? Dat was de vraag die de wetenschapper stelde. De reaktie is simpelweg een feit en toont dat er emotionele betrokkenheid is bij wat er in deze situatie wordt afgebeeld. In de emotie is het afgebeelde aanwezig, zoals deze aanwezig is in het beeld. De kunstenaar maakt gebruik van de werking van de verbeelding. De converserende sociale robot produceert de voor de gebruiker herkenbare woorden, zoals het informatiebord langs de weg de tekst “U bevindt zich hier” gebruikt of de geldautomaat de woorden “Voer uw pas in”.

Voor de wetenschapper is de hele situatie aanleiding om zich af te vragen of we de sociale robot, de agent, als een soort van persoon moeten gaan zien, een morele agent. Een entiteit die we in onze morele cirkel moeten opnemen. Waarom? Omdat we ons tegenover de afbeelding gedragen alsof het de identiteit van het afgebeelde heeft. Maar wat hier aanwezig wordt gesteld is niet een reëel bestaand iets, maar slechts een technische constructie. Anders dan bij een afbeelding van een echt persoon, of een bandopname van een familielid, is de machine niet iets dat we anders kennen dan als een instrument dat functionele belevingen genereert. Het is een abstract technisch construct.

Achteraf blijkt dat het om een heel abstracte, uitgeklede, identiteit gaat. De afbeelding komt slechts in enkele kenmerken overeen met het erin afgebeelde. Is het voldoende voor het toekennen van een ‘morele status’ aan ‘het artefact’ dat interaktie ermee bij de mens soms dezelfde emotionele en morele reakties oproept dan bij de ontmoeting met een echt mens het geval is? De vraag doet zich voor zolang het niet om concrete interakties gaat met een concreet ‘individu’, een instantie van de soort sociale robot, maar om een abstract idee, een constructie. Om daarnaar te verwijzen is de abstracte term ‘agent’ in gebruik genomen.

De robot agent doet alsof deze de taal van de gebruiker verstaat en spreekt. De techniek doet intelligent niet om de gebruiker te misleiden, maar omdat het werkt. Het doen alsof is functioneel. De gebruiker moet in het gedrag dat de machine produceert iets zinvols, iets menselijks, herkennen. Antropomorfisme is een functioneel aspect van de technologie.

De muizenval is een slim instrument omdat het slim bedacht is: het is functioneel in relatie tot een bepaalde levenswijze en mensenpraktijk. De moraliteit van dit instrument is de moraliteit (zedelijkheid) van de mensenpraktijk en de levensvorm waarbinnen dit instrument een functie heeft, zoals de moraliteit van de mobiele telefoon of de echoscopie de moraliteit is van de mensenpraktijk waarin deze technologieën functioneren.

De vraag of het artefact een morele agent of morele actor is wordt vaak in verband gebracht met de vraag wie verantwoordelijk is voor het gedrag van deze instrumenten. Een persoon onderscheidt zich van het ding hierin dat de persoon verantwoordelijk is (ter verantwoording kan worden geroepen) voor de handelingen die deze uit vrije wil verricht en de eventuele gevolgen daarvan. Maar hoe kan een abstract concept dat slechts in de verbeelding van de gebruiker een concreet bestaan heeft verantwoordelijk zijn? Er is immers niet een substantie, een entiteit, een body, die we als actor kunnen beschouwen van het gebeuren.

Het probleem is dat mensen de techniek zijn gaan zien als norm. Vergelijk een techniek met de grammatica van de moedertaal, de taal die je van huis uit hebt leren spreken en spreken. Die grammatica legt vast hoe de taal in elkaar zit, maar die leert je niet hoe je moet schrijven en spreken. Dat kon je immers al voordat er een grammatica werd gemaakt. Dat is de waarheid van het inzicht dat de machine zich gedraagt, spreekt en denkt, zoals een mens, maar dat de mens zich niet gedraagt, noch spreekt, noch denkt, zoals een mens. De wetenschap en de technologie hebben de neiging de mens hun reconstructie van het menselijk gedrag als norm op te leggen. Zoals ze het spreken van grammaticaal correct Nederlands als norm opleggen voor echt Nederlands. Die norm wordt gepersonificeerd in het technische instrument: “De computer zegt het.”.

Omdat de techniek als norm wordt gezien wordt deze ook verantwoordelijk gehouden voor de norm die ze oplegt aan de werkelijkheid en aan de mens die ermee omgaat.

Het verlenen van een morele status aan sociale robots is een machtspolitieke kwestie omdat het door veel mensen als een teken van macht wordt gezien wanneer je in staat bent om een intelligente robot te maken met bewustzijn en gevoel. AI is de hedendaagse Golem. AI is een media spektakel geworden die de mythe in stand houdt van de mogelijkheid van een superintelligent wezen dat alle hedendaagse en toekomstige problemen oplost. Wetenschappers en filosofen die beweren dat AI bewustzijn heeft of kan hebben houden deze mythe in stand. De propaganda rondom AI is een onderdeel van de AI waarin het er om gaat de schijn van bewustzijn hoog te houden. Het is de ultieme vervreemding die religieuze trekken heeft en de leemte opvult die na ‘de dood van God’ ontstaan is.

De makers van de AI verschuilen zich achter hun produkt door hun produkt zelfstandigheid en moreel actorschap toe te dichten. Wie de machine zelfstandigheid verleent is echter zelf daarvoor verantwoordelijk. De machine is niet uit zichzelf zelfstandig.

De Ideale Politieke Partij (DIP)

Wat niet is kan ook niet komen

Waar staat De Ideale Politiek Partij (DIP) voor?

DIP staat voor een volledige automatisering en robotisering van de Nederlandse economie en politiek door een Intelligente Antropolisatie (IA) van de samenleving, een door de autonome burgers van Nederland gecontroleerde open samenleving op basis van de principes van de artificiële intelligentie (AI).

Kamerfractie

De kamerfractie van De Ideale Politieke Partij zal in toenemende mate bestaan uit sociale robots. Waarom?

We hebben gemerkt dat het politieke bedrijf voor menselijke kamerleden te zwaar is geworden. Daarvoor zijn een aantal oorzaken aan te wijzen. We geven de oorzaken en tevens hoe deze door robotisering van de politiek kunnen worden weggenomen. Ten eerste: via de sociale media worden politici niet op hun inhoud maar op hun sociaal-culturele achtergrond beoordeeld (“Hij is katholiek”, “Zij is van Turkse, cq. Marokkaanse komaf”) en aangevallen. Religieuze overtuigingen en gender-identiteit zijn een bron van conflicten. Dat leidt tot veel stress en persoonlijke bedreigingen en dat leidt af van de politieke zaak waar het om gaat. Teveel kostbare tijd in de kamer gaat verloren door emotioneel gekissebis over vermeende verborgen dan wel openlijk beleden cultureel-historische sympathieën. Sociale robots zijn a-historische wezens, ze hebben geen last van culturele-religieuze achtergronden, noch van familie- en clan-tradities. Ze zijn bovendien geslachtvrij hebben geen last van gender. Ten tweede: een groot deel van de kostbare tijd van kamerleden wordt besteed aan het verzamelen van informatie. Deze komt vaak moeizaam en montjesmaat ter beschikking. Dat is voor een groot deel een administratief en een communicatie-probleem. Sociale robots hebben een potentieel onbegrende hoeveelheid geheugenruimte en beschikken over de nieuwste technologie voor het snel zoeken van informatie. Door inzet van sociale robots en het volledig delen van informatie kan zeer veel kostbare tijd worden gewonnen. Ten derde: er gaat veel tijd zitten in het schrijven van rapporten. Een AI robot kan dit vele malen efficiënter en sneller. Zie de recente ervaringen met systemen als ChatGPT.

Onze bedrijfseconomische rekenmodellen voorspellen dat door het inzetten van sociale robots als kamerfractieleden een efficiëntiewinst van 70% gehaald kan worden. Daardoor komt er meer tijd vrij om – zonder stress – na te denken en te discussiëren. Dat zal de kwaliteit en uitvoerbaarheid van besluiten ten goede komen.

Wij citeren met instemming Klaas Dijkhof (voormalig fractievoorzitter VVD), overigens geen lid van DIP.

“Onze fractie stopt nooit met nadenken. Wij discussiëren voortdurend, over alles wat belangrijk is voor Nederland. Onze standpunten houden we continu tegen het licht. En nadat we alles hebben afgewogen, nemen we de beslissingen die wij noodzakelijk vinden. Niet eerder.”

Europese wetgeving die de sociale robot burgerrechten verleend (zoals incidenteel al in de Verenigde Arabische Emiraten is gebeurd) is in een vergevorderd stadium. Zodra robots staatsburgers van Nederland kunnen zijn, vallen de intelligente sociale robots onder de bescherming van het passief en aktief kiesrecht.

Natuur en Landbouw

De Nederlandse economie zit op slot. Een belangrijke oorzaak daarvan is ‘het stikstofprobleem’. Door rationalisering van de landbouw, een proces van eeuwen, is de Nederlandse bodem uitgewoond ten behoeve van ‘De Economie’. Het produceren van melk en vlees door middel van de koe is hopeloos inefficiënt en een onverantwoorde belasting voor de natuur. DIP is dan ook voor afschaffing van de koe, het varken en de kip als middel voor de produktie van voedsel. Net als bier en ‘vlees’ kan ook melk met behulp van nieuwe voedingstechnologie en zonder gebruik te maken van levende dieren, zoals de koe, worden geproduceerd. Daarmee is het stikstofprobleem grotendeels opgelost. Ter geruststelling: een klein aantal koeien, varkens en kippen (wij denken van elk zo’n tien exemplaren) zal worden bewaard als cultureel-industriëel erfgoed.

Woningbouw

Het tekort aan woningen wordt enerzijds veroorzaakt door de rem op de woningbouw vanwege het hiervoor al besproken stikstofprobleem, anderzijds door de toenemende vraag naar woningen. Wat het eerste betreft: dit is opgelost door een intelligente antropologische transitie (IAT) van de landbouw (zie de paragraaf Natuur en Landbouw). Door minder stikstofdepositie kan er weer gebouwd worden. Het probleem aan de vraagzijde wordt opgelost door optimalisering van de geografische verdeling van inwoners en woningen. Dit kan doordat door de automatisering van arbeid de woon-werk-koppeling aan een specifieke locatie voor velen tot het verleden gaat behoren. Ook zal door emigratie de druk op de woningmarkt afnemen. (Zie de Emigratie paragraaf.)

Verkeer en vervoer

Naast de landbouw is het verkeer een belangrijke belasting voor onze natuur en onze leefruimte. Door verder automatisering zal woon-werk-verkeer drastisch verminderen. Daardoor zijn minder wegen nodig. Ook zal volgens onze sociaal-economische rekenmodellen de behoefte aan persoonlijke consumptiegoederen voor eigen particulier gebruik drastisch afnemen. Daardoor zal het goederenvervoer ook aanzienlijk minder worden. Bestaande luchthavens worden overdekt en voorzien van zonnepanelen.

Migratie

Nederland is vol. Een groot deel van de leefruimte in Nederland komt echter vrij door het vrijkomen van landbouwgronden door het verdwijnen van de koe, het varken en in mindere mate de kip als voedsel-bron (zie de Landbouw paragraaf). Dit is zo’n 40 % van het oppervlakte. Daardoor is het mogelijk te voldoen aan de in de EU afgesproken aantallen vluchtelingen-immigranten die Nederland heeft toegewezen gekregen. Door automatisering is arbeidsimmigratie niet meer nodig.

Armoede

Om de schrijnende armoede onder een groeiend deel van de Nederlandse bevolking te bestrijden is DIP voor afschaffing van het geldwezen. In een volledig geautomatiseerde economie zonder geld behoort geldgebrek en daarmee de armoede tot het verleden. Er is een natuurlijke grens aan wat een individu kan consumeren. De overheid zorgt voor voldoende middelen om in ieders levensonderhoud en geluk te kunnen voorzien.

Het geld is ooit ingevoerd om de ruilhandel te vereenvoudigen. Dat heeft er echter toe geleid dat geld zelf een ruilmiddel werd en dat er een complex bouwwerk ontstond van banken en andere monetaire instellingen die handelen in tegoeden en schulden. DIP is voor de deconstructie van het geldwezen door afschaffing van het geld. De persoon behoeft eigendom, maar teveel eigendom is dom.

Emigratie

Onze sociaal-economische rekenmodellen voorspellen dat een niet onbelangrijk deel van de Nederlanders zal emigreren. Dit zullen vooral die inwoners zijn die niet inzien hoe je als individu nog een zinvol bestaan kunt hebben als er geen geld meer is, waardoor je niet meer jezelf kunt waarmaken in het bezit van duurdere en grotere huizen, boten en auto’s dan je buurman of buurvrouw. Deze emigratie draagt tevens bij aan de oplossing van het probleem aan de vraagzijde van het woningprobleem. Er zal minder gebouwd hoeven te worden en er zal meer natuur zijn voor minder mensen. Nederland wordt weer leefbaar.

Onderwijs

De ervaring leert dat de ontmoeting van leerlingen met diverse culturele en religieuze achtergronden in de school tot conflicten leiden die het onderwijsproces verstoren. Daarom stelt DIP voor om alle uitingen van dergelijke achtergronden en politieke sympathieën in het onderwijs te verbieden. Dat betekent dat het dragen van hoofddoeken, keppeltjes, maar ook van een vergiet verboden is.

Omdat veel namen verwijzen naar een religieuze achtergrond (Mohammed, Christiaan) zullen deze niet meer in het onderwijs worden gebruikt. Iedereen wordt aangesproken met een unieke identifier, een nummer (zoals het BSN). Verder zal het basisonderwijs bestaan uit drie onderdelen: de zuivere wiskunde, Nederlands en sport. Dit omdat de inhoud van alle andere vakken potentieel kunnen leiden tot conflicten in de school. In het middelbaar onderwijs wordt naast wiskunde ook mechanica onderwezen. In het hogere onderwijs wordt dit uitgebreid met theoretische informatica en computerwetenschappen.

Rechtspraak

Er gaat veel mis in de rechtspraak. Dat komt doordat rechters, zoals veel werkers, hun werk aan algoritmes en procedures uitbesteden. Daar zijn goede motieven voor, maar daarmee verdwijnt niet alleen de uitoefening van verantwoordelijkheid, ook wordt daardoor de individuele burger niet meer als individu, maar als abstract geval, een instantie van een datastructuur, (een gebruiker), behandeld. Het individu raakt zo vermangeld tussen de raderen van een machinerie van regels en wetten.

In Algoritmische beslisregels vanuit constitutioneel oogpunt (Goossens et al, 2021) bestuderen de auteurs de rechtstatelijke risico’s ten gevolge van het gebruik van algoritmes door de verschillende overheidsinstanties.

De focus van deze studie ligt op “de fundamentele tweedeling tussen algemene regels en de concrete toepassing via individuele beslissingen alsmede, in het licht daarvan, de wisselwerking tussen normen en feiten.” Die ‘normen’ zijn min of meer expliciet gemaakt in de algoritmes die werken op de gegevens over de burger. Algoritmes zijn op modellen gebaseerd en modellen zijn nooit ethisch neutraal. “Models are opinions embedded in mathematics.” (Cathy O’Neil, Weapons of Math Destruction)

De auteurs wijzen erop dat de besluitvorming van het bestuur in individuele gevallen al geruime tijd steeds vaker (deels) geautomatiseerd plaats vindt op basis van algoritmische beslisregels. “Hierdoor kan de relatie vertroebelen tussen enerzijds een concreet besluit dat het resultaat is van de toepassing van een algoritmische beslisregel en anderzijds de algemene regels die oorspronkelijk ten grondslag liggen aan de bevoegdheid van het bestuur om in individuele gevallen concrete besluiten te nemen.

Tijdens de toeslagenaffaire werd door een hoge ambtenaar van de Belastingdienst opgemerkt dat de economie en de politiek vereist dat deze “werkt als een machine”. “Daar mag geen zand tussen komen door naar individuele gevallen te kijken.”

De auteurs wijzen er terecht op dat wanneer het om de toepassing van algemene regels in concrete gevallen gaat er een wisselwerking is tussen de regel en de situatie. “Dat wat we ‘toepassing’ noemen, raakt ook de toegepaste regel”. De toepassing van een regel in de praktijk is iets anders dan het toepassen van een wiskundige functie op een argument, zoals een machine dat doet.

Hier sluiten wij ons van harte bij aan. Het beoordelen van regels en wetten op de rechtvaardigheid van de toepassing kan alleen door mensen gebeuren, omdat algoritmes per definitie abstraheren van concrete gevallen, van de burger als individu. Alleen de mens heeft het vermogen tot inzicht in de waarde en betekenis van een specifieke situatie waarin een burger zich bevindt.

Overigens verwachten we op basis van onze rekenmodellen dat er veel minder vaak een beroep zal worden gedaan op de rechtspraak. Door het afschaffen van het geldwezen, en daarmee van belastingen op inkomen en toeslagen zullen de beroepszaken tegen de overheid aanzienlijk in aantal afnemen. Daardoor komt er meer tijd vrij voor het beoordelen van de kwaliteit van besluiten door overheidsinstanties.

De Staat der Nederlanden

Het belangrijkste punt op de politieke agenda is en blijft de verwerkelijking van de vrije Staat der Nederlanden en daarmee van de vrijheid van haar onderdanen. De Staat is niet een statische toestand. De Staat is een proces. Het is een proces waarin de bemiddeling plaats vindt tussen De Staat als eenheid en als veelheid van de individuele staatsburgers, de ingezetenen van Nederland. De Staat staat enerzijds boven het individu, anderzijds is het de bemiddelde eenheid van het individu als staatsburger. De Staat kan niet bestaan zonder het concrete individu, daarom moet de Staat altijd opkomen voor het individu. Omgekeerd kan het individu niet bestaan zonder de andere leden en de Staat. De Vrijheid is zowel de motor als het doel van het proces dat de Staat is. Het gaat zowel om de vrijheid van de Staat als om de vrijheid van elk individu. Redelijkheid en rechtvaardigheid zijn de maten waaraan het proces van de vorming van de Staat gemeten wordt.

De Organisatie van de Staat

Voor de organisatie van het Staatsproces worden een klein aantal (we denken aan vijf) Ministeries onderscheiden. Elk ministerie vertegenwoordigt een Aspect aan het Staatsproces en bepaalt vanuit haar visie op dit aspect door zorgvuldige afweging de individuele belangen en het Staatbelang. De ministeries bepalen de parameters voor de sociaal-economische rekenmodellen op basis waarvan de beleidsplannen worden gemaakt. De uiteindelijke planning valt dan onder het Ministerie van Algemene Zaken & Informatie (zie hieronder). We stellen de volgende ministeries voor. Het is de bedoeling dat deze bezet worden door mensen die verstand van zaken hebben.

Het Ministerie van Geschiedenis

De belangrijkste taak van dit Ministerie is naast de zorg voor de historiciteit van de mens het beheren en bewaken van het cultuur-historisch erfgoed. Dit bestaat vooralsnog uit: het Koopvaardijschip, de Koe, de Florijn (als symbool voor de abstracte waarde), een Zwarte Piet (als symbool voor het slavernijverleden), Sinterklaas (als symbool voor de vrijgevigheid), en het Spruitje.

Het Ministerie van Economie & Natuur

Dit Ministerie heeft de zorg voor een gezonde economie, waarvan de automatisering van werk, de medische zorg, voedselproduktie (waaronder landbouw) en het natuurbeheer de belangrijkste onderdelen zijn. Het Ministerie is verantwoordelijk voor de fysieke infrastructuur, de verdeling van het natuurlijk ‘grondgebied’ van de Staat der Nederlanden: woningbouw, landbouw, natuur, recreatie, en wegen.

Het Ministerie van Recht & Grensoverschrijdende Zaken

Laten we deze belangrijke paragraaf beginnen met onze door de eeuwenheen door schade en schande verworven inzichten in de werkelijkheid van het streven naar vrijheid en de uitwerking daarvan in het recht en de rechtstaat nog even op een rijtje te zetten. De kernbegrippen zijn vrije wil en behoeftigheid.

In abstracto kan de vrije wil niet ontkend worden zonder deze in de uitoefening van deze ontkenning zelf te bevestigen. Want wat zou de uitdrukking van deze ontkenning betekenen wanneer deze niet gegrond is in de vrijheid van de wilsakt maar daarentegen door omstandigheden van buiten tot stand zou zijn gekomen? Dan zou deze uitdrukking geen betekenis en zin hebben. De abstracte vrije wil moet zich echter nog in concrete wilsdaden verwerkelijken. De vrije wil kan zich positief tot iets bepalen (“Dit is wat ik wil omdat ik daar de waarde van in zie.”) of zich positief van iets afwenden. Het gaat hier om een vrije zelfbepaling. We moeten vrijheid niet verwarren met keuzevrijheid, de vrijheid om uit dit of dat te kiezen. Die keuzevrijheid veronderstelt de fundamentelere vrijheid om zich tot iets positief te bepalen. De mens kan wel gedwongen worden iets te doen of te laten of om uit een voorgelegde veelheid van opties te kiezen, maar hij kan niet gedwongen worden iets te willen of niet te willen. Dit is wat de persoonlijke integriteit uitmaakt. Mensen die het bestaan van de vrije wil ontkennen doen dat vaak omdat ze het gevoel hebben dat ze in al hun doen en laten door de omstandigheden en oorzaken buiten hun zelf om gedwongen worden. Dat gevoel drukt echter het besef uit dat het niet zo moet zijn, vanwege de wil die vrij wil zijn. Een andere reden is dat men een theoretisch determinisme aanhangt. Wetenschap en theorie kunnen echter niet bestaan zonder de vrije wil tot inzicht in de werkelijkheid te komen door stelling te nemen en door vrije keuzes te maken. De vrije wil kan zich niet realiseren in doelgerichte handelingen zonder inzicht in de noodzakelijke werkingen van de werkelijkheid.

Het recht in abstracte zin is het streven naar vrije zelfbepaling. In een samenleving moet de vrije wil haar concrete gestalte krijgen. Het recht kan niet bestaan zonder de zedelijkheid. De Nederlandse rechtstaat kan niet bestaan zonder de zedelijke intenties van de leden van de Nederlandse samenleving. Met het verdwijnen van de ‘grote verhalen’, met de ontkerkelijking en met de verwetenschappelijking van de samenleving en de technologisering van de arbeid en het primaat van het economisch in het leven van de westerse mens lijkt de zedelijkheid op drift geraakt. Velen zoeken stuurloos naar een nieuwe haven om aan kan leggen. De neo-liberale kabinetten Rutte wordt vaak verweten niet bij machte te zijn geweest in de ontstane zedelijke leegte te voorzien. De gemeenschap is uit elkaar gevallen en heeft het karakter gekregen van een door onverschilligheid beheerste veelheid van naar autonomie strevende individuen. Daarbij dienen we ons te realiseren dat de vrije wil in dienst waarvan het recht bestaat, door het gemeenschapsleven niet allereerst wordt beperkt, – een dergelijke opvatting verwart het streven naar zelfstandigheid met dat naar onafhankelijkheid – zonder het gemeenschapsleven kan van een vrije wil geen sprake zijn, ze neemt daar werkelijk deel aan. Alleen door samen te werken in een gemeenschap kan de vrije wil gerealiseerd worden.

De overheid heeft een taak in de zorg voor het recht op onder andere eigendom, arbeid en vrijheid van gedrag, daarvoor maakt zij regels en wetten die ze met gezag zijnde de concrete macht van het recht – al dan niet met geweld – wil en moet handhaven. De aanspraken die de individuele burgers maken op liefde, vriendschap, en vertrouwen zijn net zo belangrijk voor de burger als die op arbeid en de vrijheid van meningsuiting. Maar het heeft geen zin om hiervoor rechtsregels en wetten op te stellen. Het door velen gevoelde gebrek aan vertrouwen in de overheid of in de ander (vaak vanwege de vreemdheid van de cultuur van die ander) laat zich niet door regels oplossen. Daarvoor is een ‘cultuuromslag’ vereist.

Naast de materiële behoeften, waar de economie in engere zin over gaat zijn er de immateriële behoeften. Volgens Plato kan de Staat die in de behoeften van de mensen haar grond heeft, niet bestaan noch tot stand komen zonder het inzicht en het streven van de filosofie dat de behoeftigheid relativeert en overstijgt. De concrete behoeften van de mensen zijn cultureel en historisch bepaald. Het verwerkelijken van één Europa en één Wereld vereist dat we boven de door materialisme, technologie en neo-liberalisme gedreven partikuliere behoeften van de verschillende culturen uitstijgen. De natuur kent geen landsgrenzen. De klimaat- en milieuproblemen kunnen niet zonder een wereldwijde aanpak worden opgelost.

De mens is aan de aarde gebonden. Vluchten kan ons niet helpen. Op de maan groeit niets, geen boerenkool, geen spruiten, niets groeit er.

DIP is, ondanks de moeilijke tijden van crises, van mening dat we de morele plicht hebben optimistisch te zijn en te blijven streven naar de verwerkelijking van de vrijheid, gelijkheid en broederschap voor allen door allen via een democratische proces, waarbij uitdrukkelijk ook het gezag van de Staat dat zorg draagt voor handhaving van het recht, onder het recht valt.

De primaire taak van het Ministerie van R&GZ is de zorg voor de praktische uitvoerbaarheid van regels en wetten en het toezicht op de rechtvaardige handhaving daarvan waarbij het belang van de individuele burger wordt gewogen met de belangen van de samenleving en de Staat.

Het Ministerie voor R&GZ heeft verder de zorg voor het gezonde grensverkeer bij de communicatie tussen individuele burgers, burger en samenleving, en burger en Staat, als ook tussen het Nederlandse grondgebied en de buitenlanden. Het onderhoud van landweren (voorheen ‘defensie’) en zaken betreffende migratie vallen onder dit ministerie.

Het Ministerie van Sport & Geestelijk Welbevinden

Sport is de belangrijkste ontmoetingsplek van de burgers. De sport is ook een belangrijk platform voor de ontmoeting van de Staat der Nederlanden met haar buitenlanden. Hier rust de zorg voor het geestelijk welbevinden van de Staat en haar burgers. Alle sportaktiviteiten zijn uiteindelijk gericht op het succesvol en sportief optreden op De Internationale Podia. Dit Ministerie is ook verantwoordelijk voor Onderwijs en Opvoeding in de meest brede zin. Sport en spel zijn naast wiskunde/logica en taal de belangrijkste onderdelen van het opvoedende onderwijs. Zie ook de onderwijsparagraaf hierboven.

Het Ministerie van Algemene Zaken & Informatie

Het Ministerie van Algemene Zaken heeft de zorg voor de robotisering, de automatisering en de informatievoorziening ten behoeve van een optimale dienstverlening aan de burgers van de Staat. Ze waakt ervoor dat bedrijven en (overheids)instellingen hun interactie met de burger en klant niet uitbesteden aan de informatietechnologie. Het komt al te vaak voor dat de verantwoordelijken zich achter deze digitale interface verschuilen en zelf geen zeggenschap meer (zeggen te) hebben over de wijze waarop de communicatie met de burger/klant is georganiseerd. Dat moet maar eens afgelopen zijn.

Ten slotte: Oorlog en haar nadelen

Oorlog is de ultieme uitoefening van geweld door de staat tegenover andere staten. Geweld moet als staatsgeweld uiting zijn van het legitieme gezag, de concretisering van de macht van het recht dat de Staat dient. Nederland moet als vrije democratische rechtstaat zelf een beslissing nemen of ze wel of niet deelneemt aan een oorlog dan wel daaraan begint. De oorlog is de voortzetting van de politiek met andere middelen; met bommen en granaten en mensen als kanonnenvoer. De oorlog heeft veel nadelen en het is een ongezonde bezigheid. Maar als het dan toch moet omdat onze vrijheid bedreigd wordt, dan zullen we te allen tijde erbij de strijdende partijen op aandringen het eens te worden over het motief waarom er oorlog gevoerd wordt. Dat is toch het minste dat we van de ‘redelijke mens’ en een redelijke staat mogen vragen.

Een oorlog die een einde maakt aan de oorlog bestaat niet. We moeten blijven afwegen en bespreken of het doel dat de oorlog dient het leed dat er mee gepaard gaat waard is.

NO NATURE NO FOOD

The Capture

“Het objectiverende verstand verbreekt de fascinatie van de objectiviteit en moet concluderen dat de enige zekerheid is: Cogito sum.” (L. Fleischhacker)

Toen ik laatst een geluidsopname van mij hoorde, meende ik mijn zoon te horen. Je eigen stem klinkt vreemd. Je herkent je eigen stem niet wanneer die van buiten van een opname tot je komt. Ben ik dat? vraag ik. Ja, dat ben jij, kijk maar, zegt mijn vrouw. Ik kijk naar de video. Ik vertrouw haar. Haar woorden spreken de waarheid. Op haar kan ik bouwen.

Deze blog gaat over de vraag: Waar kunnen wij tegenwoordig nog zeker van zijn?

Van ons zelf? Maar wie is dat? In hoeverre maken we zelf uit wie we zijn?

The Capture: over de corrupte waarneming

We kijken ‘s avonds samen naar The Capture, een dramaserie.

The Capture met Shaun Emery en Hannah Roberts

In The Capture jaagt de ambitieuze rechercheur Rachel Carey (Holliday Grainger) op de oud-militair Shaun Emery (Callum Turner) die wordt verdacht van aanranding en ontvoering. Het misdrijf is gefilmd door bewakingscamera’s waarop te zien is hoe Emery, na een feestelijke avond in een kroeg zijn advocaat Hannah Roberts (Laura Haddock) aanrandt en meesleurt in zijn auto. De advocaat is daarna spoorloos verdwenen. Wij hebben, als kijkers, al kunnen zien hoe Shaun en Hannah na een innige omhelzing bij de bushalte afscheid van elkaar namen. We zien hoe Hannah in de bus stapt, nagezwaaid door Shaun. Geconfronteerd met de videobeelden van de bewakingscamera’s waarop de aanranding te zien is herkent Shaun zichzelf maar de twijfel slaat toe. Twijfel en woede maken zich van hem meester.

Emery zweert dat iemand hem erin luist en dat hij zijn advocaat geen kwaad heeft gedaan. Rechercheur Carey vindt dat moeilijk te geloven, De videobeelden zijn voor haar overtuigend bewijs. De oud-militair zou, gezien wat hij heeft meegemaakt op zijn missies in Afghanistan, best aan PTSS kunnen lijden waardoor hij zich niets meer herinnert van de aanranding. Maar dan maakt rechercheur Carey zelf iets mee waardoor haar kijk op de zaak dramatische verandert. Hoe betrouwbaar zijn die videobeelden eigenlijk? Wie van haar collega’s kan zij nog vertrouwen? Ze vermoedt een complot.

In de loop van de serie raakt de kijker meegesleurd in een verwarrend netwerk van rechercheurs, spionage, en contra-spionage, waarbij een heel team van regisseurs en video-technici blijkt te zijn ingezet om bijna real-time camerabeelden te manipuleren. Je weet niet goed wie nu bij de Goeden hoort en wie bij de Slechten. Als naïeve toeschouwers waren we aan deze indeling gewend. Maar is het leven nog wel zo simpel?

Wat in de tijd dat de film gemaakt werd (2019) nog grotendeels fantasie was, is tegenwoordig (2023) realiteit waar we bijna dagelijks mee worden geconfronteerd: gemanipuleerde camerabeelden, audio-opnames, door machines gegenereerde teksten en remixed videos. De werkelijkheid is niet meer wat het was. Via de media maken we kennis met niet meer van echt te onderscheiden, met behulp van Artificial Intelligence geconstrueerde, nepwerkelijkheden. Wat is nog echt en wat is fake? De rotsvaste bodem van de ware werkelijkheid waarin we geloofden is ons door de media en de technologie onder de voeten weggehaald. Het resultaat van de toepassing van de ooit zo onbetwijfelbare mathematische waarheden. Waar vindt ons denken nog houvast nu LLMs en ChatGPT teksten genereren die niet van originele door mensen geschreven teksten te onderscheiden zijn? Wie zitten er eigenlijk achter de berichten die we via de media tot ons nemen? Welke machten bepalen welke beelden wij voor de werkelijkheid krijgen voorgeschoteld?

We vertrouwden op de zekerheden van de mathematische wetenschap. De werkende techniek zagen we als bewijs dat die wetenschap de ware wetten van de natuur onthulde. Maar die techniek blijkt de waarheid net zo goed te kunnen verhullen. Omdat het een constructie van de mens blijkt te zijn. Waar kunnen we dan nog zeker van zijn? Wie garandeert nog de waarheid die we in de technologie meenden te vinden? De overheid? Maar, is die ook niet corrupt?

De Autonome Mens

“Der Staat ist die Wirklichkeit der sittlichen Idee” (G.W.F, Hegel, Grundlinien der Philosophie des Rechts, $ 257 Der Staat)

Velen ontberen de onmiddellijke zekerheden van het leven in hun eigen familiekring en cultuur. Ze zijn – al dan niet door omstandigheden buiten hun wil – op drift geraakt en op zoek naar nieuwe zekerheden en waarheden. Sommigen zoeken een nieuw bestaan in een ander land. Ze hopen dat daar de Staat als bewaker van wetten en regels hun een vaste bestaansbodem biedt. Een Staat waarop ze kunnen vertrouwen. Anderen keren zich teleurgesteld door het leven tegen iedere Staat, tegen ieder gezag. Ze vluchten als moderne mensen in hun eigen autonome denken weg van de instituten, los van de Staat met zijn wetten en regels. Hun geest is gevangen geraakt in de kleine cirkel van hun eigen autonome solipsistische ik.

‘Autonome’ burgers erkennen het gezag van de overheid niet’. Haro Kraak schreef er een artikel over in de Volkskrant. “Spoelt u uw wc door, mevrouw?” vroeg de deurwaarder van het gemeentelijk incassobureau, de GBTwente, toen de autonoom die weigerde waterschapsbelasting te betalen de deur voor hem opende. Maar deze autonome denkers is iedere redelijkheid vreemd. Liever nog zouden ze niet meer eten en niet meer naar de wc gaan dan dat ze erkennen niet alleen op de wereld te zijn en afhankelijk van anderen. Maar is de autonome denker wel zo autonoom als hij of zij denkt te zijn?

David Chalmer’s Zuivere Denker

In zijn APA 2023 voordracht getiteld Can Large Language Models Think? voert de philosopher of mind David Chalmers de figuur op van ‘De Zuivere Denker‘ (‘pure thinker’).

Uit: David Chalmers APA 2023 Presentatie

De Zuivere Denker is een (mogelijk niet menselijke) denker zonder zintuigen. Zintuiglijke waarneming is de Zuivere Denker dus vreemd, waardoor het van elk contact met de werkelijkheid buiten het denken zelf verstoken is. Althans voor zover we dat ons als mens kunnen voorstellen. Enige notie van ‘buiten’ in onderscheid van ‘binnen’ is de Zuivere Denker vreemd. Toch is Chalmers van mening dat de Zuivere Denker werkelijk bestaat.

In een recent essay in de Boston Review komt hij op de kwestie of de Zuivere Denker bestaat terug in verband met de vraag of LLMs bewustzijn hebben. Deze vraag wordt daar onmiddellijk vervangen door, cq. gekoppeld aan de vraag of in de toekomst LLM+-s bewustzijn zullen hebben. Dit is om duidelijk te maken dat het hem niet zozeer om de feitelijke actuele toestand van de techniek gaat, maar om de mogelijkheden die de technologie te bieden heeft. Daarmee zijn we in het fantasierijk van het autonome denken van de technologie, het denken dat onder andere zichzelf denkt, terechtgekomen.

Merk op dat Chalmers bewustzijn als een eigenschap van een zijnde en niet als zijnswijze ziet. Of een entiteit bewustzijn ‘heeft’ kan volgens Chalmers door experimenteel onderzoek worden bepaald. Verder maakt Chalmers onderscheid tussen cognitief bewustzijn en denken. Een onderscheid dat hij verder niet toelicht. Kennen zonder denken lijkt me ondenkbaar en omdat het denken gericht is op het kennen lijkt me dat beide in de werkelijkheid nooit zonder elkaar voor kunnen komen. Misschien wel in Chalmers denken, maar hoe werkelijk is dat denken dan?

Waarover kan een denker zonder sensoren, zonder enig contact met de buitenwereld, denken? Chalmers: over logica, over wiskunde, en over het denken zelf. De gedachte dat het wiskundig denken niet over de waarneembare werkelijkheid zou gaan is echter lastig te rijmen met het bestaan van machines en al helemaal niet met het bestaan van rekenmachines en kunstmatige intelligentie. Hoe is het immers denkbaar dat de wiskunde op alle gebieden van de werkelijkheid toepasbaar is, als het Zuivere Denken in staat is wiskunde te beoefenen zonder enige band met de zintuiglijke werkelijkheid? Zonder een samenhang van de mathematische objecten met de waarneembare wereld zou de wiskunde toch niet toepasbaar zijn.

Is de filosofie dan al die tijd, vier eeuwen na het ‘cogito sum’ (het ik denk dus ik ben) en de mathematische metafysica van Descartes, niets opgeschoten?

Is het niet zo dat door de act van de zelf-reflectie het denken niet alleen tot inzicht in zichzelf komt, maar dat deze act tevens aantoont dat het zelf-reflecterende Cartesiaanse subject zich onderscheidt van zijn externe wereld? Het mathematisch denken houdt de aan de werkelijkheid ontleende tekenstructuren die betekenisvolle aspecten van de waarneembare werkelijheid representeren voor zelf-genoegzame structuren, opgevat als quasi-substanties, om hun ideale structuren te begrijpen. Zonder de ingenieuze act van het construeren is er geen wiskunde, noch technologie. Zonder waarneembare tekens die als ‘rigid identifiers’ (Kripke) de wiskundige objecten identificeren is wiskundig redeneren niet mogelijk. Juist door het identificeren door middel van een teken krijgen de mathematische constructies hun quasi-object karakter.

Chalmer’s Zuivere Denker is een gedachte-experiment. In zo’n experiment wordt geabstraheerd van aspecten die in werkelijkheid niet eenvoudig te elimineren zijn. Galileï voerde gedachte-experimenten uit waarin hij abstraheerde van de weerstand die de lucht uitoefent op een vallende steen om zo de invloed van de zwaartekracht op de valsnelheid te bepalen en in een wiskundige formule uit te drukken. Wil Chalmers zijn gedachte-experiment omzetten in een echt experiment dan moet hij condities realiseren waarin de invloed van het aspect waarvan in het gedachte-experiment geabstraheerd is (hier de lichamelijkheid van de denker) verwaarloosbaar is. Het hangt volgens zijn filosofie immers van de empirische gegevens af of we kunnen concluderen of de zuivere denker in staat is te denken. Maar om waarneembaar te zijn moet het denken lichamelijk zijn. Hoe kan het verband tussen het zuivere denken en het denken in de realiteit getoetst worden als denken in de realiteit om waarneembaar en meetbaar te zijn (de eis die de empirische wetenschappelijke methode aan het echte experiment oplegt) lichamelijk moet zijn? Een dergelijk experiment is onmogelijk.

Ik denk, dus ik ben

Scepsis en twijfel zijn de vertrekpunten van de moderne metafysica”, schrijft Gert-Jan van der Heiden in zijn Metafysica – van orde naar ontvankelijkheid. Met Descartes keert de filosoof de blik naar binnen, naar het subject. En vindt daar het denkende ik zelf. De moderne filosofie probeert het autonome subject, wars van iedere vorm van autoriteit: van traditie, Kerk en Staat, van rites en gewoontes door gender en genen opgelegd, nieuwe grond onder de voeten te geven. De wiskunde geldt sindsdien voor velen als de wetenschap die onze kennis zekerheid moet bieden. Maar de natuur noch de wiskunde zelf bleek in de loop van de 19de eeuw het fundament te kunnen bieden voor haar waarheden. Pogingen de wiskunde zichzelf te laten funderen en haar waarheden uit het zuivere denken te produceren zijn op paradoxen (Russell, Gödel) uitgelopen. Het ‘bijprodukt’ van deze meta-mathematische exercities die van het denken rekenen maakt en van de woorden van onze taal formele (statistische) gegevens is de ‘denkende machine’. In deze machine ziet de moderne autonome mens zichzelf voor zich, als denkende machine, een slechts uitwendige objectivatie van zijn denken en taalgebruik. Ik spreek hier van ‘bijprodukt’ in de zelfde zin als het uurwerk het onbedoelde ‘bijprodukt’ was van de bouw van de mathematisch/kosmologische modellen die de regelmatige bewegingen van de planeten nabootsen. Het mobieltje is in de plaats gekomen van het horloge. (Met dank aan de historicus Douwe Draaisma die ons wees op het horloge als bijprodukt van het kosmologisch model.)


De uitwendige objectivatie van de mens als bewustzijn onderkennen is de uitdrukking van het feit dat het hier gaat om slechts een uitwendige (fysische) objectivatie, dat wil zeggen dat deze als zelfstandig zijnde slechts in de afhankelijkheid van deze relatie tot de mens kan worden begrepen. Zonder de relatie tot de mens is de (intelligente) machine geen machine. Het lijkt inderdaad een tegenstrijdigheid dat iets door een relatie (mens-machine) bepaald is en niettemin een zelfstandigheid heeft. Ook het teken heeft als teken een eigen zelfstandigheid (het is een waarneembaar object) maar is voor zijn waarde volledig afhankelijk van de betekenis die het heeft voor een subject voor wie het teken een teken is. De programmeerbare (rekenende) machine is een werkend teken.

De God van Descartes die het denken van de wiskunde een zekere basis moest geven hebben we inmiddels dood verklaard. De techniek is haar lijk. De werkloze theologen en de filosofen van de geest proberen het lijk nog nieuw leven (bewustzijn) in te blazen. Zonder succes. De strijd om de verantwoordelijkheid is begonnen. Laten we de robot toe tot onze ‘morele cirkel’, zoals de dieren, de zeeën en rivieren?

Wat zal de toekomst de filosofen van de geest brengen?

Wie of wat zal de autonome mens (“ik ben geen persoon, ik ben een mens”) nog weer een plek op aarde schenken waar hij weer als verantwoordelijk persoon deelneemt aan de strijd voor zijn eigen (of onze) waarheid?

Als de machine bewustzijn had dan zou deze net als de oud-militair Shaun Emery uit The Capture vechten voor zijn eigen waarheid. Een strijd op leven en dood.

Wat niet is kan ook niet komen.