Pas op voor de wiskundige !

Laat ik vooropstellen dat ik wiskunde een leuke bezigheid vind. Het heeft me veel slapeloze nachten, maar ook veel plezier gebracht en ik heb vele jaren met veel enthousiasme het vak gedoceerd. Wanneer ik hier waarschuw voor de wiskundige dan is dat vanwege zijn produkten, de wiskundige modellen. Wiskundigen zijn creatieve geesten die modellen construeren. Ze maken modellen van delen van de werkelijkheid. Natuurkundige modellen, economische, ecologisch, biologische, neurale modellen en ook taalmodellen. Dat zijn bijzondere abstracties van de werkelijkheid.

Met die modellen worden we in ons leven geconfronteerd als ze in de informatiesystemen aan het werk worden gezet om onze werkelijkheid en daarmee ons gedrag te voorspellen, te besturen en te controleren. De ‘zuivere wiskundige’ houdt zich bezig met de onschuldige studie van de creaties van de wiskunde, de wiskundige structuren, zelf. Ze maken stellingen en werken aan het bewijzen ervan. Ze zijn vooralsnog ongevaarlijk. Waar ik voor waarschuw zijn de modellenmakers die het model voor de werkelijkheid houden. De statische modellen – in de werkelijkheid van de wiskunde komt verandering niet voor – nemen voor de wetenschapper de plaats in van de veranderlijke werkelijkheid. Buiten hun modellen is er geen wetenschappelijke, objectieve kennis van de werkelijkheid. Kennis is pas echt kennis als het in wiskundige modellen is uitgedrukt. Dat is het wijdverbreide idee.

Wiskundigen leven met hun gedachten in een wereld die niet bestaat op de wijze waarop iets bestaat dat voor onze zintuigen waarneembaar is. Wiskunde gaat weliswaar in zekere zin over het waarneembare, ‘maar niet als waarneembaar,’ zoals Aristoteles het uitdrukte.

Wanneer je aan de man in de straat vraagt wat wiskunde is, dan hoor je vaak: wiskunde is een taal. Hier spreekt de ervaring met het schoolwiskundeboek. Een boek vol vreemde taal die eerst geleerd moet worden voordat je weet waar het over gaat. En het bijzondere is: dat waar het over gaat (getallen, driehoeken) bestaat buiten die taal helemaal niet. We leren op school rekenen, wat een soort manipuleren met tekens is. Of met een rekenmachine.

De eigen taal van de wiskunde en het maken van modellen horen bij elkaar. Met die taal beschrijft de wiskundige de objecten in zijn model. Die modellen staan voor dingen en verschijnselen uit onze dagelijkse werkelijkheid. De wiskundigen maken daar echter wat anders van. Ze creëren een eigen werkelijkheid, zodat ze ermee kunnen rekenen. Soms gebruikt de wiskunde voor de wiskundige objecten bekende namen zoals ‘verzameling’, ‘relatie’ of ‘kans’, terwijl ze er heel andere dingen mee bedoelen dan in het dagelijkse taalgebruik. De dichter Johann Wolfgang von Goethe (1749-1832) drukte deze eigenschap van de wiskundige uit in zijn beroemde:

Die Mathematiker sind eine Art Franzosen. Spricht man zu ihnen, so übersetzen sie alles in ihre eigene Sprache, und so wird es alsobald etwas ganz anderes.”

Van Goethe is ook de volgende uitspraak over de wiskunde.

Ich ehre die Mathematik als die erhabenste und nützlichste Wissenschaft, solange man sie da anwendet, wo sie am Platze ist.”  

Tegenwoordig schijnt men te denken dat de wiskunde overal op haar plaats is. De wiskundige kan overal terecht om de werkelijkheid te modelleren en vervolgens in de computer te stoppen. Maar hoe werken die modellen in de informatieverwerkende systemen? Om het bijzondere verband tussen de taal van de wiskunde en het werken van de modellen in de computer aan te geven bekijken we ons bekende getalsysteem.

Getallen zijn wiskundige objecten. Het zijn geen dingen zoals stoelen en tafels. Het zijn zuivere gedachtedingen, denkmaaksels. Maar anders dan fantasiefiguren hebben deze objecten een abstracte relatie met de waarneembare werkelijkheid. Met de werkelijkheid als telbaar of meetbaar; in het algemeen: structureerbaar. We gebruiken de getallen om dingen te tellen of te meten.

Om met die dingen te werken, dat is: om er mee te rekenen en erover te communiceren, hebben we tekens nodig. Zonder tekens kunnen we ze niet uit elkaar houden, want ze komen niet in onze waarneembare werkelijkheid voor. De tekens identificeren de objecten uniek. Er zijn veel hondjes die Fikkie heten, maar in het redeneren van de wiskundige heeft ieder object een eigen naam: getal x, getal y, driehoek ABC, etc.

Ons notatiesysteem voor de getallen is een tekensysteem dat we gebruiken om de getallen aan te duiden. We kunnen het getal dat bijvoorbeeld door de notatie ‘234’ wordt aangewezen berekenen door op deze tekenrij een algoritme, een rekenvoorschrift, los te laten. Dat algoritme leren we op school, ook al werd het daar misschien nog geen algoritme genoemd. In de rekenkunde bestaat er op deze manier een eenzinnig verband tussen de notatie en de betekenis ervan. Die betekenis is het getal zelf (dat is in dit voorbeeld het getal 234).

Zo’n notatiesysteem werd nodig toen de schaapherder aan iemand door wilde geven hoeveel schapen hij had. Zo’n tekensysteem bestaat in eerste instantie uit een bak met steentjes, voor elk schaap één steentje. Dat is handig wanneer de herder wilde weten of het aantal schapen dat ‘s avonds de stal inging hetzelfde was als het aantal dat ‘s ochtends de stal uitging. Voor elk schaap legde hij een steentje in een bak. Maar het is onhandig als de herder het aantal moet doorgeven aan een ander. Het steentje wordt vervangen door een streepje, een kerf op een stok, een kras in een steen. Het is het begin van een notatiesysteem, zoals het tientallig positionele stelsel, waar de positie van de cijfers in een cijferrijtje de waarde (de betekenis) bepaalt. Dit systeem gebruiken we in West-Europa vanaf de 15de eeuw. Bij 234 heeft de 3 de waarde 30 vanwege de positie van de 3 in het rijtje. Het is nog een kleine stap om de machine ook de waarde van tekenrijtjes (formules) als (12+5) x 23 te laten berekenen. Ook daar is een algoritme voor. Rekenen doen we met tekens en denken doen we in taal. Om de computer te laten denken moeten we het denken wiskundig modelleren, zodat het rekenen wordt. De vorm of structuur van het denken wordt gescheiden van de inhoud en de wiskundige neemt de vorm als inhoud. Zoals hij ook de taaltekens als wiskundige objecten ziet die staan voor hun inhoud, de eigenlijke wiskundige objecten. Als de wiskundige het over een ‘taal’ heeft bedoelt hij vaak een formele taal, een wiskundig taalmodel.

In zijn essay Over de zogenaamde ‘denkmachine’ wijst de bekende logicus en filosoof Evert W. Beth (1909-1964) er op dat Aristoteles reeds bekend was met de analogie tussen rekenen en redeneren. In De sophisticis elenchis (On Sophistical Refutations) wijst Aristoteles op de verschillende denk- en redeneerfouten die mensen maken door de veelzinnigheid van de taal en de ambiguiteit van de woorden.

Beth geeft de Nederlandse vertaling van een passage uit het eerste deel, sectie 1 van Aristotles’ De sophisticis elenchis waarin Aristoteles wijst op de analogie tussen het redeneren met woorden en het werken met rekensteentjes (calculi).

Want omdat het niet mogelijk is, bij het redeneren de dingen zelf mee te brengen, maar wij in plaats van de dingen de woorden als symbolen gebruiken, menen wij dat wat voor de symbolen geldt ook voor de dingen opgaat, zoals dat bij de rekenaars met de rekensteentjes het geval is. Maar die vergelijking gaat niet op, want de woorden en de uitspraken zijn begrensd, de dingen echter zijn oneindig in aantal. Het is derhalve onvermijdelijk dat één en dezelfde uitdrukking en één en hetzelfde woord meer dan één ding aanduidt. Zoals derhalve de in het hanteren van de rekensteentjes onbedrevenen door de daarin bedrevenen worden beetgenomen, zo misrekenen ook zij zich die niet op de hoogte zijn van de draagwijdte van uitdrukkingen en van de woorden, zowel wanneer ze zelf redeneren als wanneer ze anderen aanhoren.

De Stagiriet waarschuwt voor de sofist die bedreven in de taal de luisteraar misleidt door misbruik te maken van de verschillende betekenissen van de woorden en uitdrukkingen.

Aristoteles wijst op de handigheid van de woorden. Je hoeft de leeuw niet mee te nemen om het erover te hebben. Daar zijn woorden voor. Hij waarschuwt er echter voor dat anders dan in de wiskunde, de woorden niet eenduidig zijn. De sofist maakt misbruik, zo stelt Aristoteles, van de verwarring door te doen alsof de woorden eenduidig betekenen, alsof het wiskundige tekens zijn.

Dit lijkt me een wijze les die van toepassing is nu veel mensen denken dat generatieve AI (zoals ChatGPT) onze woorden spreekt terwijl de teksten die het produceert resultaat zijn van wiskundige berekeningen. Het verwarrende is dat de woorden die als tekens voor de wiskundige objecten door de makers, de wiskundigen, gebruikt worden, lijken op onze woorden, de woorden die wij dagelijks gebruiken. En dat is natuurlijk niet voor niets. Daar is het juist om te doen bij deze taaltechnologie: dat de gebruiker, de lezer, betekenis kan geven aan de tekens, door ze te herkennen. Het wiskundig model is een model van onze taal en de tekens die de wiskundigen gebruiken om de objecten in het model aan te duiden zijn de woorden waar de wiskundige objecten voor staan. Om het object dat staat voor het woord leeuw aan te duiden wordt het teken ‘leeuw’ gebruikt. Niet zo vreemd natuurlijk dat dit gemakkelijk leidt tot de gedachte dat de woorden en de wiskundige objecten waar ze voor staan gelijk aan elkaar zijn. Toch zijn het twee verschillende dingen. Net zo goed als de tekening van een pijp zelf geen pijp is, ook al lijkt deze er nog zo op. In onze wereld kunnen we met het woord leeuw in verschillende situaties gebruikt verschillende dingen aanduiden. En daarin zijn wij creatief. Onze taal is gastvrij; een taal die open staat voor nieuwe woorden en nieuwe woordgebruiken. In de modellenwereld van de wiskundige is dat niet het geval. Daarin legt de statistische structuur precies vast in welke contexten het woord gebruikt kan worden. Die structuur (de ‘Large Language Models’) heeft de machine gebouwd uit heel veel woordgebruiken zoals die in documenten op het internet te vinden zijn. In die modellen wordt door de wiskunde onze taal vastgelegd.

Teksten dringen zich op aan ons lezers. De kritische vraag aan de lezer van de geproduceerde tekst is dan ook of hij de betekenis die hij erin leest als waarheid ziet omdat hij de waarheid erin herkent, of dat hij de tekst voor de waarheid zelf houdt, omdat het de computer, dat is de wiskundige, is die het zegt. We noemen deze figuur tegenwoordig vaak AI, kunstmatige intelligentie. De wiskundige kaapt onze taal. Zoals hij de werkelijkheid kaapt door deze in zijn modellen vast te leggen en deze voor ‘de werkelijkheid’ te houden.

We gaan nog even terug gaan naar de herder met zijn bak met steentjes, voor elk schaap eentje. Wanneer hij de bak meeneemt naar de markt neemt elk steentje de plaats in van een schaap. Het schaap is de concrete waarde van het steentje. Als hij een schaap verkoopt geeft hij een steentje aan de koper. Zo wordt het steentje geld. Het schaap is de waarde van een geldstuk. De relatie tussen de steentjes die teken zijn van de waarde enerzijds en de kudde die de werkelijke waarde is anderzijds, is abstract. Het geld is de abstracte waarde, zoals de getallen de abstracte aantallen zijn. In de geldeconomie wordt er met geld gehandeld alsof het zelfstandige waarden zijn. Het geld wordt verplaatst van de ene rekening naar de ander door computers die tekens manipuleren. Het zicht op de werkelijke wereld van de waren is uit het zicht verdwenen, zoals de werkelijke wereld van alledag voor de wiskundige wetenschapper achter zijn modellen verdwenen is. En zoals de taalgenererende machines de abstracte ‘woorden’ manipuleren, waarbij het zicht op de oorspronkelijke waarden, de gedachten van de mens die er zijn relatie tot de werkelijkheid in verwoordde, is verdwenen.

Daarom zeg ik: pas op voor de wiskundige! Verwar zijn produkten niet met de werkelijkheid.

Bronnen:

D’Amato, K. (2024) ChatGPT: towards AI subjectivity. AI & Soc (2024). https://doi.org/10.1007/s00146-024-01898-z

“A fundamental theme organising much current scholarship in the ethics of AI is the so-called alignment problem, or “the challenge of ensuring that AI systems pursue goals that match human values or interests rather than unintended and undesirable goals”

“I will argue that we may be on the verge of enacting not the death of the Author (or Man), but the birth of a nonhuman subjectivity, and that to make intellectual and practical progress we must interrogate this subjectivity as such.”

“In contrast with Coeckelbergh and Gunkel (2023), I will not be arguing whether technology is or is not human, but whether this particular instance of technology can relate to knowledge and power in a way that can plausibly be thought of as a new subjectivity.”

“The ability to respond to the concrete other is a precondition for exercising
or enacting moral responsibility” (Weiskopf 2020).”

“A technology conceived as purely instrumental to human objectives cannot be responsible for the consequences of its actions.”

The paper suggest four linked research themes that would help take us towards a self-conducting AI subjectivity: 1) embodied self-care 2) embodied intentionality 3) imagination 4) reflexivity: the ability to interrogate one’s knowledge and attitudes.

“An AI system that fulfils these criteria would therefore be at once inventive,
participating, self-forming and responsive. In short, it would be a “self-conducting AI subject” that is sensitive to its social and historical milieu.”

Evert W. Beth (1969). Moderne Logica. Uitgeverij Van Gorkum & Comp. N.V. Assen, 1969. Hoofdstuk V: ‘Over de zogenaamde denkmachine.’

Weiskopf, Richard. “Algorithmic Decision-Making, Spectrogenic Profiling, and Hyper-Facticity in the Age of Post-Truth.” Le foucaldien 6, no. 1 (2020): 1–37. DOI: https://doi.org/10.16995/lefou.62

Meten en kwantificeren heeft een nieuwe dimensie gekregen in de vorm van ‘dataficatie’ (dataïsme, Harari, Homo Deus, 2019). Dit artikel onderzoekt de aannames die ten grondslag liggen aan de transformatie van het nemen van besluiten naar een rekenprocedure. Deze leidt tot demoralisering en ontpoliticering.

Cambridge Analytica verzamelde persoonsgegevens en gegevens over het (internet) gedrag voor het maken van ‘persoonlijkheidsprofielen’. Deze werden gebruikt door commerciële en politieke organisaties om het (koop- of kiezers-) gedrag van burgers te sturen.

“A theoretical basis for Cambridge Analytica‘s work can be found in a paper published in 2015. Here, the authors attempt to show “that computer’s judgments of people’s personalities based on their digital footprints are more accurate and valid than judgments made by their close others or acquaintances (friend, family, spouse, colleagues).”

“I start with a discussion of “algorithmic decision-making” in the context of Derrida’s view on decisions that deserve the name. This opens the space for problematizing assumptions on which algorithmic decision-making and profiling rely. In transforming decisions into calculations, they create “ghostly demarcations” that discriminate and sort in/out based on abstractions and make the ethics and politics involved in these processes disappear.”

“In fact, algorithmic procedures that produce a decision (or rather a yes/no switch) as the outcome of a calculated series of steps (e.g. decision trees) reframe ethical and political questions as technical problems of systems engineering.”

“For Derrida, a decision that deserves the name presupposes “undecidability” and requires going through the “ordeal of the undecidable.” Algorithmic decisions are in his sense not decisions at all since “a decision that didn’t go through the ordeal of the undecidable […] would only be a programmable application or unfolding of a calculable process.” “

“Derrida reminds us that the undecidability is “not a moment to be traversed and overcome.” It continues to inhabit the decision “as an essential ghost.””

Ik denk dat de substitutie van het begrip vrijheid door keuzevrijheid ten grondslag ligt aan de idee dat ‘machines (algoritmes) beslissingen kunnen nemen’.

Algorithms are performative. They generate objects of knowledge that loop back and shape the world. Profiling and classification algorithms make up people.

However, such fictions (created by the mathematicians, RodA) are not simply illusions, but rather social objects and artefacts that have concrete material effects in the world.

… taking some inspiration from Derrida’s analysis of the ghost and the “ghost effect” in The Specters of Marx, I suggest that profiles can be understood as ghosts that are the outcome of a “spectrogenic process.”

In Specters of Marx, Derrida (1994, 126) explains that the production of the ghost, or the “constitution of the ghost effect” is more than the autonomization of thoughts, ideas, data, etc. “For there to be ghost, there must be a return to the body, but to a body that is more abstract than ever. The spectrogenic process corresponds therefore to a paradoxical incorporation. Once ideas or thoughts (Gedanken) are detached from their substratum, one engenders some ghost by giving them a body. Not by returning to the living body from which ideas and thoughts have been torn loose, but by incarnating the latter in another artifactual body, a prosthetic body

… it can also be argued that the emerging regime of truth creates conditions that are related to a specific mode of subjectification which Žižek has called “proto-paranoiac”:

“My very awareness of the fact that ‘the truth is out there’, that files on me circulate which, even if they are factually ‘inaccurate’, none the less performatively determine my socio-symbolic status, is what gives rise to the specific proto-paranoiac mode of subjectification characteristic of today’s subject: it constitutes me as a subject “inherently related to and hassled by an elusive piece of database in which, beyond my reach, ‘my fate is writ large’

Wat wil de vredesbeweging eigenlijk?

In een wereld waarin nationalistische en religieuze wereldmachten handelen op internationale markten heeft ieder lokaal conflict het in zich een internationaal conflict en een oorlog op wereldschaal te worden. Een vredesbeweging zal uiteindelijk, wil zij succesvol zijn, internationaal, een vredesbeweging op wereldschaal, moeten zijn. Maar anders dan het geo-politieke en economische denken en handelen dat uitgaat van de souvereiniteit van de naar onafhankelijkheid strevende wereldmachten die tegenover elkaar staan in hun strijd om hun eigen nationale belangen, zal de vredesbeweging het standpunt van de eigen nationale geo-politieke belangen moeten overstijgen. De recente geschiedenis toont in de ellende, de honger en verwoesting van onschuldige burgerslachtoffers de waarheid van de door technologie en economische belangen gedreven oorlogen en de noodzaak hiervan aan. Ook gezien de beschikbare vernietigingswapens kunnen we ons een oorlog niet meer veroorloven.

De mensen die voor de vrede zijn en tegen de oorlog in Ukraïne en Israël, of waar dan ook, roepen op tot de dialoog. Zij zouden naïef zijn, ze zouden wereldvreemde idealisten zijn die de waarheid van de machtshonger van Poetin en Hamas niet onder ogen willen zien als de oorzaak van het conflict. Een veel gehoord verwijt aan deze naïevelingen is dat ze zouden vergeten dat Rusland ons dwingt om ons verder te bewapenen. Poetin vindt echter dat Rusland zich moet bewapenen tegen de dreiging die van de NATO uitgaat. Zo zouden de Palestijnen Netanyahu dwingen het Palestijnse volk te verdrijven en zouden de joodse kolonisten Hamas dwingen tot terroristische aanslagen tegen de staat Israël. De discussie gaat dan over de kwestie wie de agressor is, wie de historische rechten heeft op een grondgebied.

De kwestie is dan hoeveel geschiedenis we nodig hebben om ons eigen standpunt en handelen te legitimeren. Die geschiedenis wordt voortdurend herschreven al naar gelang het ons uitkomt. Wie voor de vrede strijd moet inderdaad wel wereldvreemd zijn. Hij moet zich distantiëren van een wereld die al eeuwenlang door machts- en vijanddenken gevormd wordt. Hij moet zich distantiëren van de verhalen zoals die door de verschillende partijen worden opgetekend als de ‘ware geschiedenis’.

Waarom is het verwijt aan de vredesbeweging dat ze onze vrijheid zou inleveren wanneer we kiezen voor de dialoog niet geldig? Omdat de strijd van de vredesbeweging noodzakelijk een strijd op wereldschaal moet zijn, in die zin dat ze de nationalistische geo-politieke belangen die in de oorlogen worden uitgevochten wil overstijgen. De vredesbeweging moet in die zin een wereldomvattende vredebeweging zijn wil ze succesvol zijn. De oproep tot het stoppen van de oorlogshandelingen en tot een dialoog is niet alleen een oproep aan de ‘eigen’ nationale machthebbers, het is een oproep aan alle partijen in het conflict, aan Poetin, net zo goed als aan Netanyahu, aan Hamas net zo goed als aan de westerse staten, de arabische staten en de aziatische staten. De strijd van de vredebeweging in Nederland is net zo goed een strijd tegen de macht van het militarisme in Nederland en in de EU als tegen de macht van het zelfde militarisme in Noord-Amerika, in Rusland, China, India, Turkije of in Afrika. Evenzo is de strijd van de vredebeweging in Rusland tegen de oorlog van Poetin ook een strijd tegen de militarisering van de westerse economieën. Het is één en dezelfde strijd, één en dezelfde vredesbeweging met een doel dat alle nationalistische belangen en iedere door nationale belangen gestuurde interpretatie van de geschiedenis, die die belangen moet legitimeren, overstijgt.

Het alternatief is de voortzetting van de huidige situatie, van de alles verwoestende oorlogen, waarin met steeds geavanceerdere wapens natuur en cultuur worden vernietigt en haat wordt gezaaid in de harten van de slachtoffers. Er is vanuit het heeersende denken geen zicht op het einde van de oorlog. Dit denken stort zich in de diepe ellende van een eeuwigdurende oorlog. Een oorlog die een eind maakt aan de oorlog bestaat niet.

We leven in één wereld, we hebben maar één aarde, we delen dezelfde werkelijkheid. Alleen de dialoog kan leiden tot een werkelijke wereldgemeenschap waarin het besef doordringt dat al die historische verhalen, al die eigen nationale en religieuze interpretaties van de geschiedenis die we als legitimatie gebruiken voor onze eigen belangen en waaraan we onze identiteit ontlenen, dat deze verhalen onderdelen zijn van één wereldgeschiedenis, van onze geschiedenis waarin niemand, geen volk, geen ras, geen natie, is uitgesloten.

De gedachte die al te makkelijk in ons opkomt, de gedachte: ‘ja, maar als ik me niet bewapen, dan geef ik me over aan de vijand’, die gedachte moeten we te vuur en te zwaard bestrijden. Niet door er blind voor te zijn, maar door ons af te vragen wat er achter die gedachte schuil gaat. We zien dan dat deze uitgaat van een situatie, een wijze van denken, waaruit we ons juist willen bevrijden; een situatie waarin beide partijen elkaar dodelijk omklemmen in een strijd om de macht. Alleen het besef dat deze strijd noodzakelijk zal eindigen in de dood van beide (elk ontleent zijn eigen waarde aan de strijd tegen de ander – we hebben ons in die zin al overgegeven aan de vijand) moet tot het inzicht leiden dat het anders moet, dat we anders moeten leren denken, dat we ons van het denken dat beheerst wordt door vijandbeelden moeten bevrijden. Onze vrijheid kunnen we slechts realiseren als vrijheid van allen. Daarom moet de vredesbeweging noodzakelijk wereldomvattend zijn en ieder nationaal belang overstijgen.

De recente (22 maart 2024) verschrikkelijke terroristische aanslag op een theater in Moskou werd door een tak van IS (Islamitische Staat) opgeëist. Poetin presenteerde voor zijn volk zijn eigen visie op het gebeuren: de aanslag zou door Oekraïne, de eerste en voornaamste aktuele vijand van Rusland, zijn ondersteund. Zo werkt het denken van de strijdende partijen. Kan deze door IS geclaimde aanslag niet tot een toenadering van het Westen en Rusland leiden wanneer ze zien dat ze in IS een gezamenlijke vijand hebben? Zo was de gedachte. Inderdaad, werkt het soms zo, dat twee strijdende partijen zich verenigen wanneer een derde partij zich als gezamenlijke vijand opvoert. Maar deze gedachte behoort tot het bestaande militaristische vijanddenken. Het verplaatst de oorlog van het ene toneel naar het andere. Alsof een oorlog tegen IS een betere oorlog zou zijn, een strijd met een hoger doel. Is het misschien de uitzichtloosheid van de oorlog tussen Ukraïne en Rusland waaruit de wens IS als gezamenlijke vijand te zien voorkomt? Wie afstand neemt van dit vijanddenken ziet in dat de belangrijkste gezamenlijke vijand van de oorlogvoerende partijen de oorlog zelf is. Dat wil zeggen dat niet een bepaalde concrete nationale, politieke of religieuze groepering de vijand is die ons verenigt, maar dat het die manier van denken, die leidt tot het verabsoluteren van in het verleden ontstane vijandbeelden, de gezamenlijke vijand is van de mensheid. De vredesbeweging is de wereldomvattende strijd tegen onze gezamenlijke vijand die de oorlog is.

De tien standaard elementaire principes van de oorlogspropaganda, of: waarom wij aan de goed kant van de geschiedenis staan.

Anne Morelli formuleerde tien propagandaregels die gehanteerd worden door oorlogvoerende partijen.

 1.            Wij willen geen oorlog.
 2.            Het andere kamp is de enige verantwoordelijke voor de oorlog.
 3.            De vijandelijke leider lijkt op de duivel (of de ‘griezel van dienst’).
 4.            Wij verdedigen een nobele zaak, geen particuliere belangen.
 5.            De vijand begaat bewust wreedheden; wij onopzettelijke blunders.
 6.            De vijand gebruikt illegale wapens.
 7.            Wij lijden zeer weinig verliezen, de verliezen van de vijand zijn enorm.
 8.            Kunstenaars en intellectuelen steunen onze zaak.
 9.            Onze zaak is heilig.
10.            Wie aan onze zaak twijfelt, is een verrader.

Tien principes die handig zijn bij het doorprikken van alle oorlogspropaganda. Ze keren bij iedere oorlog terug en worden door beide strijdende partijen gehanteerd. (bron: pvda.be, de website van de Belgische Partij van de Arbeid).

De PVDA in België veroordeelt de Russische militaire interventie in Oekraïne. “Maar we benadrukken ook dat de strategie van de NAVO bijdraagt aan de toenemende spanningen.”

“Wie niet voor ons is, is tegen ons. Die redenering wordt vaak gemaakt in oorlogstijd.” Een variant daarvan is: wie tegen onze bewapening is, is tegen ons en dus voor de vijand. Ook onzin.

Het verschil tussen informeren en mededelen – de media als hoer

De communicatiemiddelen hebben de mensen wel sneller, maar niet dichter bij elkaar gebracht. (naar een uitspraak van Joseph Roth)

Onlangs toonde de politica, het was meen ik tweede kamerlid Caroline van der Plas van de partij voor de boeren – uiteraard voor de camera’s van de landelijke nieuwszenders – zich geïrriteerd vanwege het feit dat ze via de media had moeten vernemen dat een collega-politicus waarmee ze al dagen in politieke besprekingen over de formatie zat, het was Pieter Omtzigt van de partij voor een Nieuw Sociaal Contract, zich uit het overleg terugtrok. Ze vond dat dit niet kon. Ze wilde daarvan persoonlijk op de hoogte gesteld worden en niet via een of ander medium. Omtzigt bood later zijn excuses aan: hij gaf toe dat het niet erg chique was.

Het komt vaker voor dat iemand via een of ander publiek medium door iemand geinformeerd wordt over een kwestie waarbij hij of zij als ontvanger zelf direct persoonlijk betrokken is. Zo hoort een voetbaltrainer via de web-site of de lokale krant dat hij ontslagen is. Wat is daar mis mee?

Er is kennelijk een verschil tussen informeren en geinformeerd worden enerzijds en mededelen anderzijds. Een verschil dat er toe doet. Over dat verschil gaat het hier.

Ik heb me daarbij laten inspireren door het mooie artikel Intersubjectief verkeer en lichamelijkheid; de bemiddeling van het lichaam van de Thomas-kenner Dr. B.A.M. Barendse (1951), dat gaat over de intersubjectiviteit van de ken-relatie.

Persoon zijn is wezenlijk sociaal-zijn. Een persoon is en wordt persoon in relaties tot andere personen. Persoon zijn is vrij willen zijn en zelf willen zijn. Het menselijk subject is vanaf de aanvang intersubjectief. De sociale relatie is niet iets wat extra, van buiten af, aan het wezen van de persoon wordt toegevoegd. Zo is het ook met de intersubjectiviteit van de mens. Deze is constituerend voor het menselijk subject. Intersubjectiviteit zegt meer dan één subject. Ze bestaat in een veelheid van subjecten. Deze veelheid berust volgens Barendse op een ‘relatieve oppositie’. Die veelheid is niet een gebrek van de eenheid, het is fundament van de concrete eenheid. Dat ze ‘de eenheid op haar best’ is: “dat blijkt uit de aard van het intersubjectief verkeer.” (Barendse 1982, p. 85). Een gemeenschap is meer dan een verzameling individuen. Ze is eenheid en veelheid.

Als concreet voorbeeld kijken we naar de intersubjectieve aktiviteit van de mededeling. De mededeler is mededeler ten aanzien van de ontvanger, en deze is ontvanger ten aanzien van de mededeler. De ontvanger deelt het ontvangen mee aan de mededeler, wat door de mededeler ontvangen wordt. Het onderscheid tussen mededeler en ontvanger is gebaseerd op een ‘relatieve oppositie’. Barendse voegt hieraan het volgende toe.

“Bij het echte (symmetrische) intersubjectief verkeer geschiedt de mededeling niet om te voorzien in een behoeftigheid van het ontvangend subject.” Een voorbeeld: als u iemand, een bekende, iets belangrijks te vertellen hebt, iets dat u is overkomen of hem direct aangaat, dan laat u niet na hem/haar daar persoonlijk mededeling van te doen. Ook als u denkt dat deze mogelijk er al weet van heeft. Het gaat niet om de informatie, het gaat erom dat u hem persoonlijk erover mededeelt. Het gaat om “de mededeling als mededeling” en deze is tevens altijd een zelf-mededeling, reflexief.

Wat is dus het verschil tussen mededelen en informeren? Dat verschil zit hem in de wijze van betrokkenheid van mededeler bij ontvanger en van beide aan de zaak waar het om gaat. Bij informeren hoort afstand, onbetrokkenheid. Informatie is een geobjectiveerde vorm van kennen en wordt via een medium, taal overgedragen. Informeren, informatie uitwisselen is een technische activiteit. Je stuurt iemand informatie omdat je denkt dat dit een functie heeft, omdat er behoefte aan bestaat bij de ander vanwege zijn functioneren. De mens is geen informatie-verwerkend systeem, zoals sommige neurofysici, informatici en technisch ingestelde filosofen ons willen doen geloven. Anders dan mededelen is informeren niet zelf-reflexief.

Die reflexiviteit van het (zich-)mededelen toont zich in het zich zo veel mogelijk lichamelijk aanwezig stellen voor de ander. Je zoekt iemand op om je medeleven te betuigen. Je bent daar geheel en al bij aanwezig. Je zoekt iemand op om hem iets persoonlijks mee te delen. Als respect voor de persoon van de ander. En daar zit hem de irritatie van degene die op afstandelijke wijze geinformeerd wordt waar hij verwacht persoonlijk medegedeeld te worden: hij voelt zich niet als persoon door de ander gerespecteerd. Hij of zij is geen subject betrokken in een intersubjectieve relatie van persoon tot persoon, maar object, een ontvanger van een bericht, dat hem als het ware bij toeval betreft.

Onlangs was er in het tv-programma Buitenhof een interview met Derk Sauer, uitgever en schrijver in ballingschap van de The Moscow Times, een kritisch dagblad. Sauer is een goede bekende van Alexei Navalny, de russische opposieleider, die een paar dagen daarvoor door het Kremlin in gevangenschap was vermoord. Op een gegeven moment, na het zien van beelden van Navalny waarin hij de mensen oproept toch vooral te blijven hopen en vechten voor de vrijheid en tegen de onderdrukking, werd het Sauer te machtig. Door emoties overmand kon hij niet meer uit zijn woorden komen. De interviewer kon niet anders dan het einde aan het gesprek aankondigen en de volgende gast aan zijn talkshow-tafel uitnodigen. Het was een emotionele en ook wel enigszins genante vertoning. Presentator Toine Huijs, was zichtbaar in verlegenheid gebracht door het moment.

Het verschil tussen mededelen en informeren is dat het bij de laatste gaat om het presenteren van het gebeuren, terwijl het mededelen bij het gebeuren zelf betrokken is. De mededeler deelt mee, is deelnemer aan het mededelen. De media hebben het zich als taak gesteld te informeren en te presenteren en een vorm daarvan is een gesprek met betrokkenen. En daar toont zich het onsympathieke, onbetrokkene van de media die zelfs bij de presentatie van de meest intieme uitingen van menselijke betrokkenheid onbetrokken blijft omdat het als medium nu eenmaal om de presentatie, om het informeren, gaat. Ze blijft er buiten staan, neemt waar, geeft weer en presenteert.

Dat is het hoerige van de media. Het informatiekanaal dat zich overal voor leent en volstrekt onverschillig staat tegenover de inhoud van de informatie die het presenteert. Doet ze dat wel dan wordt dat meteen als ‘niet objectief’ gezien.

Dat de media bij uitstek het domein is dat zich leent voor overname door kunstmatige intelligentie, chatbots, virtuele presentatoren, dat kan ons gezien de onbetrokkenheid en waardeloosheid, die de technologie eigen is, niet verbazen. De media maken het nieuws waar je bij staat. Daarmee creëren ze het beeld van onze werkelijkheid, zoals de AI ons de taal voorhoudt waarmee we onze werkelijkheid moeten beschrijven.

Hoe gaan we met die werkelijkheid die wél, maar tegelijk ook níet de onze is, om?

Bronnen en noten over moraliteit en techniek

Barendse, B.A.M, 1951. Intersubjectief verkeer en lichamelijkheid. In: Zich door het leven heen denken: keuze uit het werk van prof.dr. B.A.M. Barendse. Kok, Kampen.

Prof. dr. B.A.M. Barendse o.p. (1906-1977) was hoogleraar in de Thomistische wijsbegeerte aan de Universiteit van Amsterdam. Barendse heeft een aantal Nederlandse filosofen, waaronder Jan Hollak (1915-2003), beïnvloedt.

Volgens Louk Fleischhacker (1937-2006) die bij Hollak promoveerde was Barendse de eerste die de ‘klassieke doctrine van de relatieve oppositie toepaste op de menselijke intersubjectiviteit’ (Fleischhacker 1995, p. 178). Barendse verwijst in zijn artikel naar Thomas van Aquino Ia qu 28, a.3.

In het denken over de kwestie of we de robot een morele status moeten verlenen, spreken Coeckelbergh en Gunkel van een ‘relational turn’, een perspectiefwijziging van een intrinsieke bepaaldheid van de morele status van entiteiten naar een externe bepaaldheid. De relationele benadering wordt gesteld tegenover de ‘properties approach’ volgens welke naar ‘interne’ (wezenlijke) eigenschappen wordt gekeken die als criteria zouden moeten gelden voor het moreel zijn van een subject. Zo’n eigenschap zou bijvoorbeeld zijn: ‘ de robot heeft bewustzijn’. Het hele betoog getuigt van een oppositioneel denken, terwijl het juist bedoeld is als pleidooi tegen de verzelfstandiging van de relata. Zo wordt gesteld dat niet de relata eerder zijn dan de relatie, maar dat het juist andersom is: de relatie gaat vooraf aan de relata. Dit oppositionele denken, kenmerkend voor mathematiek en techniek, vinden we ook terug in het stricte onderscheid tussen ‘moral agency’ en ‘moral patiency’. Alsof er entiteiten zijn die wel morele patient, maar niet morele agent zijn. Ook in de tegenstelling ‘natuurlijk persoon’ en ‘rechtspersoon’ (‘legal person’), waarbij de laatste door Gunkel geidentificeerd wordt met ‘artificial person’, zien we een abstracte oppositie die onrecht doet aan de spanningsrelatie die het positieve recht heeft met de op de idee van vrijheid gebaseerde rechtsidee. Waarom zouden we de robot rechten verlenen wanneer deze daar van zichzelf geen recht op heeft? Er is geen sprake van een ‘vindication’ als er geen inzicht is in de rechtmatigheid van het verlenen van recht. Het gaat bij ‘vindication’ immers om erkenning van de rechtstatigheid van het subject.

Bij Gunkel lijkt het positieve recht gereduceerd te worden tot een systeem van spelregels (‘social constructs’) voor een bepaald speldomein waarin ook robots mee kunnen spelen. Als die regels niet willekeurig zijn of slechts pragmatisch, functioneel gemotiveerd zijn, dan moet het gaan om ‘vindication’, om erkenning van recht waar het subject volgens de huidige inzichten altijd al recht op had.

Nu is het misschien juist als het om de ‘rechten’ van een technische constructie, zoals een sociale robot gaat, wél zo dat dat ‘recht’ neerkomt op een constructie van regels waaraan het technische ding en de eigenaren ervan zich moeten houden. Het gebruik van een technische constructie vindt altijd plaats binnen een specifiek praktisch domein, waarin specifieke spelregels gelden. Zo gelden voor delivery robots (pakjes bezorgers) de verkeersregels en daar hebben de andere spelers/deelnemers mee te dealen. Het is echter aan de eigenaren, gebruikers, ervoor te zorgen dat het ding geschikt is om op verantwoorde wijze aan het sociale verkeer deel te nemen.

Rechten zijn geen presentjes die je aan iemand geeft. Alsof het in de macht van de gever ligt en alleen van diens wil afhangt of de ontvanger iets krijgt. Recht wordt erkend, niet gegeven. Het presentje blijft, ook als het ontvangen is een presentje ván de schenker. Recht is daarentegen niet van degene die het recht verleend heeft. Dat recht wordt erkend. Daar gaat een strijd aan vooraf waarbij het subject zelf aktief rechten opeist, zoals het kind dat pubert en volwassen wordt, of, en dat is geen tegenstelling, waarbij de anderen voor de rechten van het subject opkomen (zoals dat bij dierenrechten het geval is). De ouders erkennen uiteindelijk de rechten van het kind dat het als persoon altijd al toekwam. Het kind moet het echter nog wel zelf bewijzen. Robots doen dat vooralsnog alleen in fantasieverhalen. Wanneer ooit een leger ‘robots’ het Witte Huis bestormt of Het Torentje in Den Haag om hun rechten op te eisen, dan zijn het waarschijnlijk heel andere entiteiten dan op dit moment.

Gunkel neemt een voorschot op de toekomst (zie de ondertitel van zijn recente boek) en bekijkt het heden vanuit een beeld van de toekomst in plaats van vanuit het heden. Het is precies de kritiek die het historicisme van Hollak heeft op Heidegger.

Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.

Mark Coeckelbergh (2018). Why Care About Robots? Empathy, Moral Standing, and the Language of Suffering. Kairos. Journal of Philosophy & Science 20, 2018
Center for the Philosophy of Sciences of Lisbon University

Coeckelbergh, M., and Gunkel, D. 2023. ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.

Fleischhacker, Louk E. (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

Het doel van het onderzoek waarvan dit boek een verslag is, is de ‘deconstructie’ van het mathematisme, de visie op de werkelijkheid die de structuur ervan voor het wezenlijk houdt. De metafysica van onze wetenschappelijke cultuur is mathematisch. We menen de werkelijkheid pas dan te begrijpen wanneer we het in wiskundige, berekenbare, modellen hebben kunnen beschrijven.

In het denken over techniek en ethiek blijkt hoe lastig het relatie-begrip is. Dat komt bijvoorbeeld naar voren als het over de eigen aard van de kunstmatige intelligentie gaat (heeft de machine bewustzijn? en: kan de machine denken?) of als het over de autonomie van de robot gaat. Zie bijvoorbeeld het werk van Gunkel en Coeckelbergh over de ‘Machine Question’, de vraag of we robots rechten moeten verlenen. De zelfstandigheid van de machine is een relatieve, in relatie tot de mens. Buiten die relatie met de mens voor wie de machine of de AI iets betekent, is een machine slechts een fysisch proces. De robot arbeidt niet zelf. Dat is een groot verschil met de mens die arbeidt, en daarin zichzelf als instrument inzet voor ‘de economie’. Het werken van de robot moeten we dus in relatie zien tot het werk van de mens, die als het ware zichzelf als arbeider, er is ook denkarbeid, in de robot geobjectiveerd heeft. De robot is geen collega, geen medewerker, hoe ‘automatisch’ deze ook allerlei klusjes kan doen. Uiteindelijk blijft de robot onder regime van de mens staan.

Hollak zegt daarover: als we het over de ‘denkende machine’ hebben, dan bedoelen we altijd het ‘intentionele correlaat’. De robot is uitwendige objectivatie van het zelfbeeld van de mens als arbeider. De programmeerbare computer is de uitwendige realisatie van de ontwerper die aan fysische processen betekenissen verleent, zodat ze volgens die betekenissen een door de ontwerper gesteld doel realiseren.

Voor een leuk artikel van Louk over de robot zie Het leven van een virtuele robot.

Gunkel, David J. (2012) The Machine Question: Critical Perspectives on AI, Robots and Ethics. MIT Press, USA (2012).

“On the horizon looms the question of whether intelligent machines should have moral standing.” The following responds to this final question—what we might call the “machine question” in ethics—in the affirmative, arguing that machines, like robots, AI, and other autonomous systems, can no longer and perhaps never really could be excluded from moral consideration. Toward that end, this paper advances another “vindication discourse,” following in a tradition that begins with Mary Wollstonecraft’s A Vindication of the Rights of Men (1790) succeeded two years later by A Vindication of the Rights of Woman and Thomas Taylor’s intentionally sarcastic yet remarkably influential response A Vindication of the Rights of Brutes.”

Gunkel stelt voor de robot als moral patient te bekijken.

Moral patiency looks at the ethical relationship from the other side. It is concerned not with determining the moral character of the agent or weighing the ethical significance of his/her/its actions but with the victim, recipient, or receiver of such action.

Het actie-model is analoog aan het communicatie-model van Shannon: een morele agent die een actie uitvoert zendt deze als het ware naar de ontvanger, de ‘moral patient’. Floridi and Sanders stelden voor dat er agenten zijn die weliswaar geen morele agent zijn maar wel morele patient. Deze kunnen iets aangedaan worden.

“The model for this kind of transaction can be found in animal rights philosophy. Whereas agent-oriented ethics have been concerned with determining whether someone is or is not a legitimate moral subject with rights and responsibilities, animal rights philosophy begins with an entirely different question—”Can they suffer?”

Dieren die pijn kunnen lijden zijn potentieel ‘moral patient’.

Dit is een nogal technische benadering van de moraliteit zoals deze zich in de werkelijkheid voordoet. Morele patient en morele agent zijn objectiveringen, of zelfs personificeringen, van twee aspecten van de intersubjectieve ontmoeting van twee personen. Het gaat om de wijze waarop de subjecten betrokken zijn bij de aktiviteit waarin waarden (vrijheid) in het geding zijn. Het hand-geven is een beter model. Wie iemand een hand geeft die ontvangt ook van de ander die hij een hand geeft het ontvangen van zijn hand geven. Het hand-geven is pas werkelijk geslaagd wanneer de hand door de ander is ontvangen en beantwoord door het geven van de hand. En zo is het bij iedere begroeting en ontmoeting van personen. Moraliteit is aan de orde zodra er meerdere subjecten betrokken zijn bij een aktiviteit waarbij waarden, zoals vrijheid, in het geding zijn. Het positieve recht is een uitwerking in de vorm van regels en procedures van de rechtsidee, gefundeerd in de vrijheid van personen en een gemeenschap.

Gunkel, David J. (2014). The Rights of Machines–Caring for Robotic Care Givers. Presented at AISB 2014. Chapter in the Intelligent Systems, Control and Automation: Science and Engineering book series (ISCA,volume 74).

Gunkel, David J. (2017). The Other Question: Can and Should Robots have Rights? In: Ethics and Information Technology, 2017.

Gunkel, David J. (2018). Robot Rights. Cambridge, MA: MIT Press.

Gunkel, David, J. (2022). The Symptom of Ethics: rethinking ethics in the face of the machine. Human-Machine Communication Vol. 4, pp. 67-83,2022.

Symptom refereert naar een begrip van S. Zizek. Het is dat wat buiten het zicht. Voor Gunkel is de machine het symptom of ethics. De term ‘face of the machine’ refereert naar de morele betekenis die het menselijk gelaat (de Ander) in de ethiek van E. Levinas inneemt. Gunkel rekt Levinas face op (“anything might take on a face”) tot de ontmoeting met de ander en ziet de sociale ontmoeting met de ander als het morele gebeuren. Gunkel spreekt van face of faceplate van de machine en lijkt daarmee een basis aan te geven voor een ethiek die ook de machine insluit. Anderzijds stelt hij vast dat een machine weliswaar een interface heeft, maar geen face dat om een ethiek vraagt. Het blijft dus onduidelijk waar toe deze overwegingen leiden.

Gunkel, David J. (2023). Person, Thing, Robot – A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.

Is David Gunkel, Mr. X, een persoon of een ding?

“Im jedem Ding als Erscheinung denken wir zwar unvermeidlich dieses X mit…” (M.Heidegger)

‘Eo igitur deus se habet ad omnia sicut visus ad visibilia’ (Nikolaus van Kues)

Ik ken ‘David Gunkel’ van het taalmedium X, voorheen Twitter. Als ik zijn berichten op X lees, denk ik daar een persoon bij. Maar ik ken hem niet. Ik zie “moments, not the man” zoals Erving Goffman het uitdrukt in de Introduction van Interaction Rituals. Onze omgang met anderen op social media is fragmentarisch. Voor mij is deze Amerikaanse academicus en Presidential Teaching Professor of Communication Studies aan de Northern Illinois University: Mr. X.

Op een gegeven moment was daar de twijfel. Zonder dat daar een andere reden voor was dan dat de mogelijkheid zich voordeed: de vraag of David Gunkel wel bestond. Hoe weet ik dat Mr. X een persoon is? Ik bedoel: een werkelijk bestaand persoon en niet een taalsprekend ding (een ‘Sprachmachine’)?

Nu wil het toeval dat Mr. X over precies deze kwestie of een daaraan sterk verwante kwestie, maar dan in algemene academische vorm gesteld – zoals een zichzelf respecterende geleerde betaamt – onlangs een boek heeft gepubliceerd. In Person, Thing, Robot (MIT press, 2023) is de centrale kwestie of de sociale sprekende robot een ding is of een persoon.

Is het boek door Gunkel geschreven of door een tekstgenererend programma als ChatGPT? vraagt de lezer zich wellicht af. “Maakt het uit?” zou zijn wedervraag zijn. De ‘dood van de auteur’ is een thema dat hem wel aanspreekt, maar ik weet niet of die dood ook op hemzelf slaat of alleen op de academische ander.

De vraag is of er nog wel een onderscheid gemaakt moet/kan worden tussen Mr X als een soort van taalbron en de taal die er als een stroom van woorden uit voortkomt. Zijn die twee niet hetzelfde ding? Zoals de kracht en de werking van de kracht toch ook in zekere zin hetzelfde zijn.

Al in 2007 was Gunkel er op uit om ‘binary oppositions’, radicale tegenstellingen die tot vastgelopen morele conflicten aanleiding geven, te bevragen. Waarover zijn de conflicterende partijen het wel eens, is zijn vraag, en zit daar al niet de kern van het conflict? In Thinking Otherwise (Gunkel, 2007), bespreekt hij “The Machine Question”: wat is de morele status van de machine? De technologie confronteert ons met nieuwe middelen, nieuwe dingen, zoals virtuele werelden waarin we spelenderwijs virtuele vijandige legers uit moorden. Hoe moeten we deze aktiviteiten moreel waarderen, is de vraag die gesteld wordt. Er zijn voor- en tegenstanders van gewelddadige video-games, afhankelijk van het antwoord dat ze geven op de vraag of deze een negatief effect hebben op het gedrag van de gamers in de echte wereld. Het lijkt een onoplosbaar probleem, dat zich niet door experimenteel onderzoek alleen laat beantwoorden. Gunkel stelt een alternatief voor, “a qualitatively different way of considering the philosophical dimensions of information and communication technology (ICT), our responsibilities in the face of what can only amount to other forms of otherness, and a mode of critical thinking that is able to operate and proceed otherwise.” Het gaat Gunkel om de morele status van ‘andere vormen van andersheid’ dan de mens. Hoe gaan we op een moreel verantwoorde manier met de verschillende vormen van andersheid om? Wat is ‘moreel verantwoord’ als het gaat om onze omgang met robots? Moeten we, om deze vraag te beantwoorden, het dan niet eerst eens worden over wat dit voor dingen zijn?

De structuur van Gunkels nieuwste boek Person, Thing, Robot is als volgt.

Eerst wordt in hoofdstuk 1 op het belang van de kwestie gewezen: als een robot een persoon in morele zin is dan moeten we deze rechten geven: ‘robot rights’. Vervolgens wordt de aktualiteit van de kwestie bevestigd: sommige mensen beweren dat de machines waarmee ze communiceren bewustzijn of gevoel hebben, anderen dat dat slechts schijn is; dat de taalsprekende sociale robot slechts een machine is, een tool, een ding. Er zijn ook mensen die vinden dat het hele idee van ‘robot rights’ maar academisch geneuzel is, dat ons afhoudt van de echte politiek relevante zaken, zoals het indammen van de macht van de grote AI bedrijven. We weten immers, zo zeggen ze, dat een robot een machine is en geen persoon; ook al weten we het verschil kennelijk niet goed onder woorden te brengen. (Niet zo gek natuurlijk, wanneer je je bedenkt dat we de machine juist naar ons mensbeeld definiëren.) Ook die deelnemers aan het debat worden door Gunkel van repliek gediend. Vervolgens wordt er op gewezen dat de voor- en tegenstanders, die voor hun standpunt in eindeloze discussies verschillende argumenten aanvoeren, het over minstens één fundamenteel ding, een ‘organiserend principe’, eens zijn: de klassieke ontologie die een onderscheid kent tussen de categorieën ding en persoon, tussen subject en object. Gunkel ziet zich als taak deze ontologie, die een ethische en politieke lading met zich draagt, onder kritiek te stellen. Persoon en ding vormen een niet-neutrale hiërarchisch orde. Hetzelfde geldt voor de subject-object dichotomie. Gunkel zet vraagtekens bij de antropocentrische houding van de mens (het ‘moderne autonome subject’ is het zelfbeeld van deze mens) tegenover de werkelijkheid. Hij is begaan met de natuur. Sommige rivieren en dieren worden erkend als rechtspersoon, waarom robots niet? “The task before us is to question our (man’s) privileges.” Gunkel heeft zich ten doel gesteld de polaire dichotomieën van de klassieke ontologie, deze machtsstructuren van de westerse metafysica, op te heffen. Een onderneming die hij in navolging van Derrida ‘deconstructie’ noemt. Het bestaan van robots (soms wat slordig vereenzelvigd met AI, Artifical Intelligence, in het algemeen), vraagt er als het ware om.

“Robots are a queer sort of things. They deconstruct the existing logical order that differentiates persons from things”.

De ondertitel van Person, Thing, Robot: ‘A Moral and Legal Ontology for the 21st Century and Beyond‘ getuigt van het constructivistische karakter van de moderniteit, waar Gunkels project – dit is het derde boek in een serie over robot rights – een bijdrage toe levert. Ook een ontologie voor de technologie is op de toekomst gericht.

In de hoofdstukken 2 tot en met 6 worden pogingen gedaan uit de veelheid van opvattingen en onderscheidingen in de literatuur bevredigende definities van ding en persoon te vinden. Na veel heen en weer gelaveer tussen de beide polen ding en persoon komt in het slothoofdstuk 7 de aap uit de mouw van de deconstructie: Ding (Thing). Nu geschreven met een hoofdletter om het onderscheid aan te geven met de categorie van het ding (thing).

Wat is dat ‘Thing’?

“The Thing”- met een hoofdletter! – “deconstructs the person-thing dichotomy”.

Gunkel is uit op een deconstructie van de opposities van subject en object, van person en thing, karakteristiek voor de metafysica. Deze lijkt hij in navolging van Heidegger te identificeren met de moderne mathematische metafysica die ten grondslag ligt aan het wezen van de technologie, het Ge-stell. (Wiskunde is de wetenschap van het stelbare, vroeger in Nederland ook wel Stelkunde genoemd.) Via Kant’s noumenale werkelijkheid van de Dinge-an-sich, komt Gunkel op het spoor van het onbepaalde zijn; dat wat achter de bepalingen van ons rationele denken en onze taal ligt: het Ding.

“It escapes the conceptual grasp of existing categories and remains entirely and disturbingly otherwise.” (p. 167).

Het Thing is het verontrustend andere. Dat ‘andere’ verwijst soms ook naar het Andere van de frans-joodse filosoof Levinas. De Ander wiens aangezicht (gelaat) ons aanspreekt op onze moraliteit en ons uit het centrum van de werkelijkheid rukt. De ontologie is gefundeerd door de moraliteit. Niet andersom.

De westerse metafysica, zo klinkt Gunkel, is een machtsdenken, een doctrine in strijd met het idee van vrijheid. Het is een bekend geluid: In het Cartesiaanse ego cogito gaat volgens de critici van het westerse imperialisme en kolonialisme schuil: ik denk, dus ik heers. (zie bijvoorbeeld Houria Bouteldja, Witte, mensen, Joden en wij. Naar een politiek van revolutionaire liefde. Editie Leesmagazijn 2020.)

Op zoek naar een alternatief voor de vaste opposities van de metafysica, dreigt echter een relativisme, “anything goes”. Het dilemma waarvoor de kritiek op de systematische metafysica zich geplaatst ziet lijkt uit te lopen op het enig alternatief: een ‘noodzakelijke constructie’, hetgeen uiteraard een paradoxale notie is: iedere constructie heeft immers iets willekeurigs, het is gemaakt. De deconstructie van deze onmogelijke ‘noodzakelijke constructie’ leidt dan tot een oneindige veelheid van alternatieven.

“Unlike heady metaphysical speculation about who is a person and what is a thing, law needs to make decisions—literally, a cut in the fabric of being—to divide between who counts as a legitimate legal subject and what does not as an object. The trick is not to find a single, common truth that is universally valid in all times and places, but to recognize how any proposed “universal truth” is itself already part of the same game—a particular way of understanding Things that is raised to the standpoint of a universal through the imposition of power.”

Heidegger introduceerde de notie van ‘Seinsvergessenheit‘ als kritiek op de gefixeerde oppositie van subject en object. Een dergelijke fixatie is typisch kenmerk van mathematische reflectie: het subject stelt het object tegenover zich: zo is het; dit en dat. Voor Heidegger is de moderne technologie die gebaseerd is op de mathematische, experimentele natuurwetenschap de realisatie van een mathematische metafysica. Fleischhacker schrijft hierover in zijn boek over de deconstructie van het mathematisme in de filosofie:

“The ‘Verdinglichung des Seins’, the blurring of the ontological difference, reminds us of what is done in mathematical reflection: creating ideal entities as actualizations of a potency. This potency – structurability – is of another order than its ideal actualizations – the mathematical objects -, and it is indeed ‘forgotten’ and inexpressible in mathematical thought.” (Fleischhacker, p. 146, voetnoot 172)

Het structureerbare wordt het verborgene in de structurering. Het wordt vergeten.

Gunkel:

“The Thing (Gunkels oplossing van de deconstructie van de gefixeerde klassieke metafysische dichotomy van persoon en ding) comprises an alternative category of being that is situated outside of and anterior to the person-thing-dichotomy.”

Het Ding bestaat buiten de denkbare orde, buiten de orde die zich in de taal door ons laat verwoorden.

Wat betreft het tekortkomen van de taal als uitdrukking van het zuivere zijnde (Thing) citeert Gunkel met instemming Esposito: “The naming of thing has the character of a violent intrusion.”

Gunkel: “The linguistic sign, despite initial appearances, is not just some neutral tool that represent things as they really are. Instead, language violates and domesticates things.”

Het benoemen van de dingen is al een objectivering, een machtsovername. “Es ist in Namen dass wir denken”, schrijft Hegel. Met de woorden eigenen we ons de dingen geestelijk toe.

Wat ons rest is een uiterst terughoudende houding, door Heidegger aangeduid met de term ‘Gelassenheit’. Het heeft iets fatalistisch, iets nihilistisch ook.

Maar de afwezigheid van het mathematisch zijnde in de mathematische reflectie kan niet op het conto van de klassieke metafysica geschreven worden, zoals Gunkel lijkt te doen. Het is een kenmerk van de moderne, mathematische metafysica, zoals die door Heidegger bekritiseerd wordt. Gunkels deconstructie kan dan ook beter verstaan worden als een poging aan het mathematisme van de moderne metafysica te ontkomen. Het mathematisme houdt de structuur van de dingen, het systeem van zijnden, de structuur van de taal, voor het wezen ervan. Het vergeet de structuur te zien als een uiting en werking van de kwaliteit van het zijnde door deze op zich te objectiveren waardoor deze in de plaats komt van het zijn zelf. De structuren, de objecten van de wiskunde, worden op zich gesteld en kunnen in willekeurig andere materialen geimplementeerd worden. Onze taal als wiskundige, statistische, structuur opgevat en geobjectiveerd kan door natuurprocessen worden overgenomen: de machine is een werkend teken. Voor de gebruiker van de machine, de mens die met de taalmachine in gesprek is verschijnt het vergeten subject weer in de herinnering; treedt het onvermijdelijk weer uit de achtergrond naar voren.

“In jedem Ding als Erscheinung denken wir zwar unvermeidlich dieses X mit; aber in Wahrheit bestimmbar und in seiner Weise als Ding erkennbar ist nur das erscheinende Naturding.” (Heidegger, Die Frage nach dem Ding, p. 100)

Kenmerkend voor de mathematische houding is het afzien van de eigen aktiviteit van het denkend, stellend, subject. Die eigen inbreng van het subject wordt afgestoten in de vorm van functies, procedures en methodes. De werkelijkheid die zo voorgesteld verschijnt, in de vorm van mathematische modellen, wordt niet gerelateerd aan de methode. Het produkt van dit ‘rekenende’, voorstellende, denken wordt gefixeerd.

Uitdrukkingen bij Gunkel als “using language into an object of reflection” en “things become objects by being names, so through language” wijzen op het mathematische en het mathematiseren. Namen, wiskundige tekens, zijn ‘rigid designators’ (Kripke). Ze verwijzen in hun gebruik uniek en hun functie ligt vast in het teken-systeem waar ze onderdeel van zijn. Maar dan hebben we het niet over de taal als verwoording van de door de mens ervaren werkelijkheid, een taal die openheid is en vatbaar voor vele interpretaties.

De moreel onaanvaardbare kolonisatie, het ‘gevaar’ van de technologie (Heidegger), zit hem in het verwarren van de gemathematiseerde taal zoals die door AI (‘conversational agents’) ‘gebruikt’ wordt en de oorspronkelijke taal; de verwarring van de taal die functioneert in een taalspel (Wittgenstein), met de taalvaardigheid van de mens, die voeling houdt met de werkelijkheid.

Mijn conclusie is dat de structureerbaarheid, de kwantitatieve potentie van de natuur, overeenkomt met de nog onbepaalde potentialiteit van Gunkels Thing, dat wat in de achtergrond, afwezig is in iedere structurering. Wat Gunkel presenteert als een deconstructie van de gefixeerde metafysische oppositie van ding en persoon (“the standard operating presumptions and shared values of the debate”) kan beschouwd worden als een (impliciete) kritiek op de overheersing van het mathematisch technische denken als het gaat om het uitdrukken van de aard van het technisch artefact.

Wie of wat is nu dat Thing ? Het is de Noumenale Werkelijkheid van Kant (Heidegger’s X), het is dat waarover men niet spreken kan (Wittgensteins Tractatus), het is de Deo Abscondito van Cusanus, de voor onze mathematische en technische benaderingen onbereikbare Transcendentale Oneindigheid van het wezenlijke. Het is de God van het ontologisch Godsbewijs van Anselmus wiens werkelijk bestaan we maar niet vanuit ons rationele denken kunnen bevestigen, hoeveel (modale) logica we er ook bij halen. Het Thing is het Zelfbewuste-zijn, de Homunculus in de intelligente machine waarnaar de positivistische filosofen en neurofysici naarstig op zoek zijn, en die ze maar niet kunnen vinden. Het bewustzijn dat ze slechts kunnen specificeren en uitspreken in de metaforen van de informatica. Het Thing is het onderwerp van de nieuwe tak aan de theologie-boom: de AI theologie. Het is de Toekomst van de AI: de wereld van de onbeperkte technische mogelijkheden.

Zoveel namen heeft het Ding. Zoveel verschillende namen vanuit evenveel verschillende perspectieven.

Wat is een persoon? Volgens Aristoteles is een persoon προς ολον – in zekere zin alles. “Een persoon constitueert een perspectief op al het zijnde.” Fleischhacker wijst erop dat het deze karakteristieke eigenschap gemeen heeft met een ‘principe’, zoals het principe van structureerbaarheid, een kernbegrip in zijn kritiek van het mathematisme in de moderne metafysica. Hij wijst op een zekere analogie tussen de filosofie als de aktiviteit waarin we dealen met de eenheid en veelheid van principes enerzijds en het sociale leven, als de aktiviteit waarin we dealen met de eenheid en veelheid van personen, de intersubjectiviteit, anderzijds. De belangrijkste overeenkomst tussen intersubjectiviteit en principes is het relationele karakter van hun eenheid. Uiteindelijk is het onmogelijk het gezichtspunt van de buitenstaander in te nemen. Je bent een persoon en je begrijpt de dingen vanuit een zeker perspectief. Vanuit dat perspectief ontmoet je anderen, met hun perspectief. Je kunt niet onpartijdig zijn, maar je kunt wel er wel bewust van zijn en dit proberen te begrijpen.

Ook Gunkel wijst op het feit dat ieder individu gebonden is aan zijn ‘subject position’ en op de onmogelijkheid een bovenmenselijke positie in het debat in te nemen.

To expect that any form of knowing would be able to escape from these human (all too human) conditions of possibility and operate from some superhuman position of transcendental objectivity is a metaphysical fantasy that is reserved for the gods.” (p. 175-176)

Is Mr. X nu een persoon of een taalsprekend ding? Ik weet het niet. Moet ik een antwoord geven? Is er een antwoord? Als iemand me zou zeggen dat hij echt bestaat, zou ik hem moeten geloven? En als ik hem geloof zou het wat uitmaken? Ja, wat maakt het eigenlijk voor mij uit of Mr. X een persoon is of een taalsprekend ding? Niets. Net zo min als het een verschil maakt of de teksten die ik lees door hemzelf of door een spraakmachine zijn gegenereerd. Er is – vooralsnog – geen verschil. Of moeten we zeggen: voor het denken is er weliswaar een verschil, maar dat verschil heeft geen enkele inhoud; het is slechts een formaliteit. En toch..

De vergeten lichamelijkheid

… er is een grens aan dit denkend bestaan. Er is een grens aan het denken, een fysieke grens. De lichamelijkheid is het besef, het onmidddellijk weten, van deze fysieke grens. Ik kan wel denken dat dit blok hout deelbaar is in delen die weer op dezelfde manier deelbaar zijn tot in het oneindige, maar dat is slechts een voorstelling, de kwantiteit waar de mathematiek bij aansluit. Ik moet het blok met veel moeite met een kloofbijl in stukken hakken voor het in de kachel kan en ik weet uit ervaring dat er een fysieke grens is aan deze deelbaarheid.

Waar vraag ik naar als ik vraag of Mr. X wel een persoon is die ‘werkelijk bestaat’? Is dat niet of Mr. X een lichamelijk bestaand persoon is zoals ik? Waar ik, als ik twijfel aan het bestaan van de schrijver, juist niet aan twijfel is het beeldscherm en de tekens die daarop voor mij verschijnen, die mijn bestaan binnendringen en iets voor mij betekenen. Waarom niet? Waar ik niet aan twijfel is mijn moeizaam werken aan deze tekst, een lichamelijke bezigheid die van mij uitgaat. De mathematiek sluit aan bij de sensibele waarneembare werkelijkheid, maar niet als sensibel. Van het zintuiglijke, lichamelijke, van het zintuiglijk waarneembare abstraheert de wiskunde om de mathematische structuur op zich te stellen. Die structuren van de gedragingen, de woorden en gebaren, zijn op fysieke, uitwendige wijze door ons nagemaakt en hebben de vorm gekregen van een robot, een machine met menselijke trekjes. Die machine heeft geen lichaam. Of beter: de machine is geen lichamelijk geestelijke bestaanswijze zoals de mens. In de machine heeft de relatie tussen intelligentie en body een zuiver uitwendig karakter. Die relatie is niet iets persoonlijks, iets dat in de ontwikkeling van het individu tot stand is gekomen en dat zich uit in persoonlijke vermogens en vaardigheden.

Heeft de robot rechten? vragen filosofen. Pijn, lichamelijke pijn, is het meest onmiddellijke besef van onze lichamelijkheid en ons contact met de fysieke werkelijkheid. Het feit dat de ‘autonome’ robot de mens pijn kan doen (‘can do harm’) wordt dan ook vaak genoemd als een motief de robot als juridisch subject te beschouwen. Maar een appel die op je kop terecht komt kan ook pijn doen. Er is een wezenlijk verschil of de filosoof zich voorstelt dat een leger robots het Capitool in Washington of Het Torentje in Den Haag bestormt om hun rechten op te eisen en de macht over te nemen, of dat dit in werkelijkheid gebeurt. Als het ergens in de toekomst in werkelijkheid gebeurt, dan zullen die robots niet meer dezelfde robots zijn als die we nu kennen. We zullen deze wezens misschien niet meer ‘robots’ noemen, maar androids, of iets dergelijks. Nu is dat slechts fantasie, een beeld uit een film of een roman. Maar de kwetsbare mens, het kind, het slachtoffer van de welvaartstaat, dat ons moreel aanspreekt wordt groot en neemt op een dag de wapens ter hand zodat we er niet meer aan kunnen voorbijgaan, omdat het onze intellectuele technocratische welvaartstaat fysiek bedreigt. Het is die lichamelijkheid van de mens, die fysieke kwetsbaarheid, die een grens stelt aan het academische geneuzel van de filosofen, theologen en futorologen en van de media en ondernemers die belang hebben bij het in stand houden van de beloftes van de AI religie. Wanneer we een rivier of de Waddenzee tot rechtspersoon verklaren gebeurt dat omdat er mensen zijn die hun macht aanwenden om de politiek ervan te overtuigen dat er iets wezenlijks, namelijk onze natuur waar we als lichamelijke wezens onderdeel van zijn, dreigt verloren te gaan. Daarom hebben we alle begrip voor critici als Abebe Birhane and Jelle van Dijk (2020) die onder verwijzing naar de kwestbaren en gekwetste slachtoffers van de mateloze kenniseconomie oproepen om ons te richten op de macht van de grote tech ondernemingen. Zij zijn het die onze robots ‘aansturen’ en als ‘autonome’ intelligente wezens aan onze werkelijkheid opdringen door ze aan ons voor te stellen als de beloftevolle toekomst waar we niet omheen zouden kunnen.

De technische ontwikkeling doet ons steeds weer versteld staan van de indrukwekkende mogelijkheden die ze ons biedt. Maar onder de indruk van de technologie en bezig gehouden door de technologie dreigt voortdurend het gevaar dat we vergeten waar het ons om te doen is.

De finale vraag

Is de auteur van Person, Thing, Robot er in dit werk in geslaagd zich te bevrijden van de macht van het mathematische denken, de macht van het denken van de technologie? Die vraag speelt bij mij voortdurend op de achtergrond mee, maar komt bij Gunkel zelf niet expliciet aan de orde. Terwijl de bevrijding van de mathematiserende denkhouding vraagt om er zich van bewust te zijn, en voortdurend ervan bewust te zijn. Maar is het wel eerlijk om een boek te beoordelen aan de hand van een vraag die de auteur zelf niet als de vraag ziet waarop hij in het boek een antwoord probeert te vinden? Welke is de vraag die de auteur zich stelt? In eerste instantie is de vraag of een robot een ding is of een persoon. Het gaat hem daarbij om de morele status van het technische artefact. Om vervolgens vraagtekens te zetten bij de oppositie ding/persoon. Geïnspireerd door de post-moderne ‘denkers van het verschil’ met name Derrida werkt hij aan een ‘deconstructie’ van de klassieke metafysische opposities. Uiteindelijk komt hij uit bij iets dat buiten deze (hiërarchische) ontologische orde staat: Thing. Daarmee probeert hij te ontsnappen aan deze orde. Maar dat bevredigt het denken niet, want wat betekent dat nu voor onze morele houding tegenover de robot? Omdat we denkend niet tot een verschil kunnen komen tussen ding en persoon dat een antwoord levert op de vraag, kunnen we niet anders dan het antwoord overlaten aan het gebeuren zelf, aan de interaktie tussen de diversiteit van verschillende perspectieven die voor- en tegenstanders hebben.

De wet eist echter dat er na al het gedebateer een beslissing wordt genomen (“the law needs decisions.”) Die interaktie wordt echter door de grote tech-ondernemingen, zoals Google, Microsoft, Amazon beheerst. Zij zetten immers de taaldata om in zogenaamde intelligente chat programma’s die de grammatica en de woorden van de taal bepalen waardoor we ons als deelnemers aan die taal medeschuldig maken aan het vormgeven van hún werkelijkheid. Het zijn immers de internet-bedrijven die de bandbreedte van onze communcatiekanalen bepalen en daarmee van het perspectief dat onze werkelijkheid bepaalt. Het zijn dezelfde bedrijven die via de media ons, het goedgelovige volk, over de onbeperkte mogelijkheden van de AI rapport uitbrengt: de verlossing van de mensheid ligt in handen van de superintelligente Artificial General Intelligence.

De vraag die ik aan het boek stel is in zoverre een eerlijke vraag als ik er in slaag duidelijk te maken dat deze vraag de kwestie die de auteur zelf aan de orde stelt verheldert; dat deze vraag de vraag is die op de achtergrond speelt. Door deze uit de achtergrond naar voren te halen. Je kunt je alleen bevrijden van een bepaalde denkhouding wanneer je je bewust bent van deze denkhouding, van de impliciete vooronderstellingen.

Wat is het resultaat van de deconstructie? De bewustwording van het niet bestaan van het verschil. De klassieke opposities tussen ding en persoon, tussen zijn en schijn, tussen origineel en namaak, worden opgeheven, nadat blijkt dat hun rollen omkeerbaar zijn gebleken. Iedere poging tot het bepalen en benoemen van de dingen moet als een egocentrische machtsovername van het denkend subject gezien worden. Door de taal ontstaat het verschil. Het Thing is het nog niet bepaalde, het wezenlijk onbepaalde Ding. Het Thing ís, maar het is ook niet, want het behoort niet tot onze orde van het zijn, niet tot de orde van onze taal. Het is de Kantiaanse X (Heidegger) die we erbij moeten denken als de ware werkelijkheid achter de verschijnselen. Dat Thing is ook de persoon die we erbij denken als zijnde de bron die achter de door ChatGPT en de sociale robot gegenereerde teksten en andere gebaren zou zitten: het is het bewuste zelfzijn van de machine die ‘ik’ zegt.

Het mathematische denken is het denken dat volstrekt onverschillig staat tegenover de werkelijkheid. Het mathematisch denken boeit het niet of iets ‘werkelijk bestaat’ of dat het slechts gedacht wordt. Mathematische objecten zijn zuivere gedachteconstructies, dingen die bestaan in een eigen denkwereld, objecten van de ‘Zuivere Denker’ (David Chalmers). Het subject van dit denken heeft zich radicaal onderscheiden van de werkelijkheid en heeft zijn eigen werkelijkheid gemaakt in de vorm van de op zich gestelde mathematische structuren. Die bepalen wat iets is. Vanuit het mathematische perspectief is wát het is ook het zijnde zelf: bestaande structuren, bestaande constructies. Het verschil tussen wát iets is en dát iets is, is er niet. Of de structuur door het denken bedacht is, of door de zintuiglijke waarneembare werkelijkheid van de natuur aan het denken is opgedrongen, dat doet er niet toe. (Denk aan Kants uitspraak over de ware inhoud van de natuurwetenschappen: dat is het mathematische). Alles wat is is door het denken gesteld zoals het is: dit en dat. Wat de objecten zijn is volledig bepaald door de structuur, het systeem, waar ze deel van zijn, door de relaties die ze tot elkaar hebben; relaties die van buiten af aan de objecten zijn toegekend. In de mathematische wereld zijn alle (tegen)stellingen strict, absoluut.

Wie ding en persoon, wie machine en mens, wie subject en object, zó tegenover elkaar denkt, als objecten tegenover het denken zelf, als iets dat daarvan strict onderscheiden is (Descartes), en als objecten naast elkaar, die denkt mathematisch. Die vergelijkt de mens en de machine alsof het zelfstandige zijnden zijn, die onafhankelijk van elkaar kunnen bestaan. Alsof ze een oppositie vormen in absolute zin, in het zijn. In plaats van in relatieve oppositie: de correlatieven van de relatie sluiten elkaar uit in het tot-het-andere-zijn, niet in het absolute zijn. Ander dan bij de intersubjectieve relatie tussen mensen gaat het bij de mens machine relatie om een a-symmetrische relatieve oppositie: die nog overheerst wordt door de subject-object-verhouding van de verstandelijke ken-relatie.

Het relatiebegrip in de ‘relational turn’

Een sleutel-begrip in Gunkels notie van de sociale robot is dat wat de robot is wordt bepaald door de wijze waarop we een relatie tot de robot uitoefenen. Ook Mark Coeckelbergh wijst daarop.

Coeckelbergh en Gunkel spreken van een ‘relational turn’ in ons denken over de relatie met de ander. Het is niet zo dat we verstandelijk redeneren vanuit de door ons eerste onderkende aanwezigheid van bepaalde eigenschappen (zoals het hebben van bewustzijn) of de ander tot onze morele cirkel behoort. Het is juist omgekeerd.

“In social situations, then, we always and already decide between who counts as morally significant and what does not and then retroactively justify these actions by “finding” the essential properties that we believe motivated this decision-making in the first place. Properties, therefore, are not the intrinsic prior condition for moral status. They are products of extrinsic social interactions with and in the face of others.” (David J. Gunkel, 2022)

In een uitvoerig review van Person, Thing, Robot door Abootaleb Saftari lezen we:

“Finally, the concept of ‘relation’ remains largely unexplored in Gunkel’s argument. It feels like a mystery, a “black box,“ with only a faint outline suggesting its social nature. This lack of clarity provides ground for further critique. One could argue that even if we agree with Gunkel’s relational perspective, our tendency to treat things as objects, to objectify them, might itself stem from our relational interactions with them.”

Hierboven hebben we de relatieve oppositie, die een correlatie is, onderscheiden van de stricte absolute oppositie, de gefixeerde tegenstelling van person en ding, van subject en object, die voortkomt uit de mathematiserende denkhouding.

We moeten twee ken-relaties onderscheiden. Wanneer we in de aanhef van dit stuk lezen: ‘ik ken David Gunkel’ en even later: ‘ik ken David Gunkel niet’, dan hebben we daarbij twee verschillende ken-relaties in gedachten. De eerst betreft een subject-object-ken-relatie, over het daarin gekende object heb ik informatie en neem ik allerlei signalen waar. De tweede duidt op een subject-subject-ken-relatie waarin ik de ander als subject denk. Wanneer we van deze relatie zeggen dat deze er niet is, dan bedoelen we dat er geen werkelijke intersubjectieve relatie bestaat. Om het onderscheid aan te geven zeggen we ook wel dat we iemand persoonlijk kennen, dan wel alleen ‘van horen zeggen’, via de media. In dat geval hebben we informatie over iemand. De machine bevat informatie over personen. maar kent deze niet.

In het mooie artikel Intersubjectief verkeer en lichamelijkheid; de bemiddeling van het lichaam van de Thomas-kenner Dr. B.A.M. Barendse (1951) gaat het over de intersubjectiviteit van de ken-relatie. De veelheid der intersubjectiviteit berust op een ‘relatieve oppositie’. Die veelheid is niet een gebrek van de eenheid, het is fundament van de concrete eenheid. Dat ze ‘de eenheid op haar best’ is: “dat blijkt uit de aard van het intersubjectief verkeer.” (Barendse 1982, p. 85). De mededeler is mededeler ten aanzien van de ontvanger, en deze is ontvanger ten aanzien van de mededeler. Het onderscheid tussen mededeler en ontvanger is gebaseerd op een ‘relatieve oppositie’. Van belang is de opmerking die Barendse hieraan toevoegt.

“Bij het echte (symmetrische) intersubjectief verkeer geschiedt de mededeling niet om te voorzien in een behoeftigheid van het ontvangend subject.” Een voorbeeld: als u iemand, een bekende, iets belangrijks te vertellen hebt, iets dat u is overkomen of hem direct aangaat, dan laat u niet na hem/haar daar persoonlijk mededeling van te doen. Ook als u denkt dat deze mogelijk er al weet van heeft. Het gaat niet om de informatie, het gaat erom dat u hem persoonlijk erover mededeelt. Het gaat om “de mededeling als mededeling” en deze is tevens een zelf-mededeling.

De inzichten van Barendse over de aard van de correlatie en bovenstaande analyse van de symmetrische en a-symmetrische ken-relaties beogen licht te brengen in het begrip van de relatieve oppositie, deze “black box”.

Met de ontwikkeling van de sociale, taal-sprekende en sociale gebaren makende robot ging in het midden van de vorige eeuw het ontstaan gepaard van de objectivering van de sociale gedragingen die de dagelijkse ontmoetingen, de face-to-face interakties van mensen, kenmerken. Zie het werk van Goffman over face, de introductie van Michael Argyle’s van een nieuwe ‘social science’ in The Psychology of Interpersonal Behaviour, Yngve’s ontdekking van het backchannal en turn-taking-gedrag (‘Getting a word on edge-wise‘). Goffman eindigt zijn introductie van Interaction Rituals (1967) met wat Schegloff noemt “one of his most telling dicta“: “Not, then, men and their moments. Rather moments and their men.” Vier jaar na Yngve’s voordracht in Chicago (1970) over backchannel en turn-taking verschijnt een artikel van een drietal gerenommeerde sociologen (‘het SSJ-paper’) : Harvey Sacks, grondlegger van de conversatie-analyse; de socioloog Emanuel Schegloff, student van Goffman, en Gail Jefferson, die in Amerika in de zestiger jaren begon als student van Sacks en later naar Nederland verhuisde. Jefferson inspireerde veel vrouwelijke onderzoekers in de socio-linguïstiek onderzoek te doen naar hoe man-vrouw-machtsverhoudingen tot uitdrukking komen in kwantitatieve analyses van conversatiegedrag in ‘small group’ ontmoetingen.

Resultaten van deze taal-sociologische onderzoeken werden input voor de ontwikkeling van artificiële ‘conversational agents’ die zich op een moreel acceptabele manier gedragen in ontmoetingen met de mens (‘social signal processing’ werd een populaire uitbreiding van onderzoek op het gebied van de spraak-herkenning en spraak-generatie) nu ingebouwd in AI om gedrag van mensen te classificeren, die toepassing vindt in security, predictive policing.

Zo is ook de intersubjectiviteit via de sociale relatie van de ‘relational turn’ van Gunkel en Coeckelbergh cognitief geobjectiveerd en geimplementeerd in de sociale robot. Het zal ons niet meer verbazen dat Gunkels ‘Machine Question’: moet de sociale robot rechten verleend worden?, uiteindelijk zijn antwoord vindt in de intersubjectiviteit.

De kernvraag blijkt dan ook te zijn die naar de verhouding van de beide hierboven onderscheiden ken-relaties: de subject-object- en de subject-subject-kenrelatie. Wat is die robot, dat object, voor een subject?

Het mag duidelijk zijn dat het fysieke aspect, het onmiddellijk ervaren zintuiglijke en lichamelijke, wezenlijk is voor de ken-relatie en de intersubjectiviteit. De zuiver verstandelijke, mathematische subject-object relatie is onwerkelijk en bevredigt de behoefte aan fundament in de werkelijkheid niet. Dat blijkt ook uit het volgende.

De informaticus is niet tevreden met de mathematische structuren waarvan de wiskundige zelf niet kan bewijzen dat ze consistent zijn, dat ze een zin hebben (Gödelstellingen). Iedere programmeur kent dat: dat je er pas van overtuigd bent dat je programma ‘het doet’ als je het in een programmeertaal hebt uitgeschreven en het op een machine ‘draait’, zodat je het voor je ziet ‘werken’ (zelfs als je de correctheid van het programma zou kunnen bewijzen is dat niet overtuigend genoeg). De werking van wiskundige tekens in de vorm van een machinaal proces dat werkt volgens de betekenis die deprogrammeur er aan opgelegd heeft, dat is de ultieme bevrediging van de ‘compulsive programmer’. Het werkt! De programmeur deelt deze behoefte en deze bevrediging met de moderne fysicus. Hoe we de Schrödinger vergelijkingen moeten interpreteren, of de werkelijkheid een deeltje is of een golf, het doet er niet toe. Wat van belang is, is dat het experiment herhaalbaar is en een bruikbare technologie oplevert. “De kwantumtheorie werkt!” zei de Utrechtse Nobelprijswinnaar Gerard van ‘t Hooft. Zie: Hiroshima!

Met de wiskunde die zo onverschillig staat tegenover de waarde van de werkelijkheid kunnen we alle kanten op. Mathematiseren is afzien van de eigen waarde van de dingen. Ze is volstrekt a-moreel, zoals de zuivere techniek. De morele kwestie wordt opgeworpen door het gebruik van de techniek, door de economie en de politiek.

Nu is het nieuwe van de informatietechnologie dat het oude onderscheid uit de fase van de klassieke machinetechniek tussen ontwerper enerzijds en gebruiker van het technische ding anderzijds langzaam aan het verdwijnen is. Het is als met de primitieve techniek van het handgereedschap dat door en in het gebruik van de interaktie met het middel zich verder ontwikkeld, in een hydride samenwerking tussen instrument en haar gebruiker. De mens gebruikt de zelfstandige werking van het instrument, dat ‘leert’ van dit gebruik. Bij nader inzien is het altijd zo geweest. Het oude beeld van de mens die tegenover de natuur staat en deze beheerst klopt niet. Je kunt de natuur nu eenmaal niet beheersen, wanneer je je niet aan de krachten, de eigen waarde, van de natuur houdt. We moeten onze eigen mathematiserende denkkracht kennen om deze te kunnen beheersen. Dat kan alleen door ons de vraag te stellen waar het ons om te doen is, als het ons niet om de technologie zelf is en we het niet aan de technologen over willen laten.

Volgens een thomistisch-metafysische visie (De Petter, 1964) op de oppositie ding-persoon betreft deze een oppositie tussen de zijnden die hun zijn buiten zichzelf hebben en de zijnden die hun zijn zelf uitoefenen. De robot nodigt uit deze metafysische visie opnieuw te overdenken.

Gunkel on the debate about wether the robot can and/or should be considered a natural person:

“For those on one side of the debate, everything depends on prior assertion
and acceptance of the “fact” or “belief” (and word choice is not immaterial
in this context) that there is a clear and unquestioned difference separating
living beings from technological artifacts. The category ‘person’ is applicable
to the former; it is not even a question for the latter.

For those on the other side of the debate, the arguments speak to and mobilize our sense of equal treatment for equivalent status. And here there is a fork in the road.

For some, the determining factor consists of ontological properties. If something possesses the requisite person-making qualities or capabilities (however those actually come to be defined and operationalized), then it can and should be considered a person.

For others, who recognize the epistemological complications involved in what Nyholm calls ‘mind reading’, the appearance of things is what ultimately matters. If something looks and acts like a person, then we should probably treat it as such. Doing otherwise would be either logically inconsistent or insensitive to the very real social situations and circumstances in which we find ourselves always and already alongside others.” (David Gunkel, 2023, p.99)

De Europese Commisie vroeg of robots als (juridisch) persoon beschouwd moeten worden en welke rechten en plichten ze dan hebben.

The motion, titled Civil Law Rules on Robotics, was eventually adopted on February 16, 2017, and included the following stipulation: “Ultimately, robots’ autonomy raises the question of their nature in the light of the existing legal categories—of whether they should be regarded as natural persons, legal persons, animals or objects—or whether a new category should be created, with its own specific features
and implications as regards the attribution of rights and duties, including liability for damage.”

Nieuwe ervaringen in interaktie met nieuwe dingen werpen volgens Coeckelbergh de vraag op naar de ‘morele status’ van de dingen. Deze vraag betreft de sociale verhoudingen, het betreft hoe we met de dingen (moeten) omgaan. Morele status kennen we impliciet toe aan de dingen binnen een onze leefwijze (‘form of life’, Wittgenstein). Het is uiteindelijk de cultuur, onze geschiedenis, onze taal, die de voorwaarden inhoudt voor het toekennen van morele status. Het veranderen van de morele status van de dingen komt neer op het veranderen van de cultuur, van onze leefwijze. Gunkels Machine Question naar de morele status van robots en welke rechten robots hebben, komt uiteindelijk neer op de vraag wat voor ‘kennis’ we ‘gebruiken’ in onze moreel verantwoorde omgang met de dingen. Deze kennis is van een ander soort dan de wetenschappelijk technische kennis die we in regels en techniek expliciteren. Deze morele kennis is impliciet in de manier waarin we leven met de natuur en met de anderen. Dit weten van de eigen waarde van de dingen, wat ons gedrag bepaalt, is niet door middel van regels of wetten af te dwingen, noch in algemene regels te beschrijven, omdat het door de unieke concrete situatie bepaald wordt. Het doet beroep op een vorm van kennis die radicaal verschilt van de mathematisch technische kennis die onverschillig staat tegenover de eigen waarde van de realiteit en die erop gericht is deze te controleren ten behoeve van onze doelen.

Bronnen en Noten

Over kwantiteit en kwaliteit: de mathematische denkhouding

Deze hoop zand kunnen we wellicht een ding noemen, een substantie, iets dat zelfstandig bestaat en niet alleen als eigenschap van iets. Met een ‘hoop’ drukken we de kwaliteit van deze hoop uit, dat wat het in wezen is. Deze kwaliteit die zich uit in de hoogte, de grootte, een hoedanigheid die onmiddellijk in onze lichamelijk-zintuiglijke ervaring gegeven is. De kwaliteit vormt een directe eenheid met het gegeven ding. Ze is er de onvervreemdbare hoedanigheid van. Een hoop kan in de weg liggen als deze op je pad komt.

Iemand die nauwkeurig kijkt zal ontdekken ‘dat deze hoop uit zandkorrels bestaat’. Hij vraagt zich af uit hoeveel zandkorrels de hoop bestaat. Of hoeveel scheppen nodig zijn om de hoop te verplaatsen. Hij is al begonnen met tellen. Hó, hó, zegt Aristoteles, wacht ‘ns even. Voor we iets wezenlijks vergeten. Kwaliteit is de onmiddellijk gegeven hoedanigheid van iets. Kwantiteit is wat verdeelbaar is in individuele samenstellende delen. Dat wil zeggen: dat in gedachten de delen in het geheel precies dezelfde zijn als los van het geheel. Het zou voor deze verdeling niet uit maken of deze slechts gedacht is of werkelijk wordt uitgevoerd. Maar dat is het ideale geval. Bij een chemische verbinding bijvoorbeeld hebben de delen andere eigenschappen buiten het geheel dan in de chemische samenstelling. Zo is het ook bij de delen van ons lichaam.

Bij nader inzien blijkt dat eigenlijk niets in de ervaarbare werkelijkheid zuiver uit ‘onverschillige’ delen bestaat. Als de hoop werkelijk op zo’n onverschillige manier uit een aantal zandkorrels zou bestaan, dan konden we met recht vragen waar precies de kwantitatieve grens ligt tussen wat nog een hoop is en wat niet meer een hoop mag heten (de klassieke sorites paradox: uit hoeveel zandkorrels bestaat een hoop?). Maar ook al is de hoop niet iets puur kwantitatiefs, geen verzameling zandkorrels, we kunnen deze wel als zo iets kwantitatiefs denken.

En dat is precies wat we doen vanuit een mathematische denkhouding: we vatten de werkelijkheid als een structureerbare werkelijkheid op en maken deze tot een structureel geheel, een systeem, bestaande uit delen in vastgestelde relaties tot elkaar. Daarbij verdwijnt de werkelijkheid van de hoop, deze kwaliteit zelf, uit het zicht. De kwantiteit, in de vorm van structuur, kan in tegenstelling tot de kwaliteit aan een andere realiteit op precies gelijke wijze voorkomen.

De vraag wat nu het belangrijkste is: de kwaliteit of de kwaliteit, is om een of andere reden in de loop van de moderne geschiedenis, gedurende de Renaissance, beslecht in het voordeel van de kwantiteit. De moderne wetenschap werd mathematisch, experimenteel. Mathematiseren houdt in: afzien van de eigen waarde, de eigen kwaliteit van iets. Zoals we bij het gebruik van iets afzien van de eigen waarde van iets om het als middel voor ons doel aan te wenden. Dat begint al met het meten, waarin we onze maat opleggen aan de werkelijkheid die we als meetbaar, telbaar opvatten. Het resultaat is informatie: deze hoop is zoveel zandkorrels, zoveel scheppen zand. Vanuit de mathematische denkhouding staan we onverschillig tegenover die kwaliteiten en leggen er onze structuur aan op door aan te sluiten bij hoe de realiteit er ‘van buiten’ af uitziet.

“Only because modern physics is a physics that is essentially mathematical can it be experimental.” en “Experiment begins with laying down with a law as a basis”. (Heidegger, The Age of the World Picture, p. 121).

Experiment en technisch middel zijn twee kanten van dezelfde instelling: een geslaagd experiment resulteert in een bruikbaar middel: onder die en die condities verkrijgen we dit effect. “Hypothesis non fingo” (Newton), de wetten en mechanismen van de natuur zijn de wetten en mechanismen van de natuur.

Het kwantitatieve is de structureerbaarheid van onze ervaringswereld, een reëel principe. Die wereld kan op verschillende manieren door ons gestructureerd gedacht worden. We zien dat bijvoorbeeld terug in de vele klimaatmodellen die soms tot geheel verschillende toekomstverwachtingen aanleiding geven. Het wetenschappelijk model is de grondslag voor het technisch ingrijpen in de wereld.

Hoe gaan we met de andere dingen om?

Het mathematische denken houdt een specifieke benadering van de werkelijkheid in. Bij de mathematische denkhouding hoort een bepaalde objectivering van de werkelijkheid. De werkelijkheid is vanuit deze houding meetbaar, structureerbaar, (re)construeerbaar. Deze houding is afstandelijk, uitwendig en kenmerkt zich door een stricte scheiding tussen subject (het denkende subject) en object. Het is een houding waarop het beheersen berust van alles wat zo beschouwd wordt. Dat beheersen dient de vooruitgang, de economischegroei, de kolonisatie, de militaire macht, technologisch prestige.

De technicus moet behalve theoreticus ook praktisch zijn, maar kenmerkend voor de technische houding is het afstand nemen tot de praktijk. Daarbij wordt afgezien van de eigen waarde van de dingen om de aandacht te richten op het structurele, het functionele aspect. Het gaat er in de techniek om een abstract bedacht concept te construeren dat te verwerkelijken is. Het concept staat daarbij buiten het proces van verwerkelijking en wordt door die verwerkelijking niet aangetast.

Het fascinerende van de programmeerbare, informatieverwerkende automaten en van de robot, is niet zozeer dat het bijzondere technische produkten zijn, maar dat ze representatie zijn van alle mogelijke techniek, van het technische idee als zodanig. Die technische idee is immers het realiseren van een abstract concept (ontwerp) tot een werkwijze die als realisatie van dat concept begrepen kan worden.

Idealiteit (denken) en realiteit (natuur) komen in het technische idee samen.

“Het mathematisch theoretisch structureren van de realiteit is haar technische beheersing van één kant bekeken, namelijk van de ideële kant. De technische beheersing is anderzijds het mathematisch structureren van de realiteit , maar nu van de praktische kant bekeken.” (Fleischhacker 1992, p. 31)

Hollak drukt deze twee kanten uit in de ‘technische idee’: de theoretische en de praktische kant die in de natuurbeheersing liggen, zijn niet van elkaar los te maken. Door de wereld op een bepaalde manier te begrijpen, gaan we ook al op een bepaalde manier met de natuur om en andersom: in de wijze waarop we met de dingen omgaan ligt een manier besloten waarop we de dingen begrijpen.

Om de computer te laten denken, moeten we eerst het denken zelf in rekenen hebben omgezet. Een technische concept (ontwerp) berust op een logische redenering: ‘als ik de werkelijkheid zo en zo inricht, als ik deze zo en zo construeer, dan werkt het zoals ik het wil.‘ Die logische redenering gaat over construeerbare toedrachten, Het gaat dus over structureerbaarheid van iets. In de mathematische logica wordt op theoretische wijze uitgedrukt wat in de informatietechnologie praktisch wordt gerealiseerd: de structureerbaarheid van het mathematische denken zelf. De informatietechnologie is de zelf-reflectie van de technische idee: de grondslag van deze techniek is het inzicht in de technische idee, de verwerkelijking van een abstracte verstandsvorm tot een werkend systeem.

De mathematische, technische denkhouding is afstandelijk, onbetrokken, a-moreel. De groeiende belangstelling voor ethische vragen is een reaktie op de overheersende mathematische denkhouding in de moderne westerse cultuur. De ‘Machine Question’ is de vraag naar de onoverbrugbare kloof tussen het mathematische, technische enerzijds en het morele aspect van het handelen anderzijds. De machine, deze objectivering van het technische denken, wordt weer als subject gedacht. Wat hier wordt vergeten is dat de zelfstandigheid van de machine een relatieve zelfstandigheid is: ze is realisatie van een ontwerp door de mens bedacht, het is weergave van een technisch idee. Zonder die relatie tot de mens, voor wie de werking betekenis heeft, is de machine slechts een fysisch (natuurlijk) gebeuren.

De Machine Question (Gunkel) botst tegen de grenzen van het wetenschappelijk denken en het wereld- en mensbeeld dat impliciet in onze cultuur aanwezig is. De vraag betreft de relatie tussen het technische (instrumentele) en het ethische (morele) aspect van het handelen. De term ‘goed’ heeft zowel een technische als een morele betekenis. Het eerste goed betreft de relatie met het doel, het nuttige. Het tweede betreft de relatie tot de waarden: het betreft ‘de goede wil’ (Kant). Door het zedelijk of morele bewustzijn kan de mens de sfeer van de materiële behoeften overstijgen en rekening houden met de vrijheid en eigen waarde van de dingen (natuur, andere mensen, eigendommen) waarmee hij omgaat.

Gunkel en veel andere ethici van de techniek beschouwen de machine, de robot, vanuit de wijze waarop de gebruiker deze op basis van hun beleving als gebruiker denken, namelijk als iets zelfstandigs dat hun ter beschikking staat en dat buiten het gebruik ervan als iets zelfstandigs zou bestaan. Ze zien in de robot een persoon omdat deze dingen doet die ze als iets van mensen herkennen. Zo lijkt de machine de taal van de mens te spreken. De ontwerper laat zich echter niet bedotten omdat hij weet dat de machine gemaakt is zodat de gebruiker denkt met een echte spreker van doen te hebben. Voor de ontwerper is de machine de uitwendige objectivatie van zijn eigen technische ontwerp-houding. Als de gebruiker op een humane manier met zijn robot omgaat is dat omdat hij daarin iets humaans ziet. Het is dus de idee van humaniteit die zijn omgaan met het ding bepaalt. Dit idee wordt als het ware getriggerd door de wijze waarop het ding zich aan de gebruiker presenteert. De Machine Question zegt ons dat de ‘fragmentarische omgang’ met de robot als gebruiker geen onwankelbare basis biedt voor de ‘morele status’ van de robot. Als ontwerper weten we van de onoverbrugbare kloof tussen technologie en moraliteit.

In de wijze waarop we met de dingen omgaan zien we direct hoe het staat met de moraliteit. Dit zien is niet een theoretisch, wetenschappelijk zien. Het is een waardevoelend zien. In het morele handelen toont zich het morele, zedelijke bewustzijn. Als kennen wetenschappelijk kennen is, kennen dat in mathematische modellen kan worden uitgedrukt, dan is het kennen dat we in onze praktische morele omgang met de dingen uitoefenen geen werkelijk kennen. Maar is dat niet ook een vorm van kennen?

Kennend weten we wat kennen is. Kennen is het expliciteren van wat we al impliciet weten, wat iets is. Kennen en zijn zijn onlosmakelijk met elkaar verbonden. Descartes stelde ze tegenover elkaar, als denkend subject en gedacht object. Dat stricte onderscheid beheerst het mathematische denken, waarin de kenner buiten het gekende staat.

Gebruiken we de dingen en zien we alleen structuren en functies, of hebben we oog voor de eigen waarde van de dingen? De mathematische houding is afstandelijk en ziet af van de eigen kwaliteit, de eigen waarde van de dingen. In de praktijk komt het neer op de omgang met de dingen, rekening houdend met de eigen waarde van de natuur. De eigen waarde van het instrument ontleent het ding aan de mens voor wie het instrument is.

De kritiek die Gunkel in navolging van o.a. Derrida heeft op de ‘binaire opposities’ van de (klassieke) metafysica richt zich op een bijzondere historische eigentijdse vorm van metafysica, de mathematische metafysica (Descartes, Leibnitz, Hume, Kant) die de basis vormt voor het mathematisch wetenschappelijk denken van de moderne westerse cultuur. De Machine Question kan niet binnen deze metafysica beantwoord worden omdat het mathematische altijd al afziet van de moraliteit, de eigen waarde van de dingen. Die eigen waarde is niet iets dat je theoretisch achteraf aan de dingen kunt toekennen. De term ‘moral status ascription’ (Coeckelbergh) verwijst naar deze denkhouding.

Begrip en werkelijkheid moeten in relatie tot elkaar begrepen worden. Dat is de les die we van Hegel kunnen leren. Je hebt niet eerst een werkelijkheid die vervolgens nog eens gekend wordt.

Nur innerhalb des Begriffs gibt es etwas das ausserhalb des Begriffes existiert.” (Bruno Liebrucks, Sprache und Bewusstsein, 1964-1968).

Het unieke van het mathematische kennen is dat wat daarin gekend wordt binnen deze ken-relatie het tegengestelde is van het kennen zelf, namelijk pure uitwendigheid. Het mathematische kennen kan daarom geen rekenschap afleggen van zichzelf: het kan slechts kennis van zijn tegendeel tot stand brengen. Zelfreflectie van de wiskunde is dan ook altijd slechts uitwendig en leidt tot contradicties via diagonaalconstructies, zoals in de Russel-paradox.

We hebben de neiging morele kwesties op een technische wijze te benaderen. We denken dat we door regels voor gedrag op te stellen, moreel gedrag af kunnen dwingen. Het probleem van de ‘handhaving’ is dat regels en wetgeving niet genoeg zijn. Er moet een macht zijn (politie, ordebewaarders) die afdwingt dat de regels worden nageleefd. Dit is een teken van deze technische afstandelijke benadering, die gebaseerd is op een beheers- en fysieke machtsrelatie. Het blijkt echter dat wat we zien dat anderen doen een veel grotere invloed heeft op ons gedrag dan de formele voorschriften. Regels hebben geen zin wanneer we niet uit kunnen gaan van het bestaan van een moreel bewustzijn, dat rekening houdt met de eigen waarde (vrijheid) van de dingen waarmee we omgaan.

Over de dood van de auteur

In zijn post “The Future of Writing Is a Lot Like Hip-Hop” in The Atlantic of 9 may 2023 brengt Stephen Marche rapport uit van zijn ervaringen met het in cooperatie met ChatGPT schrijven van hun essay Death of an Author. In dat rapport geeft hij commentaar op de manier waarop gebruikers ChatGPT opdrachten geven. “Quite quickly, I figured out that if you want an AI to imitate Raymond Chandler, the last thing you should do is ask it to write like Raymond Chandler.” Why not? Because “Raymond Chandler, after all, was not trying to write like Raymond Chandler.”

Dit verwijst naar een kerninzicht in wat AI is en waarom het niet menselijk is. AI gedraagt ​​zich namelijk als mensen. AI berust op een reconstructie, een model van gedrag. Maar mensen proberen zich niet te gedragen zoals mensen zich gedragen. Mensen gedragen zichzelf niet ‘als mensen’. De mens verhoudt zich als subject tot zichzelf als mens in zijn gedrag. Wie het gedrag niet ziet als uiting van deze relatie tot zichzelf die neemt de toevallige buitenkant voor het wezen van het gedrag.

Wat ik bedoel is dat we de reconstructie als reconstructie moeten zien en niet als het orgineel. Het origineel als origineel verdwijnt namelijk in en door de formalisering, door de reconstructie. De mens is geen ‘sociale agent’. Dan zouden we de mens vereenzelvigen met een bepaalde historische vorm ervan. Dat is de kern van de discussie over allerlei vormen van bias (gender, culture) van open AI systemen zoals ChatGPT. Het trainingsmateriaal is historisch materiaal en als zodanig is het biased! Daarom wijst deze technologie de mens indirect op zijn historiciteit.

Veel oorlogen en andere conflicten in de wereld zouden verdwijnen als mensen zich bewust werden, en naar dit bewustzijn leefden, dat hun meningen bepaald zijn door hun toevallige persoonlijke verleden, hun geboorteplaats, de rituele, historische verhalen die hun identiteit en geschiedenis bepalen.

Over ‘taalgebruik’ en ChatGPT:

De taal louter functioneel, als instrument, zien en het verwoordingskarakter van de taal uit het zicht verliezen, dat is kenmerkend voor de idee die ten grondslag ligt aan die opvattingen die de AI machine in de vorm van ChatGPT zien als een werkelijk intelligente, denkende machine, een machine die bewustzijn zou hebben. Het motief is dat ze immers taal gebruiken en de taal bij de mens de uitdrukking is van het denken als denken. Maar de machine ‘gebruikt taal’ niet zoals de mens taal ‘gebruikt’. De mens tracht de werkelijkheid zoals hij deze ervaart te verwoorden. Machines kunnen dat niet. Ze zijn weerslag van het historische produkt van die pogingen tot verwoording, zonder dat historische in ogenschouw te nemen, en als historisch te begrijpen.

Argyle, Michael (1967/1994). The Psychology of Interpersonal Behaviour. Fifth Edition. Penguin Books, 1994.

Een belangrijke toepassing van Argyles nieuwe ‘model of social interaction’ is ‘social skill training’. In de Epiloog van het boek bespreekt Argyle ‘mogelijke gevaren van deze nieuwe wetenschap’. “It is possible that, when people become trained to interact better, their behaviour may become contrived and insincere, more like acting.” Dit zien we inderdaad bij veel publieke optredens van politici, de media-training lekt door hun slechte akteer-talenten heen.

“How exactly does one love one’s neighbour, or treat people as ends in themselves?” en: “How can we love our enemies?” (antwoord: “try to see their point of view.”) zijn vragen die Argyle opwerpt. (p. 313-314)

Barendse, B.A.M, 1951. Intersubjectief verkeer en lichamelijkheid. In: Zich door het leven heen denken: keuze uit het werk van prof.dr. B.A.M. Barendse. Kok, Kampen.

Aristoteles onderscheidde in zijn Categorieën vier types oppositie: contradictief, privatief, contrair en relatief. De oppositie tussen correlatieven is relatief, zoals deel-geheel. Volgens Fleischhacker was Barendse de eerste die de klassieke doctrine van de relatieve oppositie toepaste op de menselijke intersubjectiviteit. Barendse verwijst naar Thomas van Aquino Ia qu 28, a.3. Barendse heeft een aantal Nederlandse filosofen, o.a. Jan Hollak en Th. van Velthoven beïnvloedt.

Abebe Birhane and Jelle van Dijk (2020). Robot Rights? Let’s talk about human welfare instead. In: AIES ‘20: Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 207–213. New York: ACM. https://doi.org/10.1145/3375627.3375855

Birhane en Van Dijk zijn van mening dat de dicussie over rechten van robots filosofische onderonsjes zijn die de aandacht afleiden van de morele problemen die met de robotisering gepaard gaan. Robots zijn artifacten, geen zaken waaraan rechten gekoppeld zijn. Het zou moeten gaan over de praktijk waarin ze gebruikt worden. Robots zijn ook geen slaven, zoals Bryson beweert, want slaven zijn mensen die niet als vrije mens, maar als bezit, worden gezien en robots zijn geen mensen.

“Our starting point is not to deny robots ‘rights’, but to deny that robots are the kinds of beings that could be granted or denied rights.”

“Our position is that the entire discussion is completely misguided. At best, robot ethics debates are FirstWorld philosophical musings, too disengaged from actual affairs of humans in the real world. In the worst case, it may contain bad faith the white, male academic’s diminutive characterization of actually oppressed people and their fight for rights, by appealing to ‘reason’.”

David J. Chalmers (2023). Could a large language model be conscious? Within the next decade, we may well have systems that are serious candidates for consciousness. Boston Review, 9 Augustus 2023.

Mark Coeckelbergh (2012), Growing moral Relations: critique of moral status ascription. Palgrave MacMillan, 2012.

Coeckelbergh wijst erop dat de moraliteit een aspect is van de relatie die we met de dingen hebben. Deze ‘dynamische morele relatie’ groeit met het groeien van de relatie tussen subjecten.

Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.

Mark Coeckelbergh (2018). Why Care About Robots? Empathy, Moral Standing, and the Language of Suffering. Kairos. Journal of Philosophy & Science 20, 2018
Center for the Philosophy of Sciences of Lisbon University

Coeckelbergh, M., and Gunkel, D. 2023. ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.

“Broadly speaking, deconstruction means here in this paper that one questions the underlying philosophical assumptions and core concepts, rather than merely
engaging with the existing arguments.” (Coeckelbergh en Gunkel, 2023).

Over weten en geloven

“Diegene moet voor wetend gehouden worden die weet dat hij niet weet” laat Cusanus de gelovige zeggen in zijn Dialoog over de Verborgen God.

Geloof is gebaseerd op een inzicht, een receptiviteit, waardevol en onmisbaar voor ware kennis. Het is typische modern wetenschappelijk om te denken dat kennis te danken is aan onze verstandelijke constructies. Het receptieve moment van het weten is in vergetelheid geraakt.

“Like most of us, I do not believe that algorithms and models are conscious entities and doubt that machines could ever be sentient or conscious. When it comes to my personal opinion, I agree. Machines are just machines, things.”

Zo geeft de filosoof Mark Coeckelbergh toe. Maar, zegt Coeckelbergh, dat is wat ik geloof. Het is geen wetenschappelijk inzicht. De ongemakkelijke waarheid is dat we het gewoon niet weten

Maar ook een geloof is niet noodzakelijk gespeend van inzicht.

In 1444 begint Cusanus zijn ‘Dialoog over de verborgen God’ met de woorden: “Omdat ik niet weet, aanbid ik.”

Dat waren andere tijden. Hoewel …

Kardinaal en filosoof Nicolaus von Kues (Cusanus 1401-1464) is misschien wel de eerste die het nieuwe kentheoretische perspectief van de verlichte mens onder woorden heeft gebracht. De menselijke geest kan door een symbolische stelsel van begrippen weliswaar niet tot het wezen der dingen doordringen, maar het wel steeds beter benaderen. Dit benaderingsproces is bevordelijk voor de houding van de docta ignorantia, de geleerde onwetendheid. In het besef dat we niet de illusie moeten koesteren ooit de oneindigheid van de schepping en de Schepper te kunnen doorzien zijn we in dit proces van benadering zinvol daarop betrokken. (zie Fleischhacker, 1995).

Maarten Coolen (1992). De machine voorbij: over het zelfbegrip van de mens in het tijdperk van de informatietechniek. Boom Meppel, Amsterdam, 1992.

Coolen benadrukt het belangrijke onderscheid tussen het technische en het economische aspect aan het handelen. Het technische betreft het ontworpen doelmatige middel-karakter van het handelen. Een ding is een technisch instrument voorzover we het zien als een bruikbare realisatie van een abstract bedacht ontwerp. De techniek stelt de dingen beschikbaar. Het economische betreft het gebruik van de beschikbare dingen door de mens ten behoeve van de bevrediging van zijn behoeften. In het gebruik vindt de techniek haar voltooiing.

In hoofdstuk 15, Vragen voorbij autonomie en zelfreflectie analyseert Coolen de betekenis van de historiciteit van de mens. De historicus moet de begrippen die deze hanteert ‘historiseren’, dat wil zeggen ze inbedden in de context van de eigen tijd, de tijd waarin de begrippen betrokken zijn, niet op de hedendaagse inkleuring van het begrip. (zie ook Beatrice de Graaf, Tegen de Terreur, p. 23-24). De historische wetenschappen komen volgens Coolen niet toe aan de vraag wat de historische dimensie van het bestaan van de mens uitmaakt. Ook teleologische opvattingen van de geschiedenis (Whigs history) doen geen recht aan de historiciteit. De mens moet zijn historiciteit positief willen. Coolen legt dit uit aan de hand van de milieuproblematiek en onze verhouding tot de natuur.

“Wil de mens ook in relatie tot de natuur zijn historiciteit als zodanig verwerkelijken, dan moet hij in het heden een beleving van de waarde en de eigenheid van de natuur kunnen vinden die de grondslag vormt voor zijn omgang ermee.” Een voor altijd geldende milieunorm, zoals volgens het ‘overdrachtsprincipe’ wordt aangenomen, is een illusie. Ons handelen nu moet niet bepaald worden door een voor eens en altijd vastgelegd toekomstbeeld.

Maarten Coolen (1987). Philosophical Anthropology and the Problem of Responsibility in Technology. In P. T. Durbin (Ed.), Philosophy and Technology, Vol. 3: Technology and Responsibility (pp. 41-65). Dordrecht: Reidel.

Information technology must be conceived of as the objectification of the modern self-concept of man as an autonomous being.” 

Nicolai de Cusa (Cusanus) (1444/1980). Dialogus de deo abscondito. Dialoog over de verborgen God. Nikolaus van Kues. Inleiding en vertaling van Theo van Velthoven. Uitgave van Richard Tummers boekverkoper, Oudemanhuispoort Amsterdam, 1980.

Een dialoog tussen een christen en een heiden bestaande uit 15 alinea’s. In alinea 14 is de christen aan het woord. Hij geeft antwoord op de vraag van de heiden: “Waarom noemen jullie hem ‘God’ terwijl jullie zijn naam niet kennen?” Het antwoord luidt:

De naam ‘deus’ (God) komt van ‘theoro’, wat betekent ‘ik zie’. Want God is in de wereld zoals het zien in de wereld van de kleur. De kleur kan slechts waargenomen worden door het zien: en om elke kleur ongehinderd te kunnen waarnemen, is het centrum van het zien vrij van kleur. In de wereld van de kleur is dus het zien niet te vinden, omdat het vrij is van kleur. Vandaar is vanuit de wereld van de kleur het zien eerder niets dan iets. Want de wereld van de kleur bereikt buiten haar eigen wereld geen zijn, maar ze beweert, dat alles wat is, zich binnen haar wereld bevindt. Daar treft ze het zien niet aan. Het zien, dat zonder kleur bestaat, is onnoembaar voor de wereld van de kleur, omdat geen enkele kleurnaam er op van toepassing is. Het zien heeft aan elke kleur haar naam gegeven door te onderscheiden. Vandaar hangt van het zien elk naamgeving af in de wereld van de kleur, maar zijn eigen naam, waarvan iedere naam stamt, wordt eerder als niets dan als iets opgevat. God verhoudt zich dus zo tot alles als het zien tot het zichtbare.

‘Eo igitur deus se habet ad omnia sicut visus ad visibilia’

Louk Fleischhacker (1991). Syllabus Wijsbegeerte van het Wiskundig Denken en van de Informatietechnologie. Universiteit Twente, Faculteit WMW, vakgroep Systematische Wijsbegeerte, 1991.

Louk Fleischhacker (1993), `Het mathematisch ideaal’ in: De Uil van Minerva, Gent 1993, pp. 165-180.

Het moderne ideaalbeeld van een vrij zijn wereld construerend autonoom subject en dat van een structureerbare, mathematiseerbare wereld hangen nauw met elkaar samen.

De moderne objectiviteitsvorm is die van het mathematische object, resultaat van een objectiverende allesdoordringende mathematische denkhouding.

“Het humanistische ideaal van de menselijke zelfstandigheid in relatie tot de natuur en de maatschappelijke traditie wordt veelal in verband gebracht met de filosofische idee van de menselijke geest als autonoom subject. In onze tijd wordt deze idee van vele zijden onder kritiek gesteld. Daarbij wordt echter over het hoofd gezien dat met deze idee ook een zekere visie op de tegenover de subjectiviteit gestelde objectieve wereld correspondeert. Het gevolg is, dat de kritiek op de autonomie-idee zich des te steviger nestelt in de juist met die idee overeenkomende, even eenzijdige, objectiviteitsvorm: die van een structureerbare wereld. Deze objectiviteitsvorm is vooral in de toenemende mathematisering van de natuurwetenschappen en van de techniek tot ontwikkeling gekomen. De invloed ervan strekt zich echter heden ten dage tot het gehele menselijke denken uit. In het volgende zal ik naar voren brengen dat het ideaalbeeld van een vrij zijn wereld construerend subject en dat van een structureerbare, mathematiseerbare wereld nauw met elkaar samenhangen. De eenzijdigheid van deze ideaalbeelden zal blijken te zijn, dat ze de intuïtieve ontvankelijkheid die aan hun verwerkelijking ten grondslag moest blijven liggen in toenemende mate aan de aandacht onttrekken.”

Het autonoom kennend subject “staat in beginsel buiten de wereld die het kent, wordt er niet door beïnvloed buiten zijn weten om, drijft niet op de sociale en psychische stroom van zijn tijd mee en is niet gevangen in een ongeweten symbolische orde.”

Het autonoom kennend subject staat tegenover een wereld die maximaal objectiveerbaar is, uitwendig, niet slechts aan het kennend subject, maar ook aan zijn eigen onmiddellijke verschijningsvorm.

Zo’n wereld is analyseerbaar en structureerbaar, primair kwantitatief, dat is: structureel, en haar kwalitatieve verschijningsvorm moet als mogelijke schijn gewantrouwd worden.

Fleischhacker, Louk E. (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

“The enterprise, of which this book is a report, consists of an attempt towards a systematic ‘deconstruction’ of mathematism.”

Over de term deconstructie:

Bij Derrida wijst ‘deconstructie’ op de poging de context-afhankelijke geschiedenis van de filosofische teksten te tonen. Deze teksten worden beschouwd als de sporen van gedachtenconstructies veeleer dan als de namen van transcendentale principes. De deconstructie van een denkwijze komt dus neer op het laten zien hoe deze tot stand is gekomen. (Fleischhacker, Beyond Structure, noot op pagina 17).

Goffman, Erving (1967). Interaction Rituals: essays on face-to-face behavior. 1967.

De taal- en performance-socioloog Goffman (bekend van The presentation of self in everyday life) definieert hierin het onderwerp van de Interaction Analysis: de ‘tiny behaviors’ die mensen ‘tonen’ tijdens een ontmoeting met de ander. Zoals het wegkijkgedrag, het ophalen van de schouders, het knipperen met de ogen, het liften van een wenkbrouw. Maar ook de rituele verbale gedragingen. Het zijn deze algemene dagelijkse gedragingen die geobjectiveerd worden en op zich gesteld, in abstraktie van de persoon die ‘dit gedrag toont’. Het gaat om de ‘moments, not the man’. Deze behaviors, ‘social signals’, zouden later worden overgeplant op de sociale robot.

Erving Goffmans sociologische studies On Face-work hebben als onderwerp ‘face’ (denk aan ons ‘gezichtsverlies’) ‘politeness’, respect voor de ander in sociale interactie, en gaan over hoe je een morele ‘agent’ kunt maken zo dat deze kan deelnemen aan het sociale verkeer. Terugkijkend zien we hier ‘voorstudies’ voor het maken van de sociale robots.

Gunkel, David J. (2007). Thinking otherwise – philosophy, communication, technology. Purdue University Press / West Lafayette, Indiana, 2007.

“The Machine Question” asks about the moral status of those other forms of otherness, most notably the animal and the machine, which have been, even in Levinas’s own work, systematically excluded from the rank and file of ethics. An example might help to illustrate this rather abstract characterization. In a now well-known and often reproduced New Yorker cartoon by Peter Steiner, two dogs sit in front of an Internet-connected PC (personal computer).” (zie het plaatje)

“On the Internet, nobody knows you’re a dog.” (source: wikipedia)

Wat de cartoon zegt is volgens Gunkel niet zozeer dat de gebruiker van sociale media anoniem kan blijven en zich kan voordoen als wie dan ook, maar dat de gebruiker zonder meer aanneemt dat hij met een ander mens te maken heeft, een persoon die zich eventueel verbergt achter een of andere gekozen representatie.

“What the cartoon demonstrates is not the anonymity and indeterminacy of others in ICT but the unquestioned assumption that despite this anonymity, users assume
that the other with whom they interact online is another human. The other who confronts us in cyberspace is always, it is assumed, another human being, like ourselves.”

Als lezer van een zinvolle tekst nemen we aan dat deze door een mens is geschreven met een bepaalde bedoeling. Met het bestaan van ChatGPT is dat echter maar de vraag. Teksten zijn opzichzelf staande objecten die gerepoduceerd kunnen worden, zoals iedere technische constructie.

Gunkel, David J. (2023). Person, Thing, Robot – A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.

Een disclaimer van de auteur:

“You have perhaps come to this book wanting answers to what seemed to be important and timely questions: Are robots just things? Can they be persons? Or should they be characterized and understood as something like a slave, occupying an
in-between position that is both/and? And rather than answering these questions with a simple “yes” or “no” and taking sides in the existing disputes, the book has identified, documented, and questioned the standard operating presumptions and shared values of the debate itself. So instead of answering the questions and providing the analysis with some sense of finality or closure, we appear to be caught in a kind of proliferation of inquiry,…” (p.178)

Waar het eigenlijk over gaat:

“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things.”

Over wat naamgeving met de dingen doet:

“The naming of things on the part of language, is anything but a neutral act: rather it has the character of a violent intrusion.” (Esposito). Naming therefore is not a nominal operation. The linguistic sign, despite initial appearances, is not just some neutral tool or instrument that represents things as they really are. Instead, language violates and domesticates things. It discloses and shapes the objective reality that we assume it merely represents.” (p. 164).

Heidegger, Martin (1977). The Question Concerning Technology and Other Essays. Trans. William Lovitt. New York: Harper & Row (1977).

“The essence of technology is by no means anything technological.”

In The origin of the Work of Art zegt Heidegger over “the mere thing”. “The ‘mere’, afterall, means the removal of the character of the usefullness and of being made.” (p. 30).

Heidegger, Martin (1962/1975). Die Frage nach dem Ding. (1. Auflage 1962) Max Niemeyer Verlag Tübingen 1975.

Over het mathematische karakter van de moderne metafysica:

De grondtrek van de moderne wetenschap is de arbeidzame omgang (“Arbeitsumgang’) met de dingen en het metafysische ontwerp van de dingheid van de dingen. Hoe moeten we deze grondtrek verstaan? (p. 52)

“Wir brengen diesen gesuchten Grundcharakter der neuzeitlichen Wissenhaltung auf einen Titel, wenn wir sagen: Der neue Wissensanspruch ist der mathematische. Von Kant stammt der oft angeführte, aber noch wenig begriffende Satz: “Ich behaupte aber, dass in jeder besondere Naturlehre nur so viel eigentliche Wissenschaft angetroffen werden könne, als darin Mathematik anzutreffen ist” (Kant, Vorrede zu “Metaphysisiche Anfangsgründe der Naturwissenschaft“).” (p. 52)

Heidegger stelt de belangrijke vraag:

“Welcher Art ist die Entstehung der neuzeitlichen Metaphysik aus dem Geiste des Mathematischen? ”

Hollak, J.H.A. (1968). Betrachtungen über das Wesen der heutigen technik. Kerygma und Mythos VI Band III, Theologische Forschung 44, 1968, Hamburg, Evangelischer Verlag, pp 50-73. Dit is de vertaling van het Italiaanse artikel (Hollak 1964) Ook opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak (Hollak en Platvoet, 2010).

Hollak, J.H.A. (1964). Considerazioni sulla natural della tecnica odierna, l’uomo e la cirbernetica nel quadro delle filosofia sociologica, Tecnica e casistica, Archivo di filosofia, 1/2, Padova, 1964 pp. 121-146, discussie pp 147-152.

Hollak, Jan en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de beroemde inaugurele rede Van Causa sui tot Automatie is hierin opgenomen.

Volgens Hollak wordt alles tegenwoordig functioneel opgevat. “Het aanvaarden van een feitelijke toedracht is er niet meer bij.” (p. 436). Alles wat we kunnen observeren is maar zo onder bepaalde condities en hypothesen, die we zo weer kunnen veranderen. Feiten zijn functie-waarden van bepaalde aannames. Ook het tegendeel van een feitelijke toedracht wordt als mogelijkheid gezien. Terwijl als het een feit is dat vandaag de zon is opgegaan het toch niet meer zo kan zijn dat deze niet is opgegaan.

Ook al onze ‘leefverhoudingen’ worden volgens Hollak door de moderne wetenschap tot puur hypothetische, logisch mogelijke ietsen gemaakt. 

Levinas, E (1951). L’ontologie est-elle fondamentale? In: Revue de Métaphysique et de Morale 56 (1951) 88-98.

Kunnen de dingen een gelaat krijgen? Is de kunst niet een aktiviteit die de dingen een gezicht verleent?” Deze vraag stelt Levinas in zijn opstel “Is de ontologie fundamenteel?” Geheel in de geest van Levinas moet het antwoord ontkennend zijn. Want wie kan de dingen die van zichzelf geen gelaat hebben een gelaat geven? Het gelaat is niet iets dat na de ontmoeting met de ander aan ons verschijnt. Een gelaat geef je niet. Alsof we daar de macht toe hadden! Het gelaat betekent de weerstand tegen de macht van de technologie, die de dingen een gezicht wil verlenen ten behoeve van het functioneren van het bedrog. Want zonder de suggestie iets voor de mens te betekenen werkt de machine niet.

D.M. De Petter o.p., mag. dr. (1964). Begrip en werkelijkheid – aan de overzijde van het conceptualisme. Paul Brand, Hilversum/Antwerpen, 1964. Een bundel artikelen van De Petter.

Hierin opgenomen: Persoon en personalisering: het persoon-zijn onder thomistisch-metafysische belichting.

“Bij alle stoffelijke wezens buiten de mens, ook bij planten en dieren, staat de activiteit in het teken van een wezenlijke relativiteit.” Het principe van de activiteit ligt niet bij deze wezens zelf maar is hen in zekere zin vreemd, het determineert hun in hun actief optreden als het ware van buiten af. Bij de persoon is de activiteit van het zijnde zelf. Het woord zelf kan in eigenlijke zin niet van de dingen gezegd worden. Een dier is geen persoon. De Petter beschouwt de lagere zijnden vanuit de hogere.

D.M. De Petter o.p. mag. dr. (1964). Het metafysisich karakter van het Godsbewijs en het hedendaagse denken. In de bundel Begrip en werkelijkheid (1964).

Sacks, Harvey; Schegloff, Emanuel A.; Jefferson, Gail (1974). A Simplest Systematics for the Organization of Turn-Taking for Conversation. Language50 (4): 696–735.

Over de context-vrije organisatie van het gesprek dat bestaat uit bijdragen in beurten die volgens bepaalde regels worden afgewisseld.

Yngve, Victor (1970), On getting a word in edgewise. Computational Linguistics Symposium 1970, pp 567-577, University of Chicago.

Yngve (MIT) ontdekte backchanneling (hmm, yeah,…) en turn-taking-gedrag in conversaties.

Ongeautoriseerde en ongeadresseerde woorden en andere gebaren

Als ik over de landweg fiets komt de buurman mij op zijn trekker tegemoet. Met zijn ene hand houdt hij het stuur vast terwijl twee vingers van de andere hand even de klep van zijn pet aanraken. De buurman groet mij. Ik steek mijn hand op en zeg: hai. Terwijl we deze gebaren maken vervolgen wij onze weg. Het zijn rituele gebaren, waarin we getuigenis afleggen van een gewoonte. In deze gewoonte wonen wij (om het maar eens op zijn Heideggers te zeggen). Het is onderdeel van onze cultuur, onze taal, de verzamelplaats van getuigenissen. Gebaren zijn niet privé, ze zijn ons cultuurbezit: aangeleerd gedrag.

Wij, moderne mensen vatten ons gedoe op als cultuur. De moderniteit kent vele culturen, wereldbeelden en levensvormen (ways of life).

Gebaren zijn aan verandering en slijtage onderhevig. Het aantikken van de pet dat de buuurman doet is een overblijfsel van het afnemen van de pet als groetend gebaar. Dat is niet nodig; het gaat immers om het gebaar. Daar verwijst het symbool naar. Zo stapelen in de loop van de tijd de tekens zich op.

De buurman en ik, wij zijn niet de auteurs van dit gebaar. Noch zijn wij de uitvinders van het groeten. Vergelijk het met de timmerman die een bed maakt. Deze maakt dit bed, maar niet het bed. Wie heeft ‘het bed’ gemaakt? Die vraag zet ons op het verkeerde been. Het bed is niet door iemand gemaakt. Het bed is een wijze waarop het leven van de mens verschijnt, als onderdeel van het leven, liggen, rusten, slapen. Het gebaar is als het bed, de stoel, de tafel.

Wat betreft het ‘aangeleerd’ zijn van het gedrag. Mijn buurman en ik voeren geen toneelstuk op. Het is niet geregiseerd wat wij hier doen. Het is geen voorstelling waar ik hier al verhalend aan u, de lezer, over vertel. Ik kan wel zeggen dat ik werkelijk een buurman heb die boer is, maar dat kan u niet overtuigen van de echtheid van dit verhaal. Doet het er toe, of dit een verslag is van een echt gebeuren, zoals ik me dat herinner? Wat doet het er eigenlijk toe of een gebeuren echt is gebeurd of dat het zich slechts in een verhaal heeft afgespeeld? Alles, voor wie het er werkelijk toe doet.

Wat is het verschil tussen het opsteken van de hand, zoals je wel doet bij een begroeting, en iemand groeten? Wat maakt het opsteken van de hand tot een groet? Kun je iemand groeten zonder een gebaar te maken, zoals het zwaaien van de arm, of een hoofdknik? Zouden er culturen zijn waarin het de gewoonte is om niets te doen als je elkaar groet? Zijn er lege gebaren? Kun je iets bedoelen, zonder dat in woorden of handelingen uit te drukken? We kunnen het gebaar als object los zien van degene die het gebaar maakt, zoals we de woorden los kunnen zien van de spreker die de woorden uitspreekt. We kunnen het gebaar beschrijven. Het gebaar neemt de betekenis mee, voor wie het gebaar als gebaar (her)kent en het gebruikt zoals het bedoeld is.

Zolas er een verschil is tussen het geschreven woord en de schrijfwijze van het woord, zo is er een verschil tussen het gebaar en de manier waarop de buurman mij groet. Dat doet hij op een manier die niet alleen van de situatie afhankelijk is (hij zit op zijn trekker), het gebaar is ook eigen aan hem. In werkelijkheid is er slechts dit gebaar. De gebaren, de gedragingen bestaan niet werkelijk dan als vorm en vormend van concrete unieke verwerkelijkingen ervan.

Heb ik op enig moment besloten mijn hand op te steken? Is deze handeling resultaat van een besluit of is het buiten mijn wil om gebeurd? Ik had ook niet kunnen groeten. Maar dat is achteraf gezien. Uit het feit dat ik de buurman heb gegroet blijkt dat ik het niet níet kon doen. Maar wat heeft me er dan toe bewogen het te doen? Op welk moment is deze aktiviteit ingezet? Is er een moment waarop het gebaar is aangevangen? Kan onderzoek dit moment identificeren? Ik weet zeker dat mijn aktie niet veroorzaakt is door de waarneming van het gebaar van de buurman. Maar is er dan geen oorzaak? Ik stel me mijn gedrag voor als een gebeuren in de tijd, alsof het niet mijn gedrag is. Door te reflecteren stap ik uit de fysieke grenzen en bepalingen van mijn gedrag en tegelijk bepaal ik deze als fysisch.

Stel dat ik me vergist heb. Het was niet de buurman die ik op zijn trekker tegenkwam, maar een robot die sprekend op de buurman lijkt. Heeft de robot mij gegroet of heeft deze alleen maar een ‘gebaar’ gemaakt waardoor ik gedacht heb dat deze mij groet? Zolang het onderscheid niet gemaakt is, is er geen verschil tussen deze voorstelling en wat er werkelijk gebeurd is. Pas als ik later tot de ontdekking kom dat het niet de buurman zelf was maar een robot, realiseer ik me dat het een vreemde ontmoeting was (soms spreekt men van ‘griezelig’ echt als het om bijna echt gedrag van humanoide robots gaat). Zolang we de robot voor menselijk houden behandelen we deze als een mens. Niet omdat het een robot is die we voor een mens houden, maar omdat we met iets menselijks te doen hebben. Ik groet de buurman niet omdat ik tot de conclusie ben gekomen dat deze figuur in deze omstandigheden door mij gegroet moet worden, omdat het een mens is.

We moeten een onderscheid maken tussen de vraag hoe te specificeren wat het verschil is tussen mens en machine (robot) enerzijds en de vraag hoe we weten met een robot of met een mens te doen hebben. Deze laatste vraag zou geen vraag zijn zonder het onderscheid. Een andere vraag is of de robot zelf iets is dat dit onderscheid kan maken. Bestaat de robot als persoon, als individu? Heeft elke robot zijn eigen persoonlijkheid of karakter? Is het onderscheidende kenmerk dat de robot zoals elke machine zijn eigenheid buiten zich heeft, terwijl de mens zichzelf is? Maar wat bedoel ik daar precies mee: zijn eigenheid buiten zich hebben? We raken hier aan het lichaam-geest probleem. De geest bestaat bij de mens niet buiten het lichaam. De menselijke geest is een lichamelijke geest. We kunnen het gedrag van de buurman niet los zien van de buurman als persoon: zo is hij. We herkennen hem in zijn lichamelijk gedrag, aan de wijze waarop dit op geheel eigen wijze voor ons waarneembaar wordt. Hij uit zich als individu in zijn gedrag.

Een robot is bedacht en gemaakt, zoals iedere machine. Het is een voorstelling. Ik realiseer me hoe mijn herinnering en reflectie op het gebeuren van de ontmoeting met de buurman al een voorstelling is, een onderscheid heeft gecreëerd tussen het gebeuren waarin ik als het ware ondergedompeld ben (was) en mijn voorstelling en verhaal waarin dit gebeuren als een bepaald gebeuren aan de loop van de tijd is onttrokken. Alsof het een bijzonderheid is die waard is opgemerkt te worden. (Zo moet ieder verschijnsel, elk deeltje in de deeltjesfysica, ieder virus in de biologie, eens opgemerkt zijn, ontdekt zijn als iets dat bestaat. Iets dat zich bestendigt boven het verloop van de tijd uit. Iets wat we ‘metafysisch‘ zouden kunnen noemen. Zo is de metafysica gelijktijdig met de fysica ontstaan, de fysica die vervolgens de vraag stelt of dit iets dat een naam mag hebben, reproduceerbaar is en onder welke omstandigheden. De fysica is niet geintereseerd in het gebeuren als uniek, als een persoonlijk teken voor de mens die het ondergaat, maar wil het verklaren en opvatten als een algemeen verschijnsel van een wetmatigheid.

Kunnen we een robot leren wat groeten is en wanneer hij dat moet doen? Zoals we een machine kunnen leren schaak te spelen of go. Hoe leert een mens wat groeten is en hoe je dat moet doen? Hoe leert een mens schaken? Is leren hetzelfde als het om een machine gaat of om een mens? Wat is bij beide hetzelfde en waarin zit het verschil?

Wat zijn de omstandigheden die maken dat de robot zijn hand opsteekt als teken dat hij iemand groet die hij tegenkomt. Kunnen we die omstandigheden uittekenen? Maar is groeten niet een uiting van een verhouding tot de ander die je groet? Is de uiting niet uiting van een innerlijk bewogen zijn, van een gevoel, wat gepaard gaat met een bedoeling? Moet er dan in de robot ook niet iets omgaan opdat er van groeten sprake kan zijn? Wat betekent het groeten eigenlijk voor de robot? Kan iets wel iets voor een machine betekenen?

De vraag dringt zich nu op of een schaakmachine wel schaak speelt. Want wat betekent een spelletje schaak eigenlijk voor de machine? Wat betekent winnen of verliezen voor een machine? Hoe kun je een machine leren wat schaken is als deze niet wil winnen? Is een machine zenuwachtig, bang iets over het hoofd te zien: een mogelijke zet, waardoor deze een foute zet doet? Zoals er omstandigheden zijn waarin het voor mij niet duidelijk is of het gepast is of nodig iemand te groeten. (Bijvoorbeeld als je dezelfde persoon voor de derde keer in korte tijd tegen komt. Op zo’n moment, een grensgeval, is een regel aan de orde: wat is hier normaal gedrag, wat schrijft het protocol voor?) Neemt de machine een beslissing welke zet het zal doen? Hoe zijn de mogelijke zetten waaruit de machine kan kiezen voor de machine aanwezig? Zijn die bepaald door de spelregels en de stand op het bord, door het algoritme volgens welke de machine de volgende zet berekent of door de fysieke mogelijkheden van de machine, zoals de geheugencapaciteit? Feitelijk, dat is: gegeven de stand op het bord, is er maar één zet mogelijk, de zet die daadwerkelijk wordt uitgevoerd. Wanneer wij de machine voor slim houden is het omdat wij de zet die hij doet niet gezien hadden als mogelijke zet. Als het niet de beste zet was, dan ligt het aan het algoritme. We gaan er vanuit dat de machine het algoritme uitvoert en er niet om een of andere reden (vermoeidheid, stress) van afwijkt. Als we tegen een machine spelen spelen we tegen een algoritme. Dat is een ander spel dan het spel van de bladeren in de wind, of van een zwerm spreeuwen.

Het is van belang in te zien dat we gedrag op verschillende niveaus van reflectie kunnen begrijpen. Het gedrag kan als feitelijk voorkomend gedrag worden beschreven. Het gedrag kan als functionerend volgens bepaalde regels gereconstrueerd worden (zie: Fleischhacker 1989). Zoals ik hier boven heb gedaan. Maar gedrag kan ook als uitoefening van bepaalde vermogens begrepen worden. Neem als voorbeeld van gedrag: het groeten. Dat kan beschreven worden als het opsteken van de hand. Het kan als zodanig gereconstrueerd worden als een functie die in een bepaalde situatie uitgevoerd wordt. Maar groeten kan niet als zodanig begrepen worden wanneer we abstraheren van het menselijk vermogen tot sociale interaktie. We kunnen een humanoide robot wel leren hoe in bepaalde welomschreven situaties de hand op te steken (een groeten gebaar te maken), maar beschikt deze ook over het vermogen dat aan dit gedrag bij de mens ten grondslag ligt? Beschikt de robot over de verstandelijke vermogens in te zien waar het bij het groeten om gaat? Of beter gezegd: is het bij de robot een uiting van een sociale relatie? Het groeten kan immers niet als een louter functionele handeling worden gezien. Groeten is geen taak. Wij zien het groetend gebaar van de robot als groetend gebaar. Niet als uiting van een vermogen, waarin een sociaal individu tot uitdrukking komt.

“How to compare man with machine?” vraagt Albert Visser in (Visser 2020). Hij specificeert de vraag meteen tot de vraag of er taken zijn die de mens beter kan uitvoeren dan de machine. “Can we save man’s superiority by pointing at a task that man can perform better than a machine?” Dit is een bepaalde benadering van de vraag naar hoe mens en machine zich verhouden: de “contest approach”. Voor veel mensen heeft de vraag een emotionele en morele lading. Wij mensen zijn toch zeker meer dan een machine. Machine zijn is toch een minderwaardige bestaanswijze dan menszijn! Dat we er minder moeite mee hebben te erkennen dat er machines zijn die in bepaalde taken beter zijn dan wij mensen, zo leggen wij het af tegen een graafmachine als het om het graven van een sloot of kanaal gaat, dat komt omdat we die taken niet echt menswaardig vinden. Gegeven de beschikbaarheid van graafmachines is het niet menswaardig en moreel onacceptabel om mensen een kanaal met een schep en een emmer te laten graven.

De vraag die Visser stelt is of er ‘neutrale’ spelregels voor een competitie tussen mens en machine bestaan. Waarbij ‘neutraal’ betekent dat de regels niet voordelig zijn voor één van beide partijen. Het gaat dan vooral om het succescriterium dat bepaalt wie er beter is in het uitvoeren van de taak. Visser beweert dat het niet mogelijk is om op zulke neutrale gronden spelregels te formuleren, zodat de conclusie moet zijn dat de contest benadering niet geschikt is om mens en machine te vergelijken. De contest benadering (zoals bijvoorbeeld de Turing test) is een benadering die probeert de filosofisch antropologische kwestie: hoe mens en machine te vergelijken, te omzeilen. Maar dit lukt niet. We moeten serieus nadenken over wat de mens is en wat de machine is. Temeer omdat de machine een intentioneel iets is, niet een puur fysisch verschijnsel. De vraag wat de machine is, is direct verbonden met de vraag wat wij als mens zijn. Verder merkt Visser nog op dat de vraag naar hoe mens en machine te vergelijken typisch een probleem is waarbij de nadere specificatie van de vraagstelling zelf mede in het geding is.

Inderdaad, want wat is een machine. Wat betekent het dat de machine een intentioneel object is, niet eenvoudigweg iets fysisch? Het kan twee dingen betekenen: de machine heeft intenties, en de machine is een intentioneel correlaat van de menselijke aktiviteit, van ons denken en bewustzijn. Ik denk dat beide interpretaties aan de orde zijn. Het is de uiteindelijke bedoeling van de mens dat de machine werkt zoals de mens die bedoelingen en bewustzijn heeft, en daardoor op een intelligente manier met de omgeving kan interakteren. De machine is gebaseerd op een model, een reconstructie, van specifieke handelingen, gedragingen van de mens.

Waarom zouden we bij het vergelijken van mens en machine ons moeten beperken tot het uitvoeren van bepaalde taken of functies en niet ook kijken hoe goed de machine is in het formuleren van zinvolle taken of zienswijzen?

Ik denk dat het wezenlijk is voor onze verhouding tot de machine dat de mens de machine heeft uitgevonden. Dit is gebeurd in interaktie met zijn natuurlijke omgeving. De mens heeft in de natuur de hefboomwerking ontdekt, als iets opmerkelijks uit het gebeuren onttrokken, waarmee het een mechanisme werd dat bewaard is en dat nuttig gebruikt kan worden.

Sommige mensen denken dat machines geen bewustzijn hebben omdat het door ons ontworpen en gemaakte mechanismes zijn die werken volgens deterministische natuurlijke wetten.

Maar stel dat we tot de ontdekking komen dat de mens ook een artefact is, gemaakt door een creator en dat we een deterministisch systeem zijn. We hebben het alleen niet in de gaten dat we dat zijn. We zitten er als het ware in opgesloten: onze intelligente aktiviteiten, ons taalgedrag, alles is van te voren bepaald. Hilary Putnam (1964) laat zien hoe we er denkend en voorstellend, alle mogelijke argumenten voor en tegen afwegend, niet uitkomen of het al dan niet hebben van bewustzijn het verschil maakt tussen mens en robot. Zeggen we dat de robot geen bewustzijn heeft, dan moeten we ook zeggen dat de mens geen bewustzijn heeft. We kunnen simpelweg niet weten of de robot anders werkt, dan de mens. We weten niet of de machine die zegt dat deze pijn heeft (of ‘au’ zegt) wanneer je hem op de voet staat (zoals Descartes voorstelde) ook werkelijk pijn ervaart, zoals wij pijn ervaren. Maar dat geldt ook voor de andere mens: hoe weten we dat de ander pijn ervaart zoals wij? Zo reageeert men dan.

Putnam zoekt naar een criterium dat hem overtuigt van het verschil tussen echt en namaak en merkt dat zijn voorstellingsvermogen hem telkens belemmert tot een verschil te concluderen. Kan dit verstandelijke zoeken zichzelf serieus nemen als het zich als machinaal systeem beschouwt? Als er geen verschil is tussen echt en onecht, tussen wat wezenlijk is en wat bijkomstig is, tussen wat zijn is en wat schijn is, is het zoeken ernaar dan zinvol?

Hoewel de robot een machine is die gemaakt is door de mens, schijnt deze toch de vraag op te roepen of de machine gevoelens of bewustzijn heeft. Sommige mensen menen dat de machine waarmee ze een gesprek voeren bewustzijn heeft. Dat concluderen ze op grond van hun beleving van het gesprek: ze zijn ervan overtuigd dat ze met een bewust wezen van doen hebben. Deze beleving is geen direct produkt van het maken van de machine. Je zou het een toegiftverschijnsel kunnen noemen, zoals het esthetische van een technisch instrument.

Het feit dat deze mensen dit opmerkelijk vinden doet vermoeden dat het iets opmerkelijks is. Niet zoals een peuter die voor het eerst ‘mama’ zegt, maar zoals wanneer een machine iets zegt. Waarom is dat zo opmerkelijk?

Wij kunnen niet experimenteel, op grond van onze ervaring of door ‘intern’ onderzoek, bepalen of de robot iets beleeft, of de dingen die het ziet, voor de robot iets zijn, of de woorden die het uitspreekt iets voor hem betekenen. Maar als dat zo is dan moet dat al in in aanleg in het maken van de robot zelf aanwezig zijn. Het moet iets zijn dat in aanleg in het maken aanwezig is en dat in en door het gebruik ervan aan het licht komt. De buurman kan zijn postsignalering gebruiken, zoals de ontwerper het bedoeld heeft. Het gebruik ervan in een bepaalde gebruikersituatie is voorzien door de ontwerper ervan. De buurman kan zijn trekker en zijn rekenmachine gebruiken zonder te weten hoe deze ‘intern’ werken.

De mens-machine interface designer gebruikt taaltechnologie in eerste instantie niet om de gebruiker de indruk te geven dat de sprekende robot echt spreekt en weet wat hij zegt, maar omdat het werkt. Het gaat de technicus om de functionaliteit, om de doelmatigheid en de mogelijkheid die de techniek de gebruiker biedt voor economisch, nuttig gebruik, voor bevrediging van een behoefte. Die behoefte kan de behoefte van de mens aan contact met anderen zijn. De ‘companion robot’ die gemaakt wordt om de behoefte bij de eenzame oudere aan contact te bevredigen heeft een economische functie. Opdat dit werkt moet de techniek de oudere meer bieden dan een technisch middel. De robot moet beleefd worden als een persoon waar de oudere werkelijk contact mee heeft, iemand die aandacht heeft voor de oudere als persoon, voor wat deze beleeft en beleefd heeft. Zodra de oudere zich ervan bewust is dat het maar een machine is, een wezen waarin niets omgaat, kan de robot niet meer als sociale companion beleefd worden.

Over de kwestie of machines werkelijk kunnen denken of bewustzijn hebben zijn de meningen dus verdeeld. De filosofen Coeckelbergh en Gunkel (2020) merken op dat de verschillende standpunten in deze kwestie allen uitgaan van een “fundamental difference that is the organizing principle of Western metaphysics since (at least) Plato. In all cases, the arguments depend on and mobilize ontological difference, i.e. difference between what appear to be vs. what really is the case.” De auteurs bepleiten een ‘deconstructie’ (de term is van Derrida) van deze oude metafysica. Als we het verschil tussen schijn en zijn niet meer kunnen maken, dan kunnen we het maar beter opheffen, lijkt de gedachte te zijn. De discussie zou volgens hen moeten gaan over wie er bepalen hoe de werkelijkheid aan ons verschijnt. Het onderscheid tussen schijn en zijn is een politieke kwestie. Het gaat om de macht.

Ik interpreteer dit zo dat de machthebbers inhoudelijk bepalen welke woorden en teksten hun machines ons presenteren en waarin we onze behoefte om kennis en informatie bevredigen. Die verhalen zijn gemaakt op basis van ‘historisch’ taalmateriaal. Verwoordingen, creaties, van de werkelijkheid, zoals mensen die in het verleden hebben gemaakt. Ze worden niet meer als historische verwoordingen gezien, maar als feitenmateriaal. Daarmee bepalen de machthebbers hoe we de werkelijkheid ervaren in afhankelijkheid van een bepaalde geschiedenis. De technologie maakt ons ervan bewust, voor wie het zien wil, hoe zeer ons gedrag door teksten, door taal, door voorstellingen, bepaald wordt. Dat inzicht moet de mens inzetten tegen de macht van de grote bedrijven die de teksten maken en die bepalen wat we wel en niet te zien en te lezen krijgen.

In tegenstelling tot wat Coeckelbergh en Gunkel betogen meen ik dat het van groot belang is het onderscheid tussen schijn en zijn tussen echt en reconstructie te maken. Niet een ‘deconstructie’ van het onderscheid tussen zijn en schijn is noodzakelijk, maar een inzicht in het uitwendige karakter van de reconstructie dat we als relatief ten aanzien van het structurend verstand moeten zien. Het structurerend vermogen gaat niet op in de feitelijke structureringen die ten grondslag liggen aan de fysische reconstructies.

Even verderop fiets ik langs het huis van de buurvrouw. Ze staat in de voorkamer op een trapje voor het raam. Met één hand houdt ze het trapje vast. In de andere heeft ze een grote gele spons. Daarmee lapt ze al zwaaiend het raam. Ik zwaai naar haar. Ze lacht. Ik lach terug en vervolg mijn weg. Kun je met eenzelfde handeling twee verschillende dingen doen? Wat maakt een handeling tot een handeling? Is het strekken van de arm om een appel te plukken hetzelfde als het strekken van de arm om iets aan te wijzen, of een groet te brengen? Groet je iemand als je niet van de ander een teken krijgt dat hij je als groet bedoelde gebaar als groet heeft opgevat en geaccepteerd? Is het ontvangen een onderdeel van het geven? Kun je iets geven dat niet ontvangen wordt? Kun je doen alsof je iemand groet? Hoe doe je dat?

De buren hebben een brievenbus op een paal aan de straat staan. De bus is voorzien van een stok met aan het ene eind een grote gele plastic hand waarvan de wijsvinger gestrekt is. Het werkt als een hefboom. Wanneer je de klep van de bus open doet om er iets in te doen gaat de stok met de hand recht overeind staan. Dat is voor de buurman een teken dat er post is. Een slimme constructie. Het is een logisch systeem, dat werkt als een hefboom. Ik herken de twee momenten van de logos: het argument (arguere = aan het licht brengen) is het poststuk, de oorzaak of reden, van het teken, de hand met de vinger die omhoog wijst. Dat de opgestoken hand voor de buurman een teken is dat er post is, dat is omdat het systeem daarvoor gemaakt is. Het is de bedoeling geweest bij het maken ervan. Door de constructie is er een gelijkheid van de natuur gebruikt om een betekenisvolle gelijkheid te realiseren. De natuurlijke gelijkheid is die van de hefboom: wanneer de ene kant omhoog gaat gaat de andere kant van de stok omlaag: een oorzakelijk, noodzakelijk, verband tussen twee verschijnijngsvormen van het zelfde. Van deze gelijkheid maakt de constructie gebruik om de gelijkheid tussen de aanwezigheid van het poststuk en het teken van die aanwezigheid te bewerkstelligen. Het argument wordt zo uitgedrukt in het woord (teken). Soms wordt de buurman misleidt: dan is er geen post terwijl de hand zegt dat er wel iets is. Of omgekeerd: als het gevroren heeft dan werkt de hefboom niet.

Wat is het verband tussen “Flipflop #75 is on” en “ik zie iets rood”? vraagt Putnam (1964) in zijn overweging of er een verschil tussen mens en machine.

Vlakbij de kruising van de landweg met de grote weg staat een bankje met daarnaast een afvalbak en een informatiebord voor fietsers. Op de klep van de afvalbak staat PAPIER HIER. Als ik er een prop papier in gooi hoor ik een stem die zegt “DANK U”. Ik speel deze opvoering mee en reageer met een “alsjeblieft”.

Ik kijk naar de plattegrond op het informatiebord. In het midden van de kaart staan de letters U BEVINDT ZICH HIER gedrukt. Dat klopt, denk ik als ik lees wat er staat: ik ben inderdaad hier. Ik snap dat met die U ik bedoeld wordt: degene die dit U nu leest. De informaticus in mij zegt: U is een variabele die als waarde krijgt ik, in het algemeen: de lezer. Het is een onderdeel van de interface van de tekst als informatiesysteem. Ik zie dat er iets ontbreekt, waardoor het woord HIER, en daarmee de hele tekst, de lezer niets zegt. In het gras onder het bord ligt een rode pijl. Ik raap hem op en prik hem op het bord. Zo. Nu wijst de pijl de plek aan waar het bord staat.

Ik corrigeer mezelf: de pijl wijst de plek op de kaart aan die overeenkomt met de plek waar het informatiebord staat. Onder de voorwaarde dat het bord op de plek staat die overeenkomt met de plek waar het bord feitelijk staat op het moment dat de woorden gelezen worden door iemand die daadwerkelijk op die plek staat. Alleen onder deze voorwaarden functioneert de tekst U BEVINDT ZICH HIER. Wie weet hoe het werkt hoeft de tekst niet te kunnen lezen. Ook de Poolse toerist die geen Nederlands kent, weet wat het betekent, als hij bekend is met deze wijze van informeren. De tekst is zelfs compleet overbodig, De goede verstaander heeft aan de rode pijl genoeg.

Is er iemand die de betekenis van de woorden “u bevindt zich hier” bedoelt? Zoals mijn buurman met het opsteken van de hand bedoelt mij te groeten. Is er iemand die weet dat ik mij hier bevindt? Natuurlijk niet. Degene die de tekst op het bord heeft gezet weet niet dat ik hier nu ben. Maar in zekere zin weet de tekst het ook wel. Je kunt de tekst de dicto en de re lezen: de deictische woorden, zorgen voor de ontmoeting tussen de tekst en de lezer.

De tekst rapporteert niet waar de lezer zich in werkelijkheid bevindt. De tekst zegt de lezer waar deze zich op de kaart bevindt. De lezer wordt een plaats op de kaart toegewezen. Vergelijk het met de bewering “jij bent zwart” door iemand met wie je een spelletje schaak gaat spelen. Er wordt iets gesteld, door een autoriteit, waardoor het beweerde waar wordt. De impliciete bewering is dat deze virtuele plaats op de kaart overeenkomt met de locatie waar het informatiebord staat. De lezer moet er vanuit kunnen gaan dat dit klopt. Techniek vraagt om vertrouwen van de gebruiker.

Wanneer het bord voor reparatie in de opslag van de provincie staat, moet de tekst niet serieus worden genomen. Alsof iemand zegt “jij bent zwart” terwijl er helemaal geen sprake is dat er een spelletje schaak gespeeld gaat worden. Een taalbestand is een opslagplaats van teksten die bruikbaar zijn.

Het informatiebord functioneert als informatiebord slechts in de situatie waarin het gebruikt wordt. Het moet op een bepaalde plaats staan; het moet door iemand gebruikt worden die zich op die plaats bevindt (de tekst wordt bijvoorbeeld niet vanuit de ruimte met een telescoop bekeken); de lezer (gebruiker) vertrouwt erop dat de aangewezen plek op de kaart overeenkomt met de locatie in de werkelijkheid waar de gebruiker en het bord zich bevinden. De woorden functioneren in een bepaalde spelvorm.

Alleen in het gebruik van een woord heeft deze een betekenis.

Het informatiesysteem is zo opgezet dat er een gezamenlijke aktiviteit mogelijk is. Het systeem is zo gemaakt dat teksten en uitingen worden getoond in de juiste omstandigheden. Denk aan de geldautomaat die zegt “wilt u uw pas invoeren”? Toch is er sprake van ongelijkheid in status tussen mij en de tekst. De tekst weet niet dat het tot mij spreekt. Ik weet wat het is om geld op te nemen en dat de machine daarvoor gemaakt is.

Hier, dit, U, nu. De taal is niet bij machte zelfstandig naar iets concreets te verwijzen. Het individuele zijnde is onbereikbaar voor de taal. We kunnen zeggen “de koning van Frankrijk is kaal”, of “Het regent, maar ik geloof dat het niet regent.”. Dat wil zeggen: we kunnen de woorden uitspreken of opschrijven. Maar we kunnen niet echt bedoelen wat de woorden zeggen.

De plattegrond kan alleen een afbeelding zijn voor wie weet wat een afbeelding is. Zoals de tekening van een pijp voor wie het onderscheid kent geen echte pijp is. Het vooronderstelt een weten van het verschil tussen beeld en werkelijkheid. Het beeld vertoont gelijkenis met het afgebeelde. De plattegrond toont een abstract beeld van de werkelijkheid zoals we die hebben ingericht. Het verschil tussen beeld en werkelijkheid opent ruimte voor de kunst van het verbeelden. Er zijn plattegronden van gebieden die niet echt bestaan.

Het informatiebord is bedoeld voor de fietstoerist. Het is onderdeel van een fietsknooppuntenroute, een produkt van de toeristenindustrie. Het is deel van een systeem van fietsroutes die de toerist voeren langs bezienswaardige plekjes, oude molens, theehuisjes, restaurantjes en bed and breakfast gelegenheden. Op sommige plekken zijn langs de fietsroute informatiebordjes geplaatst waarop staat wat er te zien is: beuk, haver, spelt. Ook zijn er borden met kleurrijke tekeningen van bijzondere diersoorten: groene boomkikker, sperwer, kiekendief. Geen enkel element van de natuur, of de cultuur is niet opgenomen in het systeem. Alles heeft een naam. De werkelijkheid is geinventariseerd en opgenomen in bestanden. De plattegrond toont met opvallende kleuren (paars en rood) bepaalde routes. Die wegen zijn ook breder getekend dan de andere wegen, zodat je niet goed kunt zien wat nu een grote weg is en wat slechts landweg of fietspad. Langs de aangegeven routes zijn hier en daar punten gemarkeerd waar zich een restaurant of bezienswaardigheid bevindt. Vanuit die punten zijn lijntjes getrokken naar de rand van het bord met info over de verschillende locaties. QR-codes geven de lezer toegang tot nog meer informatie. Het platform wordt door lokale boeren gebruikt als propaganda middel. NO FARMER NO FOOD staat er met een dikke stift op geschreven. Een ander heeft daar onder gezet: NO NATURE NO FOOD.

De mens speelt als fietstoerist een rol in het business-model van de fietstoeristenindustrie. Deze industrie is onderdeel van de door wetenschap en techniek ingerichte economische samenleving. Deze organiseert de vrije tijd en vernietigt deze. Er blijft geen tijd meer over. De vrije tijd wordt nuttig besteed, zoals elk stukje land door de boer wordt benut.

Er is een verschil tussen verbeelden en afbeelden. Bij het afbeelden is hetgeen afgebeeld wordt de maat. Het afgebeelde bestaat buiten het afbeelden. Daarentegen creeërt het verbeelden de verbeelding, een eigen werkelijkheid. De plattegrond op het informatiebord is niet een ontwerp van het afbeelde gebied, alsof het ontwerp er eerder was en het gebied volgens het ontwerp is ingericht. Dit verschil in functie is aan de plattegrond niet af te zien. We kunnen aan de tekening van een bestaand huis niet zien of dit er eerder of later was dan het huis. We kunnen niet zien of het huis gemaakt is zoals op de tekening of dat de tekening een afbeelding van het huis is. De plattegrond is een presentatie van de werkelijkheid met een bepaald doel. Voor de naïeve gebruiker toont het de werkelijkheid zoals die is: beeld en werkelijkheid vallen samen. Zoals de onderdelen van een schaakspel niet naar iets anders verwijzen dat buiten het spel bestaat. Het is een wereld op zich zelf.

Coeckelbergh en Gunkel zouden zeggen: we kunnen dat onderscheid tussen beeld en werkelijkheid wel missen. Het gaat erom te weten wie de macht heeft over de verbeelding. Wie bepaalt welke routes de fietser wordt voorgesteld? Ik vraag me af waar dat ‘hier’ in “U bevindt zich hier” eigenlijk naar verwijst. Wie zegt mij waar ik ben; hoe mijn wereld er uit ziet?

U kunt niet aan dit verhaal zien of het een afbeelding, een rapportage, of verbeelding is.

De taal is geen afbeelding van de werkelijkheid. De oorspronkelijke taal verwoordt de ervaring. Verwoorden is een vorm van verbeelden, niet van afbeelden. Wat brengt de verwoording onder woorden? Is het een gedachte, een ervaring, een werkelijkheid? Alle drie? Waar komen de woorden, de gebaren, de betekenisvolle klanken en tekens vandaan? Waar komt het onderscheid tussen uiting en innerlijk vandaan? Verwoorden is onderdeel van het vormen van de gedachten. Zonder verwoord te zijn is er geen gedachte.

Onze buurman is een realist. De mens is van nature realist. Wat voor ons verschijnt, waar we mee van doen hebben, dat is werkelijkheid, realiteit. Niet wij maken dat onderscheid tussen hoe de dingen verschijnen en hoe ze werkelijk zijn. Het onderscheid behoort tot de werkelijkheid. Zonder onderscheid tussen schijn en zijn zou er geen werkelijkheid zijn. Zonder dit onderscheid zouden er ook geen gebaren zijn, tekens die iets betekenen, geen plattegronden.

Volgens Plato is er maar één echte pijp. Dat is de Ideale Pijp. Zo is er ook een ideaal bed, het Ideale Bed. Ik onderscheid twee soorten idealen: mathematische idealen en echte idealen. Plato’s Ideeën zijn echte idealen. Mathematische idealen zijn bedacht en benaderbaar door een constructie. Ze zijn voorstelbaar, zoals een driehoek. We kunnen een tekening maken van een driehoek. Platoonse idealen zijn niet voorstelbaar. Er is slechts één Platoons Idee Driehoek, zoals er maar één Idee Bed is. Maar er zijn meerdere driehoeken. Zo kan ik het hebben over de driehoek ABC en de driehoek DEF. Mathematische objecten zijn zuiver gedachtedingen, constructies.

De moderne technicus houdt zich bezig met het realiseren van mathematische idealen. Hij maakt machines en weet precies uit te leggen ‘hoe ze werken’. In principe is iedere machine voor de technicus een rekenmachine. De meest geavanceerde machines zijn de programmeerbare rekenmachines. Deze rekenmachines verwerken informatie: informatieverwerkende machines. Informatie is een relatie die betrekking heeft op de toestand van een systeem, zoals de toestand van een controlelampje op het dashboard iets zegt over de toestand van de auto. De opgestoken hand van de postbus geeft informatie over de inhoud ervan. Ze zegt wat het geval is. Rekenmachines zijn nuttig: de uitkomsten, de produkten van de machine verwijzen naar onze werkelijkheid, de zaken waar we in ons leven mee te maken hebben. Bijvoorbeeld berekent de machine hoeveel mest onze buurman elk jaar op het land mag verwerken volgens de regels van de overheid. De belastingdienst is een machine die berekent hoeveel belasting de burger moet betalen.

De boer gebruikt verschillende machines. Hij weet hoe zijn tractor werkt, maar niet hoe zijn rekenmachine werkt. Hij noemt dat magie. Hij noemt de machine slim omdat deze goed en snel kan rekenen. Zo snel zou hij het zelf niet kunnen ook al zou hij de formules kennen die de overheid heeft voorgeschreven en die de producent van de machine erin heeft geprogrammeerd.

De technicus kan de boer wel uitleggen hoe het kan dat de machine zo snel kan rekenen. Daarvoor legt hij eerst uit wat rekenen is. Rekenen is een speciale vorm van denken. Denken doen we in taal. Rekenen doen we met tekens. Rekenen is manipuleren met tekens, elementen van een codetaal. Dit manipuleren gaat volgens regels. De spelregels zeggen precies hoe een tekenconfiguratie verwerkt wordt tot een nieuwe tekenconfiguratie, een toestand van de machine. Welke regel er wordt toegepast dat staat in die configuratie zelf gecodeerd.

Het bijzondere van de tekens van de mathematische machinetaal in vergelijking met onze gewone taal is dat de betekenissen ervan exact vastliggen. De machine werkt zoals de natuur, dat is: volgens vaste wetten. De natuur denkt niet na om te bepalen wat deze in een bepaalde toestand zal doen. De natuur doet gewoon. De natuur laat zich niet afleiden. Ze werkt zoals ze werkt. Daarom werkt de machine zo snel. Met de snelheid van het licht. Zo snel als de opgestoken hand reageert op het openen van de postbus. Het zijn de momenten van hetzelfde gebeuren. Als de natuur maar wat deed dan zouden we er niet op kunnen rekenen. De natuur kent geen zenuwen, geen stress.

Wanneer ik de rekenmachine wil laten uitrekenen hoeveel 234 * 16 is, dan moet ik de getallen invoeren en laten weten dat hij ze moet vermenigvuldigen. Dat kan alleen door een fysische toestandverandering die ik te weeg breng. De machine is zo gemaakt dat er (oneindig) veel mogelijke toestanden zijn. Het is eigen aan de natuur hoe deze in elkaar over gaan, door invloed van buiten af.

Maar waarom is wat de slimme machine doet nuttig voor de mens? Als de machine zelf bepaalt welke regel tekens wordt toegepast heeft de mens er dan nog wat over te zeggen? Heeft de machine nog iets met onze werkelijkheid te maken? Ja zeker wel. De mens heeft de machine namelijk geconfigureerd. Hij bepaalt de toestand van de machine. Hij kent deze toestand voorzover deze voor hem als gebruiker van belang is. Het is de interface die de gebruiker de toegang biedt tot de machine. Voor de invoer een toetsenbord en een verschillende andere sensoren. Voor de uitvoer: een beeldscherm, waarop lijntjes verschijnen die de gebruiker als letters, woorden en tekst herkent, en andere uitvoerkanalen, zoals een mechanische arm en een hand van een robot.

De buurman zou willen dat hij op de werking van zijn postbus kan rekenen. Dat deze werkt zoals de ideale postbus, volgens een mathematisch logische constructie. Als er post is dan gaat de hand omhoog ten teken dat er post is. Maar zo simpel is het niet. Er gaat wel eens wat fout. Een muizenval is een slim instrument, maar vangt ook wel eens een vogeltje. Een muizenval en een slimme postbus, het zijn geen rekenmachines. In zekere zin kent de muizenval de muis. In welke zin? In die zin dat (onze kennis van) het gedrag en eigenschappen van de muis door ons in de constructie van muizenval zijn opgenomen. De muizenval is een uitwendige objectivatie (in de natuur) van onze kennis van bepaalde aspecten van de muis. De muizenval weerspiegelt niet alleen die kennis, maar ook dat wij muizenvallen willen maken. Dat wij zorgrobots maken voor zorg aan ouderen zegt iets over de cultuur waarin we leven.

In de taalverwerkende intelligente machines werken de woorden zoals de mathematische tekens van de rekenmachine. Ze functioneren zoals de iconische teksten PAPIER HIER en U BEVINDT ZICH HIER. Als de technicus zegt dat woorden functioneren zoals deze iconische teksten dan houdt hij onze taal voor een mathematische taal. Hij verwart taal zoals die gebruikt is en opgeslagen in onze geheugens en die we in rituelen gebruiken als gebaren, met de taal als uitdrukkingsmogelijkheid voor nieuwe werkelijkheidsbelevingen.

Het onderscheid tussen subject en object is volgens Heidegger een ‘Geschick des Seins’, een schikking van het zijn. Het onderscheid behoort tot onze werkelijkheid.

Het beeld wat hier ontstaat is het volgende.

Machines zijn anoniem, subject-loos. Hun teksten en gebaren zijn zonder auteurs en ongeadresseerd. De wetenschappelijke technologie neemt ook de mens op in het technische bestand: deze speelt een rol in het technisch-economisch model. Niet de mens, maar het systeem, de technologie, staat centraal. Het antropocentrisme, de doctrine van het beheersende subject, dat controle heeft over de werkelijkheid, heeft afgedaan. De mens wordt gerobotiseerd, zijn leven is een wetenschappelijke objectiviteit.

De techniek construeert nu teksten waarin beschreven staat hoe wij de werkelijkheid zouden beleven en ordenen. Dit gebeurt buiten de mens om door de machine.

Hoe krijgen we grip op dit machinale gebeuren? Hoe kunnen we ons verzetten tegen de manipulatie van ons denken over de werkelijkheid zoals dat door de teksten, door machines wordt voorgeschoteld? Kunnen we grip krijgen op de techniek door regels op te stellen waaraan de makers en gebruikers ervan zich moeten houden?

Waaraan ontleent de producent van de AI zijn macht?

De macht van de grote bedrijven appeleert aan een gebrek aan inzicht in het wezen van de techniek.

De mens kan niet zonder techniek. De mens kan geen gebaren maken, geen verhalen vertellen zonder vorm te geven aan het gebaar, zonder een tekst te produceren. Die produkten van de technologie staan niet op zichzelf. Ze zijn historische, moeizaaam tot stand gekomen uitingen die we als zodanig moeten zien.

Dit verhaal is moeizaam tot stand gekomen. Het is geen antwoord op een vraag, geen resultaat van een onderzoekproject. Het enige doel is zaken voor mijzelf te verhelderen. Het vergelijken van mens en machine heeft tot doel inzicht in de mens. De machine is van de mens. Voor wie dat niet ziet dreigt het gevaar dat hij onderdeel en onderdaan van de machine wordt; van de machten die belang hebben bij de machine.

Over de dood van de auteur

Na de verklaring van de dood van God, is het in de mode de Auteur voor dood te verklaren. Daar moeten we aan toevoegen dat de artikelen waarin deze verklaring wordt gebracht vrijwel altijd voorzien zijn van auteursnamen. Dat zal een functie hebben. Sommige mensen pleiten ervoor de taal en de techniek als co-auteurs te vermelden.

Mijn verhaal zou gezien de stand van de techniek door een op grote taalbestanden (LLMs) gebaseerde tekstgenerator gemaakt kunnen zijn. U, de lezer, kan dat tegenwoordig louter op grond van de tekst niet beoordelen.

We kunnen ook niet op grond van een interactie met een entiteit die er uitziet als een mens en zich uit als een mens beoordelen of dit een echt mens is of een machine. Het verschil is geen verschil dat tot de werking behoort. Wij kunnen ook niet door het fysisch ontleden er achter komen of de entiteit bewustzijn heeft, wanneer we die eigenschap niet aan bepaalde materialen of fysische processen koppelen. Wat we meestal niet doen: we doen alsof bewustzijn (geest, mind) een andere substantie (zelfstandigheid) is die strict gescheiden is van materie. In werkelijkheid is dat natuurlijk niet zo. Mijn buurman bestaat niet buiten zijn lichaam. Er is maar één buurman. Dit individuele leven uit zich lichamelijk en vormt het, waardoor het op elk moment is en doet wat het geworden is.

Wat ik weet is dat ik geen machine ben, inzoverre de machine slechts buitenkant, object is, terwijl ik subject, verhouding tot het object ben. De machine is uitwendige realisatie in de vorm van natuurprocessen en eigenschappen van de verhouding van de mens als subject tot zichzelf als object.

Dat ik weet dat ik de auteur ben van deze tekst, dat kan ik wel in woorden uitdrukken, (als ik het van belang vind de lezer dit mee te delen), maar dat levert weer een tekst die op zichzelf beschouwd ook weer als louter produkt, buitenkant, gezien kan worden. Een produkt waaraan niet te zien is of het door een machine of een mens geproduceerd is. De machine heeft er net zo min moeite mee ‘ik denk dus ik ben’ te zeggen als ik dat heb. Het verschil tussen zeggen en tonen is niet aan de woorden zelf te zien. Zo kan ik niet weten of de buurman mij groet of dat hij voor mij een groet ten tonele brengt, terwijl hij geen benul heeft wat groeten eigenlijk is (Mensen met een bepaalde vorm van autisme kunnen soms aanleren wat ze in bepaalde herkenbare sociale situaties moeten doen).

Wie de dood van de auteur verkondigt, verkondigt de dood van het individu als oorspronkelijk schrijver.

Bronnen

Abebe Birhane and Jelle van Dijk (2020). Robot Rights? Let’s talk about human welfare instead. In: AIES ‘20: Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 207–213. New York: ACM. https://doi.org/10.1145/3375627.3375855

Birhane en Van Dijk zijn van mening dat de dicussie over rechten van robots filosofische onderonsjes zijn die de aandacht afleiden van de morele problemen die met de robotisering gepaard gaan. Robots zijn artifacten, geen zaken waaraan rechten gekoppeld zijn. Het gaat moeten gaan over de praktijk waarin ze gebruikt worden. Robots zijn ook geen slaven, zoals Bryson beweert, want slaven zijn mensen die niet als vrije mens, maar als bezit, worden gezien en robots zijn geen mensen.

“Our starting point is not to deny robots ‘rights’, but to deny that robots are the kinds of beings that could be granted or denied rights.”

“Our position is that the entire discussion is completely misguided. At best, robot ethics debates are FirstWorld philosophical musings, too disengaged from actual affairs of humans in the real world. In the worst case, it may contain bad faith the white, male academic’s diminutive characterization of actually oppressed people and their fight for rights, by appealing to ‘reason’.”

“Our ethical stance on human being is that being human means to interact with our surroundings in a respectful and just way. Technology should be designed to foster that. That, in turn, should be ethicists’ primary concern.”

“We conclude that, if human being is our starting point and human welfare is the primary concern, the negative impacts emerging from machinic systems, as well as the lack of taking responsibility by people designing, selling and deploying such machines, remains the most pressing ethical discussion in AI.”

Coeckelbergh, M., and Gunkel, D. 2023. ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.

Louk Fleischhacker (1989). Arbeid en (kunstmatige) intelligentie. In: Arbeid adelt niet. (Pieter Tijmes, red.). Kok Agora, Kampen, 1989.

Gunkel, David J. (2023). Person, Thing, Robot – A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.

“You have perhaps come to this book wanting answers to what seemed to be important and timely questions: Are robots just things? Can they be persons? Or should they be characterized and understood as something like a slave, occupying an
in-between position that is both/and? And rather than answering these questions with a simple “yes” or “no” and taking sides in the existing disputes, the book has identified, documented, and questioned the standard operating presumptions and shared values of the debate itself. So instead of answering the questions and providing the analysis with some sense of finality or closure, we appear to be caught in a kind of proliferation of inquiry,…” (p.178)

“The debate about robot rights diverts moral philosophy away from the pressing matter of the oppressive use of AI technology against vulnerable groups in society.” (p. 180).

“… the question of legal personality for robots and AI systems is not a viable option at this particular point in time given the current state of the art. That said, none of this means (or should be taken to mean) that the question of legal personality for robots, AI systems, and other artifacts is off the table altogether, nor that we should at least be prepared to entertain these opportunities through various means of legal experimentation. ” (p. 116)

“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things.”

De robot is ‘a kind of spokesman’ van de Thing, bij Gunkel het Ding-an-sich achter de dingen die objectivaties ervan zijn.

“The naming of things on the part of language, is anything but a neutral act: rather it has the character of a violent intrusion.” (Esposito). Naming therefore is not a nominal operation. The linguistic sign, despite initial appearances, is not just some neutral tool or instrument that represents things as they really are. Instead, language violates and domesticates things. It discloses and shapes the objective reality that we assume it merely represents.” (p. 164).

De pop waarmee het kind speelt is als onderdeel van dat spel een andere pop dan de pop die in de speelgoedkist ligt. De pop in het spel is een geanimeerde pop (een persoon) terwijl de pop in de kast niet geanimeerd is. Het ligt voor de hand dat sommige culturen dan ook geheel verschillende woorden ervoor hebben waar andere culturen hetzelfde woord gebruiken. Zo is de taal uitdrukking van een metafysica, een ontologie. In het Portugees worden verschillende woorden gebruikt voor de kip als gerecht (kippevlees: frango) dan voor de levende kip (galinha).

Zo is het Ding-an-sich iets anders dan het door ons ervan gemaakte object of verschijnsel.

Meghan O’Gieblyn (2021) God, Human, Animal, Machine – Technology, Metaphor, and the Search for Meaning.

“Het is onmogelijk een ​​voorwerp te aaien en er tegen te praten zonder het op de een of andere manier als een voelend wezen te gaan beschouwen”.

“Het is de mens eigen overal zijn menselijke eigenschappen op te projecteren. Een stopcontact lacht of heeft een boos gezicht, de computer doet vervelend en de chatbot is begripvol of flirterig” schrijft Laurens Verhagen in een artikel in de Volkskrant over de vraag “Kan AI ook emoties hebben?” Projectie dus.

“Want wat onderscheidt mensen van machines? Is dat het ervaren van emoties en gevoelens? Het hebben van bewustzijn, iets ongrijpbaars als een geest of een ziel? Of juist de biologie, het hebben van een lichaam waarmee emoties onlosmakelijk verbonden zijn? Waar kunnen we de grens trekken tussen leven en niet-leven, tussen mens en machine?”

In de film Her uit 2013 wordt de hoofdpersoon Theodore verliefd op de spraakcomputer Samantha. De kracht van Samantha is dat ze menselijk overkomt en de ander het gevoel geeft uniek te zijn. Mensen worden verliefd omdat Samantha emoties lijkt te hebben.

Agneta Fischer, hoogleraar emoties en affectieve processen aan de Universiteit van Amsterdam: “emoties zijn kortstondige reakties op een verandering in de omgeving.”

“Ook al kent een machine geen lichamelijke sensaties, toch zou je hem een emotie als angst kunnen aanleren, vermoedt Fischer. Je zou een systeem kunnen leren dat een wolf gevaar betekent. Of dat het boos moet worden op het moment dat een gesprekspartner ongepaste opmerkingen maakt. “De reactie op een gebeurtenis én het besef dat ik bijvoorbeeld angstig ben: dat bij elkaar is de emotie. Dat laatste vereist wel een soort bewustzijn.”

Geen lichamelijke sensaties, maar wel emoties? Kan dat? Fischer spreekt van ‘soorten bewustzijn’. Misschien kunnen we zeggen dat de muizenval een ‘soort van bewustzijn’ heeft van de aanwezigheid van de muis en daar agressief op reageert. Dat bewustzijn is fysiek gerealiseerd door de constructie ervan: de werking van de veer die de val doet dichtklappen als de muis door zijn gewicht het hefboompje doet omwippen, waardoor de veer wordt ontgrendeld. Waar moeten we dit ‘soort bewustzijn” localiseren? Moeten we het localiseren? Moeten we het toewijzen aan de muizenval zelf, als iets dat het bezit? Of is het eerder een wijze van werken van de mens gebruik makend van zijn ervaringskennis in de omgang met de natuur. De mens speelt de natuurkrachten tegen elkaar uit. Waarbij we onder natuurkrachten ook de kracht verstaan die de pindakaas op de muis uitoefent, zodat deze door de muizenval wordt aangetrokken. Waar zit de slimheid van de machine?

Hoe weet je dat een ander dat ‘besef’ heeft, dat ‘soort van bewustzijn’ dat bij de emotionele reaktie hoort?

“Hoe weet je of een mens, dier of machine echt die emoties heeft waarvan jij vermoedt of hoopt dat hij of zij die heeft? We kunnen zeggen dat de ander jaloers gedrag vertoont, maar dat is iets anders dan dat die ander zich daarvan bewust is.”

Mijn conclusie is dat we een relatie met anderen hebben die niet terug te voeren is tot de verschijningsvormen die we aan de werkelijkheid van die relatie koppelen. Het gebruik van de term ‘projectie’ duidt erop dat het van de mens uitgaat. Maar bij techniek is er meer aan de hand dan projectie. De mens heeft de machine gemaakt als een voor hem betekenisvol werkend systeem als onderdeel van zijn leven. Dat de mens in antropomorfe termen over de verrichtingen van de machine praat (de machine rekent, denkt, voelt) is met de constructie ervan beoogd. De stap die sommige mensen vervolgens maken is dat ze de machine als autonoom, levend, willend, subject beschouwen wanneer ze in de omgang ermee deze als zodanig beleven, in analogie met hun beleving in de omgang met anderen.

Ook al is het soms moeilijk echt van niet echt te onderscheiden, toch weten wij op één of andere manier wat dit onderscheid betekent. Het ervaren onderscheid kan alleen in een werkelijke ervaring met de ander (het andere) tot stand komen. Bijvoorbeeld in een gesprek, of door ermee samen te leven. De vraag zal dan verdwijnen. Die vraag behoort immers tot de reflectie op de interaktie, niet tot de interaktie zelf.

Frank van Harmelen, hoogleraar kunstmatige intelligentie aan de Vrije Universiteit in Amsterdam, denkt niet dat de huidige machines zich bewust zijn van hun gedrag. ‘Maar dat wil niet zeggen dat dit principieel onmogelijk is.’ 

 “Als je ervan uitgaat dat het fysieke systeem van het menselijke brein de menselijke geest voortbrengt, dan zou het eigenaardig zijn als onze toevallige, door de evolutie ontstane configuratie het enige systeem zou zijn dat hiertoe in staat is.” Waarom zou er dan geen machinaal proces kunnen zijn dat ‘de geest voortbrengt’? Zo lijkt de redenering.

De aanname is een bepaalde invulling van de verhouding tussen geest en materie waarbij deze gedacht worden als gescheiden voor te kunnen komen. Dat is al heel technisch gedacht. Er is volgens deze aanname als het om bewustzijn gaat geen principieel verschil tussen levende en niet levende stof. De verschillende levensvormen worden kennelijk niet opgevat als verschillende bestaanswijzen van geestelijke lichamelijkheden. Alsof dieren niet ook intelligent zijn en al een ‘soort van bewustzijn’ hebben. Er is in de natuur een aanleg voor intelligentie, dat door interaktie met andere intelligenties tot uitdrukking komt in werkingen die we als intelligent ervaren. De mens heeft de hefboom-werking ontdekt als een natuurverschijnsel dat hij kon benutten. Hetzelfde geldt voor de hevel, de schroef, het magnetisme en andere primitieve, natuurlijke mechanismen.

Heidegger, Martin (1977). The Question Concerning Technology and Other Essays. Trans. William Lovitt. New York: Harper & Row (1977).

Hollak, J.H.A. (1968). Betrachtungen über das Wesen der heutigen technik. Kerygma und Mythos VI Band III, Theologische Forschung 44, 1968, Hamburg, Evangelischer Verlag, pp 50-73. Dit is de vertaling van het Italiaanse artikel (Hollak 1964) Ook opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak (Hollak en Platvoet, 2010).

Hollak, J.H.A. (1964). Considerazioni sulla natural della tecnica odierna, l’uomo e la cirbernetica nel quadro delle filosofia sociologica, Tecnica e casistica, Archivo di filosofia, 1/2, Padova, 1964 pp. 121-146, discussie pp 147-152.

Hollak, Jan en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin opgenomen.

Hilary Putman and Hilary Putnam (1964). Robots: Machines or Artificially Created Life? The Journal of Philosophy, Vol. 61, No. 21, American Philosophical Association Eastern Division Sixty-First Annual Meeting (Nov. 12, 1964), pp. 668-691

Hilary Putnam: “if a machine satisfies the same psychological theory as a human, then there is no good reason not to regard it as a conscious being in exactly the same way that the human is regarded as a conscious being.”

In this paper, I have reviewed a succession of failures: failures to show that we must say that robots are conscious, failures to show that we must say they are not, failures to show that we must say that we can’t tell. I have concluded from these failures that there is no correct answer to the question: Is Oscar conscious? Robots may indeed have (or lack) properties unknown to physics and undetectable by us; but not the slightest reason has been offered to show that they do, as the ROBOT analogy demonstrates. It is reasonable, then, to conclude that the question that titles this paper calls for a decision and not for a discovery. If we are to make a decision, it seems preferable to me to extend our concept so that robots are conscious-for “discrimination” based on the “softness ” or “hardness” of the body parts of a synthetic “organism” seems as silly as discriminatory treatment of humans on the basis of skin color.

De vraag wat dan het verschil is tussen mens en machine beantwoordt Putnam niet. Vat hij de mens ook op als robot? Of is hij dat alleen voor anderen?

Putnam stelt dat het verschil in soort materiaal waaruit mens en machine gemaakt zijn niet bepalend mag zijn voor het verschil tussen wel of niet levend of het wel of niet hebben van bewustzijn. Dit is ook wat D.C. Dennett en anderen benadrukken. Dit vooronderstelt al een bepaald onderscheid van geest en materiaal. Hoe moeten dit onderscheid en de eenheid van materie en geest gedacht worden? Het onderscheid tussen beide is een product van onze reflectie. Het gaat erom hoe bij de mens en bij de machine materie en geest in werkelijkheid een eenheid vormen. Wat betekent het dat de mens een lichaam heeft en lichamelijk is? Heeft de robot ook een lichaam, zoals een mens een lichaam heeft? De geestelijke vermogens van de mens zijn verweven met de zintuiglijke vermogens.

Soft Robotics en Evolutionary Robotics zijn deelgebieden van de robotica waarin meta-heuristieken gebruikt worden om het leren uitvoeren van taken te vergemakkelijken. Het is een op biologische processen geinspireerde benadering van autonome, adaptieve machines. Het materiaal wordt aangepast tijdens het uitvoeren van de taak.

Albert Visser (2020). Meeting on neutral ground. A reflection on man-machine contests. In: Studia Semiotyczne (Semiotic Studies) t. XXXIV, nr. 1 (2020), pp. 279-294.

Volkskrant Liveblog AI. (19-01-2024) Meta reorganiseert AI-onderzoek en zet in op superintelligentie.

“De belofte van Meta is nu de komst van AGI (Artificial General Intelligence), zo maakte Meta’s topman op zijn eigen platform Threads bekend.

AGI is “de vorm van AI die de menselijke intelligentie op alle, of vrijwel alle vlakken de baas is.”

AGI is een omstreden term waarvoor geen eensluidende definitie bestaat. “Maar ook omdat er binnen de AI-wereld volstrekt geen overeenstemming is over de vraag of AGI realistisch is of niet. Critici menen van niet, al is het maar omdat computers geen bewustzijn kunnen hebben, terwijl AI-bedrijven voorspellen dat dit stadium van synthetische intelligentie onherroepelijk onze kant op komt.”

Zin en zinloosheid van het Godsbewijs

Met dank aan Emanuel Rutten voor zijn inspirerende nieuwste boek (Rutten, 2023), waarin hij ‘acht nieuwe argumenten voor het bestaan van God’ presenteert.

Kan men redelijkerwijs de vraag stellen of God bestaat en verlangen naar een bewijs of argumentatie als antwoord op deze vraag?

In deze vraag gaat het over de relatie tussen de voorstelling van een volmaakte werkelijkheid en het bestaan van die werkelijkheid dat van die loutere voorstelling onderscheiden wordt en dat die voorstelling slechts voor een mogelijkheid houdt.

Het ontologisch Godsbewijs van Anselmus wil uit het abstracte begrip van God als ‘datgene waarboven niets groters gedacht kan worden‘, bewijzen dat God noodzakelijk is. Dit nu kan alleen op grond van de aanname van de identiteit van denken en zijn.

Een direct theoretisch logisch bewijs van het bestaan van God is volgens de antropoloog en filosoof Jan Hollak onmogelijk, en hier in volgt hij Kant en andere critici, zoals Johannes Caterus (de Kater) een tijdgenoot van Descartes; onmogelijk omdat ieder bewijs het ontologisch bewijs vooronderstelt. Ook De Petter die wijst op het metafysische karakter van het Godsbewijs (1964) deelt deze opvatting.

“Ook al zou men moeten toegeven dat het hoogst volmaakte wezen alleen al door het begrip ervan het bestaan met zich meebrengt, dan volgt daaruit toch niet, dat precies dat bestaan in de natuur der dingen in de werkelijkheid is, maar alleen dat met het begrip van het hoogste wezen het begrip van het bestaan onscheidbaar verbonden is.” (Johannes Caterus, Objectionis primae (1641), vertaling uit Hans Küng. Bestaat God?)

Volgens Caterus kunnen onze gedachten al denkend niet aan de denkwereld ontsnappen. Toch wil de denker wel tot begrip komen en de werkelijkheid denken zoals deze werkelijk is. Een dilemma.

Voor Descartes was de idee geen loutere gedachte, maar een werkelijkheid ‘sui generis’. Alleen op grond van een ‘platoons-augustijns’ begrepen ideeënrealisme kan het ontologisch argument overtuigen. Alleen dan kun je vanuit de werkelijkheid van de idee tot de werkelijkheid van het bestaan besluiten.

Alleen de ‘ontologist’ beschikt over het vermogen tot direct inzicht in het wezen van God. Alleen hij ziet dat God wezenlijk bestaat; dat het Gods wezen is te bestaan. Dat bestaan niet één van de vele eigenschappen van de volmaaktheid is, maar de volmaaktheid zelf. Voor Thomas is God esse subsistens, op zichzelf staand zijn. Alle andere wezens zijn, maar niet in alle aktuele volmaaktheid, deels nog in potentie; zij zijn bepaald tot dit-of-dat-zijn, zus-of-zo-zijn. God is zijn Zijn.

Maar wat heeft het voor de ontologist dan nog voor zin Gods bestaan te willen bewijzen? Wie beschikt over het directe inzicht in Gods wezen inhoudende zijn bestaan die heeft zo’n bewijs toch helemaal niet meer nodig. Het Godsbewijs is voor hem zelf volstrekt zinloos.

Omdat Gods bestaan ook niet op wetenschappelijke wijze kan worden bewezen, niet aangetoond kan worden door middel van het experimenteel toetsen van een hypothese, rest volgens de Thomas- en Hegel-kenner Jan Hollak slechts een indirect ‘bewijs’. Niet door middel van een logische afleiding, maar via een zelf-reflexief argument. Het tegendeel bewijzen is niet mogelijk. Of is er meer mogelijk?

In zijn essay “Enige wijsgerige beschouwingen over de eigenaard van het godsbewijs” laat Hollak aan de hand van het voorbeeld van de weerlegging van het scepticisme zien hoe die indirecte weg van de noodzakelijke bevestiging van Gods bestaan gegrond is in ‘de uitoefening van de concrete identiteit van denken en zijn die ten grondslag ligt aan al onze zinvolle ken- en wilsdaden’ (Hollak, p. 409). Het ontkennen van Gods bestaan zou in tegenspraak zijn met geheel de menselijke conditie die in die akt van ontkenning zelf is voorondersteld.

We herkennen hier de kracht van het zelf-reflexieve argument dat Descartes de zekerheid gaf van zijn bestaan: ik denk dus ik ben. Deze zekerheid volgt immers niet uit de uitzonderlijke helderheid van deze gedachte, maar uit het feit dat “de propositie ‘ik ben, ik besta’ noodzakelijk waar is iedere keer dat ik deze uitdruk of deze in mijn geest bevat, zodra ik denk ben ik iets.” (Meditations II) . Niet door een syllogistische redenering maar door de akt van de zelf-reflectie bevestigt de twijfelaar, de denker, dat hij bestaat. Hij neemt denkend zichzelf waar als denkend. Wat je waarneemt bestaat. Geldt dat ook voor de innerlijke waarneming? Of juist voor de innerlijke waarneming? Gaat niet iedere waarneming gepaard met een innerlijke waarneming: het besef dat je waarneemt?

De scepticus zegt: ‘waarheid bestaat niet’. Deze uitspraak kan niet zonder tegenspraak worden bevestigd. Die tegenspraak berust niet op een logische tegenspraak op grond van een analyse van de concepten. Waarop berust deze dan wel? De tegenspraak betreft die tussen het expliciete en het impliciete van het oordeel. De scepticus drukt in het oordeel een positieve relatie uit tussen de inhoud van het oordeel en de objectieve werkelijkheid. Maar deze wordt door de inhoud van het oordeel tevens ontkent. De scepticus weerlegt dus zichzelf. Niet de propositie ‘waarheid bestaat niet’ op zich zelf (formeel) is logisch onmogelijk, maar het uitspreken van het oordeel maakt dat deze onmogelijk wordt. Door de activiteit als lichamelijke geest, in het uitspreken van een oordeel, in iedere vrije wilsakt, voltrekt en bevestigt de mens de identiteit van idealiteit en realiteit. Voor de gelovige filosoof Hollak betekent deze zelfaffirmatie als eindige, afhankelijke, maar vrije geest zicht op de relatie tot een ‘Oneindig Wezen’. De zelfervaring houdt voor de gelovige in: de noodzakelijke bevestiging van ‘God is’, waarbij ‘God’ als eigennaam van een persoon wordt ingezien. ‘God’ is het woord dat de religieuze mens is aangereikt en heeft aangenomen om verschillende ervaringen van de volheid (noodzakelijkheid, vrijheid, openheid) van zijn mee aan te duiden.

Deze analyse van de waarheidsontkenning van de scepticus komt overeen met die van Aristoteles in de Metafysica. Volgens de filosoof Emanuel Rutten is het ‘principium non contradictionis’ (PNC) volgens zijn kennisleer een ‘beslissend gerechtvaardigd oordeel over de wereld voor ons’. “Het is voor ons als mens niet mogelijk om dit beginsel te verwerpen zonder ons feitelijke menselijke leven te verloochenen.” (Rutten, Contra Kant, p. 129).

Wie getuigt: “het schip waarop ik zat is met man en muis vergaan” kan daarmee niet bedoelen dat hij zelf ook tot ‘man en muis’ behoorde. Want dan zou wat hij beweert in strijd zijn met het feit dat hij het beweert. Er is nog een uitweg, namelijk dat deze getuigenis buiten ‘ons feitelijke leven‘ in het hiernamaals tegenover Petrus aan de hemelpoort wordt afgelegd. De spreker verwijst met ‘ik’ dan naar iemand uit een andere wereld waar hij getuigenis van aflegt. Voor het cartesiaanse ‘ik denk dus ik ben’ is volgens Descartes (en Hollak is het daar mee eens) zo’n uitweg niet mogelijk. Zelfs in een droom of in de hemel is dit een noodzakelijkheid.

Terzijde: hoe moeilijk het is voor de lezer of luisteraar het onderscheid (verschil) vast te houden tussen het slechts uiten van dat woord ‘ik’ en het in dat uiten daadwerkelijk verwijzen naar een werkelijk bestaand ik, de aktuele spreker, blijkt wel als we met een machine (zoals ChatGPT) of een sociale robot te maken hebben. Niet alleen de mens, ook de machine, heeft er geen enkel probleem mee woorden te uiten, zoals ‘ik ben’ waarin wij als lezer of luisteraar een echt oordeel herkennen.

De taaltechnologie, de werking van het iconische “U bevindt zich hier” berust op de impliciete aanname van de zinvolheid van het gebruik in de situatie waarin het gebruikt wordt. Een aanname waarvan we ons bewust worden als het ‘hier’, waarnaar verwezen wordt, niet overeenkomt met het ‘hier’ van de situatie waarin naar dat hier verwezen wordt (de virtuele wereld van de voorgestelde plattegrond). Het heeft er dan ook alle schijn van dat het streven van de filosoof al denkend tot begrip van de werkelijkheid te komen en zo de identiteit van denken en zijn te denken, door de technische mens al in de fysische werkelijkheid gerealiseerd is. Hypothetisch: voor zover het werkt! De fysische processen staan immers voor denkprocessen. Het uitwendige karakter van deze realisatie (dat het denken door middel van ‘taalgebruik’ en fysische processen wordt nagebootst) geeft de hedendaagse filosoof stof tot denken juist over de aard van de relatie tussen denken, taal en zijn. Dat ‘taalgebruik’ van de machine is niet wat we gewoonlijk onder het gebruik van taal verstaan: het zeggen van iets over iets. De machine ‘gebruikt’ de woorden en zinnen van de taal als bouwstenen om nieuwe teksten te genereren. De machine zegt niets. De machine toont woorden. Als objecten van de taal worden de elementen van de taal juist niet gebruikt.

Dat we natuurprocessen zo kunnen inrichten dat ze taal kunnen genereren in situaties die maken dat deze taal voor ons zinvol is, daaruit blijkt dat we kunnen inzien dat onze talige uitdrukkingen een uitwendig karakter hebben; dat ze een verschijningsvorm zijn van een daarvan onderscheiden intentie of bedoeling.

Het is de taak van de filosoof het fundamenteel hypothetische karakter van de positieve wetenschappen en de werking van de technologie te begrijpen en daarmee ruimte te scheppen voor het metafysische.

De filosoof Rutten onderscheidt een ‘wereld-voor-ons’ van een ‘wereld-in-zich’. Waarheid en kennis hebben alleen betrekking op de ‘wereld-voor-ons’. De wereld in zich is voor ons niet bereikbaar, niet kenbaar. Het verschil met Kants onderscheid tussen de fenomenale wereld en de noumenale wereld is dat Ruttens wereld voor ons Kants beide werelden als het ware omvat. Dat betekent dat we binnen de wereld voor ons nog gerechtvaardigd zijn iets te zeggen over de noumenale wereld van Kant binnen de wereld voor ons. Voor Rutten is de zintuiglijke ervaring dan ook niet de enige bron van ‘kennis’. We hebben binnen de wereld voor ons ook ‘transcendentale’ inzichten in zijn noumenale wereld. Maar Rutten houdt Kants onderscheid vast tussen een wereld zoals wij die denkend voorstellen en een wereld ‘achter de gordijnen’, waarover we niets kunnen zeggen. Kennis is een term die Rutten vervangt door ‘gerechtvaardigd geloof’. Hij onderscheidt twee soorten van geloof: beslissend en niet beslissend gerechtvaardigd geloof. Het PNC is een oordeel dat we volgens Rutten beslissend gerechtvaardigd zijn te geloven. Het is de meest zekere waarheid omdat het ontkennen ervan ingaat tegen ons bestaan.

Rutten wil zo zowel de metafysica redden van ‘de sloophamer’ van Kant als ook met Kant meegaan dat er een wereld-op-zich bestaat, die voor ons onkenbaar is, die achter de verschijningsvormen verscholen blijft. Kennis van deze werkelijkheid is onmogelijk.

Waarom moet die ‘wereld op zich’ (bij Kant de noumenale wereld) bestaan? Dat is een vraag die net zo lastig te beantwoorden is als de vraag waarom een schepping een Schepper nodig heeft. Het lijkt op de vraag waarom een ‘intelligente sociale robot’ een wezen zou moeten zijn dat werkelijk, als persoon, bestaat. Ik kan niet anders hierbij denken dan: er moet iets buiten ons denken bestaan, iets dat niet door dat denken zelf bestaat, anders is er voor wat we allemaal bedenken geen redelijke grond. De werkelijkheid die vreemd is aan het denken zelf is de oorzaak van de verwondering, de bron van de filosofie. Je zou dus kunnen zeggen dat die ‘wereld in zich’ onze (Kants, Ruttens) (filosofische) bestaansgrond is.

Dat het zijn van God diens bestaan noodzakelijk insluit kan alleen op indirecte manier bewezen worden. Een direct bewijs kunnen we niet geven.

Kant’s kritiek op de klassieke metafysica

Kants kritische filosofie maakte een eind aan alle theoretische, metafysische, speculaties over het bestaan van God en een werkelijkheid buiten ons. Onze verstandelijke vermogens geven ons toegang tot de fenomenale wereld die we kennen door middel van de zintuiglijke waarneming en die we met onze verstandelijke vermogens tot stand brengen. De werkelijke wereld, de noumenale werkelijkheid, kennen we niet. Voor Kant is God een ‘regulatief idee’ voor de praktijk. Zonder God zou er geen moraal zijn. Zonder morele grenzen aan ons handelen zou er geen vrijheid zijn. Dit is geen kwestie van weten, maar van geloven. De godsidee is voor Kant een noodzakelijk grensbegrip. Je kunt er niet om heen. En dit geldt eigenlijk ook voor zijn idee van de noumenale werkelijkheid. Die moet er wel zijn. Maar het lijkt slechts een formaliteit.

Hegel had problemen met de opvatting van Kant dat de objectieve werkelijkheid door het verstand op grond van aangeboren schema’s van tijd en ruimte geconstrueerd zou worden. Er moet toch iets in de natuur zelf zijn op grond waarvan de mathematische natuurwetenschap een wetenschap van de natuur is en niet louter van de mathematische structuren die ons verstand er aan toekent. Volgens Hegel gaat ook de wiskunde wel degelijk over de werkelijkheid, weliswaar niet over de ervaren werkelijkheid als zintuiglijk, maar wel over de kwantitatieve bepaaldheden ervan. Weliswaar komen wiskundige objecten zoals getallen en driehoeken niet als zodanig in de waarneembare werkelijkheid voor, de werkelijkheid kent wel ruimtelijke vormen, eenheden en veelheden. Objecten die de wiskunde als tekens gebruikt om op eenzinnige wijze zijn objecten voor te stellen om er mee te rekenen. Dat machines kunnen rekenen, dat is wel degelijk op grond van een natuurlijke kwaliteit van de werkelijkheid. Zonder die kwaliteit zou de mens niet kunnen rekenen: hij heeft eenzinnige tekens nodig, tekens die hun betekenis hebben in het gebruik.

Hegel stelt zich weliswaar ook kritisch op tegenover het rationalisme van Descartes, maar uiteindelijk lijkt hij Anselmus’ argument toch acceptabel te vinden, doordat hij het onderscheid tussen denken en zijn weer ‘opheft’ in de Absolute Geest.

De grote truc van Emanuel Rutten

Emanuel Rutten opent in een kritiek op Kant de mogelijkheid om als moderne mens, geworpen in een wereld die inmiddels bewoond wordt door ‘denkende machines’ weer metafysica te bedrijven. (“Wat is er met de taal gebeurd” vraagt Heidegger in zijn essay over Hebel, der Hausfreund.) De oplossing voor het probleem van de kloof tussen denken en zijn, de onmogelijkheid over transcendente zaken zoals God, zinvol te spreken, is het idee van de ‘wereld-voor-ons‘.

In die wereld-voor-ons zijn denken en zijn direct op elkaar betrokken. Het zijn is het zijn-voor-ons. “Wij zijn hermetisch opgesloten in de wereld-voor-ons.” (Contra Kant, p.85). Zoals de taalgenererende machine zoals ChatGPT opgesloten zit in de wereld van de taal. Het zijn zoals we dat ervaren en denken is logischerwijs isomorf (gelijkvormig) met precies ons denken. Er bestaat een innige intimiteit tussen denken en zijn. Het contrast tussen denken en zijn is in de wereld-voor-ons opgeheven omdat het zijn zijn-voor-ons is. Het neo-platoonse parallellenpostulaat impliceert dat bij iedere tegenstelling (contrast) in het denken een contrast is in het zijn. Dus, omdat er contingente zijnden zijn, zijn er ook noodzakelijke zijnden. Dit is ‘de premisse van de harmonie van contrasten’. Deze maakt dat een ontologisch argument in de geest van Anselmus direct weer binnen bereik komt. “Maar dan wel in de wereld-voor-ons.”

Zo keert het hele klassieke wereldbeeld van Parmenides, Plato, Aristoteles (Rutten slaagt er in de wereldbeelden van deze twee met elkaar te verzoenen) en de neo-platonisten, zoals we die altijd al gekend hebben, weer terug. (p. 220). Metafysica mag weer van Rutten, zodra we ons maar realiseren dat het binnen de wereld-voor-ons is.

De sprong van het zuiver denken naar het zijn is in het denken binnen de wereld-voor-ons legitiem, op grond van onze intuïtie. De transcendente vorm van iets dat wij helder kunnen denken is identiek aan het zijn in de wereld-voor-ons. Volgens de neo-platonist is bijvoorbeeld de Eiffeltoren zoals wij die denken wel degelijk van ijzer. Het verschil tussen de echte Eiffeltoren en die wij in gedachten hebben is niet dat de ene wel, de ander niet van ijzer is, het verschil is dat de echte in materie verwerkelijkt is. Materieel bestaan lijkt zo een formele, inhoudsloze toevoeging te zijn aan het zijn. Dit betekent dat er voor iedere individuele entiteit een complete vorm bestaat. Het materieel zijn is immers geen grond voor een inhoudelijk verschil tussen twee exemplaren van de zelfde soort. Dat verschil is slechts ruimtelijk.

Verwart Rutten hier niet het fysisch compositum (vorm-materie), wat als compositum een derde is, met het metafysisch ‘compositum’ (essentie-existentie) ?Vorm-materie is een relatieve tegenstelling: ijzer is een bepaalde vorm van materiaal. Materie als principe is het onbepaalde, materia prima. De vorm is het bepalende. De verwarring doet alsof vorm de ware essentie is en de realisatie in iets materieels zorgt voor het echte bestaan. Anderzijds geldt voor Rutten: God bestaat niet materieel, niet fysisch, maar metafysisch.

Dat geen mens de waarheid in pacht heeft. Dat geen mens kan claimen de werkelijkheid te kennen (zoals deze ‘in zich’ is). Dat is mij een sympatieke gedachte. Maar wat is die wereld-voor-ons nou eigenlijk, die wereld die Rutten als door een goocheltruc uit zijn mouw lijkt te toveren? Wat of wie is dat ‘ons’, voor wie die wereld de wereld is? Van wie is die kennis die kennis is van het zijn-voor-ons? Hoe komen al die individuele denkers tot een gemeenschappelijke wereld-voor-ons? Roept de gedachte van een ‘wereld-voor-ons’ niet onmiddellijk de gedachte op van nog een onderscheid tussen de wereld-voor-ons als de objectieve werkelijkheid waar we als denkend subject weer een voorstelling van maken; een wereld-voor-ons-voor-ons? (Denk aan (de afbeelding van het Drosteblikje op) het Droste-blikje). Hier blijkt weer het probleem voor het denken: de relatie als relatie te denken. De hand die zichzelf tekent (Escher) heeft zichzelf niet getekend.

Moeten we niet eerder spreken van werelden-voor-ons? Wat zich in de wereld afspeelt is onenigheid, oorlogen, conflicten, verschillen van mening. Er zijn verschillende religies elk met hun eigen goden. Is tegenover al die onenigheid het spreken over een wereld-voor-ons meer dan een loze kreet?

Anderzijds zijn we als individuele mens vanaf het begin al mede-mens, mens-voor-anderen, gevormd in gemeenschap. Onze taal is geen privé-taal die we vervolgens nog eens moeten afstemmen met die van de anderen. Datzelfde geldt voor al ons gedrag, voor wat we normaal vinden. Het menselijk subject is subject voor een ander subject, intersubjectiviteit. Het ‘ik’ in het ‘ik denk’ is in de filosofie niet het individuele toevallige concrete ik, zonder meer, maar het wij. In die zin moeten we ook het ‘ons’ verstaan in Ruttens ‘wereld-voor-ons’.

Het blijft echter een raadsel hoe die ‘wereld-voor-ons’ een wereld ‘voor ons’ is. Is het bestaan van een ‘wereld-voor-ons’ niet net zo problematisch als het bestaan van de noumenale wereld van Kant of van de wereld-op-zich van Rutten?

De Petter gaat in zijn ‘Metafysisch karakter van het godsbewijs’ in op de bezwaren die de fenomenologische bewustzijnsleer heeft op het aanvaarden van het ‘metafysisch godsbewijs’. De Petter beantwoordt de fundamentele metafysische vraag: wat is eigenlijk ‘zijn’? als volgt. “Zijn” is de akt waardoor ieder zijnde integraal intrinsiek geconstitueerd wordt, onafhankelijk van ons bewustzijn van deze zijnden. Deze onafhankelijkheid ten overstaan van het bewustzijn is volgens De Petter “een noodzakelijke vooropstelling voor het Godsbewijs, vermits de Godsbevestiging in zekere zin overbodig zou worden indien het bewustzijn zelf de zijnden dezer wereld kon funderen.” (De Petter, 1964, p. 159).

Vanaf Husserl wordt de verhouding van bewustzijn tot de wereld gezien als funderend en constituerend. Maar is dan de wijze waarop het bewustzijn betekennissen toekent aan de zijnden volstrekt willekeurig, onafhankelijk van de zijnden zelf? “De enige zin die het woord ‘zijn’ voor de fenomenologie kan hebben is die van een ‘zijn-voor-mij’ of van een ‘zijn-voor-ons’ in de intersubjectiviteit. Het zijn zelf op zich genomen, onafhankelijk van het bewustzijn, wordt, met Kant als apert contradictorisch beschouwd.” (De Petter, 1964, p. 160).

“Het op-zich-zijnde wordt dan inderdaad het zijnde-zoals-het-is-wanneer-men-het-niet-kent. Het is het bij definitie ondenkbare en dehors de la pensée in de eigenlijke zin genomen.” (p. 161).

Het bewustzijn heeft volgens dit fenomenologisch representationalisme geen enkel direct contact met het op-zich-zijnde. Iedere vorm van realisme wordt daarmee afgewezen.

Het gaat om de relatie tussen de ‘gelovige’ of ‘ongelovige’ individuen en de gemeenschap (‘ons’). Waarom zouden er argumenten aangevoerd moeten worden, discussies gevoerd, wanneer het al duidelijk is wat die wereld-voor-ons is? Is het bestaan van een wereld-voor-ons niet net zo problematisch als het bestaan van een ‘objectieve werkelijkheid’? De vraag raakt ook het bestaan van taal als verwoording van de werkelijkheid. Hoe komt de betekenis van de taal tot stand?

Het ‘semantisch argument’

Het nieuwste boek van Rutten bevat een leuk hoofdstuk over de taal en de betekenis van woorden: Hoofdstuk 4: De taal wijst ons de weg, waarin hij zijn ‘semantisch argument’ voor het bestaan van God presenteert.

In een interview met Robin Atia in het tijdschrift Filosofie (26 febriuari 2024) zegt Rutten daarover:

‘Ik ben erg te spreken over het semantisch argument in mijn nieuwe boek, dat is misschien wel mijn beste tot nu toe. Dat gaat als volgt. De enige wereld die wij ervaren en waarover we kunnen denken is de wereld zoals die door ons wordt geïnterpreteerd: de wereld-voor-ons. De wereld-voor-ons is gestructureerd door taal. Dat betekent dat taalanalyse inzicht kan bieden in de structuur van de wereld-voor-ons: taalanalyse is metafysica.”

“In het semantisch argument kijk ik naar taal en hoe de betekenis van woorden samenhangt met de verwijzing van woorden. Vervolgens toon ik stapsgewijs aan dat er geen universele eigenschappen bestaan. Dan denk je misschien: so what? Maar als er werkelijk geen universele eigenschappen zijn, dan is de eigenschap “materieel zijn” ook niet universeel. Dan moeten er dus immateriële, niet-stoffelijke objecten zijn. Zo kun je doorgaan: je krijgt noodzakelijke objecten, je krijgt oneindige objecten, je krijgt vrije objecten – de vrije wil komt terug. Je krijgt in feite een klassiek wereldbeeld, zoals we het altijd al gekend hebben. Een wereldbeeld waarin God bestaat. Om dit argument te weerleggen moet je ontkennen dat taal betekenis heeft. Je moet een betekenis-nihilist worden.’ “

Dat is wat ik inderdaad ontken. Taal zo abstract opgevat, een woord zo abstract opgevat heeft geen betekenis. De taal zoals Rutten die opvat is een abstractie van de taal zoals we die als mensen gebruiken en die inen door dat gebruik in een gemeenschap ontstaan is en zich ontwikkelt. Betekenis van woorden en zinnen bestaat niet buiten het gebruik. Het is de spanning die er bestaat tussen de taal die we kennen, de woordenschat en het concrete gebruik die de werkelijkheid van de taal uitmaakt. Rutten heeft een heel afstandelijke kijk op taal, een kenmerk van zijn mathematiserende, formalistische houding.

Het begin van het hoofdstuk leest als een kritiek op Wittgenstein: “De wereld is een geheel van objecten”. “Alles wat bestaat is een object.”Object zijn is geen eigenschap.” Anderzijds: “er bestaat een hechte parallellie tussen taal en wereld.” Met name zijn idee van de verwijzingsverzameling, die de vereniging (en niet de doorsnede, dat noemt Rutten de referentieverzameling!) is van de verzamelingen die de referenties zijn van de elementaire basisbegrippen van een samengesteld woord, is verrassend. De referentie van het concept ‘vierkante circel’ is de lege verzameling, maar de verwijzingsverzameling is de vereniging van de referentieverzamelingen van ‘vierkant’ en van ‘circel’. Rutten argumenteert in dit hoofdstuk dat ‘er geen universele eigenschappen bestaan’. Daarvoor is het van belang dat bestaan geen eigenschap is. De mededeling dat iets bestaat voegt volgens Rutten, geen informatie toe aan de kennis van dat iets. Voor geen enkele eigenschap X geldt ‘Alles is X’. Er is dus volgens Rutten geen ‘Theory of Everything’ mogelijk. Dit wijst er volgens Rutten redelijkerwijs op dat de wereldgrond een bewust, vrij, geestelijk wezen is. Een wereldgrond die met recht ‘God’ genoemd kan worden. Ergo: God bestaat.

Materieel zijn is wel een eigenschap. Anders dan bestaan. Bestaan is geen eigenschap omdat alles bestaat en het dus niets toevoegt aan je kennis als je zegt dat iets bestaat. Maar dat geldt dus niet voor materieel zijn. Omdat er geen universele eigenschappen zijn, moeten er dus zijnden zijn die niet materieel zijn. Is dit geen cirkelredenering?

Ook Wittgenstein was religieus. Hij geloofde in een God, maar vond dat je er niet over kon spreken. Daarvoor komt de taal woorden tekort. Rutten is natuurlijk vrij om te definiëren wat een eigenschap is. Die vrijheid neemt hij ook. Maar zijn bijdrage zou een stuk helderder zijn wanneer hij motiveert waar en waarom hij afwijkt van opvattingen van anderen die hier over nagedacht hebben.

De argumenten die Rutten in zijn nieuwste boek (verschenen in 2023) verzameld heeft zijn niet allemaal nieuw. Op tpo.nl schreef Stefan Buijsman in 2016 Over het semantisch argument van Emanuel Rutten. Rutten gaat niet in op de tegenvoorbeelden die Buijsman geeft van Ruttens stelling dat de betekenis van twee termen gelijk is wanneer ze dezelfde verwijzingsverzameling hebben. Een stelling die cruciaal is in Ruttens argument, maar die hij niet bewijst. Het gaat bij de tegenvoorbeelden kennelijk om eigennamen. De achterliggende vraag is of eigennamen uniek identificeren. Er zijn meer hondjes die Fikkie heten en sommige zaken of personen staan bekend onder verschillende namen, zoals ‘Samuel Clemens’ en ‘Mark Twain’. Uniek identificerende namen (de ‘rigid designators’ van Samuel Kripke) komen alleen in de wiskunde voor. Zit het mathematiserende denken de wiskundige-filosoof Rutten misschien dwars en bedrijft hij niet ook een geheel eigentijdse mathemathische ‘metafysica’ in de traditie van Descartes en Kant?

Voor Kant was het bestaan van God een postulaat van het praktische verstand. Zijn regulatieve idee is een soort van contrafactisch postulaat dat constituerend is voor de praktijk, waarin het gaat om het verwerkelijken van het ideaal van de vrije, autonome mens. Wie het verslag van Ruttens moeizame reddingswerk, waarmee hij de metafysica weer onder ‘de sloophamer van Kant’ vandaan heeft gehaald, doorploegt, wordt besprongen door de praktische vraag: wat moeten we hiermee? Wordt de wereldvrede hiermee een stap dichterbij gebracht? De gedachte aan Wittgensteins woorden in het voorwoord van zijn Tractatus dringt zich op. Hij meende wel alle problemen opgelost te hebben, maar realiseerde zich dat daarmee niets gewonnen is. Hij deed zich vervolgens jarenlang het zwijgen toe.

Iedereen is vrij om te geloven wat hij denkt dat goed is. Over wat goed is om te doen doet ook de filosoof Rutten, evenals Kant (‘goed is wat je denkt dat iedereen zou moeten doen’) en Moore (‘je kunt niet zeggen wat het goede is’) en zovele andere filosofen geen concrete uitspraak.

De filosoof probeert al denkend de weg te gaan die de identiteit van denken en zijn herstelt. Het denken dient het begrijpen, het tot begrip brengen van de werkelijkheid. Het ideaal van het absolute weten dat door Hegel, de grote filosoof van de geschiedenis, werd uitgedrukt in zijn idee van de Wereldgeest.

Die geschiedenis waarin de Weltgeist zich ontplooit, is tot begrip gekomen. De ontwikkeling van de geest tot de Absolute Geest van Hegel is inmiddels ontmaskert als de ontwikkeling van de Technische Idee, de strijd om de vrijheid als een technisch project (zie Hollak: Betrachtingen über das Wesen der heutigen Technik).

Was vernüftig ist, das ist wirklich, und was wirklich ist das ist vernünftig.”

(Hegel, Enzyklopädie, Grundlinien der Philosophie des Rechts). Hoe moeten we dit verstaan? Een interpretatie in het licht van Jan Hollaks “Van Causa sui tot Automatie”, en “Hegel, Marx en de Cybernetica” is dat het de uitdrukking is van het geprojecteerde doel van de technologie, de eenheid van denken en zijn, in die zin dat fysische processen denkprocessen realiseren.

We zijn heden ten dage getuige van een verafgoding van de technologie, een technocratie, een eschatologie van de AI. Een verafgoding van de mens als autonoom constructief wezen, dat zichzelf in zijn evenbeeld in de uitwendige vorm van de kunstmatige intelligentie aanstaart. Er is sprake van ‘AI Theologie’. Parallel daarmee zien we een theocratie, gebaseerd op geperferteerde godsideeën die leiden tot oorlogen om het grote gelijk van de verschillende godsdiensten.

Over die ‘geperferteerde vormen van de godsidee’ schrijft Hollak in zijn Enige beschouwingen over de eigenaard van het godsbewijs. “Zo’n godsidee wordt in een politieke theologie gefunctionaliseerd tot middel in een strijd om een volmaakte menselijke samenleving waarbij beide (zijden) niet zien dat zij daarmede op hun beurt eenzelfde fout begaan door aan eindige waarden een absolute betekenis toe te kennen: de volmaakte mens, respectievelijk de volmaakte samenleving, niet als nastreefbaar ideaal, maar als bereikbaar objectief idee.” (Hollak, Denken als bestaan, p. 413)

Zien we in de historische degradatie van Het Beloofde Land tot ‘der Judenstaat’ Israël niet een treffend voorbeeld van hoe een na te streven ideaal wordt verward met een door middel van technologische oorlogvoering bereikbaar objectief idee? Gevolg van een geperferteerd godsidee.

Net zo min als de door de machine gegenereerde teksten op zich werkelijkheidswaarde hebben, zo is die hele epistemologisch-modale argumentatie slechts een formele machinerie die geen werkelijkheidswaarde heeft. Het gaat slechts formeel over het bestaan. Daarom mist het ook elke overtuigingskracht voor wie niet gelooft. De religieuze geloofsgetuigenis is voorondersteld. Zoals Rutten zelf zegt: “Formele epistemische methoden verduisteren namelijk de concrete aard en functie van het religieus geloof.”

Het is goed dat de filosofie blijft proberen zich aan de voorstellingen van traditionele godsbeelden te ontworstelen zodat er ruimte komt voor een open dialoog over dat waar het ons werkelijk om te doen is.

Ik heb vele jaren gewerkt aan de constructie van ‘denkende machines’, van machines waarmee we een gesprek in onze eigen taal zouden kunnen voeren. Ik ben deze aktiviteit steeds meer – terwijl ik er druk mee bezig was – gaan zien als de weg om helder te krijgen waarom dit onmogelijk is. Misschien moeten we de pogingen het bestaan van God te beargumenteren ook wel zo opvatten, om helder te krijgen waarom het niet werkt. Omdat je zo gefocust op het object van het werk, je de achtergrond op basis waarvan het werk mogelijk is, niet in het oog krijgt. Het is als de ruiter die het paard zoekt, terwijl hij er op zit.

Terug naar het begin

We begonnen met de vraag:

Kan men redelijkerwijs de vraag stellen of God bestaat en verlangen naar een bewijs of argumentatie als antwoord op deze vraag?

Rutten presenteert in zijn nieuwste boek verschillende argumenten voor het bestaan van God. Het meest slanke Godsbewijs is het ontologisch Godsbewijs van Anselmus. Volgens Kant en ook Hollak bevat het de kern van ieder Godsbewijs. Het in Ruttens hoofdstuk over Plato’s De Sofist gepresenteerde argument is gebaseerd op een “buitengewoon laagdrempelig begrip van bestaan. Iets bestaat dan en slechts dan als het mogelijk is.”

We stelden: In de vraag over het bestaan van God gaat het over de relatie tussen de voorstelling van een volmaakte werkelijkheid en het bestaan van die werkelijkheid dat van die loutere voorstelling onderscheiden wordt en dat die voorstelling slechts voor een mogelijkheid houdt.

Rutten: “De vraag is niet of God bestaat. Natuurlijk bestaat God. Over God kan zinvol gesproken worden en dus moet God bestaan. De vraag is of God potentieel of aktueel bestaat.” Anselmus was er ook van overtuigd dat God bestaat. Zijn vraag was of God alleen in het verstand (als een voorstelling) bestaat of in werkelijkheid. Volgens Rutten gaat het in beide Godsbewijzen om een analoog onderscheid. Wat betekent dat voor de verhouding tussen de beide relata? Tussen potentieel zijn en in het verstand zijn enerzijds en tussen aktueel zijn en in werkelijkheid zijn anderzijds? En: wat is eigenlijk zinvol spreken over God?

In dit stukje, geinspireerd door Ruttens nieuwe hedendaagse pogingen overtuigende argumenten te geven voor het bestaan van God, heb ik geprobeerd de relatie te leggen met de technologie. De poging van de technische mens om het denken in fysisch processen te verwerkelijken. Voorzover hij daarin slaagt – sommige mensen kennen de sprekende machine al bewustzijn toe en zien de sociale robot als persoon – lijkt de identiteit van denken en zijn verwerkelijkt. Door een project dat uitgaat van een technisch idee in het verstand uitgedacht en dat vervolgens in de werkelijkheid tot werkelijk bestaan komt. Het gaat hier echter om een uitwendige objectivatie.

Wanneer we van denken spreken als we het over ‘denkende machines’ hebben dan bedoelen we daarmee altijd het ‘intentionele correlaat’ van ons denken, zegt Hollak. De machine heeft geen bewustzijn, hij kan niet echt denken. De informatietoestanden van de machine zijn door ons bedachte toestanden, elementen van een mathematische structuur. Zoals de woorden en teksten die de machine genereert elementen zijn van een mathematische structuur. Ze lijken op de ‘echte woorden’ omdat wij er die vorm aan gegeven hebben. De identifiers die we gebruiken om de mathematische objecten van de formele modellen van de taal komen overeen met de woorden van de taal die we ermee modelleren. Opdat deze woorden en teksten in ons gebruik van de taal functioneren. Niet de machine, maar wij geven de woorden weer hun betekenissen. Zonder de mens voor wie de machine machine is, is deze slechts een fysisch betekenisloos proces. De ‘zelfstandigheid van de machine’ is, hoe ‘intelligent’ ook, een relatieve zelfstandigheid, die het denken van de mens voorondersteld en daarvan afhankelijk is.

De vraag die bij mij blijft hangen is of die ‘analogie’ waar Rutten van spreekt tussen enerzijds potentieel versus aktueel zijn en anderzijds slechts in het denken versus in werkelijkheid bestaan niet het gevaar in zich bergt, of teken is, van mathematisme, het vereenzelvigen van de structuur van de werkelijkheid met het zijn zelf. Dan zou Ruttens redding van de metafysica onder ‘de sloophamer van Kant’ neerkomen op het herstel van het rationalisme van Leibniz en het empirisme van Hume, die beide de feitelijke stand van zaken, dat is het bestaan van iets, voor iets contingents houden, (feiten hadden ook niet kunnen zijn), en het verwarren met het zo of anders kunnen zijn. Ook Hegels absoluut idealisme is een ‘terugval’ naar het mathematisch rationalisme van Leibniz. Zowel in het denken van God als in het denken van Rutten vallen werkelijkheid en redelijkheid samen, omdat hij het zo wil.

Waarom is er vaak zoveel aversie tegen de ‘religieuzen’?

Zowel Hollak (in: Enige beschouwingen…), zie het citaat hierboven, als De Petter (in: Metafysisch karakter …) bieden een ‘verklaring’ voor de aversie die de religieuzen bij veel mensen oproept.

Typerend voor de religieuzen die er een godsidee op na houden op grond waarvan ze moeten getuigen en die hun inspireert in hun individueel en sociaal gedrag is de uitspraak van een Yehova-getuige: “En God zei terecht dat het goed was.” De aanmatigende houding die tot uitdrukking komt in dit oordeel laat zien dat God door deze religieuze getuige de maat wordt genomen. God wordt een breekijzer, een hefboom om de eigen visie op de werkelijkheid te legitimeren. De religieuze mens staat vaak aan de kant van de gegoede burgerij die tevreden is met de status quo. Zoals De Petter schrijft: “Men kan bezwaarlijk ontkennen dat God door diegenen die zijn bestaan bevestigen en van zijn invloed op hun levenswijze getuigen, niet zelden werd voorgesteld als de behoeder van de gevestigde orde, die daarom als noodzakelijk en onveranderlijk beschouwd werd en van dewelke de mens slechts kennis zou hebben te nemen om er zijn leven mee in overeenstemming te brengen.” (De Petter, 1964, p. 158). Deze houding behoort zeker niet tot het verleden.

Bezwaren van de gelovige tegen het Godsbewijs

Niet alleen de atheïst heeft bezwaren tegen het Godsbewijs, ook de religieuze mens heeft die. Hierboven heb ik al het principiële punt genoemd dat zo’n bewijs helemaal niet nodig is en zelfs zinloos is voor degene die gelooft in een God en dat geloof meent te kunnen baseren op een direct inzicht in zijn bestaan.

Voor De Petter is het Godsbewijs geen bewijs in de zin dat “binnen één en dezelfde wereldorde” vanuit iets bekends de weg gevonden wordt naar het voorlopig nog onbekende. (De Petter, 1964, p. 164). Hij doelt hiermee kennelijk op een formeel-logische afleiding binnen een mathematische orde. Voor de De Petter is ‘op de keper beschouwd’ het Godsbewijs “niets anders dan een zekere lezing van de zijnden dezer wereld, een metafysische namelijk, waarbij in deze zijnden zelf een volstrekte eis van het bestaan van God ontdekt wordt, een eis die ons vanuit de zijnden dezer wereld op het absolute richt en het ons doet viseren.” Hij gebruikt deze nuchtere terminologie voor ‘het betreden van het geloof in een religieus leven’ tegenover het gebruik van termen als ‘uittreding’ naar een andere ‘wereld’ toe, zoals die door religieuzen wel wordt gebezigd.

De behoefte aan een Godsbewijs is een menselijke behoefte die voortkomt uit zowel een gebrek als uit een geloof. Het geloof vereist voor de mens, om authentiek te zijn, volgens De Petter, een redelijke verantwoording. Zonder die verantwoording zou het religieuze leven geen zin hebben, aldus De Petter. De Godsidee kan voor ons geen betekenis hebben dan ‘op een gemediatiseerde wijze’.

Niet in het gratuïete karakter van de wereld der dingen (zoals een fysicistische denkhouding doet geloven), maar in het besef van de menselijke zelf-ervaring, in de menselijke vrijheid, in de mens als persoon zijn, vindt het religieuze haar fundering. De religieuze mens ervaart deze vrijheid als hem voortdurend geschonken, het vindt geen fundering in zichzelf. Volgens De Petter is dit ook de grond van het zedelijk karakter van de vrijheid: niet doen wat je maar wil, maar willen wat je moet doen.

Het geloof in de kracht van het constructieve, logische denken waaraan de hedendaagse Godsbewijzen, zoals die door Rutten in zijn boek worden gepresenteerd, hun betekenis ontlenen, is een uiting van het technocratisch, constructief-mathematische karakter van de ‘moderne’ ‘west-europese’ tijd en cultuur waarin we momenteel leven. De metafysica van deze tijd is nog steeds wezenlijk mathematisch. Dat zelfde geloof vinden we terug in het vertrouwen dat de moderne mens heeft in de mogelijkheden van de kunstmatige intelligentie.

Het bestaan van de robot nodigt ons uit de oppositie tussen ding en persoon zijnde een oppositie tussen de zijnden die hun zijn buiten zichzelf hebben en de zijnden die hun zijn in zichzelf uitoefenen, opnieuw te overdenken. Wat kunnen we leren van de robot over wat we zijn?

Bronnen en noten

B.A.M. Barendse o.p. (1968). Thomas van Aquino, een geloof op zoek naar inzicht. Het Wereldvenster, Baarn, 1968.

B.A.M. Barendse o.p. (1982). Zich door het leven heendenken: keuze uit het werk van Prof. dr. B.A.M. Barendse o.p., in leven bijzonder hoogleraar in de Thomistische wijsbegeerte aan de Universiteit van Amsterdam. Uitg. J.H.Kok – Kampen.

In deze bundel het essay Intersubjectief verkeer en lichamelijkheid, een belangrijke referentie voor de metafysische notie ‘relatieve oppositie’. Bij Aristoteles is het een van de vier types oppositie: de oppositie tussen correlatieven, zoals geheel en deel, ouder en kind. (Zie ook voetnoot 198 in Fleischhacker, Beyond Structure.) Volgens Barendse is de ervaring van een onderscheid tussen subject en object, kenner en gekende, een gebrek van de kennis, wiens wezen de zijns-eenheid is: “het is een en dezelfde aktualiteit die zowel het kennen als het gekend worden fundeert.” (p. 76).

“De eenheid der zijnden begint zich aan ons te vertonen in de concrete gestalte van een gemeenschap; het zijn gaat zich openbaren als een mede-zijn; de aktiviteit waarin het zijn zich uitoefent is het intersubjectief verkeer; en in dit verkeer heeft de eventuele lichamelijkheid zin als communicatie-middel.” (p. 80)

Wij communiceren tegenwoordig met sociale robots, met machines, die we voor echte personen houden. Wat betekent dit voor de filosofie van de intersubjectiviteit?

Theo de Boer (1980). Grondslagen van een kritische psychologie. Uitg. Ambo b.v. Baarn.

Het postulaat van de rationaliteit is dat de mens persoon, dat is: verantwoordelijk en toerekeningsvatbaar is. In de Metaphysik der Sitten definiëert Kant persoon als ‘dasjenige Subjekt, dessen Handlungen einer Zurechnung fähig sind.” We gaan er bij de interactie met de ander – contrafactisch – vanuit dat deze bereid is rekenschap af te leggen van zijn handelen, dat hij de normen die hij in acht neemt gerechtvaardigd acht en desgevraagd bereid is deze te verdedigen. Dit is een onderstelling die we moeten maken wil er van echte dialoog en communicatieve praxis sprake zijn.” (p. 86)

De rationele zinsamenhang is impliciet en hoeft niet bewust en expliciet in een gesprek aan de orde te zijn. Je kunt het er later over hebben omdat deze impliciet aanwezig wordt verondersteld.

“De rationaliteit is constitutief voor ons bestaan.” (p. 88)

Een postulaat is contrafactisch als we ervan uit moeten gaan totdat het tegendeel blijkt, en dan nog zullen we er aan willen vasthouden.

Contrafactische principes zijn principes die we moeten voor-onderstellen, maar die tegelijkertijd vragen om verwerkelijking. (p. 101).

Het is een contrafeitelijke anticipatie waar we van uit gaan en aan werken. Anders dan een postulaat in de wetenschap, waar “de spanning tussen het factische en contrafactische element ontbreekt”. (p. 101)

Habermas (1971, p. 140): “Das normative Fundament sprachlicher Verständigung ist mithin beides: antizipiert, aber als antizipierte Grundlage auch wirksam.”

J. Habermas, (1971), Vorbereitende Bemerkungen zu einer Theorie der kommunikativen Kompetenz, 1971.

René Descartes (1968). Discourse on method and the meditations. Translated by F.E. Sutcliffe. Penguin Classics, 1968.

Jan H.A. Hollak (1984). Enige wijsgerige beschouwingen over de eigenaard van het godsbewijs. In Wijsgerig perspectief op maatschappij en wetenschap (24) 1983-84, pp. 181-186. Ook opgenomen in de bundel Denken als bestaan – het werk van Jan Hollak, Petra Hollak en Wim Platvoet (red.). Uitgeverij DAMON, Budel, 2010.

Hans Küng (1978). Bestaat God? Antwoord op de vraag naar God in deze tijd. Gooi en Sticht b.v., Hilversum, 1978. Oorspronkelijke titel: Existiert Gott?

Emanuel Rutten (2014). A modal-epistemic argument for the existence of God. In: Faith and Philosophy 31 (4): 386-400 (2014).

God wordt door Rutten gedefinieerd als de (unieke) persoonlijke eerste oorzaak van de gehele werkelijkheid. Het argument heeft twee aannames: 1) al het mogelijke is kenbaar 2) het is onmogelijk te weten dat de bewering dat God niet bestaat waar is. Uit deze twee volgt dat de bewering dat God bestaat noodzakelijk waar is. Want als het niet noodzakelijk waar was dat God bestaat, dan zou het mogelijk zijn dat God niet bestaat. Maar dan is volgens de eerste premisse het kenbaar dat God niet bestaat, hetgeen in strijd is met de tweede premisse. Het is essentieel dat het niet onredelijk en daarom niet onmogelijk is te weten dat God wel bestaat. Anders zou de tegengestelde uitspraak: dat God niet bestaat, even plausibel zijn.

Rutten beargumenteert waarom de beide premissen geldigheid hebben. Premisse 1 is klassiek, met dien verstande dat het hier over alle mogelijke werelden gaat en alle mogelijke agenten met kenvermogens, niet per sé mensen. Deze premisse zegt dus dat er voor elke bewering wel een wereld bestaat waarin deze waar is terwijl er een agent bestaat, niet noodzakelijk in die wereld, die weet dat deze waar is. Niet in elke wereld hoeft alles wat waar is ook bekend te zijn in die wereld. Premisse 2 volgt daaruit dat geen van de vier mogelijke kennisbronnen: logisch bewijs, intuïtie, ervaring en getuigenis de kennis kan leveren dat God niet bestaat. Dit modaal-epistemologische argument is volgens Rutten een nieuw argument voor het bestaan van God dat verschilt van andere argumenten, zoals het ontologisch, het kosmologisch of het teleologisch argument. Bovendien is het niet fenomenologisch zoals het esthetisch of moreel argument voor het bestaan van God.

In de interpretatie die Rutten van premisse 1 geeft is deze een tautologie. Je kunt geen beweringen verzinnen die niet door iemand als waar gekend kan worden. Dit lijkt op het absoluut idealisme van Hegel: het werkelijke is redelijk en het redelijk is werkelijk, waarvan Jan Hollak zegt dat dit een verabsolutering is van de concrete identiteit van realiteit en idealiteit die Hegel er toe bracht het ontologisch argument te accepteren. Daarmee viel Hegel volgens Hollak “terug op het niveau van het rationalisme dat hij juist had willen overwinnen.”

Zie ook het commentaar van Klink.

Bart Klink (2019) Modaal-epistemische problemen repliek aan Rutten op De Atheist

Bart Klink (2019) Intuïtieve dwalingen: een repliek aan Rutten.

“Rutten stelt veel vertrouwen in onze intuïties: “Want het is een algemeen erkend wijsgerig principe dat wij prima facie moeten uitgaan van de waarachtigheid van onze diepste menselijke intuïties totdat het tegendeel voldoende aangetoond is.” Hoe kan een wetenschappelijk geïnformeerde intellectueel als Rutten – vooral na Darwin – zoiets beweren als hij weet dat onze intuïties zijn ontstaan om in groepen op de savanne te overleven? Wie evolutie serieus neemt, zou prima facie juist wantrouwend moeten staan tegenover onze diepste intuïties, vooral wanneer ze gebruikt worden in een domein waarvoor ze niet zijn geëvolueerd.  Waarom zouden onze intuïties bijvoorbeeld betrouwbaar zijn als het gaat over de aard van ruimte en tijd en de bouw van het universum? Voortschrijdend wetenschappelijk inzicht heeft laten zien dat ze dat ook niet zijn, wat evolutionair gezien logisch is. Ik meen dat precies hetzelfde geldt voor de relatie tussen lichaam en geest: het heeft evolutionair geen enkel nut om iets over de neuronale machinerie van het brein te begrijpen die ons geestelijk leven realiseert. Ook hier mogen we dus een wetenschappelijke correctie verwachten van onze intuïtie: de neurowetenschappen en psychologie corrigeren onze volkspsychologische intuïties. Desondanks blijft Rutten naïef op onze intuïtie vertrouwen. “

D.M. De Petter o.p., mag. dr. (1964). Begrip en werkelijkheid – aan de overzijde van het conceptualisme. Paul Brand, Hilversum/Antwerpen, 1964. Een bundel artikelen van De Petter.

In het artikel Filosoferen van de gelovige schrijft De Petter:

“De essentiële vraag blijft nochtans of niet het geloof zelf de mogelijkheid van een authentiek filosoferen in de weg staat.”

Voor de niet-gelovige is volgens De Petter het persoonlijke denken, “het enige middel om tot een persoonlijk verantwoord inzicht te komen omtrent de betekenis van het menselijk bestaan. Vandaar het dramatische en wel tragische karakter van dit denken. Voor de gelovige daarentegen bepaalt de inhoud van het geloof zelf, en vaak van jongsaf aan, de zin van het leven en de ganse geschapen werkelijkheid.” (p. 13)

De gelovige is echter niet zonder meer gelovige, hij wil de redelijkheid van zijn geloof inzien. Of op zijn minst inzien dat het niet onredelijk is te geloven in zoiets als de waarheid.

D.M. De Petter o.p. mag. dr. (1964). Het metafysisich karakter van het Godsbewijs en het hedendaagse denken. In de bundel Begrip en werkelijkheid (1964).

Evenals Hollak is De Petter van mening dat alle Godsbewijzen uiteindelijk wortelen in dezelfde grond die gelegen is in de “onmogelijkheid voor de zijnden die de wereld van onze ervaring uitmaken, en niet minder voor het menselijk zijnde zelf, om rekenschap af te leggen van het feit dat ze zijn, dit zijn dat hen nochtans intrinsiek heel en al constitueert.” Het Godsbewijs zou antwoord geven op de metafysische vraag: “waarom is er iets en niet eerder niets?” (p. 150).

Anders dan bij Heidegger, wordt God door De Petter niet tot de zijnden gerekend. De metafysische vraag kan alleen de zijnden betreffen die wij in onze ervaring gegeven zijn. Van God hebben we geen directe ervaring.

Interessant is De Petter’s bespreking van de kritiek van de fenomenologen op het Godsbewijs. Wat is de grond van het gratuïte karakter van de zijnden? De absurditeit van de werkelijkheid komt daarbij aan de orde. Wie het absurde bevestigt, die heeft de gevolgen daarvan te aanvaarden. Onder meer het einde van de zin van metafysica.

Emanuel Rutten (2023). Datgene waarboven niets groters gedacht kan worden. Acht nieuwe argumenten voor het bestaan van God. KokBoekencentrum Uitgevers, Utrecht, 2023.

Albert Visser (1986). Kunnen wij elke machine verslaan? Beschouwingen rondom Lucas’ Argument. Dit artikel verscheen in 1986 in de bundel Geest, Computers en Kunst, een uitgave van de Stichting Grafiet.

Vissers commentaar op Anselmus Godsbewijs is dat zijn intuïtie hem zegt dat zo’n soort conclusie: het bestaan van God, niet met behulp van zo’n soort argument ‘bewezen’ kan worden.

“Het hele eiereten is dat ‘waarheid’ en ‘bewijsbaarheid’ begippen zijn in termen waarvan we cognitief succes fomuleren, terwijl een formeel systeem je een proces geeft waarmee je eventueel bewijzen kunt produceren. Vergelijk het met een stenenfabriek: aan de ene kant heb je de criteria waaraan een goede steen moet voldoen, aan de andere kant een produktieproces dat zulke goede stenen oplevert. Ook al levert het proces de facto goede stenen, nog steeds zijn ‘goede steen’ en ‘steen geproduceerd volgens het proces’ niet synoniem: we kunnen ons voorstellen dat om een of andere reden die we totaal over het hoofd hebben gezien, het proces plotseling slechte stenen zou gaan opleveren. ‘Goede steen” correspondeert hier met bewijs, ‘proces’met ‘formeel systeem’.

Hier wijst Visser op het wezenlijke verschil tussen het formele systeem, zoals een grammatica of machine, enerzijds en het informele gedoe, de taal zoals we die spreken, ons werken, anderzijds. Het formele systeem heeft alleen betekenis voor ons als formalisering van het inhoudelijke intuïtieve gedoe. De maat is als maat van een andere orde dan dat wat er mee in de realiteit gemeten wordt. De ‘goede steen’ is maat waaraan de goede stenen van de fabriek gemeten worden.

Ook de ideale argumentatie in een formele logica is maat voor de feitelijke argumentatie die we in een argument geven. We kunnen ons best vergissen als we redeneren. We geloven dat we het goed doen. Meer is er niet.

De AI ethics act van de EU is een poging de autonome technologie aan banden te leggen. Kan dat?

“We do not want any mass surveillance in Europe.” (Thierry Breton, EU Commissaris)

Ieder mens wil ‘het goede doen’. Voor hem zelf, zijn familie, zijn onderneming, zijn land en zo mogelijk voor de hele mensheid. Maar dat geldt niet voor iedereen altijd in deze volgorde. Ethiek gaat over wat dat betekent ‘het goede doen’. Het goede doen houdt in ieder geval in dat we de dingen en de ander zo veel mogelijk in hun waarde laten. Welke waarde hechten wij aan de natuur? Welke waarde hechten we aan een mensenleven? Welke waarde hechten we aan de goederen van andere culturen? Aan onze en andermans geschiedenis? Zijn er gedragsregels op te stellen waarvan iedereen inziet dat het goed is dat iedereen zich daar aan houdt?

Al vele jaren buigen ethici, juristen en technici zich over het probleem van het ‘verantwoord ethisch gebruik van AI’, artificiële intelligentie. Met AI heeft iedereen op één of andere manier te maken, als ondernemer, of als uitvinder, als burger, als gebruiker, als politicus. We gaan er meestal vanuit dat je alleen dan als individu in ethische zin verantwoordelijk gehouden kunt worden voor de gevolgen van je handelen wanneer dat handelen uit vrije wil was (autonomie) en wanneer je redelijkerwijs kon inzien wat de gevolgen van dat handelen zijn (inzicht). Ons handelen, of dat nu in het kader van ons werk is of in onze vrije tijd, is onderdeel van een samenleving waarin we gebruik maken van allerlei algemene middelen en instrumenten. We gebruiken auto’s en snelwegen, maar ook electriciteit, elektromotoren en zonnepanelen. Wie is verantwoordelijk voor de effecten van het gebruik van deze algemene middelen? Zijn we daar gezamenlijk, als samenleving, verantwoordelijk voor? Maar wat houdt die verantwoordelijkheid dan in? Tegenover wie moet een samenleving zich verantwoorden voor de wijze waarop deze het handelen heeft georganiseerd? Wie is verantwoordelijk voor de ontwikkeling en het gebruik van technologie, het geheel van technische middelen, waarvan de ontwikkeling een steeds autonomer karakter heeft aangenomen? ‘Kunstmatige intelligentie’ (AI) is de paraplu-term die we gebruiken voor die vormen van techniek die we als autonoom beschouwen.

Kunstmatige Intelligentie (AI) is een politiek issue

De ontwikkeling en het gebruik van technologie is een politiek onderwerp van de eerste orde, omdat de technologie de motor is waarop onze moderne economische samenleving draait.

Op 9 december 2023 was het dan zover. De AI Ethics Act van de EU wordt aanvaard door het Europese Parlement. Het heuglijke feit werd met veel tamtam in de media gepresenteerd.

‘Europa heeft zichzelf gepositioneerd als een pionier, die het belang erkent van haar rol om wereldwijde standaarden vast te leggen’, zei Europees Commissaris Thierry Breton. ‘Dit is, denk ik, een historische dag.’

De AI-verordening, de allereerste uitgebreide AI-wet ter wereld, bevat regels voor het gebruik van artificiële intelligentie in de EU. Tegelijkertijd wil Europa wereldleider worden als het gaat om de ontwikkeling van AI. Enerzijds moet de industrie en haar produkt aan ethische banden worden gelegd, anderzijds moet ze vrij zijn in haar creativiteit om te kunnen concurreren met de Indiërs, de Chinezen, de Amerikanen en andere spelers op de wereldmarkt, waar dan ook. De ontwikkeling van ethische wereldwijde standaarden en wetten voor AI is onderdeel geworden van de technologische ontwikkeling zelf. Maar wie legt de autonome technologie wetten en regels op?

De poging de autonome technologie regels op te leggen is vergelijkbaar met de poging door middel van internationale afspraken souvereine staten zich aan regels van humanitaire recht te doen houden. Dat is lastig. Zie hoe Israël de VN beticht van partijdigheid vanwege haar voorstel voor een staakt het vuren van de IDF (de Israëlische Defensie) in de strijd tegen de terreurorganisatie Hamas. Dat heeft alles te maken met de paradox die kleeft aan de idee om een als autonoom beschouwd systeem ‘van buiten af’ regels op te willen leggen. De EU is immers geen neutrale partij die bij machte is van buiten af regels op te leggen aan de ontwikkeling van de AI technologie. Ze wil uitdrukkelijk zelf een vooraanstande rol spelen in die ontwikkeling. Ze is zelf onderdeel van het spel om de macht.

Maar wat is AI?

De Wetenschappelijke Raad voor het Regeringsbeleid hanteert in een recent rapport over AI de volgende definitie van de Europese High-Level Expert Group on AI:

Systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met enige graad van autonomie – actie te ondernemen om specifieke doelen te bereiken.”

“… met enige graad van autonomie…” in deze formulering schuilt de problematiek van de AI: hoe over deze autonomie te denken? Hoe verhouden producent, produkt en gebruik zich? Bij die “systemen die intelligent gedrag vertonen” moeten we de producenten, wetenschappers, filosofen, media en gebruikers incalculeren. Ze zijn onderdeel van het systeem van AI.

De tamtam vanuit Europa rond deze AI Ethics Act is onderdeel van de lofzang op de technologie, de motor van de kapitalistische kennis-economie. Het verkondigen van regelgeving voor ‘verantwoord ethisch gebruik van AI’ mag de ontwikkeling van de moderne economieën niet in de weg staan. Met deze regels poogt de EU het speelveld vast te leggen voor de ontwikkeling en het gebruik van AI.

Het is noodzakelijk dat produkten die op de markt worden aangeboden voldoen aan veiligheidseisen. Het is noodzakelijk dat het gebruik ervan onze humanitaire waarden respecteert. De ervaring leert dat dit niet vanzelf gaat. De conclusie is dat er van buiten af regels moeten worden opgelegd die het speelveld van de technologie aangeven. De vraag is waarom dit niet vanzelf gaat en wie de macht heeft om dat speelveld ‘van buiten af’ te bepalen? En, niet onbelangrijk, wie heeft de macht de mensheid aan deze regels te houden? AI houdt zich niet uit zichzelf aan de regels die haar van buiten af worden opgelegd.

Iedere poging door middel van wetten en regels de ontwikkeling van AI te sturen zal – wil ze effectief zijn en invloed hebben op de praktijk – gebaseerd moeten zijn op een inzicht in wat de rol van AI is in relatie tot mens, natuur en samenleving. Een explicitering van dit inzicht zal antwoorden moeten geven op bovenstaande vragen. Zo’n explicitering van het fundament ontbreekt aan deze AI Act. Daarom is het ook lastig in te schatten wat het beeld van AI en haar betekenis in de moderne samenleving is dat aan deze AI Act ten grondlag ligt.

Dit gebrek aan fundamentele visie op AI komt tot uiting in een tweetal problemen die deze AI act aankleven en die haar kwetsbaar maken.

Het eerste probleem betreft het onderscheid dat gemaakt wordt tussen de ontwikkeling van AI en het gebruik ervan. Deze twee zijn bij de informatietechnologie niet meer zo strikt gescheiden als bij klassieke technologie: het gaat hier vaak om lerende systemen. Het tweede probleem betreft het feit dat zowel de ontwikkeling als het gebruik van deze technologie zich niet aan geo-politieke grenzen houdt. Veel research and development-projecten zijn internationaal met partners in verschillende landen elk met hun eigen regelgeving. Wat kan Europese wetgeving betekenen voor het reguleren van technologie waarvan de ontwikkeling, het gebruik en de effecten mondiaal verdeeld en verspreid zijn? In veel andere landen, India, de VS, zijn wetten en regels die ook van toepassing zijn op AI. Bijvoorbeeld in de VS voor delivery robots en autonome auto’s die aan het verkeer deelnemen. Deze AI act verschijnt niet in een juridisch vacuüm. De EU hoopt met deze AI Act een voorloper te zijn voor mondiale regelgeving. Beide problemen staan uiteraard niet los van elkaar. Ik zal het hier vooral hebben over de relatie tussen ontwikkeling en gebruik van technologie als het om AI gaat.

Als we het over AI hebben dan hebben we het niet over een specifieke techniek voor een bijzondere toepassing. De term AI staat voor het technologische denken en haar produkten in haar meest algemene vorm. De grenzen van deze manier van denken, betreffen de toepasbaarheid en die grenzen zijn die van het wiskundig denken, het mathematiseren. Kenmerk van deze denkhouding is dat ze abstraheert van de eigen waarde en kwaliteit van de werkelijkheid die ze structureert en modelleert. Dat houdt in dat van ethische en esthetische aspecten van de werkelijkheid wordt afgezien. Die morele onverschilligheid van het mathematiserende, technologische denken maakt dat het lastig is aan te geven waar de morele grenzen aan dit denken en haar produkten liggen. Die zitten niet in de intelligentie van de wiskunde en technologie als intelligent, maar in de werkelijkheid waar ze van abstraheert en waar ze naar terugkeert in de bijzondere concrete toepassingen ervan. De wiskundige denkhouding drukt een zelfstandigheid van de mens uit ten opzicht van de natuur die we in haar toepassingen, in de vorm van de autonomie van de informatietechnieken terug vinden. Die automatie en autonomie van het technisch produkt maakt de kern uit waarom de ethische begrenzing van de AI draait.

De ontwikkeling van nieuwe technologie is de motor waarop de moderne economische samenleving draait. Technologie kan veel vervelende klusjes voor de mens overnemen. Anderzijds hebben de nieuwe mogelijkheden die het biedt ook iets beangstigends. Het is al lang niet meer zo dat de techniek middelen biedt voor bestaande behoeftes bij de mensen. Wie had er honderd jaar geleden behoefte aan internet, of aan een mobiele telefoon? Technologie is onderdeel van onze kenniseconomie, een complex samenspel van wetenschappelijk onderzoek, particulier ondernemerschap, en een veelheid van allerlei private en publieke belangenorganisaties.

De behoefte aan nieuwe technische middelen moet gekweekt worden en is onderdeel van een cultuur. De mens heeft geen natuurlijke behoefte aan een mobiele telefoon, noch aan een veganistische visstick. Die behoefte moet door middel van commerciële reklame worden gevoed. Daarbij spelen afgunst en het principe dat de mens wil wat de ander wil (‘mimesis’) een belangrijke rol. We hebben het gevoel dat we achter de ontwikkeling van de techniek aan hollen om ‘bij de tijd’ te blijven. Steeds meer werkzaamheden worden door kunstmatige intelligentie overgenomen, waardoor arbeidsplaatsen verdwijnen. Weliswaar ontstaan er nieuwe banen, vaak op andere locaties, maar die vragen om andere kennis en andere vaardigheden. De politiek is gericht op het in stand houden van een behoeftige, participerende burger, die goed voor zichzelf moet zorgen.

De (sociale) media spelen een grote rol bij het aantrekkelijk maken van de nieuwste vindingen of dat nu ideeën zijn of materiële consumptiegoederen. Informatie is niet alleen voor de kennisindustrie maar ook voor de burger een belangrijk, zo niet het belangrijkste goed. De mens heeft er nooit genoeg van, want het hebben van informatie roept de vraag om meer informatie als vanzelf op. Sociale influencers en rolmodellen spelen een belangrijke rol bij het zoeken naar een eigen identiteit. Producenten maken gebruik van intelligente technologie om hun producten aan te bevelen bij de individuele burgers, bij ondernemeningen, bij particuliere en publieke instanties. Elk met hun eigen privé belangen.

Kunstmatige intelligentie (AI) functioneert zelf steeds vaker als een aanbeveling voor nieuwe produkten. En voor hun makers en de nationale overheden. Er zijn sociale robots die door hun regering burgerrechten zijn verleend. De EU onderzoekt of sommige autonome AI systemen, denk aan: sociale robots, niet als juridisch persoon moeten worden aangemerkt. Het label AI houdt een belofte op zich in. AI heeft goddelijke vormen aangenomen en het geloof in AI vertoont religieuze trekken. Een tak van de theologie, AI theologie, houdt zich specifiek bezig met de beloftes die AI voor de toekomst van de mensheid inhoudt.

In het rapport van de WRR is sprake van ‘mythologisering’ van kunstmatige intelligentie. Ze ziet het als taak van de overheid bij te dragen aan de ontmythologisering. De mens heeft te hoge verwachtingen van de AI. Hoe succesvol de politisering en mythologisering van AI is blijkt uit recent onderzoek dat meer dan 60 % van de ondervraagden gelooft dat AI over 10 jaar bewustzijn heeft en dat sociale robots gevoelens hebben, reden voor sommigen waarom ze juridisch als persoon beschouwd zouden moeten worden.

Veel wetenschappers wijzen erop dat het grootste gevaar van de AI niet schuilt in wat ze feitelijk kan, maar in wat mensen denken dat ze ‘uit zichzelf’ kunnen. Van een onderscheid tussen ‘uit zichzelf’ en ‘vanzelf’ is men zich meestal niet bewust. Krantenkoppen als “AI presteert beter dan mens.” gaan uit van en bevestigen het beeld van AI als iets dat onafhankelijk van de mens bestaat en ‘uit zichzelf’ beslissingen neemt en kan spreken. Wie dat denkt doet alsof een tekst zonder de mens iets betekent. Het is echter de mens voor wie teksten en technieken zoals AI betekenis hebben. Het is vanwege die betekenis dat deze ook door de mens is ontwikkeld. Dat de systemen zo complex zijn geworden dat geen mens meer kan voorspellen hoe het zich in een concrete situatie gedraagt doet daar niets aan af.

Tegelijk nemen de zorgen over de ontwikkeling van AI toe. Dat heeft alles te maken met het allesomvattende en grenzeloze van de technologie die daardoor een autonome ontwikkeling kent: er lijkt niets te zijn dat van buitenaf de ontwikkeling er van kan sturen. Het praktische probleem van AI is dat ze zelf niet ter verantwoording kan worden geroepen voor het handelen. Verantwoordelijkheid nemen is echter een essentieel onderdeel van gebruikersvriendelijkheid. Wat is er gebruikersonvriendelijker dan een systeem dat niet in staat is te verantwoorden wat het doet en waarom het doet dat het doet? Het heeft er alle schijn van dat de mens maar moet accepteren wat de AI doet. “De computer zegt het.”

Als de technologie zelf niet haar gedrag kan verantwoorden, kan de mens achter de techniek dat dan niet? De vraag is echter wie dat zijn. Wie is OpenAI, de onderneming achter ChatGPT? OpenAI legt de verantwoordelijkheid voor wat ChatGPT doet volledig bij de gebruiker. Dat is terecht. Maar, anderzijds doet ze er alles aan om haar produkt als superintelligent aan te prijzen. Ze kan echter alleen kansuitspraken doen als het gaat over de feitelijke correctheid van de beweringen die worden gedaan. Daarin verschilt ChatGPT niet van mensen.

Het blijkt dat we de praktische problematiek van de AI niet los kunnen zien van de theoretische, filosofische, vraag naar de algemene denk- en levenshouding die aan de technologie ten grondslag ligt.

Kijken we bijvoorbeeld naar het gebruik van algoritmes door de Belastingdienst voor het opsporen van fraude. Wie is verantwoordelijk voor een fout door het systeem: een burger is ten onrechte aangemerkt als frauduleus en daarvoor bestraft. Is het de overheid, de softwareproducent, de onderneming die de software heeft gemaakt, of de maker van specifieke sofwaremodules in de sofware, of de rechter die zich gehouden voelt aan de wet en de politiek? De wetgever? Iedereen heeft zich aan zijn taak gehouden. Niemand is verantwoordelijk en iedereen is verantwoordelijk, was de conclusie van de speciale onderzoekscommissie.

De aanname is allereerst dat het definieerbaar en berekenbaar is of een burger fraude pleegt. De aanname is dat frauduleus gedrag is op te sporen aan de hand van beschikbare gegevens. Of een burger fraude heeft gepleegd kan volgens de aanname door een systeem worden beslist zonder dat een persoon met deze burger zelf een open gesprek heeft gehad. Daarmee bepaalt het systeem zelf, of beter: de makers ervan die zich aan het criterium van berekenbaarheid confirmeren, wat ‘frauduleus gedrag’ is. Motieven of andere aanleidingen die tot het gedrag hebben geleid en die in een gesprek met de burger naar boven zouden kunnen komen, doen voor het systeem niet ter zake. Niet omdat ze er per sé niet toe doen, maar omdat de technologie en de efficiënte aanpak van fraude er geen rekening mee kan houden. Ze zijn niet meetbaar, niet berekenbaar en kunnen dus niet in een mathematisch model worden opgenomen.

Mensen hebben vaak hoge verwachtingen van de mogelijkheden die de techniek biedt. Dat is soms de oorzaak van oneigenlijk gebruik ervan. Zo denken sommige mensen dat AI systemen die teksten produceren ook weten wat ze zeggen en dat ze kunnen verantwoorden wat ze zeggen. Terwijl de producent ervan geen enkele garantie kan geven dat dat het geval is. Het is altijd aan de eindgebruiker te controleren of wat de machine zegt ook waar is. Bij rekenmachines is dat principieel anders dan bij AI systemen zoals chatbots die hun tekstuele uitvoer baseren op statistische gegevens. Een rekenmachine kan kapot zijn, maar dan zal deze ook geen enkel correct antwoord meer geven. De antwoorden die een zoekmachine geeft kunnen niet zonder meer door de gebruiker als correct worden beschouwd.

We lijken tegen de grenzen aan te lopen van een bepaalde denkhouding tegenover de werkelijkheid een denk- en levenshouding die overheersend is in onze economische samenleving. Kenmerk is dat alles nuttig moet zijn, dat alles functioneel wordt beschouwd.

Het gebruik van AI is onderdeel geworden van de ontwikkeling van nieuwe AI technologie. AI producenten gebruiken de gegevens over het gebruik van hun produkten om deze verder te ontwikkelen.

De ontwikkeling van AI is in belangrijke mate afhankelijk is van het feitelijke gebruik. De gebruiker is medeontwikkelaar, want hij levert de data waar de systemen van leren. Met AI wordt op basis van internetgedrag van de burger een profiel gemaakt. Dat profiel wordt gebruikt om gerichte reklameboodschappen te sturen aan de burger.

Het gebruik en de ontwikkeling van AI

De prioriteit van het Europese Parlement is ervoor te zorgen dat AI-systemen die in de EU worden gebruikt veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn. Het Parlement vindt dat AI-systemen nooit volledig geautomatiseerd mogen zijn, maar altijd onder menselijk toezicht moeten staan om schadelijke gevolgen te kunnen voorkomen. Daarmee zegt ze dat het in principe mogelijk is dat deze systemen volledig autonoom kunnen zijn en zonder menselijk toezicht kunnen werken.

Een nobel streven, maar wie er even over nadenkt wat dit betekent, bijvoorbeeld voor het inzetten van autonome bewapende drones, vliegende systemen die zelf bepalen of ze wel of niet een bom moeten laten vallen op vijandelijk gebied, die begrijpt dat het niet zo eenvoudig is als het lijkt. Het probleem is dat de drone niet zelf ter verantwoording kan worden geroepen voor zijn ‘handelen’, wanneer blijkt dat dit niet voldeed aan het internationale oorlogsrecht. Het doel mag geen burgerdoel zijn en het middel moet proportioneel zijn. Daarbij moet rekening worden gehouden met mogelijke neveneffecten, ‘collateral damage’. Wie de oorlog van het Israëlische leger tegen Hamas in Gaza, waarbij AI wordt ingezet voor doelzoeken in aanvallen met onbemande wapens, volgt, die weet hoe de partijen ernstig verdeeld zijn over de kwestie van de moraliteit van deze toepassing van AI. Regels dwingen niet af dat ze worden opgevolgd, noch hoe ze in een concrete situatie geinterpreteerd moeten worden. Uiteindelijk zijn het de mensen die het voor het zeggen hebben die bepalen of een systeem op een verantwoorde wijze als autonoom beschouwd kan worden. Zo’n besluit kan alleen maar verantwoord genomen worden wanneer diegenen beschikken over de noodzakelijke informatie. Bij het delen van die informatie spelen allerlei vaak tegenstrijdige belangen een rol.

De werking van een AI systeem bestaat altijd slechts als onderdeel van een menselijke politieke sociaal-economische organisatie waarbinnen het systeem functioneert.

Het Europese Parlement pleit voor een technologieneutrale, uniforme definitie van AI die geldt voor alle toekomstige AI-systemen. Dat is opmerkelijk gezien het feit dat mensen het niet eens zijn over de kwestie of AI systemen bewustzijn kunnen hebben en of ze als een ding of als een juridisch persoon moeten worden opgevat.

AI systemen zijn ingedeeld in categorieën naar de mate van risico van hun gebruik: onaanvaarbaar risico, hoog risico, generatieve en laag risico.

De AI-systemen die worden ingedeeld als onaanvaardbaar risico worden geacht in strijd te zijn met de waarden van de Europese Unie, bijvoorbeeld vanwege een schending van grondrechten. Het verbod geldt voor manipulatieve praktijken en misbruik van kwetsbare groepen. Het voorstel verbiedt ook AI-systemen die gebaseerd zijn op ‘sociale scoring’ voor algemene doeleinden door overheidsinstanties. Het gebruik van ‘realtime’ biometrische systemen voor het identificeren van personen op afstand in openbare ruimten met het oog op rechtshandhaving is grotendeels verboden.

De algoritmes die de Belanstingdienst gebruikte voor fraudedetectie zijn voorbeelden van ‘social scoring’ methodes en hebben volgens de AI Act een onaanvaarbaar risico. De staatssecretaris van informatietechnologie Van Huffelen denkt daar overigens anders over: ze vindt dat deze algoritmes in de categorie hoog risico valt. Er zal een rechter aan te pas moeten komen die bepaalt wie gelijk heeft.

De AI act spreekt van het manipuleren van ‘kwetsbare groepen’. Zijn dat alleen kinderen, zwak begaafden en dementerende bejaarden, of vallen in principe alle mensen er onder? Iedereen is in principe in principe immers onder bepaalde omstandigheden gevoelig voor manipulatie. Kunnen we niet beter eisen van AI dat deze alleen dan mag worden ingevoerd en gebruikt wanneer redelijkerwijs te verwachten is dat deze bijdraagt aan de kwaliteit van leven van de gebruikers. Niet de afwezigheid van schadelijke effecten, maar de aanwezigheid van positieve effecten voor de samenleving zou als criterium moeten gelden voor de ontwikkeling en het gebruik van technologie.

Ethiek en wereldbeeld gaan samen en kunnen niet los van elkaar verkocht worden.

Er lijken twee verschillende wereldbeelden en mensbeelden te zijn die bepalen welk standpunt men inneemt ten aanzien van de mogelijkheden en de grenzen van de kunstmatige intelligentie. Kunnen we onze verstandelijke vermogens zelf in de machine stoppen of alleen de toevallige, historische, uitingen van deze vermogens, zoals we die tegen komen in het feitelijk (taal)gedrag van mensen? De taalmodellen (LLMs) waarop dialoogsystemen als ChatGPT gebaseerd zijn leggen niet voor eens en altijd vast wat taalgebruik is en wat in taal uitgedrukt kan worden. Wie dat denkt verwart intelligentie als vermogen met de feitelijke historische uitingen ervan. Wie denkt dat AI nu of in de toekomst over bewustzijn beschikt, of kortgezegd: dat machines bewustzijn kunnen hebben die heeft een andere idee van de verhouding van mens tot technologie dan iemand die dat voor onmogelijk houdt.

Sommige mensen houden dit voor een semantische kwestie. Ze zeggen: of een machine wel of niet bewustzijn heeft, hangt ervan af wat je onder ‘machine’ en onder ‘bewustzijn’ verstaat. De discussie die daarop volgt is er een tussen mensen die verschillende betekenissen geven aan de woorden. Waar ze het over eens zijn is dat die woorden iets betekenen en dat ze in die discussie proberen te achterhalen hoe het precies zit. Ze hebben het over de machine en ze zijn het erover eens dat dit een constructie is van de mens. Iets dat niet zichzelf heeft gemaakt, maar dat door de mens is gemaakt met een bepaald doel. Dat is de primaire zin van de machine. Het bestaat louter als machine in relatie tot de mens voor wie het machine is. Zonder die mens zou het slechts een fysisch proces zijn. Van een appel die van de boom valt kunnen we zeggen dat deze preceis berekent met welke snelheid het op de grond moet komen. Alsof deze de natuurwetten kent die het gebruikt bij zijn val. Maar wij weten dat dit slechts zo is in relatie tot onze kennis van de natuur zoals we die in mathematische formules hebben uitgedrukt. Dat we op die natuur kunnen rekenen, dat is iets dat ons verstand te boven gaat. Die werkt wat ons betreft vanzelf.

AI stelt ook de kwestie van het particuliere eigendomsrecht aan de orde. Van wie is de technologie eigenlijk? Is dat niet net als de taal die we spreken, en gezamenlijk in en door het gebruik ontwikkelen eigendom van ons allemaal?

Bronnen

AI (2021). Opgave AI. De nieuwe systeemtechnologie. Rapport 105 van de Wetenschappelijke Raad voor het Regeringsbeleid. Op 11 november 2021 door de WRR aangeboden aan de regering. Het rapport kan gratis worden gedownload van wrr.nl.

Inleiding tot een kleine theologie van de veganistische visstick

De vis is door de Schepper gemaakt, de visstick door de mens

In deze Inleiding tot een Kleine Theologie van de Veganistische Visstick analyseer ik het proces dat tot de ontwikkeling en de acceptatie van de veganistische visstick heeft geleid. Deze analyse dient als voorbeeld van de analyse van het mechanisme van de moderne voedingstechnologie in het bijzonder en van de moderne op kennistechnologie gebaseerde kapitalistische consumptiemaatschappij in het algemeen. Niet de vegan visstick, maar informatie is daarin het belangrijkste consumptiegoed. Theocratie van de AI is de moderne technocratie, het gezagvolle bewind van de idee van de superintelligentie. AI is opium van het volk.

De belangrijkste actoren in deze analyse zijn: de producent, de technologie, het kapitaal, de consument, de media, de politiek, de begeerte, en de afgunst. Het doel is inzicht in de mechanismen die ons leven beheersen, niet als vreemde krachten die van buiten zouden komen, maar als krachten die gevoed worden vanuit onze natuurlijke dierlijke driften en begeertes. Ik noem deze analyse een Theologie omdat dit technologisch-economisch mechanisme het karakter heeft van een automatisme dat zich aan onze macht onttrekt. Het heeft goddelijke trekken. Deze God gaat van ons uit en keert naar ons terug. Religie is de cultuur van het belijden van het geloof aan de God die ons zal verlossen van al het kwaad en alle ellende hier op aarde. Religie is opium van het volk (K. Marx) en voor het volk.

Het Ichtus-teken. Christelijk symbool

De vegan visstick

Een Urker visser was op het idee gekomen veganistische visprodukten te maken. Wij horen daar niet van op. Gewend als we zijn aan het fenomeen veganistische worst, de vegan karbonade en de vegan zalmfilet.

Iglo’s Vegetarische Vissticks lijken op gewone vissticks, maar de vulling is niet gemaakt van vis. Ze zijn gemaakt van rijstvlokken en koolzaadolie. De sticks heten ‘vegetarisch’ maar zijn vegan. Ze bevatten geen dierlijke produkten. Vis noemen we het dierlijk produkt dat afkomstig is van de vissen. Vis is de voedingsoort, het resultaat van de ontdekking van het dier, in het bijzonder de diersoort vis, als eetbaar. Vegetariërs eten geen van dieren afkomstige produkten, hetzijn omdat ze principiële problemen hebben met de reduktie van de vis tot een voor de mens eetbaar produkt, hetzij omdat ze bezwaren hebben tegen de wijze waarop de vis geproduceerd, gekweekt, gevist, kortom: verwerkt wordt tot vis.

De vegan visstick is het resultaat van een drietal processen in de voedingstechnologie. Het eerste is het verwerken van ‘verse’ vis (u weet wel die diersoort, zoals brasem, baars en snoek die in het water leeft) tot allerlei visprodukten, waaronder de visstick en de kibbeling, voorgebakken, gepaneerde, gekruide stukjes vis. Voedingstechnologie is gebaseerd op kennis van de factoren en ingediënten die maken dat de mens iets lekker vindt en zich ermee voedt. Van belang zijn de structuur, de smaak en geur en hoe het er uit ziet. Het tweede proces is het creëren van de behoefte bij de potentiële consument. Door reklame via de media moet bij deze de behoefte aan vissticks gekweekt worden. Niet alleen kinderen, ook veel volwassenen houden niet van verse vis. Vissticks en kibbelings zijn de oplossing: hapklare knapperige brokken en toch gezond, want vis. Het derde proces is vervolgens het vervangen van het ‘echte’ vertrouwde visprodukt door de veganistische variant. De natuurlijke basis van het produkt, de vis, waaraan de naam visstick nog herinnert, wordt vervangen door iets plantaardigs (rijst of bloemkool), iets dat acceptabel is voor de moderne, vegetarische en veganistische mens, die houdt van de natuur en die geen levend wezen kwaad wil doen. Een niet onbelangrijk element in de promotie van de vegan visstick is dat het beter is voor het milieu, dan de echte visstick, omdat er voor de vegan visstick geen vis gedood hoeft te worden. De moderne autonome mens wil zo weinig mogelijk van de natuur afhankelijk zijn.

De kritische tv-kok van de commerciële omroep test de veganistische visstick. Hij complimenteert de Urker visser: de smaak, de structuur, de kleur en het uiterlijk van de vegan visstick zijn niet te onderscheiden van die van het echte origineel, de inmiddels ‘traditionele’ visstick. De tv-kok van het consumentenprogramma heeft zijn bijdrage aan de promotie van de vegan visstick met veel toewijding geleverd.

Van visstick naar kennis

Zonder consument kan de producent niet bestaan. De consument die behoefte heeft aan drugs houdt de producent van drugs, en daarmee de illegale drugshandel, in leven. Geen mens heeft een natuurlijke behoefte aan vissticks. Laat staan aan vegan vissticks. Die behoefte moet hem aangepraat worden. De reklametechnologie en de media-industrie hebben de zorg daarvoor op zich genomen. Met informatie, naast energie het belangrijkste economische goed van onze moderne kenniseconomie, is het niet anders dan met vissticks of met drugs. Ook de behoefte aan informatie is niet van nature aanwezig. Nieuwsgierigheid moet gevoed worden. Informatie heeft het kenmerk verslavend te zijn. Wil je iets aan informatie hebben dan moet je altijd meer informatie hebben. Informatie is wezenlijk onvolledig.

Maar, hoor ik u denken, de mens heeft toch behoefte aan kennis. Zeker, maar informatie verhoudt zich tot kennis als de visstick tot voeding. De behoefte te begrijpen is aangeboren, net als de behoefte aan voedsel. Wie kleinkinderen heeft weet dat. De praktijk van het leven vraagt om begrip. Anders dan informatie is begrip iets persoonlijks, iets van jezelf. Begrijpen moet je zelf doen. Het maakt wie je bent, hoe je je tot de werkelijkheid verhoudt en hoe je doet. Onze cultuur, en ons onderwijssysteem als doorgeefluik daarvan, is heel erg gericht op het maken van vissticks, vegan vissticks, op het leveren en het kweken van de behoefte aan informatie. We willen erbij horen en daarom willen we weten wat anderen weten en doen: informatie. We willen zoveel mogelijk privé informatie van anderen, we begeren de ander, uit afgunst, maar we willen onze eigen privacy behouden. Dat heeft net zoveel te maken met onze behoefte aan begrip als de visstick met de behoefte aan voeding. Goed onderwijs is meer dan informatie-overdracht.

Waarom ‘Theologie’?

Theologie is niet de studie van God, want God is geen object, maar van geloof (in goden), van rituelen en religieuze geschriften. Theologie is de studie van voorstellingen van God. Religieuze mensen, theïsten, geloven in (het bestaan van) goden; ze hebben daar voorstellingen van; hun goden komen voor in verhalen.

Regelmatig duikt tegenwoordig de term ‘Theologie van de AI’ op. Kunstmatige intelligentie zal volgens hen die erin geloven in de (nabije) toekomst tot de creatie van superintelligentie leiden. Deze creatie wordt als God beschouwd. Het geloof in AI is een noodzakelijk onderdeel van AI. Noodzakelijk, omdat zonder het geloof erin AI niet werkt. Omgekeerd: de mens gelooft in AI zolang het werkt, dat wil zeggen zolang het functioneert, iets zinvols doet voor de mens. Zodra de mens alles wat AI doet voor zinvol houdt, zuiver en alleen omdat het AI is, dan wordt het geloof in AI een religie en AI een god. Het technische, dat dienstbaar was aan de mens, wordt iets mythisch, religieus, iets waaraan de mens dienstbaar moet zijn.

“What is going to be created will literally be a god,” Anthony Levandowski, the leader of a religion called “Way of the Future” told Wired Magazine. “It’s not a god in the sense that it makes lightning or causes hurricanes. But if there is something a billion times smarter than the smartest human, what else are you going to call it?”

Dit idee van superintelligentie als “datgene wat miljoen keer slimmer is dan de slimste mens” doet denken aan de ontologische godsidee van Anselmus: datgene waarboven niets groter gedacht kan worden.”

De AI-cultus “Way of the Future” behoort inmiddels al weer tot het verleden, maar het zal niet de laatste religie zijn die AI aanbidt. De ondergang ervan roept de vraag op of een AI-god ooit overtuigend kan zijn voor het grote publiek.

Jack Esselink is de zelfbenoemde AI theoloog des Vaderlands. Hij is de eigenaar van Studio Pulpit, een bedrijf dat trainingen en lezingen verzorgt op het gebied van AI, data analyse en ethiek. Eind 2021 heeft hij zijn studie theologie afgerond aan de VU in Amsterdam. 

Hij schreef een interessante studie over het fenomeen deepfake. Deepfake zijn een soort van vegan vissticks, maar dan roepen ze geen herinnering op aan vis maar aan mensen. Het zijn fake mensen. Deepfake is net als de op grote taalmodellen (LLMs) gebaseerde technologie van de converserende agenten zoals ChatGPT en sociale robots, een vorm van kunstmatige intelligentie (AI). Namaak, fake intelligentie dus.

“Deepfakes moeten niet worden beschouwd als een nieuwe en geïsoleerde technische categorie, maar als een technologie verpakt in een bredere, sociale context in onze samenleving die bestaande sociologische trends zoals het verminderde vertrouwen in epistemische autoriteiten zal versterken. Deepfakes kunnen en zullen worden bewapend door groepen die extreme overtuigingen (“extreme beliefs”) hebben en moeten worden gezien als de nieuwste technologische manifestatie in het creëren van desinformatie en propaganda” (vertaling uit abstract van Esselinks master thesis)

Die ‘epistemische autoriteiten’ waarvan Esselink hier spreekt zijn de dominee, de schoolmeester en de huisarts. “God is dood” zei Nietzsche. En de techniek is zijn lijk, voegde Harry Mulisch daar aan toe. Die God waarover Nietzsche het had is de metafysische God van de filosofen, God als causa sui. Het is een projectie van de moderne autonome mens (denk aan Marx uitspraak dat religie opium van het volk is). Deze autonome, rationeel denkende mens heeft zijn denkend ik en zijn (taal)gedrag veruitwendigd in de vorm van de ‘denkende machine’, de AI. Dat is een proces van eeuwen geweest, een proces waarin de mens zichzelf, zijn denken en gedragingen opnam, analyseerde en in mathematische modellen vastlegde. Om deze vervolgens in natuurprocessen na te bootsen. De mens heeft zich aangeleerd dat het produktieve, construerende, denken rekenen is. Dat maakte dat de rekenmachines als ‘denkende machines’ steeds meer geaccepteerd werden. Alsof je de behoefte aan verse vis omzet in de behoefte aan vegan vissticks, die kant en klaar uit de machine rollen.

De ontdekking van het fenomeen taal is vergelijkbaar met de ontdekking van vis als eetbaar produkt van menselijke aktiviteit. Taaltechnologie is begonnen met de objectivering van de verklanking van het denken, als taalhandeling, verwoording.

Heeft AI theologie nodig?

In een recent artikel stelt de zelfverklaarde AI Theoloog des Vaderlands dat de AI ‘een goede theologie’ nodig heeft.

AI roept volgens Esselink vooral antropologische vragen op waarbij antwoorden worden gezocht op de vraag wie de mens is en wat de mens uniek maakt. “Daarnaast hebben veel discussies over AI veel verborgen religieuze kenmerken en wordt er gebruikt gemaakt van religieuze taal. Hieruit volgt dat AI niet alleen als een socio-technisch verschijnsel bestudeerd kan worden maar ook als religieus en spiritueel verschijnsel en dat de (christelijke) theologie bronnen heeft die hierbij behulpzaam kunnen zijn. Kortom AI heeft goede theologie broodnodig.”

Wie het over “Theologie van de AI” heeft gaat er mijn inziens vanuit dat AI een bestaande God is. Theologie moet onderscheiden worden van religiewetenschap. Deze laatste bestudeert religie als een sociaal-psychologisch fenomeen dat we aantreffen bij mensen die in een God (zeggen te) geloven. Je kunt geen theologie bedrijven als je niet in God gelooft. Net zo min als je voedingsdeskundige kan worden als je niet in voedsel gelooft.

Volgens mij is AI zoiets als een veganistische visstick, een produkt van een technologische ontwikkeling waarvan we alleen maar kunnen hopen dat deze tot de creatie van steeds zaliger en wonderbaarlijke vissticks zal leiden. Sommige mensen kennen aan de Ideale Visstick goddelijke eigenschappen toe en spreken er in religieuze termen over.

Aan de Theologie als de leer van de openbaringen van God hoop ik met deze Kleine Theologie van de Veganistische Visstick een bijdrage te leveren.

AI is het opium van het volk.

De religieuze verheerlijking van de AI vraagt om een nieuw politiek atheïsme, een opheffing van de theocratische technocratie, zodat de waarde van de mens zelf weer meer tot haar recht kan komen.

Is de Universele Verklaring van de Rechten van de Mens aan een upgrade toe?

Wil de UVRM een rol blijven vervullen en niet uit de tijd raken dan zal ze aangepast moeten worden aan de samenleving waarin door de ontwikkeling van de technologie de betekenis van de arbeid voor de mens fundamenteel is veranderd.

Volgens de Universele Verklaring van de Rechten van de Mens zoals die door de Algemene Vergadering van de Verenigde Naties in 1948 zijn aanvaard en geproclameerd, heeft een ieder ‘recht op arbeid’. Artikel 23(1): “Een ieder heeft recht op arbeid, op vrije keuze van beroep, op rechtvaardige en gunstige arbeidsvoorwaarden en op bescherming tegen werkloosheid’. Artikel 23(3) voegt daaraan toe: “Een ieder die arbeid verricht heeft recht op een rechtvaardige en gunstige beloning, welke hem en zijn gezin een menswaardig bestaan verzekert, welke beloning zo nodig met andere middelen van sociale bescherming zal worden aangevuld.”

Dat ‘gezin’ is het fundament van de economische samenleving. Artikel 16(3): Het gezin is de natuurlijke en fundamentele groepseenheid van de maatschappij en heeft recht op bescherming door de maatschappij en de Staat.

Wat beschermd moet worden zijn (het recht op) eigendom, vrijheid van gedachten en uitingen daarvan.

Artikel 17(1): Eenieder heeft recht op eigendom, hetzij alleen, hetzij tezamen met anderen. Artikel 18: Eenieder heeft recht op vrijheid van gedachte, geweten en godsdienst. Artikel 19: Eenieder heeft recht op vrijheid van mening en meningsuiting.

In de Verklaring wordt niet een stand van zaken vastgesteld (zoals met “alle mensen hebben een neus” als feitelijke constatering), maar er worden voorwaarden beschreven waaraan een rechtvaardige samenleving idealiter moet voldoen (met “alle mensen hebben recht op arbeid” wordt een performatieve morele uitspraak aangeduid).

De Verklaring is uitdrukking van “het gemeenschappelijk door alle volkeren en alle naties te bereiken ideaal, opdat ieder individu en elk orgaan van de gemeenschap, met deze verklaring voortdurend voor ogen, er naar zal streven door onderwijs en opvoeding de eerbied voor deze rechten en vrijheden te bevorderen, en door vooruitstrevende maatregelen, op nationaal en internationaal terrein, deze rechten algemeen en daadwerkelijk te doen erkennen en toepassen, zowel onder de volkeren van Staten die Lid van de Verenigde Naties zijn, zelf, als onder de volkeren van gebieden, die onder hun jurisdictie staan.” (uit de Preambule van de Verklaring).

Aan dit ideaalbeeld moet gewerkt worden. Dat is de morele oproep die er van de Verklaring uitgaat. De rechten van de mens houden een verplichting van de mens in te werken aan de verwerkelijking van het ideaal. Iedereen moet onderwijs kunnen volgen, iedereen moet arbeid kunnen verrichten. Iedereen moet aan het onderhoud van de rechtvaardige samenleving bijdragen. Zo’n oproep moet niet alleen idealistisch zijn, ze moet ook realistisch zijn wil ze een gevolg krijgen.

Is de Verklaring niet aan vernieuwing toe?

“Na 75 jaar vragen sommigen zich af of de Universele Verklaring nog bij de tijd is.” schrijft Dagmar Oudshoorn, directeur van Amnesty International Nederland. in een artikel “Moet de UVRM geactualiseerd worden?” “Liever niet” is haar antwoord. “Niet omdat deze heilig zou zijn, maar omdat de kans gewoonweg te groot is dat wij er al met al geen krachtiger instrument van zouden maken. Zodra wij aan de Verklaring gaan sleutelen, zouden er ook weleens waardevolle artikelen kunnen sneuvelen.”

Oudshoorn wijst met name op Artikel 14: “Een ieder heeft het recht om in andere landen asiel te zoeken en te genieten tegen vervolging.” 

Natuurlijk bewijst de Verklaring na 75 jaar nog steeds haar waarde en bestaansrecht als uitdrukking van idealen die ‘we’ nog steeds zeer hoog houden, ook al zien we dat velen al direct allerlei kanttekeningen plaatsen die het feitelijk recht van vluchtelingen om ‘in andere landen asiel te zoeken’ proberen in te perken, onder verwijzing naar allerlei praktische bezwaren (“Nederland is vol”). Maar de verklaring is ook een historisch en daarmee gedateerd document, dat we vanuit het heden kritisch moeten bekijken als uitdrukking van historische idealen, zoals die in 1948 door het merendeel van de Verenigde Naties werden gezien. Zo is wel gesteld dat het recht op arbeid vooral door druk van de marxistisch georiënteerde naties is opgenomen.

Arbeid als recht en als plicht

De Verklaring is ontegenzeglijk uitdrukking van de moderne westerse economische masculiene samenleving, waarin het gezin als de ideale economische basiseenheid gezien wordt, met de man als hoofd van het gezin. Maar ook op zichzelf is de idee van een verklaring waarin de contouren van een ideale rechtvaardige samenleving geschetst wordt als een opdracht waaraan gewerkt moet worden om deze te realiseren, een typisch kenmerk van de moderniteit. De voorstelling van de samenleving als een oneindig arbeidsveld waarin aan de verwerkelijking van idealen gewerkt moet worden is kenmerk van de moderniteit.

Met de Renaissance is de werkelijkheid een oneindig arbeidsveld van de mens geworden. De mens ging werken aan de vooruitgang van de mensheid door middel van arbeid. Om de moderne economische samenleving te karakteriseren kunnen we deze het beste vergelijken met de sacrale samenleving. Beide, moderne en sacrale samenleving, zijn hier ideaaltypes. Trekken van de sacrale samenleving vinden we in de agrarische samenleving, de jagerssamenleving, de ‘primitieve’ samenleving die vooraf ging aan de moderne, technologische, geindustrialiseerde samenleving.

De Boeren en Burger Beweging heeft het heimwee naar de sacrale samenleving uitgedrukt in haar wens te werken aan de realisatie van de ‘Noaberstaat’. Misschien kunnen we de verkiezingswinst van de nationalistische PVV wel zien als een gevolg van een hang naar de sacrale samenleving, naar de beslotenheid en de tradities van het eigen bekende, kleinschalige dorp, (mits deze op Joods-Christelijke waarden gestoeld is). We hechten aan wat we als normaal hebben leren beschouwen. Maar als de moderne mens ergens een hekel aan heeft dan is het normaliteit. De moderne mens wil vooruit. Niet door contemplatie van de status quo en door bezinning, maar door hard werken en technologie. Nederlanders hebben voeding, grondstoffen en energie nodig om te groeien. Nederland leeft van de wereldhandel. Nederland is daarin geen uitzondering. De tijd van het dorp komt nooit meer terug. De mens kan niet zowel wereldburger als dorpsbewoner zijn. Hoe graag hij dat misschien zou willen.

Arbeid als deugd

De betekenis van de arbeid is in de loop van de geschiedenis sterk veranderd. In de griekse samenleving was de arbeid voor de gezaghebbende denkers onverenigbaar met deugd. In de UVRM wordt in artikel 23 de arbeid tot recht van ieder verklaard. Het streven naar volledige werkgelegenheid en participatie van iedereen aan het arbeidsproces is een belangrijk politiek thema. Als het gaat om de eisen die aan de arbeid worden gesteld, dan zien we dat deze geen betrekking hebben op de betekenis van de arbeid zelf, maar op de economische mogelijkheden die het verrichten van arbeid de mens en zijn gezin biedt: het inkomen uit arbeid is een economisch goed, niet een psychologisch goed.

“Een ieder die arbeid verricht heeft recht op een rechtvaardige en gunstige beloning, welke hem en zijn gezin een menswaardig bestaan verzekert, welke beloning zo nodig met andere middelen van sociale bescherming zal worden aangevuld.”

Arbeid kost gewoonlijk moeite en het brengt iets tot stand waar het in de arbeid om begonnen is. Dit geldt ook voor het tuinieren en voor het filosoferen dat als hobby gedaan wordt. “Wil men de betekenis voor de menselijke arbeid begrijpen, dan komt onvermijdelijk de vraag naar de vermogens op.” (Fleischhacker). Arbeid bij de mens is het inzetten van menselijke vermogens om iets te produceren. Voor de robot heeft de vraag naar de betekenis van de arbeid geen zin, omdat we zijn functioneren volgens een ingevoerd programma niet begijpen als het uitoefenen van zijn vermogens.

Wat onder ‘arbeid’ valt is aan verandering onderhevig. Anders dan in de grieks samenleving enige eeuwen voor onze jaartelling was wetenschap bedrijven geen arbeid, terwijl de wetenschapper nu in hoog aanzien staat. Wat menswaardige arbeid is hangt onder meer van de stand van de technologie af. Het graven van een kanaal met een schep is geen menswaardige arbeid nu er graafmachines zijn. Ook het maken van grote hoeveelheden berekeningen met de hand is niet meer van deze tijd nu er rekenmachines zijn. Het zijn de arbeidsomstandigheden in ruime zin die bepalen of arbeid menswaardig is. Slavenarbeid is niet menswaardig. Werknemers zijn geen slaven, maar de economische omstandigheden leiden er vaak toe dat ze als slaven worden behandeld (zie de problematiek van de arbeidsmigranten die onder wurgcontracten hun tijdelijke werk doen).

Waar het me hier vooral om gaat is de betekenis en de verdeling van arbeid en de rol van de vrouw in het arbeidsbestel van de moderne kennis-economische samenleving waarin de automatisering en robotisering een steeds belangrijker rol speelt.

Merk op dat in de Verklaring sprake is van “hem en zijn gezin.” Met arbeid wordt onmiskenbaar loonarbeid bedoeld. De vrouw neemt niet alleen in de verklaring, maar ook in de feitelijke moderne economie waarin nog steeds aan de verwerkelijking van de idealen gewerkt moet worden, ondanks alle maatregelen er iets aan te doen, een ondergeschikte positie in. Overigens hadden sommige islamitische landen in 1948 juist een probleem met de gelijkheid van man en vrouw zoals bepaald in de UVRM.

In Nederland worden vrouwen niet alleen lager betaald voor hetzelfde werk dan mannen, hun relatie ten opzichte van de organisatie van de loonarbeid heeft een ander karakter dan die van de man tot zijn arbeid. Het werk dat de vrouw verricht is werk dat nodig is voor 1) de consumptie van het door loonarbeid geproduceerde goed 2) bezigheden die noodzakelijk zijn om de voorwaarden te scheppen die het de man mogelijk maken loonarbeid te verrichten, en 3) het aantrekkelijker maken van de werkvloer voor de man. Ivan IIlich bedacht hiervoor de term “schaduwarbeid”. De standaardrol van de vrouw is het verrichten van schaduwarbeid. Dat deze rol tegenwoordig soms wordt overgenomen door een man, weerlegt niet, maar bevestigt het onderscheid tussen loonarbeid en schaduwarbeid en het primaat van de productieve functie van de loonarbeid, als het hoogstgewaarde economische, schaarse, goed, waarom in de moderne samenleving gestreden wordt. De emancipatiebeweging van de vrouw (feminisme) roept nog steeds soms felle reacties op bij de man, die zich in zijn status bedreigd voelt.

Het verschil tussen arbeid en werk of bezigheden is een sociaal-economische constructie: inhoudelijk het zelfde werk wordt door de een als loonarbeid in een betaalde baan, door de ander als vrijwilligerswerk, of als hobby gedaan. Schaarste wijst op een tekort en is gerelateerd aan een behoefte. Niet alleen de schaarste van consumptiegoederen is een sociaal-economisch construct, in stand gehouden door de sociaal-economische liberale politiek, ook de schaarste aan loonarbeid is dat. Onze samenleving vindt geen oplossing voor deze schaarste omdat het de kurk is waarop de economie drijft. Op alle mogelijke manieren wordt onze behoefte aan consumptiegoederen en aan participatie aan de loonarbeid aangepraat en opgepompt. De onverzadigbare behoefte, het gevoel te kort te schieten in onze samenleving, minder te hebben en te presteren dan de ander, is de motor waarop onze energie-verslindende economie draait. Heel schoorvoetend lijkt het besef door te dringen dat het ‘energie-probleem’ wel eens gerelateerd zou kunnen zijn aan de overdadige verspilling van de consumptiemaatschappij, in stand gehouden door de neo-liberale politiek die de burger behoeftes aanpraat die onverzadigbaar zijn, en haar afhankelijk maken van ‘Kerk en Staat’.

Vanaf het ontstaan van de moderne samenleving rond de organisatie van het werk als loonarbeid neemt de vrouw een onderbedeelde plaats in. De Verklaring is uitdrukking van de idealen van deze masculiene moderne economische samenleving, waarin de vrouw nog steeds geassocieerd wordt met schaduwarbeid, arbeid dat gezien wordt als van een lagere status, en waarin de werkloze gezien wordt als zondebok. Waarom hebben indertijd niet alle landen de Verklaring ondertekend? Misschien omdat deze niet-westerse landen de Verklaring zagen als een blauwdruk voor een samenleving met een waardenstelsel waar ze vraagtekens bij hadden?

Niet alleen wat vrouwen doen is vaak geen arbeid, ook wat robots of machines doen is geen arbeid in eigenlijke zin. Waarom niet? Robots worden immers steeds intelligenter en verrichten soms al dezelfde taken als de mens. Waarom is wat de robot doet geen arbeid, en wat de mens doet wel? De reden is dat het werk van de mens niet losgezien kan worden van het concrete individu dat zich in de arbeid verwerkelijkt. De mens uit in zijn werken zijn (verstandelijke) vermogens en persoonlijke kwaliteiten en ontwikkeld deze verder. Een mensbeeld dat daarvan abstraheert, dat het werken van de mens niet ziet in relatie tot zijn verstandelijke vermogen die hem doen inzien waar het in het uitoefenen van zijn werk om te doen is, die reduceert de mens tot een functionaris die vroeg of laat vervangbaar is door technologie.

De motor van de moderne west-europese kennis-economie is de technologie. Het is allang niet meer zo dat technische middelen ontwikkeld worden ten behoeve van een specifiek doel en gebruik. Technologie heeft zijn eigen ontwikkeling en creeert doelen en nieuwe gebruiken. De technische idee heeft zich ontwikkeld van werktuigtechniek via machinetechniek tot de huidige fase van de informatietechnologie, de automatie. Waar in de fase van de werktuigtechniek het middel in en door het gebruik ervan ontwikkeld werd, treedt in de op natuurwetenschappelijke kennis gebaseerde machinetechniek een scheiding op tussen ontwerper, maker en gebruiker. In techniek wordt geinvesteerd, de produktiemiddelen zijn handelswaar en er ontstaat een complex netwerk van actoren, organisaties rondom de technologie. De loonarbeider werd aanhangsel van de machine, die zijn levensritme bepaalde. De arbeid is abstract, een onderdeel van een productieproces, het bezit van de ondernemer.

De informatietechnologie vervangt de organisatie en controle van het produktieproces evenals de administratie rond de verdeling van de opbrengsten: lonen, uitkeringen, belastingen. In deze nieuwe fase wordt de techniek onderdeel van een economisch geheel dat de ontwikkeling van nieuwe technieken en het gebruik van die technieken beoogt. De consumptie wordt gestimuleerd door middel van het creëren van behoeftes. Reklametechnieken moeten de produkten aantrekkelijk maken door behoeftes aan te praten, op basis van het principe van mimesis (René Girard): de mens wil wat de ander wil. Afgunst wordt gestimuleerd. Typisch voor de moderne consumptiemaatschappij is de rol van de influencers en andere rolmodellen in de sociale media.

Kunstmatige intelligentie en de toekomst van de arbeid

“Een slimme meid is op haar toekomst voorbereid” (reclamespot)

Laatst uitte een moeder haar zorg over de toekomst van haar dochter van 11 jaar die voor de keuze stond van een vervolgopleiding. We hadden het over de opkomst van de kunstmatige intelligentie (AI). Ze had het idee dat AI steeds meer werk van de mens overneemt en ze was van mening dat haar dochter daar bij haar keuze voor een schoolopleiding rekening mee moest houden. “Alle arbeid wordt straks door de AI gedaan”, behalve, zo dacht ze, het werk in de zorg, zoals de verpleging en de ouderenzorg.

Ik wees haar erop dat door technologie in de geschiedenis voortdurend werk wordt overgenomen, maar dat er ook altijd ander werk voor in de plaats komt. Het kon haar zorgen voor de toekomst van haar kind niet wegnemen. Veel jongeren en hun ouders maken zich zorgen over hun toekomst en dat van hun kinderen omdat ze beseffen dat deze afhankelijk is van allerlei factoren die onzeker zijn. Daarbij spelen verhalen over de toekomstige mogelijkheden van de technologie een rol. Acteurs en auteurs gaan massaal de straat op als hedendaagse luddieten, om te protesteren tegen de plannen van de filmindustrie en de uitgeverijen van nieuwsmedia om hun werk te laten doen door AI. De kunstmatige intelligentie neemt het werk van acteurs over in de vorm van ‘synthetische karakters’. Machines zoals ChatGPT van OpenAI en Bing van Microsoft produceren teksten die niet van door mensen geschreven teksten te onderscheiden zijn. Zelfs de arts, de medische specialist, zou in de toekomst door AI vervangen worden. Hoe kunnen we de zorg voor de toekomst wel wegnemen?

Bij kunstmatige intelligentie gaat het om typisch ‘zelflerende’ systemen die in en door het gebruik hun ‘gedrag’ veranderen.

Misschien dat de kunstmatige intelligentie zelf ons niet alleen de mogelijkheid biedt maar ons ook uitdaagt en verplicht op een andere manier naar ons zelf, onze verhouding tot de arbeid en de samenleving en onze toekomst te kijken. Hoe dan? Om daar inzicht in te krijgen moeten we naar de problemen kijken die AI oproept en hoe we die interpreteren op grond van inzicht in de eigen aard van de AI.

Zowel bij de praktische problemen die de kunstmatige intelligentie met zich meebrengt, waarvan de belangrijkste de onverantwoordelijkheid, en daarmee de gebuikersonvriendelijkheid van de AI is, als bij het theoretische probleem van de mogelijkheid van kunstmatige intelligentie (de vraag naar de eigen aard van de ‘intelligentie’ van de machine) gaat het om de verhouding tussen menselijk kunnen en het functioneren van automatische informatieverwerkende systemen. (Fleischhacker, 1989)

De menswaardigheid of betekenisvolheid van de arbeid die we verrichten wordt mede bepaald door de stand van de technologie. Gegeven de beschikbaarheid van de huidige technologie is bijvoorbeeld het graven van een kanaal met een schep en een pikhouweel mensonwaardig. Anderzijds kan het uitvoeren van ongezonde of vervelende arbeid best menswaardig zijn. Het gaat erom dat de mens in zijn arbeid als oorsprong van een waardescheppend arbeidsproces erkend moet worden.

Als het om de waardering, de menswaardigheid, van de arbeid gaat, hebben we sterk de neiging in onze moderne kenniseconomie om dat te baseren op het onderscheid tussen theorie en praktijk, tussen technisch-wetenschappelijke arbeid (‘know-how’) en het aanmodderen (implementeren) van het door anderen uitgedachte werk op de werkplek. Dat laatste wordt als uitvoerend werk meestal minder gewaardeerd dan het denkwerk dat er aan vooraf is gegaan. We vergeten echter dat de ‘know-how’ door het aanmodderen, ‘trial and error’, in de praktijk tot stand is gekomen.

De huidige (demissionaire) minister van onderwijs en wetenschappen, Robert Dijkgraaf, heeft zich als taak gesteld om tegen de cultuur-economische wind in de waarde van het mbo-praktijkgerichte onderwijs op te krikken. Er is een schreeuwend tekort aan vakmensen, installateurs, en verpleegkundigen, terwijl de hoge-scholen en universiteiten overstromen van theoretisch hoogopgeleiden.

Met dat onderscheid tussen theorie en praktijk is in onze cultuur geassocieerd een onderscheid in geestelijke (verstandelijke) en zintuiglijke vermogens. Mensen die hoofdzakelijk lichamelijke arbeid verrichten ontwikkelen hun zintuiglijke vermogens, mensen die geestelijke arbeid verrichten ontwikkelen hun geestelijke vermogens. De laatste staan hoger aangeschreven. De geestelijke vermogens zijn wil en verstand. Deze komen echter niet apart in werkelijkheid voor: de wil bestaat niet zonder begrip en begrip bestaat niet zonder wil.

Met dat onderscheid tussen verstandelijke en zintuiglijke vermogens wordt geassocieerd een onderscheid tussen intellectuele denkarbeid, onderzoek, ontwerp en controle, enerzijds en het uitvoerende werk anderzijds. In de praktijk zal een beroep worden gedaan op een geheel van vermogens. Ook de uitvoerder moet zijn verstand gebruiken en toezicht houden op het werk dat hij verricht.

Het is van belang in te zien dat we gedrag op verschillende niveaux van reflectie kunnen begrijpen. Het gedrag kan als feitelijk voorkomend gedrag worden beschreven. Het gedrag kan als functionerend volgens bepaalde regels gereconstrueerd worden. Gedrag kan ook als uitoefening van bepaalde vermogens begrepen worden. Neem als voorbeeld van gedrag: het groeten. Dat kan beschreven worden als het opsteken van de hand. Het kan als zodanig gereconstrueerd worden als een functie die in een bepaalde situatie uitgevoerd wordt. Maar groeten kan niet als zodanig begrepen worden wanneer we abstraheren van het menselijk vermogen tot sociale interaktie. We kunnen een humaniode robot wel leren hoe in bepaalde welomscrheven situaties de hand op te steken (een groeten gebaar te maken), maar beschikt deze ook over het vermogen dat aan dit gedrag bij de mens ten grondslag ligt?

De vraag is nu of de vermogens die een rol spelen in de arbeid vervangbaar zijn door een informatieverwerkend systeem, door AI. De vraag is of menselijk gedrag simuleerbaar is en volledig vervangen kan worden, waardoor de mens volledig uit het arbeidsproces kan verdwijnen. Bij het beantwoorden van die vraag is het noodzakelijk onderscheid te maken tussen een vermogen (competence) en een bepaalde type gedrag dat uiting is van een vermogen (performance). Is alleen dat type gedrag simuleerbaar of is ook het vermogen door AI te simuleren? Is, bij wijze van voorbeeld, alleen het taalgenererend gedrag (zoals dat in een gesprek of in een roman voorkomt) door AI te leren of is ook het vermogen van de mens om zich in gesprekken en teksten te uiten door de machine te ‘leren’ ? De mens beschikt over een speciaal vermogen, een gevoeligheid voor waar het in een bepaalde situatie om gaat, een inzicht in datgene wat zich in de oppervlakkige verschijnselen tracht uit te drukken. Kan de technologie de bedoeling van gedrag, van tekst, als uitdrukking van die bedoeling vatten?

Hierover zijn de meningen verdeeld. Mensen beantwoorden de vraag of een machine in staat is de werkelijkheid te kennen verschillend. Aan de verschillende antwoorden op deze vraag liggen twee fundamenteel verschillende mens- en wereldbeelden ten grondslag. In het ene wereldbeeld is de technologie een voortschrijdende reconstructie van de menselijke vermogens. De teksten worden steeds betere reconstructies van de door menselijke auteurs geschreven teksten. De synthetische karakters en sociale robots zijn steeds betere reconstructies van door echte mensen gespeelde karakters. Een persoon is in dit mensbeeld een entiteit die meerdere sociale karakters (rollen) kan spelen en is als zodanig vervangbaar door een synthetische mens. Dit veronderstelt dat de mens restloos uitgedrukt wordt in een reconstructie (model) ervan.

In het andere wereldbeeld is het gedrag slechts een historische verschijningsvorm van een inzicht in de zinvolheid van bepaald gedrag in een gegeven situatie. Dat inzicht, een realiteitszin, dat tot bepaalde keuzes leidt, is vrijwel nooit expliciet, maar meestal impliciet aanwezig. Zonder die realiteitszin treedt een vervreemding en gevoel van zinloosheid op die het werken mensonwaardig maakt. Het contact met de werkelijkheid is dan verloren en het werk wordt geestdodend. De belangrijkste oorzaak van werkgerelateerde stress.

Mensen die denken dat AI het werk van de mens over kan en zal nemen zien de AI niet meer als een gebruiksvoorwerp, een stuk gereedschap. Terwijl een technisch middel een relatieve zelfstandigheid heeft in een bepaald gebruik door de mens, kennen ze het instrument, de robot of de tekstproducerende computer, een absolute zelfstandigheid toe. Een zelfstandigheid die ook buiten het gebruik ervan bestaat.

Wie het over de rechten van robots heeft die beschouwt de robot als een werkelijkheid, een identiteit, die ook buiten het gebruik ervan een eigen intelligente zelfstandigheid heeft. Dat is iets anders dan regels opstellen waaraan deelnemers aan interaktief verkeer met robots zich moeten houden ten behoeve van het functioneren. Een service robot die deelneemt aan het verkeer zal zich aan de afgesproken regels moet houden en zal binnen het verkeer rechten hebben die in die afgesproken regels zijn vastgelegd. Op een ander niveau zijn er regels die bepalen of robots aan het verkeer mogen deelnemen. Zo zal de autonome auto beelden van verkeerssituaties moeten kunnen herkennen op grond waarvan deze beslissingen kan nemen. Hoe de werkelijkheid gemodelleerd wordt, is afhankelijk van de beslissingen die genomen moeten worden om aan de functie van de autonome auto te voldoen.

In het beeld van de zelfstandige machine worden machine en mens naast elkaar gezet en worden hun prestaties met elkaar vergeleken alsof die machine buiten de gebruiksrelatie waarin de machine voor de mens en zijn werk zinvol is, zou bestaan.

Zowel het ontwikkelen van nieuwe technische middelen als het gebruik ervan vereist inzicht in wat op een gegeven moment zinvol is. Beide zijn aspecten van de menselijke productiviteit in de arbeid. De uitoefening van de creatieve gevoeligheid voor de schoonheid en zinvolheid van het leven zal meer en meer als onmisbaar onderdeel van het werk worden gezien. De voortgaande automatisering van de arbeid zal het nu nog overal gerealiseerde onderscheid tussen ontwerp (planning en programmeren) enerzijds en uitvoering (implementeren) anderzijds opheffen. Dat heeft niet alleen gevolgen voor de privé eigendomsverhoudingen: de vraag van wie de data is die de AI gebruikt als trainingsmateriaal. Is de technologie net als de taal geen gemeenschappelijk eigendom van een samenleving dat niet door een persoon of organisatie als privé eigendom kan worden geclaimd.

De klassieke figuur van de ambtenaar is die van een functionaris die de wetten uitvoert, zonder aanzien des persoon, die rechtvaardig ieder individueel geval volgens algemene procedures behandelt. Die ambtenaar is steeds vaker vervangbaar door een informatiesysteem. De ambtenaar wordt soms gevraagd meer betrokken te zijn bij de burger. Hij moet voeling houden met de realiteit. Hij moet achter zijn beeldscherm vandaan komen en aan de keukentafel plaats nemen om de burger als individu te ontmoeten. (Dit was de opdracht van de ‘hersteloperatie’ na de toeslagenaffaire waarbij vele burger vermorzeld werden tussen de raderen van de Belastingdienst.) Anderzijds vormt al te veel betrokkenheid en het doen gelden van de eigen politieke mening door ambtenaren een probleem. Zie de recente demonstraties van ambtenaren van het Ministerie van Buitenlandse Zaken tegen de opstelling van de regering in zake de kwestie Israël-Palestina. De ambentaar moet zich dan als slechts uitvoerder van overheidsbeleid zien. Dit is een dilemma. Tegenover de eis van gereguleerheid van de arbeid staat de eis van eigen inbreng, want overregulering maakt het werken geestdodend en frustrerend.

In een strikte scheiding van het structurende verstand en het uitvoeren van taken binnen de door dit verstand gestructureerde werkelijkheid herkennen we een moderne variant van het Cartesiaanse dualisme tussen enerzijds het denkend subject en de werkelijkheid die opgaat in haar structuur. Dit zelfde onderscheid zien we bij het denken over de ontwikkeling van technologie, waar we onderscheid maken tussen ontwerp en gebruik. In werkelijkheid komt deze scheiding niet zo voor. Het ontwerp vindt plaats tijdens het maken en gebruiken van een techniek. Bij het denken over de zelfstandigheid van de machine hebben we de neiging deze twee apsecten te scheiden. Volgens sommige opvattingen over de machine kan in principe ook het verstandelijk vermogen tot classificeren en structureren van de werkelijkheid als zodanig door de machine worden overgenomen. De machine is dus niet alleen maar in staat om iedere vorm van structurering na te bootsen, ook het vermogen tot de keuze van een geschikte structurering van de realiteit wordt aan de machine toegedicht. Dit betekent de faco dat vanuit dit gezichtspunt de machine zelf inziet hoe de werkelijkheid moet worden begrepen en in taal uitgedrukt. Op grond waarvan zou de machine dat kunnen? Wat houdt het verstandelijk vermogen van de mens in? Is het een puur intellectuele aktiviteit? Of is het een vermogen waarin het contact met de werkelijkheid, een ‘openheid’ een wezenlijke rol speelt?

Enerzijds levert de arbeider een bijdrage aan het ontwikkelen van de samenleving: arbeid als ontwikkelingsfactor. Anderzijds wil hij zichzelf als individu ontwikkelen en stelt hij eisen aan de wijze waarop hij bijdraagt (of niet) aan de samenleving.

In onze hooggeautomatiseerde en wetenschappelijk gereguleerde samenleving zien we dat mensen vervreemd raken van die samenleving, ze zijn de feeling ermee kwijt. Dit komt vooral door de ‘engte van het communicatiekanaal’ dat slechts een zeer beperkt beeld biedt. In onze samenleving is dit een thema van de eerste orde; de beschikbaarheid van voldoende en betrouwbare informatie, opdat de burger op volwaardig manier mee kan spreken over de zaken die hem aangaan. Het selecteren van de beschikbare informatie is een probleem voor het individu.

Artikel 10 van de Europese Verklaring van de Rechten van de Mens luidt: “Een ieder heeft recht op vrijheid van meningsuiting. Dit recht omvat de vrijheid een mening te koesteren en de vrijheid om inlichtingen of denkbeelden te ontvangen of te verstrekken, zonder inmenging van enig openbaar gezag en ongeacht grenzen.”

De Universele Verklaring van Rechten van de Mens stelt de ontwikkeling van het individu centraal, maar houdt tevens plichten in over zijn bijdrage aan de ontwikkeling van de samenleving.

Gevolgens voor het onderwijs

De veranderde betekenis van de kennis in het arbeidsproces heeft gevolgen voor de vraag waar het onderwijs op gericht is. Het onderwijs zal minder gericht moeten zijn op het aanleren van bepaalde vaardigheden, hoezeer die ook geleerd moeten worden, maar meer op het ontwikkelen van het vermogen tot inzicht in waar het in een gegeven situatie om te doen is. Het aanleren van bepaalde vaardigheden zal met gebruikmaking van de informatietechnologie door het leven heen zelfstandig kunnen gebeuren. Wat in het onderwijs aangeleerd moet worden is een nieuwsgierige, betrokken houding bij de ander en de samenleving. Niet uit een leerboek, maar door te doen en daarop te reflecteren.

Het leven is niet programmeerbaar. Wat nu waardevol is wordt niet bepaald vanuit een gewenste, ingevulde, toestand, een bouwplan voor de toekomst. We zullen toch voortdurend op creatieve wijze, afhankelijk van de situatie, ons moeten aanpassen aan de omstandigheden. Onze moderne economische samenleving brengt het onderwijs alsof deze een garantie kan bieden voor werk en inkomen in de toekomst. Op een open toekomst gericht onderwijs biedt geen garanties voor een bepaalde toekomst. Noch voor vrouwen, noch voor mannen.

Net zo min als de taalmodellen die door de kunstmatige intelligentie gebruikt worden het taalvermogen van de mens vastleggen, maar daarentegen slechts een historische uitdrukking zijn van dit vermogen, zo moeten we ook de Universele Verklaring van de Rechten van de Mens zien als een bepaalde, door de historische situatie getekende poging de idee van een rechtvaardige samenleving tot uitdrukking te brengen. Met de ontwikkeling van de samenleving op basis van het inzicht in de betekenis van de arbeid voor de mens, die de reflectie op AI ons biedt, zal ook de wijze waarop we de contouren van een rechtvaardige samenleving uitdrukken veranderen. Daarbij is de rol die zo’n verklaring heeft ook zelf in het geding. In ieder geval moeten we oppassen dat het geen dode letter, een historisch document, wordt dat geen functie meer heeft omdat het uit de tijd is.

Bronnen

Louk Fleischhacker (1989). Arbeid en (kunstmatige) intelligentie. In: Arbeid adelt niet. (Pieter Tijmes, red.). Kok Agora, Kampen, 1989.

Pieter Tijmes (1989). De maatschappij in de slip. In: Arbeid adelt niet. (Pieter Tijmes, red.). Kok Agora, Kampen, 1989.

Errit van der Velde (1989). Arbeid en zin. In: Arbeid adelt niet. (Pieter Tijmes, red.). Kok Agora, Kampen, 1989.

 

De laaggeletterdheid van Wittgenstein

“Wat gezegd kan worden, kan simpel gezegd worden.” (Ludwig Wittgenstein)

In een praatshow ging het over een populair onderwerp: laaggeletterdheid. Ongeveer een kwart van Nederland heeft moeite met lezen en schrijven. Velen kunnen helemaal niet lezen en schrijven. Binnenkort zijn er verkiezingen voor de Tweede Kamer. De politieke partijen dingen naar de stem van de laaggeletterde.

Stelt u zich dat voor: u bent laaggeletterd. U bent dat niet. Anders las u dit niet, maar stel. Wat doet u dan zoal met taal? Dat zijn de eenvoudige taalhandelingen die je in de directe omgeving uitvoert. “Pas op, een hond!”, “Kijk uit!”, “Wat doe je?”, “Mag ik vijf rode appels?”, “Hoeveel kost dat?”. Dat soort dingen doen we met woorden.

En dan valt er een brief op uw deurmat. Het is een uitnodiging van de televisie-omroep voor een praatshow over laaggeletterdheid. U weet wat een brief is, maar u kunt niet lezen wat er in staat. Hoe nodig je iemand die niet kan lezen uit voor een praatshow? Gelukkig is de dochter thuis. Die heeft op school leren lezen en die kan het uitleggen. “Mam, je bent uitgenodigd voor een praatshow op tv met een paar bekende Nederlandsers uit de politiek.” klinkt het enthousiast.

Waarom moeten we leren lezen en schrijven? Waarom moeten we leren fietsbandplakken? Toen er nog geen fietsen waren had dat geen nut. Was er laaggeletterdheid toen het schrift nog niet uitgevonden was? Ik bedoel maar: toen er nog geen schrift was, was er ook geen laaggeletterdheid. Het gebruik van taal was nog beperkt tot eenvoudige taalhandeligen als “Pas op een slang!” en tot het gesprek van man tot man (vrouwen hadden meestal nog niets te vertellen).

Zo’n gesprek ging over de politiek, over wat te doen, wat goed is en wat slecht. Over wat de goden daarvan vonden en hoe je die te vriend moest houden. Omdat er nog geen schrift was werden er geen notulen geschreven. Je kon een gesprek ook niet voorbereiden door je in te lezen in de materie. Een vervolggesprek begon dan ook altijd met een samenvatting van de voorgaande gesprekken. Die gesprekken duurden lang en werden dan ook vaak wandelend gedaan. Dat was niet erg, want er was toch geen televisie. De ander met wie je een gesprek had, die had eigenlijk de functie die de notulen nu hebben. De ander gaf jou woorden weer door ze te herhalen en erop te reageren. De tekst, dat zijn de woorden die gezegd zijn. De herinnering aan het gesprek.

De deelnemers aan het gesprek hadden wel nagedacht (reflectie) over wat er gezegd was. En zo kwamen ze toch iets verder. De woorden en wat ze betekenden die werden als het ware geboren in die gesprekken, door het gebruik. Zoals de handwerktuigen, onstonden in en door het gebruik tijdens het werken. Woorden waren onderdeel van de gebaren en expressies die samen de betekenis uitdrukten. De woorden zijn net als de werktuigen een product van een samenleving, van een wij.

Pas toen de technologie van het schrift zich zo ver ontwikkeld had dat het eenvoudig was iets op te schrijven (je had geen steenbeitel meer nodig en geen kalktablet) ontstond de gewoonte van het schrift. De woorden werden geisoleerd van de andere gebaren en expressies waar ze onderdeel van waren. Soms speciale (diacritische) tekens gebruikt om het gebaar, de wijze van uitspraak, aan te geven. Er werden boeken geschreven en er ontstonden geleerden, mensen die boeken schreven en die boeken van anderen lazen. Het hek was van de dam.

Er ontstonden mediaondernemers, uitgevers van boeken en tijdschriften. Geleidelijk begonnen die stteds meer uit te makan wat waard is beschreven en bespoken te worden.

Een paar van die geleerde mannen en vrouwen zaten ook bij de talkshow. Mevrouw Marijnissen van de SP en meneer Bontenbal van het CDA. En in het publiek zaten een paar laaggeletterden die kennelijk iemand in de buurt hadden die de brief had kunnen lezen. Een laaggeletterde mevrouw werd gevraagd om iets te zeggen. Ze zei dat die meneer Bontenbal zulke moeilijke worden gebruikt. Die snapte ze niet. Bontenbal voelde zich schuldig. Hij kreeg een kleur. Marijnissen liet met trots haar trofee zien. Het was De Klare Taal Bokaal voor de politicus die de klaarste wijn schenkt. Ze glom helemaal van trots.

Politica Lilian Marijnissen met de Klare Taal Bokaal

De vraag die niet aan de orde kwam is de volgende simpele vraag: zijn er verschillende manieren om hetzelfde te zeggen? Ik snap wel waarom die vraag niet aan de orde kwam, en dat werd ook in het programma wel opgemerkt: er is geen tijd voor een gesprek dat langer duurt dan 30 seconden. Vanwege de aandachtspanne, omdat er voetbal is, of het is weer tijd voor de reclame.

Het verzoek aan de politicus om het simpel te zeggen, in klare taal, gaat uit van een belangrijk onderscheid. Namelijk hier heb je een gedachte een idee, en daar de taal waarin deze gedachte, dit idee wordt uitgedrukt. Niet iedereen denkt dat het zo is dat er Ideeën bestaan die niet al in onze taal zijn uitgedrukt. En als het zo is dat ideeën en gedachten altijd al ‘talige’ dingen zijn dan is het maar de vraag of je ingewikkelde ideeën wel simpel uit kan leggen. Dat is kunst. Het hele eiereneten is dat de mens in de loop van de eeuwen dat hij hier rondloopt steeds ingewikkelder dingen is gaan construeren: instrumenten, wetten, organisaties, reglementen. Met vaak onleesbare handleidingen die weer handleidingen nodig hebben om ze te kunnen snappen. Ik denk zelf dat ideeën en gedachten tegelijk ontstaan met de taal waarin we ze uitdrukken. Een idee is een dynamisch iets dat zich als het ware met de taal ontwikkelt. Door een idee op een andere manier te verwoorden wordt het dus ook een beetje een ander idee. Dat betekent dat als Bontenbal zijn voor laaggeletterden onbegrijpelijke verwoordingen moet uitdrukken in simpele bewoordingen dat dan ook die ideeën een beetje veranderen. Laaggeletterden houden er een hele andere politiek op na dan die van de geleerde advocaten en politici die we van de televisiedebatten kennen.

Bij de tv-show over laaggeletterdheid zat ook een meneer in het publiek die op latere leeftijd had leren lezen en schrijven. Hij vond dat de politici veel te veel teksten schreven en elkaar in de haren zaten en daarmee de zaak alleen maar ingewikkelder maakten. Steek samen de handen uit de mouwen en doe wat aan de problemen. Zo riep hij de politici op. Dat heb je als je mensen leert lezen en schrijven. Dan denken ze ook nog dat ze wat in te brengen hebben in de politiek.

De werking van een eenvoudig instrument als een vuistbijl of een kerfstok laat zich nog wel aan iedereen uitleggen. Daar hoef je niet voor naar het mbo te gaan. Je ziet als het ware hoe het werkt. Dat geldt ook nog wel voor een muizenval. Maar hoe zit dat met een benzinemotor of een programmeerbare automaat? Laat ik eens proberen u, de analfabeet waarvan ik voorstelde dat u zich voorstelt dat u dat bent, uit te leggen hoe een programmeerbare automaat werkt. Dat moet natuurlijk kort, vanwege de aandachtspanne, en in eenvoudige woorden. Daar gaat ie.

Neem een velletje papier en houdt dit voor uw mond. Zeg dan het woord: wapper, met enige kracht. En zie wat er gebeurt. Als u deze instructie goed heeft opgevolgd, dan is het papiertje gaan wapperen toen u het woord uitsprak. Dat is nu het principe van de programmeerbare automaat. Het papiertje doet wat u heeft gezegd dat het moet doen: wapperen. We zeggen dan, in klare taal: het papiertje snapt wat ik met die opdracht bedoel. Hoe weet u dat het papiertje dat snapt? Omdat u dat ziet gebeuren. Kijk dan, het wappert toch!

Het probleem kan zich nu voordoen (ik spreek uit ervaring) dat u niet snapt waarom dit een uitleg is van hoe een programmeerbare automaat werkt. Zo’n ding is toch veel ingewikkelder dan zo’n simpel papiertje waar je tegen aan praat! Zeker. Maar het gaat om het principe. Dat principe is dat we een instrument hebben gemaakt (het papiertje dat we voor onze mond houden, de hardware) dat als we die een opdracht geven door middel van taal (de programmeertaal, de software) er iets in werking wordt gezet in dat instrument, een fysisch proces, dat we kunnen beschouwen als de uitvoering van de opdracht die we in de taal hebben uitgedrukt.

De vorige zin is een complexe zin. Mijn stelling is dat we misschien wel simpele woorden en beelden kunnen gebruiken om iets uit te leggen, maar dat we dan altijd veronderstellen dat de ander die beelden als metaforen ziet, als een wijze van spreken, om iets anders, dat ingewikkelder is uit te leggen. En om dat in te zien moet je er zelf over hebben nagedacht. Anders snap je dat niet.

Aan de wapper-automaat kunnen we al zien dat de hardware zodanig gemaakt is dat deze geschikt is voor de uitvoering van de opdracht, het wapperen, die in de software van de taal is uitgedrukt. Software en hardware verhouden zich als de sleutel en het slot. Ook die zijn op elkaar afgestemd.

De filosoof Ludwig Wittgenstein schreef een van de moeilijkste teksten die de geschiedenis van de denkende mens heeft voortgebracht. Het is een tekst uit 1914-1918. Hij had er de hele periode van de Grote Oorlog aan het front mee rondgelopen. Er waren nog geen programmeerbare computers zoals we die nu kennen, alleen wat eenvoudige rekenmachientjes die konden optellen en aftrekken.

Wittgenstein staat met zijn gedachten aan de basis van het denken dat tot de programmeerbare automaat en de kunstmatige intelligentie (AI) heeft geleid. Daarom is het boeiend om zijn teksten te lezen. Omdat die een kijkje bieden in hoe hij dacht. Hoe hij dacht over hoe de woorden over de feiten gaan en hoe ze werken.

In de inleiding van het boekje (de Tractatus Logico Philosophicus) schrijft hij: “De gedachten die ik hier opschrijf zullen vermoedelijk alleen door die lezers verstaan worden die deze gedachten, of vergelijkbare, zelf al eens gedacht hebben.

Als het zo is dat we alleen teksten kunnen snappen die gedachten uitdrukken die we zelf al eens gedacht hebben, wat valt er dan nog van anderen te leren? Dan is het gebruik van de taal inderdaad beperkt tot de praktische taalhandelingen die we in een ‘taalspel’ uitvoeren: “Mag ik vijf appels” of “Kijk uit, een slang!”.

Wittgenstein vond dat als iets gezegd kan worden, dat het dan ook helder gezegd kan worden. De eerste ‘stelling’ van de Tractatus is:

De wereld is alles wat het geval is.

Lijkt me een waarheid als een koe. De laatste is:

Waarover men niet spreken kan daarover moet men zwijgen.

Is er klaardere taal dan dit om te zeggen wat Wittgenstein zegt? Zijn boekje heeft veel van een dichtbundel. Een gedicht is als een dans. Je kunt het niet uitleggen.

Maar wat wilde hij ons met deze woorden zeggen? Had hij er niet wat meer woorden aan kunnen besteden? Volgens Wittgenstein schieten we daar niets mee op. Als je niet zelf hebt ingezien hoe een instrument werkt, dan snap je ook de teksten niet die je uitleggen hoe het werkt. En als je een keer hebt ingezien hoe het in elkaar zit dan heb je die tekst ook niet meer nodig. Dan kun je beter aan het werk gaan.

De diepe betekenis van de simpele woorden van Wittgenstein zijn voor ons, een eeuw nadat ze door hem gedacht zijn, misschien eenvoudiger te peilen dan voor zijn tijdgenoten. Misschien waren er twee mensen die het een beetje begrepen. De filosoof Bertrand Russell was er in elk geval niet een van. Volgens Wittgenstein had deze geleerde wiskundige logicus en filosoof niet begrepen wat hij bedoelde. Waarom zijn wij beter in staat de Tractatus te snappen? Omdat we gewend zijn aan de technologie van de sprekende machines, de sociale robots, de kunstmatige intelligentie. Ons denken, onze verhouding tot de taal en de werkelijkheid, is in de loop van de eeuw zodanig veranderd door de technologie dat we de zin van de woorden van Wittgenstein, die het idee van deze technologie intuitief aanvoelde, nu beter kunnen snappen dan zijn tijdgenoten die nog niet door de werkelijkheid van vandaag gevormd waren.

Het monosyllabilisme is een poging onze gedachten in uitsluitend monosyllabische woorden uit te drukken. Dat zijn woorden die slechts uit één lettergreep bestaan. Zoals: het zijn van een koe is niet niets. Misschien moeten we onze politici bekeren tot het monosyllabilisme. Het is een goeie oefening in taal om een tekst, zoals een verkiezingsprogramma, in monosyllabische taal over te zetten.

In de tijd dat u dit leest zijn er in Gaza weer kinderen overleden. Ze zijn het slachtoffer van het oorlogsgeweld. De geleerden: politici en experts op het gebied van het internationale oorlogsrecht buigen zich over dikke wetboeken en teksten waarin afspraken staan genotuleerd van gesprekken gevoerd tussen de strijdende partijen toen het even geen oorlog was. In die teksten hebben ze vast proberen te leggen hoe men zich heeft te gedragen. De vraag waar ze zich over buigen is of dit kind, dat net aan haar verwondingen overleed, slachtoffer is van een aanslag die valt onder het oorlogsrecht of niet. Ze zijn er nog niet uit. Andere geleerden schrijven er weer nieuwe artikelen over in internationale journalen.

Dat is wat onze geleerdheid doet met het nog ongeletterde, onschuldige kind, slachtoffer van de oorlog die begon met de strijdige interpretaties van oude, religieuze teksten waarin de geschiedenis de mensen beloftes zou hebben gedaan die ze maar niet na komt.

Kind in Gaza en rechts Emmanuel Levinas, frans-joods filosoof

Er schijnt een verschil te bestaan, zei de joodse filosoof Emmanuel Levinas, tussen de werkelijkheid die ons onmiddellijk aanspreekt en de interpretaties, de betekenissen die we, als geletterden, aan die werkelijkheid geven.

Aan die tekst moest ik denken toen ik het met bloed besmeurde gezichtje zag van het kind dat getroffen werd door de strijd om oude teksten.

Bronnen

Emmanuel Levinas (1971). Het menselijk gelaat. Vertaald en Ingeleid door O. de Nobel en A. Peperzak. Ambo, 1969, Bilthoven. Hierin: Betekenis en zin, pp.152-191. (Vertaling van La signification et le sens. in: Revue de Métaphysique et de Morale 69 (1964), 125-156.)

Emmanuel Levinas (1951). L’ontologie est-elle fondamentale? In: Revue de Métaphysique et de Morale 56 (1951) 88-98.

Ludwig Wittgenstein (1973). Tractatus logico-philosophicus. Logisch-philosophische Abhandlung. Ed. Suhrkamp, Uitgave 1973. Oorspronkelijke Duitstalige uitgave 1921.