Month: September 2021

“Ik wou dat ik een beter mens was en een beter verstand had. Eigenlijk is dat het zelfde.” (Ludwig Wittgenstein, 1917)

De mens kan het vermogen om in een concrete situatie in te schatten waar het om gaat niet ontkend worden. Deze gevoeligheid voor waar het om draait, een vermogen dat ontwikkeld kan en moet worden, komt in ieder weten en handelen tot uitdrukking. Ze gaat vooraf aan ieder onderscheid tussen ‘zijn’ en ‘behoren’. Deze gevoeligheid is een vorm van intelligentie die de kern en de eenheid uitmaakt van ons kennen en willen. Wellicht wijst Wittgenstein in bovenstaand citaat, afkomstig uit een brief aan zijn vriend Paul Engelman, op deze eenheid. ‘Verstand’ moet hier in brede zin opgevat worden als intelligentie, het vermogen de werkelijkheid te ‘verstaan’.

Deze gevoeligheid heeft in de loop van de geschiedenis van denken en handelen onder andere geleid tot de ontwikkeling van ‘kunstmatige intelligentie’ (AI), machines die ‘gedragingen’ vertonen die we als intelligent, zinvol in een gegeven situatie, herkennen.

De toenemende mate van ‘zelfstandigheid’ van deze technologie, bijvoorbeeld in de vorm van robots en zelfrijdende autos, brengt het West-Europese denken al enige tijd in verwarring. Zijn sociale robots morele agenten, die verantwoordelijk zijn voor wat ze doen? En anderszijds: hebben robots rechten? De discussie over deze kwestie wordt gekenmerkt door de tegenstelling tussen zijn en behoren.

Beschikken onze intelligente zelfstandige machines, onze sociale robots, misschien niet over het vermogen in te schatten waar het in een concrete situatie om te doen is?

Voor een recente review van het debat over de morele en legale status van robots zie (Schröder 2021). De bovengenoemde verwarring heeft ook de burelen van het Europese Parlement bereikt. De leden zijn door informatici en ethici gewezen op de technische idee van de ‘sociale robot’, een constructie die, zo wijzen ervaringen gesteund door diverse wetenschappelijke experimenten uit, door mensen vaak eigenschappen krijgen toegedicht die we tot voor kort alleen nog aan mensen toedichten. Mensen voeren zelfs gesprekken met deze robots en getuigen ervan emotionele banden met deze artefacten te hebben, vergelijkbaar met de banden die ze met hun huisdier of psycholoog hebben.

Maar als dat zo is, moeten deze nieuwe sociale agenten die volgens sommige ethici in zekere zin morele agenten zijn (ze zouden immers morele beslissingen nemen) dan ook geen (burger)rechten hebben?

In 2017 werd de android Sophia buitengewone (honorable) burgerrechten verleend door Saudi-Arabië. Het betreft hier een publiciteitsstunt die als onderdeel gezien kan worden van de politiek-economische context waarbinnen de ontwikkeling van intelligente technologie zich afspeelt. Voor een analyse van dit fenomeen zie het artikel The political choreography of the Sophia robot (Parviainen en Coeckelbergh, 2021). Volgens Schröder (2021) kreeg de Japanse ‘robot’ Paro in 2014 al Japanse ‘burgerrechten’.

Kate Darling van het MIT Media Lab hield een pleidooi voor het toekennen van rechten aan sociale robots om ze beschermen tegen misbruik en geweld. Zoals we ook wetten hebben die dieren tegen mishandeling door mensen beschermen.

Assuming that our society wants to protect animals regardless of their capacities, because of our personal attachments to them, society may well also want to protect social robots regardless of their capacities.

Nu is er een groot verschil tussen dieren en robots. Zoals Darling zelf al aangeeft is het motief voor het beschermen van robots dat mensen er persoonlijk aan gehecht raken. Het lijkt me dan ook te gaan om het leed dat de mensen wordt aangedaan door hun geliefde robot iets aan te doen. Dat is een ander motief dan het motief dat ten grondslag ligt aan het beschermen van andere diersoorten. Ook dieren die geen eigendom zijn vallen onder de bescherming van de wet. Sociale robots komen niet in het wild voor. Het zijn instrumenten in dienst van de mensen. Hun ‘zelfstandigheid’ is slechts relatief in de context van het gebruik dat we ervan maken. Zodra ze geen waarde meer hebben voor de eigenaar of gebruiker zijn ze niet meer dan een ongebruikt stuk gereedschap.

Maar voor de bescherming van culturele goederen met historische waarde bestaan al regels en wetten. Sprekende, tekst producerende, machines kunnen goed vergeleken worden met boeken. Er lijkt me dan ook geen enkele reden om nieuwe wetgeving voor sociale robots in te voeren.

Toch denken sommige mensen, ethici, theologen, filosofen en rechtsgeleerden daar anders over.

Gewaarschuwd door de ervaring dat wetgeving altijd achter loopt bij de technologische ontwikkeling, heeft de EU gemeend de toekomst nu eens een stap voor te moeten zijn en te moeten anticiperen op de dingen die ons volgens de moderne futurologen te wachten staan.

In de Resolutie over Burgerrechten voor Robots stelt het Europese Parlement in een aanbeveling aan de Europese Commissie (paragraph 59 f):

“Creating a specific legal status for robots in the long run, so that at least the most sophisticated autonomous robots could be established as having the status of electronic persons responsible for making good any damage they may cause, and possibly applying electronic personality to cases where robots make autonomous decisions or otherwise interact with third parties independently;”

Het moet niet gekker worden, zal menigeen denken die dit voorstel leest. Dat vonden een heleboel wetenschappers ook. Ze schreven een Open Brief aan de Europese Commissie over Kunstmatige Intelligentie en Robotica waarin ze vanuit diverse perspectieven hun bezwaren te kennen geven tegen de idee om robots als personen te zien. Zo schrijven ze:

From a technical perspective, this statement offers many bias based on an overvaluation of the actual capabilities of even the most advanced robots, a superficial understanding of unpredictability and self-learning capacities and, a robot perception distorted by Science-Fiction and a few recent sensational press announcements.

From an ethical and legal perspective, creating a legal personality for a robot is inappropriate whatever the legal status model.

De ondertekenaars van de brief vinden dat de Europese Unie zich beter kan richten op de risico’s die mensen lopen door het gebruik van AI en Robots door regels op te stellen voor bedrijven die deze technologie ontwikkelen.

Voorstanders zijn van mening dat (sociale) robots de status van een electronisch persoon zouden moeten hebben, een legale entiteit die verantwoordelijk is voor de acties die hij (zij, het?) uitvoert. Tegenstanders voeren allerlei argumenten aan waarom ze vinden dat dit een misvatting is. Er zijn inmiddels tientallen boeken en honderden artikelen geschreven over het probleem. Er worden verbanden gelegd met ‘environmental ethics’ en de strijd voor dierenrechten. Als niet-menselijke entiteiten zoals rivieren, oerwouden of dieren een legale status kunnen krijgen waarom robots dan niet? Als niet-natuurlijke personen zoals bedrijven of voetbalclubs als Philips of Manchester United ter verantwoording kunnen worden geroepen waarom robots dan niet? Is de ‘zelf-rijdende’ auto verantwoordelijk voor het leed andere weggebruikers aangedaan? Is de onbemande zelf-doelzoekende drone verantwoordelijk voor de schade die ze aanricht? De ontologische en morele status van het technisch artefact in het algemeen en de sociale robot in het bijzonder staat ter discussie. Is dit slechts een stuk gereedschap, een instrument of verdient de robot de morele status van een persoon, die we ter verantwoording kunnen roepen?

Volgens sommige auteurs hoeft een robot geen persoon te zijn om morele agent te zijn. Volgens (Sullins 2006) is een robot een morele agent wanneer deze aan drie voorwaarden voldoet: a) de robot is ‘significantly autonomous from any programmers or operators of the machine’; b) het is alleen mogelijk het gedrag van de robot te verklaren ‘by ascribing to it some predisposition or ‘intention’ to do good or harm’: c) de robot toont in zijn gedrag empathie en verantwoordelijkheid tegenover andere morele agenten. Robots die aan deze drie voorwaarden voldoen moeten morele rechten hebben en als verantwoordelijke entiteiten beschouwd worden, of ze nu wel of niet de status van persoon hebben. Volgens Sullins zijn robots geen personen, waarbij hij het begrip ‘persoon’ als bekend veronderstelt. Uit zijn criteria kunnen we afleiden dat volgens Sullins het antwoord op de vraag of een robot een morele agent is volledig afhangt van de zienswijze en het begrip van de mens die de robot beschouwt. Hoe weten we of ‘gedrag’ gemotiveerd is door empathie? Zorgt een ‘zorgrobot’ uit zorg? Of heeft het functioneren van de robot slechts de uiterlijke kenmerken van het functioneren van de zorgende dochter voor haar moeder?

Voor het gerecht staat een figuur die de gedaante heeft van een persoon. Maar is dit werkelijk een persoon? Wat is de ware identiteit van de sociale robot? Is dit echt of is dit kunst, namaak? Dat is de vraag. Het verschil tussen echt en namaak is lastig experimenteel vast te stellen, omdat deze slechts kan oordelen over de verschijningsvormen zoals die in de experimentele settings optreden. Maar daarin schuilt juist het probleem: het beeld lijkt sprekend op het origineel. De vraag stelt de rechter voor een heel ander soort probleem: wat is het verschil tussen echt en gemaakt?

Het kan zijn dat het is alsof de ogen van een robot of een portret je aankijken, maar dat wil niet zeggen dat iemand je daadwerkelijk aankijkt. Ishiguro ontwikkelde zijn humanoids om te onderzoeken hoe hij het gevoel van aanwezigheid (presence) bij mensen die ze ontmoeten kon bewerkstelligen. Mensen zeggen dat ze bij het zien van de blik van de humanoïde sprekende robots een unheimisch, (‘uncanny’), gevoel ervaren. Het is de griezeligheid van de ervaring wanneer een dood gewaand persoon plotseling voor je de ogen opent en je aankijkt.

Met deze begripsmatige problematiek hangt een praktische problematiek samen. Techniek moet om techniek te zijn dienstbaar zijn aan de mens. Ze moet gebruiksvriendelijk zijn. Naarmate de techniek zelfstandiger wordt betekent dit dat ze moet kunnen verantwoorden waarom ze doet wat ze doet. Er is immers niets gebruiksonvriendelijker dan de ambtenaar die geen verantwoording aflegt voor wat hij doet en alleen maar verwijst naar de regels die hij moet volgen in de uitvoering van zijn taak. Volgens Kant is het verantwoordelijk zijn voor eigen handelen hét kenmerk dat de vrije persoon onderscheidt van de dingen en de machines die volgens de wetten der natuur werken.

Het probleem met de moderne technologie is dat ook de makers ervan vaak niet meer kunnen voorspellen hoe deze in alle omstandigheden zal werken. De techniek is te complex geworden doordat haar werking op statistische wijze afhangt van de omgeving waarin ze functioneert en de gegevens waarmee ze gevoed is. Ze wordt aan haar lot over gelaten. Wie kan dan nog ter verantwoording geroepen worden voor het gedrag van de techniek? (Sætra, Henrik Skaug, 2021).

Een belangrijke reden voor de wens de legale status van min of meer autonome technische artefacten vast te leggen is een oplossing te vinden voor wie aansprakelijk (‘accountable’) is voor de kosten ten gevolge van schade die door deze instrumenten veroorzaakt kunnen worden. De eerste vraag daarbij is of het wel verstandig is instrumenten te maken die zelf beslissingen nemen die mogelijk tot schade kunnen leiden. Van belang is dat mensen een goed beeld hebben van wat ‘autonomie’ precies betekent. Instrumenten moeten op een oordeelkundige manier gebruikt worden. Daarvoor is enige inzicht in hun werking noodzakelijk. Wie alleen naar het gedrag kijkt heeft wellicht de neiging daar al te snelle conclusies uit te trekken omtrent vermeende vermogens of capaciteiten waarover het instrument zou beschikken. In zekere zin werkt de techniek ook op grond van misleiding. Uit het feit dat de automaat bijvoorbeeld zegt “Toets uw code in” denkt de gebruiker dat deze hiermee ook bedoelt dat degene tot wie hij zich richt deze opdracht moet uitvoeren. Dit denken, het associëren van verschijnsel en oorzaak, is een automatisme dat berust op gewoonte. Het zijn dergelijke menselijke gewoontes waar de techniek gebruik van maakt. De machine ‘toont’ een tekst en wij als gebruiker zien daar een ‘zeggen’ in.

Als eerste criterium voor moreel agentschap wordt meestal de ‘autonomie’ van het technisch artefact genoemd. Volgens Sullins moet de robot ‘significantly autonomous from any programmers or operators of the machine’ zijn om moreel agent te kunnen zijn. Maar wat houdt dat in: ‘significantly autonomous’? Om wat voor relatie tussen mens en machine gaat het hier?

Wat is die vorm van ‘zelfstandigheid’ die we aan de technische artefacten toekennen? Hoe verhoudt deze zich tot de zelfstandigheid van de natuurlijke dingen en tot die van de levende en dode natuur? Wat is de achtergrond, wat is de ontstaanswijze van deze figuur die voor het gerecht staat en waarvan we de ware identiteit moeten bloot leggen? Als het om een humaan persoon gaat zouden we zeggen: “waar is dit er een van?” Om op deze vraag een antwoord te geven duiken we de geschiedenis in. Op zoek naar het ontstaan van de intelligente machine.

Over de ontdekking van feit en informatie

Volgens de historicus David Wootton was er voor 1700 geen sprake van ‘facts’, van ‘feiten’, zoals we die nu kennen. In The Invention of Science schrijft Wootton:

“We take facts so much for granted that there have been few attempts to write their history, and none of them satisfactory. Yet, our culture is as dependent on facts as it is on gasoline. It is almost impossible to imagine doing without facts, and yet there was a time when facts did not exist.” (Wootton, 2016, p.252).

Natuurlijk bestonden er voor 1700 ook wel feiten. Ver vóór 1700 in 49 voor Christus bijvoorbeeld stak Gaius Julius Caesar de rivier de Rubicon over. Een memorabele actie waarmee hij een nieuwe burgeroorlog begon en het lot bezegelde van de Romeinse Republiek. We beschouwen dit als een historisch feit. Iets dat werkelijk heeft plaats gevonden. Waar Wootton ons echter op wijst is dat dit niet als feit werd gezien. Feiten bestonden er altijd wel maar niet als feit. Wat betekent dat?

In het hoofdstuk Facts gaat Wootton op zoek naar de oorsprong van het feit. Wat zijn dat voor dingen?

Wootton citeert Ronald Barthes over ‘facts’ (citaat uit , 2015):

“The fact can only have a linguistic existence, as a term in a discourse, and yet it is exactly as if this existence were merely the ‘copy’, purely and simply, of another existence situated in the extra-structural domain of the ‘real’. (Barthes, The Discourse of History, 1967).

“Het feit kan alleen maar een talig bestaan hebben, als een term in een tekst.”

Maar, voegt Barthes toe: het is exact alsof dit bestaande object, slechts een ‘copy’ is, puur en simpel, van een ander bestaand iets, iets dat gesitueerd is in het buiten-structurele domein van de ‘realiteit’.

Barthes wijst op de dubbele gelaagdheid van het feit. Het is iets taligs en als zodanig kennelijk iets dat deel uitmaakt van een structuur, maar dat is slechts een beeld van iets dat in de werkelijkheid buiten die structuur bestaat.

De uitspraak dat “Caesar de rivier de Rubicon over stak” is omdat het uitspreekt wat werkelijk heeft plaats gevonden noodzakelijk waar.

Wanneer we iets als feit opvatten dan zien we het niet louter in zijn oorspronkelijke inhoudelijke kwalitatieve bepaaldheid maar als door het verstand voorzien van een structurele bepaaldheid. Feit als feit wil zeggen feit formeel genomen. De werkelijkheid wordt gevat volgens een bepaalde kenvorm. Het kennend subject voegt de oordeelvorm waarin op talige wijze de inhoud van het gekende wordt uitgedrukt toe aan de toedracht. Alsof deze tot de werkelijkheid zelf behoort. En dat is natuurlijk ook zo, anders was het niet de werkelijke inhoud die gekend en uitdrukt wordt. Maar het gekend zijn, het feit als feit, dat is er slechts van de zijde van het kennend subject aan toegevoegd. Het oordeel als talige door ons gemaakte constructie komt los te staan van de werkelijkheid die er in wordt uitgedrukt. Het gebeuren zegt zelf niet hoe het als feit moet worden opgevat. Het spreekt zich zelf niet uit als op een bepaalde manier gekend, alsof het zelfkennis zou hebben.

Wie doet alsof dit wel zo is die kan zo maar worden beticht van projectie, of van antropomorfisme. Zo ook degenen die zeggen dat de vervuilde oceanen en rivieren, de door toeristen en industrie verpauperde kusten, de door luchtverontreiniging verziekte bossen ons aan kijken en ter verantwoording roepen vanwege het onrecht dat de natuur is aangedaan.

Het feit wordt zodra het als feit gezien wordt als iets contingents opgevat, iets dat ook niet het geval had kunnen zijn. De zin waarin het gebeuren wordt beschreven komt tegenover de waarheidswaarde te staan. Die had ook niet waar kunnen zijn.

Het is niet toevallig dat de feiten als zodanig ontstonden tegelijk met de ontwikkeling van de experimentele natuurwetenschap. Deze is immers mathematisch van aard, zoals die andere historicus van de Mechanisering van het Wereldbeeld, Dijksterhuis overtuigend heeft laten zien. Het gegeven wordt opgevat als verschijningsvorm van een algemene wetmatigheid, een structurele bepaaldheid. Wat het geval is is een toevallige realisatie van een mogelijkheid in een veld van mogelijkheden. Er zijn vele mogelijke werelden denkbaar. En maakbaar.

Natuurlijk hielden vallende stenen zich voor Galileo en Newton ook al aan de valwetten, die door middel van wiskundige vergelijkingen worden beschreven. De natuurverschijnselen is het verder om het even hoe deze worden geformuleerd: als deeltjes of als golven.

De werkelijkheid wordt een systeem dat zich in een bepaalde toestand bevindt. Een feit is een beschrijving van een toestand.

De bewustwording van het feit als feit is een nieuwe fase in de ontwikkeling van de technische geest. Ze getuigt van een nieuwe reflectie die tot uitdrukking komt in het informatiebegrip. Informatie is feitelijke kennis van feiten.

Als er geen feiten bestaan dan ook geen informatie.

Er is dus een tijd geweest dat er helemaal nog geen sprake was van ‘informatie’. Ik bedoel daarmee niet dat er geen informatie was, maar men zag het niet als informatie. Terwijl nu alles lijkt te draaien om kennis en informatie. Vanuit een bepaalde perspectief kan alles worden opgevat als onderdeel in een informatieverwerkend systeem. Voor Floridi is alles informatie.

In de rechtspraak gaat het om de feiten. De rechter moet de informatie, de getuigenissen, op hun waarheidsgehalte toetsen, om de ware toedracht van het gebeuren vast te stellen. De rechter moet recht doen aan de waarheid.

De werkelijkheid als systeem

Sinds het einde van de 19de eeuw veranderde de werkelijkheid van de natuurwetenschap (‘science’) in een systeem dat bestaat uit deelsystemen omgeven door andere systemen waarmee ze interacteren. Een systeem bevindt zich in een toestand en verandering is verandering van toestand. Potentialiteit en veranderlijkheid wordt gerepresenteerd door een veld van mogelijke toestanden. Een onderscheid tussen een actief zelf of een passief zelf is volgens deze opvatting niet mogelijk. Het zelf van een systeem is geen echte substantie. De toestanden van het systeem is een verzameling van mogelijke waarden van zekere parameters, die staan voor grootheden als snelheid, massa, plaats. De waarden van deze parameters veranderen volgens bepaalde natuurwetten. Het proces is de continue stroom die de discrete toestanden met elkaar verbindt. De notie oorzaak is problematisch in dit wereldbeeld. Het systeem is niet zelf oorzaak van de afgrenzing van zijn omgeving, een kenmerk van levende organismes. Oorzakelijkheid komt overeen met wetmatigheid van gedrag. Oorzaak is in de ogen van de moderne wetenschap een metafysisch begrip. En dat geldt al helemaal voor de idee van causa sui, als iets dat bron is van zijn eigen activiteiten. In de idee van causa sui worden ‘uit zichzelf’ en ‘vanzelf’ als identiek gezien, niet onderscheiden.

Om het revolutionaire van de idee van de informatieverwerkende, denkende, machine in te zien en daarmee een beeld te krijgen van de eigen aard van deze technologie en om daarmee de ware identiteit van de robot vast te stellen, gaan we terug naar Heinrich Herz, op wiens experimentele werk de communicatietechniek van Marconi voort zou bouwen.

Techniek wordt alsmaar mathematischer. Daarom eerst een beetje mathematiek.

Het commutatief diagram van Herz

Een commutatief diagram is een schema zoals hieronder.

Dit diagram toont op schematische wijze hoe je het resultaat/gevolg van de optelling van twee decimale getallen (pijl naar rechts boven de blauwe streep) kan berekenen door deze twee eerst om te zetten naar twee binaire getallen (pijl naar beneden), daarop de methode/regels voor de binaire optelling uit te voeren (pijl naar rechts onder de streep) en het resultaat daarvan weer om te zetten naar het decimale getalstelsel (pijl naar boven). Ik zeg “decimale getallen” en “binaire getallen” waar je eigenlijk “decimale en binaire representatie van getallen” moet zeggen. We hebben sterk de neiging de getallen met hun talige voorstelling te identificeren. Dat geldt in het algemeen voor wiskundige objecten: om ze een identiteit te verlenen moeten we ze een ‘identifier’ (een ‘rigid designator’ in de zin van Kripke) toe kennen. Volgens het citaat van Ronald Barthes over de aard van het feit is er een exacte kopie tussen de talige en de benoemde werkelijkheid. In de wereld van het mechanische denken zijn betekenissen mathematisch exact en eenzinnig.

Het commutatief diagram is het schema dat Heinrich Herz gebruikt om het denken van de mechanica (en het mechanische van het denken) uit te leggen.

De volgende tekst komt uit zijn Prinzipien der Mechanik (1894).

“We maken voor onszelf inwendige beelden of symbolen van de uitwendige voorwerpen/toedrachten, en we maken ze wel zodanig dat de denknoodzakelijke gevolgen van de beelden steeds weer de beelden van de natuurnoodzakelijke gevolgen van de afgebeelde voorwerpen/toedrachten zijn.” (Zie figuur voor de Duitse tekst.)

Deze gedachtegang kunnen we schematisch door middel van het volgende commutatieve diagram voorstellen

Deze correspondentie tussen denkprocessen en natuurprocessen wordt uitgebuit in de denkende/rekenende machine. De logische AND-schakeling is een logische schakeling omdat de wiskundige relatie tussen de waarden van de invoervariabelen en de uitvoervariabele correspondeert met de tabel van de logisch and operatie (zoals Wittgenstein die in zijn Tractatus op nam en die in iedere Inleiding Logica te vinden is.)

Het kanaal wordt een programmeerbare machine, zodra de ingevoerde tekens niet alleen de toestand van het kanaal bepalen die aan de ontvangstkant worden uitgelezen, maar wanneer deze tekens het kanaal in een toestand brengen waardoor een fysisch proces in gang word gezet dat overeenkomt met de betekenis die in de tekens is uitgedrukt. De machine is een werkend teken geworden. Deze verwerkt informatie en produceert informatie.

Conclusie

We hebben de robot technologie bekeken in het licht van de historische ontwikkeling van de mathematische experimentele natuurwetenschap en technologie. Deze maakt de eigen aard van de zelfstandigheid van het technische instrument en de intelligente machine voor ons zichtbaar. Het technische ding ontleent zijn zelfstandigheid enerzijds aan het weergave zijn van een ontwerp, een abstract verstandsvorm, anderzijds aan de eigen werking van de natuur, waarin deze mathematische vorm is uitgedrukt. De informatieverwerkende machine is het product van de zelfreflectie van het natuurwetenschappelijke mathematische denken.

Zoals de jaarringen in de boomstam ons iets vertellen over de geschiedenis van de boom (een voorbeeld van ‘omgevingsinformatie’ uit Floridi 2014) en de geschiedenis omgekeerd de jaarringen verklaart, zo zegt de historische ontwikkeling van de technische geest ons iets over de ware identiteit van de robot.

De robot is er een van de mens. Ze ontleent heel haar identiteit aan de technische relatie die de mens met de natuur heeft. Als product van menselijk denken en doen ligt zowel haar identiteit als de verantwoording voor haar doen en laten bij de mensen.

De Japanner Hiroshi Ishiguro bouwt zeer realistische androïden die op hemzelf of een ander echt persoon lijken, zoals Erica, omdat hij wil weten wat presence betekent. Volgens het adagium “je snapt het pas als je het zelf kunt maken” wil hij namaak mensen maken die je het gevoel geven als je er bij in de buurt bent dat je niet alleen bent, zoals dat met echte mensen is. De primatoloog Frans de Waal doet in “Bezoek aan de Griezelvallei” verslag van zijn bezoek aan het instituut van de Japanse onderzoeker waar hij kennis maakt met het fenomeen “uncanny valley”. De Waal is verrast door de echtheid van de beleving die door het ‘gedrag’ van de robots wordt gecreëerd.

De analyse van de Hollandse bioloog over de oorsprong van zijn beleving is weldadig nuchter.

“Vermenselijking zit soms in de kleinste details. Als je bijvoorbeeld een kind iets aanwijst, volgt zijn blik eerst je hand, waarna hij even naar je gezicht opkijkt om te zien wat je bedoelt. Als een humanoïde robot met bewegende ogen geprogrammeerd is om hetzelfde te doen, denken we automatisch dat hij zich ook afvraagt waarom we iets aanwijzen, terwijl iedereen weet dat robots zich niets afvragen.”

“Knipperende ogen zijn essentieel. Een robot die niet met de ogen knippert, wordt al snel gezien als onecht. Dat is waarom ook speelgoedpoppen vaak bewegende oogleden hebben. Er is zelfs een term voor het gebied tussen echt en onecht: de ‘griezelvallei’. Tussen een ­gezond persoon en een duidelijke robot ligt een gebied van mensachtige zombies waarvan we griezelen, zoals van de Ishiguro-imitatie.”

We denken automatisch, op grond van bijvoorbeeld gesimuleerde levensechte oog- en hoofdbewegingen, dat de humanoïde zich iets afvraagt. Maar een robot is puur buitenkant. Ze hebben geen ‘zelf’ zoals apen en mensen. “Apen lijken op ons via homologie, afstamming; robots via analogie.”

De Waal gebruikt het woord ‘automatisch’. Het duidt op hetzelfde automatisme dat werkzaam is wanneer we op een aangeleerde wijze op een automaat reageren die ons een tekst laat zien als “Voer uw pincode in.” of die zegt “Waarmee kan ik u helpen?”. De woorden spreken ons onmiddellijk aan en wanneer ze in een passende situatie uitgesproken worden reageren we er automatisch op. Er is echter niemand die iets zegt. De technologie maakt gebruik van de gewoontes, de automatismen van de gebruiker, die op de woorden reageert alsof er iemand is die hem iets zegt of vraagt. De verantwoordelijkheid voor dit ‘gedrag’ ligt bij de ontwerper die van deze automatismen gebruik dan wel misbruik maakt.

We zien hier Humes filosofische scepsis aan het werk. Tekens en gewoontevorming suggereren causale verbanden tussen uitwendige verschijnselen en een inwendigheid. Maar die laatste bestaat slechts in de geest van de mens.

Nadat de kunstmatig denkende machines ons er op hebben gewezen dat denken meer is dan wat we door machines in de sfeer van de uitwendigheid kunnen laten doen, maakt deepfake ons ervan bewust dat ook onze waarneembare expressies (de gebaren) een uitwendig karakter hebben waarmee we ons niet volledig kunnen identificeren hoezeer we ons ook in die uitwendige beelden herkennen.

Pas wanneer de menselijke arbeid als een functioneren wordt gezien is het mogelijk deze in de sfeer van de uitwendigheid als economische activiteit, als pure nuttigheid, door machines te vervangen. Dat arbeid meer is dan alleen functioneren, daarvan worden we ons bewust zodra we buiten deze activiteit worden geplaatst en ons bestaansrecht en onze identiteit in andere bezigheden en verhoudingen moeten zoeken.

Zo kan deepfake, net als iedere vorm van kunst en techniek, ons helpen bewust te worden wat het betekent om mens te zijn en hoe we ons tot de uitwendige sfeer van synthetische media en technologie moeten verhouden.

Wellicht zal dat de belangrijkste bijvangst zijn van de discussie die de Europese Commissie met haar voorstel te weeg heeft gebracht.

Zijn robots morele agents? Vier standpunten

We kunnen vier standpunten onderscheiden ten aanzien van de kwestie over de morele status van robots. 1) Robots hebben nog niet een morele status zoals mensen maar in de toekomst mogelijk wel. 2) Robots hebben geen morele status en in de toekomst ook niet. 3) Mensen hebben geen morele status, robots wel. 4) Het hangt er van af hoe we een agent specificeren of deze als morele agent kan worden gezien.

Mijn standpunt komt het dichtst bij het laatste. Maar ik ben het niet eens met de invulling die Floridi hieraan geeft met zijn Levels of Abstraction, waarmee het ‘specificeren’ een kwestie is van programmeren. Het is niet mogelijk het verschil tussen de levende natuur en de niet-levende natuur te specificeren, omdat dat verschil zich niet laat specificeren. Evenzo is het niet mogelijk om door middel van een experiment het verschil aan te tonen (te meten) tussen een mens en een humanoid die de mens simuleert. Het verschil toont zich in de wijze waarop we met de levende en de niet-levende dingen omgaan. Daarin blijkt een impliciete intuïtie over de status van de technische dingen. Deze intuïtie is een vorm van kennis die niet gebaseerd is op theorie of op experimentele kennis, maar deze vormt zich door persoonlijke beleving en levenservaring.

De relational view

De relational view wordt door Gunkel getypeerd door in navolging van Levinas uit te gaan van de idee dat de morele status van de ander voorafgaat aan het zijn ervan. “The question of social and moral status does not necessarily depend on what the other is in its essence but on how she/he/it (and the pronoun that comes to be deployed in this situation is not immaterial) supervenes before us and how we decide, in “the face of the other”. (Gunkel, 2017).

De Andere Vraag

“How can and should we make a response in the face of robots” vraagt David Gunkel in The Other Question (2017). Deze robots zijn ontworpen om “socially intelligent” te zijn “in a human like way” zodat “interacting with it is like interacting with another person.” Voor Gunkel werpen deze robots de vraag op: “Can and should social robots have rights?”. Dit is “de andere vraag”, ten opzichte van de veel vaker gestelde vraag of intelligente machines, zoals sociale robots als morele agenten gezien moet worden, ‘zich gedragen’, en als zodanig beoordeeld moeten worden als agenten die verantwoordelijke zijn voor de gevolgen van hun activiteiten, die in zekere zin als ‘handelingen” of ‘daden’ gezien zouden moeten worden.

Volgens David Gunkel zouden sociale robots ‘met een gezicht’ rechten verleend moeten worden omdat het morele patiënten zijn. Die ontlenen ze volgens Gunkel aan het feit dat humanoïde robots met een gezicht je aan kunnen kijken wanneer je ze ontmoet. Volgens Emmanuel Levinas op wiens filosofie van de Ander Gunkel zich beroept, is dit de bron van de moraliteit. Gunkel ontleent zijn primaat van de ethiek boven de ontologie aan Levinas, maar deze heeft zelf nooit over de moraliteit van robots geschreven.

Het is niet de bij voorbaat al vastgestelde ontologische categorie van de ander op grond waarvan we beslissen voor een morele status ervan. We doen dat al implicit in de sociale relaties en sociale context waarin we de ander ontmoeten. Moraliteit “is no longer seen as being ‘intrinsic’ to the entity: instead it is seen as something that is ‘extrinsic’: it is attributed to entities within social relations and within a social context, stelt Marc Coeckelbergh.

De relational view wordt gezien als een nieuwe kijk op het probleem van de morele status van AI. Alsof een entiteit als machine zien geen uitdrukking zou zijn van een relatie. Wanneer Kate Darling stelt dat “even a simple calculator is better at doing math” (beter dan een mens), dan lijkt het alsof een calculator zonder de mens zou kunnen rekenen. Maar een calculator is slechts wat het is in relatie tot de mens die over het vermogen beschikt te rekenen. Zonder de mens is het slechts een ding dat onderworpen is aan de processen van de natuur. Je kunt mens en machine dus niet tegenover elkaar stellen om hun mogelijkheden met elkaar te vergelijken alsof het van elkaar onafhankelijke entiteiten zijn.

De historisch ontwikkeling van de programmeerbare automaat die parallel loopt met de ontwikkeling van de wiskunde en de zelfreflectie van het wiskundig denken in de vorm van de metamathematica (de wiskunde van het wiskundig redeneren) maakt de relatieve bestaanswijze van de mens en de machine duidelijk.

Wanneer we een mens als calculator zien en gebruiken dan realiseren we ons dat het slechts gaat om een rol die iemand vervult. De concrete mens gaat daar niet in op. Hij is veel meer dan calculator en het is vaak lastig te bepalen wat wel en wat niet valt onder deze noemer, dat is: wat mogen we van iemand als calculator verwachten? Een ambtenaar die slechts regels uitvoert is en zich niet verantwoordelijk voelt voor wat deze doet is niet wat we willen. Ze zijn gebruiksonvriendelijk. Je verwacht een begripvolle toepassing van de regels. Van een machine verwachten we dat deze werkt volgens de door ons vastgestelde regels. Daarin is ons begrip van de zaak, dat altijd voorlopig is, uitgedrukt.

Het wiskundig denken is gebonden aan de voorstelling, het afbeelden. Zonder tekens hebben wiskundige objecten geen identiteit, kan er niets bewezen, niets berekend worden. De machine is een wiskundig teken, een voorstelling, een afbeelding van het denken. Maar wat aan het afbeelden ontbreekt is het actieve denkende afbeeldende subject. De vorm van subject-zijn.

“Wat denkbaar is, is ook mogelijk.” luidt Stelling 3.02 van Wittgensteins Tractatus, waarbij denkbaar voor hem betekent voorstelbaar, uit te beelden. De machine is een voorstelling van het subject,maar het subject zelf, de logische vorm van het voorstellen, is het niet voorstelbare. Het valt buiten de sfeer van de voorstelling als haar impliciete vooronderstelling.

“Das Bild kann jede Wirklichkeit abbilden, deren Form es hat.” (2.171)

“Seine Form der Abbildung aber kann das Bild nicht abbilden; es weist sie auf.” (2.172)

Het lijkt erop dat de filosoof hier probeert de relatie tussen subject en inhoud, tussen afbeelder en het afgebeelde vanuit wiskundig perspectief te begrijpen. Het wiskundig kennen heeft het kenmerk en onderscheidt zich van het filosofische kennen dat het gekende in de wiskundige ken-relatie gedacht wordt als volstrekt onderscheiden van het kennend subject en de activiteit van het kennen. De filosoof

De filosofie onderkent dat alle werkelijkheid moet worden begrepen in relatie tot de menselijke geest. Maar tegelijk moet de filosofie toegeven dat deze werkelijkheid een zelfstandigheid heeft tegenover de geest.

Bronnen

Darling, Kate (2016). Extending Legal Protections to Social Robots: The Effects of Anthropomorphism, Empathy, and Violent Behavior Towards Robotic Objects, in: ROBOT LAW, eds. M. Froomkin, R. Calo, I. Kerr, Edward Elgar (2016).

Floridi, Luciano (2014). Informatie. Elementaire deeltjes 11. Amsterdam University Press B.V., Amsterdam, 2014. Vertaling van Information: a very short introduction uit 2010.

Gellers, Joshua C. (2021). Rights for Robots – Artificial Intelligence, Animal and Environmental Law. Taylor & Francis.

Gunkel, David J. (2012). The machine question: Critical perspectives on AI,
robots, and ethics. Cambridge: MIT Press.

Gunkel, David J. (2017). The Other Question: Can and Should Robots have Rights? In: Ethics and Information Technology, 2017.

Hertz, Heinrich (1894). Die Prinzipien der Mechanik in neuen Zusammenhange dargestellt. Mit einen Vorworte von H. von Helmholtz

Sætra, Henrik Skaug (2021). “Confounding Complexity of Machine Action: A Hobbesian Account of Machine Responsibility.” IJT vol.12, no.1 2021: pp.87-100.

Schröder, Wolfgang M. (2021). Robots and Rights: Reviewing Recent Positions in Legal Philosophy and Ethics. In: J. von Braun et al. (eds.), Robotics, AI, and Humanity, 2021.

Stone, Christoffer, D. (1972). Should trees have standing? – towards legal rights for natural objects. Southern California Law Review 45 (1972): 450-501.

Sullins, John P. (2006). When is a robot a moral agent? Internat. Rev. Information Ethics, Vol. 6, 12, 2006.

Wootton, David (2015). The Invention of Science. A new history of the scientific revolution. Penguin Book, 2015.

“I am not a value of a mathematical variable” (Hilary Putnam)

Ik kom uit een katholiek nest. Ik mocht wel op voetbal, maar alleen bij MKV’29, de enige plaatselijke katholieke voetbalvereniging, waarvan het eerste elftal ergens in een onderafdeling van de KNVB voetbalde. We leenden boeken bij de katholieke bibliotheek. Ik was daar een regelmatig bezoeker, want ik las veel en graag. Dat hield overigens op toen ik op de middelbare school verplicht werd te lezen. Via de leraar Nederlands probeerden mijn ouders nog invloed te hebben op wat ik las. Hij had voor mij ‘Legt uw hart daarop‘ van Judicus Verstegen uitgezocht voor mijn boekenlijst. Een leraar moest opvoeden.

Het aantal boeken dat je mocht lenen was beperkt. Je ging met het na veel wikken en wegen uitgezochte stapeltje naar de mevrouw die achter een tafeltje zat de uitleenadministratie te doen.

“Je hebt een boek teveel”, zegt ze tegen mij. Ik kijk verbaasd op. “Ja, je hebt thuis nog twee boeken, zie ik.” Oh, zeg ik. “Welk boek wil je terug zetten?” vraagt ze. Ik ken de mevrouw. Ze zit hier vaak en ze weet wie ik ben: de zoon van de penningmeester. Mijn vader zit samen met haar in het bestuur van de bibliotheek. Dat deed hij veertig jaar. Hij kreeg er nog een lintje voor van de Koningin. “Ach, neem ze allemaal maar mee”, zegt ze, wanneer ze merkt dat ik moeite heb een keuze te maken. En ze schrijft voor elk van de geleende boeken op een uitleenkaartje de teruggeefdatum en steekt die in het boek achter het kaft. “Doe je de groeten aan je vader en moeder”, zegt ze als ik naar buiten ga.

Ik had geluk dat zij er zat. Soms zit er een jongeman de administratie te doen. Hij houdt zich strikt aan de voorgeschreven regels. “Regels zijn regels” zegt ie, als ik hem zeg dat ik ze heus de volgende keer allemaal weer terugbreng.

Ik weet niet of de katholieke bibliotheek, die draaide op vrijwilligers, nog steeds bestaat. Ik vermoed van niet. Maar als hij nog bestaat dan zit de mevrouw van de uitleenbalie nu zeer waarschijnlijk achter een beeldscherm. En als je dan een boek te veel mee wilt nemen, dan zegt ze ter verantwoording dat De Computer het niet aan kan. Je kunt maximaal 3 boeken tegelijk lenen. “Maar weet u wel wie ik ben?”. “Ik ben wel de zoon van de penningmeester, hoor!” “Al was u God zelf, jongeman. De Computer staat het niet toe. Ze kent u niet.” “God is dood”, citeer ik Nietzsche. “En de techniek is zijn lijk” reposteert ze, Mulisch citerend.

Het heeft iets rechtvaardigs. Gelijke monniken, gelijke kappen. Voor de regels is iedereen gelijk. Voor de regels ben je als individu slechts een geval.

Maar hoe rechtvaardig is dat gelijkheidsidee dat zo sluipend door het heersende mathematische en technologische denken in onze samenleving is geslopen en dat alle gebieden van ons leven doordrenkt eigenlijk?

De moderne samenleving heet individualistische te zijn. Vanuit het perspectief van het autonome vrije individu geldt: ik onderscheid mij van alle anderen en ik wil als zodanig behandeld worden, niet als een nummer. Hoe valt dit te rijmen met het individu zoals dat vanuit het perspectief van de wetenschap en de economie wordt gezien? Vanuit dat perspectief bestaat het individu niet in zijn volheid zoals hij zichzelf, en de mensen met wie hij zijn leven deelt beleeft. Vanuit het wetenschappelijk perspectief is het individu een geval waarvoor algemene regels en wetten gelden. Zoals het gegeven voor de mathematische natuurwetenschap niet als een uniek historisch gebeuren wordt opgevat, maar als een verschijnsel van een algemene wetmatigheid. Zoals de moderne kwantumtheorie geen uitspraken doet over individuele deeltjes maar zich moet beperken tot statistische uitspraken over verzamelingen deeltjes, zo doen de sociale wetenschappen statistische uitspraken over populaties. Een individu is vanuit dat perspectief een element van een datatype, een waarde van een variabele in een wiskundig model.

Hoe komen deze twee perspectieven ooit samen? Hoe kunnen we ze met elkaar verzoenen?

De ethiek van de algoritmes

Het bibliotheekbestuur heeft ondertussen een ICT bedrijf in de hand genomen dat een ‘intelligent uitleensysteem’ heeft ontwikkeld dat op grond van allerlei persoonlijke gegevens van de klant, waaronder de geschiedenis van het leengedrag, bepaalt hoeveel boeken er tegelijk geleend mogen worden. Het systeem maakt daartoe een ‘lenersprofiel’. Het kan de klant op grond hiervan ook behulpzaam zijn door boeken aan te bevelen. Sensortechnologie vervangt de mens achter de uitleenbalie. De klant interacteert met een ‘intelligente agent’ (’embodied’ en voorzien van spraakherkenning) op een beeldscherm. Het uitzoeken van een boek doe je thuis op de computer. Een robot legt het gevraagde boek in een soort buizenpost. De toevallige ontmoetingen met andere bezoekers tussen de naar muffe boeken ruikende stellingkasten. Die behoren tot een grijs verleden.

Bedrijven als  NBD Biblion zijn continu op zoek naar “nieuwe manieren om onze werkzaamheden slim en efficiënt in te vullen”.

Het uitlenen van een boek als een sociale intermenselijke activiteit is de blijvende kern van het uitleensysteem. Alleen de technische implementatie en de organisatie heeft er een systeem van gemaakt waarin de functionele kern uitgedokterd is en los is komen te staan van de directe activiteit van persoon tot persoon die het uitlenen van iets in wezen is. Als er al ergens in dit systeem contact is van mens tot mens dan is dat vermoedelijk wanneer het systeem niet werkt. Of wanneer er een vermoeden bij sommige klanten bestaat dat het ‘recommender’ systeem, dat boeken aanbeveelt nogal een ‘bias’ heeft voor bepaalde politiek of religieus gekleurde literatuur. (Wat ons doet denken aan de leraar Nederlands die mij Judicus Verstegen aanbeveelde.)

Met de term ‘algoritme’ (een handelingsvoorschrift voor programmeerbare machines) wordt vaak een specifiek type algoritme bedoeld, namelijk die op basis van gegevens (‘big data’) met behulp van machine learning (ML) technieken, dat zijn statistische modellen, beslissingen nemen, dan wel aan de gebruiker voorstellen. Ook het met gebruikersprofielen werkende bibliotheeksysteem behoort hiertoe. Statistieken gaan niet over individuen áls individu (zie bijvoorbeeld Olaf M. Dekkers en Jesse M. Mulder, 2020 en mijn stukje over Wat heb je nu aan kansen?).

Bedrijven en overheden maken steeds meer gebruik van algoritmes bij het leveren van hun diensten. Mensen hebben steeds vaker te maken met ‘slimme’ algoritmes die het leven besturen. Daar zitten niet alleen maar positieve kanten aan. Techniekfilosofen en ethici onderzoeken de problemen die de toepassing ervan met zich meebrengt. Onder de parapluterm Computer Ethiek wordt nagedacht en gedebatteerd over de ethische problemen waarvoor de moderne informatietechnologie de samenleving plaatst. De informatiefilosoof Luciano Floridi neemt daarin een vooraanstaande plaats in. Hij heeft er veel over gepubliceerd en zit in EU werkgroepen die rapporten schrijven.

Hier ligt echter de focus op algoritmes. Welke zijn de ethische problemen die het gebruik van algoritmes met zich meebrengt?

We zagen dat bij de technologisering van het uitlenen van boeken de concrete intermenselijke inhoud van deze activiteit uit het proces is verdwenen en bijna als iets negatiefs er tegenover komt te staan. Het proces dringt zich aan de mens op. Dit is een kenmerk van de technologisering, een proces dat door economische motieven, effectiviteitsverbetering, wordt voortgestuwd. We zien dit proces op alle terreinen waar algoritmes hun intrede doen en de menselijkheid uit de sociale processen haalt. De technologie komt echter niet uit de lucht vallen: het komt uit mensen voort.

Om de ethische problemen te begrijpen moeten we dit proces van mathematisering en technologisering begrijpen. Technologie begint bij het handelen van mensen en eindigt bij het menselijk handelen. Een analyse van de concrete menselijke activiteit is daarom gewenst.

We kunnen aan de menselijke bezigheid een aantal aspecten onderscheiden. Dat geldt zowel het spontane bezig zijn als de meer georganiseerde bezigheid zoals de arbeid. Het technische, het economische en het ethische aspect. Het gaat bij de bezigheid om een persoonlijke inzet waarbij een bedoeld resultaat wordt verkregen. Het technische betreft de methode of middelen die de inzet aan het resultaat verbindt. Dat resultaat wordt beschouwd als iets uitwendigs, een product van het handelen. De uitwendigheid van de relatie tussen de activiteit van het maken en het resultaat ervan is het kenmerk waarin het Aristotelische poiesis verschilt van praxis. Het economische betreft de schaarse middelen die de inzet met zich mee brengen om het resultaat te bereiken. Het ethische betreft de afweging van de morele waarden die een rol spelen bij de bezigheid. In termen van Aristoteles’ Nicomacheïsche ethiek moet het handelen als praxis ‘deugen’. Dat gaat uit van het morele deugdzame karakter van het handelend subject.

De gedachte dat machines en algoritmes ‘morele agenten’ (‘moral agents’) zouden zijn is volgens mij het gevolg van een verwarring van de begrippen poeisis en praxis. Het technische en economische behoort tot de sfeer van de poeisis, het maken. Het morele betreft de concrete praxis. (Over moral agency: Deborah G. Johnson and Merel Noorman, 2014)

De bezigheid moet menswaardig zijn. Voor alle betrokkenen. Of arbeid menswaardig is hangt af van de stand van de techniek. Het uitdiepen van een sloot met een schep is mensonwaardig werk wanneer er machines zijn die hetzelfde werk kunnen doen. Tenzij je het graven van een sloot als contemplatieve bezigheid ziet, maar dan gaat het niet om de sloot als primair resultaat. In alle andere gevallen is het slavenwerk en dus meer iets voor machines.

In het onmiddellijke bezig zijn, zijn de in de reflectieve analyse onderscheiden aspecten integraal en ongescheiden aanwezig. Het individu is daarbij in zijn geheel aanwezig. Het is geheel en al zijn bezigheid.

Iedere bezigheid vereist van het subject een aantal min of meer specifieke vaardigheden. Deze vereisen specifieke vermogens die we onderscheiden in lichamelijke, verstandelijke en sociale vermogens, waaronder het vermogen zich in de directe omgang met medemensen te gedragen, volgens de geldende normen.

Zowel van degene die een boek uitleent als van degene die een boek leent verwachten we dat deze zich houdt aan deze normen. Binnen de familie en in een klassieke samenleving kennen de mensen elkaar en is het sociale handelen gekleurd door de individuele betrokkenen en hun verhoudingen tot elkaar. Of en onder welke voorwaarden de een iets uitleent aan de ander is integraal onderdeel van de intersubjectieve relatie tussen de individuen, die elkaar kennen. Het individu ontleent zijn waarde aan zijn plaats in het netwerk van sociale verbanden. We zagen een overblijfsel van deze ‘primitieve’ vorm van interactie in het inleidend uitleenverhaal. De idee van een instituut als een uitleenbibliotheek is natuurlijk al een sociale constructie die het uitlenen institutionaliseert. Er zijn daartoe aspecten van het uitlenen onderscheiden. Zo is degene die de administratie doet niet zelf eigenaar van de boeken. De klant is slechts als betalend lid bekend bij het instituut. Kenmerkend is de opdeling van verschillende functies en de afstand die tussen betrokkenen, die verschillende rollen hebben in het proces, ontstaat.

Het mathematische denken, de denkwijze van de experimentele natuurwetenschap en technologie kenmerkt zich door het afzien van het individuele. Deze wetenschappelijke denkwijze ziet het gegevene niet in relatie tot het individuele unieke van het moment, maar in functie van een algemene wetmatigheid. Ze is gericht op de formulering van algemene regels volgens welke de mens in relatie tot de natuur handelt.

Deze functionalisering die inherent is aan de mathematische natuur-wetenschappelijke denkwijze (zie Cassirer’s Substanz Begriff und Funktion Begriff) zien we ook in de organisatie van de samenleving. Allereerst in de arbeid. De mens zet zich zelf in als arbeider, als functionaris, die een bepaalde welomschreven taak heeft. Hij wordt een radertje in een machinerie. En geleidelijk aan wordt hij als arbeider door machines vervangen. Niet zonder weerstand. De mens ontleent in belangrijke mate zijn identiteit aan zijn werk en de andere sociale rollen die hij ‘speelt’.

Als de ethische problemen die gepaard gaan met het gebruik van algoritmes voortkomen uit het functionele denken in termen van algemene wetten en regels mogen we dan verwachten dat de oplossing van deze problemen gevonden kunnen worden door regels voor gedrag op te stellen? Informatici die ‘ethische machines’ willen maken, doen dat.

Bij ethiek gaat het echter niet om een theorie, maar om een praktische houding die getuigt van inzicht in de specifieke situatie waarin men handelt. Ethische problemen los je niet op door regels op te stellen. Het gaat juist om de rechtvaardige toepassing van de geldende regels in concrete situaties, waarin het individuele juist in haar volheid wordt beleefd en gewaardeerd en niet alleen in relatie tot een algemene regels en wetten. Die laatste moeten zelf ook meegewogen worden en niet blindelings toegepast. Dit vereist een intelligentie die het verstandelijk toepassen van regels te boven gaat. Het gaat om inzicht in de concrete situatie die om een eigen afweging vraagt. In die zin is ethiek juist anti-theoretisch. Het handelen van de ander zegt ons meer dan de morele regels die hij zegt te volgen.

De wetenschap streeft naar algemene inzichten in noodzakelijke verbanden en probeert het toeval uit te sluiten. Een goed voorbeeld van het streven naar gelijkheid en het uitbannen van toevallige omstandigheden, zoals we dat in de wetenschappen nastreven, als iets onrechtvaardigs, zien we in het medische ethische protocol voor de nationale triage. Dit ethische protocol wordt van kracht wanneer er een landelijk tekort is aan IC-bedden. Zo’n situatie dreigde tijdens de Corona pandemie. Patiënten moeten volgens het protocol door ziekenhuizen ingeschreven worden in een nationaal informatiesysteem waar volgens het door medici en ethici gespecificeerde protocol besloten wordt welke patiënt in aanmerking komt voor (verdere) behandeling op een IC-afdeling. De idee is dat dit niet af mag hangen van de toevallige beschikbaarheid van een IC-bed ter plaatse. In het protocol is opgenomen dat de lokale triagist die communiceert met het triagesysteem niet zelf bij de patiënten om wie het gaat betrokken mag zijn. Individuele betrokkenheid is volgens het ethisch protocol onrechtvaardig. Dat ik toevallig de zoon van de penningmeester ben mag geen rol spelen. Regels zijn regels.

In de literatuur over ethiek van algoritmes is onvoldoende aandacht voor de dieper liggende oorzaak van de ethische problemen die algoritmes met zich meebrengen. Die ligt in de aard van het mathematiserende en functionaliserende denken waarvan de algoritmes het product zijn.

Er wordt erg veel door wetenschappers en filosofen getheoretiseerd over ethiek van algoritmes. Onlangs verscheen The ethics of algorithms: key problems and solutions, geschreven door onderzoekers van het Oxford Internet Institute, een instituut dat zich bezig houdt met de problemen van onze digitale samenleving. Het artikel is een vervolg op het in 2016 gepubliceerde “The ethics of algorithms: mapping the debate” van Mittelstadt et al. Over het doel van beide artikelen, waarvan de informatiefilosoof Professor Luciano Floridi co-auteur is, zegt het artikel:

“The goals are to contribute to the debate on the identification and analysis of the ethical implications of algorithms, to provide an updated analysis of epistemic and normative concerns, and to offer actionable guidance for the governance of the design, development and deployment of algorithms.”

Het paper biedt een literatuur review van publicaties over ethische aspecten van algoritmes tussen 2016 en 2020. Dat zijn er vele honderden. Met name de ontwikkeling en het gebruik van AI algoritmes voor ‘socially good’ (AI4SG) is toegenomen. Het gaat daarbij om het voorspellen en beheren van sociale processen in de meest brede zin. Denk aan toepassingen op het gebied van overheidsdiensten, verzekeringen, publieke beveiliging (predictive policing) of medische toepassingen (gepersonaliseerde voorspellende geneeskunde).

Bovengenoemde artikelen geven aanbevelingen voor overheden betreffende wetgeving over ontwikkeling en gebruik van algoritmes en gegevens. Dat is des te urgenter naarmate men steeds meer geneigd is machines die voorzien zijn van slimme algoritmes (‘kunstmatige intelligentie’) als autonome ‘agenten’ te beschouwen. Denk aan ‘zelfrijdende auto’s’, en onbemande wapensystemen die zelf hun doel zoeken en beslissen of er sprake is van een vijandig object dat beschoten moet worden. De mens dreigt ‘out-of-the-loop’ te raken en komt er alleen nog aan te pas als er iets mis is gegaan en de scherven moeten worden opgeruimd.

In Nederland verscheen begin dit jaar het rapport Aandacht voor Algoritmes over het gebruik van algoritmes door de Nederlandse overheid. De Rekenkamer heeft gekeken waar bij de overheid wat voor soort algoritmes gebruikt worden. Het gaat haar uiteindelijk om een (ethische) toetsing van het gebruik van algoritmes. Daartoe is een ethisch toetsingskader opgesteld. De vragen in het toetsingskader zijn opgesteld aan de hand van ethische principes. Zie onderstaande tabel.

Wat opvalt is dat deze principes helemaal niet zo specifiek zijn voor het beoordelen van algoritmes. Het zijn principes die van toepassing zijn op het omgaan van mensen met elkaar. Dat is niet zo vreemd wanneer we bedenken dat de algoritmes de middelen worden die de mensen hanteren in hun omgang met elkaar. Deze middelen nemen een steeds zelfstandiger vorm aan en spelen zelf de rol van sociale agent.

De vraag is nu hoe het komt dat het gebruik van algoritmes er toe leidt dat deze principes weer zo nadrukkelijk moeten worden geherformuleerd. Waardoor komt het dat deze in het gedrang zijn geraakt?

De genoemde artikelen en rapporten zijn er vooral op gericht een praktische gids te bieden voor ontwerpers en gebruikers van algoritmes. Wat ze niet bieden is een analyse van de kern van het probleem. Die moeten we zoeken bij de functionalisering van een bepaald aspect van (sociaal) handelen. De technologie, met name de informatie- en communicatie-technologie speelt een centrale rol in dit proces. Het wordt gekenmerkt door abstractie, analyse, constructie en afstandelijkheid.

De behoefte voor een ethiek van algoritmes komt voort uit het feit dat door de functionalisering van ons werken en handelen de interactie van persoon tot persoon uit het zicht is verdwenen.

Het is de taak van de ethiek begrip bij te brengen die tegengewicht biedt tegen de tendens het individuele slechts in relatie tot abstracte wetten en algemene regels te zien in plaats van het individuele in zijn uniekheid en bijzonderheid te waarderen.

Net als mensen mogen algoritmes niet discrimineren. Maar mensen moeten en zullen altijd rekening houden met de persoonlijke omstandigheden van de ander als individu. Een machine kent die niet.

Recentelijk verscheen ook Algoritmische beslisregels vanuit constitutioneel oogpunt (Goossens et al, 2021) een publicatie over de rechtstatelijke risico’s ten gevolge van het gebruik van algoritmes door de verschillende overheidsinstanties.

De focus van deze studie ligt op “de fundamentele tweedeling tussen algemene regels en de concrete toepassing via individuele beslissingen alsmede, in het licht daarvan, de wisselwerking tussen normen en feiten.”

De auteurs wijzen erop dat de besluitvorming van het bestuur in individuele gevallen al geruime tijd steeds vaker (deels) geautomatiseerd plaats vindt op basis van algoritmische beslisregels. “Hierdoor kan de relatie vertroebelen tussen enerzijds een concreet besluit dat het resultaat is van de toepassing van een algoritmische beslisregel en anderzijds de algemene regels die oorspronkelijk ten grondslag liggen aan de bevoegdheid van het bestuur om in individuele gevallen concrete besluiten te nemen.”

De auteurs wijzen er terecht op dat wanneer het om de toepassing van algemene regels in concrete gevallen gaat er een wisselwerking is tussen de regel en de situatie. “Dat wat we ‘toepassing’ noemen, raakt ook de toegepaste regel”.(p.6). De toepassing van een regel in de praktijk is iets anders dan het toepassen van een wiskundige functie op een argument, zoals een machine dat doet.

“Datgene waardoor de praktijk functioneert, ligt als het ware op een dieper niveau, dat steeds wezenlijk impliciet blijft.” en “Ons expliciete weten is het topje van de ijsberg. In de omvang van deze laatste vergissen wij, slachtoffers van het rationalisme, ons dan ook deerlijk.” Zo schrijft Louk Fleischhacker in De Henide als Paradigma.

We onderscheiden ‘iemand kennen’ en ‘informatie over iemand hebben’. Je kunt heel veel informatie over iemand hebben en hem toch niet kennen. (Zie hierover mijn stukje over het essay On Denoting van Bertrand Russell die wees op dit belangrijke onderscheid.) Machines kennen geen mensen, ze hebben informatie over mensen.

Het is dan ook niet voor niets dat de ambtenaren van de overheidsdiensten na de toeslagenaffaire het dringend advies kregen ‘achter hun beeldschermen vandaan te komen’ om met de betreffende burgers die het slachtoffer werden van ‘hun’ algoritmes ‘aan de keukentafel te gaan zitten’.

Ik geloof niet dat de oplossing van de ethische problemen door gebruik van algoritmes gezocht moeten worden in het opstellen van regels en wetten. Het probleem is hoe we als burger in een samenleving de beide perspectieven op het individu met elkaar kunnen verzoenen. Inzicht in die perspectieven is voorwaarde daarvoor.

“Algorithms are not ethically neutral” wordt vaak beweerd (Tsamados et al. 2021). Dat is niet vanwege een specifieke bias (O’Neil 2016). Algoritmes zijn onethisch vanwege hun abstracte algemene karakter waardoor het gegeven slechts als geval wordt opgevat en het unieke ervan wordt genegeerd.

Bronnen

Olaf M. Dekkers en Jesse M. Mulder (2020). When will individuals meet their personalized probabilities? A philosophical note on risk prediction. Eur J Epidemiol. 2020 Dec;35(12):1115-1121.

Goossens, J., Hirsch Ballin, E., van Vugt, E. (2021). Algoritmische beslisregels vanuit constitutioneel oogpunt: Tweedeling tussen algemene regels en concrete toepassing onder druk. Tijdschrift voor constitutioneel recht, 12(1), 4-19.

Deborah G. Johnson and Merel Noorman (2014). Artefactual Agency and Artefactual Moral Agency. In: P. Kroes and P.-P. Verbeek (eds.), The Moral Status of Technical Artefacts, Philosophy of Engineering and Technology, Springer Science+Business Media Dordrecht, 2014, pp.143-158.

“Accounts of artefactual moral agency that draw on the autonomy conception of
agency, however, are problematic when they use an analogy between human moral
autonomy and some aspect of artefacts as the basis for attributing to artefacts the
status associated with moral autonomy.”

“(…) when humans delegate tasks to artefacts, they do not delegate responsibility to the artefact.” (p. 154).

“Attempts to extend moral autonomy to artefacts seem to move from a metaphor to a claim of moral status, that is, they claim humans and machines are analogous and, then, on the basis of the analogy attribute to artefacts the status (or potential to have the status) associated with moral autonomy.” (p.157)

Cathy O’Neil (2016) Weapons of Math Destruction, How big data increases inequality and threatens democracy. Penguin Books, 2016.

Louk E. Fleischhacker (1999). `De Henide als Paradigma. Otto Weiningers invloed op Ludwig Wittgenstein’ in: De Uil van Minerva 15 nr. 3 (Lente 1999)

Floridi, L., Cowls, J., King, T.C. et al. How to Design AI for Social Good: Seven Essential Factors. Sci Eng Ethics 26, 1771–1796 (2020).

Floridi, L., Sanders, J. (2002). Mapping the foundationalist debate in computer ethics. Ethics and Information Technology 4, 1–9 (2002).

Mittelstadt BD, Allo P, Taddeo M, Wachter S, Floridi L (2016) The ethics of algorithms: mapping the debate. Big Data Soc.

Tsamados, A., Aggarwal, N., Cowls, J. et al. (2021). The ethics of algorithms: key problems and solutions. AI & Soc (2021). https://doi.org/10.1007/s00146-021-01154-8

Judicus Verstegen (1967). Legt uw hart daarop. Amsterdam Querido.

De titel is ontleend aan het Bijbelboek Richteren 19:30, Legt uw hart daarop, geeft raad en spreekt! Het thema is vergeleken met dat van Nooit meer slapen van W.F.Hermans. Een Nederlands wetenschappelijk onderzoeker (Verstegen was zelf chemicus) werkt in Israel aan fysisch-chemisch onderzoek in een wedloop met concurrerende onderzoekers uit de VS. Hij beziet Christus in het licht van de Holocaust. Zijn Israëlische vriendin wordt vermoord.

Lilly’s vraag

Kleindochter Lilly is nog geen zeven jaren jong wanneer ze mij met trots demonstreert hoe goed ze al kan tellen. Terwijl de jongste van amper twee het rijtje namen van de getallen van 1 tot 10 kan opzeggen, is bij Lilly het kwartje gevallen. Ze heeft het systeem in onze naamgeving voor de getallen ontdekt: van negentien, twintig, éénentwintig, twee-en-twintig, drie-en-twintig, …, gaat ze naar dertig, één-en-dertig, twee-en-dertig. En zo verder gaat ze. “Knap hoor”, onderbreek ik haar demonstratie.

En dan vraagt ze: “Opa, hoeveel getallen zijn er?” Als kleinkind kun je alles aan opa vragen. “Daar moet ik even over nadenken”, zeg ik. Ze heeft geen tijd om op het antwoord te wachten. Ze rent al weer naar buiten om met haar broertje verstoppertje te spelen.

Ze liet me enigszins verbaasd achter. Dat in een kind dat pas komt kijken zo’n vraag opkomt! Immers, hoeveel eeuwen heeft de mens er niet over gedaan voor dat hij de getallen als een soort van zelfstandige objecten los dacht van de waarneembare dingen?

De wiskunde bestond (en bestaat) eerst als de praktische discipline van meten en tellen. Het tellen is wellicht de eerste wiskundige ‘uitvinding’. Het is een activiteit die berust op een vorm van abstractie die we ‘mathematisch’ noemen. Daarbij hoort een bepaalde houding die we tegenover de zintuiglijk waarneembare werkelijkheid aannemen. Wie de koeien in de wei telt die ziet af van de individuele verschillen die er zijn. We beschouwen ze allemaal als koe. Wat we vast houden is hun abstracte individualiteit, de individualiteit afgezien van de verschillende zintuiglijk waarneembaar kwaliteiten, kleur, grootte, etc. De koeien zijn ruimtelijk onderscheiden eenheden, aanwijsbaar: die en die en die.

Het resultaat van tellen is een aantal, een aantal koeien, in het algemeen ietsen, een concrete veelheid. Het eerste wiskundige object is waarschijnlijk het getal, het getelde aantal tegenover de concrete veelheid van ietsen, als object gedacht. In eerste instantie zijn getallen zelf niet telbaar, maar dingen waarmee je telt. Ze vormen een meetsysteem. Meten is het tellen van het aantal keren dat een maat als eenheid vergeleken kan worden met een concrete eenheid, die daarmee een structuur krijgt: een eenheid bestaande uit een aantal maateenheden. Maar ook getallen zijn telbare objecten, die we door tekens voorstellen.

Waarom tellen we? Een reden om te tellen is dat we veelheden willen vergelijken qua grootte. Om het aantal schapen in de kudde dat ‘s avonds de stal weer in komt te vergelijken met het aantal dat ‘s ochtends de stal verliet bewaarde de herder voor elk schaap een steentje. Als het aantal gelijk was, kon de herder rustig slapen. Het is niet nodig te weten hoeveel steentjes er zijn. Wanneer je de herder zou kunnen opbellen en vragen hoeveel schapen hij heeft, kan hij alleen antwoorden dat het er net zo veel zijn als er steentjes zijn. Maar hoeveel zijn dat er? Een getal kan hij niet noemen, want die kent hij nog niet. Daar heeft hij nog geen woord voor. (Misschien waren ze er nog helemaal niet. Net zo min als de telefoon, natuurlijk). De verzameling steentjes is de maat voor het aantal schapen. De functie van de tekens die staan voor de aantallen worden geleidelijk overgenomen door telwoorden. Getallen zijn de abstracte objecten die we zijn gaan onderscheiden van de telwoorden. Getallen zijn niet waarneembaar, zoals de verzameling steentjes. We kunnen ze eigenlijk alleen maar negatief karakteriseren: het zijn de als object gedachte dingen waar de telwoorden als tekens naar verwijzen.

De rol die de steentjes spelen bij het bepalen van de hoeveelheid schapen, wordt omgekeerd, wanneer we het aantal steentjes tellen om te bepalen hoeveel schapen er zijn. Dat kan wanneer we aan mogen nemen dat ieder steentje voor een schaap staat. Om het aantal schapen te bepalen berekenen we het aantal steentjes door ze op handige wijze te herordenen. Bijvoorbeeld in groepjes van tien. De steentjes worden de bolletjes van een telraam, een primitief mechaniek dat als hulpmiddel gebruikt wordt om te rekenen.

Waarom zouden we getallen tellen? Om hun aantal te vergelijken met andere aantallen dingen? Maar die moeten dan wel ook telbaar zijn. Wil het tellen van de getallen zinvol zijn dan moet hun aantal vergelijkbaar zijn met dingen die ontelbaar zijn in aantal. Dat lijkt een paradox.

Het tellen is de eerste ‘cognitieve activiteit’, een handeling die je doet om iets te kennen, waarin het kind leert – door te doen – wat automatiseren betekent. Deze vaardigheid vooronderstelt het snappen van het cijfertaalsysteem (bij ons het tientallig cijfersysteem). We tellen immers met behulp van de telwoorden (en niet met de getallen). Bovendien moet er de bereidheid zijn zich ‘slaafs’ neer te leggen bij de opdracht om te tellen hoeveel dingen er van een bepaald soort zijn. Wie telt gedraagt zich als het ware als een telmachine.

Uit het inzicht dat er geen einde komt aan de uitvoering van de opdracht te tellen hoeveel getallen er zijn en dat je op elk zelf gekozen moment kan stoppen maar ook door kan tellen, blijkt dat we reeds als kind ‘boven’ het proces van automatiseren staan. De mens is zowel in staat zich mechanisch te gedragen en slaafs regels te volgen, maar tegelijk is hij daarin altijd meer dan een machine die werkt in opdracht van een programma.

Ik meen dat Lilly’s vraag er blijk van geeft dat ze getallen als objecten zoals knikkers, of stoelen, ziet. De vraag hoeveel getallen er zijn is voor haar niet anders dan de vraag hoeveel stoelen er zijn. Voor haar zijn de getallen waarschijnlijk nog niet onderscheiden van de (Nederlandse) telwoorden waarmee ze de getallen aanduidt. Maar ook dat zijn ‘dingen’ waarvan je je kunt afvragen hoeveel er van zijn. Ook de telwoorden bestaan buiten het eigenlijke gebruik ervan. De mens is van nature realist.

Plato wees ons er reeds op dat getallen geen zintuiglijk waarneembare objecten zijn zoals stenen en stoelen. Het zijn ideële objecten, ‘gedachtedingen’. Waarna Aristoteles zich afvroeg wat de mathematische objecten dan met de waarneembare werkelijkheid te maken hebben. Hoeveel eeuwen heeft het vervolgens niet geduurd voordat er een notatiesysteem werd ingevoerd voor de getallen. Ons tientallig positionele ‘plaatswaardestelsel’ is pas sinds de late Middeleeuwen in West-Europa in gebruik.

De Engelse medicus en filosoof John Locke (1632-1704) schreef in een reisverslag:
“Sommige Amerikanen die ik sprak (en die waren echt niet gek) konden niet, zoals wij, tot 1000 tellen. Ze hadden geen enkel benul van dat getal.” (mijn vertaling)

Locke had het niet over de grondleggers van de Verenigde Staten van Amerika,
maar over de Tououpinambos, een volk dat diep in de Braziliaanse jungle leefde. Hun taal kende alleen de telwoorden voor de getallen van 1 tot en met 5. Kennelijk hadden ze geen behoefte aan meer dan deze vijf.  (Bron: Rochel Gelman and Brian Butterworth, 2005).

“Hoeveel getallen zijn er?” Om het antwoord te vinden moet je getallen tellen. Maar wat is dat voor merkwaardig gedoe? Er nog eens over nadenkend moest ik terug denken aan het onderzoek dat ik deed voor mijn afstuderen bij de afdeling wiskunde en informatica van de toenmalige Technische Hogeschool Twente. Dat ging over de relatie tussen wiskundig denken en automatisering. In de informatietechnologie gebruiken we de correspondentie tussen wiskundige tekens en de toestanden van een fysisch proces. De fysische processen van de machine hebben voor ons betekenis. Ze berekenen een functie.

Het begrip tellen en de toepassing ervan in het tellen van getallen bevat alle aspecten van het historische proces dat tot de programmeerbare machines heeft geleid al in zich. Wat kinderen al vroeg leren is automatiseren. En dat begint met tellen. Hoe zit dat precies?

Tellen: basale vorm van mathematiseren

Het tellen van dingen om het aantal te bepalen is de eerste en meest basale vorm van mathematiseren, een bijzondere manier van kennend en handelend omgaan met de werkelijkheid. Tellen is niet, zoals sommige mensen schijnen te denken een vorm van rekenen. Het is een eenvoudige vorm van meten. Het resultaat van het meten is informatie: het aantal van gegeven dingen wordt bepaald: er staan drie paarden in de wei. De informatie is de kwantitatieve uitdrukking (beschrijving) van een toestand in de werkelijkheid.

Volgens mijn afstudeerdocent de logicus en filosoof Louk Fleischhacker zijn onverschilligheid en afstandelijkheid de termen die horen bij de mathematiserende kenhouding.

“It is a characteristic of mathematical thinking that it relates itself to something external to the subject performing it. That means that it regards the distinctions it creates as indifferent with respect to the unity of its object as well as with respect to its own doings. They are distinctions in thought only.” (Fleischhacker, 1995, p. 128).

Laten we even stilstaan bij het tellen, de ons meest bekende vorm van mathematiseren, om te begrijpen wat deze woorden betekenen. Zodra het kind het cijfertaalsysteem heeft ontdekt, wordt het tellen iets automatisch, een mechanisch gebeuren dat zich als het ware buiten het denkend subject voltrekt. De inhoud staat als het ware buiten het denkproces van het subject, dat eigenlijk helemaal niet van hem of haar is. Dit denken is niet iets emotioneels, niets iets persoonlijks. De denkinhouden van dit onpersoonlijke rekenende denken zijn wat de filosoof en wiskundige Gottlob Frege ‘Gedanken’ noemde.

“Ich verstehe unter Gedanken nicht das subjektive Tun des Denkens, sondern dessen objektiven Inhalt, der fähig ist, gemeinsames Eigentum von vielen zu sein.” (Frege, Über Sinn und Bedeutung, 1892)

Wanneer we het over ‘denkende machines’ hebben dat bedoelen we dit soort van denken. (Zie: Arnold Metzger, Automation und Autonomie, 1964, p. 9). Deze vooronderstellen het mathematiseren van het denken (mathematische logica) en het uitdrukken van logische denkregels in een eenzinnige taal waarmee de machine rekent. De kunstmatige intelligente machine is de fysische realisatie van het denken als een door regels gestuurde activiteit waarbij de formele regels uitwendig zijn aan de inhoud ervan. Ook machines die niet redeneren volgens logische regels maar op basis van statistieken die uit gegevens worden gehaald (machine learning) trekken conclusies door toepassing van een programma dat regelt hoe een conclusie getrokken moet worden.

Machines kunnen rekenen omdat rekenen mechanisch denken is. Machines kunnen denken in zoverre we onder ‘denken’ verstaan deze aktiviteit die volgens vaste denkregels, mechanisch, verloopt. Als we het over de mogelijkheden van de computer (kunstmatige intelligentie) hebben vergelijken we vaak de computer met de mens. We plaatsen deze twee als het ware tegenover elkaar als onafhankelijke entiteiten. Dat is onjuist. In werkelijkheid gaat het om twee kanten van een proces. Zonder de mens is de machine geen machine, zonder het mechanische kan de mens niet rekenen.

Het tellen als bron van het automatische rekenen

Wat zijn de vooronderstellingen waar de werkelijkheid aan moet voldoen opdat ze door ons geteld kan worden? Ze moet als telbaar voor ons verschijnen. Er moeten eenheden, dingen, onderscheiden worden. Meerdere goed onderscheidbare eenheden. Wanneer we die verschillende dingen tellen vatten we ze op als eenheden van hetzelfde. De waarneembare eigenschappen waarin de dingen van elkaar verschillen doen er voor het tellen niet toe. We staan daar volstrekt onverschillig tegenover. Aristoteles merkt dan ook op dat we weliswaar waarneembare dingen tellen, maar het gaat niet om de dingen als waarneembaar. Het zijn allemaal onderscheidbare dingen: allemaal dieren, allemaal paarden. Die watheid van de door ons getelde eenheden, maakt de continuïteit uit, het ene dat de veelheid van telbare dingen, objecten, uitmaakt en verbindt.

In abstracto, is de onderscheidbaarheid (van de dingen) al de eenheid van de onderscheiden dingen. Hun kwaliteit (paard of knoop zijn) doet er niet toe voor de telbaarheid.

Verder moeten we onthouden wat we al geteld hebben. We moeten geen dingen dubbel tellen. Zonder geheugen is er geen telproces. We geven de dingen allemaal een eigen, bekende, naam. De ‘cijfernamen’: 1,2,3,…Het doet er niet toe welk ding we welke naam geven, als we ze maar allemaal een unieke naam geven. Die naam wordt door de volgorde van tellen voorgeschreven door het afgesproken systeem, de cijfertaal. Ieder cijfer verwijst impliciet naar zowel voorganger (en heeft dus geheugen) als naar de opvolger (en zegt dus hoe verder te tellen).

De namen van de cijfertaal en hun volgorde die we gebruiken bij het tellen, hebben we geleerd, zoals elk taal geleerd moet worden. Mijn kleindochter Lilly snapte het systeem van die taal en ontdekte dat ze alsmaar door kon tellen.

Dit snappen van de regelmaat vind ik iets wonderlijks. Het bestaat in het tonen van de vaardigheid in het uitvoeren van het tellen. Vergelijkbaar met traplopen. Wie kan traplopen kan alle trappen oplopen. Dit snappen is echter anders dan het snappen wat een woord betekent. Een kind dat plotseling voor het eerst het woord ‘draaien’ gebruikt wanneer het met de neus tegen het ruit van de rijdende trein naar buiten kijkt naar een punt in de verte, geeft er blijk van iets te snappen. Het landschap lijkt dan inderdaad voorbij te draaien. Het kind heeft ooit situaties gezien waarin het woord ‘draaien’ (door anderen, ouders misschien) gebruikt werd. Maar het nieuwe eigen gebruik ervan toont dat ze snapt wat het betekent. Dat is begrip.

Het snappen dat voor het tellen nodig is, is het zien van een expliciete regelmaat. Die regelmaat zit ook wel in het herkennen van situaties waarin er sprake is van ‘draaien’ of ‘stoel’, of ‘spel’, of welk woord ook.

De werkelijkheid biedt het stopcriterium voor het tellen. Het getelde aantal dingen drukken we uit in het laatste cijfer dat we gebruikten bij het tellen. Zo onthouden we het aantal getelde dingen en we kunnen dit aantal meedelen aan anderen. Het resultaat van deze meting: “Er staan drie paarden in de wei”. Dit resultaat, het aantal, is onafhankelijk van de specifieke volgorde waarin de dingen geteld zijn.

In de wiskunde doet het voor de inhoud van een resultaat, een stelling of som, er niet toe hoe je de stelling bewijst of de som berekent. Het is een ‘uitwendig’ gedoe, zoals Hegel opmerkt in de Inleiding van zijn Phänomenologie des Geistes. Of de kinderen ‘kolomsgewijs’ van rechts naar links of van links naar rechts leren optellen is een onderwijskundige kwestie want voor het resultaat van de optelling is het om het even.

We zien de vele eenheden die we tellen als elementen van een geheel, een nieuwe eenheid: een verzameling paarden. Elementen van een verzameling is abstracter dan individuen of leden van een groep of samenleving. Als elementen opgevat staan de dingen volstrekt buiten elkaar: ze hebben niets met de verzameling. Die is immers van buiten af door ons opgelegd. Tijdens het tellen, deze abstracte activiteit, is de werkelijkheid bevroren, onveranderlijk.

Natuurlijk is het opvatten van de leden van een groep als elementen van een telbare verzameling een abstractie. De leden van een groep hebben wel iets met elkaar. Ze verhouden zich niet alleen tot elkaar als teamgenoten of klasgenoten of als leden van een familie, maar ook tot de groep als groep. Bij het tellen abstraheren we van deze inhouden.

We vertrouwen op de onmiddellijke waarneming van de onderscheiden dingen die we telden. Deze waarneming is in het begin een sterk fysieke activiteit. Het kind raakt de dingen nog één voor één aan terwijl het telt: dit, dit, dit. Aanwijzen is al een vorm van meten: dit object hier, die steen daar. We positioneren het aangewezen object. Het aanraken is het houvast van het waarnemen en het identificeren. We positioneren het object ten opzicht van ons lichaam in de fysieke ruimte die we ermee delen.

Waar komen de cijfernamen vandaan?

In de namen, de woorden voor de dingen, zit de historische bepaaldheid van ons denken in het algemeen en het tellen in het bijzonder. Ooit moet de mens het woord ‘leeuw’ bedacht hebben om naar een leeuw te verwijzen. Het woord kan in de plaats komen van het levende dier. We hoeven ons het dier niet eens meer voor te stellen als we het woord gebruiken.

Ooit moeten mensen de namen voor de getallen gemaakt hebben. Het heeft even geduurd voordat de abstracte getalsnamen los kwamen van de namen van de getelde dingen zelf. Sommige talen kennen nog verschillende woorden voor één en voor twee van hetzelfde. Bijvoorbeeld Grieks: anèr, man; andre; twee mannen. (Struik, 1977, p. 13) . Geleidelijk ontstaan cijfernaamsystemen. Struik geeft een voorbeeld uit het Kamilaroi, een taal van een Australische stam: 1 = mal, 2 = bulan, 3 = guliba, 4 = bulan-bulan, 5 = bulan-guliba, 6 = guliba-guliba (Uit: Conant, The number concept, blz. 106-107.)

Volgens Kant zijn de stellingen van de zuivere wiskunde, waaronder de leer van de natuurlijke getallen, oordelen a priori, “omdat zij een noodzakelijkheid in zich dragen die niet uit de ervaring kan worden gehaald.” (Prolegomena, p. 52). Dat wil zeggen dat ze niet gebaseerd zijn op de waarneming. De historische ontwikkeling van de wiskunde laat echter zien dat deze een basis heeft in de zintuiglijke waarneming en de ervaring. Dat je drie steentje en twee steentjes samen kunt nemen en kunt beschouwen als een geheel dat is een inzicht dat aan de ervaring is ontleend. Dat daarmee een nieuwe entitiet ontstaat die in zekere zin onderscheiden is van de samengestelde delen dat maakt het synthetische karakter van het wiskundig oordeel uit.

Een belangrijke stap in de ontwikkeling van de wiskunde wordt gemaakt met de invoering van het positionele notatiesysteem. Rond 300 voor Christus werden in India getallen in het Brahmi-systeem geschreven. Dit systeem had nog speciale tekens voor de getallen 10 (zeg A) en 100 (zeg B). De positie van de tekens in een rijtje heeft geen betekenis voor de waarde die het rijtje aanduidt. AAB3 duidt bijvoorbeeld hetzelfde aan als BA3A, namelijk ons getal 123. Het Brahmi-systeem is dus geen positiestelsel. Ongeveer 500 na Christus werd in India het cijfer 0 ingevoerd in het Brami en werd het een positioneel systeem (Hogendijk 1990). De 0 verving een lege plek of een punt in een positioneel notatiesysteem, een getalsysteem waarin de positie van het cijfer de waarde bepaalt, zoals in ons tientallig getalsysteem (203 is de naam van een ander getal dan 230 of 23), dat in de veertiende eeuw in West-Europa haar intrede deed. Het Romeinse systeem is enkele eeuwen ouder.

Het getal 0 kent nog een heel andere historie. Men kan zich voorstellen dat het enige tijd gekost heeft voordat men het getal 0 bedacht. Daarvoor moeten de wiskundige objecten immers los gedacht worden van de waarneembare, fysieke, objecten. Wie telt nou 0 objecten? Hoe kun je nul streepjes onderscheiden en optekenen, als je als afbeelding voor een aantal voor elk geteld element een streepje zet (IIII)? Wanneer het teken 0, mogelijk afkomstig van het Griekse woord ‘oudèn’ dat niets betekent, werd ingevoerd is onduidelijk (Butterworth 1999).

Zo ontstaat het getalbegrip met de ontwikkeling van een eigen cijfertaal, de taal waarmee de individuele getallen als abstracte denkinhouden worden onderscheiden. Zonder de wiskundige objecten een eigen naam te geven (een identifier) kunnen we ze niet onderscheiden, er niet over denken en niet mee redeneren. De wiskundige heeft het over de driehoek D, de lijn l, de getallen x en y, etcetera.

De cijfertaal, zoals ons tientallig stelsel, is zelf een structuur. Zonder dat is het mechaniseren en automatiseren van het rekenen niet mogelijk. De organisatie van het telraam, het rekenmechaniek, reflecteert deze structuur. Het telraam is heel duidelijk een materialisatie van het positionele systeem. Voor elke positie is er een aparte stang met bolletjes.

We zien dat bij het tellen van dingen er een afbeelding plaats vindt van de dingen op de ideële werkelijkheid van de getallen waardoor de werkelijkheid geordend wordt. De fysicus Heinrich Hertz drukte in het voorwoord van zijn Prinzipien der Mechanik dit afbeeldingsbegrip in de mathematische fysica uit. Denkprocessen en processen in de werkelijkheid zijn elkaars afbeelding. Zoals de toestand van de bolletjes van de abacus een getal representeert en de rekenkundige bewerking door akties op het telraam worden gerepresenteert. Dit afbeeldingsbegrip zou een grote rol gaan spelen in het denken van de 20ste eeuw.

Zodra de getallen een eigen individueel bestaan hebben gekregen los van de zintuiglijk waarneembare werkelijkheid rijst de vraag hoeveel er van zijn. En of er ook een grootste getal is. Dit is de vraag die opkwam bij mijn kleindochter toen ze de regelmaat in ons getalnamensysteem zag en ontdekte dat ze alsmaar verder kon tellen. “Hoeveel getallen zijn er?”

Wie getallen telt telt de door ons zelf gemaakte dingen (objectivaties) van abstracties die we gemaakt hebben voor het tellen van echte waarneembare dingen, zoals knoopjes of zandkorrels, of schapen. De getallen zijn zelf telbare objecten geworden. Het getal is het getelde als telbaar. We hebben ze een volgorde gegeven, de volgorde die hun identiteit uitmaakt: vier is wat na drie en voor vijf komt. Met het getal 0 of 1 en de opvolger-relatie ligt het hele getal-systeem vast. De getallen schrijven vanwege hun identiteit als geordende getallen voor in welke volgorde we ze zullen tellen. De taal legt deze volgorde vast. We identificeren de getallen met hun unieke namen (‘identifiers’, de rigid designators van Saul Kripke) in het door ons gebruikte getalnamensysteem. Wanneer je de getallen telt dan volg je de ordening van de getalnamen. Je begint niet bij 23 te tellen en dan 45 en dan 321, of zo wat.

In het tellen van de getallen buigt het wiskundig denken zich op zichzelf terug: het werkt op het resultaat van zijn eigen ontwikkeling die bestond uit de creatie van de getallen als objectivatie van de abstractie van de werkelijkheid als telbaar. Deze zelfreflectie van het wiskundig denken zien we ook in de aanvang van de vorige eeuw in de meta-mathematica en de mathematische logica, de wiskundige formalisering van het wiskundig redeneren.

Soms is het handig de dingen zo geordend te denken dat we gebruik kunnen maken van de structuur van de getallen. Vier rijen van vijf huizen is totaal twintig huizen, omdat 4 keer 5 20 is. De zuivere rekenkunde biedt technieken voor het handiger tellen en voor het handiger rekenen in het algemeen. Zoals eerder opgemerkt, het resultaat, het aantal getelde objecten, is onafhankelijk van de methode van tellen en rekenen. Zoals de inhoud van de wiskundige stelling onafhankelijk is van de wijze van bewijzen. (En deze uitwendige relatie is typisch voor het wiskundig denken.)

We zien in het tellen reeds de begripsmatige kern van de automatisering. Het zijn de cijfers, de getalnamen, de identifiers, die voorschrijven hoe de getallen geteld worden. De taal die een wezenlijke rol speelt in de automatisering is de uitwendige vorm van het rekenend denken (de overheersing van deze vorm van denken werd door Heidegger als karaktertrek van onze westerse cultuur gezien). De taaltekens werken in de machine volgens de betekenis die ze voor ons hebben.

Het tellen van de telgetallen is een inhoudsloze beweging (een motor die onbelast draait) met een onbereikbaar doel, het vaststellen van het aantal dingen die zelf al tellend door het denken voortgebracht worden. De getallen tellen zichzelf. Het zijn de werkende tekens van onze rekenmachines.

Het is een vreemde gedachte: dat getallen zichzelf zouden tellen. Maar we zien hier wat er gebeurt wanneer we proberen op een wiskundige manier de werking van een geprogrammeerde machine te begrijpen en te beschrijven. Zo’n machine bevat het voorschrift voor zijn eigen werking in de vorm van een in fysieke toestanden van de machine uitgedrukte code (het programma). We zeggen dat zo’n machine ‘vanzelf’ werkt. (Dat is iets anders dan ‘uit zichzelf’.) Het ‘zelf’ van de machine is het programma, het ontwerp dat de werking ervan beschrijft. Een werkende machine is ook een natuurproces. De machine is een samenwerking van mens en natuur. De mens heeft een voor hem zinvolle orde aangebracht aan de werking van de natuur.

De afstudeeropdracht

In 1979 studeerde ik af als wiskundig informaticus op een onderzoek op het gebied van de wiskundige semantiek van programmeertalen volgens de recursieve domein theorie van de logicus Dana Scott. Daarin verdedig ik de stelling dat de mathematische uitdrukking van het principe van de programmeerbare zichzelf reproducerende automaat de uitdrukking Z(Z) = Z(Z) is, waarbij Z = λx.x(x), de zelfapplicatie functie is (in termen van de lambda-calculus, een taal voor het rekenen met functies). Dit is overigens geen wiskundige stelling. Het is meer een stelling over de relatie tussen wiskunde en de automatisering van het rekenende denken.

Uitgangspunt is dat de betekenis (formele semantiek) van een computerprogramma een wiskundige functie is. Het is een functie die een invoer afbeeldt op een uitvoer, het resultaat van het uitvoeren van het programma.

Leibniz voerde de ‘functio’ in als een grootheid die van een andere grootheid afhangt. De wiskunde had er moeite mee en het heeft enige tijd geduurd voordat functies als wiskundige objecten werden beschouwd. De variabele is net als de functie al een probleem voor de wiskundige. Gottlob Frege worstelde ermee. Het is geen wiskundig object. De variabele staat voor de vrijheid van het stellende denken, dat een willekeurige naam (teken) geeft aan een bepaalbaar iets. Bijvoorbeeld, de variabele l die de lengte van een staaf voorstelt. Maar ook, een nog abstractere variabele x die een willekeurige nog onbepaald getal voorstelt, zonder enige fysische interpretatie.

Een functie is een variabele waarvan de waarde van een andere afhangt. Niet zoals de variabele van het stellend subject, maar van iets anders. De lengte l is functie van de temperatuur t; l = f(t).

In de mathematische natuurwetenschap gaan we er vanuit dat de natuur zich gedraagt volgens wetmatigheden die we in een systeem van wiskundige functies kunnen uitdrukken. Vanwege die aanname is de experimentele natuurwetenschap hypothetisch. We nemen aan dat er een functioneel verband is. We gaan door metingen bepalen hoe dat verband is. Dat vooronderstelt meetbaarheid als vorm van kenbaarheid van de natuur. Het gemiddelde van een aantal metingen verwijst niet naar een object dat onmiddellijk in de waarneembare werkelijkheid voorkomt, zoals de lengte van object. Het gemiddelde is een eigenschap van een verzameling van objecten. We gaan er niettemin vanuit dat het gemiddelde bestaat en dat het iets zegt over de werkelijkheid. Het gemiddelde is een functie, een hypothese. Het hypothetische karakter van de mathematische fysica zit hem er niet zozeer in dat we door middel van testen bepalen welke waarde het gemiddelde heeft. Het hypothetische karakter zit hem erin dat we aannemen dat er zoiets als een gemiddelde, een ideële grootheid bestaat. Eigenlijke berust ook het meten van de lengte van een object al op zo’n aanname. Deze lengte drukken we immers uit in een getal. Zonder deze abstractie zouden we nooit bijvoorbeeld het moment van de krachten van een balans kunnen berekenen. Daarvoor moeten we immers de kracht vermenigvuldigen met de lengte van de arm.

De lambda-calculus is een formele theorie van functies. De eerste versie werd door Alonzo Church ingevoerd om als basis te dienen voor de gehele wiskunde, als alternatief voor de axiomatische theorie van verzamelingen. In latere versies van deze calculus kunnen precies alle op een computer berekenbare functies gedefinieerd worden. (Er zijn ook functie die niet berekenbaar zijn. Daar heb je dus niet veel aan. ;-))

De lambda-calculus heeft twee basisoperaties. De eerste is de lambda-abstractie, waarmee een functie wordt gemaakt op basis van een expressie. Bijvoorbeeld λx. (x+1) is de functie die ieder object x afbeeldt op het object x+1. De tweede operatie is de functie-applicatie.

Bijvoorbeeld: als de functie t = λx. (x+1) dan is t toegepast op 2 : t(2) = λx. (x+1) (2) = 2+1 = 3.

Dus als Z de zelfapplicatie functie is: Z = λx. x(x), dan levert Z toegepast op Z zelf het volgende resultaat: Z(Z) = Z(Z) = Z(Z) = …

De zelfapplicatie functie toegepast op de zelfapplicatie functie zelf levert als resultaat deze zelfde zelfapplicatie weer op; een oneindig voortdurend proces van zelfreproductie. De zelfreproductie is de slinger van het onbelaste wrijvingsvrije slingeruurwerk dat zichzelf in stand houdt met het slingeren. Maar ook de teller die zichzelf reproduceert als teller in het telproces dat verloopt volgens de ordening van de getalnamen: … dertig, één-en dertig, twee-en-dertig, …Het tellen van de getallen geprogrammeerd door het notatiesysteem van de cijfers. Het is de machine die zichzelf in het werken in stand houdt.

Wat is de betekenis van een computerprogramma? Wel, de functie ervan is voor te schrijven hoe invoerwaarden moeten resulteren in uitvoerwaarden. Wiskundig gezien een functie die invoerwaarden afbeeldt op uitvoerwaarden. Een simpele opdracht als x := x +1 heeft als betekenis de functie t die bij de invoer 1 optelt: t = λx. (x+1). Bijvoorbeeld: t(2) = 2+1 = 3.

Dit simpele programma stopt na één enkele stap. Een wat serieuzer programma zorgt voor meerder stappen (eventueel ‘oneindig’ veel, zoals een besturingsprogramma) afhankelijk van de invoer ervan. Zo’n programma moet zichzelf weer aanroepen.

Welke functie hoort er bij een programma dat zichzelf meerder keren aanroept? Een voorbeeld.

De lengte van een lijst: een recursieve definitie

We kunnen precies definiëren wat we onder de lengte van een lijst verstaan. Voorbeeld van een lijst is een boodschappenlijst. Het is een opsomming van items. Een lijst is een type data-structuur. Bijvoorbeeld: [a,b,c,d] is een lijst met 4 elementen, waarvan a het eerste element is; ook wel de kop van de lijst genoemd. De lijst die je overhoudt wanneer je de kop eraf haalt heet de staart. We noteren: (a:[b,c,d]) om aan te geven dat a de kop is van de lijst [a,b,c,d]. De lege lijst noteren we als []. (a:xs) is de lijst met a op kop met er achter de lijst xs.

We kunnen nu definieren wat de lengte van een lijst is. Dat is het aantal elementen dat in de lijst staat:

lengte [] = 0 , de lengte van de lege lijst is 0

lengte (a: xs) = 1 + lengte (xs), oftewel de lengte van een niet-lege lijst is 1 + de lengte van de staart xs van de lijst.

De definitie lijkt circulair te zijn: het gedefinieerde komt rechts in de omschrijving voor. Dat is echter niet helemaal zo. De lengte wordt impliciet gedefinieerd door een recursieve definitie die zegt hoe de lengte van een bepaalde gegeven lijst uit die van een andere lijst (de tail ervan) kan worden berekend. Door de naam lengte in te voeren stellen we als het ware het bestaan van de functie al vast. Door deze naam te gebruiken in de definitie specificeren we welke de functie is.

De lengte van een oneindige lijst is onbepaald. Het proces dat de lengte berekend komt niet tot een einde. De functie lengte is een actueel oneindig bestaand object, de afsluiting van een oneindige reeks van partiële functies, functies die slechts voor een deel van de invoerwaarden gedefinieerd zijn.

We kunnen de definitie van de lengte functie ook in één regel samenvatten:

F(xs) = als xs=[] dan 0 anders 1 + F(tail (xs)) (*)

Deze definities hebben de vorm van een rekenvoorschrift. Ze kunnen direct gebruikt worden om de waarde ervan voor een gegeven lijst te berekenen. Het zijn computer programma’s in een functionele taal (zoals Haskell of Miranda).

Programmeurs specificeren functies en data-structuren. De uitvoering van de recursieve opdracht houdt een herhaling in van dezelfde operatie op telkens een kortere lijst. Tot de overgebleven lijst leeg is. Dat is het stopcriterium. Volgens de wiskundige recursie theorie bestaat bij een dergelijke recursieve definitie altijd een functie die we als de betekenis van het programma kunnen opvatten. Deze functie kan expliciet gemaakt worden door middel van een zelfapplicatie van een hogere orde functie.

Die heeft de vorm: F (x) = G (G, x).

Waarbij:

G (f,xs) = als xs = [] dan 1 anders 1 + f(f, tail(xs))

De functie F is gedefinieerd door G die op zichzelf wordt toegepast. G is zelf ook gedefinieerd met behulp van zelfapplicatie, namelijk van zijn eerste argument, de functie f, hierboven gedefinieerd door (*).

Om de betekenis van een recursief programma op wiskundige wijze uit te drukken als een functie F die een invoer afbeeldt op een uitvoer, waarvoor we een rekenmachine gebruiken, moet deze functie gedefinieerd worden door middel van een zelfapplicatie van een zelfapplicatie.

In deze zelfapplicatie komt op wiskundige wijze tot uitdrukking dat de toestanden van een automaat zelf zorgen voor de toestandsovergangen die overeenkomen met de betekenis ervan. De zelfapplicatie als functie toegepast op zichzelf is de theoretische uitdrukking van de zichzelf reproducerende machine. Een machine is zodanig gemaakt dat deze niet alleen iets uitvoert, iets zinvols produceert, maar ook zichzelf reproduceert. Het blijft dezelfde machine die blijft werken.

In het tellen van de getallen herkennen we deze zelfapplicatie. De zuivere vorm van de zelfapplicatie is al even nutteloos als het tellen van de getallen.

De zelfapplicatie van de zelfapplicatie, deze reflectie in het kwadraat, komen we ook tegen in de constructie van de bekende Russell verzameling. Dit is de verzameling R van die verzamelingen die zichzelf niet als element bevatten. De vraag of deze R zichzelf als element bevat is de tweede zelf-reflectie. Een definitief antwoord is er niet, want als R zichzelf bevat dan bevat volgens de definitie van R zichzelf niet. Maar dan is het dus een verzameling die zichzef niet als element bevat, wat tot de conclusie moet leiden dat deze zichzelf wel bevat. Etcetera, …

Wanneer we f(x) lezen als x is element van f, dan komt de Russell-verzameling overeen met de functie R = λx. ~x(x), de functie die als resultaat oplevert de negatie van x is element van x. Het toepassen van de functie R op zichzelf heeft als resultaat het oneindige denkproces dat maar niet tot een eindconclusie komt. R(R) = ~R(R) = ~~R(R) = …

Zelfreproductie van de levende cel

De mathematische biologie probeert levensprocessen volgens de methode van de wiskunde te modelleren.

Zelfreproductie is één van de meest belangrijke karakteristieke kenmerken van levende organismes. In (Andrade et al. 2011) claimen de auteurs dat dit idee wiskundig uitgedrukt kan worden in de zelf-refererende vergelijking f = f(f). Naar één van de oudste mythische symbolen, tonende een slang die zichzelf in de staart bijt, wordt deze de Ouroboros vergelijking genoemd.

De uitdrukking van de zichzelf reproducerende automaat door middel van een zelfapplicatie van een zelfapplicatie, formeel als Z(Z) waarbij Z = lambda x. x(x), (Op den Akker, 1983; Fleischhacker 1982) gaat een stap verder dan de Ouroboros vergelijking, de zelfapplicatie uitdrukking f(f) = f in (Andrade et al. 2011).

De uitdrukking Z(Z)=Z(Z) kan gezien worden als de dynamische tegenhanger van de Ouroboros vergelijking f(f) = f van (Andrade et.al.2011)

Vanwaar het verschil tussen beide gelijkheden? De levende cel is niet een realisatie van een expliciet in de cel uitgedrukt programma, zoals de automaat dat is. Bij de cel is dit hoogstens aanwezig doordat wij het erin zien. Bij de automaat verklaart het programma de werking van de machine. De machine is zo door ons gemaakt.

Het refereren naar een programma kan echter, zoals de biochemicus en filosoof Jacques Monod opmerkt, niet als wetenschappelijke verklaring dienen voor de zelfreproductie van de levende cel, zoals dat voor de geprogrammeerde automaat wel kan. Het programma voor de automaat is door ons zelf geschreven evenals de machine die zodanig is gemaakt dat het een programma voor ons kan uitvoeren. Voor de levende cel is geen programma voorgeschreven.

Er zijn oneindig veel getallen. Daar had Lilly waarschijnlijk al wel een vaag vermoeden van. Dat ze met tellen net zolang door kan gaan als ze zelf wil. We noemen zo’n proces wel potentieel oneindig. Over het bestaan van het aktueel oneindige als bepaald resultaat van een dergelijk proces zijn de meningen verdeeld. In de echte wereld komen geen actueel oneindige grootheden voor. Maar dat geldt ook al voor de getallen zelf. Ook die komen niet in de echte wereld voor. Al kun je ze kennelijk wel tellen.

Als kind leren we al snel tellen. We leren de telwoorden van onze ouders, broer of zus. Op school leren we het telwoordensysteem en hoe je moet rekenen. Mathesis is de kennis die leerbaar is, voorzover we die van anderen kunnen overnemen. We leren op school niets over de geschiedenis van de getallen, over hoe ze ontstaan zijn en over de eigenaard van het rekenende denken. Het verstaan van die geschiedenis vereist een andere vorm van denken, een andere vorm van begrip dan het mathematische. En een andere vorm van leren dan het meeste schoolse leren, dat meer een leren van buiten is.

Inzicht in het wiskundige denken is van belang om te begrijpen wat we bedoelen als we het over ‘denkende machines’ of ‘artificiële intelligentie’ hebben.

Bronnen

Brian Butterworth (1999). The mathematical brain. MacMillan, 1999.

Rieks op den Akker (1979). Zelfapplicatie en zelfregulatie. Doctoraalverslag Technische Hogeschool Twente, Onderafdeling Toegepaste Wiskunde, 1979.

Rieks op den Akker (1983). De zelfstandigheid van automaten en de semantiek van programmeertalen, Intern rapport Technische Hogeschool Twente, Onderafdeling Wijsbegeerte en Maatschappijwetenschappen (ook als intern rapport verschenen bij de Onderafdeling der Informatica). Dit is een bewerking van mijn afstudeerverslag verschenen bij de onderafdeling Informatica van de TH Twente (1979).

Jorge-Soto Andrade, Sebastian Jaramillo-Riveri, C. Gutiérrez & J. Letelier (2011). “Ouroboros avatars: A mathematical exploration of self-reference and metabolic closure.” ECAL (2011).

Louk Fleischhacker (1976). Wijsbegeerte van het wiskundig denken. Syllabus van het collegejaar 1975/76. Technische Hogeschool Twente, Onderafdeling der Wijsbegeerte en Maatschappijwetenschappen, 1976.

Louk Fleischhacker (1982). Over de grenzen van de kwantiteit. Proefschrift Universiteit van Amsterdam, 1982.

Louk Fleischhacker (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

Louk E. Fleischhacker (1999). `De Henide als Paradigma. Otto Weiningers invloed op Ludwig Wittgenstein’ in: De Uil van Minerva 15 nr. 3 (Lente 1999).

Rochel Gelman and Brian Butterworth (2005) Number and language: how are they related?, Trends in Cognitive Sciences, Volume 9, Issue 1, 2005, Pages 6-10.

Goossens, J., Hirsch Ballin, E., van Vugt, E. (2021). Algoritmische beslisregels vanuit constitutioneel oogpunt: Tweedeling tussen algemene regels en concrete toepassing onder druk. Tijdschrift voor constitutioneel recht, 12(1), 4-19.

J.P. Hogendijk (1990). Over de geschiedenis van de cijfers. Tijdschrift voor Nederlands Wiskunde Onderwijs, december 1990.

D.J. Struik (1977). Geschiedenis van de wiskunde. SUA, Amsterdam, 1977.

Sarnecka, Barbara W. (2015). Learning to Represent Exact Numbers. Synthese, pp.1-18.

“Nihil est sine ratione” (Leibniz)

“De roos is zonder waarom; zij bloeit omdat ze bloeit. Zij let niet op zichzelf, vraagt niet of men haar ziet.” (Angelus Silesius)

Het is voorjaar. Ik wiet ons stukje grond. Daar komen straks de bonen en de aardappelen. Wij hebben ons eigen stukje grond nog. De boeren in de omgeving wonen hier al vele generaties. Ze hebben onlangs robots, intelligente machines, aangeschaft omdat de opbrengst te laag was om iedereen te voeden.

Er komen steeds meer vreemdelingen de grens over. Vluchtelingen uit Afghanistan, Syrië, Jemen, en nu, Oekraïne. Ze zijn verdreven van hun grond, door de oorlog. De oorlog verschroeit de aarde. De mens is een van rede voorzien wezen. Zegt men. Hoe zijn we hier in terecht gekomen?

Op zoek naar de grond.

Nihil est sine ratione: niets is zonder grond

In zijn lezing Der Satz vom Grund (1957) en in zijn collegereeks tijdens het wintersemester 1955/56 aan de Universiteit van Freiburg analyseert Heidegger een stelling die ons westerse denken eeuwenlang heeft bepaald. Het is een grondbeginsel, een principe of axioma van het denken: nihil est sine ratione in het Latijn; niets is zonder grond.

Heidegger hecht er veel waarde aan, op te merken dat het West-Europese denken er pas na een ‘incubatietijd’ van drieëntwintighonderd jaar in slaagde dit beginsel als beginsel van het denken en filosoferen te formuleren. Filosoferen deden de Grieken al vanaf de zesde eeuw voor Christus. Vanaf het begin is er de vraag naar de grond. Pas in de zeventiende eeuw formuleerde Leibniz het beginsel in deze vorm. Leibniz was wiskundige. Hij introduceerde onder andere de term ‘functio’, als uitdrukking van wat ons wiskundig functie-begrip zou worden, om aan te geven hoe de lengte van het stuk van de y-as afhangt van het punt waarvan uit je een raaklijn aan een gegeven kromme in het x/y-vlak trekt. Hier vinden we het begin van het vervangen van de God als causa en het zoeken naar oorzaken door het beschrijven van wetmatigheden in de de vorm van wiskundige gelijkheden en functies.

Leibniz was rechtsgeleerde die een nieuwe rekentaal invoerde waarin voor en tegen argumenten en feiten (met kansen) kunnen worden beschreven zodat in de rechtszaal berekend kon worden wie het gelijk aan zijn zijde had. Calculemus! Laten we uitrekenen wie de waarheid spreekt. Leibniz ontwierp een rekenmachine. En hij was theoloog en filosoof. Bekend is zijn uitspraak dat we in “de beste van alle mogelijke werelden” leven. Het ligt in de almacht en het alziend oog van God dat hij deze wereld heeft gekozen uit het scala van mogelijke werelden die hij zich kon voorstellen. Ook God ontkomt niet aan het universele causaliteitsbeginsel: alles heeft een oorzaak. God is zijn eigen oorzaak en reden. De idee God van de moderne filosofie is de God als causa sui. Ook voor Descartes is het bestaan van God gevolg van zijn eigen wezen. Anders dan in de Middeleeuwen is God niet meer onveroorzaakt. God valt voortaan onder het gezag, de stelling van de menselijke rede.

Heidegger zou geen filosoof zijn als hij niet tot de conclusie kwam dat het grondbeginsel ook op zichzelf betrekking heeft.

In de aantekeningen van zijn Tweede College over Der Satz vom Grund lezen we:

“Naar wij beweren moet het hét beginsel aller beginselen zijn. Op de spits gedreven betekent dit: het beginsel van grond is de grond van alle beginselen. Het beginsel van grond is de grond van het beginsel.” (p. 22)

En:

“Hier draait iets om zichzelf heen. Hier krult iets naar binnen, maar het sluit zich niet af, het ontgrendelt zichzelf op hetzelfde moment. Hier heb je een ring, een levende ring, zoiets als een slang. Hier heeft iets zichzelf bij de staart. Hier heb je een begin dat al is afgerond.” (p. 22)

In 2011 duikt het oude Griekse symbool Ouroboros, tonende een slang die zichzelf in zijn staart bijt, op in een artikel van vier Chileense wetenschappers. Het artikel heet: Ouroboros avatars: A mathematical exploration of Self-reference and Metabolic Closure. De auteurs zijn de wiskundige Jorge Soto-Andrade, de biologen Sebastian Jaramillo en Juan-Carlos Letelier en de informaticus Claudio Gutierrez. Het gaat over zelfreproductie als één van de meest belangrijke karakteristieke kenmerken van levende organismes. De auteurs trachten dit begrip op zuiver wiskundige wijze tot uitdrukking te brengen. Ze claimen dat dit idee wiskundig uitgedrukt kan worden met de zelf-refererende vergelijking f = f(f). De functie f is dekpunt van zichzelf. Een triviale oplossing van deze gelijkheid is de identiteit, de functie die bij ieder argument waarop het wordt toegepast dat argument zelf weer oplevert.

We moeten een onderscheid maken tussen ‘uit zichzelf’ en ‘vanzelf’.

In 1979 studeerde ik af als wiskundige informaticus op een onderzoek op het gebied van de mathematische semantiek van programmeertalen volgens de recursieve domein theorie van Dana Scott. Daarin verdedig ik de stelling dat de mathematische uitdrukking van het principe van de programmeerbare zichzelf reproducerende automaat de uitdrukking Z(Z) = Z(Z) is, waarbij Z = λx.x(x), de zelfapplicatie functie is. Dit is de dynamische tegenhanger van de Ouroboros vergelijking f(f) = f van Andrade e.a. De zelfapplicatie van de zelfapplicatie levert als resultaat deze zelfde zelfapplicatie weer op; een oneindig voortdurende proces van zelfreproductie.

“Niets is zonder grond. Dit beginsel zegt nu: om het even wat gaat door voor een zijnde wanneer en ook alleen wanneer het voor het voorstellen als een berekenbaar object is gewaarborgd.” (p. 149)

Het machtige principe van Leibniz : “niets bestaat waarvoor geen toereikende bestaansgrond kan worden aangevoerd” ontleent zijn macht aan “het feit dat dit principe erover beschikt wat als object voor het voorstellen mag gelden, of algemeen wat voor iets zijnds mag doorgaan.” (p. 149).

Dit voorstellend, rekenende denken is het mathematische denken. In (Fleischhacker 1976, 1982, 1995) wordt de mathematische zienswijze in verband gebracht met de overheersende nuttigheidsidee (Hegels idee van het reine Nützen en de wezenloze nuttigheid). De onbetrokkenheid van het kennend subject in de mathematische zienswijze geeft de uitwendige structuur van dat alles middel, nuttig, is voor iets anders. Is er iets buiten de nuttigheidskringloop waarvoor dit alles nuttig kan zijn?

“Het beginsel van grond is het grondbeginsel van het redelijke voorstellen in de zin van het voorstellende rekenen.” Het is dit principe dat volgens Heidegger zijn stempel drukt op de ‘moderne tijd’.

“We weten vandaag de dag (het is 1957 wanneer Heidegger deze woorden spreekt! RodA) zonder het al echt te begrijpen, dat de moderne techniek er onstuitbaar toe aanspoort om haar voorzieningen en producten overal in te voeren en tot het uiterste te perfectioneren.” (p. 150).

De melkrobot werkt alleen optimaal met koeien die daarop zijn geteeld. De spenen van de koe moeten recht staan omdat ze anders niet in de melkbekers van de robot passen.

De moderne techniek zet aan tot de grootst mogelijke perfectie. De perfectie berust op de algemene berekenbaarheid van de objecten.” (p.150)

Heidegger schets vervolgens het tijdsbeeld van het atoomtijdperk waarin het erom gaat de vrijgekomen energie nodig voor de productie van goederen die de groeiende consumptieve behoeften moeten bevredigen, aan banden te leggen. De mens moet zich telkens weer van het leven verzekeren.

Het heeft er alle schijn van dat het niet meer de economische behoefte is die de techniek bepaalt, maar omgekeerd dat het de technologie is die de behoeftes creëert.

Heidegger zag dit reeds gebeuren en meende dit te begrijpen vanuit de almacht van het beginsel van de grond. De technologie is de motor van de kapitalistische economie. De politiek is er op gericht de behoeftigheid van de burgers in stand te houden. Daarom moet er met spoed een ‘duurzame’ oplossing komen voor het energieprobleem !

“Het trefwoord voor deze grondhouding van het huidige bestaan luidt: informatie.” (p. 154)

We zijn tegenwoordig dan ook eerder geneigd van het informatietijdperk te spreken. De voorstelling van de taal als instrument voor informatieverstrekking heeft in toenemende mate de overhand gekregen. De machines spreken en verstaan onze taal.

Taal is een instrument geworden. Niet om ons inzicht in de waarheid uit te drukken en te delen, niet om de schoonheid, maar om de uitwerking op de ander. Om te manipuleren.

We weten inmiddels waar de informatietechnologie toe geleid heeft. Het wereldwijde internet en de sociale media (Twitter, Facebook, Instagram) hebben van de wereld een netwerk van anonieme informatieknooppunten (agenten) gemaakt. Wat Heidegger vergat te zeggen is dat de zin (der Satz), de propositie waarmee Leibniz de band tussen subject en predikaat uitspreekt, niet van zichzelf zegt of deze waar is. Daar had Wittgenstein ons in zijn Tractatus al voor gewaarschuwd.

“Ein Satz kann unmöglich von sich selbst aussagen dass er wahr ist.” (Ludwig Wittgenstein, Tractatus, 1918)

De waarheidswaarde van de zin staat volgens de moderne technische opvatting over de relatie tussen taal en werkelijkheid buiten de beweringsinhoud van de zin. Mensen gebruiken zinnen. Niet omdat ze waar zijn, maar vanwege het beoogde effect.

Niet alles wat zich voordoet als informatie is werkelijk informatie, zegt de informatiefilosoof Luciano Floridi. “Informatie is pas informatie wanneer de inhoud ervan waar is”. Wanneer is informatie waar? Wanneer ze geborgen is in de gegevens. Data is de basis van de ware informatie. De gegevens zijn vanzelfsprekend en onmiddellijk. Dat is waarop we staan en waarop we vertrouwen. Informatie moet om ware informatie te zijn op data berusten. Dit is de moderne variant van der Satz vom Grund. Wat de machine spreekt, hoe de machine beslist, dat hangt af van de gegevens die hij geleerd heeft. Dat is de bias, de grond van het oordeel.

Maar wat nu als deze taaldata, die slechts buitenkant zijn van taalgebruik, product is van mensen die ontheemd zijn en geen contact meer hebben met de grond.

Hiermee komt een andere vergeten kant van de animal rationale, de redelijk mens die in Der Satz vom Grund zijn geborgenheid in de wereld veilig wilde stellen, naar voren. De mens leeft altijd al vanuit een plek in een geboortegrond waar hij een taal heeft horen spreken en heeft leren tellen, (het tellen is het eerste automatische spreken), voor dat hij beseft hier thuis te zijn en een taal te spreken waarin de wereld op een wijze verwoord is waarin zijn denken thuis is. Pas later zal hij wanneer hij hoort van andere talen het verschil beseffen tussen de woorden, het denken en de dingen, tussen “Dit is een brood” en “Zij noemen dit ‘un pain'”.

De moderne mens is een vluchteling, een ontaarde mens. Om oorlog te voeren hoeft hij zijn huis niet uit. Hij stuurt een drone die zelf het vijandelijk doel zoekt. Zijn werken is niet aan een plek gebonden. Overal waar internet is kan hij informatie uitwisselen met de ander, met agenten, mensen of machines. Dit is de bodem die de moderne mens mist. Dit gemis, deze lege plek is de frustratie en de woede van Mohammed de ontheemde vluchteling uit Syrië die zegt; wat moet ik hier; mee lopen in de tredmolen van elke dag terwijl daar in mijn eigen land mijn volk lijdt onder de oorlog, exportproduct van het rijke westen.

De causa sui idee heeft in de loop van de geschiedenis de strekking gekregen het wezen van de menselijke vrijheid, de autonome mens, uit te drukken. Maar een soortgelijke autonomie wordt aan de informatieverwerkende systemen toegekend. Dit wijst op het dubbelzinnige karakter van de causa sui idee. Iets kan wel bron zijn van zijn eigen activiteit, zijn eigen handelen, dat betekent nog niet dat het zijn eigen bestaan heeft veroorzaakt.

De creatie van de mogelijkheid wat dan ook te kunnen is iets anders dan over de mogelijkheid beschikken dit of dat te doen. De verwarring tussen deze twee, de identificatie van het logisch mogelijke en het feitelijk mogelijke, alsof het tegendeel van wat feitelijk zo is ook nog steeds mogelijk zou zijn, dat is een kenmerk van het moderne rekenende, mathematische denken. Leibniz dacht vanuit de God voor wie er geen ontologisch onderscheid bestaat tussen feitelijk mogelijk en logisch mogelijk. Wat feitelijk is is gegrond in de volstrekte willekeur van God. Hij heeft vanuit zijn goedheid besloten dat dit de beste keus is uit een veld van mogelijkheden. De God van Leibniz stelt dat het zo is en dan is het zo. Mathematischer kan een mens niet denken!

Is er een alternatief?

Heidegger zocht een alternatief voor het rekenende, mathematische denken dat ons in het atoomtijdperk en in de anonimiteit en subjectloosheid van de informatiecultuur heeft gebracht in de taal van de dichter. Hij haalt Goethe aan.

“Hoe? Wanneer? Waar? – De Goden blijven stom! Houd je aan het wijl en vraag toch niet waarom?“

In zijn Metafysica – van orde naar ontvankelijkheid, een boek dat mij opnieuw op het spoor zette van de Causa sui idee als draad door de geschiedenis van het mathematische denken, bespreekt Gert-Jan van der Heiden in het Einde van de Metafysica de centrale rol die het beginsel van grond speelt in de metafysica. Hij wijst op de meerduidigheid van de grond, een mogelijke interpretatie van Leibniz’ term ‘ratio’. Andere vertalingen zijn oorzaak, reden, maar ook ‘motief’ verwijst naar grond en reden, als het om menselijk handelen gaat. Maar de fysieke grond, het stukje aarde waar je thuis bent en dat de mens bewerkt komt niet in zijn analyse van het grondbeginsel voor. Het belang van die grond lijkt in de moderne metafysica ondergesneeuwd te zijn in de dynamiek van de informatiecultuur, die niet aan de plek gebonden lijkt te zijn. De fysieke grond is misschien te basaal, te platvloers, voor de intelligente denker die de moderne mens is.

Van der Heiden ziet in de idee van de getuigenis de mogelijkheid de lege plek in het delen van informatie op te vullen. Je kunt niet werkelijk iemand iets meedelen zonder jezelf mee te delen. We moeten ontvankelijk zijn voor de gezichtspunten van anderen, gezichtspunten die geborgen zijn in hun geboortegrond, hun tijd en cultuur en bewaard worden in hun moedertaal.

Leibniz, Angelus Silesius, Heidegger, Wittgenstein, Goethe, Hollak en Van der Heiden, ze zijn allen getuigen van het zijn. “Getuigen is tenslotte de wijze waarop het denken zijn ervaringen bekend maakt en bewaart.” (van der Heiden, p. 313). We moeten ontvankelijk zijn voor het perspectief en de getuigenissen van de anderen. Niet denken dat we zelf de waarheid in pacht hebben. Getuigen kunnen valse verklaringen afleggen. Daarom moeten we ons in ons contact met de anderen niet beperken tot het aanhoren en uitspreken van getuigenissen. Uiteindelijk gaat het erom wat we in ons leven waar maken.

Der Satz vom Grund, de roep die het beginsel van grond is, laat zich niet zo maar verstommen.

We moeten ons tuintje wieden. We zijn afhankelijk van de grond.

Bronnen

Rieks op den Akker (1979). Zelfapplicatie en zelfregulatie. Doctoraalverslag Technische Hogeschool Twente, Onderafdeling Toegepaste Wiskunde, 1979.

Rieks op den Akker (1983). De zelfstandigheid van automaten en de semantiek van programmeertalen, Intern rapport Technische Hogeschool Twente, Onderafdeling Wijsbegeerte en Maatschappijwetenschappen (ook als intern rapport verschenen bij de Onderafdeling der Informatica). Dit is een bewerking van mijn afstudeerverslag verschenen bij de onderafdeling Informatica van de TH Twente (1979).

Jorge-Soto Andrade, Sebastian Jaramillo-Riveri, C. Gutiérrez & J. Letelier (2011). “Ouroboros avatars: A mathematical exploration of self-reference and metabolic closure.” ECAL (2011).

Louk Fleischhacker (1976). Wijsbegeerte van het wiskundig denken. Syllabus van het collegejaar 1975/76. Technische Hogeschool Twente, Onderafdeling der Wijsbegeerte en Maatschappijwetenschappen, 1976.

Louk Fleischhacker (1982). Over de grenzen van de kwantiteit. Proefschrift Universiteit van Amsterdam, 1982.

Louk Fleischhacker (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

Luciano Floridi (2004), “Outline of a Theory of Strongly Semantic Information”, Minds and Machines, 14, pp. 197-222

Luciano Floridi (2007). In defence of the veridical nature of semantic information. EUJAP, Vol. 3, Nr.1, 2007.

Martin Heidegger (2009). Het beginsel grond. Bevat de colleges gegeven in Freiburg 55/56 en de lezing Der Satz vom Grund in de vertaling van Mark Wilschut. Boom/Amsterdam, 2009.

Gert-Jan van der Heiden (2021). Metafysica: van orde naar ontvankelijkheid. Boom uitgevers, Amsterdam, 2021.

Jan Hollak (1966) . Van Causa sui tot automatie. Inaugurele rede Nijmegen. Ook in Hollak en Platvoet (2010)

Jan Hollak en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010.