Ik hou niet van geschiedvervalsing dus ik zeg niet wat eerst was, de kip of het ei, maar op een gegeven moment moest mijn buurman, die melkveehouder is van geboorte, er aan geloven. Alsof de tijdgeest het voorschreef. Er kwam een melkrobotinstallatie.
De melkrobot kwam niet uit de lucht vallen. Ze heeft een ontstaansgeschiedenis, een onwikkeling die nog steeds doorgaat. Over dat ontstaan van de melkrobot en de gevolgen voor het boer-zijn, het koe-zijn en de relatie boer-koe gaat het prachtige artikel van Lewis Holloway en Christoffer Bear (Holloway and Bear, 2017).
Voor diegenen die zich bij een robot een in het groene weiland rondlopende of rondrijdende robot uit Star Wars of zo voorstellen: zo ziet het er niet uit. De stal werd voorzien van een infrastructuur van hekken en hekjes met sensoren die de koe, geïdentificeerd middels een chip in een band om haar nek, op een voorgeprogrammeerd tijdstip doorlaten tot aan het hart van de machinerie: de eigenlijke ‘robot’.
Dit tamelijk saai ogende apparaat beschikt over sensoren en laserstralen die het mogelijk maken dat de vier aluminium bekers op hydraulische wijze precies om de vier spenen van de uier van de koe kunnen worden geschoven. Waarna het melken kan beginnen. Het warme romige vocht wordt via leidingen naar vaten vervoerd waar het geanalyseerd wordt op ziektekiemen en ander ongerief voordat het in een melkvat verzameld wordt.
Wie een nieuw stuk techniek in huis haalt haalt iets in huis dat meer is dan louter middel. Het biedt niet alleen nieuwe mogelijkheden, het stelt ook haar eisenaan de huishouding. Het kan de organisatie van het dagelijks gedoe aardig op de kop zetten. De melkrobot is een actieve component in dat gedoe. Een ‘actor’ in de zin van de antropoloog en techniekfilosoof Bruno Latour.
Zo bestaat het werk van de buurman sinds de aanschaf van de robot vooral uit het controleren van het proces. Is er iets onregelmatigs ontdekt: Clara17 heeft uierontsteking of Antje25 zit klem tussen een hekje, dan krijgt hij een pop-up bericht op zijn mobieltje dat hij dag en nacht bij zich draagt. En verder zit hij achter zijn computer om te voldoen aan de administratieve verplichtingen die Europa en die “vermaledijde Groene Partijen” vanwege de mest- en fosfaat-huishouding van hem eisen. We zien hier Martin Heideggers ‘Wesen der Technologie’ aan het werk.
Koeien zijn intelligente en volgzame dieren. Na een lange periode van domesticatie stappen de meeste koeien zonder al te veel tegenstrubbelen de fase in van wat de techniek-en-moraal onderzoeker Olya Kudina de ‘technologische appropriatie’ noemt (Kudina 2019, 2021, zie Noot), het proces van gewenning aan de nieuwe technologie. Wat helpt is dat de koe na het melken een op haar lijf geschreven hoeveelheid voer krijgt. Behoeften zijn de niet te verwaarlozen natuurkrachten, zonder welke geen technologie zou werken. De samenstelling van haar voedselpakket, inclusief de eventuele medicatieve toevoegingen, is wetenschappelijk verantwoord en wordt volledig computergestuurd aan de koe aangeboden.
Het is genoegzaam bekend: Nederland is wereldleider als het gaat om het mechaniseren en robotiseren van de landbouw en melkveehouderij. De boerenzoon neemt niet meer, zoals in vroeger tijden, gelijk het bedrijf van zijn vader over. Hij, maar steeds vaker ook zij, gaat naar de landbouwhogeschool, waar hij (of zij) nieuwe snufjes ontwikkelt om het werk van de vaders te verlichten.
De melkrobot is het product van een interactie tussen de reflecterende kennisindustrie gezeteld in de betonnen kantoorgebouwen in de Randstad waar wetenschappers en ICT-ers de hele dag naar hun reflecterende beeldschermen turen enerzijds en het boerenwerk op het groene platteland anderzijds. Daar in de steden worden slimme methodes bedacht en ingebakken in slimme machines om het werk van de boer economischer, productiever, te maken. Een sluipend en soms slopend proces van rationele levensprogrammering dat ergens in de late Middeleeuwen aanving. (Men leze Karl Marx’ Das Kapital over de aanvang van dit historische proces.)
Maar hoe intelligent de robot ook is, deze beschikt niet over het Fingerspitzengefühl van de echte boer, het gevoel in de vingers waarmee deze de spenen van Clara17 omvat en kneedt zodat zij de warme melk aan hem prijs geeft.
“I look forward now to the morning and evening milking. There seems to me to be a friendliness between the cow and me, I put my head in her old flank and I squirt away, and there is a nice smell, and a nice sound as the jet shiss into the frothing bucket.” (Uit: John Seymour, Rural Life, 1991 geciteerd in Holoway and Bear 2017)
Met de melkmachine is het lichamelijk contact met de koe geminimaliseerd. Ook al staan in Nederland de meeste koeien het grootste deel van het jaar op stal, de afstand tussen boer en koe is toegenomen. De zorgzame liefde van de boer voor de koe is complex: ze is een ‘huisdier’ en een productiefactor.
De melkrobot verandert niet alleen het werk van de boer, ook aan de koe worden andere eisen gesteld. De technische interface tussen machine en koe mist de perfectie van het Fingerspitzengefühl. Idealiter, voor de robot althans, staan de vier spenen van de koe precies recht in het gelid. Maar de natuur houdt zoals bekend van variatie en het komt dan ook voor dat een paar spenen naar elkaar toe staan of juist van elkaar af naar buiten wijken. De robot heeft daar problemen mee. Soms dreigen twee spenen in dezelfde beker te komen of valt een speen buiten de beker. Zoals bij Clara17. Productieverlies. We zien hier hoe de technologie een probleem maakt.
femmes machines
Gelukkig voor de boer heeft ook daar de wetenschap een oplossing voor bedacht. Met dank aan “de vader van de genetica”, de Oostenrijkse augustijn Gregor Mendel (1822-1884) die in de kloostertuin van Brno de eerste experimenten deed op het gebied van de kruisbestuiving. Wanneer mijn buurman Clara17 wil laten dekken kiest hij zodanig zaad uit de lijst met aangeboden hoogwaardig sperma dat de spenen van Clara’s geconcipieerde nakomelingen weer keurig in het gelid staan. Ook kan door deze technologie ervoor gezorgd worden dat spenen niet te kort worden. Zo past de grenzeloze technologie de natuur verder aan bij de robot, nadat de technologie het fenomeen van de niet parallelle, uit het gelid staande, spenen heeft doen oplichten. Een fenomeen dat vermoedelijk voor de met de hand melkende boer nooit een fenomeen is geweest.
De ‘grenzeloosheid van de technologie’ instrumentaliseert het koebeest. Ze wordt via de interface van de melkrobot niet alleen materieel maar ook conceptueel onderdeel van het geautomatiseerde melkproducerend systeem. Ook de boer, die met zijn mobieltje op het nachtkastje waakt, is in dit door de ICT-ers in de steden bedachte concept opgenomen.
Inmiddels is de buurman op leeftijd en met het melken gestopt. Zijn vrouw schonk hem drie prachtige dochters. Maar geen van drieën wilde de traditie op de boerderij voortzetten. Het is triest, maar je hebt nu eenmaal niet alles in de hand.
Hoewel…?
“The role of technologies in forming relations between people and the world is the explicit focus of the technological mediation approach” (Olyah Kudina 2019, p16)
Over sex selectie technologie
De natuur is onrechtvaardig. De buurman van de buurman heeft namelijk drie zoons. Hoewel ongeveer van dezelfde leeftijd als de drie mooie dochters van onze naaste noaber kwam het niet tot een match. Eén van de zonen nam het bedrijf van de buurmans buurman over. Een al eeuwen bestaand familiebedrijf wordt zo nog een generatie in leven gehouden.
In de melkveehouderij zijn methodes ontwikkeld voor embryoseksen, een techniek waarmee bepaald kan worden of een koekalf of een stierkalf wordt ‘geproduceerd’. Onze buurman wilde er niet aan. Hij liet de natuur wat dat betreft op zijn beloop: de kansen op koe of stier zijn ongeveer gelijk. Zoals bij mensen.
Ik denk dat onze buurman ook geen gebruik zou hebben gemaakt van de nieuwste sex selectie technologie voor mensen, een techniek die vanwege medische redenen (sommige erfelijke ‘afwijkingen’ zijn sexe-gebonden), wenselijk wordt gevonden. Olya Kudina die onderzoek doet naar de interactie tussen morele vragen en technologie (“how technologies mediate values” heet dat in het techniek-als-mediatie-jargon”), onderzocht hoe in Nederland over deze technologie in ontwikkeling gedacht wordt. Nieuwe reproductietechnieken “herdefiniëren niet alleen wat het betekent mens te zijn, ze bemoedigen ook nieuwe normatieve verwachtingen met betrekking tot rechten en vrijheden als het gaat om de voortplanting.” (Kudina 2019, p.16. mijn vertaling). Kudina interviewde verschillende mensen en vroeg hen wat ze dachten van het gebruik van deze techniek voor niet-medische toepassingen.
Het volgende fragment is uit een interview dat Olya Kudina had met Melanie.
Olya Kudina: This possibillity, the sex selection for non-medical reasons, what do you think about it? Melanie: Ik vind het echt heel lastig. Olya: Why? Melanie: Omdat je dan, je past gewoon de hele natuur aan. Je bent de natuur aan het verwerken op iets wat zomaar een geschenk is waar niemand echt goed kan verklaren hoe en waar het van komt. Het is een wonder van de natuur, en als je dat gaat aanpakken. Ik vind het al raar dat er dingen groeien die wij aangepakt hebben en dat we alles perfect en lekker maken, dat we tomaatjes die net wat zoeter, net wat ronder zijn kunnen maken. Maar om dan nu ook je kind zo kunstmatig aan te passen, dat vind ik wel hard. (bron: Olya Kudina, 2019, voetnoot 17 op pagina 209)
Melanie verwijst naar het genetisch manipuleren ten behoeve van de veredeling van planten en het aantrekkelijker maken van voedsel. Actiegroepen tegen deze vorm van technologie, zoals de Ziedende Bintjes die proefveldjes van de Landbouwhogeschool te Wageningen onklaar maakten, behoren tot het verleden. (zie ook mijn stukje Hoe ontwerp je je eigen baby? Spelend met ons DNA de grens over.) Maar ‘sleutelen aan het DNA’ blijft een precair onderwerp.
Toen de corona-pandemie vroeg om snelle ontwikkeling van een op DNA technologie gebaseerd vaccin werd in een mum van tijd de Europese Wetgeving Genetisch Gemodificeerde Organismen, die deze vorm van technologie aan morele banden moet leggen, aangepast. Onder druk worden ook schijnbaar harde morele normen vloeibaar.
Voor de melkveehouder is het economisch belang van het bepalen van het geslacht van het kalf duidelijk: hij heeft een voorkeur voor een koe boven een stier. Voor de keuze van het geslacht van een mensenkind ligt dat anders. Waarom zou je het geslacht van je kind willen bepalen? Omdat in een bepaalde cultuur een vrouw meer waarde heeft dan een man? Bijvoorbeeld omdat ze voor de ouders kan zorgen? Of andersom? In de moderne samenleving is het geslacht niet van doorslaggevend belang meer voor de kansen en mogelijkheden die het kind heeft. Ook een dochter kan boerin worden en de boerderij overnemen.
Kudina wijst op het verschil tussen het biologisch bepaalde ‘sex’ en het cultureel bepaalde ‘gender’. (Wie een proeve wil lezen over welk een onzin er wordt verkondigd over de verschillen tussen het mannelijke en het vrouwelijke en de aard van de vrouw, die leze bijvoorbeeld “Geschlecht und Charakter” (1903) van het Weense ‘genie’ Otto Weininger.)
Anderzijds, zodra de technische mogelijkheid er is, zullen de valide geachte economische, niet per se medische, redenen voor het bepalen van het geslacht van het kind er vroeg of laat ook wel komen. De door Kudina geinterviewde mensen zijn vrijwel allen ‘liberaal’ en van mening dat je dit niet moet verbieden, hoewel ze er zelf geen gebruik van zouden maken. Waarom niet? Omdat je als mens niet alles moet willen bepalen. Maar waarom niet?
Kennelijk heeft de mens er moeite mee zich nieuwe technische mogelijkheden moreel toe te eigenen. Omdat we de neiging hebben het ontvankelijke element van de techniek te vergeten? Alsof techniek iets tegennatuurlijks is. Het vermogen van mensen om nieuwe technieken te ontwikkelen is niet minder natuurlijk dan het verwekken van kinderen.
Er wordt door moderne techniekfilosofen zoals Kudina veel, soms experimenteel, onderzoek gedaan naar de interactie tussen hoe we over morele kwesties denken en hoe we zin geven aan het leven enerzijds en het proces van gewenning aan en het ontwerp van nieuwe technologie anderzijds. Tegenover de onveranderlijkheid van de echte waarden in een mensenleven blijkt de technologie hoe intelligent en ingrijpend ze ook de dagelijkse praktijk lijkt te bepalen, een tamelijk oppervlakkig en onbetekenend verschijnsel.
En de koe? Die vindt het wel best. Als het gras maar groen en mals is zal het haar worst wezen. Wat een leventje!
Noot:
Kudina introduceerde de notie van ‘technologische appropriatie’ in haar proefschrift. In een recenter artikel over digitale assistentes, zoals Siri en Alexis, beschrijft ze dit begrip.
“I introduce the concept of appropriation in the philosophical domain, defining it as a projective and practical dimension of human interpretation that allows us to make technologies our own by attributing them with meaning and continuously revising it. During appropriation, people interpret a (new) technology and integrate it into the existing frameworks of understanding, necessarily updating them. The process of appropriation thus resembles the mutually informing symbolic, cognitive and practical activities. It is an intentional activity of relating to technologies during which moral concerns and perceptions manifest themselves and existing normative ideas can undergo re-articulation and change.” (Kudina 2021).
Naschrift (oktober 2022)
Koeien produceren niet alleen melk, maar ook mest, stront. Nederland heeft een stikstofoverschot waardoor de natuur wegkwijnt. De overheid is door Europa andermaal op de vingers getikt dat er iets moet gebeuren aan het mestoverschot. Een rapport van bemiddelaar Remkes (‘Wat wel kan’) stelt dat voor 2030 500-600 ‘piekbelastende’ boeren moeten stoppen. De boeren staan op hun achterste benen. De RABO-bank (de vroegere boerenleenbank) speelde een grote rol bij de investering in dure melkrobots. Boeren voelden zich min of meer voor het blok gezet door de bank om te investeren in nieuwe technologie om voldoende te kunnen blijven produceren in tijden waarin de winstmarge op de melk voor de boer steeds kleiner werd. Er kwamen minder boerenbedrijven maar meer koeien. Er kwam meer melk, meer mest. Minder natuur. Nu staan er caravans in de grote schuur van de buurman. Het aantal caravans groeit in Nederland. De mensen willen de natuur in. Weg van de computers en de robots. Of is een melkrobot ook natuur?
Bronnen
Holloway L, Bear C. (2017). Bovine and human becomings in histories of dairy technologies: robotic milking systems and remaking animal and human subjectivity. BJHS Themes. 2017;2:215-234. doi:10.1017/bjt.2017.2
Dit artikel beschrijft de ontwikkeling van de melkrobot als voortzetting van een al langlopend proces van veranderingen in het gebruik van melktechnologieën.
“As milking practices have changed from hand to different kinds of machine milking, what it is to be human and bovine have changed, human–cow-relationships have changed, and understandings of bovine health and welfare have changed.”
In de jaren 80 begonnen in de UK en Nederland agro-wetenschappers met onderzoek naar de ontwikkeling van melkrobots. Daarbij werd voorgebouwd op industriële robot-technologie, laser technologie en koe-herkenningstechnologie. De eerste commerciële melkrobots werden operationeel in Nederlandse melkveebedrijven in 1992.
“… from an interview with a Dutch scientist involved in conducting AMS research in the 1980 give a sense of how the science of cow behaviour fed into the development of AMS technology:
the first experiment we did was so the cows used the cubicle houses, free stalls with cubicles. In the stalls there were these feeding stations for concentrate and the first experiment we did was adding a milking machine to the concentrate feeding station, askedsome students from agriculture highschool to be there twenty-four hours a day and they attached the milking machine when the cows came for eating the concentrate, so that was the beginning and the students were the robots, but that gave us already a lot of information of how often do the cows come and how does it work, …”
Over de gevolgen van de robot op de kudde:
“Any robotic system the cows are left to their own devices. They do what they want…the cow takes control of her own destiny.”
“They’re individuals, not a herd anymore, that’s the difference of milking in this system…it breaks up the herd instinct, I think.”
Over de verandering in de mind-set van de boer.
“I always think the successful robot people have got a slightly different mindset because they’re in to technology and they’re into computers…but I’m not one of these people that can sit and go through pages on a computer. I’d rather we were doing something else…”
Je zou misschien denken dat er minder contact is tussen mens en koe nu de koe automatisch gemolken wordt.
“Well, we find it’s exactly the opposite because we’re out now in the shed and we’re seeing the whole cow, not just that little triangle that you see in the milking parlour. I tend to think that we know the cows a lot better than we ever knew them before when we were in the milking parlour.”
Olya Kudina (2019). The technological mediaton of reality – value dynamism and the complex interaction between ethics and technology. Dissertation University of Twente, 2019.
Olya Kudina (2021). “Alexa, who am I?”: Voice Assistants and Hermeneutic Lemniscate as the Technologically Mediated Sense Making. In: Human Studies, published online Feb 2021.
Langdon Winner (1980). Do Artifacts have Politics? In: Daedalus, Vol 109, Nr. 1. pp.121-136.
Dit is een veel geciteerd artikel in kringen van postfenomenologen, (D. Ihde), die geïnteresseerd zijn in politieke aspecten van technologie (zie bijvoorbeeld P.P. Verbeek, Politicial Hermeneutics). De casus van de melkrobotisering is vergelijkbaar met het door Winner genoemde voorbeeld van de introductie van de tomaten-oogst-machines in de VS. In Het Kapitaal besteedt Karl Marx veel aandacht aan de politiek-economische en sociale effecten van de invoering van de spinmachines. Winner merkt overigens op dat het achterstellen van bijvoorbeeld gehandicapten door de introductie van nieuwe technologie vaker het gevolg is van het niet aandacht hebben voor de achtergestelde groep dan dat het bewust gebeurt.
In de serie Denken in Tijden van Corona gaat het deze keer over informatie en onze persoonlijke identiteit
“We must be able to express a thought without affirming that it is true.”
(Gottlob Frege, Begriffschrift, 1879)
Naschrift dd. 18-04-2020: ter verzoening
De toeslagenaffaire heeft niet alleen mensen aan het denken gezet, het heeft ook veel kwaad bloed gezet. Dit kwade bloed heeft er toe geleid dat ambtenaren van de Belastingdienst persoonlijk benaderd en belaagd werden. Dit is een kwalijke zaak. Maar het is begrijpelijk. Het is begrijpelijk omdat we niet anders kunnen dan denken dat het uiteindelijk individuen zijn en niet machines of systemen die de dienst uitmaken, de brief versturen waarin staat dat je teveel ontvangen toeslagen moet terugbetalen. De vraag die Chris van Dam, de voorzitter van de kamercommissie die onderzoek deed naar de affaire, stelde was wie er nu verantwoordelijk is voor de ellende die de burgers is aangedaan. Iedereen en niemand, is het antwoord.
Hoe zijn we hierin verzeild geraakt? In een wereld waarin verantwoordelijkheid een formaliteit van een minister is die niet weet wat er onder zijn of haar verantwoordelijkheid gebeurt. In een wereld waarin de uitvoerende ambtenaren hun taken uitvoeren met de enige verantwoordelijkheid dit volgens de regels te doen. In een wereld waarin documenten en memos van vergaderingen de echte werkelijkheid verhullen en waarin de computer volgens algoritmes, die zo complex zijn dat alleen de computer er nog mee kan werken, de te nemen beslissingen over de burger uitspuwen, als een eindoordeel.
Dit stuk is een poging tot verzoening. De beide figuren in dit verhaal, Saul, huisvader en slachtoffer van de toeslagenaffaire, en Kripke, die bij de afdeling toeslagen werkt, blijken één en dezelfde persoon te zijn. Zoals de Morgenster en de Avondster dezelfde planeet Venus bleken te zijn.
Dat de keuze voor deze twee namen niet toevallig is, dat zal in het vervolg wel duidelijk worden. Er zit meer achter een Burger Service Nummer dan wij denken.
De Interface en de Spiegel
[In verband met de bescherming van de privacy van betrokken personen zijn de namen in dit verhaal niet de namen van de echte personen.Iedere gelijkenis met echte personen is voor rekening van de lezer.]
Kripke werkt bij de Belastingdienst, afdeling toeslagen. Hij doet aan fraude-detectie in opdracht van Het Ministerie. Fraudeopsporing werd hot, nadat bleek dat honderden Bulgaren in Bulgarije via valse namen, adressen en bankpassen toeslagen ontvingen van de Nederlandse overheid. Als we hem vragen wat hij daar de hele dag doet antwoordt hij: ik kijk naar een beeldscherm. Iedereen hier op de afdeling kijkt naar beeldschermen. Ja, maar…wat doe je dan, vragen we. Ik kijk of er bijzonderheden zijn die opgemerkt moeten worden. Het eigenlijke werk doet de computer. Daarin werken algoritmes die gegevens verwerken. Je houdt dit niet lang vol, omdat je alleen vakjes met cijfertjes ziet en wat velden die wel of niet getagged zijn. Zo is er een vakje voor “fraude”. Het is slaapverwekkend. U weet dat het over mensen gaat? Ja, maar die zie je niet. Daar zorgt de afdeling Interface voor. In verband met de privacy codeert de afdeling Interface alle inkomende informatie. Die koppelt alle gegevens aan een uniek persoonsnummer, het burger service nummer. Dat is wat ik zie: nummers met velden met woorden en vinkjes. De mens, het Ding an sich zie ik niet, dat blijft verborgen.
Saul is werkende huisvader. Hij heeft twee kinderen. Toen ze nog jong waren bracht hij beide kinderen ‘s ochtends voor het werk naar de dagopvang. s’ Middags haalde hij ze weer op. Hij kreeg een vergoeding, een kinderopvangtoeslag van de overheid. Dat maakte het mogelijk om te blijven werken toen zijn vrouw overleed en hij alleen de zorg voor de kinderen had. Op een dag, nu drie jaar geleden, kreeg hij een brief van de afdeling Toeslagen. Het kwam er op neer dat hij “ten onrechte” al die jaren een uitkering had gekregen voor de dagopvang. Hij kreeg een terugvordering van 10.750,23 euro. Te betalen binnen 30 dagen. Toen hij de schrik te boven was pakte hij de telefoon. Na diverse pogingen met vaak lange vergeefse wachttijden kreeg hij eindelijk iemand aan de lijn. Hij zou worden teruggebeld door de betreffende afdeling. Op zijn vraag wie de ambtenaar was die zijn dossier behandelde kreeg hij als antwoord dat ze die informatie niet verstrekten. Dit om de privacy van de medewerkers te beschermen. Ze hadden ervaring met burgers die ambtenaren thuis lastig vielen. Om een lang verhaal kort te maken: het bleek niet mogelijk om iemand aan de lijn te krijgen die bekend was met zijn dossier. Het werk is opgedeeld en verdeeld over deeltijdwerkers. Hij kon een bezwaarbrief schrijven. Dat deed hij. Maar er kwam geen reactie. Hij had de brief net zo goed in een reet van de vloer kunnen doen als in de brievenbus. Ondertussen stond hij bekend als fraudeur. En daar was moeilijk van af te komen.
Eerste Gesprek
Saul: “Waarom moet ik alles terugbetalen?
Ambtenaar: “Omdat u fraudeur bent.”
Saul: “Ik ben geen fraudeur”
Ambtenaar: “U liegt”.
Saul: “Ik lieg niet”.
Ambtenaar: “Dat zeggen alle fraudeurs, omdat ze fraudeur zijn. Als u zou zeggen ‘ik lieg’ dan zou ik u geloven. Nu niet. De computer zegt namelijk dat u fraudeert. Dus bent u een fraudeur. Dat is logisch.
Saul: “Ja, maar…”
Ambtenaar: “Dag meneer, een fijne dag nog.”
Het parlementaire onderzoek
Jaren later kwam er een onderzoekcommissie met een rapport waaruit bleek dat er iets mis was met het systeem. Tweede Kamerlid Pieter Omtzigt meende: “we zijn vergeten iets in het systeem in te bouwen: misschien een ziel.” Saul en met hem vele anderen waren slachtoffer van “een systeemfout”. Men zocht verantwoordelijkheid, maar vond hem niet. Niemand was schuldig. En iedereen was schuldig. Saul legde zich er niet bij neer. Ook niet toen de Minister beloofde dat hij het bedrag met rente terug zou krijgen. Hij vroeg met een aantal medeslachtoffers een gesprek aan met de betreffende ambtenaren. Dat moest vanwege corona via een online meeting.
Kripke kreeg van zijn chef te horen dat hij uitgenodigd werd voor een online meeting met een paar slachtoffers van de toeslagenaffaire. Ze wilden de mensen die hun dit onrecht hadden aangedaan in de ogen kijken. Toen de meeting plaats vond zag hij in het raster met beelden van deelnemers iemand die erg veel op hem leek. Hij heette Saul. Het leek alsof hij in een spiegel keek. Het zelfde overkwam Saul. Hij meende in de ambtenaar die Kripke heette zich zelf te herkennen.
De reflectie
Het verstand, wat volgens Descartes het best verdeelde goed ter wereld is, heeft de onbeheersbare neiging tot onderscheiden, opdelen, en indelen. Het denkende ik tegenover de uitwendige werkelijkheid. De woorden tegenover de spreker en de betekenis. Zo tracht het de werkelijkheid te beheersen. Maar de ambtenaar is niet alleen maar ambtenaar. Hij is soms ook huisvader. Bij de politie blijken soms ook oplichters en hooligans te werken. Niemand gaat op in de sociale rollen die hij speelt. Het verstand deelt ons leven op in privé en publiek, in ik en de anderen (en “l’enfer c’est les autres”), in wij en zij. De mens objectiveert de onderscheiden aspecten: Saul en Kripke.
Bij de presentatie van het rapport van de onderzoekcommissie kinderopvangtoeslag riep de voorzitter Chris van Dam de betrokkenen op te reflecteren op hun rol in deze affaire. Reflecteren is iets anders dan in de spiegel kijken. Als je in de spiegel kijkt zie je jezelf van buiten. Reflecteren is van binnenuit naar je zelf kijken. Aangezien onze sociale rollen evenals ons werk in verschillende organisatie zelf al het resultaat zijn van een verstandsreflectie moeten wij Van Dam’s oproep tot reflectie opvatten als een reflectie op de verstandsreflectie. Dat is geen gemakkelijke opgave. Bovendien is het niet erg populair. Want is het niet zo dat een verbod op reflectie ons uit de crisis in de wetenschappen, die zich aan het begin van de vorige eeuw voltrok, moest helpen?
En heeft dat niet uiteindelijk geleid tot de informatisering van de moderne mens en de westerse samenleving? In een tijd waarin alles om informatie, informatie-voorziening, informatieverwerking en privacy gaat moeten de problemen wel haast te maken hebben met die informatisering. Maar wat is informatie eigenlijk? Wat houdt die informatisering in? Is de mens een informatieverwerkend systeem? Waarom kon de commissie van Van Dam geen verantwoordelijken vinden? Waar is het verantwoordelijke individu dat opgelost schijnt te zijn in objectieve wetenschap en rekenende en steeds autonomer werkende computersystemen?
Wat is informatie?
De eerste vraag op het lijstje van open problemen rondom het begrip informatie van de Italiaanse filosoof Luciano Floridi is: wat is informatie? Het is een filosofische vraag.
Marcello D’Agostino (2016) stelde een voorlopig antwoord voor op de vraag van Floridi: informatie is dat wat zich aandient als antwoord op een vraag. Als voorbeeld van de soort vragen die hij bedoelt geeft hij: Wat is het telefoonnummer van Luciano Floridi?
Sommige vragen lijken buiten het bereik van D’Agostino’s definitie te vallen. Dat zijn de filosofische vragen, zoals “wat is informatie?”. Ook andere vragen die om de betekenis van een begrip vragen lijken er buiten te vallen. Hoewel er veel voor te zeggen is dat een vraag naar de betekenis van een woord, een vraag waarvan het antwoord op het internet, of een woordenboek wordt gezocht, weer wel een informatie-vraag is. De vraag: “Hou je nog een beetje van me?” lijkt me ook geen informatie-vraag. Tenzij deze vraag beantwoord kan worden door een meting. Maar gek genoeg is daar nog geen meetinstrument voor.
De vraag op welke politieke partij Luciano Floridi stemt is weliswaar een informatievraag, maar niet een vraag die in alle omstandigheden gesteld kan worden. Zo’n vraag zou wel eens door de geadresseerde als een ongepaste vraag kunnen worden opgevat. Ook het afwerende antwoord: “dat gaat u niets aan!” geeft in zekere zin informatie aan de vragensteller. Maar dan is ook een antwoord als: “dat weet ik niet”, of “daar moet ik over nadenken” op de vraag “wat is informatie?”, of op de vraag “wat is een getal?” weer wél een informatie-vraag. Het verschil met de ‘echte’ informatie-vragen is dat deze (echte vragen) een antwoord verwachten dat door de vraag bedoeld wordt. De vraag : “hoe laat is het?” vraagt om een tijd en de vraag “hoe oud bent u?” om een leeftijd. Het is niet de bedoeling van de vraag dat deze beantwoord wordt met : “ik weet het niet”, of: “dat is privé.”
Een informatievraag is een meting. Zo’n vraag bepaalt namelijk wat de mogelijke door de vragensteller beoogde antwoorden zijn. Een ja/nee-vraag vraagt om een ja of een nee als antwoord. In het algemeen wordt bij een meting iets in de werkelijkheid vergeleken met een maat-eenheid, iets ideëels. Sociale wetenschappers (denk aan interviews en enquetes) en overheidsinstanties (vragenformulieren) gebruiken vragenlijsten om de bevraagde te meten: om eigenschappen van hem te weten te komen als antwoord op vooraf gestelde vragen.
Informatievragen zijn de vragen waar Wittgenstein het over heeft in zijn Tractatus wanneer hij stelt:
“Wenn sich eine Frage überhaupt stellen lässt, so kann sie auch beantwortet werden” (Tractatus, 6.5)
Filosofische vragen kunnen dan ook volgens Wittgenstein niet gesteld worden. Hij vond de taal daarvoor niet geschikt. De taal is alleen geschikt om feitelijke vragen in te stellen en te beantwoorden.
Een eis die we aan een vraag om informatie stellen is dat deze door de geadresseerde begrepen wordt zoals deze door de vragensteller bedoeld is. In de eerste plaats moet de vraag grammaticaal ondubbelzinnig zijn. In het belastingformulier van 2013 stond de volgende vraag
“Had u recht op een uitkering of op ondersteuning bij het zoeken van werk in het kader van de wet Wajong?”
Twee jaar na het invullen van het formulier kreeg schrijver dezes een navordering plus boete. Bij navraag bleek hij de vraag anders geïnterpreteerd te hebben dan de Belastingdienst bedoeld had. Het kostte hem veel moeite de ambtenaar ervan te overtuigen dat er meerdere lezingen mogelijk zijn. Taalkundigen spreken van een PP-attachment probleem: de propositionele frase “in het kader van de wet Wajong” kan zowel bij “uitkering” als bij “ondersteuning bij het zoeken van werk” horen. De ambtenaar verdedigde de Staat ten slotte met de opmerking dat ik “het moest lezen zoals bedoeld werd“. “De burger wordt geacht de wet te kennen.” Einde gesprek.
Zo’n dialoog betreft de interface tussen het systeem en de ‘gebruiker’, de burger. De wet waarnaar de ambtenaar verwijst is onderdeel van het contract van de interface. We zijn hier gekomen bij een kernprobleem van de informatica. Hoe we de betekenis van de taal kunnen vastleggen zodat communicatie mogelijk is.
Wat is Saul Kripke’s BSN?
Stel dat ik u deze vraag stel. Dat doe ik niet (het is maar een titel) maar stel het geval dat. Het zou mij niet verbazen wanneer dit de volgende wedervraag oproept. Wie is Saul Kripke?
Terzijde: houden we even vast dat we kennelijk een onderscheid maken tussen een vraag en het stellen van een vraag. In het algemeen: tussen een zin en het uiten of gebruik van de zin. Dit onderscheid is de spil in het denken van de wiskundige en logicus Gottlob Frege (1848-1925), één van de belangrijkste filosofen van eind 19de eeuw. In zijn Begriffschrift, dat gezien wordt als het begin van de mathematische logica legt hij de basis voor een logische analyse van de taal ten behoeve van het vastleggen van de logisch betekenis. In een voetnoot schrijft hij:
“We must be able to express a thought without affirming that it is true.”
Het onderscheid wordt uitgebuit in de taaltechnologie, in sprekende machines, door mensen die niet de waarheid spreken en zou tot allerlei problemen en paradoxen leiden. Ludwig Wittgenstein, opvolger en criticus van Frege, probeerde deze te omzeilen door een verbod op de zelfreflectie uit te vaardigen. Het begin van een nieuwe ethiek en een nieuw privacy-begrip. Daarover later meer. Einde terzijde.
Saul Kripke is een Amerikaans filosoof en logicus die veel nagedacht heeft over wat betekenen betekent (de semantiek van taal) en over hoe we moeten denken (logica), met name over wat ‘mogelijk’ en wat ‘noodzakelijk’ is. Ik ken hem niet, maar er is wel veel informatie over hem te vinden, onder andere op wikipedia, waar ik onderstaande foto vond. De man op de foto zou Saul Kripke kunnen zijn.
Ik denk dat kennen iets anders is dan informatie hebben. En dat geldt vooral als het over personen (individuen) gaat. Kunstmatige intelligentie en media-technologie (denk aan sprekende robots, deepfake en virtual reality) wijzen ons er steeds vaker op dat we onderscheid moeten maken tussen het beeld, de stem, het gezicht of de naam van iemand en de persoon ‘er achter’. Tussen de wereld zoals die ons verschijnt en de werkelijke wereld (het ‘Ding an sich‘ van Kant, waar de ambtenaar Kripke het over had).
De semanticus Kripke is bekend vanwege zijn theorie over namen, eigennamen en andere manieren om met name personen te beschrijven. Zijn theorie geeft antwoord op de vraag hoe we de relatie tussen personen en de wijze waarop ze benoemd en beschreven worden moeten denken. Een vraag die daarmee samen gaat is: Kunnen we de identiteit van een persoon kennen? Of blijft de echte persoon voor ons verborgen?
Dit is een afbeelding van Saul Kripke
Mogelijke werelden
Van Kripke is de term “possible worlds semantics”, waarmee een betekenistheorie wordt aangeduid waarin de idee van ‘mogelijke werelden’ centraal staat. Dit idee komt van Leibniz, in zekere zin een voorloper van Frege. Leibniz onderscheidde contingente of feitelijke waarheden die opgaan in ‘onze’, de feitelijke wereld en rationele of logisch noodzakelijke waarheden die opgaan in alle mogelijke werelden die God had kunnen scheppen. Omdat God het beste met de mens voor heeft leefden we volgens Leibniz, in weerwil van allerlei rampen zoals de rampen in Lissabon in 1755, in de beste van alle mogelijke werelden. Vermoedelijk zei hij dit om de kerk te vriend te houden.
Hebben wij kennis van noodzakelijkheden? Of kunnen we alles betwijfelen? Hoe kunnen we verantwoorden wat we denken en zeggen?
Het sneeuwt
Ik loop door de sneeuw. De harde wind prikt de sneeuwvlokken als spelden in mijn gezicht. Het sneeuwt. Je zou kunnen zeggen dat mijn waarneming een direct gevolg is van het sneeuwen. Het is geen noodzakelijk gevolg ervan: ik weet dat ik het ook níet had kunnen waarnemen, terwijl het wel sneeuwt. Oorzaak (dat het sneeuwt) en gevolg (mijn waarneming dat het sneeuwt) zijn qua inhoud identiek. Dat ik het opmerk is omdat het kennelijk iets opmerkelijks is dat het sneeuwt. Ik voel het en zie het. Als er zekerheid bestaat dan is het hier in de beleving en de onmiddellijke waarneming. Als ik dit betwijfel dan ontken ik mezelf. Het is onmogelijk dat het niet sneeuwt. Als het sneeuwt sneeuwt het noodzakelijk .
Het formuleren en eventueel uitspreken van de oordeelszin “het sneeuwt” is nog weer onderscheiden van de waarneming. Dat gebeurt pas wanneer ik iemand (eventueel mijzelf) dit feit wil mededelen. Het vereist een aparte motivatie. Bijvoorbeeld als ik antwoord geef op de vraag wat voor weer het is. De waarheid van deze zin is een ‘afgeleide’ van de directe waarneming van de toestand in de wereld, zoals ik die beleef.
Een waarneming kan zoals bekend misleidend zijn. We kunnen ons vergissen. Zo kan ik denken dat het sneeuwt op grond van een waarneming die ik op grond van eerdere ervaringen associeer met het verschijnsel sneeuwen (Sinds David Hume weten we hoe dit werkt.) Zo kan het geluid van auto’s die door de straat rijden mij vertellen dat het gesneeuwd heeft. Hier is sprake van een conclusie en niet van een directe waarneming van het verschijnsel het sneeuwt. Het geluid is een teken dat niet veroorzaakt is door de sneeuw, maar dat voor mij de oorzaak is te denken dat het sneeuwt.
De zin “het sneeuwt” uitgesproken door een subject is noodzakelijk waar in zoverre deze uitdrukking is van de directe waarneming door het subject van een toestand waarin het sneeuwt. Deze toestand is gegeven. Het subject toont zich in de waarneming ontvankelijk voor het gegeven. Het subject kan verantwoorden wat hij zegt omdat en in zoverre hij in het oordeel zélf aanwezig is. Hij kan de waarheid niet ontkennen zonder zich zelf buiten spel te zetten. Dit aanwezig zijn en zich presenteren in een taalhandeling maakt de taalhandeling pas valide (‘honest’). Dat geldt niet alleen voor de zogenaamde performatieve daden (Austin), zoals wanneer we iets beloven door te zeggen “ik beloof …”, maar voor alle taalhandelingen (zie Harm Boukema,1980).
Rond de eeuwwisseling naar de 20ste eeuw verkeerde de westerse samenleving in een identiteitscrisis. Het contact met de werkelijkheid was verloren gegaan. De wetenschap, dat is de fysica, had er toe geleid dat niemand nog iets zeker wist.
“Anyone maintaining at the turn of the century that the notions ‘red’ and ‘hard’ (or more abstractly ‘material object’) were reasonably clear notions, that we see red things and see that they are red, and that of course we know what a red object is, etc., would have seemed unutterably foolish.”.
Zo kenmerkt Hilary Putnam de vertwijfeling rond de eeuwwisseling die aanleiding was tot de zoektocht naar nieuwe zekerheid. (Putnam, Mathematics without foundations, 1967). Ook de wiskundige Frege zocht grond onder voeten van de wiskunde. Hij vond het schandalig dat iedereen het maar over getallen had, maar dat niemand in staat was een goede definitie ervan te geven. Hij wil de wiskunde op de logica grondvesten.
Frege is in zijn Begriffschrift alleen geïnteresseerd in bewerende zinnen, zoals “het sneeuwt” of “deze rood is rood”. Hij wil de logische inhoud van de taal isoleren van alle andere aspecten, zoals de psychologische, de talige. Die logische inhoud noemt hij de propositie. Anders dan klassiekers zoals Aristoteles is hij ook niet geïnteresseerd in modale zinnen zoals : “Jan is mogelijk ziek”. Of “Het is noodzakelijk dat 2+2 gelijk is aan 4″.
“Wanneer ik zeg dat een propositie noodzakelijk waar is, dan geef ik slechts een indruk van de reden voor mijn oordeel.” Het zegt niets over de logisch inhoud. Aldus Frege.
Om te bepalen of een zin waar is moet je weten waar de namen en beschrijvingen naar verwijzen. Zo is de zin:
“De voorzitter van de Raad van State is de Koning van Nederland”
alleen waar als de twee beschrijvende uitdrukkingen naar dezelfde persoon refereren. De grond voor de waarheid van deze gelijkheid hangt af van de interpretatie: is het bij wet zo geregeld en is de gelijkheid geldig wie de persoon ook is? Of is het een toevallige gelijkheid? Zoals in “De wiskundeleraar van Jan is Saul Kripke”?
“De man die Naming and Necessity schreef is de man op de foto in deze blog.” Deze uitspraak is waar. Beide beschrijvingen refereren naar de persoon Saul Kripke. Het is een aposteriori waarheid, gebaseerd op empirische kennis, of liever gezegd: op informatie over deze persoon.
De zin “De man die Naming and Necessity schreef is de man die Naming and Necessity schreef” is daarentegen een tautologie, een logische apriori waarheid. Frege noemde de betekenis van een uitdrukking de Sinn en de referent de Bedeutung, het object waarnaar de zin verwijst.
Apriori waarheden zijn noodzakelijk waar. Dat wil zeggen ze zijn in alle mogelijke werelden waar. Aposteriori waarheden zijn in sommige werelden waar, in andere niet. Kripke vond in tegenstelling tot Frege en Russell dat eigennamen niet noodzakelijk refereren aan de beschrijvingen van eigenschappen van de persoon waarnaar de naam verwijst. Saul Kripke had immers ook níet de auteur van Naming and Necessity kunnen zijn. Door middel van een beschrijving kun je een persoon nooit uniek identificeren. Daarvoor zijn te generiek. Er zijn veel meer personen die er aan voldoen of eraan zouden kunnen voldoen dan degene die bedoeld wordt.
Namen zijn starre verwijzers
In zijn Princeton-lectures Naming and Necessity voert Kripke het begrip “rigid designator” in (‘starre verwijzers’ heten ze in L.T.F.GAMUT). Hij definieert:
“Let’s call something a rigid designator if in any possible world it designates the same object, a non-rigid or accidental designator if that is not the case.”
Bedoelt Kripke dat een rigid designator een teken is dat noodzakelijk verbonden is met de referent? Dat zou vreemd zijn, want hij stelt als “one of my intuitive theses in my talk I stipulate that proper names are rigid designators” terwijl er toch meer mensen zijn die ‘Aristoteles’ heten.
Waar Kripke op wijst is dat een verwijzing door middel van een begripsinhoud, zoals de “president van de U.S.A.” of “de auteur van Hamlet”, nooit een particulier object of een persoon kan aanduiden, vanwege het algemene karakter ervan, maar dat een eigennaam geen begripsinhoud aanduidt maar in het gebruik naar de bedoelde persoon wijst. Ook al zijn er meer hondjes die Fikkie heten, wanneer ik de naam Kripke gebruik refereer ik naar het unieke individu dat ik met de naam Kripke aanduidt. Als Hesperus en Phosphorus de zelfde ster aanduiden dan is dit in elke mogelijk wereld zo en noodzakelijk.
In “Het wiskundige teken” betoogt Louk Fleischhacker op (voor mij) overtuigende wijze dat er één objectiviteitsgebied is waar we tekens gebruiken als “rigid designators” in de zin van Kripke: bij het benoemen en uniek identificeren van mathematische objecten. Alleen daar is er een noodzakelijk en éénzinnig verband tussen de naam van een object en de individuele identiteit ervan. We gebruiken in de wiskunde tekens niet alleen om individuele objecten aan te duiden. Door de naam krijgen de objecten een individualiteit. Ze zijn niet als individu aanwezig voor ons zonder de naam die we er als identifier aan gegeven. Dit is noodzakelijk om wiskunde te bedrijven, om te kunnen rekenen en om stellingen te kunnen bewijzen, hetgeen een vorm van rekenen is. We hebben het over driehoek ABC, het getal pi, de verzameling A en de punten p en q. Willen we twee objecten van elkaar onderscheiden dan moeten we ze met verschillende tekens aanduiden. Anders konden we nooit zeggen dat ze gelijk waren. De individualiteit voegt niets toe aan de bepaaldheid, de eigenschappen, van het object. Die liggen volledig vast in de structurele relaties die het tot andere objecten heeft. Zo is de identiteit van een verzameling volledig bepaald door de elementen die het bevat en de relaties tot andere verzamelingen.
Het burger service nummer zoals dat functioneert in de administratie-systemen van de overheid is een “rigid designator”.
Het BSN is intern voor de administratie als een identifier in een wiskundig model.
In elk onderdeel van het systeem verwijst het naar de zelfde unieke persoon. Refereren als aanwijzen is een vorm van meten: dit is waarover het gaat als ik deze naam, dit nummer, gebruik. Het is de invariant van de datastructuren die de beschrijvingen bevatten waarin de informatie-eenheden, als antwoord op de vragen, over de persoon is vastgelegd. Deze wiskundige structuur bestaande uit attribuut-waarde-paren wordt gevoed door aan de persoon via vragen ‘gemeten’ eigenschappen. En door middel van eventueel op statistieken gebaseerde rekenmethodes (zogenaamde ‘algoritmes’) .
Terwijl de mathematisch fysici al in het zicht zijn gekomen van de grenzen van de mathematisering (zie de problematiek van het meten in de kwantummechanica en de discussie rond de interpretatie van de wiskundige Schrödingervergelijkingen) lijken de sociale wetenschappen nog steeds het wiskundig model als de ideale vorm van uitdrukking van kennis omtrent het gedrag en de eigenschappen van de mens te zien. Zowel de commercie die de burger zoveel mogelijk (privé) informatie ontlokt om via profilering deze op de maat te kunnen bedienen, als de instanties van de overheid maken gretig gebruik van de nieuwste “wetenschappelijke” modellen en algoritmes. Dat de individuele burger steeds meer problemen heeft zich te herkennen in deze modellen blijkt o.a. uit de recente toeslagenaffaire.
Laten we tot slot eens luisteren naar het vervolg van de dialoog tussen de twee karakters Saul en Kripke.
Tweede Gesprek
Saul: Ik wil nog even terugkomen op het eerste gesprek.
Kripke: Zegt u het eens.
Saul: Daarin noemde u mij een fraudeur.
Kripke: Zoals ik u eerder ook zei: ik ben het niet die dat zegt. De computer zegt het. Iedere collega van mij zou hetzelfde zeggen. U moet het ook niet persoonlijk opvatten. Ik zou hetzelfde zeggen als u een ander was geweest.
Saul: Het is uw computer die onwaarheden verkondigt. Doe daar wat aan.
Kripke: Mag ik u vragen? Wie heeft uw formulieren ingevuld?
Saul: Ik zelf. Op mijn computer.
Kripke: Juist, op de computer. En na het intoetsen van de gegevens hebt u de vraag gekregen of u de vragen naar waarheid hebt beantwoord. Hoe heeft u die vraag beantwoord?
Saul: Met ja natuurlijk. Hoe kan ik anders? Of moet ik bij alles wat ik zeg, zeggen dat het waar is? Dan kan ik wel aan de gang blijven!
Kripke: U heeft daar een punt. Het is vanzelfsprekend. Maar ik heb het vragenformulier niet gemaakt. Goed, dus u antwoordde: ja. En toen?
Saul: Toen heb ik op verzenden gedrukt.
Kripke: Juist. En daarmee hebt u onze computer aan het werk gezet. Een proces dat uiteindelijk leidde tot het bericht in uw mailbox dat u moet terugbetalen. Uitleg: fraude. Ik kan niet anders concluderen dan dat u dus zelf dit bericht hebt veroorzaakt. Het systeem laat u zien wat de door u zelf ingevulde gegevens betekenen. Uw computer houdt u dus feitelijk een spiegel voor. Het toont wat u zelf doet.
Saul: U zegt dus dat ik verantwoordelijk ben.
Kripke: Daar komt het wel op neer, ja. De computer rekent alleen. Die maakt geen fouten.
Saul: Maar ik kan mij toch vergist hebben bij het invullen van het formulier!
Kripke: U bedoelt dat u iets anders had moeten zeggen dan wat u feitelijk gezegd hebt?
Saul: Ja.
Kripke: Maar hoe kan ons systeem nu iets anders doen dan reageren op wat u zegt? Ik kan niet in uw hoofd kijken om te zien wat u werkelijk bedoelde of had moeten zeggen. Ik werk bij de belastingdienst. Ik ben geen psycholoog of predikant!
Saul: Maar u, of uw systeem, noemt mij wel een ‘fraudeur’. Dat is nogal een oordeel!
Kripke: U hebt gelijk. U zou dat ook niet zo moeten opvatten. Het is de afdeling Interface die de interne systeemcodes omzet in voor de mensen gewone mensentaal. Het komt erop neer dat er een inconsistentie is in de informatie die u in het systeem hebt ingevoerd. Computers kunnen er nu eenmaal niet tegen dat iemand tegenstrijdige informatie invoert. Ze gaan er vanuit dat de feiten kloppen.
Saul: Zoals ik al zei. Ik heb me misschien ergens vergist.
Kripke: Zoals ik al zei. Wij moeten u op uw woord geloven. Anders hebben we niet. Ik ben geen psychiater.
Saul: Maar u bent wel gek.
Kripke: Dat zijn uw woorden. Een fijne dag nog.
Stellingen
Het Burger Service Nummer functioneert in onze informatiesystemen als een “rigid designator” in de zin van Kripke en implementeert de idee dat de persoonlijke identiteit van de burger door het systeem als de identiteit van een mathematisch object wordt opgevat.
The various systems of mathematical philosophy, without exception, need not be taken seriously. (Hilary Putnam, Mathematics without foundations, Journal of Philosophy 64 (1967) : 5-22)
Paradoxen zoals die van Russell en Grelling vinden hun oorzaak in zelfreflectie. Ook de uitdrukking: “U kunt deze brief als niet verzonden beschouwen”, of “deze zin kunt u als niet gelezen beschouwen” vragen de lezer iets te doen wat hij niet kan doen als antwoord op de vraag en kunnen dus niet letterlijk genomen worden zonder paradoxaal te zijn.
De opvatting van de kansrekening als uitbreiding van de tweewaardige logica zoals we die bij Harold Jeffreys en E.T. Jaynes vinden waarin P(A|H) gezien wordt als extensie van de door Frege in zijn Begriffschrift geïntroduceerde Urteilsstrich |- berust op een verwarring van de begrippen empirisch noodzakelijk en logisch noodzakelijk. (zie H. Jeffreys, Theory of Probability, 1933) .
De bekende “Bar-Hillel–Carnap Paradox” (Bar-Hillel, 1964) is het gevolg van de idee dat ‘informational content’ van een contradictie maximaal is omdat deze alle mogelijke werelden voor onmogelijk houdt, hetgeen op zich al een tegenstrijdigheid inhoudt.
De identiteit van een reëel individu is voor ons onbegrijpelijk. (Louk Fleischhacker, Het wiskundig teken, In: Reflexiviteit en Metafysica, 1987)
De vraag onderaan een formulier of de vragen naar waarheid zijn ingevuld kan niet als een serieuze ja/nee vraag worden opgevat.
Mensen en machines verwerken beide informatie, maar ze verschillen in zijnswijze. (zie Maarten Coolen, De machine als werkend teken. In: Reflexiviteit en Metafysica, 1987)
De vraag van Luciano Floridi: “wat is informatie?” is geen informatie-vraag, noch een vraag die met het geven van een definitie bevredigend beantwoord kan worden.
Een zin kan onmogelijk van zichzelf zeggen dat deze waar is (Ludwig Wittgenstein, Tractatus Logico Philosophicus, 1922)
Wie een goed mens wil zijn moet zijn verstand gebruiken en wie zijn verstand goed gebruikt is een goed mens. Het primaire doel van het onderwijs is het ontwikkelen van de verstandelijke vermogens. De kennisinhoud is van secundair belang.
Op een computer kun je rekenen, maar je kunt er niet op vertrouwen.
Een feit is tegenwoordig geen feit als er geen feit op staat.
Ethiek en recht moet tegen de mathematisering in opkomen voor het individu dat dreigt verloren te gaan in de mechanisering van statistieken en informatie.
Bronnen
D’Agostino, Marcello 2016. The philosophy of mathematical information. In: Floridi (ed.) The Routledge Handbook of Philosophy of Information, 2016.
Austin, J.L., 1962. How to do things with words, the William James Lectures delivered at Harvard University in 1955. ed. by Urmson, J.O. and Sbisa, Marina, Oxford, 2e druk.
Austin, J.L. 1956. Performative utterances. In: Philosophical Papers, Third Edition, Edited by Urmson, J.O. and Warnock, G.J., Oxford University Press, 1979.
Boukema, Harm, 1987. Familiegelijkenissen – Wittgenstein als criticus en erfgenaam van Frege. Tijdschrift voor Filosofie, 49ste Jaarg., Nr. 1, Ludwig Wittgenstein (Maart 1987), pp. 42-70.
Boukema, Harm, 1987. Over de grenzen van de reflexiviteit. In: Reflexiviteit en Metafysica. Bijdragen aan het symposium bij het afscheid van prof. J.H.A. Hollak. (Redactie: Louk Fleischhacker). Filosofische Reeks Centrale Interfaculteit Universiteit van Amsterdam, nr. 20. 1987, pp. 6-19.
Boukema, Harm, 1980. Intentionele analyse van illocutioary acts. In: Filosofische Reeks nr. 6 – 1980. Filosofische lezingen gehouden op de Eerste Nederlandse Filosofiedag 15 september 1979, Universiteit van Amsterdam.
Boukema, Harm, 2010. Russell’s second paradox: A Dialectical Analysis of ‘On Denoting’, Proefschrift Universiteit Nijmegen, 2010.
Fleischhacker, Louk (red.) (1987). Reflexiviteit en Metafysica. Bundel artikelen uitgegeven naar aanleiding van het symposium bij het afscheid van Prof. Dr. J.H.A. Hollak als hoogleraar geschiedenis van de wijsbegeerte aan de universiteiten van Nijmegen en Amsterdam. Uitgeverij Eburon, Delft, 1987.
Fleischhacker, Louk E. (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.
“Saul Kripke introduces in his Naming and Necessity, the notion of ‘rigid designator’. He does not seem to notice, that the human practice of naming something in the world of experience excludes by its nature the existence of rigid designators, for this practice involves the fallibility of the identification of individuals. The only practice in which we do have rigid designators is in the naming of individual mathematical objects, for there we can have no doubt about the identity of an individual: we either postulate it to be absolutely the same as an individual mentioned before, or we postulate it to be another.” (p. 30, footnote 36)
Floridi, Luciano (ed.) (2016). The Routledge Handbook of the Philosophy of Information (2016).
Frege, Gottlob (1879). Begriffschrift, a formula language, modeled upon that of arithmetic, for pure thought. Engelse vertaling opgenomen in: Jean van Heijenoort, From Frege to Gödel, a source book in mathematical logic. Harvard University Press, Cambridge , Mass.(1967).
Frege, Gottlob (1986). The Foundations of Arithmetics: a logico-mathematical enquiry into the concept of number. English translation by J.L. Austin, 2nd revised edition. Basil Blackwell Oxford, 1986.
Frege, Gottlob (1882). Uber die wissenschaftliche Berechtigung einer Begriffschrift. Opgenomen in: Gottlob Frege: Funktion, Begriff, Bedeutung, Uitgave: Vandenhoeck & Ruprecht in Gottingen, pp. 91-97, 1975.
Frege, Gottlob, 1892, ‘Über Sinn und Bedeutung’, Zeitschrift für Philosophie und philosophische Kritik 100, pp. 25-50.
Gamut, L.T.F. 1982. Logica, taal en betekenis 2 – intensionele logica en logische grammatica. Aula paperback 77, Uitgeverij Het Spectrum, Utrecht/Antwerpen, 1982. Gamut staat voor Groningen, Amsterdam en Utrecht, de drie universiteitssteden van het auteurscollectief.
Jeffreys, Harold (1966). Theory of Probability. Oxford Classic Texts in the physical sciences, Clarendon Press, Oxford, 3rd edition, (2003).
Putnam, Hilary (1967). Mathematics without foundations. Reprinted in: Philosophy of Mathematics, selected readings, Paul Benacerraf and Hilary Putnam (eds), Cambridge University Press, Cambridge, 1982.
“The unspoken is present in all speech” (Louk Fleischhacker)
Inleiding
Zolang er mensen zijn die tellen, zolang zijn er telproblemen. Tellen is de meest eenvoudige vorm van meten. Meten is het vergelijken van iets onbekends met iets bekends, een maat. Maat is datgene waardoor de grootte (kwantiteit) of hoegrootheid van een ding gekend wordt (Aristoteles). Meten is de maat nemen. Bij het tellen is die maat de eenheid. Tellen is dus bepalen hoeveel eenheden er zijn van de dingen die je wilt tellen. Het resultaat van het meten moet uitgedrukt worden in een aantal en een eenheid. Het resultaat van meten en tellen noemen we informatie. Als ik vogels in de tuin tel is het resultaat 19 vogels. Door het combineren van betrouwbare informatie kunnen mensen die er verstand van hebben meer te weten komen over hoe het er met de vogelstand voor staat.
Er is een telprobleem als iemand het met zich zelf of met een ander niet eens is over hoe er geteld moet worden, wat er geteld moet worden of hoe het resultaat moet worden beschreven. Iemand stelt zichzelf of iemand anders de vraag : “Hoeveel vogels zijn er in de tuin?” of “Hoeveel prikken zijn er gezet door de GGD?”. Dat is het begin van het tellen en meestal ook van een telprobleem.
Soms vragen mensen dingen te tellen of te meten waarvan het nog maar de vraag is of dat waar het om gaat wel telbaar of meetbaar is. Dat is een meta-telprobleem. Zo vroegen theologen in de Middeleeuwen hoeveel engelen er op de punt van een naald passen. In 1900 presenteerde de wiskundige David Hilbert een lijst met 23 wiskundeproblemen. Het eerste probleem op zijn lijst komt neer op de vraag: Hoeveel punten bevat een lijnstuk? Tegenwoordig vragen mensen hoeveel informatie het universum bevat. Dit soort vragen maken ons bewust van de vooronderstellingen van het meten en tellen. Wat is dat eigenlijk: ‘telbaar’ en ‘meetbaar’? Is dan niet alles telbaar en meetbaar?
Over telproblemen gaat deze ‘buitenschoolse les’. Ik hoop hiermee bij mijzelf en bij de lezer wat meer begrip te kweken voor onze huidige telproblemen.
Hoeveel prikken?
Er is een probleem met het tellen van het aantal prikken (vaccinaties) dat gezet zijn. Op welk moment? vraag je misschien. Precies, dat is het eerste probleem. Op welk moment. Want als er op dit moment op verschillende locaties geprikt wordt dan is het aantal nu misschien al weer anders dan het aantal op het moment dat u begon deze zin te lezen. De GGD coördinator heeft dat opgelost door aan te geven dat het om het aantal prikken gaat tot aan een bepaald tijdstip. Althans voor zover de rapporteur daarover is geïnformeerd door de priklocaties. En daar lijkt een communicatieprobleem te zitten. Die priklocaties vergeten wel eens wat door te geven of zijn te laat. Er is dus een verschil tussen het aantal prikken dat werkelijk op een bepaald tijdstip is gezet en het aantal prikken dat gerapporteerd is.
Dit wijst op een wezenlijk kenmerk van tellen en meten. Meten is immers het vergelijken van iets reëels (het aantal prikken dat gezet is) met iets ideëels (een prik die op een bepaalde manier gedefinieerd is, de maateenheid) .
De oplossing van het probleem, het vaststellen van wat je precies telt is in dit geval eenvoudig. De GGD zegt niet hoeveel prikken er daadwerkelijk gezet zijn, maar hoeveel er volgens de rapportages die binnen zijn gekomen geteld zijn. Ze kwam op een gegeven moment op een aantal van ruim 220.000. Dat aantal verscheen op het Corona Dashboard van de Minister die er over gaat.
De Minister die zijn naam heeft gebonden aan hoeveel er geprikt is schrok van dit lage aantal. Er waren toch in werkelijkheid veel meer prikken aan de priklocaties geleverd dan dit aantal? Hij besloot zelf maar eens uit te rekenen hoeveel er geprikt moest zijn. Uitgaande van het aantal geleverde prikken en een verliesfactor kwam hij op 346.790 prikken. Dat is een schatting, zei hij, mede gebaseerd op een geschat aantal prikken door de ziekenhuizen van 81.088. Let wel dit is een schatting ! Niet 81.087, maar 81.088.
Wie wil tellen moet weten wat hij telt en hoe je daarover rapporteren moet. Wie niet weet wat schatten is en hoe je daarover rapporteert kan er beter maar niet aan beginnen.
De overheid die de scholen vanwege de corona sluit waardoor de meesters en de docenten geen goede wiskunde-lessen meer kunnen geven moet onze jeugd het goede voorbeeld geven. Anderzijds: van fouten kun je leren.
Vandaar deze extra buitenschoolse les over tellen en telproblemen.
Telproblemen
Vrijwel iedereen kan tellen. Onze Sofia van twee jaar kan al tot tien tellen. En als je vraagt hoeveel voetjes ze heeft steekt ze twee vingers op en zegt “twee”. Ze kent al tien telwoorden. Dat zijn er al meer dan sommige volkeren ooit hadden.
De Engelse medicus en filosoof John Locke (1632-1704) schreef: ‘Some Americans I have spoken with (who otherwise of quick and rational parts enough) could not, as we do, by any means count to 1000; nor had any distinct idea of that number.’
“Sommige Amerikanen die ik sprak (en die waren echt niet gek) konden niet, zoals wij, tot 1000 tellen. Ze hadden geen enkel benul van dat getal.” (mijn sloppie vertaling)
Locke had het niet over de grondleggers van de Verenigde Staten van Amerika, maar over de Tououpinambos, een volk dat diep in de Braziliaanse jungle leefde. Hun taal kende alleen de telwoorden voor de getallen van 1 tot en met 5. Kennelijk hadden ze geen behoefte aan meer dan deze vijf. Het Nederlands kent, net als alle moderne talen, veel meer telwoorden. In elk geval genoeg om aan te geven hoeveel sterren er aan de hemel staan.
Onze Lily van zes jaar begint ons systeem van getalwoorden te leren. Ze weet dat 16 voor 17 komt en 18 na 17. Laatst vroeg ze of er ook een grootste getal bestaat. Daar moet ik even over nadenken, zei ik. Vragen is vaak eenvoudiger dan antwoorden. Volgens Locke werd Lily, zoals ieder mens, geboren als een onbeschreven blad (‘tabula rasa’) . Is het dan niet wonderlijk dat iemand van amper zes op het idee komt van “het grootste getal”? Hoeveel eeuwen heeft het niet geduurd voor de mensheid het cijfer 0 voor het getal nul bedacht had en ons tientallig getalstelsel was uitgevonden, waarin 120 iets anders is dan 12 of 102. Het antwoord op de vraag of er een grootste getal is is net zo moeilijk als het antwoord op de vraag of er een grens is aan de ruimte.
Tellen is meten van het aantal van iets. Bijvoorbeeld hoeveel vogels er op dit moment in mijn tuin zijn. Tellen lijkt simpel, maar zoals hierboven blijkt, zitten er wel wat addertjes onder het gras.
Allereerst moet je weten wàt je telt. Als je vogels wilt tellen moet je weten wat een vogel is. En als je op de vogelteldag de soorten vogels apart wilt tellen moet je de boomklever van de boomkruiper en de pimpelmees van de koolmees kunnen onderscheiden. Bovendien moet je oppassen dat je niet dubbel telt. Bij ons zat ‘s morgens een fazant in de tuin en ‘s middags zat hij er weer. Hij pikt de korrels die de mezen op de grond hebben laten vallen. Wij noemen de fazant, die ieder jaar weer op bezoek komt, Japie, maar wij weten niet of het wel steeds dezelfde fazant is. Dieren die in het wild voorkomen hebben geen eigennaam. Tellen is een naam geven aan de onderscheiden dingen die je telt. Om goed te tellen moet je de dingen die je telt goed kunnen onderscheiden. En weten wat je al geteld hebt. Dat is niet alleen bij vogels tellen lastig. Als je sterren telt moet je weten dat de Ochtendster dezelfde ster is als de Avondster. Als er dingen zijn die twee of meer namen of beschrijvingen hebben dan moet je oppassen dat je niet dubbel telt. Dat kwam bij het tellen van het aantal prikken door de GGD ook voor. Ze telden namelijk het aantal prikken door de artsen gezet en het aantal door de ziekenhuizen gezet bij elkaar op. Maar sommige artsen gaven hun aantal door aan de ziekenhuizen. Die werden dus dubbel geteld door de GGD. Als je wilt weten hoeveel vrouwen er in Nederland zijn moet je niet het aantal moeders bij het aantal dochters optellen. Grote kans dat je vrouwen dubbel telt.
Hoeveel haren heeft iemand op zijn hoofd die niet kaal is? Hoeveel graankorrels maken een hoop? Het zijn oude problemen die menig Griekse denker de haren te berge deden rijzen. Dit lijken nutteloze vragen maar ze lijken wel wat op de vraag welke leeftijd iemand heeft die we ‘oud’ noemen of ‘jong’. Kaal zijn, een hoop zijn, oud zijn, of jong zijn. Het zijn vage begrippen. De meest dagelijkse begrippen zijn vaag en we kunnen er prima mee leven. In de praktijk voelen we ons soms gedwongen een grens te stellen: oud is iemand die de leeftijd van 68 jaar heeft bereikt. Volwassen is 18 jaar of ouder. Zo’n grens is altijd min of meer willekeurig. Het burgerlijk wetboek staat vol vage begrippen.
Het wiskundig denken heeft moeite met vage begrippen. Zodra de wiskunde zich met vage begrippen gaat bemoeien stapelen de problemen zich al snel op. Toch is die behoefte aan wiskundige exactheid groot. We moeten immers als we gaan tellen wel vastleggen wat we willen tellen. Moeten we het daar dan niet eerst over eens worden?
Stel je wilt weten hoeveel IC-bedden er in Nederland zijn. Die tel je natuurlijk niet zelf. Je vraagt het aan iemand die het kan weten. Wanneer je echter vijf mensen in Nederland vraagt hoeveel IC-bedden er in Nederland zijn, grote kans dat je vijf verschillende antwoorden krijgt. Niet omdat ze niet kunnen tellen, maar omdat ze het niet eens zijn wat je met ‘IC-bed’ bedoeld. Want wat is een IC-bed? Tellen IC-bedden mee die niet bemand zijn, die in reparatie zijn, die besteld zijn. Waarvan de beademingsapparatuur bij de reparateur is? Ook als je googelend probeert te achterhalen hoeveel IC-bedden er zijn vindt je verschillende aantallen. Vaak staat er geen datum bij. Je hebt er dus niets aan.
En hoe tel je eigenlijk het aantal corona virusdeeltjes op een wattenstaafje? Of het aantal witte bloedlichaampjes in een druppel bloed?
Niet tellen maar rekenen
Soms hoef je niet alles te tellen om het aantal te bepalen, maar kun je rekenen. Bijvoorbeeld als je wilt weten hoeveel puzzelstukjes een puzzel heeft. Op de doos staat wel: 1000 stukjes, maar is dat wel zo? Als je ervan uit mag gaan dat iedere rij even veel stukjes bevat, kun je het aantal rijen tellen en hoef je maar in één rij te tellen hoeveel stukjes die heeft. Bij 25 rijen van elk 40 stukjes is het aantal 25 keer 40 is 1000. Vermenigvuldigen is herhaald optellen.
Als je wilt weten hoe vaak je een blok chocolade van 8 bij 4 stukjes moet breken om 32 stukjes te krijgen kun je dit werkelijk uitvoeren en tellen. Maar als je niet zo’n blok chocolade hebt, moet je een andere oplossing zien te vinden. Wiskundigen hebben soms veel moeite met dit soort telproblemen. Omdat ze te moeilijk doen.
Schatten, niet tellen
Aristoteles zei het al: je moet niet tè precies willen zijn als dat niet nodig is.
Ver voor onze jaartelling en vele eeuwen voordat wij in Europa in de 17de eeuw met kansrekening begonnen wisten de mensen in Indië al hoe ze het aantal bladeren in een boom konden schatten. Ze telden bladeren in een deel van de boom en maakten een schatting op grond van dat aantal. Om te schatten moet je enig benul hebben van hoe ver je er naast kan zitten. Dat is een kwestie van ervaring. In de statistiek wordt het schatten bedreven en verbeterd. Het resultaat van schatten is altijd van de vorm “het aantal is ongeveer 1000” of “het aantal ligt tussen 900 en 1100”. Je zegt dan niet “het aantal is ongeveer 1001”.
Ontelbare telproblemen
De vraag hoeveel punten er op een lijnstuk liggen heeft nogal wat stof doen opwaaien. Het was probleem nummer 1 op de lijst van 23 openstaande vraagstukken die de grote wiskundige David Hilbert in 1900 op een congres van wiskundigen presenteerde. Hij meende dat iedere wiskundige vraag een oplossing had. We weten nu, sinds 1963, dat het een onoplosbaar probleem is. Dat wil zeggen dat de wiskundigen het erover eens zijn dat de wiskunde geen eenduidig antwoord kan geven op deze vraag in termen van een aantal. Achteraf gezien zal je misschien zeggen: dat verbaast me niks want het is geen heldere vraag.
Ik bespreek het probleem hier omdat het goed is om te begrijpen waarom het onoplosbaar is. We zullen zien dat alle mogelijke oorzaken van telproblemen die we hierboven bespraken ook hier aan de orde zijn. Weten wat je telt. Weten hoe je de te tellen dingen moet onderscheiden en benoemen. Ook de vage begrippen spelen een rol.
Wat is het probleem?
De oorzaak van het probleem dat hier opduikt is zoals bij alle tel- en meetproblemen dat we iets ideëels willen vergelijken met iets reëels. We willen de werkelijkheid kennen en in taal uitdrukken zodat we de gemeten werkelijkheid met elkaar kunnen delen. Ik meet iets en deel dat aan jou mee. Informatie is het resultaat van het meten van iets. Dat wat je meet is het gegeven (datum). Daarop heeft de informatie betrekking. Een wiskundige structuur leggen we als maat op aan de werkelijkheid. Over die structuur moeten we het eens zijn. Anders hebben we een communicatieprobleem. In de wetenschap heten die structuren tegenwoordig vaak ‘model’. We moeten het dus eens zijn over het model dat we gebruiken als we de werkelijkheid gaan meten.
De oplossing van het probleem “Hoeveel punten een lijnstuk bevat” is dat het antwoord afhangt van het model dat je hanteert en dat er geen enkele reden is om voor een bepaald model te kiezen boven een andere. Het positieve resultaat is dat gegeven een model je exact kan bepalen wat het antwoord is.
De werkelijkheid waar het bij dit probleem om gaat is de ruimte. En om het eenvoudiger te maken: een recht lijnstuk in de ruimte. Denk aan de rand van het tafelblad en trek daar de tafel van af. Wat je overhoudt is de werkelijke basis voor het lijnstuk, een wiskundig object. Maar anders dan de tafel en de tafelrand bestaat het lijnstuk alleen in onze denkwereld. We tekenen zo’n denkbeeldig object door een lijntje op papier. Een wiskundige lijn heeft geen dikte alleen een lengte. Het is van belang deze twee, de voorstelling van de lijn en de wiskundige lijn, goed te onderscheiden. De voorstelling van de lijn is als het ware een hulplijn om de gedachten te bepalen. Net als de cijfers op papier je helpen bij het rekenen. De getallen bestaan alleen in de gedachtenwereld, de cijfers en de telwoorden behoren tot de taal, ze verwijzen naar de gedachte objecten.
De natuurlijke getallen, 1,2,3, etc… duiden we aan met cijfers en telwoorden. De getallen zijn wiskundige dingen die we kunnen tellen. Er zijn heel veel natuurlijke getallen. Oneindig veel. Dat aantal noemen we aftelbaar oneindig. Er is volgens heel veel wiskundigen geen grootste getal. (Want je kunt bij elk getal 1 optellen en dan heb je eentje die groter is. Maar hoe lang hou je dat vol?) We kunnen getallen verzamelen in een verzameling. Een wiskundige verzameling is anders dan een postzegelverzameling, ook een wiskundig object. Bijvoorbeeld de verzameling van alle even getallen: {2,4,6,8,…}. Het aantal van dergelijke verzamelingen van getallen is nog veel groter dan het aantal getallen zelf. In de 19de eeuw bewees de wiskundige Georg Cantor dat het aantal daarvan echt meer is dan het aantal hele getallen. We noemen dat aantal overaftelbaar oneindig. Dat bewees hij met een diagonaalargument. Cantor stelde dat tussen die twee groottes geen andere groottes bestaan. Maar hij kon het niet bewijzen. (De Nederlandse wiskundige L.E.J. Brouwer was overigens van mening dat er geen overaftelbare verzamelingen bestaan.)
Hoe veel punten liggen er op een lijnstuk?
Niet alle lengteverhoudingen kun je uitdrukken met een geheel getal. Je hebt daarvoor vaak ook breuken nodig, zoals 3/4 en 1/2. Maar ook die zijn niet genoeg om alles te meten en uit te drukken. Neem bijvoorbeeld de verhouding van de lengte van de diameter en de omtrek van een cirkel. Dat is geen breukgetal. We noemen dat getal pi. (ongeveer 3.1415). Euclides bewees al dat de wortel van 2 geen breukgetal is. We kunnen al deze getallen denken te liggen op een rechte lijn. Deze “reële rechte” bevat alle reële getallen. Ze liggen dicht op elkaar. Tussen elke twee getallen liggen er weer oneindig veel. Tussen 1,2 en 1,3 liggen bijvoorbeeld 1,21 en 1,22, maar ook 1,215.
Tellen is het afbeelden van dingen die je telt op een deelverzameling van getallen {1,2,3,..,n}. Als dit lukt dan is n het getal dat het aantal aangeeft. Als het niet lukt dan zeggen we dat er ontelbaar veel dingen zijn. Maar Cantor noemde dat aftelbaar oneindig. En alsof dat niet genoeg was zelfs overaftelbaar.
Pas op met oneindig
Wanneer zijn twee verzamelingen even groot? Als je aan ieder element van de ene verzameling een element van de andere kunt koppelen en omgekeerd. Het gekke is dat de verzameling van even getallen dan even groot is als de verzameling van alle getallen. Immers als je alle gehele getallen met twee vermenigvuldigt krijg je precies alle even getallen en als je alle even getallen door twee deelt krijg je alle gehele getallen. Het is gek want anderzijds is de verzameling even getallen een echt deel van de verzameling van alle getallen. Dit kan alleen bij oneindige verzamelingen: even groot zijn als een echt deel ervan. Bij eindige verzamelingen kan dat niet. Een deel van een taart is kleiner dan de hele taart. Maar niet alle oneindige verzamelingen zijn volgens Cantor even groot. Overigens zijn er ook aftelbaar veel breukgetallen. Er zijn dus net zoveel breukgetallen als gehele getallen. Heel merkwaardig.
Het aantal punten op lijnstuk AB is gelijk aan dat op CD.
Van deze definitie van “even groot” maken we gebruik bij het bepalen hoeveel punten er op een lijnstuk liggen. We kunnen ieder lijnstuk namelijk afbeelden op het lijnstuk tussen 0 en 1. Het aantal punten op een lijnstuk is dus gelijk aan dat op het lijnstuk tussen 0 en 1. Zie de figuur hierboven. Ieder punt P van AB wordt op een punt P’ van CD afgebeeld en omgekeerd.
Nu kunnen we iedere deelverzameling van de gehele getallen afbeelden op een punt van dit lijnstuk tussen 0 en 1. Dat gaat als volgt. Neem bijvoorbeeld de verzameling {1,3,5}. Deze beelden we af op het punt dat op afstand x van 0 ligt, waarbij x gelijk is aan de som van de getallen 1/2^1 , 1/2^3 en 1/2^5. Ofwel 1/2 + 1/8 + 1/32 = 0,65625. In het algemeen beelden we een verzameling V dus af op een punt dat een afstand vanaf 0 heeft dat de som is van de inverses van die machten van 2 die in de verzameling V voorkomen. Omgekeerd kunnen we ieder punt op zo’n deelverzameling van de hele getallen afbeelden. Hiermee hebben we aangetoond dat het aantal punten op ieder lijnstuk gelijk is aan het aantal deelverzamelingen van de verzameling van gehele getallen. En dat aantal was overaftelbaar oneindig. Dat is meer dan aftelbaar oneindig.
Georg Cantor stelde nu de hypothese op dat er geen verzamelingen bestaan die een grootte hebben tussen die van de gehele getallen en die van de punten op een lijnstuk. Deze hypothese staat bekend als de continuümhypothese. Het continuüm is de naam die aan de reële rechte, de lineaire continue lijn, wordt gegeven. Maar is de hypothese waar? Hilbert vond het in 1900 zo’n belangrijke kwestie dat hij dit bovenaan op zijn lijstje zette van grote wiskundige problemen.
Wat is de aanname?
De vraag hoeveel punten er op een lijnstuk liggen gaat er vanuit dat een lijn een (telbare) verzameling van punten is. Hoe moeten we dat zien? In elk geval niet zo dat de lijn uit de punten is opgebouwd. Want een lijn heeft een lengte en een punt niet. Dat wist Aristoteles al. Een lijn kun je verdelen in lijnstukken, maar niet opdelen in punten. De vraag is wat dat betreft al verdacht. De wiskundige Cantor beschouwde de lijn als verzameling van punten. En Hilbert en met hem vrijwel alle wiskundigen namen deze opvatting over. Het is zelfs zo dat de hele wiskunde volgens de wiskundigen opgebouwd moet kunnen worden uit verzamelingen. Dat stellen ze. Alle wiskundige objecten bestaan in Cantor’s paradijs. Wiskundigen stellen altijd dingen en dan is het ook zo. Daarom heette wiskunde vroeger ook wel stelkunde. Wat ze proberen te bewijzen zijn stellingen, uitgaande van axioma’s waarvan ze stellen dat ze waar zijn. Met de axioma’s van de meetkunde proberen wiskundigen ons begrip van de ruimte vast te leggen. Euclides was de eerste die dat deed. De axioma’s mogen elkaar natuurlijk niet tegenspreken. Bovendien moeten ze volledig vastleggen wat we over de ruimte weten. Euclides meende dat door een punt in de ruimte precies één rechte lijn gaat evenwijdig aan een gegeven andere lijn. Maar kon dit niet bewijzen uit de axioma’s. Het staat bekend als het parallellenpostulaat. Iedereen geloofde dat het wel waar is. Dat onze ruimte er aan voldoet. Men zegt dan ook dat de ruimte Euclidisch is. Vele eeuwen later bewezen wiskundigen dat er ook ruimtes zijn waarin het parallellenpostulaat niet geldig is, maar waarin de andere axioma’s wel gelden. Het postulaat is dus onafhankelijk van de andere axioma’s. Dit geeft niet alleen inzicht in de ruimte maar vooral in de aard van de wiskundige kennis zelf.
Het is niet zo gek dat Hilbert de continuümhypothese (kortweg CH) een belangrijke kwestie vond. Want een belangrijke vraag is een vraag waarvan het zoeken naar een antwoord tot nieuwe inzichten leidt. En dat is in dit geval zo.
In 1940 bewees Kurt Gödel dat CH onafhankelijk is van de axioma’s van de verzamelingenleer (van Zermelo-Fraenkel, de meest gangbare), waarin de wiskundige kennis is vastgelegd. Je kunt CH dus niet bewijzen en niet weerleggen op basis van de axioma’s. Je moet de waarheid ervan dus postuleren als een aparte aanname, een extra axioma. In 1963 bewees Paul Cohen dat je een model kunt maken dat voldoet aan de axioma’s van de verzamelingenleer en dat een willekeurig aantal punten bevat dat tussen de beide oneindige groottes van Cantor in ligt. Het gaat te ver om het bewijs hier te reproduceren, maar het komt op het volgende neer.
Vage verzamelingen
De logische relatie tussen een element en een verzameling is zo dat een element wel of niet tot een verzameling behoort. Als we de bewering “x zit in V” de waarde 1 geven als x in V zit en de waarde 0 als x niet in V zit dan is de waarde van de bewering “x zit in V of x zit niet in V” natuurlijk gelijk aan 1. Of x nu wel of niet in V zit. Een vage verzameling is een verzameling die hoort bij een vaag begrip (zoals kaal of oud). Een element hoort in een bepaalde mate tot een vage verzameling, zoals we ook van iemand zeggen dat hij een “beetje kaal” is of “heel erg kaal” is. Voor vage verzamelingen geven we de bewering “x zit in V” nu niet de waarde 0 of 1 maar eventueel een getal er tussen in. We zeggen dat x in een bepaalde mate in V zit. Maar de som van de waarden van de beweringen “x zit in V of x zit niet in V” stellen we nog steeds op 1. Het blijft waar dat x wel of niet in V zit ook al weten we niet in welke mate deze er wel en niet in zit. (Het lijkt op de situatie in de kwantummechanica waar we van een deeltje niet kunnen zeggen in welke toestand deze zich bevindt. We kunnen alleen een kansverdeling geven over de mogelijke toestanden waarin het zich bevindt. Het deeltje zit in zekere zin in verschillende toestanden tegelijk. Maar dit terzijde. Lees het mooie boek van Max Tegmark, Our Mathematical Universe.)
Bij tellen moet je de getelde dingen kunnen onderscheiden en benoemen. Een deelverzameling van gehele getallen is een mogelijke ‘naam’ voor de punten op een lijn. Daarvan zijn er overaftelbaar veel. En we hebben gezien dat je zo’n deelverzameling kunt gebruiken om een punt tussen 0 en 1 vast te leggen, te identificeren. Oneindige verzamelingen moet je vastleggen door een eigenschap te noemen van de elementen die erin zitten. Bijvoorbeeld alle even getallen. Maar er zijn ook vage eigenschappen en vage verzamelingen dienen als model ervan. Bijvoorbeeld het aantal haren op een hoofd dat niet kaal is. Zo’n vage verzameling legt niet precies een punt vast maar zegt in welke mate een punt wel of niet links van een gegeven punt ligt. Je kunt van zo’n punt niet zeggen waar het precies ligt; alleen dat het in een bepaalde mate links van een gegeven punt ligt waarin het niet rechts ervan ligt. Door gebruik te maken van dergelijke “vage” verzamelingen kon Cohen naar believen zoveel punten tussen 0 en 1 onderscheiden als hij wou. Hij bewees daarmee dat als je de axioma’s van de wiskunde aanneemt je een interpretatie (model) kunt construeren waarin deze axioma’s waar zijn en die een willekeurig oneindig aantal elementen (‘generic sets’) bevat, waarvan het aantal ligt tussen aftelbaar en overaftelbaar oneindig in.
Maar wat betekent dit nu voor het tellen van het aantal punten van een lijnstuk? De Noorse wiskundige Thoralf Skolem was van mening dat het probleem niet goed gedefinieerd is. Dan is het niet zo vreemd dat er verschillende antwoorden mogelijk zijn. Cantor stelde dat het continuum een verzameling is. En hij bewees dat er verschillende graden van oneindige verzamelingen zijn. Hij noemde dat de kardinaliteit van een verzameling. Met een diagonaalbewijs toonde hij aan dat er meer reële getallen zijn dan natuurlijke getallen. Skolem bewees: als je een model kunt maken waarin de axioma’s van de verzamelingenleer gelden, dan is er ook een aftelbaar model. Dat lijkt strijdig met het bestaan van een overaftelbare verzameling. Maar dat is het niet. De diagonaalconstructie van Cantor kan namelijk in dat model zelf niet uitgevoerd worden. Binnen de aftelbare wereld komt als het ware het diagonaalbewijs niet voor. Alleen buiten het model bestaat het.
De conclusie is dat er twee werelden zijn. De ene is de aanschouwelijke wereld, de fysische ruimtelijke wereld van de waarneming, de ruimte waarin we leven. De andere is de interne wiskundige reconstructie waarin we punten denken op een lijn. Die twee werelden zijn niet dezelfde. Weliswaar drukken we in de wiskunde iets van die wereld uit, een structuur, maar de aanschouwelijke wereld zelf is niet volledig daarin te beschrijven.
Samenvatting
Tellen is geen eenvoudige zaak. Vooral niet omdat je de resultaten van het tellen onder woorden moet brengen om ze eventueel te kunnen rapporteren. Het heeft geen zin om als resultaat van het tellen alleen een getal te noemen. Je moet er altijd bij zeggen wat de getelde eenheden zijn die je hebt geteld. Wanneer je daarover met anderen communiceert dan moet je het dus eens zijn over de identiteit van die eenheden (wat tellen we mee als IC-bed of als prik of als punt?).
We hebben gezien dat de wetenschap, en dat geldt ook voor de wiskunde, die de meest exacte wetenschap is, het niet altijd lukt zo’n precieze definitie te geven van wat men telt en hoe men dat beschrijft. Dat zit hem in de vaagheid van de dagelijkse woorden en begrippen. Daarom telt men vaak al voordat men het eens is over wat er geteld wordt.
Wetenschappers streven ernaar afstand te doen van de vage alledaagse taal en hun eigen modellen en taal te ontwikkelen. Dat wordt uiteindelijk een wiskundig model. “Als we aannemen dat de werkelijkheid bestaat onafhankelijk van de mensen, dan moeten we die kunnen beschrijven door middel van de wiskundige taal zonder ‘menselijke bagage woorden’” zegt de fysicus Max Tegmark van het Future of Life Institute. Maar de wetenschappers slagen daar niet in. Ze moeten altijd weer een beroep doen op de intuïtieve dagelijkse begrippen en woorden. Wanneer ze dat niet zouden doen zouden hun resultaten niets meer voor ons betekenen.
Dit is in feite het probleem waar de wetenschap in dit tijdperk van informatie en communicatietechnologie dagelijks mee kampt en dat telkens weer op duikt wanneer er geteld of gemeten moet worden. Wetenschapscommunicatie probeert de kloof tussen de dagelijkse taal en begrippen enerzijds en de constructies en taal van de wetenschappers anderzijds te overbruggen.
Tellen lijkt iets mechanisch te zijn. Maar ook als je telt moet je je verstand gebruiken. Machines weten niet wat ze moeten tellen.
Het voornaamste doel van het onderwijs is het ontwikkelen van de verstandelijke vermogens. Het is niet zozeer van belang wat er wordt onderwezen als het maar primair daarop gericht is. Hoe beter de mens zijn verstand gebruikt des te beter mens hij of zij is.
“Ich verstehe unter dem Wahrheitswerte eines Satzes den Umstand, das er wahr oder das er falsch ist.” (Gottlob Frege, 1892, Über Sinn und Bedeutung)
“Ein Satz kann unmöglich von sich selbst aussagen dass er wahr ist.” (Ludwig Wittgenstein, Tractatus, 1918)
Zo’n halve eeuw geleden toog ik naar Enschede om te gaan studeren aan de Technische Hogeschool Twente, nu University of Twente geheten.
Ik trad de wereld van de wetenschap binnen, een wereld van vervreemdende ervaringen.
Het Torentje van Wim T. Schippers op de campus van de Technische Hogeschool Twente.
Hoewel de TH Twente een twee-jarige propedeuse kende en alle eerstejaars studenten hetzelfde studiepakket hadden, moest je je inschrijven bij een studierichting. Ik koos Werktuigbouwkunde. Niet omdat ik fietsen maken of het sleutelen aan auto’s nou zo leuk vond, maar omdat ik op de HBS veel plezier beleefde aan het oplossen van mechanica-sommen. Mechanica werd op de Rijks HBS in Leeuwarden door de wiskundedocent gegeven, dezelfde die analyse en algebra doceerde. En niet door de docent natuurkunde, wat je misschien zou verwachten. Ik realiseerde me pas later dat er een geschiedenis van de wiskunde is die dat zo bepaald had. De natuurkunde was sinds Galileo en Newton een mathematische wetenschap. De natuur was volgens de heersende filosofie mathematisch. Het was o.a. Lagrange die in het begin van de 19de eeuw de wiskundige analyse probeerde te bevrijden van de metafysica door een zuiver wiskundige theorie van de mechanica te ontwikkelen. J. Christiaan Boudri schreef een mooi proefschrift over deze intellectuele worsteling. Het probleem ontstond waar dan die wiskunde op gebaseerd was, als je voor een bewijs van een stelling, dat bijvoorbeeld een bepaalde wiskundige reeks een limiet heeft, niet naar de natuur kon wijzen.
Ik kwam op de universiteit de term ‘waarheidswaarde’ tegen. De term ‘waarheidswaarde’ behoort tot een wereld, een gedachtengoed, waarin de denkende mens zich van de werkelijkheid van alledag verwijderd heeft. Die gedachte kwam niet in mij op toen ik er mee in aanraking kwam. Toen keek ik er tegenop. Ik had alleen een vaag gevoel van vervreemding. Ik probeerde maar te wennen aan de betekenis ervan binnen de wiskundige logica. Ik leerde ermee rekenen. Wie was er in hemelsnaam op het idee gekomen! Hoe heeft dit kunnen gebeuren? Wat is dat voor wereld waarin de wetenschap terecht is gekomen?
Waarheidswaarde behoort tot de wetenschappelijke wereld waarin alles functioneel is. Waarheid wordt daarin opgevat als een functie; en wel als een functie van een situatie. Afhankelijk van de omstandigheid neemt de waarheid een waarde aan. De mogelijke waarheidswaarden zijn ‘waar‘ en ‘onwaar‘. Datgene wat de waarheidswaarde aanneemt is een zin. In het jargon heet dat een propositie. Een propositie staat voor een ‘bewering’ of een ‘oordeel’. Maar niet de oorspronkelijke, naieve, alledaagse bewering, maar de talige uitdrukking ervan, waarbij afgezien wordt van de subjectiviteit en de concrete handeling, waarin iemand een oordeel uitspreekt. “Deze roos is rood”. Deze zin heeft de waarheidswaarde waar als het feitelijk zo is dat de roos waarnaar verwezen wordt, rood is.
Niet veel later maakte ik kennis met het vak Kansrekening en Statistiek. Ook al zo’n vreemde wereld. De definitie van kans had niets te maken met wat een normaal mens onder kans verstaat. Bovendien maakt de definitie gebruik van het begrip ‘gelijke omstandigheden’, zonder dat te definiëren. Dat moest je maar voor zoete koek nemen. Ik begreep dat hoe vaker je tentamen in dit vak doet des te groter de kans dat je een keer een voldoende haalt. Ik deed er vier keer over. Ik ben niet de enige die moeite heeft met het toeval. De verpleegkundige Luci de B. werd op grond van een cruciale denkfout van getuige deskundige statistici veroordeeld voor de moord op zeven bejaarden en een tweetal babies. Ze hadden berekend dat de kans dat de B. steeds net nachtdienst had in de nachten dat de bejaarden overleden wel heel erg klein was. Dat kon geen toeval zijn! Wat is toeval? Als het toeval is dat Erik van Muiswinkel en Barack Obama op dezelfde dag geboren zijn, dan is het wel heeel toevallig. Zo stelde de cabaretier. Hoe toevallig is het dat ik op dezelfde dag in het jaar geboren ben als Donald Knuth, de uitvinder van de attributengrammatica, het onderwerp van mijn promotieonderzoek. Het is natuurlijk helemaal niet toevallig want het is uitgevonden, er ligt een mechanisme aan ten grondslag. Toevallig is wat schijnbaar noodzakelijk is. Zei Hegel. Het gaat erom de noodzakelijkheid te ontdekken.
Het werd nog bonter toen bij het college Informatietheorie docent Kleima vertelde over het begrip entropie. Hij vertelde over het Maxwellduiveltje. Dat die niet bestond. Wat mij wel gerust stelde. Hij rekende zelfs voor op het bord (we hadden toen schoolborden waarop de docent met kalkkrijtjes schreef) hoeveel energie het duiveltje nodig had om de snelheden van de gasmoleculen te meten. Deze bleek precies overeen te komen met de afname van de entropie wanneer de snelle moleculen van de trage door het duiveltje gescheiden werden. Eén van de meest indrukwekkende prestaties die mij tijdens een college op de TH werd getoond. In het college Informatietheorie kwamen Shannon en Weavers’ mathematische theorie van de communicatie en de thermodynamica bij elkaar. Dat informatieuitwisseling met energieuitwisseling gepaard gaat dat weten we inmiddels uit ervaring. De impact van de data- en rekencentra op de natuurlijke omgeving wordt steeds groter.
Volgens Shannon heeft informatie betrekking op de toestand van een systeem. Wie een signaal over een kanaal stuurt brengt dat kanaal in een bepaalde toestand. Iedere toestand is bepaald door zijn unieke plaats in een veld van mogelijke toestanden. Zo’n signaal geeft een waarnemer informatie over iets als hij het opvat als verwijzend naar dat iets. Wat dat iets is wordt bepaald door de informatie die erover mogelijk is. Eigenlijk is het niet goed mogelijk nog een onderscheid te maken tussen tussen het ‘Ding an sich’ (waarop de informatie betrekking heeft) en de manieren waarop er naar verwezen kan worden in een van te voren vastgelegde taal. Dit wordt ook duidelijk in de kwantummechanica: de kwantumdeeltjes kunnen we slechts onderscheiden door een stel parameters (zoals spin, massa en kleur) waarvan we de waarden kunnen meten. De natuur lost op in wiskundige structuren. Om informatie te kunnen kwantificeren moet je het veld van mogelijkheden kennen. De hoeveelheid informatie die een signaal bevat hangt af van de kans dat het optreedt. Als die kans 1 is dan geeft het signaal geen informatie. Een toestand die optreedt levert dus informatie wanneer deze gezien wordt als realisatie van een mogelijkheid in een veld van mogelijkheden. Toestand is een abstracte constructie: een toestand is volledig bepaald door zijn onderscheiden zijn van andere mogelijke toestanden. Hoe die abstracte toestanden fysisch gerealiseerd worden dat doet er niet toe.
In dat zelfde college Informatietheorie legde Kleima uit dat entropie een maat is voor chaos. Dat hadden we bij het college Fysische Chemie (of Chemische Fysica) al gehoord. Zodra de kansmassa over alle mogelijke toestanden van een systeem gelijkelijk verdeeld is weet je eigenlijk niets en is de entropie maximaal. Maar de theorie leerde ook dat door nieuwe informatie de entropie van de conditionele kansverdeling toe kan nemen! Bijvoorbeeld: de verdeling van haarkleur onder Nederlanders heeft een entropie die kleiner is dan de verdeling van haarkleur onder de inwoners van Friesland. Dit is toch wat je noemt een paradox! Het bewijst dat informatie heel iets anders is dan kennis. En wij arme studenten moesten dat allemaal maar leren. Dat dat nou eenmaal zo was. Is onderwijs niet een vorm van indoctrinatie?
Ik vluchtte. Ik toog wekelijks naar Amsterdam waar ik een college filosofie ging volgen. Wat een verademing! Hier discussieerde je met studenten van zeer diverse pluimage in een werkgroep (er waren zelfs vrouwelijke studenten!) en besprak je artikelen. Zo zochten we samen naar de waarheid. Die zat ergens in die gesprekken.
De docent van het college in Amsterdam was Maarten Coolen. Het ging over technologie in relatie tot het zelfbeeld van de mens in het tijdperk van de automatisering. Maarten was bezig met zijn promotieonderzoek over de ontwikkeling van de relatie tussen mens en techniek. Het resulteerde in De Machine Voorbij. De techniekfilosofie van Jan Hollak neemt er een centrale plaats in. Louk volgde in Amsterdam colleges van Jan Hollak, die ik via de door hem opgenomen bandopnames kon beluisterden. Het eerste artikel van Hollak dat ik las was Hegel, Marx en de Cybernetica, later opgenomen in de bundel Denken als bestaan. Het werk van Jan Hollak (Uitg. Damon, 2010). Ik begreep er niets van omdat het nogal wat kennis van de geschiedenis van de moderne filosofie veronderstelt, maar ik vond het fascinerend hoe Hollak de automatisering in verband bracht met een bepaald zelfbeeld van de mens en zijn verhouding tot de natuur. Zijn beroemde inaugurele rede Van Causa sui tot Automatie uit 1967 is nog steeds een bron van inspiratie voor mensen die op zoek zijn naar de oorsprong en de kern van de problematische verhouding die we ten opzichte van onze eigen natuur hebben in een tijd die beheersd wordt door een zich schijnbaar zelfstandig ontwikkelende technologie. Leidt de toenemende automatisering van de arbeid tot Marx’ Rijk der Vrijheid? Of leidt deze tot een hernieuwd inzicht in de betrekkelijkheid van Marx’ opvatting van de geschiedenis? En van de natuur. Wie Marx’ Kapitaal leest ziet dat hij de natuur slechts als leverancier van grondstoffen ziet. De natuur lijkt geen eigen waarde te hebben. Het is de arbeid die waarde produceert. De tweede conclusie die we uit Marx geschiedenis van het kapitaal kunnen trekken is dat de technologie de motor is van het kapitalisme. De grote ICT-bedrijven zijn de grootkapitalistsiche oligarchen van onze tijd.
Volgens Hollak is de technische idee “die abstracte verstandsvorm waarin de mens zijn beheersing van de natuur door middel van een originele combinatie van haar krachten tot uitdrukking brengt.”
Door het mathematiseren van het denken zelf is het mogelijk geworden deze ‘abstracte verstandsvorm’ expliciet in de vorm van een computerprogramma uit te drukken. De automaat: de programmeerbare machine is daarmee de uitwendige realisatie van de technische idee zelf.
In Twente ging ik wiskunde en informatica studeren. De motivatie kwam voort uit de fascinatie met de automatisering. Wat is die ‘zelfstandigheid’ die we de machine toedichten? Ik begreep dat het belangrijk is om over dat mathematiseren na te denken. Wat is dat eigenlijk, wiskundig denken?
Wat is dat voor ding, een waarheidswaarde?
De filosoof G.W.F Hegel (1770-1831) geeft in zijn Vorrede van de Phänomenologie des Geistes een paar treffende karakteriseringen van het wiskundig denken. Hij is niet erg lovend over deze manier van denken. In tegenstelling tot het denken van de filosofie noemt hij het wiskundig denken en kennen ‘uitwendig’. Het resultaat van het bewijzen van een stelling in de wiskunde is dat je de beweerde inhoud ervan als waar inziet. Maar dat voegt niets toe aan de inhoud van de stelling.
“Aber dieser hinzugekommende Umstand betrifft nicht seinen Inhalt, sondern nur das Verhältnis zum Subjekt; die Bewegung des mathematischen Beweises gehört nicht dem an wass Inhalt ist, sondern ist eine der Sache äusserliches Tun.” (Hegel, 1807/1975, p.42)
De waarheidswaarde, zegt Gottlob Frege (1848-1925) later, is een omstandigheid, iets dat van buiten af aan de gedachte wordt toegekend.
Hoe kunnen we de natuurnoodzakelijke werkingen van een machine verbinden met de denkbewegingen van de mens? Dat was de vraag die Maarten Coolen in zijn college stelde.
Wil je een denkende machine maken dan moet denken rekenen worden. Dat betekent dat gedachten wiskundige objecten moeten worden en de overgang van de ene gedachte naar de andere een wiskundige operatie die door een machine kan worden uitgevoerd. “Het menselijk denken heeft een uiterlijk moment dat zich in eenzinnige mathematische structuren laat objectiveren. Vanwege dit uiterlijke moment kan men zinvol spreken van een denkbeweging.” (Coolen, De machine als werkend teken, 1987, p. 47). Dat ‘uiterlijk moment’ is de taal, de uitdrukking van het denken als denken. Het is niet vreemd dat de taal het handvat biedt voor het objectiveren en mathematiseren van de gedachten en het denken. Omdat denken dat tot kennen leidt volgens logische wetten moet gebeuren, moeten de logische regels dus als wiskundige operaties worden opgevat.
De conditionele regel Als A dan B
De conditionele regel Als A dan B komen we als patroon in verschillende situaties tegen. Als samenvatting van ervaring: als het regent dan wordt het gras nat. Waarbij het nog de vraag is of hier van een toevallige samenloop sprake is of dat er een oorzakelijk verband bestaat.
Als voorschrift: als A het geval is dan moet je B doen.
Als logische afleidingsregel. Als Als A dan B geldt en we weten dat A dan kunnen we concluderen dat B. Deze regel heeft dezelfde vorm als de regel die we daarmee vastleggen. Als we de logische operator (implicatie => ) wiskundig definiëren doen we dat gebruik makend van de conditionele regel: A => B is alleen dan onwaar als A waar is en B onwaar.
Als we weten dat Als A dan B geldt en we willen dat B het geval is dan kunnen we dat realiseren door A te realiseren.
In een experimentele situatie wordt de regel als A dan B als hypothese getoetst. We realiseren A om te kijken of B inderdaad het geval is. Als blijkt dat dit zo is en we zijn overtuigd van de reproduceerbaarheid van het experiment: we zien in ‘gelijke omstandigheden’ hetzelfde effect, dan kunnen we de regel inzetten als technisch middel. Zo’n experiment levert kennis van de werkelijkheid als we mogen aannemen dat deze niet reageert op het feit dat wij het toevallig zijn die ingrijpen in de natuur. De historicus Wootton wijst er in zijn geschiedenis van de experimentele natuurwetenschap op hoe belangrijk het is dat die experimentele ‘omstandigheden’ nauwkeurig door getuigen werden beschreven. Hier vinden we de oorsprong van de moderne feiten, waarvan Bruno Latour (1947-2022) later zou zeggen dat het wetenschappelijke constructies zijn.
Onze wetenschap heeft een volstrekt hypothetisch karakter. Haar uitspraken zijn van de vorm als dit en dit en dit dan dat en dat en dat.
We kunnen de natuur niet leren kennen zonder te meten. Meten houdt het structureren van de werkelijkheid in. In de deeltjesfysica kunnen we niet abstraheren van de meting. In een volledige theorie komt met iedere theoretische toestand een fysische toestand overeen.
“Every element of the physical reality must have a counterpart in the physical theory” (Einstein, Podolsky, Rosen, 1935)
In die zin is volgens Albert Einstein de kwantummechanica niet volledig: we kunnen snelheid en plaats van een deeltje niet tegelijk precies vastleggen. Kunnen we de werkelijkheid buiten het kennen om begrijpen?
Volgens Niels Bohr wordt de werkelijkheid door de meting bepaald. Het gaat erom of we de experimenten kunnen reproduceren en het is niet van belang (en principieel niet mogelijk) te zeggen wat werkelijk is. Als we de experimentele resultaten kunnen gebruiken in de technische toepassingen dan zeggen we dat de kwantumtheorie werkt.
Kunnen we de natuur zo inrichten dat deze volgens bepaalde door ons gewenste conditionele regels werkt? Als we willen dat Als A dan B geldt moeten we de natuur zo inrichten dat Als A dan B geldt. Dit is het resultaat van de reflectie op de conditionele regel zelf. In de constructie van een machine maken we gebruik van de kennis van de conditionele regels (wetten) volgens welke de natuur ‘uit zichzelf’ werkt. Als we willen dat de natuur zo en zo werkt dan moeten we deze zus en zo inrichten. De machine is de implementatie van een constructie, een ontwerp van een werking. “Een originele combinatie van krachten door het verstand uitgedacht“. De programmeerbare machine is het resultaat van het expliciteren van deze constructie. De programmeertaal legt het veld van mogelijke machinale (berekenbare) constructies vast. Iedere programmeertaal bevat dan ook een conditionele opdracht (if-statement), waarmee het mogelijk is vast te leggen onder welke condities welke actie moet worden uitgevoerd. Maar hoe kan het zijn dat dit ook werkelijk gaat werken? Want een programma is nog geen werking. De natuur moet zodanig ingericht worden dat deze geschikt is om het programma uit te voeren. Daarvoor is het nodig dat de fysische toestanden van de machine tekens zijn voor virtuele toestanden, voor variabelen en functies die bepaalde waarden kunnen worden toegekend volgens welke andere toestanden worden gerealiseerd. De termen van de formele taal worden afgebeeld op de toestanden van de machine. De fysische werking komt dan overeen met de denkbeeldige betekenis van het programma als opdracht tot die werking.
Je kunt de moderne wetenschap en techniek niet begrijpen wanneer je niet weet hoe deze tot stand is gekomen. Wat dit mathematiseren inhoudt dat kunnen we misschien leren door de geschiedenis ervan te bestuderen. Maar hoe ver moeten we dan terug gaan? Waar is het begonnen?
De Duitse wiskundige en filosoof Gottlob Frege (1848-1925) heeft in dit proces van mathematisering een belangrijke rol gespeeld. David Hilbert (1862-1943) zette de volgende stap door Freges werk weer verder te mathematiseren: de metamathematica is de zelfreflectie van het wiskundige redeneren dat haar keerzijde heeft in de programmeerbare rekenmachine. Die programmeerbare machine is de ‘bijvang’ van de metamathematische inspanningen een wiskundige fundering van de wiskundige waarheden te construeren. Vele wetenschappers aan het begin van de 20ste eeuw, waaronder Russell en Wittgenstein zijn schatplichtig aan Frege.
In zijn collegedictaat Inleiding Logica besteedt Louk Fleischhacker een heel hoofdstuk aan het werk van Frege. Frege meende dat de wiskunde te herleiden is tot de logica, de grondidee van het logicisme. Logica gaat over hoe mensen moeten denken om tot begrip te komen. Wel te onderscheiden van de psychologie, die meer gaat over hoe mensen feitelijk denken. In de Grundgesetze der Arithmetik (Grondwetten van Rekenkunde) probeert Frege de wetten van de rekenkunde uit de logica af te leiden. Na publicatie van het eerste deel ontdekte en publiceerde Bertrand Russell (1872-1970) een tegenspraak (1900), later bekend als de Russell paradox, en toonde aan dat de axioma’s van de Grondwetten tot deze paradox leidden. Het leidde tot een crisis in het onderzoek naar de grondslagen van de wiskunde, waarin het verzamelingbegrip van Georg Cantor (1845-1918) een sleutelbegrip was.
In zijn Begriffsschrift (1879) ontwikkelt Frege een symbolentaal waarin het wiskundige redeneren zo kon worden uitgedrukt dat de correctheid ervan op grond van de vorm van de uitdrukking kan worden vastgesteld. Het begin van de mathematische logica. De praktische keerzijde hiervan zien we in de programmeerbare machine waar de werking van het programma gerealiseerd wordt door de uitdrukking ervan in de formele programmeertaal.
Het functiebegrip
De mathematische natuurwetenschap berust op het functiebegrip. Het functiebegrip is de oplossing van het probleem om op wiskundige wijze fysische verandering uit te drukken. Bij Leibniz is de ‘functio’ de lengte van een stuk raaklijn. Een sleutelbegrip in de mathematische natuurwetenschap is dat van fysische grootheid. De lengte van een staaf is zo’n grootheid. Terwijl de lengte van de staaf kan veranderen blijft het dezelfde staaf. De grootheid aangeduid met “de lengte” is de bemiddelaar tussen de concrete staaf en het getal dat de lengte op een bepaald moment als waarde heeft. De lengte is een functie van bijvoorbeeld de temeperatuur van de staaf, een andere grootheid.
Het adagio van de mathematische experimentele fysica is dat iedere fysische betrekking tussen grootheden ook een mathematische betrekking is. Het uitgangspunt van de wetenschap werd dat er voor elke verschijnsel een functie bestaat die het verband tussen grootheden op kwantitatieve wijze uitdrukt. Ook al kennen we die functie niet, we poneren het bestaan ervan. Zo poneren we ook het bestaan van grootheden die met wiskundige grootheden corresponderen. Zoals het gemiddelde of de normaalverdeling. Dit is het hypothetische karakter van de moderne wetenschap.
Waarschijnlijk is het vanwege de succesvolle toepassingen van deze vorm van natuurwetenschap in de techniek en daarmee in de economie dat dit principe voor de wetenschap in het algemeen als uitgangspunt werd genomen: we kennen de werkelijkheid als we de werking ervan door middel van functionele verbanden in een wiskundig model uit kunnen drukken. Onze samenleving kan niet meer zonder economische, medische en ecologische modellen met behulp waarvan we effecten van maatregelen door kunnen rekenen. Wetenschappelijke kennis wordt uitgedrukt in modellen, idealiter in wiskundige modellen die berekenbare relaties tussen kwantificeerbare grootheden bevatten. Op grond van nieuwe metingen, verkregen tijdens theoretisch onderbouwde experimenten, en nieuwe inzichten worden bestaande modellen aangepast, of vervangen door andere modellen.
Volgens Hollak is de hypothetische benadering van de werkelijkheid “tot een denkhouding geworden die alles is gaan overheersen” (Hollak, Afscheidscollege, p.436). Deze denkhouding is de mathematische (Dijksterhuis, Fleischhacker). Het hypothetische karakter van de moderne wetenschap heeft de waarde van de feiten aangetast. Ook feiten worden namelijk volgens Hollak, als hypothetisch beschouwd. Wat zo is had immers ook anders kunnen zijn, heet het dan. Dat betekent dat feitelijke waarheden afhankelijk zijn van de situatie. “Het contingente bij een factische toedracht wordt hier gemaakt tot een puur formeel logische mogelijkheid: het kan evengoed zo en anders zijn. Het aanvaarden van een feitelijke toedracht is er niet meer bij.” Objectiveren is altijd maar onder bepaalde condities objectiveren, vaststellen. Hier zien we de doorwerking van de cartesiaanse twijfel. Met dien verstande dat er geen mathematiek en geen God is die het laatste woord nog heeft. Dat is immers een gepasseerd station: God is dood en de wiskunde is bij uitstek arbitrair en hypothetisch.
“Men wil niet meer de dingen in hun eigen aard en karakter vatten en vinden, men meent dat dat niet mogelijk is en stelt het allemaal in een als-dan verhouding en in een functionele verhoudingsvorm.”
Ook al “onze leefverhoudingen worden tot logische mogelijke ietsen gemaakt”. (Hollak). Ludwig Wittgenstein voerde in zijn theorie van de “taalspelen” de term “levensvorm” is. Daar doet Hollak’s opmerking over de logisch mogelijke leefverhoudingen meteen aan denken. Het woord ‘spel’ gebruikt Wittgenstein als voorbeeld om zijn bezwaar tegen het essentialisme duidelijk te maken. De vraag “Wat is een spel?” kan niet beantwoord worden met dat is zus en zo’n ding. Hij wil duidelijk maken dat er niet iets bestaat dat alle dingen die we ‘spel’ noemen een gemeenschappelijke (wezens)kern hebben. Er bestaat volgens Wittgenstein hoogstens een ‘familieverwantschap‘ tussen de verschillende spellen. Er zijn verschillende gebruiken van het woord spel in verschillende ‘levensvormen’. Het gebruik bepaalt de betekenis van de woorden.
Tegen het eind van de 19de eeuw had de wiskunde zich als het ware losgeworsteld van de voorstelling. Onze ruimte is niet per se Euclidisch; als de Euclidische meetkunde consistent is dan zijn er ook consistente niet-Euclidische meetkundes. Nu de wiskunde zich niet meer kon beroepen op de voorstellingsruimte, werd het probleem van de grondslagen van de wiskundige kennis nijpender. Wat is het fundament van de wiskundige kennis? Frege was aanvankelijk van mening dat de wiskunde en dan met name de getallenleer, gefundeerd kon worden in de logica. Russell gooide roet in het eten toen hij er op wees dat Cantor’s begrip verzameling dat een centrale rol speelde in Freges theorie, tot een paradox leidde. Met het begrip verzameling zelf komt niet een verzameling overeen die er de extensie van is. Het totaal van alle verzamelingen vormt geen verzameling. De grens van de verzameling wordt van buiten af bepaald. De verzameling kan niet zijn eigen grens bepalen.
Kernidee van Freges Begriffsschrift is het onderscheid van teken en betekenis. Daarmee wordt het mogelijk de subject-predikaat-verhouding dat in een oordeel wordt uitgedrukt te beschouwen als het toepassen van een functie op een argument.
In het college betoogt Fleischhacker dat dit weliswaar voor de wiskundige oordelen zo wel gedaan kan worden, maar dat de toepassing van dit onderscheid bij ‘normale’ beweringen geen recht doet aan het begrip.
Een functie is volgens Frege ‘iets dat aanvulling door een argumentwaarde behoeft’.
De ‘onverzadigde tekens’, zoals 3 * ( ) + 5, die Frege gebruikt om over functies te praten worden later de wiskundige elementen van een formele tekentaal. Frege had nog geen teken voor de abstracte functie zelf, die hij nog niet als wiskundig object zag. Met de door Church ingevoerde lambda-operator λ voor de functionele abstractie kunnen we de functie zelf benoemen. De term λx. 3 x + 5 is de naam voor de functie die toegepast op een argument (een waarde voor x) 3 x + 5 oplevert. De naam zegt hoe deze functioneert in de functie-calculus. Rekenen wordt herschrijven van expressies in deze formele taal. In feit is dit niets nieuws. De term 3 + 5 drukt ook uit hoe het resultaat berekend moet worden en tevens is het een verwijzing voor het resultaat van die berekening. De rekenmachine is programmeerbaar geworden. Je voert termen in die zelf uitdrukken hoe ze tot een resultaat leiden. Er is nog slechts één primitieve operatie nodig: de functie-applicatie; het toepassen van een functie. Die staat voor het uitvoeren van het ingevoerde programma.
Het toepassen van de functie is de aktiviteit van het subject: de mens die drukt op de knop, uit zichzelf dan wel in opdracht van een ander, ‘omdat de situatie er om vraagt’.
Waarom moet de betekenis van een computerprogramma (een algoritme) een wiskundige functie zijn? En waarom kunnen we ons niet tevreden stellen met een operationele definitie van betekenis? Omdat het niet uitmaakt hoe: door welke machine het programma wordt uitgevoerd. Het gaat erom welke invoerwaarden worden omgezet in welke uitvoer. Omdat invoer deels de functie zelf is die de betekenis is van de invoer, zien we al aankomen dat dit ertoe leidt dat de betekenis een functie is die zichzelf op zichzelf toepast en zichzelf weer oplevert.
De toepassing van Freges idee op de kennis zoals we die in natuurlijke taal uitdrukken leidt tot een functionalisering van de taal. Wittgenstein identificeert de wijze waarop begrip in taal wordt uitgedrukt met de werkelijkheid die daarin begrepen wordt. Dat is een wijdverbreide visie die kenmerkend is voor het denken in het informatietijdperk, waarin alles als informatie beschouwd wordt: kennis in de vorm van een object, een goed dat uitgewisseld kan worden.
In zijn Tractatus stelt Wittgenstein de formele identiteit vast van de logische ‘Satz’ van de ‘Idealsprache’ met de logische structuur of de ‘Logik der Tatsachen’. Feiten zijn overeenstemming tussen de gedachte met wat gedacht wordt.
Wat gebeurt hier? vraagt Hollak in zijn afscheidscollege. “Hier wordt niet voldoende onderscheiden tussen datgene wat ik zou willen noemen verwoording van iets – en wel in die zin dat iets wat ik ken en vat door middel van de taal verwoord wordt, en als zodanig naar voren gebracht en uitgedrukt wordt.”
In zijn Philosophische Untersuchungen wordt de taal door Wittgenstein als iets functioneels gezien. De betekenis van de woorden wordt bepaald door hun gebruik. Het verwoordingskarakter van de taal is geheel verdwenen, ten koste van de functionaliteit, haar gebruik voor een effect in een ‘Sprachspiel’, een levensvorm.
Zodra we bedenken dat taal ergens over gaat, maken we een onderscheid tussen het gebruik van taal en waar het over gaat. Maar deze twee komen niet gescheiden voor in werkelijkheid. We kunnen taal niet eens gebruiken zonder dat het ergens over gaat. Natuurlijk kunnen we ook naar de buitenkant, de structuur van de taal kijken, naar de woorden en zinnen van taal als op zich zelf staande objecten. Maar de taal die we zo bekijken is juist niet de taal als gebruikte taal. Dan is de taal onderwerp waar we het in taal over hebben.
Taal gaat ergens over. De woorden verwijzen naar een wereld buiten de taal. We kunnen het niet over taal hebben en over wat dan ook zonder taal te gebruiken. De mens zit echter niet gevangen in de taal. “If language is not considered to be about something, it cannot even be about itself, and we are no longer able to say that language is not about something.” (Fleischhacker 1995, p59-60). Het is dus logisch onmogelijk te ontkennen dat de taal over iets gaat dat buiten het spreken zelf ligt. Deze ontkenning is immers onmogelijk en zinledig zonder ervan uit te gaan dat ze ergens over gaat.
Door het mathematiseren is niet alleen de relatie met de werkelijkheid zoals die in het begrip wordt uitgedrukt naar de achtergrond verdwenen, maar dat ook het individuele subject dat dit begrip voltrekt, is uit beeld verdwenen.
En hiermee zijn we aangekomen bij de taal-technologie. Het subject van deze technologie is anoniem, een als autonome agent beschouwd ding, een sprekende machine, wier akties steeds moeilijker te herleiden zijn tot het werk van individuen. Hier steekt een centraal probleem in de verwetenschappelijkte samenleving de kop op: wie is er verantwoordelijk voor de technieken die steeds autonomer worden?
Een waarheidswaarde is de waarheid die toe komt aan een bewering. ‘Bewering’ is zowel aktiviteit: het beweren of uitspreken van een oordeel als het product ervan. Verder onderscheiden we nog de logische inhoud van de bewering van de talige uitdrukking ervan in een bewerende zin. Die logische inhoud is wat we begrip noemen.
We zouden kunnen stellen dat de waarheidswaarde toekomt aan de zin zowel als aan de logische inhoud: het begrip. Maar als het oordeel onwaar is is er dan wel sprake van begrip? Er is toch alleen sprake van begrip als een oordeel waar is; dat wil zeggen als er overeenstemming is tussen wat gedacht wordt met wat werkelijk zo is.
Er zijn twee waarheidswaarden: waar of onwaar. Vaak gecodeerd als 1 en 0. Neem de zin “Deze roos is rood”. Deze kan volgens deze leer de waarheidswaarde 1 of 0 hebben. De zin drukt een ware bewering uit als deze de waarde 1 heeft en anders een onware bewering.
Met het idee waarheidswaarde hebben we de onmiddellijke eenheid die in het begrip bestaat tussen subject en object van kennis te niet gedaan.
Het vervreemdende is dat de zin tegenover de werkelijkheid staat waarover deze iets zegt en waarin deze door iemand wordt uitgesproken. Die werkelijkheid staat er helemaal buiten. Die lijkt er helemaal niet meer toe te doen. Eigenlijk zegt die zin helemaal niets meer over de werkelijkheid. Het is de huid die de slang heeft afgelegd. De waarheidswaarde wordt van buiten af toegekend aan de zin. Daarbij zijn waar en onwaar volstrekt symmetrische waarden. Heel anders dan in het dagelijkse gebruik van zo’n zin, in het oordeel dat we uitspreken. Als we zeggen “deze rood is rood” dan bedoelen we toch dat dat waar is! En als we geloven dat een roos rood is dan geloven we toch dat dat waar is! Maar wat is de reden dan om de zin de waarde waar of onwaar toe te kennen? Waarop berust die keuze? Je zou toch zeggen op het feit of deze roos inderdaad rood is. Maar dat is dan toch waar de waarheidswaarde in zit. In het uitlichten van deze werkelijke toedracht, waarin het rood en de roos met elkaar zijn verbonden.
De formele zin heeft niets met de echte zin te maken, Hij lijkt er alleen op. Het is een teken voor een wiskundig object geworden, een element uit een formele taal. Een model van de echte taal.
Laten we even terugkeren naar het dagelijkse gebruik van een zin als “Deze roos is rood”. Beeld je een situatie in waarin deze door iemand wordt uitgesproken. Wat is die situatie? Dat kan de volgende zijn. Je bent met een vriend in de tuin. Ze wijst naar een roos en zegt “wat een mooie rode roos”. Waarop je antwoordt: dat is een roze roos. Kijk! Deze roos is rood. En je wijst haar op een andere roos. Waarop ze antwoordt: aha, dus: deze roos is rood. Ja, deze roos is rood.
Dat is de werkelijkheid waarin waarheid en onwaarheid bestaat. De term waarheidswaarde behoort tot een wetenschappelijk/technologische wereld die een soort van abstractie is van de werkelijke wereld waarin we leven. Een wereld waarin de denkmaaksels ‘het groen-zijn’ van het gras los van het denkmaaksel ‘gras’ voorkomt.
De naam ‘rood’ verwijst al naar een abstractie: de gewaarwording van een kleur. Er zijn vele verschillende ‘roden’. Het rood van de roos is anders dan het rood van het bloed of van de wijnvlek. De stricte tweedeling in ware en onware oordelen gaat er vanuit dat helder is wat de inhoud van het oordeel is en hoe we die inhoud benoemen. Daar zitten twee kanten aan: het preciseren van wat we rood noemen en het bepalen of dit object rood is. Hoe precies we rood definieren hangt af van de eisen die de praktijk stelt.
In de logische wereld komen zinnen voor als “Deze roos is rood of deze roos is niet rood”. Dergelijke zinnen, die altijd waarheidswaarde 1 hebben heten in het logische jargon tautologieën. In wat voor situatie in de gewone wereld wordt zoiets beweerd?
Frege: het begrip als functie
Volgens Frege is er een nauw verband tussen wat in de logica begrip wordt genoemd met wat hij ‘functie’ noemt. Een begrip is zelfs een functie waarvan de waarde altijd een waarheidswaarde is. Hoe komt hij daar toe?
Frege gaat ervan uit dat een teken een ervan onderscheiden eenduidige betekenis heeft. De tekens ‘2 + 5’ en ‘7’ zijn als tekens verschillende maar hebben dezelfde ervan onderscheiden betekenis. Dit onderscheid is een noodzakelijke stap in de ontwikkeling van zijn Begriffsschrift waarin hij het oordeel als toepassing van een functie op een argument beschouwt. De bewering 3 + 5 = 8 ziet hij als een teken dat iets betekent. Die betekenis is een Gegenstand: de waarheidswaarde. Maar dan is 3 + 5 = 8 geen bewering meer. Vandaar dat hij een beweringsteken |- (de Urteilsstrich) invoert.
Frege zegt dan dat |- 3 +5 = 8 niet iets betekent, maar iets beweert. Maar dat had hij ook wel van 3 + 5 = 8 kunnen zeggen. Als we |- p definiëren als p = T (met T het symbool voor de waarheidswaarde waar), dan moeten we toch weer |- p = T schrijven om er een bewering van te maken. Wat weer neerkomt op: p = T = T. En zo tot in het oneindige. Vandaar dat Wittgenstein zal zeggen dat de zin niet zelf kan beweren dat deze waar is. De zin toont wat deze zegt.
Zonder het strikte onderscheid tussen teken en betekenis zou met x + 5 = 8 ook geen functie corresponderen. Een functie moet immers een functiewaarde (een Gegenstand) vastleggen voor een bepaalde waarde van het argument.
Frege legt hiermee de basis van de mathematische logica: een wiskundige theorie van de structuur van het redeneren. “Om de structuur van het redeneren mathematisch te kunnen vatten moet ervan worden geabstraheerd dat het de structuur van het redeneren is.” (Fleischhacker, 1974, p. 74).
‘De roos is rood’ wordt nu het resultaat van de toepassing van de functie die aangeduid wordt met de term ‘x is rood’ op het object waarnaar met ‘de roos’ verwezen wordt. Dit resultaat, de propositie wordt vervolgens afgebeeld op een waarheidswaarde.
We kunnen nog verder abstraheren en de roos ook als functie opvatten die toegepast op een eigenschap een waarde oplevert. Ook kunnen we de eigenschap heeft kleur als wiskundige relatie zien die twee argumenten heeft: rood en roos. Verder abstractie levert dan een hogere orde relatie op met drie argumenten: een eigenschap en twee relata. Waar we niet vanaf komen is het toepassen als operatie. Als we die ook als operatie opvatten moeten we die toch weer toepassen. Uiteindelijk komen we dus terecht bij de zelf-applicatie. Dat was het onderwerp van mijn afstudeeropdracht.
Bij Frege zien we dat de werkelijkheid wordt opgevat als de begrepen werkelijkheid. Betekenissen zijn begrepen betekenissen. Maar het begrip van de werkelijkheid dat we in de structuren uitdrukken is niet als zodanig in die werkelijkheid aanwezig. Begrijpen is geen afbeelden, zoals Wittgenstein in zijn Tractatus beweert.
Waar beeld en werkelijkheid geïdentificeerd worden spreken we van een feit. Het is zo. Een mening is de identificatie van de subjectieve vorm met een objectieve inhoud. Descartes’ twijfelexperiment betreft het arbitraire karakter ervan. De één heeft deze mening, de ander de tegengestelde. Aan beide kan getwijfeld worden. Ook de wiskundige waarheden moeten betwijfeld worden ook al waren ze voor Descartes evidente waarheden. De mens kan immers, door een malin génie, misleid en verleid worden te denken dat iets zo is als hij denkt dat het is. Descartes is consekwent in het weghalen van iedere vermeende grond van zekerheid die we als denkend subject in ons menen te vinden. Wat overblijft is wat in de reflectie op deze zelfreflexieve twijfel niet ontkent kan worden: zolang ik twijfel ben ik denkend.
Omdat het subject, de spreker, uit de zinnen is verdwenen moest die weer terug gebracht worden in de taal. Ik leerde de computer de taal spreken. En ‘begrijpen’, door hem zo te programmeren dat hij er iets zinnigs mee doet. Dat is een onderdeel van wat nu kunstmatige intelligentie heet. We kwamen er al gauw achter dat communiceren niet alleen met woorden maar ook met lichaamstaal gebeurt. Dus maakten we grafische geanimeerde karakters, avatars, met wie je een gesprek (‘dialoog’) kunt voeren “conversational agents”. Ze konden niet alleen antwoord geven op een vraag maar daarbij je ook aankijken of juist wegkijken. Of triest kijken als ‘ze het niet wisten’. Het bevredigde niet. Ik wist dat ze niet meenden wat ze zeiden. Ik wist dat ze waren geprogrammeerd. Het werd gauw saai want computers zijn goed in hetzelfde exact herhalen, maar niet in flexibele aanpassing aan nieuwe situaties die net even anders zijn dan wat ze geleerd hebben. Omdat ze niet snappen waar het om gaat. In die zin zijn ze niet echt intelligent.
Maar de sprekende machines ‘werken’ in bepaalde situaties wel degelijk. En daar gaat het om in de techniek; dat het werkt. Voorwaarde is dat de gebruiker gelooft dat de machine bedoelt wat hij zegt. Bijvoorbeeld wanneer deze zegt: “Neem uw pas.” of “Toets het bedrag in.” of “Met wie wilt u spreken?” Of “U bevindt zich hier.”. Al deze uitingen werken als ze door de mens (de gebruiker) herkend worden als zinvol in de situatie waarin ze gebruikt worden. Het gaat altijd om herkenbare situaties en standaarduitdrukkingen. Vraag je niet af “Hoe het informatiebord weet dat jij het bent die hier staat als het zegt “U bevindt zich hier.”. Het bord weet het niet. Eigenlijk is het ook een dictaat. Het bord zegt dat je je daar bevindt op die plek die op de kaart staat. Zoals bij de aanvang van een schaakspel de ander zegt: “Jij bent zwart”. Het is een Sprachspiel (Wittgenstein) dat hoort bij een bepaalde levensvorm. Het is van belang dat er een correspondentie is tussen de virtuele werkelijkheid van de kaart en de plek waarnaar de pijl wijst en de echte werkelijkheid waar de gebruiker zich bevindt als hij zich aangesproken weet met “U bevindt zich hier.” . Deze correspondentie tussen een ideéle gedachtenwereld en de echte wereld is het principe waarop de informatica is gebaseerd. Het is de correspondentie tussen denkbeweging en natuurproces die Heinrich Herz in zijn Voorwoord van Die Prinzipien der Mechanik noemt.
Waarheidswaarden, zinnen, teksten en beweringen zonder spreker, acties en taalhandelingen zonder daders, infosferen waarin mensen ronddolen op zoek naar hun identiteit, te midden van software agenten, chatbots en autonome artefacten. Hoe moeten we dit tijdperk duiden? Het tijdperk van het verloren subject; het individu dat via de sociale media op zoek is naar zijn identiteit.
Techniek vooronderstelt een zinvol gebruik. Het werktuig krijgt zijn gestalte vanuit zijn gebruik, zoals de betekenis van de taal niet los kan worden gezien van het gebruik van de taal. De taal en het werktuig hebben hun gestalte gekregen in een door het gebruik. Dat veranderde toen de in de moderne natuurwetenchap het werktuig op zich afgezien van zijn gebruik onderwerp van studie werd. Het ontwikkelen van taal en techniek werd onafhankelijk van het gebruik. De ontwikkeling van kennis en technologie werd een economische factor. De gebruiker werd consument.
Freges stap waarin hij een strikte scheiding aanbrengt tussen teken en betekenis is begrijpelijk vanuit de wiskundige denkhouding. Hij beschouwt de Gedanke, het wiskundig denkmaaksel als iets op zich. Dit is wat later de propositie heet. In het wiskundig oordeel wordt niet verwezen naar een werkelijkheid die buiten het wiskundig denken bestaat. Wiskundige oordelen behoren tot een axiomatische theorie. Ze berusten op een axiomastelsel waaruit ze logisch worden afgeleid. De waarheid berust niet op een verwijzing naar iets werkelijks. Die werkelijkheid is een constructie, een denkmaaksel. Zoals in de wiskunde we het niet over de objecten kunnen hebben zonder de tekens die ernaar verwijzen, zo kunnen we het ook niet over feiten hebben zonder deze te beschrijven. Maar niet met elke beschrijving komt een feit overeen.
Of de teksten die het AI-programma ChatGPT genereert iets zinnigs betekenen, dat wordt door de makers ervan net zozeer aan de gebruiker overgelaten als het zinvolle gebruik van een werktuig dat door de technologie op de markt verschijnt aan de consument wordt overgelaten. Men zegt wel dat deze taalgenererende programma’s hallucineren. Ze zijn los van de werkelijkheid geraakt. Frege zou zeggen je moet ze als kunst zien, niet als wetenschap, want ze hebben net zoveel met de waarheid te maken als een Gedanke met een bewering. Wij moeten dat aspect niet aan de teksten die ChatGPT maakt toevoegen. We vragen ons toch ook niet af of de portier waarmee Hermans zijn roman Nooit meer slapen opent werkelijk invalide is.
Filosofie van de Informatie
Na de Copernicaanse, de Darwiniaanse en de Freudiaanse revoluties voltrekt zich volgens Luciano Floridi een Vierde Revolutie, de Informatie Revolutie: alles draait om informatie en alles is informatieverwerking. Floridi publiceerde in 2011 een lijst van open problemen.
De eerste vraag is: wat is informatie?
Frege vroeg: wat is een getal? Hij noemde het schandalig dat de wetenschapper geen antwoord op deze vraag paraat hadden. Vraag de informaticus wat informatie is. Hij zal het antwoord schuldig blijven, misschien iets stamelen van informatie haal je uit gegevens, uit data. Het is als met de term ‘leven’ . De biologie geeft geen definitie van leven. Net zo min als de gedragswetenschap een definitie van ‘gedrag’ geeft. Informatie is wat zich aanbiedt in antwoord op vragen. Alle vragen?
De vraag “wat is informatie?” is geen vraag om informatie. Waarom niet? Omdat het vraagt om begrip. Niet naar een feitelijke stand van zaken. Iedereen weet op zijn of haar manier wat informatie is, wat leven, een getal, gedrag is. Waarom zouden we dat willen vastleggen? Zou dat niet de dood in de pot zijn? Het einde van het begrip.
In het voorwoord van zijn Tractatus schrijft Wittgenstein bij de uitgave in 1918:
“Dieses Buch wird vielleicht nur der verstehen, der die Gedanken, die darin ausgedrückt sind – oder doch ähnliche Gedanken – schon selbst einmal gedacht hat.”
“Wat ik hier zeg kun je waarschijnlijk alleen begrijpen als je het zelf al eens gedacht hebt.”
Wat spreekt hieruit? Is het niet de onmogelijkheid iets nieuws te zeggen? De onmogelijkheid om via de taal een gedachte met een ander te delen die deze gedachte al niet zelf had. Je kunt dus alleen maar het reeds bestaande bevestigen.
Het lijkt wel alsof er geen grotere tegenspraak kan bestaan dan die tussen deze gedachte, de ontkenning van de mogelijkheid tot echte communicatie tussen mensen, en het feit dat in dit boek de machinerie van het denken in waarheidswaarden, de propositielogica, in de steigers wordt gezet. Toch is dat geen tegenstelling. Beide leggen de aandacht op de taal en de gedachte als iets objectiefs, als het resultaat van het taalgebruik en het denken.
De waarheidswaarde wordt door een waarheidsfunctie toegekend aan de elementaire zinnen en de niet-elementaire zinnen hebben een waarheidswaarde die volgt uit die van de elementaire zinnen waaruit deze is opgebouwd en de logische operatoren (en, of en niet) voor de opbouw ervan.
“Ein Satz kann unmöglich von sich selbst aussagen dass er wahr ist.” (4.442) . Dat zou namelijk betekenen dat de functie die aan een zin een waarheidswaarde toekent op zichzelf kan worden toegepast. Maar volgens Wittgenstein is dat onmogelijk.
“Eine Funktion kann nicht ihr eigenes Argument sein, wohl aber kann dass Resultat einer Operation ihre eigene Basis werden.” (5.251)
Ik studeerde op de TH af op de zelfapplicatie van functies. Deze is noodzakelijk in een wiskundige semantiek van programmeertalen, waarin de betekenis van een programma een functie is. In de computer functioneren de begrippen die Frege als functie beschouwde en die later door middel van tekens in een formele tekentaal werden vastgelegd. De expressie “Deze rood is rood” ontstaat door het predicaat “is rood” toe te passen op het object “de roos”. Het resultaat is een waarheidswaarde. Er is geen enkele interactie tussen het rood zijn en het subject. Frege’s legde de basis van de mathematische predicatenlogica en daarmee van de ‘denkende’ machines.
De wereld is de verzameling van alles wat het geval is en de taal is een verzameling zinnen. Daarbuiten is niets. Dat wil zeggen, als daar buiten al iets van waarde bestaat dan kan de taal daarover niets zeggen. Je kunt eigenlijk alleen zeggen wat al het geval is.
“Wovon man nicht sprechen kan, darüber muss man zweigen.“
Hiermee besluit Wittgenstein zijn Tractatus.
Door Hollak wordt het de meest onzinnige uitspraak van het hele werk genoemd. Want, zo stelt Hollak, waarover je niet spreken kan, daarover kun je ook niet zwijgen. Waarom niet? Omdat het niets is. Dat waarover je niet kunt spreken, dat is volgens, de filosoof, de denker Hollak, niets. Niets is immers het volstrekte tegendeel van het zijn en het zijn is datgene dat de filosoof in woorden tracht te denken. Zonder zijn is er geen filosofie. En de filosofie is dan ook precies waar Wittgenstein ons voor wilde behoeden. Filosofische uitspraken zijn onzinnige uitspraken. Volgens hem is de filosofie “een strijd tegen de beheksing van ons verstand door de middelen van onze taal.” (PU 109, blz. 63)
Het komische is nu dat terwijl je enerzijds kunt betogen dat de taaltechnologie berust op een Wittgensteiniaanse taalfilosofie die als principe heeft dat de betekenis van de woorden door hun gebruik wordt bepaald, je anderzijds als commentaar op de produkten van de taaltechnologie, de AI-systemen zoals ChatGPT, hoort dat het grootste gevaar ervan is dat ze een bepaalde taal aan ons denken opdringen. ChatGPT bepaalt niet hoe we dingen onder woorden moeten brengen, ze bepaalt wat we moeten en kunnen zeggen, schrijven en denken. Het is Hollak die op de meest indringende wijze commentaar heeft gegegeven op deze opvatting van de taal, waarvan de basis bij Frege’s onderscheid tussen Sinn en Bedeutung en de functionalisering van de taal ligt. Wat je voortdurend ziet, stelt Hollak, is dat de verwoording niet meer wordt onderscheiden.
“Wat hier bij Wittgenstein (bedoeld wordt in de PU, RodA) voorkomt, het voortdurend identificeren van het gegeven dat men een begrip, een inzicht verwoordt met het gegeven van het gebruik van die verwoordingen in de omgangstaal en in andere talen, waarin men de vele vormen van communicatie, niet waar, realiseert. Deze identificatie lijkt mij geheel en al onhoudbaar, en die komt hieruit voort, dat men voortdurend, reeds vanaf Frege, de wijze waarop men iets begrijpt en uitdrukt en datgene wat men daardoor begrijpt en uitdrukt geïdentificeerd heeft.” (Hollak, p 431 2)
Wittgenstein zegt hiermee volgens Hollak dat we de taal puur functioneel moeten bekijken. Hollak noemt dat puur functioneel bekijken van de taal typerend voor de huidige ‘hypothetische samenleving‘.
Eén van de belangrijkste critici van de ordinary language philosophy en met name van Wittgenstein, de cultureel antropoloog en filosoof Ernest Gellner (1925-1995) noemde deze taalopvatting conservatief. Verandering en innovatie is uitgesloten. Het legt immers de nadruk op hoe we vandaag de dag spreken over dingen. (Words and Things 1979). Alleen heersende taalspelen zijn goed. Zo zou je het conservatisme kunnen kenmerken. Daar komt bij dat wat heersende taalspelen zijn, in steeds belangrijker mate bepaald wordt door een select gezelschap van technocraten, Big-Tech.
Voor Wittgenstein is de slotconclusie van de Tractatus een morele uitspraak. Dat wordt duidelijk uit Wittgenstein’s latere Lecture on ethics. We moeten zwijgen over zaken die buiten de taal liggen. Uit het oogpunt van communicatie heeft het ook geen zin elkaar dingen te zeggen die er echt toe doen. Want in taal kunnen we alleen de ander iets meedelen dat hij toch al zelf heeft gedacht. Maar wat is communicatie dan nog? En wat is dat waarover je moet zwijgen? Het zelf misschien? Wat privé is? De “beetle in the box”? . Wittgenstein: als de betekenis van een woord een zuiver individueel privé ding was (‘a beetle in a box’) , dan was het volstrekt nutteloos voor het gebruik van dat woord. (PU293). Taal is een sociaal feit.
De berichten die we wel over het kanaal kunnen sturen zijn coderingen van uitspraken over ‘werkelijke’ standen van zaken. Dat wil zeggen van een wiskundig model dat de beide partners met elkaar delen. Het zenden van een bericht is het actualiseren van een mogelijkheid uit een veld van mogelijke toestanden. De informatie-inhoud van het bericht wordt bepaald tegen de achtergrond van dit veld van mogelijke berichten. Precies zoals de kans op een uitkomst van een experiment (een worp met een dobbelsteen) bepaald wordt door de relatie tot de structuur van alle mogelijke uitkomsten. Dit veronderstelt dat je weet wat alle mogelijkheden zijn die zich kunnen voordoen. “De wereld is alles wat het geval is.” En die wereld moet aan beide kanten van het kanaal als zodanig bekend zijn. Een ideale logica.
Het is de logica waarop Frege het wiskundig denken wilde funderen. Maar is wiskunde niet veel meer dan logica?
De wiskundige denkhouding
“Karakteristiek voor de mathematische denkhouding is dat het subject zich verhoudt tot iets, het object, als volledig buiten het subject dat denkt beschouwt wordt te bestaan. (..) De onderscheidingendie het maakt bestaan slechts in gedachten, zoals het vlak dat de appel in twee helften verdeeld. Deze appel blijft volledig hetzelfde, of ik hem nu als gedeeld of ongedeeld in twee helften denk.”
Structurele verdelingen zijn geen verdelingen in onze experimentele wereld van de zintuiglijke ervaring. Ze zijn slechts begripsmatig, niet ‘existentieel’. Ze gaan de wereld, noch het denkend subject werkelijk iets aan.
“Mathematisch denken is wezenlijk, en daarom noodzakelijk, dualistisch (Descartes),in de precieze betekenis dat het (denkend) subject haar object als volledig onverschillig beschouwt met betrekking tot zijn onderscheidende verschillen. Het object wordt daarom beschouwt als volledig extern t.o.v. het subject van het mathematische denken.” (LF. p 106)
Voor Descartes bestaan beide subject en object, als res cogitans en res extensa, gescheiden van elkaar, als werkelijke zijnden. Het subject is een bijzonder object dat niet in de wereld bestaat, maar daar strict van gescheiden is. Dat is de cartesiaanse ontologie waarin de dingen en het denken buiten elkaar bestaan. Er moet dus volgens Descartes een derde iets bestaan voor wie deze uitwendigheid bestaat en die zorgt voor de relatie tussen beide. Dat is volgens Descartes God. Deze God wordt gezien als grond voor zowel de eenheid als voor het onderscheid tussen beide vormen van zijn. Voor Descartes is God’s denkhouding mathematisch. Hoewel Descartes zelf dat mathematische niet had geidentificeerd zoals wij dat nu kennen als een bijzondere denkwijze. Hij is de wiskundige denker. God is de ondoorgrondelijke autocraat. Zijn wil is wet. Het lijkt een direct gevolg van de idee causa sui, in positieve zin, dat wil zeggen: zijn eigen oorzaak zijn. Het oorzaak zijn gaat vooraf aan het gegeven zijn of bestaan.
De moderne hedendaagse instantie die ons doet denken de karakteristieken van de God van Descartes, de God van de Verlichte Mens, is de kunstmatige intelligentie, de ‘Intelligent Agent’, die wordt vaak als een intelligente macht buiten ons voorgesteld. Het bestaan ervan wordt al dan niet geprojecteerd in de toekomst. Wat wij inmiddels weten – wat Descartes niet wist – is dat deze software agenten kinderen zijn uit het huwelijk van twee grootmachten: technologie en markt. Deze twee vonden elkaar in het functionele mathematische denken van de moderne verlichte mens die het om de nuttigheid der dingen gaat.
Het wiskundig denken is bij uitstek logisch en exact. Die exactheid ontleedt het aan het feit dat ze postuleert wat waar is. Ze bepaalt wat tot het model behoort, welke de individuen zijn en hoe ze benoemd worden. Die individuele objecten zijn onveranderlijk. Je kunt in de wiskunde over objecten redeneren en hun identiteit postuleren zonder dat je ze volledig hoeft te specificeren. Je identificeert ze door ze een eigen naam te geven (Kripke’s ‘rigid designators’)
In het beroemde bewijs van de stelling in de Euclidische meetkunde die zegt dat de som van de drie hoeken van een driehoek 180 graden is, hoeven we niet te zeggen of de driehoek ABC die we in dit bewijs ten tonele voeren scherphoekig, stomphoekig of rechthoekig is (het probleem van ‘Locke’s driehoek’). Als we de driehoek tekenen zal het een tekening zijn van een driehoek met één van deze drie eigenschappen. Maar de tekening is voor de wiskunde niet relevant, net zo min als de identifier die we gebruiken om de driehoek aan te duiden.
De wetenschap die exact en logisch wil zijn redeneert niet over de dynamische werkelijkheid maar over wiskundige modellen ervan. Structureringen die niet eenduidig door de werkelijkheid worden voorgeschreven, maar er wel iets over zeggen. Wie meent dat de werkelijkheid zelf een structuur is (zie bijvoorbeeld Max Tegmark’s Our Mathematical Universe) die negeert het onderscheid tussen model en werkelijkheid. Als dat zo was zouden we machines zijn.
In de dagelijkse werkelijkheid zijn individuen niet uniek te identificeren door ze te beschrijven. Namen zijn niet uniek identificerend zoals in de wiskunde. Ook in de computer heeft de identifier binnen een blok een invariante betekenis. Die hebben wij er aan gegeven. Ze zijn volledig bepaald door de functie die ze in het programma hebben. Die functie legt hun betekenis (semantiek) vast.
Voor de rechter is het echter niet te bewijzen in strikt logisch-wiskundige zin dat de verdachte de dader is. Of Demjanjuk en de door de overlevenden van Treblinka als “Iwan de Verschrikkelijke” en “De beul van Treblinka” geïdentificeerde één en dezelfde persoon zijn? Het is nog steeds niet duidelijk. Er is onderscheid tussen iemand kennen en over iemand informatie hebben. Je kunt heel veel informatie over iemand hebben en hem toch niet kennen.
Een filosofie van informatie en communicatie is een filosofie van de intersubjectiviteit.
De informatici zijn de hogepriesters van de moderne technologie. Hun tijd is geweest. Ze moeten zich verantwoorden voor de gebruikers van hun produkten, de algoritmes. Op grond waarvan delen ze de werkelijkheid en de mensen in?
Ethiek van de informatie
De 18de en laatste vraag in het lijstje van Floridi luidt: is er een fundament voor een computer ethiek?
Het is opmerkelijk dat ethiek populair is bij filosofen die nadenken over technologie. Het is niet toevallig dat Wittgenstein zijn Tractatus eindigt met een morele stellingname. De ethiek moet tegenwicht bieden tegen de mathematisering van de taal, de logica, de werkelijkheid waarin de persoon een waarde is van een variabele in een computerprogramma. De ethiek gaat niet over kennis, maar over de praktijk van het handelen, wat we er in de concrete situatie mee doen. De ethiek moet ons wijzen op de individuele persoon, de concrete unieke feiten die in de statistieken zijn verdwenen. Op de mens achter de taal.
In de wiskunde wordt de identiteit van de objecten gepostuleerd. Twee objecten kunnen precies gelijk zijn en twee beschrijvingen kunnen naar eenzelfde object verwijzen. Dat is alleen zo als we dat kunnen bewijzen. (Zie Frege’s bespreking van de Ochtendster is de Avondster). De eigenschappen van een getal worden volledig bepaald door de relaties met andere objecten binnen een structuur. Die bepalen wat ze zijn.
Voor mensen geldt dat niet. Een persoon heeft sociale rollen, en uiterlijke kenmerken, vertoont gedragingen, heeft een gezicht een eigen stem, een paspoort, een bsn nummer, maar gaat daar zelf niet in op.
Maar wel wanneer we deze persoon identificeren met hun identifier in een computersysteem. In de toeslagenaffaire berekenden computer algoritmes van de Belastingdienst op grond van gegevens van duizenden personen dat deze fraudeur zijn. Ze moesten zelf maar aantonen dat dat ten onrechte was. Maar ze kenden de weg niet bij de Belastingdienst. Konden de ambtenaren er niets aan doen? Nee, zij zijn zelf onderdeel van het systeem. Zij verwerken gegevens volgens de regels. Het zijn de agenten in Floridi’s infosphere. Kon de rechter er dan niets aan doen? De rechter stelde vast dat de algoritmes correcte implementaties van de wetten zijn. En de wet werd andermaal door de wetgevende macht bekrachtigd. Maar er was ook kritiek: het toepassen van het recht is iets anders dan het toepassen van een algoritme.
Na mijn promotie bij de toenmalige faculteit Informatica, de enige zelfstandige faculteit Informatica in Nederland, dankzij de inzet van o.a. Arie Duijvestijn, werd ik docent. Eens kwam in tijdens een wandelingetje op de campus Louk tegen. Ik vertelde dat ik mijn college aan het voorbereiden was: Formele Analyse van Natuurlijke Taal bij de onderzoekgroep Mens Machine Interactie. Ik probeer onze natuurlijke taal te formaliseren zodat we met de computer in onze eigen taal kunnen communiceren. Waarop Louk zei: “Nou dan ben je nog wel even bezig, want als je de taal wilt formaliseren dan moet je de hele mens formaliseren.” Hoe waar dit was, daar kwam ik in de loop van de jaren wel achter.
Ik probeerde natuurlijke taal interfaces en dialoogsystemen te maken door de machine als het ware de grammatica van het Nederlands te leren. Dat deed ik door de grammatica en het lexicon expliciet als regels in de computer in te voeren, zodat deze met behulp van mijn ontleedalgoritme aan een Nederlandse zin die de gebruiker invoerde een grammaticale structuur kon geven (een ontleedboom). Aan die datastructuur werd dan door middel van regels een betekenis gekoppeld, de interpretatie van de invoer in termen van een door de gebruiker bedoelde aktiviteit. Dat kon bijvoorbeeld een actie van een virtuele agent in een virtueel muziekcentrum zijn nadat de gebruiker had ingetikt: “Kun je me naar de grote zaal brengen?”.
Het bleek echter al gauw dat de naïeve gebruiker van mijn natuurlijke taal-interface zich niet hield aan de regels van mijn Nederlandse grammatica. De machine moest ook niet-grammaticale uitingen kunnen begrijpen. Het bleek onbegonnen werk om daar dan ook nog een zinvolle betekenis aan te geven. Dat was in de jaren 80 en 90.
Het alternatief voor een regelsysteem op basis waarvan een betekenis kan worden berekend was statistiek: verzamel heel veel data van interakties tussen gebruikers en probeer patronen te herkennen in de teksten die ze uitwisselen. De Large Language Models (LLMs) gebruiken statistiek. De dialoogsystemen zoals ChatGPT die gebruik maken van deze modellen doen de gebruiker soms versteld staan. Maar het blijft statistiek.
Het proces van formalisering (mathematiseren) van de hele mens waar Louk het over had, schrijdt voort met rasse schreden. Wie met machines omgaat moet zich door de machine laten programmeren. De handleiding schrijft voor wat we als gebruiker moeten doen. Het toetsenbord is de interface, het veld van mogelijkheden, de datastructuur die de gebruiker wordt aangeboden om zijn wens, zijn vraag of opdracht in te voeren.
Frege stelt in Was ist eine Funktion? (1904) de vraag wat een ‘veranderlijke’ is. Hij doelde daarmee op de variabele zoals x in f(x) = 3 x + 5. Het kan geen wiskundig object zijn, want de wiskunde kent geen verandering. Veranderlijke getallen bestaan niet. Wat is het eigenlijk dat verandert? Dat moet dan toch hetzelfde blijven. Maar wat blijft hetzelfde als een getal verandert? Niets! Maar dan is er ook geen verandering. Is het een grootte of grootheid, zoals de lengte van een staaf? Maar die behoren niet tot de zuivere wiskunde. Is het een ‘onbepaald getal’? Maar wat is dat voor ding? Wie is het die de onbepaalde x een waarde geeft? Frege komt er niet echt uit. Zijn conclusie is dat de variabele niet tot de zuivere wiskunde behoort. Het is geen wiskundig object. Voor hem is de functie ook geen wiskundig object. De functie is voor Frege een virtueel iets, een onverzadigde term, dat pas samen met een ander virtueel iets (waarop de functie wordt toegepast) iets reëels oplevert. Het zou nog een halve eeuw duren voordat de functie de status van wiskundig object kreeg. De functie wordt in de lambda-calculus aangeduid met een lambda term, een formule die zegt hoe uit de waarde die de onafhankelijke variabele van buiten af krijgt toegekend de functiewaarde berekend wordt.
We weten nu dat de veranderlijke de ‘interface’ is tussen de gebruiker en de machinerie, tussen de steller en de aangeboden vorm waarin iets nog onbepaalds bepaald kan worden: een waarde kan krijgen. Het is degene die het argument van de functie een waarde geeft. Het is het generieke ‘u’ in “Fijn dat u luistert.” dat door de luisteraar wordt ingevuld: die ‘u’ dat is de luisteraar, het individu dat luistert en zich aangesproken zou moeten voelen.
Wat is nu de relatie tussen wiskunde en werkelijkheid? Als wiskunde een wetenschap is, wat wordt er dan geweten? Waar is het kennis van? Is de inhoud van de wiskundige kennis het verstandelijk vermogen om structuren te construeren? Of ligt de inhoud van de kennis aan de kant van de natuur. Is het kennis van een aspect van de werkelijkheid buiten het verstand zelf. Waar ontmoeten deze twee: verstand en werkelijkheid elkaar? Waardoor wordt de grens van de wiskundige denkhouding waarvanuit we de wereld stuctureren bepaald? Wat is niet reduceerbaar tot de structureerbaarheid. Moet dat niet de natuur zelf zijn, als het vrij vermogen en de vrije wil zichzelf in structuren uit te drukken in plaats van van buiten af door het verstand een structuur opgelegd te krijgen? Die natuur toont zich overal waar de individuele mens zich verhoudt tot en soms onttrekt aan de bepalingen (de categorieën en datastructuren) die de wetenschap en de technologie haar oplegt. Waarom? Omdat de mens met zijn gezond verstand (‘common sense’) zichzelf en dat waar het in zijn leven om gaat, zijn kind, zijn werk, zijn leven, niet herkent in de mathematische modellen van de wetenschap. “Ik ben niet een waarde van een variabele!” zei de logicus Hilary Putnam. De mens kan niet zonder een levensvorm, zonder een sociale structuur. Maar hij gaat er niet in op. De fysicus en medeoprichter van het Future of Life Institute Max Tegmark verdedigt in Our Mathematical Universe de idee dat ons universum een mathematisch object is. Dat zou verklaren dat wiskunde overal toepasbaar is. Het Universum dat Tegmark beschrijft en waarin alles inclusief het leven is gemodelleerd is echter een uitwendig universum. We zullen ons zelf er niet in herkennen. Maar als de grens van de mathematisering in het leven ligt, dan moet het ook al overal aanwezig zijn waar de natuur haar eigen wezen toont.
Voor Wittgenstein begint hier de mystiek, op de grens van wat zich nog in de taal laat uitdrukken. Maar misschien had hij wel een te bekrompen voorstelling van de taal.
“The unspoken is present in all speech, and we cannot get rid of speech when trying to concentrate on the unspoken, that is exactly the paradox of the last sentence of the Tractatus.” is het commentaar van Louk. (Fleischhacker, 1995, p.82) Hij houdt een pleidooi voor de filosofie als een derde vorm van kennis naast de directe levenservaring en de mathematische kennis.
Taalgebruik in de filosofie is reflexief. Het doel is niet wat de vorm suggereert een communiceerbare inhoud, een feit of stelling mede te delen. In een filosofisch discours gaat het niet om informatieoverdracht. Het gaat erom een denkbeweging mee te voltrekken waarin een impliciet inzicht verwoord wordt.
Eén van de moeilijkste problemen van het denken is dat het verstand niet zonder onderscheidingen kan. Om te zeggen wat iets is, moeten we het onderscheiden van andere dingen, die het niet zijn. Veel van die onderscheidingen komen in de werkelijkheid echter niet gescheiden voor. In de filosofie zijn er legio van dit soort onderscheidingen: materie/vorm, subject/object, oorzaak/gevolg, deel/geheel, eenheid/veelheid. Filosofen hebben de neiging te vervallen in hetzij een dualisme, waarin de twee als gescheiden werkelijkheden worden gezien, hetzij een monisme, waarin de twee als eenheid worden beschouwd en het onderscheid wordt ontkend.
Dit zien we ook als we kijken naar het actuele probleem van taal en werkelijkheid. Volgens Fleischhacker is dit in zekere zin hetzelfde probleem als dat van de intelligibiliteit (de begrijpelijkheid, of bepaalbaarheid) van de wereld waarin we leven. Begrijpelijk (intelligibel) zijn betekent dat het verstand (het intellect) er toegang toe heeft. De enige manier waarop dat zich kan manifesteren is dat er iets over gezegd kan worden dat zin heeft (something that makes sense).
Bij het meetprobleem in de deeltjesfysica duikt dit probleem ook op. Einstein kon niet accepteren dat de werkelijke toestand van een systeem pas door het observeren (meten) ervan bepaald wordt, zoals Niels Bohr beweerde. Volgens Bohr kun je de werkelijkheid niet beschrijven zonder de meetmethode te beschrijven. Het geeft een recept voor de reproduceerbaarheid van het meten. En wat niet reproduceerbaar is is ook niet werkelijk. Hierin herkennen we weer de mathematische denkwijze. Het gaat om de methode, tegenover een als potentieel oneindig reproduceerbaar gedacht proces.
De vergeten lichamelijkheid
De mathematische denkhouding die abstraheert van de zintuiglijk waarneembare werkelijkheid en die tot de succesvolle technologie heeft geleid, heeft haar keerzijde in de problemen van de welvaartstaat. Het natuurbegrip van de moderne mathematische natuurwetenschappen is een abstract begrip waar het leven uit is weggelaten. Veel technologie is onpraktisch en niet dienstbaar aan de mens. Veel technologie heeft slechts economisch belang voor een kleine bezittende elite, in wier handen de niet-bezittenden manipuleerbare instrumenten zijn.
Dat de mens niet een denkend ding is maar als lichamelijk wezen een onderdeel is van de natuur dat vormt de kern van de problemen van de welvaartstaat. Die lichamelijke zintuiglijke aanwezigheid als deel van de natuur is een niet te ontkennen feit. De robot heeft geen lichaam Deze is niet aanwezig, voelt geen pijn, kent geen moeite. Het kent deze meest basale tekens van werkelijkheid niet. De eindigheid van onze natuur, onze biologische, culturele en historische bepaaldheid, staat in schril contrast met de oneindigheden van ons denken in ideale constructies. Alle grote problemen: rondom milieu en klimaat, grondstoffen, migratie zijn uiteindelijk terug te voeren tot de eindigheid en de behoeftigheid van de mens.
De informatierevolutie heeft zijn uitwerking in een nieuwe revolutie: een samenleving waarin de mens niet meer handelt tegenover de natuur maar vanuit een besef dat het in het leven om het leven gaat, dat hij als lichamelijk dier een onderdeel van de natuur is. Dat de natuur als intelligente natuur een eigen betekenis en zin heeft.
Bronnen
Rieks op den Akker (1983). De zelfstandigheid van automaten en de semantiek van programmeertalen, Intern rapport Technische Hogeschool Twente, Onderafdeling Wijsbegeerte en Maatschappijwetenschappen (ook als intern rapport verschenen bij de Onderafdeling der Informatica).
Austin, J.L. 1956. Other Minds. In: Philosophical Papers, Third Edition, Edited by Urmson, J.O. and Warnock, G.J., Oxford University Press, 1979.
Hierin wijst Austin op de neiging te spreken alsof de sense data met woorden gelabeld zijn. De dingen zeggen wat ze voorstellen. Alsof het feiten zijn. De rhinoceros zegt ik ben een rhinoceros.
J. Christiaan Boudri (1994). Het mechanische van de mechanica – Het krachtbegrip tussen mechanica en metafysica van Newton tot Lagrange. Proefschrift Universiteit Twente. Promotor: Prof. dr. H.F. Cohen.
Boukema, Harm (1986). Familiegelijkenissen – Wittgenstein als criticus en erfgenaam van Frege. Tekst van een lezing gehouden tijdens de studiedagen van het Wijsgerig Gezelschap op 24 mei 1986 te Leuven.
Boukema, Harm (1987). Over de grenzen van de reflexiviteit. In: Reflexiviteit en Metafysica. Bijdragen aan het symposium bij het afscheid van prof. J.H.A. Hollak. (Redactie: Louk Fleischhacker). Filosofische Reeks Centrale Interfaculteit Universiteit van Amsterdam, nr. 20. 1987, pp. 6-19.
P. de Bruin S.J. (1937). Philosophie der Techniek. Studia Catholica 13 (1937),pp 437-464.
Maarten Coolen (1992). De machine voorbij. Over het zelfbegrip van de mens in het tijdperk van de informatietechniek, Boom, Meppel, 1992.
Maarten Coolen (1979/80). Aantekeningen bij het Colloquium Antropologische Interpretaties van de Techniek, Universiteit van Amsterdam, 1979/80.
Albert Einstein, B. Podolsky, and N. Rosen. (1935). “Can Quantum-Mechanical Descriptions of physical Reality Be Considered Complete?” Physical Review 47: 777-80.
Floridi Luciano (2003). On the intrinsic value of information objects and the infosphere. In: Ethics and Information Technology, volume 4, pages 287–304(2002)
Luciano Floridi (ed.) (2016). The Routledge Handbook of the Philosophy of Information.
Louk Fleischhacker (1974). Inleiding Logica (I en II). Collegedictaat Technische Hogeschool Twente, Vakgroep Wijsbegeerte.
De wiskundige “betekenis” van een teken is radicaal onderscheiden van het teken zelf, maar deze is toch ook niet anders dan door middel van dit teken toegankelijk. Hoe we ons een wiskundig denkmaaksel ook voorstellen, we moeten om het zelfstandigheid te verlenen door middel van een teken voorstellen.
Als het niet absurd is de wiskundige abstractie van ‘3 + 5’ en ‘8’ naar ‘3 + 5 = 8’ uit te strekken, waarom moeten we dan terugdeinzen voor ‘Het gras is groen.” ? Want subject en predikaat van zo’n “gewoon” oordeel zijn toch ook abstract op zich te stellen? (p. 77)
In de wiskunde is de betekenis de begrepen betekenis (de structuur die wij hebben bedacht). Maar de structuren waarmee we de werkelijkheid begrijpen zijn in die werkelijkheid zelf niet aanwezig. Begrijpen is geen afbeelden! (p. 75)
Austin lijkt in zijn commentaar op Wisdom in Other Minds op een zelfde verwarring te wijzen. Het gebruik van een grammaticale constructie alsof de dingen zelf zeggen wat ze zijn.
Louk Fleischhacker (1976) Wijsbegeerte van Wiskundig Denken, Collegedictaat 2de semester van het collegejaar 1975/76 Onderafdeling Wijsbegeerte en Maatschappijwetenschappen, Technische Hogeschool Twente, 1976.
Louk Fleischhacker (1982). Over de grenzen van de kwantiteit. Proefschrift. Amsterdam UvA; 24.09.1982; promotor: Prof. dr. J.H.A. Hollak; co-promotor Prof. dr. P.C. Baayen; co-referent Prof. dr. E. van der Velde.
Louk E. Fleischhacker (1993), `Het mathematisch ideaal’ in: De Uil van Minerva, Gent 1993, pp. 165-180.
Louk Fleischhacker (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.
Gottlob Frege (1879). Begriffschrift, a formula language, modeled upon that of arithmetic, for pure thought. Engelse vertaling opgenomen in: Jean van Heijenoort, From Frege to Gödel, a source book in mathematical logic. Harvard University Press, Cambridge , Mass.(1967).
Frege, Gottlob (1986). The Foundations of Arithmetics: a logico-mathematical enquiry into the concept of number. English translation by J.L. Austin, 2nd revised edition. Basil Blackwell Oxford, 1986.
Frege, Gottlob (1882). Uber die wissenschaftliche Berechtigung einer Begriffschrift. Opgenomen in: Gottlob Frege: Funktion, Begriff, Bedeutung, Uitgave: Vandenhoeck & Ruprecht in Gottingen, pp. 91-97, 1975.
Frege, Gottlob (1892). Uber Sinn und Bedeutung. Opgenomen in: Gottlob Frege: Funktion, Begriff, Bedeutung, Uitgave: Vandenhoeck & Ruprecht in Gottingen, pp. 40-65, 1975.
Frege voert de term ‘Gedanke’ in voor de inhoud van een oordeelszin:”Ein solcher Satz enthält einen Gedanken.” “Ich verstehe unter Gedanke nicht das subjektive Tun des Denkens, sondern dessen objektiven Inhalt, der fähig ist, gemeinsames Eigentum von vielen zu sein.” (Voetnoot p. 46).
“Warum genügt uns der Gedanke nicht? Weil und soweit es uns auf seinen Wahrheitswert ankommt. Nicht immer ist dies der Fall. Beim Anhören eines Epos z.B. fesselen uns neben dem Wohlklange der Sprache allein der Sinn der Sätze und die davon erweckten Vorstellungen und Gefühle. Mit der Frage nach der Wahrheit würden wir der Kunstgenuss verlassen und uns einer wissenschaftlichen Betrachtung zuwenden.” (Frege, Über Sinn und Bedeutung, 1892, p. 48)
Of het ons “gleichgultig” is dat ChatGPT ons een werkelijkheid voorstelt die waar is of niet, hangt daarvan af of we deze machine als kunstwerk dan wel als wetenschappelijk beschouwen.
“Ich verstehe unter dem Wahrheitswerte eines Satzes den Umstand, das er wahr oder das er falsch ist.” (Frege, 1892, Über Sinn und Bedeutung)
Georg W.F. Hegel (1969). Jenaer Realphilosophie – Vorlesungsmanuskripte zur Philosophie der Natur und des Geistes von 1805-1806. Uitgave Johannes Hoffmeister, Verlag von Felix Meinder, Hamburg, 1969.
De woorden programmeren ons denken. In de Jenaer Realphilosophie (1805/06) spreekt de jonge Hegel van het “mechanische” gebruik van woorden.
Georg W.F. Hegel (1807/1975). Phänomenologie des Geistes. Suhrkamp Taschenbuch, 1975.
Hertz, Heinrich (1894). Die Prinzipien der Mechanik in neuen Zusammenhange dargestellt. Mit einen Vorworte von H. von Helmholtz
Jan Hollak en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010.
E.T. Jaynes (2003). Probability Theory, The Logic of Science. Cambridge University Press, 2003.
Maar ze stelt wel vragen bij het gebruik van algoritmes door de overheid. Er hangt een mystieke sfeer rond algoritmes. Veel mensen vinden ze ‘eng’. De overheid wil algoritmes ‘demystificeren’. De Rekenkamer komt met een toetsingskader voor ethisch verantwoord gebruik van algoritmes door de overheid. Een goede zaak. Een paar kanttekeningen.
Concrete toepassingen van het toetsingskader op door de overheid gebruikte algoritmes, zoals predictive policing en (etnisch) profileren door de politie en de AIVD of door Defensie in onbemande vliegtuigen ontbreken echter in dit rapport. Zie over bedenkelijke gevolgen van dergelijke algoritmes bijvoorbeeld Cathy O’Neil (2016) Weapons of Math Destruction.
Verder ontbreekt een systematische analyse van alle stakeholders van een algoritme en hun verantwoordelijkheden; van wetgever en beleidsbepaler tot de burgers die te maken hebben met de besluiten die op grond van het gebruik van algoritmes door de overheid genomen worden.
Tot slot wordt in het rapport geen aandacht besteed aan de denkmethodes achter de algoritmes. Er is geen aandacht voor de logica van het gebruik van wiskundige modellen waarop algoritmes gebaseerd zijn. Algoritmes zijn gebaseerd op berekenbare modellen. Wiskundige modellen zijn abstracties van de werkelijkheid waarin aspecten genegeerd worden ten behoeve van de praktijk. Statistische methodes gaan over klassen van individuen en abstraheren van het individu. Computers verwerken informatie, een gedepersonaliseerde vorm van kennis volgens algemene rekenregels. Een wereld zonder algoritmes is niet denkbaar. Ze zijn van groot nut. Niet alleen voor de overheid.
De logica die toegepast wordt bij het ontwikkelen en gebruik van modellen is inductief: het denken springt van noodzakelijk beperkte ervaringen en data naar algemene conclusies. Dat maakt deze wijze van denken zeer foutgevoelig. Soms spreekt men van ‘ongewenste neveneffecten’, van ‘bedrijfsongevallen’ of ‘çollateral damage’.
De ethiek, in de vorm van ethische richtlijnen moet tegenwicht bieden tegen de abstractie en de generalisatie die wezenlijk kenmerk zijn van het mathematiseren van de werkelijkheid en de aandacht richten op de concrete werkelijkheid van de individuele burger, of de instantie waarover het gaat.
Een individu mag nooit beoordeeld worden uitsluitend en alleen op grond van het feit dat deze tot een bepaalde referentieklasse behoort. Zie bijvoorbeeld Colyan et al. (2001).
Predictive policing is een techniek die leidt tot het bevestigen van vooroordelen die ingebakken zitten in de data.
Het is een goede zaak dat de Rekenkamer aandacht heeft voor algoritmes want er overheerst in onze technologische samenleving een neiging om systemen steeds autonomer te maken, in die zin dat ze steeds meer zelfstandig beslissingen nemen en acties uitvoeren. De mens wordt uit het systeem gehaald (‘human-out-of-the-loop’) . Volgens sommigen is dat noodzakelijk omdat deze te traag is of omdat de mens te vaak fouten maakt. Producten van artificial intelligence (slimme algoritmes) nemen de taken van de mens over. Daar moeten we boven op zitten. Anders loopt het uit de hand.
Gisteren, 26 januari 2021, bood de Rekenkamer haar rapport Aandacht voor Algoritmes aan de Tweede Kamer aan. De Tweede Kamerleden kunnen er mee aan de slag.
Als oud-docent programmeren die studenten het schrijven van algoritmes leerde kun je alleen maar verheugd zijn met deze aandacht voor deze praktische kunst.
Iedereen maakt dagelijks, zonder het te weten, gebruik van honderden algoritmes. Dat is het mooie van techniek: je gebruikt het zonder je druk te hoeven maken over hoe het werkt. Anderen hebben voor jou het denkwerk verricht. Dat is mooi. Zolang het maar werkt. Algoritmes zitten in spam mail filters, in tekstverwerkers, in browsers, in diensten die via het internet juist die advertenties tonen die in jouw persoonlijke profiel passen (ook door algoritmes bepaald), in je navigatiesysteem. Ze zitten ingebakken in chips bijvoorbeeld in wasmachines, in je solar tracker en in je energietransformator.
Maar waarom deze aandacht van de Algemene Rekenkamer voor algoritmes? Is daar soms iets mis mee? Het gaat haar echter niet om de algoritmes zelf maar om het gebruik van algoritmes door de overheid. Daar zit vanwege diverse affaires een verdacht geurtje aan. Denk aan de toeslagenaffaire waarbij algoritmes gebruikt werden die burgers ten onrechte als fraudeur bestempelden.
Ter motivatie van het werk zegt het rapport:
Bij de uitvoering van het beleid maakt de rijksoverheid gebruik van algoritmes. Algoritmes zijn sets van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden. We wilden onderzoeken wat die algoritmes nu precies wel en niet doen, demystificeren dus. We wilden vragen beantwoorden als: hoe voorkomt de rijksoverheid dat er vooroordelen in algoritmes sluipen? Overziet de rijksoverheid wat de inzet van algoritmes voor gevolgen heeft voor personen en bedrijven die met het overheidsbeleid te maken krijgen?
Het gebruik van algoritmes demystificeren. Wat is het geheim achter het gebruik van algoritmes? Hoe “sluipen vooroordelen in algoritmes”.
Algoritmes kennen zeer uiteenlopende verschijningsvormen van rekenmodellen, beslisbomen en andere statistische analyses tot complexe dataverwerkingsmodellen en ‘zelflerende’ toepassingen.
Zowel binnen de rijksoverheid als daarbuiten wordt al jarenlang gebruik gemaakt van algoritmes, maar door de negatieve aandacht wordt dit als ‘eng’ ervaren. Stelt het rapport.
Meer begrip kweken voor algoritmes en hun gebruik
Het is wenselijk dat de techniek rondom algoritmes beter wordt begrepen en er meer inzicht wordt geboden in het gebruik van algoritmes zodat de ‘hype’ er af gaat (demystificatie);
Als voorbeeld wordt genoemd SyRI (Systeem Risico Indicatie), een systeem dat binnen de overheid (zoals de UWV en de Belastingdienst) werd gebruikt om fraude op te sporen met algoritmes. In februari 2020 oordeelde de rechter dat de wetgeving die de inzet van SyRI regelt een te grote inbreuk op de privacy van burgers vormde.
Er is behoefte aan een toetsingskader of richtlijn voor het gebruik van data en algoritmes door de overheid.
Het rapport noemt enige soorten algoritmes.
Een voorspellend algoritme wordt ingezet voor een analyse van de vraag ‘Wat zal er gebeuren?’.
Een voorschrijvend algoritme voor een analyse van de vraag ‘Wat moet er gebeuren?’. Medische decision support systemen en triage procedures zijn van dit type.
Een ‘lerend’ algoritme ontdekt in de loop van de tijd, op basis van nieuwe data, nieuwe verbanden (correlaties) en genereert op basis daarvan uitkomsten.
Machine learning algoritmes maken dat computers verbanden tussen gegevens kunnen ‘leren’ uit een verzameling gegevens. Deze verbanden kan ze toepassen op nieuwe gegevens doordat de mens of de omgeving waarin het systeem wordt toegepast terugkoppeling (feedback) geeft aan de computer. Lerende systemen worden gebruikt voor bijvoorbeeld spam mail filters of in een tekstverwerker die spellingfouten aangeeft of een suggestie doet voor het woord dat bedoeld zou zijn.
Deep learning is een vorm van machine learning waarbij modellen worden gebruikt die overeenkomsten vertonen met neurale netwerken in het brein.
Waar het de Rekenkamer om gaat is de vraag of het gebruik van algoritmes wel altijd ten goede komt van de burgers. Dat dat niet altijd zo is bleek onlangs weer eens uit het verslag van de commissie die onderzoek deed de toeslagenaffaire bij de Belastingdienst. De Autoriteit Persoonsgegevens constateerde al dat de overheid persoonsgegevens, zoals nationaliteit en dubbele nationaliteit, gebruikte in computersystemen om mensen als mogelijk fraudeur te classificeren. De overheid doet aan (etnisch) profileren. Ze behandelt burgers op basis van een profiel, een referentieklasse waarin ze de burger heeft ingedeeld, op grond van een paar kenmerken.
De Rekenkamer heeft gekeken waar bij de overheid wat voor soort algoritmes gebruikt worden. Het gaat haar uiteindelijk om een (ethische) toetsing van het gebruik van algoritmes.
De vragen in het toetsingskader zijn mede opgesteld aan de hand van ethische principes. Zie onderstaande tabel. Voor de toetsing zijn vragen opgesteld die tot een score moeten leiden van een algoritme.
De ethische principes van het toetsingskader voor algoritme en data gebruik door de Nederlandse Overheid (bron: Aandacht voor Algoritmes)
Voordat het kader gebruikt wordt zijn er een aantal Algemene Vragen, zoals “Is het zelflerend?” en “Maakt het gebruik van persoonsgegevens?” en “Is het een autonoom systeem, dat handelt zonder tussenkomst van de mens?” (Denk aan de ontwikkeling van Killer Robots bij Defensie).
De vragen in het toetsingskader zijn mede opgesteld aan de hand van deze ethische principes. Deze zijn grotendeels afkomstig uit rapporten van de EU. Ethic guidelines for trustworthy AI (2019) en Whitepaper on Artificial Intelligence – A European approach to excellence and trust (2020) van de Europese Commissie (2019).
Wie zijn de stakeholders?
Het is goed om een onderscheid te maken tussen de diverse betrokkenen rond een algoritme. Wie spelen daarbij welke rol. Wie zijn de stakeholders?
De wetgever, de producent van het computersysteem, de opdrachtgever, de koper, de onderhouder, de gebruiker, de leveranciers van de gegevens, de gegevensbeheerder, degenen waarop de (persoonlijke) gegevens betrekking hebben, de burger die betrokken zijn bij het beheersdomein waarbinnen het algoritme werkt, aanbevelingen doet.
Voor elk van deze betrokken moet in kaart gebracht worden in welk stadium van de levensduur van een algoritme ze welke rechten, plichten en verantwoordelijkheden hebben en of er voldoende garanties zijn voor de uitvoerbaarheid van deze verantwoordelijkheden. Zover gaat het rapport niet.
Conclusies van de Rekenkamer
Bij uitbesteding van algoritmes of onderdelen daarvan zitten overheidsorganisaties er niet altijd dicht genoeg op en is er in een aantal gevallen minder grip dan bij algoritmes in eigen beheer.
Als voorbeeld kan genoemd worden predictive policing systemen die door derden zijn geleverd en waarbij de producent zijn methode als bedrijfsgeheim voor zich houdt. Maar ook wanneer een systeem deels intern ontwikkeld is samen met een softwarebedrijf betekent dit vaak dat de gebruiker niet weet wat de beperkingen ervan zijn. Voor de gebruikers, de uitvoerende ambtenaar, is het systeem een black box.
Ook al is het algoritme ‘op papier’ perfect, de mens maakt het algoritme en bepaalt welke data het algoritme gebruikt. Er kan nooit met 100% zekerheid worden gesteld dat modellen (of mensen) geen bias hebben en daarmee niet discrimineren. Het lijkt belangrijk dat ook de politiek zich dat realiseert voor het nemen van effectieve en haalbare beheersmaatregelen.
Programmeren is een kunst. Er worden veel fouten gemaakt. Uit jarenlange ervaring in het lesgeven kan ik concluderen dat mensen moeite hebben met wat in het jargon “exception handling’ heet; het afhandelen van uitzonderingen. Sommige statistici gooien excepties gewoon weg omdat ze deze als fout bestempelen. Het debuggen van software is net zo moeilijk, zo niet moeilijker, dan het schrijven van foutloze code.
We zouden binnen de rijksoverheid (minimale) eisen moeten stellen aan de toepassing van algoritmes zodat hier op een verantwoorde wijze mee wordt omgegaan.
De uiteindelijke verantwoordelijkheid voor de fouten ligt bij de Minister. Helaas meestal geen expert in het domein. Ze is afhankelijk van de informatie die de ambtenaren haar geven. Gezien de toeslagenaffaire schort er nogal wat aan de communicatie netwerken. De mens is en blijft daarin de zwakste schakel.
Literatuur
Cathy O’Neil (2016) Weapons of Math Destruction, How big data increases inequality ans threatens democracy. Penguin Books, 2016.
Colyan et al. (2001). Is it a crime to belong to a reference class? The Journal of Political Philosophy, Volume 2, Number 2, pages 168-181, 2001.
“…the impossibility of a scientific definition of life is in no way a deficiency of science. On the contrary, the recognition that this is so, is a sign of honesty and scientific seriousness.”
(Louk E. Fleischchacker, 1998)
We hadden het allemaal zo mooi verdeeld. De fysica bestudeert de dode natuur, dat is: de natuur als levenloos, de biologie de levende natuur. Veranderingen die plaats vinden en die verklaard kunnen worden door een inwerking van buiten af zijn mechanische veranderingen. Dingen die zelf veranderen, waarbij de verandering van binnen uit komt, daarentegen behoren tot de levende organismes. Voor zover iets een verandering ondergaat is die gevolg van een oorzaak die in iets anders gelegen ligt. De billardbal beweegt niet uit zich zelf, deze moet bewogen worden door een inwerkende kracht. Die kracht nemen we niet zelf waar. Wat we zien zijn de uitwerkingen. In de moderne mechanica is het krachtbegrip als een te antropomorf, metafysisch begrip verbannen.
Het krachtenveld bepaalt de bewegingen van de objecten als iets vreemds dat hen overkomt. Het zware object onderhevig aan het zwaartekrachtveld is als een dobber die meebeweegt met het wateroppervlak. Wat we waarnemen, de verschijnselen zijn uitingen van een wetmatigheid die we beschrijven door middel van wiskundige wetten, de taal van de natuur.
Wie deze opdeling in dode en levende natuur zo opvat dat we in de wereld om ons heen hier de dingen hebben die dood zijn en daar de dingen die levend zijn, die komt al gauw voor verrassingen te staan. Wie meent de levende van de dode dingen te kunnen scheiden na een intern onderzoek van de dingen, die vindt het verschil niet. Alles blijkt uit dezelfde soort van bouwstenen te bestaan: moleculen. Die bij nadere beschouwing weer uit elementaire deeltjes blijken te bestaan die zich dan weer gedragen als de golven van het wateroppervlak, dan weer meer als de dobber die meebeweegt op de golven. Het verschil is niet dat tussen dood en leven, maar tussen twee wijzen van opvatten van de natuur: de natuur als levenloos (fyscia) en de natuur als levend (biologie). Dood is wat levend was, of wat eigenlijk levend hoort te zijn. Levenloos abstraheert van het verschil tussen dood en levend.
Is er dan geen objectieve grond in de realiteit voor dit onderscheid? Hoe weten we of we iets als levenloos of als levend moeten beschouwen?
Behoort het virus nu tot de dode natuur of tot de levende natuur? Hermann Weijl noemde het virus een grensgeval. Het kan niet uit zichzelf voortbestaan. Het heeft daarvoor een levende cel als ‘gastheer’ nodig. En waaronder moeten we het klimaat scharen? Is dat een verschijnsel van de fysische natuur? Of is het een biologisch verschijnsel, een verschijnsel van de levende natuur? Het is maar hoe je er naar kijkt. Maar maakt het dan voor de werkelijkheid niets uit vanuit welk perspectief je er naar kijkt? Misschien wel in zoverre dat perspectief bepaalt hoe we met de werkelijkheid omgaan.
De wetenschapper gaat er als wetenschapper vanuit dat de werkelijkheid in principe voor de wetenschapper begrijpelijk is. Dat houdt niet noodzakelijk in dat de werkelijkheid zich aan de wetten van de logica houdt. Het houdt slechts in dat de werkelijkheid van de wetenschapper voor hem begrijpelijk is. Deze zoekt voortdurend van binnenuit de grens van het begrijpelijke. Buiten die grens is het toevallige, het toevallige van de feitelijkheid. Dat wat hem overkomt; de data die de tijd hem levert.
Het principe van de kleinste actie
De verlichte wiskundige en filosoof Pierre Louis Maupertuis (1698-1759) formuleerde het principe van de kleinste actie. “De natuur is spaarzaam in al haar acties.” Hij meende dat dit zowel voor het licht als voor de planten als voor de dieren gold. Dat het licht de kortste weg kiest tussen twee punten, dat wil er nog wel in, en dat een appel die uit de boom valt de kortste weg kiest naar de grond ook nog wel, maar of dit ook opgaat voor de levende natuur? Kiest de vogel de kortste weg?
“The living bird’s trajectory differs from that of a dead bird in an objective, measurable manner.” schrijft de biofysicus. Het gedrag van de vogel kan niet louter verklaard worden uit de principes van de mechanica. Dat gedrag is doelmatig en heeft een functie. De vogel kiest zijn eigen eindpunt van activiteit. Willen we vasthouden aan het actie principe dan zullen we moeten vastleggen wat het doel is van de vogel. Hoe komen we daarachter? We kunnen het de vogel niet vragen. Wordt het gedrag van de vogel door condities buiten hem om volledig bepaald? Reageert iedere vogel, ieder exemplaar van een soort op geheel eigen wijze op de omstandigheden? Wat we inderdaad kunnen observeren is het door de vogel feitelijk gerealiseerde eindpunt van zijn afgelegde trajectorie. Maar in hoeverre was dit ook bedoeld? En in welke zin heeft het dit punt via de ‘kortste weg’ bereikt? Volgt de vogel een bepaalde regel bij het kiezen van zijn doel? Heeft hij iets te kiezen? Zijn er mogelijkheden voor de vogel? Kent de vogel twijfel?
De hypothetische wetenschap
Opmerkelijk is dat vergelijkbare vragen gesteld worden bij de pogingen het gedrag van licht te verklaren binnen een deeltjestheorie van het licht. Van een individueel deeltje is niets te zeggen over welke route het zal kiezen, wanneer een deel van het licht door een ruit gaat, een ander deel weerkaatst wordt. Is er een moment waarop bepaald is welke route het kiest? Volgens de astrofysicus Vincent Icke is er Niets dat daarvan de oorzaak is. (zie De Principes van Huygens). Pas door de meting, het observeren van de resultaat-toestand wordt wat eerst onbepaald was, bepaald.
Ook volgens Niels Bohr kun je alleen spreken van het resultaat van de interactie van meetsysteem en de gemeten werkelijkheid. Het heeft geen zin te spreken van een werkelijke toestand op zich, waarbij je afziet van de observatie. Het gaat er in de natuurwetenschap om de methode van meten zodanig te beschrijven dat het resultaat ervan wat dat betreft reproduceerbaar is. Andere meetmethoden en experimenten gebaseerd op alternatieve theorieën zullen andere resultaten opleveren. In die zin is onze wetenschappelijke kennis fundamenteel hypothetische van karakter. En dat geldt dus ook voor de toepassingen van deze kennis in de technologie. Ook daaraan kleven de hypothesis die door de experimenten bevestigd zijn.
We zouden nog een stapje verder kunnen gaan. De filosoof Jan Hollak noemde onze op de kapitalistische markt- en kenniseconomie gebaseerde samenleving zelf ook ‘hypothetisch’. Deze wordt gekenmerkt door het primaat van het functionele denken: alles moet functioneel, nuttig zijn.
Informatie als gemeenschappelijk fundament
Pogingen de fysica en biologie van een gemeenschappelijk fundament te voorzien hebben geleid tot een aanpak waarbij het informatiebegrip een sleutelrol speelt. Fysica en biologie beschrijven niet de wetten van de natuur, maar de regels volgens welke de natuur informatie verwerkt zegt R.L. Summers in: An Action Principle for Biological Systems. Informatie is de geobjectiveerde vorm van de wijze waarop wij als kennend subject de werkelijkheid vorm geven. Deze als toestanden van een systeem gedachte kennisvormen zien we vervolgens als elementen die de werking van het organisme bepalen. In die zin functioneert het levende organisme door verwerking van zijn eigen informatietoestand. Het organisme reflecteert zichzelf en uit dit in de werking volgens zijn eigen programma, neergelegd in de mathematische informatiestructuren van zijn genen. Zo reproduceert het voortdurend zichzelf. Oorzaak, doel en proces; zijn hierin werkend identiek. De wiskundige uitdrukking van deze zelf-objectivatie en zelf-realisatie is de vergelijking waarin een functie op zichzelf wordt toegepast en als resultaat deze zelf-applicatie heeft. Vanuit het perspectief van de wiskunde is er geen verschil in de autonome machine (de geprogrammeerde automaat) en het levend organisme. Het leven is voor het verstandelijk, mathematiserende wetenschappelijk denken het onbegrijpelijke; dat wat buiten het begrip valt.
In The Dancing Wu Li Masters voert Gary Zukav de figuur Jim de Wit op. Wanneer Zukav hem de hierboven vastgestelde afbakening van het onderzoekterrein van de fysicus meedeelt, stelt Jim vast dat ook mensen, net als stenen, naar beneden vallen als je ze loslaat boven een afgrond. Dus concludeert deze ‘perpetual champion of the non-obvious’ dat de fysica ook over de levende natuur gaat. Waarop Zukav met de volgende reactie komt.
“But that is an unfair example, we say. Rocks have no choice in the matter of falling. If we drop them, they fall. If we don’t drop them, they don’t fall. Humans, on the other hand, exercise choice. Accidents excluded, humans ordinarily are not found in the act of falling. Why? Because they know that falling may hurt them and they have no desire to be hurt.
In other words, humans process information (they know that they may be hurt) and they respond to it (by not falling). Rocks can do neither.”
Maar hoe weten we dat een rotsblok, en in het algemeen de anorganische materie van de fysica, niet ook op één of andere manier kennis heeft van de wetten van de natuur en zich volgens die wetten gedraagt?
“Something is “organic” if it has the ability to process information and to act accordingly. We have little choice but to acknowledge that photons…do appear to process information [in the two-slit experiment] and to act accordingly, and that therefore, strange as it may sound, they seem to be organic”.
Ergo, ook op het meest fundamentele niveau van de fysica is het de informatica die ons de termen en modellen bieden voor het beschrijven van de werkelijkheid. Alles is informatie, volgens Luciano Floridi. Waarmee de vraag zich opdringt: wat is informatie?
Gewoonlijk maakt de bioloog zich niet zo druk om het begrip dat hun onderzoekterrein afbakent. En dat geldt evenzeer voor de beoefenaren van andere wetenschappen. Gedragswetenschappers wagen zich gewoonlijk niet aan een definitie van ‘gedrag‘. De informatie- en computerwetenschapper houdt het bij een intuïtief begrip van ‘informatie‘. Het bepalen van de grondbegrippen die het domein van de verschillende wetenschappen begrenzen wordt tegenwoordig aan de filosofen overgelaten.
In ‘On the notion of life’ stelt de wiskundige en filosoof Louk Fleischhacker dat die grenzen van de wetenschappelijke disciplines volledig willekeurig zouden zijn als het ideaal van een ‘unified science’ werkelijkheid kon worden. De positivisten zochten dit ideaal in een reductie van alle wetenschap tot de fysica. Maar de fysica zelf toont aan dat zo’n reductie niet erg plausibel is. Pogingen een meest fundamenteel niveau in de fysica aan te geven lijken niet erg succesvol. En als de fysica al een fundamentele materie kan aangeven dan wordt deze beschreven in een stelsel van mathematische vergelijkingen (Maxwell, Schrödinger) waarvan de betekenis ook onder fysici hoogst omstreden en voor verschillende interpretaties vatbaar is.
De fysica zelf roept de vraag op wat haar ‘natuur’ nog met de alledaagse notie van natuur te maken heeft. De fysicus moet het gewone volk en de overheid, die voor de condities van haar onderzoek moeten zorgen, toch kunnen uitleggen wat die ingewikkelde mathematische vergelijkingen te vertellen hebben!
De waardering van de wiskunde en de fysica betreffen dan ook minder het ‘inzicht in de natuur’ dat ze ons bieden dan wel de praktische toepassingen van haar modellen en methoden. “De waarde van de kennis zit in haar maatschappelijke toepassing”, stelde recentelijk een promovendus in haar proefschrift. Het is in de technologie dat we de vruchten plukken van de methoden en technieken van de fysica. Het meest spraakmakend in de vorm van de kunstmatige intelligentie, de autonome technische systemen. Misschien bedoelde de promovendus met haar stelling hiermee ook een ‘inzicht in de natuur’ uit te drukken. Kennis speelt ook voor de individuele onderzoeker een belangrijke sociale rol, niet alleen in de toepassingen, maar ook in het onderwijs.
In de algemene systeemtheorie wordt de werkelijkheid op verschillende niveaus van abstractie beschreven. Het voordeel van de vrijheid om wat dan ook als systeem te zien is tevens het nadeel: het is volstrekt niet evident waar de grenzen van de deelsystemen zouden moeten liggen en wat we als interne of externe interactie moeten opvatten.
De natuur zelf schrijft niet op eenduidige manier voor hoe deze gemodelleerd en beschreven moeten worden. “Physical concepts are free creations of the human mind, and are not, however it may seem, uniquely determined by the external world.” (Albert Einstein, geciteerd in Zukav). Dat zien we al bij zo’n eenvoudige mathematisering als het tellen. Wat moeten we als eenheden nemen? Waarom zou ik zes koeien in de wei tegen over mij tellen en niet twee drietallen? Ik kan toch zelf bepalen hoe ik de ruimte opdeel. Hoe ik onderscheidingen maak. De systeemtheorie zelf kan niet verantwoorden op welke niveau van abstractie een entiteit beschreven moet worden. Een impliciet inzicht in individualiteit en zelfstandigheid van de werkelijke zijnden dat de verschijningsvormen ervan overstijgt moet voorondersteld worden ter verantwoording van de begrenzingen van de verschillende systemen en deelsystemen.
Het probleem het leven te begrijpen zit hem misschien wel in de wijze waarop het onderscheid tussen het begrip en datgene wat begrepen wordt wordt opgevat, namelijk als een tegenoverstelling. Maar is ieder onderscheid niet noodzakelijk een tegenoverstelling? Is dat niet de grond voor het feit dat die mathematische vergelijkingen van de fysica ons op zich nog niets zeggen over de natuur zoals we die ervaren en beleven?
Pogingen van de wiskundige logici (zoals Spencer-Brown in zijn Logic of Forms) en filosofen (Hegel) de werkelijkheid op logische, begripsmatige wijze uit het niets op te bouwen zijn tot nu toe niet succesvol gebleken. Hegel beschrijft de overgang van de Wissenschaft der Logik naar de Philosophie der Natur als een transitie waarin de absolute Idee zichzelf bevrijdt in een uitwendig bestaan, de natuur.
“Die Natur ist an sich in der Idee göttlich, aber wie sie ist, entspricht ihr Sein ihrem Begriffe nicht; sie ist vielmehr der unaufgelöste Widerspruch. Ihre Eigentümlichkeit ist das Gesetztsein, das Negative, wie die Alten die Materie überhaupt als das non-ens gefasst zu haben” (Hegel, Enz. d. Phil. Wiss. II, p.28)
Maar hoe kunnen we het bestaan van de natuur uit het stellende denken dat iets tegenover zich stelt afleiden? Volgens Fleischhacker wijst dit op een fundamenteel probleem in de moderne metafysica: het begrijpen van de ‘uitwendigheid’, kenmerkend voor zowel het wiskundig denken als voor de mathematische objectiviteit.
In Laws of Form (1969) doet Spencer-Brown een hernieuwde poging de werkelijkheid al denkend uit het niets op te bouwen. Maar anders dan Hegel in zijn Wissenschaft der Logik nu op wiskundige wijze. Hij gaat daarbij uit van de wiskundige act van het stellen. Het basisbegrip, of de basisactiviteit is de distinctie. Een distinctie maakt een distinctie. Zijn “first distinction” is het tekenen (stellen, denken, vormen) van een gesloten vorm in een onbegrensde ruimte. De creatie van het onderscheid tussen binnen en buiten.
“Spencer-Brown demonstrated how not only space, but time also emerges out of the undifferentiated world that precedes distinctions. I propose that Spencer-Brown’s distinctions create the most elementary forms from which anything arises out of the void, most specifically how consciousness emerges.” (Robertson 1999)
Kenmerkend voor het leven is dat het bestaat in de vorm van het leven van een veelheid van min of meer zelfstandige individuen die behoren tot een soort. Een niet onbelangrijke eigenschap van het leven van een persoon is dat deze met andere personen en dieren omgaat. Individuen die een eigennaam en identiteit hebben, hetgeen tot uiting komt in hun gedrag en interacties.
De relatie tussen de individuen en de soort is problematisch. Is natuurlijke selectie gericht op de verbetering en het in stand houden van het individu, of van de soort? Als selectie in het voordeel is van de soort dan moet het in het voordeel zijn van individuen, stelt de statisticus R.A. Fischer.
“Unless individual advantage can be shown, natural selection affords no explanation of structures or instincts which appear to be beneficial to the species.” (R.A. Fischer, p. 58).
Daartegenover staat dat de grenzen van de soorten vaag zijn en niet voor eens en voor altijd vast staan. Is het niet juist door natuurlijke selectie dat er nieuwe soorten ontstaan? Is het dan “beneficial to the species” wanneer een soort geleidelijk verdwijnt en overgaat in het bestaan van een andere soort? Wanneer dit zo is, dan is Fischers bewering een waarheid als een koe. Waarin zou het voortbestaan van de soort anders bestaan dan in het voortbestaan van de leden van de soort? We hebben moeite met maatregelen die ‘vragen om’ selectie (eventueel het doden) van individuen ten behoeve van het behoud van de soort. De reden is dat we die selectie van buitenaf opleggen en niet aan de natuur zelf overlaten.
De fysicus Max Tegmark doet in “Our Mathematical Universe” een poging onze werkelijkheid, inclusief “ons leven” als een complex dynamisch systeem te beschrijven. Het probleem is dat deze werkelijkheid buiten onze alledaagse ervaring bestaat (‘external reality’). Het is niet mogelijk in de diverse deelstructuren ons bekende individuen, zoals deze stoel, deze koe, of bijvoorbeeld de milieuactiviste Greta Thunberg te identificeren. Tegmark houdt dit voor een probleem dat in de toekomst opgelost zou kunnen worden. Het lijkt eerder een logisch probleem dat intrinsiek is aan de uitwendigheid van de methode volgens welke het wiskundig universum wordt geconstrueerd.
Waarin onderscheiden levende organismes zich van andere niet-levende fysische verschijnselen? Veel wetenschappelijke benaderingen in de (evolutionaire) biologie zijn systeem-theoretisch en stellen de vraag hoe levende systemen zich onderscheiden van andere fysische fenomenen in het algemeen en wat deze systemen uniek maakt.
Kenmerk van levende systemen is de openheid naar de omgeving. De uitwisseling van energie, materie en informatie wordt gezien als wezenlijk onderdeel van levende processen. De zichtbare locatie en begrenzing van de levende organismes, wat voor ons aanleiding is te spreken van levende entiteiten lijkt in sommige benaderingen als iets onbelangrijks te worden afgedaan. Er is geen expliciete afscheiding tussen individu en zijn omgeving wanneer het individu als open systeem wordt opgevat. Er is informeel wel sprake van het open systeem als individu enerzijds en de omgeving als een daarvan onderscheiden entiteit anderzijds maar als informatiesysteem is het één geheel.
“The inseparability of the open living system from its environment, especially with regards to exchanges in information, is a common notion in many modern theoretical constructs” schrijft de biofysicus Richard L Summers in Experiences in the Biocontinuum (Summers).
Maar hoe wordt dan de identiteit van het open systeem bepaald?
De levende cel wordt beschreven als een metabolisch netwerk, een geheel bestaande uit een verzameling van fysiologische, chemische processen. Zelfreproductie is één van de meest belangrijke karakteristieke kenmerken van levende organismes. In (Andrade et al. 2007) claimen de auteurs dat dit idee wiskundig uitgedrukt kan worden in de zelf-refererende vergelijking f = (f(f). Naar één van de oudste mythische symbolen, tonende een slang die zichzelf in de staart bijt, wordt deze de Ouroboros vergelijking genoemd.
De Ouroboros
Binnen de ongetypeerde lambda calculus, een rekenkunde waarin alle objecten functies zijn, heeft de vergelijking een triviale ‘oplossing’:
de identiteitsfunctie I = λ x. x , de functie die ieder object op zichzelf afbeeldt.
In (Fleischhacker 1995) wordt de vergelijking Z(Z) = Z(Z) waarbij Z de zelf-applicatie is λ x. x(x), afgeleid als de zuivere uitdrukking van de reflexieve diagonaal-methode waarmee Cantor de overaftelbaarheid van het continuüm bewees.
Essentieel voor deze constructie is dat het bestaan van een 1-op-1-correspondentie tussen een verzameling functies (D -> D) en het domein (D) van deze functies ons toestaat de elementen met elkaar te identificeren. Daarmee is het een kwestie van conventie dat een functie op zich zelf als argument kan worden toegepast, iets wat in de verzamelingenleer niet zonder meer mogelijk is. De logicus en wiskundige Dana Scott construeerde het eerste verzameling theoretische model van een functie-calculus waarin zelf-applicatie van functies in de limiet, als resultaat van een limietconstructie op partiële functies, mogelijk is, de reflexive domains.
Verandering en acties komen als zodanig niet in de wiskundige werkelijkheid voor. De toepassing van een functie op een argument is een act die van buiten af door het subject voltrokken wordt. Wanneer we een mechanisme zien als een autonoom systeem dat werkt volgens eigen concept uitgedrukt in een programma dan abstraheren we van de act die we zelf van buiten af uitvoeren om het proces in werking te stellen.
“Als ik maar trap, gaat mijn fiets vanzelf”, zei mijn oom Jan, om aan te geven waarom hij het niet nodig vond een auto aan te schaffen. “Neem toch een auto”, had mijn tante tegen hem gezegd. Een auto ging volgens mijn tante ‘vanzelf’.
We communiceren met het als autonoom systeem opgevatte mechanisme via het medium van de taal waarbij we gericht zijn op de betekenis, de bedoeling van het programma, en niet op de fysieke activiteit die hiermee gepaard gaat en die als sleutel de bedoelde werking, realiseert.
De recursieve functie-definitie F(x) = C(F)(x) werkt door middel van de structuur van de definitie als een herhaling-opdracht. F is een dekpunt van C. Dit kan door een zelf-applicatie geconstrueerd worden.
Dat de ‘zelfstandigheid’ van de programmeerbare machine (automaat) wiskundig met behulp van de toepassing van een functie op zichzelf (f(f)) wordt uitgedrukt, is omdat deze machine zijn eigen concept in de vorm van een programma bevat. De werking van de machine bestaat uit de toepassing van de functie, de betekenis van dit programma, als het ware zelf op zich zelf als zijn eigen structuur toe te passen. Deze structuur is dezelfde functie maar dan op fysische wijze gerealiseerd. Natuurlijke is dit er alleen voor ons, die de machine zo gemaakt en geprogrammeerd heeft.
Wat isde waarde van de levenswetenschap?
De mens is het leven wat waard. Wie leeft doet moeite om inleven te blijven. Dat het leven ons wat waard is blijkt zowel uit de enorme inzet van mensen die werken in de ziekenhuizen, dokters en verpleegkundigen, als uit de miljarden die de regering stopt in het overeind houden van de economie en de gezondheidszorg.
Maar even zeer uit de protesten tegen de soms draconische maatregelen die de overheid op advies van de wetenschappers die het moeten weten afroept en die het leven op een zo zacht pitje zet dat de grens van wat nog leven mag heten voor sommigen van ons benaderd wordt. Het is met name de onzekerheid over de noodzaak van al die vrijheid beperkende maatregelen en het feit dat we nog zoveel niet weten over het virus die het soms lastig maakt de situatie te accepteren zoals deze is. Ja, zelfs wat de situatie is, en wat ons in deze toestand gebracht heeft, daarover zijn de meningen diepgaand verdeeld.
Maar we weten ook een heleboel wel. Wat wist de gewone burger een jaar geleden over virussen en over pandemieën en hoe je daarmee om moet gaan? Gelukkig zijn er mensen geweest die al ver voor dit virus opdook zich verdiepten in de materie. Zonder de inspanningen van vele wetenschappers: fysici, biologen, chemici, fysiologen, virologen, en medici – vaak uit pure nieuwsgierigheid – hadden we nu niet “zo snel” een vaccin gehad die ons tegen het virus kan beschermen. Je hoort wel eens zeggen dat wetenschap “ook maar een mening” is. Die mening berust niet op kennis van zaken. Kennis die niet meer dan een mening is is geen wetenschap. Een mening levert ons geen werkend vaccin. Wetenschap berust op kennis van de feiten, uit eigen of andermans betrouwbare waarnemingen. Het is kennis die verantwoord is, of kan worden en daarom ook bekritiseerd kan worden onder verwijzing naar andere feiten en waarnemingen. Feiten zijn niet verzonnen en alternatieve feiten zijn geen feiten. Maar wat een feit is die vraag is al even moeilijk te beantwoorden als de vraag wat leven is. En toch weten we op een of andere manier wel wat een feit is en wat niet en wat nog leven is en wat niet.
De vraag aan de wetenschap ons te vertellen hoe het zit en aan de politiek om ons richtlijnen te geven voor wat we moeten doen is karakteristiek voor de moderne mens en een modern wereldbeeld dat de plaats in nam van de tradities en de rituelen na ‘de dood van God’ en het einde van de religies in de westerse samenleving. Het geloof in de voor God en tradities in de plaats gekomen technische en economische vooruitgang, is tanende. De mens zoekt een nieuwe vorm waarin hij zichzelf kan herkennen, nu de kunstmatige intelligentie opnieuw twijfel zaait. We leiden onze kinderen niet meer op voor een bepaald beroep, we leiden ze op om vooral ‘zichzelf’ te zijn. Wordt wie je bent! Maar, wat is dat? En hoe doe je dat?
Het lastige van het leven is voor de experimentele wetenschapper dat er maar één exemplaar van bestaat. We kunnen het leven niet over doen. Wanneer we toch experimenteren moeten we abstraheren van verschillen die er niet toe doen. Zodat we van een herhaling van een gebeurtenis kunnen spreken. Alleen dan heeft het zin statistieken op te maken en voorspellingen te doen. Deze experimenten zijn echter onderdeel van het leven zelf in zijn totaliteit. De effecten die ze hebben op de samenleving zijn soms zodanig dat ze niet reproduceerbaar zijn. Dat heeft weer alles te maken met het feit dat er een interactie bestaat tussen de individuele leden van de samenleving en de toepassingen op basis van de statistische kennis die voor de samenleving of een deel daarvan geldt.
Van buitenaf beschouwd is het het leven zelf dat experimenteert door vele varianten uit te proberen, waarvan de meest succesvolle stand houden.
Contrafeiten
Hoe zou de situatie, de toestand in de wereld, zijn geweest wanneer in 1900 de Nederlander Hugo de Vries niet toevallig op het spoor was gekomen van een in het tijdschrift van de Naturforschender Verein in Brunn in 1866 verschenen artikel geschreven door ene Gregor Mendel?
Hoe zou de toestand zijn geweest wanneer deze Oostenrijkse Augustijn niet besloten had zijn experimentele onderzoek met erwten in de kloostertuin van Brunn te publiceren? Onderzoek waarin hij de naar hem genoemde erfelijkheidswetten van de organische natuur blootlegde. Van nature bestuiven erwten planten zichzelf en er ontstaan spontaan verschillende soorten. Het zichzelf voortplanten wordt beschouwd als één van de basiskenmerken van het leven. De amateurbioloog Mendel wilde weten hoe dit proces verloopt en greep in de natuurlijke gang van zaken in. Hij schermde de erwtensoorten af en zorgde zelf voor de kruisbestuiving.
Hugo de Vries, de ‘Nederlandse Darwin’, zette het werk van Mendel voort. Hij ontdekte dat de natuur bij de voortplanting “kleine sprongetjes” maakt, mutaties zoals hij die noemde. De Vries is de grondlegger van de moderne mutatietheorie en naamgever van het microbiologische ‘gen‘ een deel van het chromosoom dat volgens de huidige inzichten zorgt voor het doorgeven van erfelijke eigenschappen bij de voortplanting. Het gen is onderdeel van het chromosoom en bestaat weer uit DNA. Het zijn macromoleculen. Alle organismen bevatten DNA. En er zijn virussen die DNA bevatten. Op basis van de nieuwste biochemische inzichten kunnen we door genetische modificatie tot op zekere hoogte bepalen welke eigenschappen een organisme heeft en zal doorgeven. Zo ontwerpt de mens op technische wijze een vaccin, variaties van DNA of RNA moleculen en eiwitten die ons leven tegen de door natuurlijke processen ontstane ziekmakende virussen moeten waarschuwen. Om het leven te begrijpen en het te beschermen moet je in staat zijn het op een afstand te bekijken en het lef hebben er in te snijden. Tot op de kleinste deeltjes. Kleiner nog dan de voor ons oog en onze microscopen zichtbare materie. In de wereld van de deeltjes heerst de wet van de grote aantallen. Het individuele gedrag van een deeltje, een foton, molecuul of virusdeeltje (virion) is niet te beschrijven. We kunnen alleen iets zeggen over het statistisch gedrag van miljoenen deeltjes in een systeem.
Hoe had de wereld eruit gezien als Max Planck in 1900 niet op het lumineuze idee was gekomen waarmee hij het verschijnsel van de ultravioletcatastrofe kon verklaren, namelijk dat het licht bestaat uit deeltjes van bepaalde grootte, fotonen. Het begin van de kwantummechanica.
Hoe had de wereld eruit gezien als de natuurlijke evolutie niet een wiskundig genie als James Clerk Maxwell had voortgebracht; de schot die de wetten van het electromagnetische straling in slechts vier vergelijkingen beschreef. Wetten waarop fysici als Heinrich Herz en Max Planck weer voortborduurden.
‘Contrafeitelijke’ vragen (‘counterfactuals’) zijn lastig te beantwoorden. Wil je daar iets steekhoudends over zeggen dan moet je een causaal netwerk hebben dat een volledig beeld geeft van de afhankelijkheden in de ontwikkeling van de kennis. Een hopeloos complex systeem. Vele malen complexer dan een fysisch gesloten systeem van moleculen. Alleen voor simpele systemen bieden mathematische theorieën van Causale Inferentie, zoals die van Judea Pearl, een ‘oplossing’. Een meer alledaags antwoord op dergelijke counterfactuals is “als hij of zij het niet had uitgevonden had een ander het wel gevonden.”. Daaruit spreekt een vermoeden dat er ondanks alle toevalligheden die aan de individuele gebeurtenissen kleven, of dat nu op het microniveau van de elementaire deeltjes is of op het niveau van de samenleving er toch een soort van noodzakelijkheid is die de ontwikkeling van onze kennis kenmerkt. En het zijn deze twee aspecten aan de werkelijkheid, toevallige spontaniteit en wetmatigheid, die de fysici en de evolutionair biologen die probeerden een antwoord te geven op de vraag “wat is leven?” vanaf het begin van de vorig eeuw bezig hielden.
Fysica en biologie
In zijn voordracht “What is life?” (1943) vraagt de fysicus Erwin Schrödinger wat de statistische kwantummechanica heeft bijgedragen en verder kan bijdragen aan de vragen van de biologie. Daarin wijst hij op het baanbrekende werk van de ‘Dutchman De Vries’. Zijn mutatietheorie doet Schrödinger meteen denken aan de kwantumtheorie. “The mutations are actually due to quantum jumps in the gene molecule.”. Hij vergelijkt De Vries’ mutatietheorie met Darwin’s evolutietheorie.
“In Darwin’s theory, you just have to substitute ‘mutations’ for his ‘slight accidental variations’ (just as quantum theory substitutes ‘quantum jump’ for ‘continuous transfer of energy’). In all other respects little change was necessary in Darwin’s theory, that is, if I am correctly interpreting the view held by the majority of biologists.”.
Een mutant van een gen omschrijft Schrödinger als ‘a version of the code-script’. Het is wat de bioloog een allel noemt. Het virus neemt een bijzondere plaats in onder de microorganismen. De vraag of het virus levend of levenloos is, roept onmiddellijk de vraag op wat we onder leven verstaan. Welke eigenschappen moet een wezen of ding hebben om het levend te noemen? Onze intuïtie zegt dat het ding actief is en dat het uit zichzelf actie onderneemt om in leven te blijven. Maar zelfs bij de mens kunnen we soms twijfelen of dit wel geldt. Worden wij ook niet door krachten buiten ons gedetermineerd? Vanuit het perspectief van de fysica die op zoek is naar oorzaak gevolg relaties, waarbij de oorzaak buiten het gevolg gedacht wordt te liggen is een zichzelf tot activiteit aanzettend wezen niet te onderscheiden van een wezen dat door iets buiten zichzelf wordt bewogen. Waar de grens tussen binnen en buiten wordt getrokken lijkt willekeurig. De keuze van de grenzen van een systeem is juist gebaseerd op een intuïtie omtrent de individualiteit van een fenomeen. De fysica kan niet zonder de alledaagse notie van leven, maar het begrip van het leven ontsnapt aan haar methode van kennis verwerven en haar mechanistische perspectief. De fysica zoekt wetmatige causale relaties. Zelfs voor de fysioloog blijft het leven een raadsel.
De fysicus Hermann Weijl beschouwt het virus als een brug tussen de levende en de levenloze natuur. Het virus is een soort van sleutel die in haar DNA of RNA de code bevat voor de toegang tot de levende cel die het als parasiet nodig heeft om zich voor te planten. De informaticus levend in een tijdperk waarin alles informatie is en elke activiteit als een vorm van informatie verwerken wordt gezien, doet dit onmiddellijk denken aan de rol die het computerprogramma heeft: de sleutel tussen de programmeur en de machine.
SARS-CoV-2—also known as 2019-nCoV, the virus that causes COVID-19. isolated from a patient in the U.S., emerging from the surface of cells cultured in the lab. Credit: NIAID-RML
‘Biologie is reverse engineering’ volgens D.C. Dennett, die vanuit dit technische perspectief een antwoord probeert te formuleren op de vraag hoe iets levends ooit uit de levenloze materie heeft kunnen ontstaan. “…taking on the premise that every living thing is a product of nonmysterious physical processes that gradually brought all the elements together…” (Dennett, 2017). Uit het feit dat de evolutie het karakter heeft van een ontworpen proces mag je niet concluderen dat er een ontwerper is die dit alles eerst bedacht heeft, zoals de mens de technische systemen heeft bedacht. Virussen zijn ontworpen zonder ontwerper. Het probleem van deze benadering is dat zodra je het leven kan terugvoeren tot niet-levende processen je het verschil tussen beide kwijt bent. Dat is onbevredigend, omdat we zeker weten dat zo’n verschil bestaat.
De filosoof G.W.F. Hegel houdt deze wijze van reproductie van de geschiedenis van de levensvormen voor ongeschikt voor wie het gaat om het leven te begrijpen.
“Es ist eine ungeschikte Vorstelling älterer, auch neuerer Naturphilosophie gewesen, die Fortbildung und den Übergang einer Naturform und Sphäre in eine höhere für eine äusserlich-wirkliche Produktion anzusehen, die man jedoch, um sie deutlicher zu machen, in das Dunkel der Vergangenheit zurückgelegt hat.” (Enz. Phil. Wissenschaften II, par. 249)
Ik leef. Als ik de stoel waarop ik zit ook als een levend iets wil zien, dan moet ik mij die stoel als onderdeel van een natuurproces voorstellen; een historisch proces waarin deze stoel is ontworpen, gemaakt, door levende wezens, uit hout van een boom; een levend iets!
Volgens Schrödinger zouden de biologische fenomenen volledig verklaard gaan worden uit de nieuwe fysica, de kwantummechanica en de relativiteitstheorie. Niels Bohr, bekend van zijn Kopenhaagse interpretatie van de Schrödingervergelijkingen, is een andere mening toegedaan. In zijn voordracht Lightand Life stelt hij dat de experimentele methode van de fysica niet geschikt is om het leven te doorgronden. Daarvoor is een principe noodzakelijk dat complementair is aan de principes van de kwantumfysica. De wetenschap wil de mens in experimenten in laboratoriumcondities controleren om te onderzoeken hoe deze van nature zich gedraagt. Maar daarvoor zal de wetenschapper het individu toch een zekere mate van vrijheid moeten geven die het object van studie echter de gelegenheid geeft op geheel eigen wijze op de opgelegde condities te reageren. “Het dier doet ook in experimentele omstandigheden gewoon wat het zelf het liefste doet.”
Anderzijds, laten we niet vergeten, stelt Bohr, dat de statistische wetten van de kwantummechanica net zo belangrijk zijn voor het verklaren van het gedrag van levende organismes, waaronder de mens, als voor het gedrag van de anorganische systemen.
Het volk vraagt van de wetenschappers in het Outbreak Management Team of deze hen kan zeggen wat de gevolgen zijn van de maatregelen die de politiek ter bestrijding van het virus voorstelt. De gevraagde zekerheid kan ze niet bieden. De relativiteitstheorie leert niet alleen de fysicus maar ieder gezond denkend mens dat de reactie van de mensen op de regels die de politiek aan het volk oplegt mede bepalend is voor het resultaat ervan. De samenleving is net als ieder individueel lid ervan, geen programmeerbare machine. Hoe zeer sommige politici en werkgevers dit ook mogen wensen.
De politiek schippert tussen de conflicterende eisen die het volk en de verschillende wetenschappers stellen om de kwaliteit van leven gezien de omstandigheden te waarborgen. De media hebben vanwege de pandemie de wetenschappers voor het voetlicht gebracht. De wetenschappers voelen zich soms onder druk gezet door de politiek. Soms passen wetenschappelijke resultaten niet goed bij wat de politiek of het volk wil. In retrospect worden ook door de leden van het OMT counterfeitelijke vragen gesteld.
‘Achteraf’, zegt microbioloog Jan Kluytmans, lid van het OMT, was januari 2020 ‘de maand waarin het verschil gemaakt had kunnen worden’. Had de politiek maar beter naar de virologen geluisterd. De politiek heeft echter een andere agenda dan de wetenschap. Ze moet immers het kiezersvolk te vriend houden. Daar heeft de wetenschapper, terecht, geen boodschap aan.
Van het virus zijn we niet af. Ze kent miljarden mogelijke mutaties, waarvan een deel een goede kans heeft te overleven als ziekmakend parasiet van mens of dier. De hoop is gevestigd op de wetenschappers, fysici en biologen om de kennis van “het virus” verder te verdiepen, zodat we (nog) beter voorbereid zijn op een volgende pandemie. Dat de wetenschap geen antwoord kan geven op de vraag “is dit leven?” en geen grens kan aangeven tussen de levende en de niet-levende natuur valt haar niet te verwijten. Integendeel zegt de filosoof Louk Fleischhacker in zijn mooie artikel “On the notion of life”.
…the impossibility of a scientific definition of life is in no way a deficiency of science. On the contrary, the recognition that this is so, is a sign of honesty and scientific seriousness. De wetenschapper streeft er weliswaar de wetenschap onafhankelijk te maken van de alledaagse betekenis van de woorden, ze zal moeten toegeven dat ze dat niet kan zonder haar betekenis voor het alledaagse leven te verliezen.
Het leven lijkt ons begrip te ontstijgen, we kunnen het alleen maar leven en er het beste van maken.
Bronnen
Jorge-Soto Andrade, Sebastian Jaramillo-Riveri, C. Gutiérrez & J. Letelier (2011). “Ouroboros avatars: A mathematical exploration of self-reference and metabolic closure.” ECAL (2011).
Louk E. Fleischhacker (1995). Beyond structure: the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang, 1995.
Louk E. Fleischhacker (1998). On the notion of life. Theory of Bioscience. 117:139-160. In dit artikel geeft Louk een eigentijdse ‘vertaling’ van de natuurfilosofie van Hegel opgevat als een kritische filosofische theorie van het leven.
Edwin Schrödinger (1944). What is life? The Physical Aspect of the Living Cell.
Niels Bohr (1933). Light and life. In: Nature, 1 April 1933. Nature Publishing Group.
Daniel C. Dennett (2017). From Bacteria to Back and Back. The evolution of minds. Penguin Books, 2017.
Attila Grandpierre (2007). Biological extension of the action principle Endpoint Determination Beyond the QuantumLevel and the Ultimate Physical Roots of Consciousness. NeuroQuantology. December 2007, Issue 4, pp. 346-362, 2007.
Georg W.F. Hegel (1830/1975). Enzyklopädie der philosophischen Wissenschaften im Grundrisse. Zweiter Teil, Die Naturphilosophie.
Jan Hollak en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010.
In deze bundel het transcript van de opname van het Afscheidscollege over ‘de hypothetische samenleving’, door Jan Hollak gehouden in Nijmegen op 21 februari 1986.
Vincent Icke (2013). De Principes van Huygens. Historische Uitgeverij, 2013
Vincent Icke (2021). Licht – tussen waarheid en wetenschap. Prometeus, Nieuw Licht, Amsterdam, 2021.
Robertson, R. (1999). Some-thing from no-thing: G. Spencer-Brown’s Laws of Form. Cybern. Hum. Knowing, 6, 43-55.
Richard Summers (2021). “The Imperative of Self-Reference in a Theoretical Framework for Biology.” Academia Letters, 2021. doi:10.20935/AL1093.
Spencer-Brown, G. (1979). Laws of Form (rev. ed.). New York: E. P. Dutton.
Herman Weyl (1963). Philosophy of Mathematics and Natural Science. Atheneum, New York, 1963.
Frederik J.J. Buytendijk (1965). Prolegomena van een antropologische fysiologie. Uitg. Het Spectrum. Serie Aula Pocket 204.
Zukav, G. The Dancing Wu Li Masters. An Overview of the New Physics. Bantam New Age Books, New York, 1980; 45-66.
De taal kent verschillende vormen van woord-gebruik waarin één en hetzelfde woord met verschillende betekenissen voorkomt. Zo kent de taal de analogie (‘gezonde’ voeding), de metafoor (‘de avond van het leven’), de ambiguïteit (‘de bank’). Bij ‘overdrachtelijk’ woordgebruik wordt een woord in ‘overdrachtelijke’ zin gebruikt (schreeuwende kleuren). Dit in tegenstelling tot de letterlijke zin. Woorden hebben kennelijk een letterlijke betekenis en daarnaast niet-letterlijke betekenissen. Ik heb daar moeite mee. Waarin onderscheidt de letterlijke betekenis van een woord zich van de niet-letterlijke betekenissen?
Woorden worden in de loop van de levendige geschiedenis van de taal van de ene gebruikssituatie overgedragen naar een andere nieuwe gebruikssituatie. Maar niet willekeurig. De wetenschappelijke en technische ontwikkeling speelt daarbij vaak een rol. Zo wordt het woord intelligent tegenwoordig niet alleen maar gebruikt voor mensen en nadere levensvormen, maar ook steeds vaker voor technische producten. We spreken van ‘intelligente’ machines, van ‘programmeertalen‘. Een vorm van overdrachtelijk taalgebruik waarmee het woord ‘intelligent’ een ‘nieuwe’ betekenis krijgt. Een machine is immers niet op dezelfde manier intelligent als een mens intelligent is en een programmeertaal is een taal die niemand spreekt.
Er is echter een verschil met de manier waarop het rood van de roos verschilt van het rood van het bloed, of waarop het schreeuwen van de kleur verschilt van het schreeuwen van de kat in het nauw, of waarop gezonde voeding op een andere wijze gezond is dan de mens die zich ermee voedt. Of neem de verschillende betekenissen van het woord ‘hulplijn’. Een hulplijn is zowel een lijn die iemand een drenkeling toewerpt, een communicatiemiddel dat iemand kan gebruiken om een probleem op te lossen, maar ook een lijn die getrokken wordt als middel om een bewijs van een meetkundige stelling te leveren. Maar bij het gebruik van het woord intelligent als we het over machines hebben is iets anders aan de hand. Aan de machine die ‘denkt’ en een taal ‘spreekt’ komt namelijk iets wezenlijks van het denken en spreken tot uitdrukking. Het machinale of mechanische is een aspect van taal en denken. Er is een zeer intieme relatie tussen intelligentie en machines. Daarbij speelt de taal een sleutelrol. De taal heeft net als het technische ding een bepaalde vorm van zelfstandigheid: de taal spreekt als het ware vanzelf.
Wanneer ik hierboven stel dat één en hetzelfde woord verschillende betekenissen kan hebben, dan onderscheid ik het woord van zijn betekenis. Maar deze komen nooit separaat in de werkelijkheid voor: een woord, of teken of gebaar zonder betekenis is geen woord, teken of gebaar. Betekenisloze symbolen bestaan niet. Woorden hebben altijd zowel een uitwendige zintuiglijke verschijningsvorm, een klank als een inhoud, iets mentaals. Woorden verwijzen voor wie ze als woord bestaan in het gebruik naar iets buiten de taal. Zodra we erover nadenken onderscheiden we de aspecten, teken, betekenis, en gebruik, die juist in het gebruik van het woord niet bestaan.
Het spreken is ook een fysisch proces dat als zodanig door de zelfstandige werking van de natuur als het ware kan worden overgenomen: de sprekende machine. De woorden kunnen als uiterlijke bouwstenen gerepresenteerd worden door fysische toestanden van een machine en door operaties volgens bepaalde regels gecombineerd worden tot zinnen. Deze reeksen van woorden kunnen door geluid makende apparaten worden omgezet in simulatie van een sprekende stem. We kunnen een apparaat zodanig in richten dat het werkt volgens de betekenis van de woorden die we er tot richten. Het geluidsignaal dat met het uitspreken van de woorden gepaard gaat tijdens het uitspreken veroorzaakt (door ons als invoer van het apparaat beschouwd) een werking die we zien als het uitvoeren van de bedoeling die we in de geuite woorden hebben uitgedrukt. Dit is in a nutshell het principe van de automaat. Om een eenvoudig voorbeeld te geven van zo’n constructie: men houdt een stukje papier voor de mond en roept “wapper, wapper, wapper”. En het papiertje voert de instructie subiet uit. Alsof het papier de bedoeling van de opdracht om te wapperen begrijpt. We maken gebruik van de natuurnoodzakelijke gevolgen van de actie die we uitvoeren. De natuur werkt volgens wetten die in wiskundige vergelijkingen kunnen worden uitgedrukt. De vallende steen kan daarom beschouwd worden als een machine die exact uitrekent met welke snelheid deze de grond moet raken. Als zus het geval is dan gebeurt met zekerheid zo. Als A dan B. Het is alsof de natuur denkt iedere keer als A gebeurt moet ik B doen. De natuur werkt in die zin logisch. Iedere keer als ik wapper zeg wappert het blaadje. Daar kunnen we op rekenen. Het is precies vanwege de wetmatigheid van de natuur die in mathematische relaties tussen verschillende variabelen van een systeem uitgedrukt kan worden dat machines goed zijn in rekenen. Het rekenen is bij uitstek een denken dat machinaal verloopt, met tekens, die staan voor wiskundige objecten (zoals getallen) worden manipulaties uitgevoerd volgens eenduidige regels. De abacus kan als rekenmachine gebruikt worden omdat er een eenzinnig verband bestaat tussen de rijtjes balletjes en de bewerkingen die we ermee uitvoeren en de getallen en de rekenkundige operaties die deze representeren. Wanneer ik twee stokjes op tafel leg en nog een drie dan kan ik ze vervolgens als geheel tellen; vijf stokjes. Zo kan ik uitrekenen dat 2 plus 3 gelijk is aan 5. De eenzinnige relatie tussen de cijfers of de verzameling stokjes enerzijds en de getallen anderzijds, tussen de ‘tekens’ en hun betekenissen, deze eenzinnigheid die zo kenmerkend is voor de wiskunde bestaat niet in de gewone omgangstaal.
Waarom heet een logische schakeling logisch?
Iedere machine zit in zekere zin logisch in elkaar, namelijk omdat er begrip van een doelmatig proces in uitgedrukt is. Maar een logische schakeling is logisch op nog een speciale manier die daarvan onderscheiden is. Een logische schakeling is niet alleen logisch zoals elke machine logisch is dat het volgens een begrepen wetmatigheid op bepaalde invoer met bepaalde uitvoer reageert, maar we noemen deze bij uitstek logisch omdat de relatie tussen de invoer en de uitvoer een logische operatie representeert. De logische AND-schakeling werkt zodanig dat de relatie tussen de waarden van de invoerkanalen A en B en het uitvoerkanaal C beschreven wordt door de logische AND-operatie: de uitvoer C is dan en alleen dan waar als zowel A als B waar zijn. Zo wordt ook de logisch “als A dan B” operatie, de operatie die als het ware de basis is van het technische denken: als ik X doe gebeurt er Y, expliciet door een logische schakeling gerepresenteerd.
Wat zegt dit nu over de betekenis en het gebruik van het woord ‘intelligent’ als we dit van een machine zeggen? Betekent dit dat de machine intelligent is zoals de mens intelligent is en dat de machine rekent zoals de mens rekent?
De vraag suggereert een tegenoverstelling tussen het denken van de machine en het denken van de mens. Dat die tegenoverstelling een basale denkfout is heb ik hierboven geprobeerd uit te leggen. Het is een fout die veel gemaakt wordt. Zoals het woord niet zonder haar betekenis bestaat, zo bestaat de machine niet zonder de mens en het denken dat de machine bedacht heeft en voor wie de machine machine is.
Betekent dit dat de mens een machine is? Dat het denken en spreken bij mensen net zo verloopt als bij de machine? Dat zou betekenen dat de mens slechts in de uitwendigheid bestaat, dat het een fysisch proces is dat zijn betekenis als informatie-verwerkend of rekenproces aan iets anders ontleent; aan iets dat buiten de mens bestaat. We kunnen wel doen alsof we een machine zijn en ons laten programmeren om bepaalde taken uit te voeren, maar we kunnen ook zelf bepalen welk doel we nastreven.
Niet alleen machines wordt intelligentie toegezegd ook andere levensvormen. Dieren zijn ook slim. Maar hier gaat het om een andere relatie met de menselijke intelligentie dan die bij de technische artefacten.
De slimheid van het virus
In een krantenartikel over het ontstaan van mutaties van virussen kwam ik de volgende zin tegen. “Bezien vanuit het virus een slimme zet: een virus kan nu eenmaal meer gastheren besmetten als we snotterend blijven rondlopen, dan wanneer we rillend van de koorts in bed kruipen.” (Maarten Keulemans in de Volkskrant). Het virus wordt hier slim genoemd. Alsof het virus doelbewust kiest voor een mutatie die haar meer kans geeft te overleven. Als wij in de natuur iets ontdekken dat kennelijk een bestaansrecht heeft verworven en zich in stand kan houden dan kunnen we daar nog niet uit concluderen dat dit bestaan de uitdrukking is van een van te voren bedacht plan, zoals dat bij een door de mens bedacht technisch artefact het geval is. Wanneer wij een virus een slimme schaakspeler noemen in een overlevingsspel met de afweersystemen van de mens dan is er sprake van een metafoor waarin we een vermogen van de mens projecteren op de natuur. Een vorm van antropomorfisme. Het virus kunnen we wel slim noemen, maar we weten dat het anders slim is dan een machine. De slimheid die we toekennen aan de activiteit die tot het behoud van het bestaan van de levensvorm behoort wordt gezien als het resultaat van wat Richard Dawkins de algemene wet van de “survival of the stable” noemt, een generalisatie van Darwin’s wet van de ‘survival of the fittest’. Dingen die wij als bestaand beschouwen moeten niet bedacht worden, maar door de mens opgemerkt en geobserveerd worden. Daarvoor is het noodzakelijk dat de dingen een zekere stabiliteit hebben. Ze moeten een ‘levensduur’ hebben die lang genoeg is om door ons te worden opgetekend. De elementaire deeltjes in de kwantumfysica leven kort maar lang genoeg om door de natuurkundigen geobserveerd te worden. Deze vormen verdienen een naam. Net als de atomen, de moleculen en de virussen. Of we het virus een levensvorm noemen is een kwestie van perspectief. De wetenschap, de biologie, de biochemie, de fysica kan niet uitmaken of het virus tot de levende of tot de levenloze natuur behoort. Iedere definitie die een classificatie van levende en levenloze natuur beoogt is betrekkelijk willekeurig. Ook al willen we wel graag dat het gebruik van de termen in overeenstemming zijn met wat we gewoonlijk er onder verstaan. Wat de wetenschap levend noemt moet wel iets van leven hebben.
In zijn Selfish Genes and Selfish Memes vergelijkt Dawkins het virus als survival machine met de programmeerbare computer. De machine is weliswaar door de programmeur geprogrammeerd, maar deze werkt daarna zelfstandig en wordt niet meer door de mens gecontroleerd bij elke stap die deze doet. Op een vergelijkbare manier zou het virus zijn survival machine zelfstandig laten werken. Deze vergelijking gaat me te ver. De programmeerbare machine is als technisch artefact waargave van een door de mens bedacht ontwerp dat in een programmeertaal wordt uitgedrukt en door de machine wordt uitgevoerd. Dat geldt niet voor het virus, dat in de natuur voorkomt. Dat de schaakcomputer zelfstandig in elke situatie zijn volgende zet bepaalt doet hier niets aan af. Dawkins ziet de zelfstandige machine in één lijn als voortzetting van de evolutionaire ontwikkeling van het virus tot de levensvormen waarvan de van zich zelf en de natuur bewuste mens de meest ontwikkelde vorm is. Zal de machine in de toekomst als volgende levensvorm de mens overnemen? Wanneer dat zo is dan zal de mens daarin als levensvorm opgenomen zijn geheel in lijn met de hierboven geschetste mens-machine-relatie.
Terug naar de veelzinnigheid van de taal. Dat we woorden als intelligent, denken en rekenen zowel gebruiken voor eigenschappen van machines als van mensen en andere levensvormen is uitdrukking van de intieme relatie die het menselijke met het machinale heeft: de mens heeft de machine zowel bedacht, maar ook ontdekt als iets dat in haar omgaan met haar natuur aanwezig is. In het algemeen kunnen we stellen dat de veelzinnigheid van de taal de veelheid van verschijningsvormen van de werkelijkheid reflecteert. Zo noemen we verschillende zaken levend omdat er iets van het leven in tot uitdrukking komt. Dat veelzinnigheid iets anders is dan dubbelzinnigheid zal uit bovenstaande betoog duidelijk zijn geworden.
Net zo goed als we er zeker van zijn dat het regent wanneer we zien en horen dat het regent, zo zijn we ervan overtuigd dat het Obama zelf is die spreekt als we hem in een video zien en horen spreken. Dit is een vorm van “geloven dat” waar we niet bewust toe besluiten, maar dat als het ware automatisch tot stand komt. We realiseren ons helemaal niet dat we op grond van onze zintuiglijke waarneming (ik zie dat het regent) onmiddellijk springen naar een concluderend oordeel: “Het regent.” of “Obama zegt ….”. Volgens de Britse filosoof Bernard Williams is er bij een dergelijk empirisch geloven (’empirical belief’) sprake van een oorzakelijk verband: je gelooft dat iets zus en zo het geval is omdat het zus en zo is. De filosoof David Hume meende dat ons inzicht in een oorzakelijk verband berust op gewenning. De ervaring leert ons ook dat we ons kunnen vergissen. Het gevolg, de waarneming, wijst niet met zekerheid naar de bron. Natuurlijk wisten we allang dat de voorstelling van iets (de afbeelding van een pijp door René Magritte bijvoorbeeld) niet de werkelijkheid (de pijp) zelf is. Maar soms is het beeld zo realistisch dat het niet van echt te onderscheiden is.
Réproduction interdite -verboden af te beelden (René Magritte, 1937)
We weten bij het zien van videobeelden dat het om opnames gaat en dat er een tijdverschil is tussen de opname en het moment van bekijken. Dat kan wel eens tot verwarring leiden, maar we mochten ervan uitgaan dat degene die we op de beelden herkenden werkelijk gezegd had wat de opname ons presenteerde. Dat is inmiddels achterhaalt. Nu is er Deepfake, AI technologie die zelfs onze zekerheid van de ervaring met een bepaald persoon een video-gesprek te voeren ondermijnt. Met deepfake technologie kunnen opa en oma zelfs na hun dood nog een verhaaltje voor lezen aan de kleinkinderen. Om maar eens een bedenkelijke toepassing te noemen.
Wat voor elke techniek geldt geldt ook voor deepfake technologie; dat je het voor heel veel uiteenlopende praktische toepassingen kunt gebruiken. Zowel moreel dubieuze als gezonde toepassingen. Naast de ethische kwestie is het de vraag wat deze Kunstmatige Intelligentie (AI) technologie betekent voor ons zelfbeeld en ons mensbeeld.
Deepfake
Deepfake staat voor “deep learning fake”, computer software die audio en video opnames van bijvoorbeeld Obama of Trump kan verwerken en kan manipuleren zodat wanneer je het resultaat afspeelt niet te zien is dat het niet om een echte opname gaat. Met behulp van technologie kunnen we videobeelden maken die de suggestie wekken dat iemand dingen zegt die hij nooit gezegd heeft. Aan de volgende uitdaging wordt al gewerkt: technologie voor het real-time genereren van audio en video zodat de ‘gebruiker’ de ervaring heeft met iemand een gesprek te voeren.
Wetenschappers, ontwerpers en kunstenaars hebben verschillende motieven waarom ze deze technologie ontwikkelen. Zelden om anderen te misleiden; of het moet humoristisch bedoeld zijn. Afgezien van het kunstzinnige aspect en de uitdaging om iets te maken dat niet meer van echt te onderscheiden is, zijn al verschillende toepassingen bedacht.
Bijvoorbeeld, Lyrebird, een Canadese startup, werkt in samenwerking met de ALS foundation aan Project Revoice, waarin AI technologie voor spraakgeneratie wordt gebruikt voor het creëren van gepersonaliseerde synthetische stemmen voor mensen die aan de spierziekte ALS lijden en die het vermogen te spreken dreigen te verliezen. Andere medische toepassingen richten zich op eHealth applicaties.
Zowel wat betreft de onderliggende technieken als wat betreft de mogelijke toepassingen is er veel overeenkomst tussen deepfake technologie en de technologie van virtual humans (avatars) en humanoide robots. Bij beide gaat het om het simuleren en manipuleren van menselijk gedrag. We zijn allang vertrouwd met machines die standaard dingen zeggen, zoals “How can I help you?”. Het verschil is dat bij deepfake echt beeld- en geluid materiaal gebruikt wordt. Synthetic media is de paraplu-term voor alle vormen van gemaakte en gemanipuleerde audio- en video materiaal. De technische ontwikkeling van synthetic media gaat razendsnel.
Wie zo’n 20 jaar geleden het MIRAlab in Genève betrad kon bij binnenkomst een paar foto’s van zich laten maken. Een uurtje later kon een onderzoekassistent je een zeer realistische 3D animatie video van je kop laten zien. Ik vond dat toen behoorlijk indrukwekkend.
Het MIRALab werd in 1989 opgericht door Nadia Magnenat Thalmann. In Montreal, Canada, richtte ze zich met haar man Daniel Thalmann op computersimulatie van personen. In 1987 verscheen hun animatiefilm Rendez-vous in Montréal met grafische 3D computeranimaties van Marilyn Monroe en Humpfrey Bogard. Terug in Genève leidt ze een team van researchers op het gebied van virtual humans en sociale robotica. Nadia deed hoofd- en gezichts-uitdrukkingen, Daniel deed de rest van het lichaam. Het verhaal ging dat hals en nek een dilemma vormden. Was het deel van het hoofd of van de romp? Grensconflicten zijn typische problemen van analytische wetenschap en technologie.
De Japanner Hiroshi Ishiguro bouwt zeer realistische androïden die op hemzelf of een ander echt persoon lijken omdat hij wil weten wat presence betekent. Volgens het adagium “je snapt het pas als je het zelf kunt maken” wil hij namaak mensen maken die je het gevoel geven als je er bij in de buurt bent dat je niet alleen bent, zoals dat met echte mensen is. De primatoloog Frans de Waal doet in de “Griezelvallei”, verslag van zijn bezoek aan het instituut van de Japanse onderzoeker waar hij kennis maakt met het fenomeen “uncanny valley”. De Waal is verrast door de echtheid van de beleving die door het ‘gedrag’ van de robots wordt gecreëerd. We denken automatisch op grond van bijvoorbeeld gesimuleerde levensechte oog- en hoofdbewegingen dat de humanoïde zich iets afvraagt. Maar een robot is puur buitenkant. Ze hebben geen ‘zelf’ zoals apen en mensen. “Apen lijken op ons via homologie, afstamming; robots via analogie.”
Hiroshi Ishiguro en zijn geminoide robot
Sprekende virtuele mensen (avatars of embodied conversational agents) worden onder andere toegepast in e-health toepassingen. Een virtuele coach of therapeut vervangt de echte mens om deze te ontlasten. Het voordeel is dat virtuele dokters altijd aanwezig zijn en dat je zoveel kan maken als je wilt. Bovendien kun je zelf bepalen, binnen de technische mogelijkheden, hoe ze eruit zien, hoe ze zich gedragen en wat ze moeten zeggen.
Welke factoren bepalen de overtuigingskracht van een bericht op de ontvanger? Daar is veel onderzoek naar gedaan. Met name op het gebied van de medische en para-medische communicatie: adviezen in het kader van lifestyle-coaching, voeding, sport en bewegen. Een recent literatuuronderzoek werd uitgevoerd door Silke ter Stal en haar collega’s. Meestal gaat het om laboratoriumonderzoek waarbij de proefpersonen eerst een aantal karakters beoordelen op hun betrouwbaarheid puur op uiterlijke kenmerken. Vervolgens worden deze karakters gebruikt om verschillende berichten te presenteren. Het doel is tot wetenschappelijk onderbouwde richtlijnen te komen voor het ontwerpen van virtuele converserende karakters voor eHealth toepassingen. Realisme van gebaren en expressies van het kunstmatige agent is één van de factoren die onderzocht zijn. Een realistisch karakter is niet altijd beter dan een cartoonachtig karakter. Wanneer door gebrekkige onderliggende grafische of audiotechniek een realistisch karakter net niet realistisch is kan het effect op de kwaliteit van de interactie tussen gebruiker en het karakter fnuikend zijn.
Wie ervaring heeft met online videogesprekken weet dat we uiterst gevoelig zijn voor een verschil in timing van beeld en geluid. Het is behoorlijk irritant wanneer het geluid een seconde achterloopt bij het beeld. Het synchroon afspelen van de gegenereerde spraak met de gegenereerde mond- en lipbewegingen is één van de lastigste onderdelen van het maken van realistische talking heads (synthetische sprekende gezichten). Het gaat daarbij niet alleen om de matching van fonemen (de klankeenheden) met de visemen (de zichtbare mondstanden) maar ook om de meebewegingen van het gelaat, de oogbewegingen en de rest van het lichaam. Ook hier is het lastig een grens te trekken welk onderdeel van het lichaam nog meedoet aan het spreken. Met behulp van “lerende” algoritmes is het mogelijk op basis van video en audiomateriaal van een spreker de specifieke kenmerkende expressies van de spreker tijdens het spreken te identificeren.
Persbureau Reuters maakte onlangs in samenwerking met AI startup Synthesia gesynthetiseerde video nieuwsrapportages, gebruikmakend van video opnames van een presentator en deepfake technologie. Het persbureau kan nu gebruik makend van de analyses van een presentator zoveel varianten van gesynthetiseerde voetbalreportages maken als ze maar wil. Zo kunnen ze nieuwsrapportages maken die aangepast zijn op een specifieke doelgroep. Het gaat vooralsnog om een prototype voor de generatie van voetbalreportages, een tamelijk onschuldig genre.
Het automatisch genereren van voetbalreportages op basis van exacte wedstrijdgegevens is traditioneel een geliefd toepassing van Natural Language Generation (NLG), het onderdeel van AI dat zich houdt met het machinaal genereren van teksten. Ook werd daarbij al gekeken naar het afstemmen van de verslaggeving op specifieke supportersgroepen (Chris van der Lee et al. 2017). De op het gebied van NLG opgedane kennis kan nu gebruikt worden in combinatie met deepfake technologie.
Onderzocht moet worden hoe het publiek hier tegenover staat en wat de ethische implicaties zijn. Wat dat laatste betreft benadrukt Reuter dat het niet om ‘fake news’ gaat: het doel is rapportages te maken over echte gebeurtenissen. De vraag is echter wie bepaalt wat echt gebeurd is, wanneer de media bepalen welk bericht daarover door welke verslaggever aan de consument wordt gepresenteerd. Voor de ontvanger is immers datgene wat echt gebeurt is datgene wat de media als ‘echt gebeurd’ presenteert. Welke mogelijkheid heeft de consument van nieuwsmedia anders om te bepalen of iets echt gebeurd is als hij er niet zelf bij is geweest?
Welke waarde we aan een opinie schenken hangt niet alleen af van de inhoud van de opinie, maar ook van degene die de mening brengt. Met de nieuwste AI technologie kunnen we elk bericht door willekeurig welke persoon laten presenteren. Gepersonaliseerde voorlichting en adviezen op het gebied van de gezondheidszorg kunnen we laten presenteren door iemand die door de consument als betrouwbaar overkomt.
Is het wel in het voordeel van de consument wanneer de media op grond van een profiel bepaalt welke presentator het voor de consument geselecteerde nieuws presenteert? Wil de voetbalsupporter van Ajax een ander wedstrijdverslag van Ajax-PSV horen dan de supporter van PSV ? En hoe zit dat met rapportages van politiek gevoelige evenementen? Wat zijn de gevolgen wanneer de krantenlezer of tv-kijker het nieuws op een persoonlijke wijze gepresenteerd krijgt?
Informatie wint aan geloofwaardigheid wanneer deze door verschillende karakters vanuit verschillende gezichtspunten wordt gepresenteerd (zie het werk van Elisabeth André en Ngyen). In een recent afgesloten EU project Council of Coaches werd onderzoek gedaan naar het gebruik van een meerdere coaches die elk vanuit hun eigen expertise de gebruiker adviseren. Ze kunnen ook op elkaar reageren en elkaars ondersteunen of bekritiseren. Dat zou de betrokkenheid van de client/gebruiker kunnen verhogen en daardoor meer effect kunnen hebben op zijn gedrag. Met behulp van de nieuwste ‘deep fake’ technologie kunnen we de virtuele karakters vervangen door ‘levende’ karakters. Afhankelijk van het domein ( politiek, medisch, sport ) en het profiel van de consument, kunnen karakters gekozen worden die bekend zijn in dat domein. Video- en audio-materiaal van bekende influencers en BNers kunnen zo worden ge(mis-)bruikt om het publiek van een bepaalde mening te overtuigen.
De uitdaging waar de technologie voor staat is producten te maken die zo perfect zijn dat we deze op grond van onze zintuiglijke waarneming voor authentiek houden. Naarmate we iemand beter kennen zal het moeilijker zijn ons niet-zintuiglijke gevoel voor echtheid te misleiden met gemanipuleerde beelden. Een deepfake variant van de Turing game zou kunnen aantonen hoe lastig het is met deepfake technologie ons te misleiden, zeker als het om een bekend persoon gaat.
Ethische kwesties
De vrees is dat we aan het begin staan van een infocalyps, een situatie waarin iedereen gemakkelijk beschikt over technologische middelen voor het manipuleren van perceptie en het vervalsen van de werkelijkheid.
De Ethics Guidelines for Trustworthy AI geauthoriseerd door de European Commission’s High-Level Expert Group on Artificial Intelligence (AIHLEG 2019) bevat onder ander het principe overgenomen uit de medische ethiek dat AI geen schade mag toebrengen aan personen, dat het de menselijke waardigheid en de autonomie van personen niet mag aantasten en dat het goed moet zijn voor de mensheid (‘humanity’ als mens-zijn).
Met deepfake kun je mensen, bedrijven en de samenleving gewild of ongewild beschadigen. In een recent artikel in Crime Science (2020) beoordelen experts deepfake als de meest ernstige vorm van criminele toepassing van AI.
Mag je gebruik maken van audio- en/of video opnames van iemand en deze als het ware dingen laten zeggen die hij of zij nooit gezegd heeft? Het zal de geloofwaardigheid van deze persoon aantasten wanneer deze zich leent voor het produceren van deepfake. Heb je opa’s toestemming nodig voor je na zijn dood hem nog verhaaltjes voor laat lezen aan je kinderen, door gebruik te maken van zijn stem?
Er zijn ongetwijfeld toepassingen die sommigen toelaatbaar achten vanwege het doel dat ze dienen. Zo kan deepfake gebruikt worden bij de online opsporing van misdadigers, zoals dat eerder al met avatars gebeurde.
Met het bestaan van deepfake kan de authenticiteit van elke video-opname die je onwelgevallig is in twijfel worden getrokken. Dit staat bekend als “the liar’s dividend”.
Afgezien van de morele kwestie of bij bepaalde toepassingen van deze technologie het middel het doel heiligt, is er de vraag wat het bestaan van deze technologie op zichzelf doet met onze kijk op de mens en de samenleving. James Brusseau (2020) ziet dit als de belangrijkste ethische kwestie als het gaat om evaluatie van AI technology.
“More than any solution, engagement is the goal of an AI ethics evaluation, which means illumination of what is at stake in terms of lived human experience.”
Deepfake technologie wijst ons op het noodzakelijk uitwendige karakter van onze expressies, van taal, gebaren en houdingen, en op het feit dat we daarmee door anderen geïdentificeerd worden en dat we onszelf daarmee weer identificeren. Wij zijn zoals wij voor anderen zijn. Video- en audio opnames van mij zijn niet alleen van mij, maar ze tonen ook wie ik ben. Manipulatie en misbruik van die opnames raakt mijn beeld en daarmee mijn persoon. Is er een recht op zelfbeeld? Zolang er beelden zijn zijn er beeldenstormen. Ze zijn niet gericht op het beeld maar op de afgebeelde en degenen voor wie die beelden nog iets betekenen.
Frans de Waal noemde de levensechte robots van Hiroshi Ishiguro puur buitenkant. Nadat de kunstmatig denkende machines ons er op hebben gewezen dat denken meer is dan wat we door machines in de sfeer van de uitwendigheid kunnen laten doen, maakt deepfake ons ervan bewust dat ook onze waarneembare expressies een uitwendige karakter hebben waarmee we ons niet volledig kunnen identificeren hoezeer we ons ook in die uitwendige beelden herkend willen worden. Zo kan deepfake, net als iedere vorm van kunst en techniek, ons helpen bewust te worden wat het betekent om mens te zijn en hoe we ons tot de uitwendige sfeer van de synthetische media moeten verhouden.
Bronnen
James Brusseau, What a Philosopher Learned at an AI Ethics Evaluation. In: AI Ethics Journal 2020, 1(1)-4, December 2020.
M. Caldwell, J. T. A. Andrews, T. Tanay, L. D. Griffin (2020). AI-enabled future crime. Crime Science, 2020; 9 (1).
Simon Chandler (2020). Why Deepfakes Are A Net Positive For Humanity. In: Forbes, 09-03-2020.
Simon Chandler (2020). Reuters Uses AI To Prototype First Ever Automated Video Reports, In: Forbes: 07-02-2020
Elisabeth André, Rist, T., van Mulken, S., Klesen, M., Baldes, S. (2000): The automated design of believable dialogues for animated presentation teams. In: Cassell, J., Prevost, S., Sullivan, J., Churchill, E. (eds.) Embodied Conversational Agents, pp. 220-255. MIT Press, Cambridge (2000)
Nguyen, H., Masthoff, J., Edwards, P. (2007): Persuasive effects of embodied conversational agent teams. In: Proceedings of the 12th International Conference on Human-Computer Interaction, Beijing, China, 2007.
Silke ter Stal, Lean Leonie Kramer, Monique Tabak, Harm op den Akker en Hermie Hermens (2020). Design Features of Embodied Conversational Agents in eHealth: a Literature Review. Int. J. Hum. Comput. Stud., 138, 2020.
Chris van der Lee, Emiel Krahmer en Sander Wubben (2017). Pass: A dutch data-to-text system for soccer, targeted towards specific audiences. In Proc. INLG’17, pp. 95–104, 2017.
Williams, Bernard (1970). Deciding to believe. In: Problems of the self: philosophical papers. Cambridge University Press, 1973.
Op de cover van het rapport “Ongekend onrecht” van de parlementaire ondervragingscommissie Kinderopvangtoeslag staat een afbeelding van een raderwerk. Het is meer nog dan de titel een treffende illustratie van waar het in deze zaak omdraait: de machinerie van de overheidsdienst waarin duizenden mensen bekneld raakten. Vanwege blindheid voor datgene waar het de overheid om te doen zou moeten zijn, het belang van de burger. In plaats van haar rechten te beschermen werden deze met voeten getreden. “Een keihard oordeel” was het algemeen commentaar op het werk van de commissie.
Het rapport van de commissie POK van 17-12-2020
Duizenden burgers zijn door de mangel gehaald van de toeslagenmachine van de Belastingdienst. Ze zijn als fraudeurs bestempeld door de overheid en zonder vorm van proces of zelfs maar de mogelijkheid zich te verweren bestraft door de afdeling Toeslagen. Grote bedragen moesten ze betalen, tot vele duizenden euros. Honderden gezinnen zijn in diepe financiële en psychische ellende gestort.
De commissie heeft een reconstructie gemaakt van de affaire met als doel een scherp beeld te schetsen van hoe dit heeft kunnen gebeuren. Maar hoe nu verder? Het frustrerende is dat ouders al jaren wachten op hun geld. Slechts een klein deel van de getroffen burgers hebben een deel van hun geld terugontvangen. Waarom moet het zo lang duren? Je zou toch denken dat je met een paar SQL queries de nodige gegevens uit de database van de dienst moeten kunnen trekken. Maar zo simpel is het kennelijk niet.
De ICT-systemen van de Belastingdienst zijn al vele jaren een doorn in het oog van de Algemene Rekenkamer. Het is niet alleen een onvoorstelbaar onvermogen van de Nederlands kennisindustrie, programmeerkunst en een gebrek aan goed ICT-management dat hier zichtbaar wordt, maar ook een falende overheid die een veel te complex en onuitvoerbaar systeem van regels- en wetten aan de diensten oplegt.
Maar wat hier vooral zichtbaar wordt is hoe de individuele burger in wat voor rol dan ook onderwerpen wordt aan een systeem. Deze wordt een abstracte entiteit in een door ons zelf ontworpen machinerie, het resultaat van een ‘rationele levensvoering’ die op alle gebieden van ons leven de overhand heeft. “Ik ben niet de waarde van een wiskundige variabele” zei de wiskundige en filosoof Hilary Putnam om te ontkomen aan de neiging van de moderne wetenschap de persoon te reduceren tot een element van een datastructuur. Maar de persoon is voor de Belastingdienst, voor de IND, voor de AIVD, niet meer dan een nummer, een waarde van een of andere variabele in hun computersystemen. Wie is er verantwoordelijk voor deze manier van doen waarvan talloze ouders in de ellende zijn gestort?
Ouders wachten niet alleen op geld. Ze willen genoegdoening. Toen ze naar de openbare verhoren van de dames en heren DGs, de hoge ambtenaren en de staatssecretarissen en ministers keken en de mensen in beeld zagen aan wie ze de ellende te danken hadden, hebben ze ongetwijfeld gedacht: aan hem of haar heb ik mijn ellende te danken. Maar over schuld doet de commissie geen uitspraak. Dat is niet haar taak. Ze heeft een reconstructie gemaakt. Iedereen is verantwoordelijk zo klinkt het. En dus niemand.
Hoe nu verder? Waar is de rechter die een uitspraak doet en de schuldigen een straf oplegt? Waar is de rechter die de ministers en staatssecretarissen als straf hun “dikke BMW” en hun villa of grachtenpand afneemt en bij wijze van taakstraf veroordeelt tot vijf jaar vrijwilligerswerk bij De Voedselbank. Waar is de rechter die de hogere ambtenaren bij de Belastingdienst veroordeelt tot het inleveren van 1 % van hun salaris of pensioen-inkomen iedere dag dat het nog duurt voordat alle slachtoffers hun geld hebben terugontvangen en vijf jaar prullenbakken legen na kantoortijd?
Maar zo zal het niet gaan. Misschien wordt er een minister of staatssecretaris de laan uitgestuurd. Of trekt hij of zij zelf de conclusie dat ie het beste maar op kan stappen. Wat helpt het? De politicus zal, een kat met zeven levens, wel ergens anders weer een dikbetaalde baan krijgen, als burgemeester of commissaris. En al die anderen dan? Die medeschuldig zijn. Moeten die niet aangepakt worden?
Natuurlijk wil je als burger, als slachtoffer genoegdoening en die bestaat voor een deel uit het straffen van de schuldige. We hebben hier echter niet te maken met personen. We hebben hier niet te maken met individuen die uit eigen belang of vanwege een psychische kwaal een misdaad bedrijven. We hebben hier te maken met een mechanisme, een machinerie. Met agenten die functioneren als geprogrammeerde onderdelen van een informatieverwerkend systeem, een infosfeer.
Het rapport geeft aan waarom een voorstel voor een zogenoemde hardheidsclausule, waarmee afgeweken kon worden van de standaardregels, werd afgewezen.
“Het argument daarvoor komt er op neer dat Belastingdienst/Toeslagen, vanwege de grote hoeveelheid uit te keren toeslagen, als een machine moet gaan werken. Uitzonderingen zorgen voor zand in de raderen.”
Wie met een machine werkt, dat weet iedereen die daar ervaring mee heeft, die is zelf een machine. De machine, het systeem, schrijft voor wanneer in welke vorm invoer moet worden gegeven. Wie met een machine werkt die weet wanneer hij er even over nadenkt en even niet naar het beeldscherm tuurt, dat voor de machine alleen maar informatie bestaat, cijfertjes en spreadsheets waarin mensen objecten zijn, gereduceerd tot instanties van categorieën.
Dat we ons leven zo inrichten en dat we deze technologie zo gebruiken heeft een economisch motief: het werkt efficiënter om algemene regels op te stellen volgens welke burgers die in een bepaalde welgedefinieerde categorie vallen op dezelfde manier behandeld worden. De belastingambtenaar gaat niet aan de keukentafel zitten met zijn client die hij moet dienen.
Wat ‘de ambtenaar’ is voor de burger is de burger voor de ambtenaar: een abstracte entiteit, een radertje in een machine, een nummer in een gegevensbestand. Dat gegevensbestand blijkt niet alleen onderdeel te zijn van een slecht functionerend systeem. Het systeem maakt ook nog eens gebruik van een moreel verwerpelijke classificatie waarin mensen op dubieuze gronden worden ingedeeld. Vergelijkbaar met wat de veiligheidsdiensten en de politie doet bij het gebruik van predictive policing werden individuen door de dienst Toeslagen op grond van een aantal kenmerken als ‘verdacht’ aangemerkt. En gestraft. Mensen worden elementen van een statistische referentieklasse, de uitkomst van machine learning op basis van big data, en als zodanig beoordeeld en behandeld.
Het “gelijke monniken gelijke kappen”, staat hoog in ons morele vaandel. We willen iedereen zoveel mogelijk op dezelfde manier behandelen. Er is dus niet alleen een economisch motief voor mechanisering, maar ook een ethisch motief. Het probleem is echter: wat is gelijkheid als het om individuele personen gaat? En wie is verplicht om door zijn beeldscherm heen naar de echte persoon achter de data te kijken?
Het zijn niet de wiskundige modellen, waarin objecten als elementen van een zelfde klasse of verzameling worden gemodelleerd, maar het is de gewetenloze toepassing van de wiskundige modellen waarin de burger gereduceerd wordt tot een wiskundig object in een wiskundig model die verantwoordelijk is voor de gevolgen voor de burgers die slachtoffer zijn van de toeslagenaffaire.
Vanuit het standpunt van het model en de toepassing ervan in de machinerie van de Belastingdienst worden de slachtoffers als “uitzonderingen” beschouwd. Vanuit het standpunt van de werkelijkheid zijn alle individuen “uitzondering” in die zin dat geen van hen te identificeren is als datastructuur in het wiskundige model. Daarom zouden we inderdaad wat “meer zand in de raderen van de machine” moeten gooien.
Gelijkheid of gelijkwaardigheid
Gelijkwaardigheid is een vaak opgevoerd ethisch principe. Het motiveert de gelijke behandeling van individuen. Dat is echter niet altijd rechtvaardig. Daarom wordt de verzameling van individuen waar het over gaat vaak ingedeeld in categorieën. Voor het indelen van een individu in een bepaalde categorie worden inclusie- en exclusie-criteria geformuleerd. Wetenschappers komen zo tot steeds complexere modellen en protocollen, want er zijn vele mogelijke eigenschappen op grond waarvan mensen van elkaar kunnen verschillen: nationaliteit, huidskleur, postcode, geslacht, etc., etc.
In het in onze cultuur heersende wiskundige denken worden de individuen elementen van een verzameling. Hun unieke persoonsnummer wordt een identifier in een computersysteem. Het proces van mathematiseren bestaat zo uit twee mentale operaties: het generaliseren van particularia (concrete individuen, personen) tot abstracte elementen van verzamelingen en het objectiveren van deze abstracties tot wiskundige objecten, waarmee vervolgens ‘gerekend’ kan worden in een informatie-verwerkend systeem. De term informatie verwijst naar de twee kanten van de objecten: het zijn entiteiten die enerzijds voorkomen in een mathematische structuur (denk aan een record, een tabel, een spreadsheet, een vector met attribuut-waarde-paren) anderzijds naar een inhoud die daarmee wordt vastgelegd. Informatie is altijd over iets of iemand. Wanneer de ethiek gelijkheidwaardigheid vertaalt in mathematische gelijkheid dan reduceert ze personen tot abstracte voorwerpen. “I am not a value of a variable!”, zei Hilary Putnam. Het is de ethiek die tegen de stroom van abstractie, mathematische objectivering en informatisering in voortdurend zich moet richten op de waarde van het unieke individu waarvan de uniekheid, de ongelijkheid met alle anderen, in deze maalstroom ten gronde dreigt te gaan.
De rechter die pal staat voor de rechten van de individuele burger moet zich laten richten door deze ethische houding: tegen de stroom van algemene wetten en regels bemiddelen voor de particuliere zaak.
“Het oefenen met de waarheid”
(Naschrift 21 juni 2021)
Een paar maanden na het verschijnen van het POK rapport Ongekend Onrecht is het derde kabinet Rutte gevallen over de toeslagenaffaire en nu enkele maanden verder lijkt het erop dat verschillende geïnterviewden door de POK het niet zo nauw hebben genomen met de waarheid. De kamer stelt een onderzoek in: is er sprake van meineed?
Het ‘memo-Palmen’ is een interne stuk, afkomstig uit 2017, waarin juriste Sandra Palmen stelt dat de Belastingdienst ‘laakbaar’ heeft gehandeld in de fraudejacht op toeslagenouders en hen dient te compenseren. Daar werd niets, of weinig, mee gedaan. Het memo raakte zoek en kwam pas in 2019 intern boven water en pas een jaar later in de openbaarheid.
Volgens Renske Leijten (SP, lid van de POK) had het memo-Palmen gemeld moeten worden, “en deze mail had ook bij de stukken aan de POK commissie moeten zitten in 2019.” De Tweede Kamer denkt zelfs dat de twee hoogste ambtenaren van de Belastingdienst en het ministerie van Financiën wisten dat het memo-Palmen over de toeslagenaffaire is achtergehouden, maar zij ontkenden dit in hun verhoren onder ede voor de Parlementaire Ondervragingscommissie Kinderopvangtoeslag (POK). Enkele Tweede Kamerleden spreken daarom van vermoedens van meineed.
Ministerie koopt coaching sessies om ondervraagden voor te bereiden op interviews met de POK.
“Uit de documenten bij het Wob-besluit van 23 maart 2021 blijkt dat vanaf 7 oktober tot en met 4 december 2020 achttien getuigen voor hun verhoor door de Parlementaire Ondervragingscommissie Kinderopvangtoeslag (POK) uitvoerig zijn gecoacht, al of niet met live camerasessies.”
Het ministerie bestelde een coaching programma à raison van een dikke 30 duizend euro, “want aan het oefenen met de waarheid bleek flink behoefte te bestaan: twaalf sessies met (oud-) bewindslieden Eric Wiebes, Frans Weekers, Menno Snel en Wopke Hoekstra, en 7 (oud-)ambtenaren. Ook de landsadvocaat was van de partij, van wie tot nu toe niet bekend was dat hij als getuige is gehoord.” (VK, 21 juni 2021)
Zou de reactie “daar heb ik geen actieve herinnering aan“, zoals onder andere door Rutte herhaaldelijk gebezigd, ook door coaching experts en spindoctors zijn ingegeven? Hoe vaak kan iemand zeggen zich zaken niet meer te herinneren voordat hij of zij zich daarmee incapabel verklaard voor zijn taak?
“U brengt me op een idee” zei de vrouw terwijl ze haar winkelwagentje naast de mijne voor het schap met tomaten in blik parkeerde, geduldig wachtend totdat ik mijn twee blikjes in mijn karretje had gelegd en haar de ruimte had gegeven.
Hoe reageer je als iemand je iets ziet doen en opmerkt “U brengt me op een idee”?
Mijn reactie was in dit geval niet negatief omdat ik er geen kwaad in zag. Bovendien leek deze mevrouw mij best wel aardig. Ze bestond uit een vage grimas half verborgen achter een mondkapje gepaard aan een bijna onhoorbaar onbetekenend gemompel.
Maar wat was dat idee waar ik haar op had gebracht? En in hoeverre was ik verantwoordelijk voor deze daad? Was het wel een daad van mij, zoals ze suggereerde: “U brengt mij …”. Wàt doe ik? Had ik de vrouw niet moeten vragen: welk idee bedoelt u?
Want stel je voor.
Stel je voor dat ik haar op het idee had gebracht met de ingeblikte tomaten pasta puttanesca te gaan maken om dat haar zoon, vakkenvuller bij de wereldwijde winkelketen, vanavond voor te schotelen. Een gerecht waarvan ze wist dat hij het verafschuwde. Dat hij bij opdienen van dit gerecht onmiddellijk zijn biezen pakt, de eerste de beste bus neemt, zich aanmeldt bij het vreemdelingenleger om uitgezonden te worden naar Afghanistan. Daar wordt haar zoon bij de eerste de beste ‘opruimingsactie’ gepakt door de Taliban die hem als onderpand inzet en Albert Heijn om twee miljoen dollar losgeld vraagt onder bedreiging hem van het leven te beroven. Als de supermarkt vervolgens weigert te betalen – wat is het leven van een vakkenvuller waard? – wordt haar zoon nog dezelfde dag onthoofd. De video wordt als bewijs opgestuurd naar zijn vader die er een boek over schrijft getiteld Waarom? omdat dát de vraag is waar hij mee zit. Niet toevallig het boek dat ik aan het lezen was toen mijn vrouw me vroeg nog even naar de Albert Heijn te gaan om een paar blikjes tomaten te kopen voor de pasta puttanesca.
Voor het geval dat ik nog eens bij Albert Heijn boodschappen doe – of om mijn part bij de Lidl – en ik breng daarbij iemand op een idee: laten we alvast één ding afspreken: Ik heb het niet gedaan. Ik ben onschuldig. Ik sta niet in voor de gevolgen.