De Algemene Rekenkamer heeft helemaal niets tegen algoritmes

Maar ze stelt wel vragen bij het gebruik van algoritmes door de overheid. Er hangt een mystieke sfeer rond algoritmes. Veel mensen vinden ze ‘eng’. De overheid wil algoritmes ‘demystificeren’. De Rekenkamer komt met een toetsingskader voor ethisch verantwoord gebruik van algoritmes door de overheid. Een goede zaak. Een paar kanttekeningen.

Concrete toepassingen van het toetsingskader op door de overheid gebruikte algoritmes, zoals predictive policing en (etnisch) profileren door de politie en de AIVD of door Defensie in onbemande vliegtuigen ontbreken echter in dit rapport. Zie over bedenkelijke gevolgen van dergelijke algoritmes bijvoorbeeld Cathy O’Neil (2016) Weapons of Math Destruction.

Verder ontbreekt een systematische analyse van alle stakeholders van een algoritme en hun verantwoordelijkheden; van wetgever en beleidsbepaler tot de burgers die te maken hebben met de besluiten die op grond van het gebruik van algoritmes door de overheid genomen worden.

Tot slot wordt in het rapport geen aandacht besteed aan de denkmethodes achter de algoritmes. Er is geen aandacht voor de logica van het gebruik van wiskundige modellen waarop algoritmes gebaseerd zijn. Algoritmes zijn gebaseerd op berekenbare modellen. Wiskundige modellen zijn abstracties van de werkelijkheid waarin aspecten genegeerd worden ten behoeve van de praktijk. Statistische methodes gaan over klassen van individuen en abstraheren van het individu. Computers verwerken informatie, een gedepersonaliseerde vorm van kennis volgens algemene rekenregels. Een wereld zonder algoritmes is niet denkbaar. Ze zijn van groot nut. Niet alleen voor de overheid.

De logica die toegepast wordt bij het ontwikkelen en gebruik van modellen is inductief: het denken springt van noodzakelijk beperkte ervaringen en data naar algemene conclusies. Dat maakt deze wijze van denken zeer foutgevoelig. Soms spreekt men van ‘ongewenste neveneffecten’, van ‘bedrijfsongevallen’ of ‘çollateral damage’.

De ethiek, in de vorm van ethische richtlijnen moet tegenwicht bieden tegen de abstractie en de generalisatie die wezenlijk kenmerk zijn van het mathematiseren van de werkelijkheid en de aandacht richten op de concrete werkelijkheid van de individuele burger, of de instantie waarover het gaat.

Een individu mag nooit beoordeeld worden uitsluitend en alleen op grond van het feit dat deze tot een bepaalde referentieklasse behoort. Zie bijvoorbeeld Colyan et al. (2001).

Predictive policing is een techniek die leidt tot het bevestigen van vooroordelen die ingebakken zitten in de data.

Het is een goede zaak dat de Rekenkamer aandacht heeft voor algoritmes want er overheerst in onze technologische samenleving een neiging om systemen steeds autonomer te maken, in die zin dat ze steeds meer zelfstandig beslissingen nemen en acties uitvoeren. De mens wordt uit het systeem gehaald (‘human-out-of-the-loop’) . Volgens sommigen is dat noodzakelijk omdat deze te traag is of omdat de mens te vaak fouten maakt. Producten van artificial intelligence (slimme algoritmes) nemen de taken van de mens over. Daar moeten we boven op zitten. Anders loopt het uit de hand.

Gisteren, 26 januari 2021, bood de Rekenkamer haar rapport Aandacht voor Algoritmes aan de Tweede Kamer aan. De Tweede Kamerleden kunnen er mee aan de slag.

Als oud-docent programmeren die studenten het schrijven van algoritmes leerde kun je alleen maar verheugd zijn met deze aandacht voor deze praktische kunst.

Iedereen maakt dagelijks, zonder het te weten, gebruik van honderden algoritmes. Dat is het mooie van techniek: je gebruikt het zonder je druk te hoeven maken over hoe het werkt. Anderen hebben voor jou het denkwerk verricht. Dat is mooi. Zolang het maar werkt. Algoritmes zitten in spam mail filters, in tekstverwerkers, in browsers, in diensten die via het internet juist die advertenties tonen die in jouw persoonlijke profiel passen (ook door algoritmes bepaald), in je navigatiesysteem. Ze zitten ingebakken in chips bijvoorbeeld in wasmachines, in je solar tracker en in je energietransformator.

Maar waarom deze aandacht van de Algemene Rekenkamer voor algoritmes? Is daar soms iets mis mee? Het gaat haar echter niet om de algoritmes zelf maar om het gebruik van algoritmes door de overheid. Daar zit vanwege diverse affaires een verdacht geurtje aan. Denk aan de toeslagenaffaire waarbij algoritmes gebruikt werden die burgers ten onrechte als fraudeur bestempelden.

Ter motivatie van het werk zegt het rapport:

Bij de uitvoering van het beleid maakt de rijksoverheid gebruik van
algoritmes. Algoritmes zijn sets van regels en instructies die een
computer geautomatiseerd volgt bij het maken van berekeningen
om een probleem op te lossen of een vraag te beantwoorden.
We wilden onderzoeken wat die algoritmes nu precies wel en niet
doen, demystificeren dus. We wilden vragen beantwoorden als: hoe
voorkomt de rijksoverheid dat er vooroordelen in algoritmes sluipen?
Overziet de rijksoverheid wat de inzet van algoritmes voor gevolgen
heeft voor personen en bedrijven die met het overheidsbeleid te
maken krijgen?

Het gebruik van algoritmes demystificeren. Wat is het geheim achter het gebruik van algoritmes? Hoe “sluipen vooroordelen in algoritmes”.

Algoritmes kennen zeer uiteenlopende verschijningsvormen van rekenmodellen, beslisbomen en andere statistische analyses tot complexe dataverwerkingsmodellen en ‘zelflerende’ toepassingen.

Zowel binnen de rijksoverheid als daarbuiten wordt al jarenlang gebruik gemaakt
van algoritmes, maar door de negatieve aandacht wordt dit als ‘eng’ ervaren. Stelt het rapport.

Meer begrip kweken voor algoritmes en hun gebruik

Het is wenselijk dat de techniek rondom algoritmes beter wordt begrepen en er meer
inzicht wordt geboden in het gebruik van algoritmes zodat de ‘hype’ er af gaat
(demystificatie);

Als voorbeeld wordt genoemd SyRI (Systeem Risico Indicatie), een systeem dat binnen de overheid (zoals de UWV en de Belastingdienst) werd gebruikt om fraude op te sporen met algoritmes. In februari 2020 oordeelde de rechter dat de wetgeving die de inzet van SyRI regelt een te grote inbreuk op de privacy van burgers vormde.


Er is behoefte aan een toetsingskader of richtlijn voor het gebruik van data en algoritmes door de overheid.

Het rapport noemt enige soorten algoritmes.

Een voorspellend algoritme wordt ingezet voor een analyse van de vraag
‘Wat zal er gebeuren?’.

Een voorschrijvend algoritme voor een analyse van de vraag ‘Wat moet er gebeuren?’. Medische decision support systemen en triage procedures zijn van dit type.

Een ‘lerend’ algoritme ontdekt in de loop van de tijd, op basis van nieuwe data, nieuwe verbanden (correlaties) en genereert op basis daarvan uitkomsten.

Machine learning algoritmes maken dat computers verbanden tussen gegevens kunnen ‘leren’ uit een verzameling gegevens. Deze verbanden kan ze toepassen op nieuwe gegevens doordat de mens of de omgeving waarin het systeem wordt toegepast terugkoppeling (feedback) geeft aan de computer. Lerende systemen worden gebruikt voor bijvoorbeeld spam mail filters of in een tekstverwerker die spellingfouten aangeeft of een suggestie doet voor het woord dat bedoeld zou zijn.

Deep learning is een vorm van machine learning waarbij modellen worden
gebruikt die overeenkomsten vertonen met neurale netwerken in het brein
.

Waar het de Rekenkamer om gaat is de vraag of het gebruik van algoritmes wel altijd ten goede komt van de burgers. Dat dat niet altijd zo is bleek onlangs weer eens uit het verslag van de commissie die onderzoek deed de toeslagenaffaire bij de Belastingdienst. De Autoriteit Persoonsgegevens constateerde al dat de overheid persoonsgegevens, zoals nationaliteit en dubbele nationaliteit, gebruikte in computersystemen om mensen als mogelijk fraudeur te classificeren. De overheid doet aan (etnisch) profileren. Ze behandelt burgers op basis van een profiel, een referentieklasse waarin ze de burger heeft ingedeeld, op grond van een paar kenmerken.

De Rekenkamer heeft gekeken waar bij de overheid wat voor soort algoritmes gebruikt worden. Het gaat haar uiteindelijk om een (ethische) toetsing van het gebruik van algoritmes.

De vragen in het toetsingskader zijn mede opgesteld aan de hand van ethische
principes. Zie onderstaande tabel. Voor de toetsing zijn vragen opgesteld die tot een score moeten leiden van een algoritme.

De ethische principes van het toetsingskader voor algoritme en data gebruik door de Nederlandse Overheid (bron: Aandacht voor Algoritmes)

Voordat het kader gebruikt wordt zijn er een aantal Algemene Vragen, zoals “Is het zelflerend?” en “Maakt het gebruik van persoonsgegevens?” en “Is het een autonoom systeem, dat handelt zonder tussenkomst van de mens?” (Denk aan de ontwikkeling van Killer Robots bij Defensie).

De vragen in het toetsingskader zijn mede opgesteld aan de hand van deze
ethische principes. Deze zijn grotendeels afkomstig uit rapporten van de EU.
Ethic guidelines for trustworthy AI (2019) en Whitepaper on Artificial Intelligence
– A European approach to excellence and trust (2020) van de Europese
Commissie (2019).

Wie zijn de stakeholders?

Het is goed om een onderscheid te maken tussen de diverse betrokkenen rond een algoritme. Wie spelen daarbij welke rol. Wie zijn de stakeholders?

De wetgever, de producent van het computersysteem, de opdrachtgever, de koper, de onderhouder, de gebruiker, de leveranciers van de gegevens, de gegevensbeheerder, degenen waarop de (persoonlijke) gegevens betrekking hebben, de burger die betrokken zijn bij het beheersdomein waarbinnen het algoritme werkt, aanbevelingen doet.

Voor elk van deze betrokken moet in kaart gebracht worden in welk stadium van de levensduur van een algoritme ze welke rechten, plichten en verantwoordelijkheden hebben en of er voldoende garanties zijn voor de uitvoerbaarheid van deze verantwoordelijkheden. Zover gaat het rapport niet.

Conclusies van de Rekenkamer

Bij uitbesteding van algoritmes of onderdelen daarvan zitten overheidsorganisaties er niet altijd dicht genoeg op en is er in een aantal gevallen minder grip dan bij algoritmes in eigen beheer.

Als voorbeeld kan genoemd worden predictive policing systemen die door derden zijn geleverd en waarbij de producent zijn methode als bedrijfsgeheim voor zich houdt. Maar ook wanneer een systeem deels intern ontwikkeld is samen met een softwarebedrijf betekent dit vaak dat de gebruiker niet weet wat de beperkingen ervan zijn. Voor de gebruikers, de uitvoerende ambtenaar, is het systeem een black box.

Ook al is het algoritme ‘op papier’ perfect, de mens maakt het algoritme en bepaalt
welke data het algoritme gebruikt. Er kan nooit met 100% zekerheid worden
gesteld dat modellen (of mensen) geen bias hebben en daarmee niet discrimineren. Het lijkt belangrijk dat ook de politiek zich dat realiseert voor het nemen
van effectieve en haalbare beheersmaatregelen.

Programmeren is een kunst. Er worden veel fouten gemaakt. Uit jarenlange ervaring in het lesgeven kan ik concluderen dat mensen moeite hebben met wat in het jargon “exception handling’ heet; het afhandelen van uitzonderingen. Sommige statistici gooien excepties gewoon weg omdat ze deze als fout bestempelen. Het debuggen van software is net zo moeilijk, zo niet moeilijker, dan het schrijven van foutloze code.

We zouden binnen de rijksoverheid (minimale) eisen moeten stellen aan de
toepassing van algoritmes zodat hier op een verantwoorde wijze mee wordt
omgegaan.

De uiteindelijke verantwoordelijkheid voor de fouten ligt bij de Minister. Helaas meestal geen expert in het domein. Ze is afhankelijk van de informatie die de ambtenaren haar geven. Gezien de toeslagenaffaire schort er nogal wat aan de communicatie netwerken. De mens is en blijft daarin de zwakste schakel.

Literatuur

Cathy O’Neil (2016) Weapons of Math Destruction, How big data increases inequality ans threatens democracy. Penguin Books, 2016.

Colyan et al. (2001)Is it a crime to belong to a reference class? The Journal of Political Philosophy, Volume 2, Number 2, pages 168-181, 2001.

Counterfactuals

In de serie Denken in Tijden van Corona gaat het dit keer over de vraag:

Is dit leven?

Je kunt je verschillende situaties voorstellen waarin deze vraag bij iemand opkomt. Misschien is het de tekst op het spandoek van een demonstrant tegen de Coronamaatregelen. Dan is het vermoedelijk niet echt als een vraag bedoeld maar meer als een roep om vrijheid. Of denk aan de intensivist in het ziekenhuis die samen met zijn collega’s voor de moeilijke beslissing staat of zijn patient die al weken in coma wordt gehouden nog wel verder in leven gehouden moet worden.

De Corona-pandemie houdt ons thuis. ‘Het virus’ houdt ons bezig omdat ‘het’ ons leven bedreigt. Voor sommigen geldt dat vrij letterlijk. Maar het is lastig te voorspellen wiens leven het meest bedreigd wordt. Er zijn wel statistieken, gegevens waaruit we kunnen halen welke categorie mensen de grootste kans hebben om door het virus te overlijden, maar wat zeggen die over ieder van ons als individu? Je denkt mij zal het niet overkomen en het volgende moment wordt je er door overvallen. De wetenschap gaat niet over individuele mensen, maar over categorieën. De medische wetenschap, zei Aristoteles al, gaat niet over Socrates, maar over ziektes en ziektebeelden en hun verwekkers en behandelingen.

Dat het leven ons wat waard is blijkt zowel uit de enorme inzet van mensen die werken in de ziekenhuizen, dokters en verpleegkundigen, als uit de miljarden die de regering stopt in het overeind houden van de economie en de gezondheidszorg. Maar even zeer uit de protesten tegen de soms draconische maatregelen die de overheid op advies van de wetenschappers die het moeten weten afroept en die het leven op een zo zacht pitje zet dat de grens van wat nog leven mag heten voor ons gevoel benaderd wordt. Want wat is leven nog als je niet eens meer elkaar op mag zoeken in de kroeg of thuis, niet meer naar school kunt, of samen sporten of naar je voetbalclub gaan. Het is met name de onzekerheid over de noodzaak van al die vrijheid beperkende maatregelen en het feit dat we nog zoveel niet weten over het virus die het soms lastig maakt de situatie te accepteren zoals deze is. Ja, zelfs wat de situatie is, en wat ons in deze toestand gebracht heeft, daarover zijn de meningen diepgaand verdeeld.

Maar we weten ook een heleboel wel. Wat wisten wij een jaar geleden over virussen en over pandemieën en hoe je daarmee om moet gaan? Gelukkig zijn er mensen geweest die al ver voor dit virus opdook zich verdiepten in de materie. Zonder de inspanningen van vele wetenschappers: fysici, biologen, chemici, fysiologen, virologen, en medici – vaak uit pure nieuwsgierigheid – hadden we nu niet “zo snel” een vaccin gehad die ons tegen het virus kan beschermen. Je hoort wel eens zeggen dat wetenschap “ook maar een mening” is. Die mening berust niet op kennis van zaken. Kennis die niet meer dan een mening is is geen wetenschap. Een mening levert ons geen werkend vaccin. Wetenschap berust op kennis van de feiten, uit eigen of andermans betrouwbare waarnemingen. Het is kennis die verantwoord is, of kan worden en daarom ook bekritiseerd kan worden onder verwijzing naar andere feiten en waarnemingen. Feiten zijn niet verzonnen en alternatieve feiten zijn geen feiten. Maar wat een feit is die vraag is al even moeilijk te beantwoorden als de vraag wat leven is. En toch weten we op een of andere manier wel wat een feit is en wat niet en wat nog leven is en wat niet.

Contrafeiten

Hoe zou de situatie, de toestand in de wereld, zijn geweest wanneer in 1900 de Nederlander Hugo de Vries niet toevallig op het spoor was gekomen van een in het tijdschrift van de Naturforschender Verein in Brunn in 1866 verschenen artikel geschreven door ene Gregor Mendel.

Hoe zou de toestand zijn geweest wanneer deze Oostenrijkse Augustijn niet besloten had zijn experimentele onderzoek met erwten in de kloostertuin van Brunn te publiceren? Onderzoek waarin hij de naar hem genoemde erfelijkheidswetten van de organische natuur blootlegde. Van nature bestuiven erwten planten zichzelf en er ontstaan spontaan verschillende soorten. Het zichzelf voortplanten wordt beschouwd als één van de basiskenmerken van het leven. De amateurbioloog Mendel wilde weten hoe dit proces verloopt en greep in de natuurlijke gang van zaken in. Hij schermde de erwtensoorten af en zorgde zelf voor de kruisbestuiving.

Hugo de Vries, de ‘Nederlandse Darwin’, zette het werk van Mendel voort. Hij ontdekte dat de natuur bij de voortplanting “kleine sprongetjes” maakt, mutaties zoals hij die noemde. De Vries is de grondlegger van de moderne mutatietheorie en naamgever van het microbiologische ‘gen’ een deel van het chromosoom dat volgens de huidige inzichten zorgt voor het doorgeven van erfelijke eigenschappen bij de voortplanting. Het gen is onderdeel van het chromosoom en bestaat weer uit DNA. Het zijn macromoleculen. Alle organismen bevatten DNA. En er zijn virussen die DNA bevatten. Op basis van de nieuwste biochemische inzichten kunnen we door genetische modificatie tot op zekere hoogte bepalen welke eigenschappen een organisme heeft en zal doorgeven. Zo ontwerpt de mens op technische wijze een vaccin, variaties van DNA of RNA moleculen en eiwitten die ons leven tegen de door natuurlijke processen ontstane ziekmakende virussen moeten waarschuwen. Om het leven te begrijpen en het te beschermen moet je in staat zijn het op een afstand te bekijken en het lef hebben er in te snijden. Tot op de kleinste deeltjes. Kleiner nog dan de voor ons oog en onze microscopen zichtbare materie. In de wereld van de deeltjes heerst de wet van de grote aantallen. Het individuele gedrag van een deeltje, een foton, molecuul of virusdeeltje (virion) is niet te beschrijven. We kunnen alleen iets zeggen over het statistisch gedrag van miljoenen deeltjes in een systeem.

Hoe had de wereld eruit gezien als Max Planck in 1900 niet op het lumineuze idee was gekomen waarmee hij het verschijnsel van de ultravioletcatastrofe kon verklaren, namelijk dat het licht bestaat uit deeltjes van bepaalde grootte, fotonen. Het begin van de kwantummechanica.

Hoe had de wereld eruit gezien als de natuurlijke evolutie niet een wiskundig genie als James Clerk Maxwell had voortgebracht; de schot die de wetten van het electromagnetische straling in slechts vier vergelijkingen beschreef. Wetten waarop fysici als Heinrich Herz en Max Planck weer voortborduurden.

‘Contrafeitelijke’ vragen (‘counterfactuals’) zijn lastig te beantwoorden. Wil je daar iets steekhoudends over zeggen dan moet je een causaal netwerk hebben dat een volledig beeld geeft van de afhankelijkheden in de ontwikkeling van de kennis. Een hopeloos complex systeem. Vele malen complexer dan een fysisch gesloten systeem van moleculen. Alleen voor simpele systemen bieden mathematische theorieën van Causale Inferentie, zoals die van Judea Pearl, een ‘oplossing’. Een meer alledaags antwoord op dergelijke counterfactuals is “als hij of zij het niet had uitgevonden had een ander het wel gevonden.”. Daaruit spreekt een vermoeden dat er ondanks alle toevalligheden die aan de individuele gebeurtenissen kleven, of dat nu op het microniveau van de elementaire deeltjes is of op het niveau van de samenleving er toch een soort van noodzakelijkheid is die de ontwikkeling van onze kennis kenmerkt. En het zijn deze twee aspecten aan de werkelijkheid, toevallige spontaniteit en wetmatigheid, die de fysici en de evolutionair biologen die probeerden een antwoord te geven op de vraag “wat is leven?” vanaf het begin van de vorig eeuw bezig hielden.

Fysica en biologie

In zijn voordracht “What is life?” (1943) vraagt de fysicus Erwin Schrödinger wat de statistische kwantummechanica heeft bijgedragen en verder kan bijdragen aan de vragen van de biologie. Daarin wijst hij op het baanbrekende werk van de ‘Dutchman De Vries’. Zijn mutatietheorie doet Schrödinger meteen denken aan de kwantumtheorie. “The mutations are actually due to quantum jumps in the gene molecule.”. Hij vergelijkt De Vries’ mutatietheorie met Darwin’s evolutietheorie.

“In Darwin’s theory, you just have to substitute ‘mutations’ for his ‘slight accidental variations’ (just as quantum theory substitutes ‘quantum jump’ for ‘continuous transfer of energy’). In all other respects little change was necessary in Darwin’s theory, that is, if I am correctly interpreting the view held by the majority of biologists.”.

Een mutant van een gen omschrijft Schrödinger als ‘a version of the code-script’. Het is wat de bioloog een allel noemt. Het virus neemt een bijzondere plaats in onder de microorganismen. De vraag of het virus levend of levenloos is, roept onmiddellijk de vraag op wat we onder leven verstaan. Welke eigenschappen moet een wezen of ding hebben om het levend te noemen? Onze intuïtie zegt dat het ding actief is en dat het uit zichzelf actie onderneemt om in leven te blijven. Maar zelfs bij de mens kunnen we soms twijfelen of dit wel geldt. Worden wij ook niet door krachten buiten ons gedetermineerd? Vanuit het perspectief van de fysica die op zoek is naar oorzaak gevolg relaties, waarbij de oorzaak buiten het gevolg gedacht wordt te liggen is een zichzelf tot activiteit aanzettend wezen niet te onderscheiden van een wezen dat door iets buiten zichzelf wordt bewogen. Waar de grens tussen binnen en buiten wordt getrokken lijkt willekeurig. De keuze van de grenzen van een systeem is juist gebaseerd op een intuïtie omtrent de individualiteit van een fenomeen. De fysica kan niet zonder de alledaagse notie van leven, maar het begrip van het leven ontsnapt aan haar methode van kennis verwerven en haar mechanistische perspectief. De fysica zoekt wetmatige causale relaties. Zelfs voor de fysioloog blijft het leven een raadsel. De fysicus Hermann Weijl beschouwt het virus als een brug tussen de levende en de levenloze natuur. Het virus is een soort van sleutel die in haar DNA of RNA de code bevat voor de toegang tot de levende cel die het als parasiet nodig heeft om zich voor te planten. De informaticus levend in een tijdperk waarin alles informatie is en elke activiteit als een vorm van informatie verwerken wordt gezien, doet dit onmiddellijk denken aan de rol die het computerprogramma heeft: de sleutel tussen de programmeur en de machine.

SARS-CoV-2—also known as 2019-nCoV, the virus that causes COVID-19. isolated from a patient in the U.S., emerging from the surface of cells cultured in the lab. Credit: NIAID-RML

‘Biologie is reverse engineering’ volgens D.C. Dennett, die vanuit dit technische perspectief een antwoord probeert te formuleren op de vraag hoe iets levends ooit uit de levenloze materie heeft kunnen ontstaan. “…taking on the premise that every living thing is a product of nonmysterious physical processes that gradually brought all the elements together…” (Dennett, 2017). Uit het feit dat de evolutie het karakter heeft van een ontworpen proces mag je niet concluderen dat er een ontwerper is die dit alles eerst bedacht heeft, zoals de mens de technische systemen heeft bedacht. Virussen zijn ontworpen zonder ontwerper. Het probleem van deze benadering is dat zodra je het leven kan terugvoeren tot niet-levende processen je het verschil tussen beide kwijt bent.

De filosoof G.W.F. Hegel houdt deze wijze van reproductie van de geschiedenis van de levensvormen voor ongeschikt voor wie het gaat om het leven te begrijpen.

“Es ist eine ungeschikte Vorstelling älterer, auch neuerer Naturphilosophie gewesen, die Fortbildung und den Übergang einer Naturform und Sphäre in eine höhere für eine äusserlich-wirkliche Produktion anzusehen, die man jedoch, um sie deutlicher zu machen, in das Dunkel der Vergangenheit zurückgelegt hat.” (Enz. Phil. Wissenschaften II, par. 249)

Volgens Schrödinger zouden de biologische fenomenen volledig verklaard gaan worden uit de nieuwe fysica, de kwantummechanica en de relativiteitstheorie. Niels Bohr, bekend van zijn Kopenhaagse interpretatie van de Schrödingervergelijkingen, is een andere mening toegedaan. In zijn voordracht Light and Life stelt hij dat de experimentele methode van de fysica niet geschikt is om het leven te doorgronden. Daarvoor is een principe noodzakelijk dat complementair is aan de principes van de kwantumfysica. De wetenschap wil de mens in experimenten in laboratoriumcondities controleren om te onderzoeken hoe deze van nature zich gedraagt. Maar daarvoor zal de wetenschapper het individu toch een zekere mate van vrijheid moeten geven die het object van studie echter de gelegenheid geeft op geheel eigen wijze op de opgelegde condities te reageren.

Anderzijds, laten we niet vergeten, stelt Bohr, dat de statistische wetten van de kwantummechanica net zo belangrijk zijn voor het verklaren van het gedrag van levende organismes, waaronder de mens, als voor het gedrag van de anorganische systemen.

Het volk vraagt van de wetenschappers in het Outbreak Management Team of deze hen kan zeggen wat de gevolgen zijn van de maatregelen die de politiek ter bestrijding van het virus voorstelt. De gevraagde zekerheid kan ze niet bieden. De relativiteitstheorie leert niet alleen de fysicus maar ieder gezond denkend mens dat de reactie van de mensen op de regels die de politiek aan het volk oplegt mede bepalend is voor het resultaat ervan.

De politiek schippert tussen de conflicterende eisen die het volk en de verschillende wetenschappers stellen om de kwaliteit van leven gezien de omstandigheden te waarborgen. De media hebben vanwege de pandemie de wetenschappers voor het voetlicht gebracht. De wetenschappers voelen zich soms onder druk gezet door de politiek. Soms passen wetenschappelijke resultaten niet goed bij wat de politiek of het volk wil. In retrospect worden ook door de leden van het OMT counterfeitelijke vragen gesteld.

‘Achteraf’, zegt microbioloog Jan Kluytmans, lid van het OMT, was januari 2020 ‘de maand waarin het verschil gemaakt had kunnen worden’. Had de politiek maar beter naar de virologen geluisterd. De politiek heeft echter een andere agenda dan de wetenschap. Ze moet immers het kiezersvolk te vriend houden. Daar heeft de wetenschapper, terecht, geen boodschap aan.

Van het virus zijn we niet af. Ze kent miljarden mogelijke mutaties, waarvan een deel een goede kans heeft te overleven als ziekmakend parasiet van mens of dier. De hoop is gevestigd op de wetenschappers, fysici en biologen om de kennis van “het virus” verder te verdiepen, zodat we (nog) beter voorbereid zijn op een volgende pandemie. Dat de wetenschap geen antwoord kan geven op de vraag “is dit leven?” en geen grens kan aangeven tussen de levende en de niet-levende natuur valt haar niet te verwijten. Integendeel zegt de filosoof Louk Fleischhacker in zijn inzichtrijke artikel “On the notion of life”.

…the impossibility of a scientific definition of life is in no way a deficiency of science. On the contrary, the recognition that this is so, is a sign of honesty and scientific seriousness. De wetenschapper streeft er weliswaar de wetenschap onafhankelijk te maken van de alledaagse betekenis van de woorden, ze zal moeten toegeven dat ze dat niet kan zonder haar betekenis voor het alledaagse leven te verliezen.

Bronnen

Louk E. Fleischhacker (1998). On the notion of life. Theory of Bioscience. 117:139-160. In dit artikel geeft Louk een eigentijdse ‘vertaling’ van de natuurfilosofie van Hegel opgevat als een kritische filosofische theorie van het leven.

Edwin Schrödinger (1944). What is life? The Physical Aspect of the Living Cell.

Niels Bohr (1933). Light and life. In: Nature, 1 April 1933. Nature Publishing Group.

Daniel C. Dennett (2017). From Bacteria to Back and Back. The evolution of minds. Penguin Books, 2017.

Georg W.F. Hegel (1830/1975). Enzyklopädie der philosophischen Wissenschaften im Grundrisse. Zweiter Teil, Die Naturphilosophie.

Herman Weyl (1963). Philosophy of Mathematics and Natural Science. Atheneum, New York, 1963.

Frederik J.J. Buytendijk (1965). Prolegomena van een antropologische fysiologie. Uitg. Het Spectrum. Serie Aula Pocket 204.

Waarom onze taal veelzinnig moet zijn

De taal kent verschillende vormen van woord-gebruik waarin één en hetzelfde woord met verschillende betekenissen voorkomt. Zo kent de taal de analogie (‘gezonde’ voeding), de metafoor (‘de avond van het leven’), de ambiguïteit (‘de bank’). Bij ‘overdrachtelijk’ woordgebruik wordt een woord in ‘overdrachtelijke’ zin gebruikt (schreeuwende kleuren). Dit in tegenstelling tot de letterlijke zin. Woorden hebben kennelijk een letterlijke betekenis en daarnaast niet-letterlijke betekenissen. Ik heb daar moeite mee. Waarin onderscheidt de letterlijke betekenis van een woord zich van de niet-letterlijke betekenissen?

Woorden worden in de loop van de levendige geschiedenis van de taal van de ene gebruikssituatie overgedragen naar een andere nieuwe gebruikssituatie. Maar niet willekeurig. De wetenschappelijke en technische ontwikkeling speelt daarbij vaak een rol. Zo wordt het woord intelligent tegenwoordig niet alleen maar gebruikt voor mensen en nadere levensvormen, maar ook steeds vaker voor technische producten. We spreken van ‘intelligente’ machines, van ‘programmeertalen‘. Een vorm van overdrachtelijk taalgebruik waarmee het woord ‘intelligent’ een ‘nieuwe’ betekenis krijgt. Een machine is immers niet op dezelfde manier intelligent als een mens intelligent is en een programmeertaal is een taal die niemand spreekt.

Er is echter een verschil met de manier waarop het rood van de roos verschilt van het rood van het bloed, of waarop het schreeuwen van de kleur verschilt van het schreeuwen van de kat in het nauw, of waarop gezonde voeding op een andere wijze gezond is dan de mens die zich ermee voedt. Of neem de verschillende betekenissen van het woord ‘hulplijn’. Een hulplijn is zowel een lijn die iemand een drenkeling toewerpt, een communicatiemiddel dat iemand kan gebruiken om een probleem op te lossen, maar ook een lijn die getrokken wordt als middel om een bewijs van een meetkundige stelling te leveren. Maar bij het gebruik van het woord intelligent als we het over machines hebben is iets anders aan de hand. Aan de machine die ‘denkt’ en een taal ‘spreekt’ komt namelijk iets wezenlijks van het denken en spreken tot uitdrukking. Het machinale of mechanische is een aspect van taal en denken. Er is een zeer intieme relatie tussen intelligentie en machines. Daarbij speelt de taal een sleutelrol. De taal heeft net als het technische ding een bepaalde vorm van zelfstandigheid: de taal spreekt als het ware vanzelf.

Wanneer ik hierboven stel dat één en hetzelfde woord verschillende betekenissen kan hebben, dan onderscheid ik het woord van zijn betekenis. Maar deze komen nooit separaat in de werkelijkheid voor: een woord, of teken of gebaar zonder betekenis is geen woord, teken of gebaar. Betekenisloze symbolen bestaan niet. Woorden hebben altijd zowel een uitwendige zintuiglijke verschijningsvorm, een klank als een inhoud, iets mentaals. Woorden verwijzen voor wie ze als woord bestaan in het gebruik naar iets buiten de taal. Zodra we erover nadenken onderscheiden we de aspecten, teken, betekenis, en gebruik, die juist in het gebruik van het woord niet bestaan.

Het spreken is ook een fysisch proces dat als zodanig door de zelfstandige werking van de natuur als het ware kan worden overgenomen: de sprekende machine. De woorden kunnen als uiterlijke bouwstenen gerepresenteerd worden door fysische toestanden van een machine en door operaties volgens bepaalde regels gecombineerd worden tot zinnen. Deze reeksen van woorden kunnen door geluid makende apparaten worden omgezet in simulatie van een sprekende stem. We kunnen een apparaat zodanig in richten dat het werkt volgens de betekenis van de woorden die we er tot richten. Het geluidsignaal dat met het uitspreken van de woorden gepaard gaat tijdens het uitspreken veroorzaakt (door ons als invoer van het apparaat beschouwd) een werking die we zien als het uitvoeren van de bedoeling die we in de geuite woorden hebben uitgedrukt. Dit is in a nutshell het principe van de automaat. Om een eenvoudig voorbeeld te geven van zo’n constructie: men houdt een stukje papier voor de mond en roept “wapper, wapper, wapper”. En het papiertje voert de instructie subiet uit. Alsof het papier de bedoeling van de opdracht om te wapperen begrijpt. We maken gebruik van de natuurnoodzakelijke gevolgen van de actie die we uitvoeren. De natuur werkt volgens wetten die in wiskundige vergelijkingen kunnen worden uitgedrukt. De vallende steen kan daarom beschouwd worden als een machine die exact uitrekent met welke snelheid deze de grond moet raken. Als zus het geval is dan gebeurt met zekerheid zo. Als A dan B. Het is alsof de natuur denkt iedere keer als A gebeurt moet ik B doen. De natuur werkt in die zin logisch. Iedere keer als ik wapper zeg wappert het blaadje. Daar kunnen we op rekenen. Het is precies vanwege de wetmatigheid van de natuur die in mathematische relaties tussen verschillende variabelen van een systeem uitgedrukt kan worden dat machines goed zijn in rekenen. Het rekenen is bij uitstek een denken dat machinaal verloopt, met tekens, die staan voor wiskundige objecten (zoals getallen) worden manipulaties uitgevoerd volgens eenduidige regels. De abacus kan als rekenmachine gebruikt worden omdat er een eenzinnig verband bestaat tussen de rijtjes balletjes en de bewerkingen die we ermee uitvoeren en de getallen en de rekenkundige operaties die deze representeren. Wanneer ik twee stokjes op tafel leg en nog een drie dan kan ik ze vervolgens als geheel tellen; vijf stokjes. Zo kan ik uitrekenen dat 2 plus 3 gelijk is aan 5. De eenzinnige relatie tussen de cijfers of de verzameling stokjes enerzijds en de getallen anderzijds, tussen de ‘tekens’ en hun betekenissen, deze eenzinnigheid die zo kenmerkend is voor de wiskunde bestaat niet in de gewone omgangstaal.

Waarom heet een logische schakeling logisch?

Iedere machine zit in zekere zin logisch in elkaar, namelijk omdat er begrip van een doelmatig proces in uitgedrukt is. Maar een logische schakeling is logisch op nog een speciale manier die daarvan onderscheiden is. Een logische schakeling is niet alleen logisch zoals elke machine logisch is dat het volgens een begrepen wetmatigheid op bepaalde invoer met bepaalde uitvoer reageert, maar we noemen deze bij uitstek logisch omdat de relatie tussen de invoer en de uitvoer een logische operatie representeert. De logische AND-schakeling werkt zodanig dat de relatie tussen de waarden van de invoerkanalen A en B en het uitvoerkanaal C beschreven wordt door de logische AND-operatie: de uitvoer C is dan en alleen dan waar als zowel A als B waar zijn. Zo wordt ook de logisch “als A dan B” operatie, de operatie die als het ware de basis is van het technische denken: als ik X doe gebeurt er Y, expliciet door een logische schakeling gerepresenteerd.

Wat zegt dit nu over de betekenis en het gebruik van het woord ‘intelligent’ als we dit van een machine zeggen? Betekent dit dat de machine intelligent is zoals de mens intelligent is en dat de machine rekent zoals de mens rekent?

De vraag suggereert een tegenoverstelling tussen het denken van de machine en het denken van de mens. Dat die tegenoverstelling een basale denkfout is heb ik hierboven geprobeerd uit te leggen. Het is een fout die veel gemaakt wordt. Zoals het woord niet zonder haar betekenis bestaat, zo bestaat de machine niet zonder de mens en het denken dat de machine bedacht heeft en voor wie de machine machine is.

Betekent dit dat de mens een machine is? Dat het denken en spreken bij mensen net zo verloopt als bij de machine? Dat zou betekenen dat de mens slechts in de uitwendigheid bestaat, dat het een fysisch proces is dat zijn betekenis als informatie-verwerkend of rekenproces aan iets anders ontleent; aan iets dat buiten de mens bestaat. We kunnen wel doen alsof we een machine zijn en ons laten programmeren om bepaalde taken uit te voeren, maar we kunnen ook zelf bepalen welk doel we nastreven.

Niet alleen machines wordt intelligentie toegezegd ook andere levensvormen. Dieren zijn ook slim. Maar hier gaat het om een andere relatie met de menselijke intelligentie dan die bij de technische artefacten.

De slimheid van het virus

In een krantenartikel over het ontstaan van mutaties van virussen kwam ik de volgende zin tegen. “Bezien vanuit het virus een slimme zet: een virus kan nu eenmaal meer gastheren besmetten als we snotterend blijven rondlopen, dan wanneer we rillend van de koorts in bed kruipen.” (Maarten Keulemans in de Volkskrant). Het virus wordt hier slim genoemd. Alsof het virus doelbewust kiest voor een mutatie die haar meer kans geeft te overleven. Als wij in de natuur iets ontdekken dat kennelijk een bestaansrecht heeft verworven en zich in stand kan houden dan kunnen we daar nog niet uit concluderen dat dit bestaan de uitdrukking is van een van te voren bedacht plan, zoals dat bij een door de mens bedacht technisch artefact het geval is. Wanneer wij een virus een slimme schaakspeler noemen in een overlevingsspel met de afweersystemen van de mens dan is er sprake van een metafoor waarin we een vermogen van de mens projecteren op de natuur. Een vorm van antropomorfisme. Het virus kunnen we wel slim noemen, maar we weten dat het anders slim is dan een machine. De slimheid die we toekennen aan de activiteit die tot het behoud van het bestaan van de levensvorm behoort wordt gezien als het resultaat van wat Richard Dawkins de algemene wet van de “survival of the stable” noemt, een generalisatie van Darwin’s wet van de ‘survival of the fittest’. Dingen die wij als bestaand beschouwen moeten niet bedacht worden, maar door de mens opgemerkt en geobserveerd worden. Daarvoor is het noodzakelijk dat de dingen een zekere stabiliteit hebben. Ze moeten een ‘levensduur’ hebben die lang genoeg is om door ons te worden opgetekend. De elementaire deeltjes in de kwantumfysica leven kort maar lang genoeg om door de natuurkundigen geobserveerd te worden. Deze vormen verdienen een naam. Net als de atomen, de moleculen en de virussen. Of we het virus een levensvorm noemen is een kwestie van perspectief. De wetenschap, de biologie, de biochemie, de fysica kan niet uitmaken of het virus tot de levende of tot de levenloze natuur behoort. Iedere definitie die een classificatie van levende en levenloze natuur beoogt is betrekkelijk willekeurig. Ook al willen we wel graag dat het gebruik van de termen in overeenstemming zijn met wat we gewoonlijk er onder verstaan. Wat de wetenschap levend noemt moet wel iets van leven hebben.

In zijn Selfish Genes and Selfish Memes vergelijkt Dawkins het virus als survival machine met de programmeerbare computer. De machine is weliswaar door de programmeur geprogrammeerd, maar deze werkt daarna zelfstandig en wordt niet meer door de mens gecontroleerd bij elke stap die deze doet. Op een vergelijkbare manier zou het virus zijn survival machine zelfstandig laten werken. Deze vergelijking gaat me te ver. De programmeerbare machine is als technisch artefact waargave van een door de mens bedacht ontwerp dat in een programmeertaal wordt uitgedrukt en door de machine wordt uitgevoerd. Dat geldt niet voor het virus, dat in de natuur voorkomt. Dat de schaakcomputer zelfstandig in elke situatie zijn volgende zet bepaalt doet hier niets aan af. Dawkins ziet de zelfstandige machine in één lijn als voortzetting van de evolutionaire ontwikkeling van het virus tot de levensvormen waarvan de van zich zelf en de natuur bewuste mens de meest ontwikkelde vorm is. Zal de machine in de toekomst als volgende levensvorm de mens overnemen? Wanneer dat zo is dan zal de mens daarin als levensvorm opgenomen zijn geheel in lijn met de hierboven geschetste mens-machine-relatie.

Terug naar de veelzinnigheid van de taal. Dat we woorden als intelligent, denken en rekenen zowel gebruiken voor eigenschappen van machines als van mensen en andere levensvormen is uitdrukking van de intieme relatie die het menselijke met het machinale heeft: de mens heeft de machine zowel bedacht, maar ook ontdekt als iets dat in haar omgaan met haar natuur aanwezig is. In het algemeen kunnen we stellen dat de veelzinnigheid van de taal de veelheid van verschijningsvormen van de werkelijkheid reflecteert. Zo noemen we verschillende zaken levend omdat er iets van het leven in tot uitdrukking komt. Dat veelzinnigheid iets anders is dan dubbelzinnigheid zal uit bovenstaande betoog duidelijk zijn geworden.

Negenenzestig, toevallig.

Het is 10 januari 2021, de wereld zucht onder de corona pandemie. De straten van Madrid en Salamanca zijn bedolven onder een dik pak sneeuw. Toevallig zag ik op deze dag precies 69 jaar geleden het levenslicht. Ik zeg ‘toevallig’ omdat ik zonder het toeval dit niet had kunnen schrijven. Zonder de chirurg van het MST Ziekenhuis in Enschede die ‘s avonds laat beschikbaar was om mij van een doorgebroken appendix af te helpen was ik er niet meer geweest. Zonder mijn huisarts dokter Ylgun die de mogelijke ernst van de situatie onderkende, een aantal typische symptomen waren afwezig, en mij direct naar de poli stuurde was ik er niet meer geweest. Zonder de echoscopist die op de foto niets meer van een appendix kon zien en daaruit concludeerde dat de zaak er niet goed uitzag en de dienstdoende chirurg vroeg om voor een spoedoperatie naar het MST te komen was ik er niet meer geweest. En dat is toch toevallig want een dag daarvoor werd ik nog door een dienstdoende weekendarts met een paar pijnstillers naar huis gestuurd. De situatie bleek levensbedreigend. Dat is nu zo’n 5 jaar geleden.

In een vorig leven behandelde ik in een college over de vraag “Hoe te rekenen met onzekerheid?” een medisch decision support systeem (LEXMED van Wolfgang Ertel) dat de arts hulp kan bieden bij het diagnostiseren op acute appendicitis. De arts voert zijn observaties in waarna het systeem met een classificatie komt. Het systeem kent vier opties: niets aan de hand, kom over een maand terug, geef medicatie, of direct opnemen. Uit evaluaties bleek het systeem beter te kunnen classiferen dan artsen. Dat is een statistische uitspraak over het resultaat van een test waarin een dergelijk door mensen gemaakt systeem met mensen vergeleken wordt. De conclusie is dat een arts geholpen wordt door de grote hoeveelheid gegevens die in het systeem zijn opgeslagen. In mijn geval had het systeem waarschijnlijk geadviseerd de patiënt naar huis te sturen. Tref je dan bij toeval een arts die blindelings het advies van het systeem over neemt en je naar huis stuurt dan heb je dikke pech. Ik leef nog. Bij toeval. Huidige systemen voor het diagnostiseren van een doorgebroken appendix maken nog steeds fouten.

Ik ben geen medicus. Ik behandelde het systeem vanwege de methode die het toepaste om uit een hoeveelheid gegevens (hoe meer hoe beter, Big Data!) iets te zeggen over een nieuw geval. In dit geval een patiënt. De statistische methode maakte namelijk gebruik van het principe van Maximum Entropie, een principe dat door de fysicus E.T. Jaynes was geformuleerd. Ik was daarvan wel gecharmeerd. Zijn Probability Theory was voor mij een eye opener. Het principe zegt dat wanneer je uit een heleboel data een kansverdeling moet kiezen, je het beste die kunt kiezen die een maximale entropie heeft. Waarbij je natuurlijk wel rekening houdt met de gegevens die je hebt. Niet meer en niet minder! Entropie is een maat voor onzekerheid. Het principe zegt eigenlijk dat als je de kansen over de mogelijkheden die er zijn zodanig moet verdelen dat dit het beste de onzekerheid uitdrukt. Wanneer je een dobbelsteen in handen krijgt en je hebt er nog geen ervaring mee dan zul je de kans op het gooien van een zes op 1/6 schatten. De uniforme kansverdeling kent aan alle uitkomsten dezelfde kans toe. Dit is de verdeling met een maximale entropie. Chaos heeft een grotere onzekerheid dan een gecontroleerd wetmatig verlopend proces. Hoe groter de entropie van een bron hoe moeilijker het is te voorspellen wat er uitkomt. Die bron kan een taalspreker zijn (entropie van de taal) of de werkelijkheid van het virus. Entropie is een fysisch begrip en een statistisch begrip. In de warmteleer (thermodynamica) heeft het een macroscopische betekenis, warmte stroomt van een gebied met hogere temperatuur naar een gebied met lagere temperatuur. Als je in een afgesloten ruimte twee glazen water zet waarvan één met een suikeroplossing en de ander niet dan zullen de inhouden zich op den duur met elkaar vermengen. Op microscopische en subatomaire schaal is entropie een maat voor de kansverdeling dat een systeem zich in een bepaalde toestand bevindt.

Wanneer je de natuur op zijn beloop laat dan neemt de entropie toe. Het wordt een zootje. Je zou kunnen zeggen dat leven een strijd is tegen deze neiging van de natuur in. De medici en de virologen hebben in hun strijd voor het leven heel veel te danken aan de fysici.

In zijn lezing Light en Life gehouden op 1 April 1933 bespreekt de fysicus Niels Bohr, bekend van zijn Copenhagen interpretatie van Schrödinger’s vergelijkingen in de kwantummechanica, de betekenis van de nieuwste ontdekkingen in de fysica van de elementaire deeltjes voor de biologie. Zijn de nieuwste inzichten in de kwantumfysica voldoende om de levensprocessen te begrijpen? In zijn lezing introduceert hij de complementariteitshypothese. “The recognition of the essential importance of fundamentally atomic features in the functions of living organisms is by no means sufficient however for a comprehensive explanation of biological phenomena.” In de zaal zat zijn PhD student Max Delbrück. Hij werd gegrepen door het idee en besteedde de rest van zijn leven aan de zoektocht naar een principe dat complementair is aan de principes en wetten van de fysica. Zoals binnen de fysica het deeltjes en golf-model van de materie complementair zijn en beide noodzakelijk voor het verklaren van de verschijnselen in de dode natuur zo moet er volgens Bohr een principe zijn naast de fysica dat noodzakelijk is om het leven te begrijpen.

Genes are physical structures. Deze ontdekking is misschien wel de belangrijkste van de vorige eeuw. Volgens de fysicus Hermann Weyl vormt het virus een brug tussen de organische en de anorganische natuur. Is het virus dood of levend? Het hangt ervan af hoe je leven definieert. Maak je een virus dood door handen te wassen of verplaats je het alleen maar? Maar als het al dood is?

Waarom zijn atomen en virussen zo klein? vroeg de fysicus Erwin Schrödinger in zijn What is life? voordracht. Waarom zijn wij zo groot? Omdat we, als we maar uit een paar atomen zouden bestaan, geen statistiek kunnen bedrijven? Wat is dat complementaire principe dat we nodig hebben om het leven te begrijpen? Doelgerichtheid, tegen de stroom van de tijd in? Of is het Het Toeval, dat waar we altijd weer op uitkomen als laatste grond wanneer alle mogelijke verklaringen zijn uitgeput? Het leven blijft boeien.

Noot:

Een virus is een stukje DNA met daarom heen een eiwitmantel van een vettig materiaal. Dat lost op in zeep waardoor het DNA haar bescherming mist. Het kan niet meer aanhaken bij een levende cel, zich niet meer vermenigvuldigen en binnendringen in de cel. Vandaag dat handen wassen met zeep belangrijk is om ernstige gevolgen van besmettingen met het virus te voorkomen.