Author: admin

“De centrale vraag is: wat willen we van de mens maken?” (Peter-Paul Verbeek, 2011)

“We live in an orderly moral world, or so we believe most of the time.” (Mark Coeckelbergh, 2012)

Is het goed dat een appel wanneer deze rijp is uit de boom valt?

Is het goed dat een kat muizen vangt?

Is het goed dat de mens muizen vangt?

Kan een muizenval kwaad doen?

Dit stukje gaat over de kwestie of intelligente machines morele agenten zijn. Dat wil zeggen of kwalificaties als ‘goed of kwaad doen’ toepasbaar is op wat ze doen.

Een morele agent is een zelfstandig handelende entiteit die bij zijn handelen streeft het goede te doen en het slechte na te laten. Zo’n agent zouden we intelligent, verstandig willen noemen. Kan iemand verstandig handelen en tegelijk niet het goed willen? Maar is intelligent niet hetzelfde als verstandig? Als dat zo is zouden intelligente agenten omdat ze verstandig zijn altijd moreel zijn. Tenminste als verstandig zijn moreel zijn inhoudt.

Moraliteit is een feit, een kenmerk van de natuur, zoals de behoefte aan voedsel. Dit feit demonstreert dat de natuur, en de mens in het bijzonder, meer is dan een informatie-verwerkend systeem.

Zoals de pyramide meer is dan de stenen waaruit deze door de mens is opgebouwd. Dat wat het meer is, de betekenis ervan, de ziel die erin huist, dat is de pyramide in relatie tot de mens als waardesubject. Wanneer we dat vergeten en afzien van deze vorm, door en voor de mens te zijn wat het is, heeft het ding een zelfstandigheid als pyramide die naast die van de mens staat en er van gescheiden is. Zo is het met alle artefacten, ook met de intelligente morele machines. Zonder de relatie met de mens is de machine niet meer dan een fysisch proces, of zelfs dat niet, want ook dat is al een manier waarop we in de natuurwetenschap de werkelijkheid soms opvatten: als proces.

Wie in kunstmatige intelligentie gelooft, in de vorm van intelligente ‘autonome’ machines, die denkt dat de beelden die we van de werkelijkheid creëren tevens tot diezelfde werkelijkheid behoren. De idee dat AI bestaat berust dus op een verwarring van model met werkelijkheid. En die verwarring is door ons makers in zekere zin bedoelt. De werking berust op de identificatie voor ons als gebruiker van model en werkelijkheid.

Mijn professionele achtergrond is de onderzoekwereld van de Human Machine Interaction ook wel Human Media Interaction. Daar onderzoeken en maken we methodes en technieken om intelligente (sprekende) en ‘begrijpende’ machines te maken. We maakten ‘companion robots’ voor oudere mensen. Ik ken de verschillende ‘stances’ (D.C. Dennett) die je tegenover een artefact kan aannemen. Sommige ouderen voerden een ‘gesprek’ met een robot konijn, zoals de secretaresse van Weizenbaum tot zijn verbazing een gesprek voerde met zijn Rodgeriaanse computerprogramma! Techniek werkt voor zover en zolang je er op vertrouwen kan dat het werkt en dat het bedoelt wat het zegt. Techniek berust op kennis van een betekenisvolle interactie tussen mens en situatie, waarin het als instrument bemiddelt. De situatie waarin het instrument gebruikt wordt moet overeenkomen met hoe deze door de maker bedacht is. De situatie en het instrument moeten geschikt zijn voor het gebruik. Anders werkt de techniek niet, zoals bedoeld. Dit zien we bijvoorbeeld bij een informatiebord aan de kant van de weg, waarop een plattegrond met een pijl die een punt aanwijst en daarbij de woorden “U bevindt zich hier.” Dit werkt voorzover de lezer zich in werkelijkheid op de plek bevindt die overeenkomst met de punt op de kaart. Het bord moet daarvoor staan op deze bepaalde plek. Zo moet de situatie waarin een instrument gebruikt wordt overeenkomen met die zoals van te voren bedacht door de ontwerper. Het maken van een technisch instrument houdt dan ook altijd in het medeontwerp van het gebruik en de situatie waarin het instrument gebruikt wordt. Dat gebruik kent zoals ieder menselijk handelen ook morele, ethische aspecten. De vraag is in wat voor situatie brengen we de gebruiker met dit technische middel? Welke vrijheden van handelen heeft deze nog?

In de filosofie leer je enerzijds afstand te nemen anderzijds juist jezelf als denkend en bewust subject van het denken waarin de werkelijkheid verschijnt mee te denken. Je leert aan (zelf)reflectie te doen. Dat is een lastig proces. Kennen is een relatie en relatie denken is lastig. Je vergeet dat je wat je ziet niet alleen inhoudelijk neemt zoals het is maar ook naar de vorm waarin je het opvat. Maar zonder die vaardigheid is het niet mogelijk de moderne techniek te begrijpen. Je kunt de programmeerbare machine geen recht doen door deze als een (complexe) klassieke machine te begrijpen. Net zo min als je de woorden recht doet door ze (alleen) als klanken te zien met een complexe structuur. Met een robot gaan we anders om dan met een stoommachine. met woorden anders dan met klanken.

Uiteindelijk gaat het natuurlijk niet om wat men denkt of zegt over het al dan niet morele ‘agent’ of ‘patiënt’ zijn van technische artefacten. Het gaat veel meer om hoe we met anderen, met de natuur en met de dingen omgaan. Daar werkt uiteindelijk de moraliteit.

Of, zoals de politicus Marx zijn kritiek op de filosoof Hegel verwoordde:

“Die Philosophen haben bisher die Welt nur verschieden interpretiert, es kommt aber darauf an, sie zu veränderen.” (K.Marx, Elfde ‘These über Feuerbach’)

Je moet wel eerst een tijd gedacht hebben dat je intelligente machines kunt maken, voordat je tot het inzicht komt dat zoiets een ideaal-beeld is en zal blijven zolang je er naar blijft streven. Het werken aan het inzicht in wat dit streven inhoudt is de enige therapie om ervan verlost te raken.

Het Morele en Legale Systeem

Kijk daar rijdt een tractor zo maar over een kind. Zo maar? Het kind stak zo maar over. Zo maar? En wat is dat, dat grote gebouw? Dat is de rechtbank. Daar wordt recht gesproken door een rechter. Als een agent niet volgens de ongeschreven regels acteert dan kan deze voor de rechter worden gedaagd. De rechter bepaalt of de persoon aansprakelijk is. De boer kan zeggen dat het de schuld is van de tractor, de tractor-fabriek dat het de schuld is van de software. De software-maker dat het de schuld is van de programmeur.

De rechter begrijpt het, maar hij heeft er geen begrip voor. Hij vindt het onacceptabel.

De rechter stelt de schuldvraag aan een agent. Dat moet volgens de regels een rechtspersoon zijn. Zoiets heeft een identiteit, een bestaan in de tijd. Het heeft een eigennaam, waarmee hij door anderen aangesproken wordt.

Mensen voelen zich (soms) verantwoordelijk. Dat hoort bij een persoon met een identiteit. Verantwoordelijk als schuld, voor wat ze gedaan of niet gedaan hebben in het verleden en verantwoordelijk als zorg. Ze zorgen ervoor dat ze doen wat ze beloofd hebben. Verantwoordelijkheid is wat de activiteiten van de personen bindt. Het is het cement van de samenleving. Of moet je zeggen dat de individuen door het cement pas worden wat ze zijn? Dat ze door het samenleven worden geboren. In biologische zin is dat toch zeker het geval. Waarin is het kind anders dan de boer waarvan het een kind is?

De rechter moet de rechtspersoon die gedaagd is weer op het rechte pad brengen, soms uitsluiten van de samenleving: de straf. Dit gekrioel wordt beheerst door emoties, door vreugde en verdriet.

De Uitwendigheid

“Juist in een tijd waarin de mens zich voortdurend dreigt te verliezen in zijn uitwendige gestalten, is de filosofie in de verleiding ook te proberen hem juist vanuit die gestalten te begrijpen. Dat is iets ander dan: die gestalten als zelfveruitwendigingen van de mens te begrijpen.”.

Dit schreef Louk Fleischhacker in de syllabus Wijsbegeerte van het Wiskundig Denken n.a.v. het college in het studiejaar 1975/76. Toen ik vele jaren later deze tekst nog eens las schreef ik in de kantlijn de namen Dennett en Floridi. Ik meende dat deze twee moderne filosofen van de techniek zich aan deze ‘fout’ schuldig maakten: denken vanuit het mathematische. Wat Floridi betreft: zijn methode van Levels of Abstraction die geïnspireerd is door de methodiek van het Objectgeörienteerde programmeren en het ontwerpen van technische systemen leidt al gauw tot deze gedachte. Nu, nadat ik nog eens wat meer van hem heb gelezen, betwijfel ik of Floridi zich aan deze fout schuldig maakt. Een onderzoek.

Onbetrokkenheid en uitwendigheid: het morele dilemma van de triage

Kenmerkend voor de sfeer van de uitwendigheid waarin het mathematische, technische denken zich afspeelt is de onbetrokkenheid. Aaan de hand van een recent voorbeeld probeer ik dit te verduidelijken.

Vanwege de heersende Corona pandemie en het dreigend tekort aan IC-bedden werd de ziekenhuizen gevraagd met een Nationaal Triage-Protocol te komen voor als de situatie kritiek wordt (‘code zwart’).

“Het vaststellen van selectiecriteria is complex, en vergt lastige ethische afwegingen. Tijdens een crisis is er minder tijd voor deliberatie en weloverwogen keuzen. Een goede voorbereiding mede op basis van ethische afwegingen is dus van groot belang. Daarom is het belangrijk om een protocol klaar te hebben liggen waarin ethische afwegingen voor rechtvaardige selectie van patiënten expliciet worden genoemd.” (Centrum voor Ethiek en Gezondheid).

Triage in de zin van afwegen wat voor deze individuele patient de beste zorg is en of een opname op een IC-afdeling nog zinvol is dat doen artsen al lang. “Maar wat we nog nooit hebben gedaan, is switchen van het belang van de individuele patiënt naar het belang van de bevolking.” zegt Rik Gerritsen, intensivist van het Medisch Centrum Leeuwarden in een interview in de Volkskrant (16-06-2020).

Of een COVID-19 patiënt ergens in het land wel of niet opgenomen wordt mag niet afhangen van de toevallige beschikbaarheid van een IC-bed ter plaatse of de regionaal geldende regels. Dat wordt als onrechtvaardig gezien. Het komt erop neer dat intensivisten en artsen die palliatieve zorg verlenen aan patiënten op boven-regionale, nationale, schaal moeten beslissen welke patiënt wanneer in aanmerking komt voor opname op een IC afdeling. Medici en ethici hebben samen zo’n protocol opgesteld. De keuze is allereerst gebaseerd op medische gronden. Pas wanneer er dan nog geen keuze gemaakt kan worden wordt volgens het protocol een leeftijdscriterium toegepast.

Elk ziekenhuis moet een triagist aanstellen die het beheer heeft over de nodige gegevens voor het uitvoeren van het protocol. Deze worden in een nationaal administratie-systeem opgeslagen. Daarin wordt ook bijgehouden waar IC-bedden beschikbaar zijn. Ook reeds opgenomen patiënten worden meegenomen in de afweging. Elke dag wordt dan op basis van de gegevens besloten wie in aanmerking komt voor opname en wie niet. Een boeiend ICT project dat aan een aantal stringente eisen mbt efficiëntie, robuustheid en transparantie zal moeten voldoen. Maar daar gaat het hier niet om. Hier gaat het om de ethische kant.

De als triagist aangestelde dokter mag nooit een behandelrelatie met één van de te verkiezen patiënten hebben. Zo staat in het protocol. Waarom niet? “Anders zal zij altijd voor haar patient kiezen, juist vanwege die behandelrelatie“. Maar: “Als arts zul je en moet je ook altijd voor je eigen patient ‘strijden'”. Zo vertrouwde Sabine Netters, van het centrum voor palliatieve zorg in Zwolle mij toe.

In Gerede twijfel: over de rol van medische ethiek in Nederland (1993) schrijft de wetenschapsfilosoof Gerard de Vries:

“De taak van de ethicus is: “Inzicht geven in gevoelens, het laten zien van de conflicten en tragedies en het getuigenis afleggen van de verscheurdheid die artsen, ouders, verpleegkundigen en vrienden doormaken.”

Dit zijn dus precies die aspecten aan de relaties die de patiënt heeft en die zijn identiteit uitmaken waarvan in het protocol voor de toekenning van IC-bedden in tijden van Code Zwart niet alleen wordt afgezien, maar waarvan ook uitdrukkelijk wordt gesteld dat er van moet worden afgezien. De triagist die bemiddelt tussen de patiënten van het ziekenhuis en het informatiesysteem van het landelijk platform mag niet persoonlijk betrokken zijn bij de patiënten om wie het gaat.

Die “eigen patiënt” waarbij de behandelend arts persoonlijk betrokken is, staat in schril contrast met het ‘informatie-pakketje’ in het nationale computersysteem dat de intensivist volgens de standaard van het triage protocol over deze patiënt heeft ingevoerd en op grond waarvan het systeem berekent of de zorg aan deze patiënt zal moeten worden gestopt of niet. Overigens moet vermeld worden dat er voorafgaand aan ‘Code Zwart’ en aan het inwerking treden van het triage-protocol al heel wat vooraf is gegaan voor de meeste patiënten. Waarbij het vaak nog maar de vraag is of de patiënt dit behandel-traject nog wel in wil.

Afgezien daarvan. We zien hier hoe de wil een ‘rechtvaardige’ beslissing te nemen die die aspecten in een gegeven situatie die we als ‘toevallig’ en ongewenst zien moet uitsluiten leidt tot een situatie waarin de ‘betrokkenheid’ bij ‘de eigen patiënt’ zo’n rechtvaardig besluit in de weg staat. En tevens hoe dit conflict ervaren wordt zodra het er op aankomt en door de intensivist aan de behandelend arts het besluit: de uitkomst van het toepassen van het protocol op de gegevens meegedeeld moet worden. Betrokkenheid bij de eigen patient wordt als negatief gezien, in zoverre het betrokkenheid bij de samenleving verhindert. Maar die samenleving bestaat toch uit de individuen die er aan deel hebben!

De intensivist wordt gevraagd niet alleen te denken aan zijn “eigen patient” zoals Gerritsen van het MCL stelde maar een protocol op te stellen voor alle potentiële patiënten. Dit vraagt een andere vorm van betrokkenheid van de intensivist. Hij of zij moet de lastige afweging maken tussen de betrokkenheid bij het algemeen belang en bij het belang van de ‘eigen’ patiënt. Hij moet afstand doen van een deel van zijn eigenheid.

Morele besluiten moeten altijd gemaakt worden in een dergelijke conflictsituatie, waarbij goed en kwaad tegen elkaar moeten worden afgewogen. De vraag is welke rol de instelling van het triage-protocol hierin speelt. Wat voor neveneffecten heeft het op de zorg en vooral op de zo wezenlijke ‘betrokkenheid’ van de zorgverlener bij de ‘eigen patiënt’? Is deze informatisering van de besluitvorming, welke distantie, abstractie en onbetrokkenheid inhoudt, op zich zelf al niet onrechtvaardig?

Hoe het ook zij, de technische ontwikkeling heeft intelligente artificiële systemen opgeleverd die steeds ‘autonomer’ besluiten nemen. Het Nationale Triagesysteem is een voorbeeld. Zelfsturende auto’s, zelf-sturende onbemande gevechtsvliegtuigen zijn andere voorbeelden. Het zijn systemen die in situaties terecht komen waarin ze zelf moeten besluiten wat te doen. Dat de mens uit de loop (het reactieve systeem) wordt gehaald is omdat deze de reaktiesnelheid van het systeem nadelig beïnvloedt: er moet zeer snel beslist worden of de drone een bom laat vallen of niet. Zonder een snel functionerend computernetwerk zou het Nationale Triage-Protocol ondenkbaar zijn.

Zijn dit morele agenten (zoals de mens een morele agent is)? Maar wat betekent dit eigenlijk?

Computer Ethics

In de context van Computer Ethics is het van belang na te denken over de moraliteit van ‘intelligente’ systemen vanwege het feit dat we ze zien als handelende agenten. Wanneer is een systeem een agent en wanneer een morele agent? Floridi en Sanders hebben een poging gedaan deze vragen te verhelderen. Ze zijn geïnspireerd door formele methodes uit de wereld van het (object-geörienteerd) programmeren.

Hun methode heeft veel invloed op het denken over moraliteit van technische dingen.

Is dit een bevredigende aanpak? In hoeverre getuigt hun aanpak van wat Fleischhacker noemt “de verleiding te proberen de mens vanuit de uitwendige gestalten te begrijpen”. Kunnen we ‘moraliteit’ wel definiëren vanuit een ‘onbetrokken’, ‘uitwendig’ standpunt?

Veelzinnigheid van ‘moreel’

De term ‘onbetrokken’ is veelzinnig en kan zowel verwijzen naar een sociaal-psychologische houding als naar een filosofische categorie. Fleischhacker doelt op het laatste wanneer hij dit in verband brengt met de ‘sfeer van de uitwendigheid’. Het verwijst naar de Cartesiaanse scheiding tussen het kennend subject (cogito) en de werkelijkheid die als pure uitgebreidheid (res extensa) wordt opgevat.

Het onderscheid tussen de twee onderscheiden betekenissen van ‘betrokkenheid’ is van belang. We maken hetzelfde soort onderscheid ook wanneer we enerzijds a-sociaal gedrag tegenover sociaal gedrag zetten terwijl we anderzijds erkennen dat asociaal gedrag ook sociaal gedrag is. Dat kan alleen in zoverre we met ‘sociaal gedrag’ twee verschillende dingen bedoelen. Het zelfde geldt voor de paren ‘moreel’ en ‘amoreel’: amoreel gedrag is ook moreel gedrag, maar niet in dezelfde zin als waarin het gedrag is dat niet aan de morele normen voldoet. Moraliteit is een aspect vanuit een perspectief op de werkelijkheid.

Het mathematisch perspectief, de denkhouding van de wiskundige, staat orthogonaal op dat van de moraliteit. Ze is a-moreel in die formele zin dat moraliteit niet aan de orde is. Maar daarom is in die zin deze houding tevens inhoudelijk immoreel.

In het vervolg zullen we zien dat dit onderscheid van belang is voor de interpretatie van het voorstel van Floridi en Sanders.

Wat zijn Levels of Abstraction?

In het artikel “On the morality of artificial agents” presenteren Luciano Floridi en J.W. Sanders (J&S) een totale revisie van het begrip ‘morele agent’ (in de zin van moreel agentschap) zodanig dat artificiële agenten (AA), zoals machines, robots en dergelijke daar ook onder kunnen vallen.

Artificiële agenten zijn entiteiten die in morele situaties betrokken (‘involved’) kunnen zijn en die daarin morele acties uitvoeren; acties die in morele zin goed of slecht kunnen zijn. ‘De techniekfilosoof Verbeek spreekt van ‘moralizing technology’, een aardige dubbelzinnige term die precies de vraag oproept die hij aan de orde wil stellen: is techniek nu het object of het subject van het moraliseren?

De discussie over moraliteit van artefacten, als subject, komt vaak terecht bij de vraag of het ding een vrije wil heeft, of het bewustzijn en intentionaliteit heeft, of het verantwoordelijkheid kan nemen en eventueel of het strafbaar is, dat wil zeggen of het gestraft kan worden in het geval het onrecht doet aan anderen of nalatig is.

“Morality is usually predicted on responsibility.”

Floridi en Sanders beogen dit soort lastige vragen te omzeilen door een methode te geven voor het specificeren van ‘mind-less morality’. Ze openen daarmee volgens hen voor de ‘intelligente’ systemen (AI) de ruimte tussen aansprakelijk zijn en verantwoordelijk zijn. Een intelligente robot kan volgens hen best aansprakelijk zijn ook al is er van verantwoordelijkheid geen sprake.

Cruciaal in hun uitgesproken technische aanpak is de Method of Abstraction voor het analyseren van de Level of Abstraction (LoA, het abstractie-niveau) waarop de agent wordt gezien.

Of een entiteit een agent is en of het een morele agent is hangt af van de LoA waarop het gedrag wordt geanalyseerd.

Agenten en dus ook morele agenten zijn bepaalde transitiesystemen.

Een transitiesysteem is een systeem dat zich op ieder moment in een bepaalde discrete toestand bevindt. Veranderen is veranderen van toestand. Dat gebeurt volgens de op dat moment geldende transitieregels van het systeem. Een act (handeling) is een inwerking op de omgeving.

Het systeem als construct dat zich in een toestand bevindt is de manier waarop de moderne technische wetenschap verandering modelleert. De oorzaak van de veranderingen is iets van buiten. De regels beschrijven de toestandsovergangen. Een onderscheid tussen eigen oorzaak (van binnen uit) of van buiten kan niet zinvol gemaakt worden. Er worden dan deelsystemen onderscheiden die op elkaar in werken. Wat deze delen tot een geheel maakt; dat is van buiten af bepaald.

Als criteria voor agentschap gelden: interactiviteit (‘reageren op een stimulus door van toestand te veranderen), autonomie (het vermogen van toestand te veranderen zonder stimulus) en aanpasbaarheid (het vermogen de regels van het systeem te veranderen).

Het LoA bepaalt de interface van het systeem met de omgeving. Het bestaat uit een verzameling van ‘observables’. Een ‘observable’ is een getypeerde variabele, een entiteit die verschillende waarden kan aannemen van een bepaald type. (In object-georienteerde programmeertalen zoals Java, is een object van de klasse Observable een object dat aan zijn geadministreerde Observers een signaal kan sturen wanneer de toestand ervan veranderd is.)

Gegeven een bepaald LoA wordt nu een morele agent als moreel goed beschouwd wanneer al zijn acties moreel goed zijn. Een actie heet moreel van aard (“morally qualifiable”) als het iets kan veroorzaken dat in morele zin goed of slecht is.

Een actie is moreel goed als de observeerbare variabelen geen van alle een gestelde morele grenswaarde overstijgen. Een agent is moreel slecht (evil) als een actie ervan moreel niet goed is.

Merk op dat de betekenis van moraliteit wordt voorondersteld. Zoals de wiskundige kansrekening niet het kansbegrip definieert maar er een formele definitie van geeft, zo wordt hier moreel zijn gedefinieerd zonder het begrip zelf te verhelderen.

Dat is kennelijk ook niet de bedoeling van de auteurs.

De LoA van de Turing Game

Ter illustratie van het concept Level of Abstraction wordt de Turing Game aangehaald. Met dit spel beoogde Alan M. Turing de vraag of een machine intelligent ‘is’ zodanig precies te specificeren dat deze beantwoord kan worden. De term is namelijk zo vaag dat er heilloze discussies ontstaan waar je toch nooit uitkomt. Het spel heeft de vorm van een dialoog tussen een mens en een systeem via een interface (kanaal). De mens mag alle mogelijke vragen stellen en moet dan raden of hij met een mens of met een machine een dialoog heeft gevoerd. De gesprekspartner van de mens, die natuurlijk achter een scherm zit en alleen via een toetsenbord communiceert mag de menselijk speler misleiden. Wanneer de mens niet in staat is de juiste keuze te maken dan kan hij kennelijk de machine intelligentie niet van de menselijke intelligentie onderscheiden. De conclusie is dan dat de machine intelligent genoemd kan worden.

Op analoge wijze wordt door Floridi en Sanders als het ware een morele variant van de Turing Game voorgesteld om te bepalen of een agent een morele agent is.

Het voordeel van de Method of Abstraction is volgens de auteurs dat er een helder onderscheid gemaakt wordt tussen accountability (aansprakelijkheid) voor een morele actie en verantwoordelijkheid. Agents kunnen aansprakelijk zijn terwijl ze niet verantwoordelijk hoeven te zijn. De moeizame discussie over de kwestie of artificiële agenten (AAs) verantwoordelijk gehouden kunnen worden wordt zo omzeild.

Als op een bepaald LoA er geen verschil bestaat tussen Jan en een aardbeving, dan wordt gezegd dat de LoA te abstract is voor het maken van dit onderscheid. Waarom? Omdat, zo zeggen de auteurs, “Earthquakes, however, can hardly count as moral agents.” (p. 9).

Dit is opmerkelijk. Kennelijk wordt inzicht in het onderscheid tussen een morele agent en een niet-morele agent al voorondersteld! Het is kennelijk vanzelfsprekend dat de lezer de opvatting van de auteurs dat aardbevingen geen morele agenten zijn met hen deelt ! Maar op grond waarvan? Ook de grenswaardes van de observables op grond waarvan besloten wordt of een actie moreel goed of slecht is moeten door de mens vastgelegd worden. Op grond waarvan? Voor de bijzondere klasse van morele agents die uit mensen bestaat geldt volgens F&S dat deze (nog) niet volledig als transitiesysteem door de wetenschap gemodelleerd kan worden. (p. 20). De grenswaardes zijn volgens F&S in het algemeen slechts “partially quantifiable and usually determined by consensus”.

Of een gebruiker een software systeem als morele agent opvat hangt volgens F&S af van de LoA. Een goede illustratie is het verschil in de wijze waarop een programmeur zijn computer beschouwt als deze het test en hoe de eindgebruiker die een applicatie of een robot heeft gebruikt dit beschouwt.

D.C. Dennett onderscheidt drie mogelijke houdingen ( ‘stances’ ) die we tegenover een ding kunnen aannemen van waaruit we een fenomeen, een gebeuren verklaren. In de physical stance zien we de activiteit als een wetmatig verklaarbaar fysisch proces. In de intentional stance daarentegen als een bedoelde handeling. In de design stance wordt een fenomeen gezien als te verklaren uit het ontwerp dat er aan ten grondslag ligt.

In de houding die de gebruiker tegenover de sprekende automaat aanneemt beschouwt hij deze als een agent die hem iets vraagt (“Insert your security code”) of advies geeft (“Take left at the crossing”). Hoewel de gebruiker weet dat deze systemen geen mensen zijn nemen ze het gedrag alsof ze dat zijn. Het concept van de sprekende machine ‘werkt’ omdat en voor zover de gebruiker dit ‘gedrag’ herkent als zinvol in de gegeven situatie. Voor de gebruiker is de machine een black box. Voor de reparateur van de sprekende robot is het ding geen intentionele machine, maar een programma dat eventueel gecorrigeerd moet worden. In termen van de analyse van F&S bekijken gebruiker en programmeur de agent volgens een andere LoA.

Onderzoek heeft aangetoond dat mensen de neiging hebben computers als ‘social agents’ te benaderen. Ze gaan er zo mee om. Wat niet wegneemt dat wanneer je ze expliciet vraagt of ze dit ook zijn, ze het ontkennen. Het is precies het doel waarmee deze systemen gemaakt zijn. Zo werken ze, alsof het sociale agenten zijn, zoals mensen. Daarin zit precies hun bruikbaarheid. Maar die is natuurlijk begrensd door de stand van de techniek. En door de verbeeldingskracht van de mens die ermee omgaat.

F&S zien het als een voordeel van hun methode dat ze kunnen spreken van een morele agent zonder dat deze een intentionele toestand hoeft te hebben. Moraliteit wordt aan observeerbare kwaliteiten gemeten. Hun aanpak veronderstelt dat we op één of andere manier al weten wat een actie moreel goed of slecht maakt. Wat dat is daarover zeggen F&S niets.

Hun analytische op de methode van de computerprogrammeur gebaseerd methode kan dus bezwaarlijk als filosofie worden beschouwd. Mocht men dat toch pretenderen dan is het op zijn best een filosofie van het uitwendige karakter dat lijdt aan de daarvoor typische ‘onbetrokkenheid’. In dat geval hebben Floridi en Sanders niet aan de verleiding waar Fleischhacker ons op wees kunnen weerstaan, de verleiding de werkelijkheid vanuit het gezichtspunt van de uitwendigheid te begrijpen.

Het zal inmiddels wel duidelijk zijn waarom dit niet werkt.

Morele kwesties zijn levenskwesties. Anders dan een technische systeem kan een levend organisme niet als een transitie-systeem worden beschouwd zonder juist van het leven te abstraheren. Een systeem heeft een grens die van buiten af gesteld is. Kenmerkend voor de levende organismes is juist het gegeven dat de grens niet van buiten maar door het organisme zelf wordt bepaald.

Morele agenten en morele patiënten (agency vs patiency)

Agents “can be conceived of as moral patients (as entities that can be acted upon for good or evil) and also as moral agents (as entities that can perform actions, again for good or evil).”

Met het onderscheid tussen aansprakelijkheid en verantwoordelijkheid dat F&S maken gaat gepaard een onderscheid tussen moral agency en moral patiency. Als een agent moreel verantwoordelijk is dan kan deze aangesproken worden en eventueel worden gestraft. Dat heeft voor robots geen zin, maar voor mensen vinden we dat meestal wel zinvol. Zo’n morele agent is dus ook altijd een moral patient.

Misvattingen

In “Some misunderstandings about the moral significance of technology” merkt Peter-Paul Verbeek op dat de bewering dat een technisch artefact betrokken is in moreel agentschap (‘involved in moral agency’) verkeerd wordt verstaan alsof zo’n technisch artefact dan ook op zich zelf een morele agent zou zijn.” (Verbeek, 2014)

Is het nu zo dat Floridi en Sanders specificeren wat een morele agent op zichzelf is? En creëren ze daarmee op zijn minst niet het misverstand waarvoor Verbeek waarschuwt? In de visie van Verbeek die gebaseerd is op ‘mediation theory’ is een techniek een mediator die min of meer de relatie tussen mens en zijn wereld bepaalt. Mens en instrument vormen samen een ‘hybride entiteit’. De verrekijker, de bril, de radiotelescoop, de microscoop, de echoscopie, de televisie, ze zijn niet slechts middelen om beter te kijken, maar ze veranderen het kijken zelf en de relatie van de mens tot de wereld die bekeken wordt. Het nog ongeboren kind dat door echoscopie al in detail aanwezig wordt gemaakt, maakt het mogelijk ver voor de geboorte het kind diagnostisch te onderzoeken op afwijkingen. De techniek maakt dingen mogelijk die eerder niet aan de orde waren. Ze breidt onze vermogens uit. Daarmee creëert ze nieuwe morele situaties. Moraliteit is in die zin een ‘co-productie’ van mens en techniek. Moraliteit bepaalt wat we mogen.

Morele status als relatie denken

Ook Mark Coeckelbergh (2012,2014) wijst op het feit dat een technisch artefact, zoals een robot, een relatie tot de mens is. Die relatie kan op verschillende manieren worden uitgedrukt en ervaren. We verhouden ons tot het artefact als ‘gebruiker’ (bij het hanteren van gereedschap), als slaaf of onderdeel van een machine, als controleur van het werk dat de robot verricht, als programmeur of als compagnon. Sommige mensen, kinderen en ouderen zien de robot in de vorm van een konijn of zeehondje als een vriendje of als iets waarvoor ze moeten zorgen.

De vraag is niet welke morele status we toedichten aan deze technische artefacten op grond van een aantal filosofische criteria, volgens welke het ding een aantal eigenschappen moet hebben. Zoals over een vrije wil beschikken, autonoom zijn, tot interactie in staat zijn, kunnen leren, etc.

Floridi en Sanders gaan nog uit van dit standaard idee over moraliteit. Ook al proberen ze via een ‘conceptual trick’ een oplossing te vinden voor de vaagheid van deze filosofische criteria. Hun poging agency te definiëren middels een transitiesysteem berust op een verwarring van het systeem en de beschrijving ervan. F&S proberen zelf-reflexiviteit op een mathematische wijze tot uitdrukking te brengen. De identificatie van het systeem als een toestanden-automaat met de beschrijving van zijn werking, dat is van wat het in wezen is, zijn functionaliteit: een verzameling van toestandsovergangsregels is inderdaad een ‘conceptual trick’. De variabele die gebruikt wordt om een eigenschap van het systeem wiskundig te beschrijven is nu eenmaal niet een eigenschap van het systeem dat er door gemodelleerd wordt.

Het is een verwarring die we vaak tegenkomen in het denken over intelligente systemen. Alsof het beeld van de werkelijkheid restloos deel uitmaakt van die werkelijkheid zelf. De Belgische kunstenaar Magritte heeft als geen ander in zijn werken op deze verwarring gewezen. Zie bijvoorbeeld zijn ‘la condition humaine’

Ik meen dat Floridi’s metafysische “Esse est informati” uitdrukking is van een dergelijke verwarring. Alsof het zijn zichzelf uitspreekt met dat het zich toont. Een identificatie van Wittgenstein’s ‘zeigen’ en ‘sagen’.

Het probleem met deze wijze van denken over informatie is dat er een onderscheid gemaakt wordt tussen informatie en ware informatie, waarbij het eerste als niet ware informatie niet meer als informatie kan worden opgevat. Floridi en ook Mingers meenden tot deze opvatting te moeten komen als oplossing van de Bar-Hillel-Carnap paradox. Deze berust echter op dezelfde verwarring als die welke schuilt in de poging van F&S om een moreel agent als transitiesysteem met specifieke kenmerken te karakteriseren. Het model wordt als onderdeel van de werkelijkheid gezien. Formele modale kennis, geloof en informatie-logica’s gaan uit van een niet-interactief kennis-concept. Alsof kennis iets is dat buiten de interactie tussen mensen en wereld bestaat. Alsof informatie buiten de sfeer van de intersubjectiviteit en communicatie kan bestaan en gedacht kan worden. Er wordt over ‘ware’ kennis en over ‘ware’ informatie gesproken alsof iemand of iets de waarheid in pacht heeft, ook al wordt erkend dat het nooit een bepaald individu kan zijn.

De verwarring vindt wellicht haar oorsprong in de materiële voorstelling van de machine die als onderdeel haar eigen programma bevat.

De foto gemaakt in museum De Twentse Welle toont een weefmachine. Het programma voor het weefpatroon wordt ingevoerd door middel van het printboek met gaatjes. Dit programma beschrijft echter niet de weefmachine zelf. Het beschrijft niet hoe feitelijk het fysische mechaniek ervoor zorgt dat wat wij als ‘instructies’ zien worden ‘uitgevoerd’. (Ik gebruik hier aanhalingstekens om aan te geven dat het om de vorm gaat die het voor ons als maker van het systeem heeft. D.C. Dennett zou hier zijn terminologische ‘soort van’-operator gebruiken.)

“Should we give moral standing to machines?“

Coeckelbergh (2012, 2014) doet afstand van de standaardmethode volgens welke over deze vraag nagedacht wordt.

“Changing moral thinking means changing a form of life—including its linguistic, social, and technological dimensions. Robots are already part of our form of life, and this should be taken into account if we embrace the project of paradigmatic change in moral thinking. If I am right about the conditions of possibility of moral change, then whether or not such a project succeeds is itself dependent on how our relations with robots will change.” (Coeckelberg, 2014)

In welke zin robots al “parts of our life” zijn dat is weer dezelfde vraag. Dat moraliteit niet in de eerste plaats een theoretische constructie is maar iets dat we moeten uitoefenen in het leven dat we leven, daarmee zullen we toch moeten leven.

Identiteit

Aansprakelijkheid en verantwoordelijkheid veronderstellen identiteit. Een persoon kan niet aansprakelijk zijn als hij niet zichzelf was op het moment dat hij een ongeval veroorzaakte. Een rechtspersoon wordt geacht over een zekere periode dezelfde te zijn. Het is de vraag in hoeverre de Staat der Nederlanden verantwoordelijk is voor gevolgen van haar politieke opstelling ten tijde van de Gouden Eeuw.

Wat is de identiteit van een systeem? Die vraag wordt door Floridi en Sanders niet gesteld. Het is een belangrijke vraag waarvan het antwoord ons kan bevrijden van de vruchteloze pogingen moraliteit te denken zonder betrokkenheid.

Het Shannon Communicatie-model dat ten grondslag ligt aan de technologische analyse en constructie van het begrip morele agent door Floridi en Sanders doet het intersubjectieve en het lichamelijk karakter van de menselijke communicatie – en daarmee ook die tussen mens en artificële artefacten – tekort.

Ze zien die communicatie als een proces waarbij een morele agent een morele actie adresseert aan een morele patient. Daarbij zijn deze twee formele rollen in een interaktie. Sommige entiteiten kunnen beide rollen vervullen, anderen kunnen slechts de rol van morele patient spelen. De morele handeling wordt dus als een object beschouwd.

Hoe zijn in de menselijke communicatie (mededeling) beide subjecten betrokken. Neem het voorbeeld van het geven van een kado aan iemand. De gever geeft daarbij niet alleen het kado, maar ook het geven van het kado, aan de ontvanger. Deze ontvangt het kado als gegeven door de gever en met het accepteren ervan vervolmaakt hij de concrete akt van het geven. De ontvanger voegt dus iets wezenlijks toe aan het geven door de gever zijn acceptatie van het gegeven te geven. Het gegeven kado is meer dan het materiële iets, het heeft de kwaliteit van gegeven te zijn door de persoon van de gever. Hieruit blijkt dat beide subjecten in deze intersubjectieve akt zowel de rol van gever als van ontvanger zijn. En dat gebeurt niet in afzonderlijke akties maar in het vervolmaken van de ene akt van het mededelen. Op dezelfde manier zijn bij een morele situatie de betrokken subjecten allen zowel agent als patient van de morele act.

Dat blijkt ook als we kijken naar de functie van het straffen van iemand die kwaad heeft gedaan. De enige filosofische geldige grond van de straf is de vergelding. In het straffen van de schuldige tonen we respect voor de schuldige als vrij, verantwoordelijk persoon. (Hegel) Opdat de straf rechtmatig is, schrijft de wet voor dat de schuldige in staat is tot schuldbesef, tot moreel besef. Niet de daad is strafbaar, ook de dader moet strafbaar zijn. Dieren zijn niet strafbaar in de zin dat de wezenlijke fiunctie van de straf namelijk vergelding te zijn, op het dier van toepssing is. Dieren straffen we omdat we denken dat ze daarmee afgericht worden en bepaald concreet gedrag afleren. De straf moet rechtvaardig zijn. Het kind straffen we omdat we daarmee het moreel besef vormen. Het straffen is onderdeel van de opvoeding van het kind. We zien het kind daarbij als potentieel strafbaar, moreel subject. En dat houdt in zowel in staat tot het doen van dingen die in onze ogen niet goed zijn, als in staat tot het besef dat het niet goed is wat het gedaan heeft en daarom gestraft wordt. Het kind heeft recht op uitleg, waarom het niet goed is wat het heeft gedaan. Dieren hoeven we niets uit te leggen. Met dieren communiceren we veel directer.

Floridi;s informatie-begrip lijdt aan het zelfde technologische euvel van de objectivering alsof het mededelen van informatie zoiets is als het geven van een presentje. De kwaliteit van de informatie wordt echter door alle betrokken subjecten, intersubjectief, in een interaktie bepaald. Wanneer Floridi stelt dat informatie alleen informatie is wanneer deze waar is, dan stelt hij zich op buiten de interaktie waarin informatie gedeeld wordt. Vanuit zo’n Archimedisch standpunt meent hij te kunnen stellen wat ware informatie en dus echte informatie is. Eigenlijk is dit het standpunt van de Ideale Rechter die uiteindelijk moet bepalen wat waar is en wat niet, wat strafbaar is en wat niet. Uit de vele gerechterlijke dwalingen blijkt dat de Ideale Rechter niet bestaat. Ook de rechter kan slechts een voorlopige uitspraak doen over wat ware en wat onware informatie is, wat feiten zijn en wat ‘alternatieve feiten’ zijn.

Wat de analyse van F&S oplevert is aandacht voor het feit dat onze artefacten fouten kunnen bevatten en in sommige situaties niet doen wat we ervan hadden mogen verwachten, waardoor ze kwaad doen in het gebruik. Deze artefacten worden op voorstel van F&S opgenomen in de orde van artificiële morele agenten (AAs). Ze zijn niet strafbaar, want ze hebben geen moreel besef en zijn ook niet ter verantwoording te roepen. Maar ze zijn wel aansprakelijk, accountable; ze moeten gereviseerd en eventueel vernietigd worden. Mensen die deze AAs toch gebruiken of hun gebruik aanmoedigen, er reklame voor maken, die moeten gestraft worden. Ook sociale robots vallen hierinder.

Iedere vergelijking in morele of juridische zin tussen sociale robots en andere dan menselijke natuurlijke wezens (‘non-human animals’ en andere natuurdingen: rivieren, landschappen) gaat mank, in die zin dat aan het feit dat deze laatste soms bij wetgeving bescherming verdienen geen rechten voor robots, dan wel voor een bijzonder, uniek, exemplaar van deze soort, kan worden ontleend.

Bronnen

Mark Coeckelbergh (2012), Growing moral Relations: critique of moral status ascription. Palgrave MacMillan, 2012.

Mark Coeckelbergh (2014) The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. 27, 61–77 (2014).

Luciano Floridi, Sanders, J. On the Morality of Artificial Agents. Minds and Machines 14, 349–379 (2004).

Clifford I Nass, Jonathan Samuel Steuer, Ellen R Tauber (1994). Computers are social actors, CHI ’94: Proc. SIGCHI Conf. on Human Factors in Computing Systems, April 1994.

Peter-Paul Verbeek (2011). De grens van de mens: over techniek, ethiek en de menselijke natuur. Lemniscaat, 2011.

Peter-Paul Verbeek (2014). Some misunderstandings about the moral significance of technology. In: The Moral Status of Technical Artefacts. Peter Kroes en Peter-Paul Verbeek, eds). Springer, 2014.

Gerard de Vries (1993). Gerede twijfel: over de rol van medische ethiek in Nederland. Amsterdam, De Balie, 1993

In de serie Denken in Tijden van Corona gaat het deze keer over de natuur.

Inleiding

Ik wandel door het boerenland. Dat mag van de regering. Het is half twee. In de wei staat een koe. Dat mag ook van de regering. Ik zie dat de koe ophoudt met grazen. Ik weet niet of dat mag. Doet zij dat uit zichzelf? Zo vraag ik me af. Als vanzelf. Heeft de boer hiervoor een vergunning? Het begint te waaien. Ik zwaai naar de koe. De koe kijkt op. Het graan wuift terug. Een koeienvlaai stijgt op naar de ingang van de koe. De vlaai is bruin. De koe kauwt. Ze buigt haar kop hals romp voorover naar de grond. Uit haar bek komt gras. Het gras is groen.

Vragen aan de natuur

Het is niet na te gaan hoe het zo gekomen is, maar in Europa ergens in de late Middeleeuwen kwam de mens tegenover de natuur te staan.

Wat tot dan toe natuurlijk was in de zin van vanzelfsprekend werd langzaam maar zeker – een proces van enkele eeuwen – natuurlijk in de zin van wetmatig. Wat niet wetmatig werd is toeval en alles wat toevallig is moet door kennis worden verbannen. Oorzaken zijn niet meer interessant.

De koe is een functie in een technisch economisch systeem in stand gehouden door een democratische partijen politiek die er op gericht is de burgers als behoeftige consumenten te verzorgen. De zorg is ondergeschikt gemaakt aan de economie. De vrijheid van de burger bestaat in de vorm van de door de regering opgelegde individuele verantwoordelijkheid.

De overheid schippert tussen economische verantwoorde zorgcontrole en de formele privacy van het individu, haar niet-traceerbaarheid.

Democratie

De macht van de staat wordt gelegitimeerd door de abstracte democratie, waarin de macht van het getal regeert: de meerderheid bepaalt. Rechtvaardigheid is een voedselbank voor de minderheden.

Het streven van de natuur komt tot uitdrukking in haar eigen werking, in de continuïteit van de natuur. Deze heeft een richting, de richting van de tijd en de geschiedenis.

In de mathematische fysica is de substantie terug te vinden in de vorm van de wetmatigheden. In de quantummechanica in de vorm van kansverdelingen. Je kunt op micro-niveau niet zeggen waar de individuele deeltjes zich bevinden. Je kunt alleen iets over het geheel zeggen. De entropie neemt spontaan toe naar een evenwichtstoestand.

We eindigen in chaos.

“Don Knuth werd geboren in Milwaukee. Hij is hoogleraar aan de Stanford-universiteit, tegenwoordig met emeritaat, en wordt in brede kring beschouwd als de vader van de informatica. Zijn werk The Art of Computer Programming heeft hem al bij leven tot een legende gemaakt bij iedereen die iets met programmeren te maken heeft.” Zo luidt de biografische tekst op wikipedia. Knuth is Turing Award winnaar.

Knuth en ik hebben dezelfde geboortedatum: 10 januari. Dat is net zo min toevallig als dat Erik van Muiswinkel en Barack Obama op dezelfde dag geboren zijn.

Ik ontmoette Knuth tijdens een conferentie in Nafplion op de Peloponesus. Het was mijn eerste conferentiebezoek nadat ik net was begonnen als onderzoeker in opleiding met het doel te promoveren op het gebied van de attributen-grammatica’s. Knuth was één van de invited speakers op de ICALP conferentie. Pnueli en Lovász waren de andere twee. De Hongaarse wiskundige Lovász was toen al beroemd vanwege zijn werk op het gebied van de combinatoriek. Hij ontving dit jaar (2021) de prestigieuze Abelprijs. De prijs is genoemd naar Abel, de wiskundige, niet naar mijn oudste kleinzoon of naar de broer van Kaïn, maar dit terzijde.

Wat betekent een computer programma?

Knuth is de uitvinder van de attributen-grammatica, een grammatica formalisme waarin je vertalingen en daarmee vertalers kunt specificeren. Ze werden in eerste instantie populair voor de specificatie van compilers van programmeertalen, zo’n ding vertaalt een door de programmeur geschreven code in machinecode.

In “The genesis of attribute grammars” (1990) presenteert Knuth zijn reconstructie van het ontstaan van de attributen-grammatica. Daarin schrijft hij:

“One of the puzzling questions under extensive investigation at the time was the problem of programming language semantics: How should we define the meaning of statements in algorithmic languages?” (Knuth, 1990).

Semantiek probeert, anders dan heuristiek, de betekenis van taal in een andere taal vast te leggen. De syntax van de programmeertaal Algol60, (de eerste die ‘taal’ werd genoemd, Fortran heette een code) was vastgelegd in het Backus-Naur-Format. Het bleek gelijkwaardig aan de context-vrije grammatica van Noam Chomsky, een formalisme dat door Yngve bij MIT gebruikt werd om Russisch naar Duits en Engels te vertalen. Maar voor het vastleggen van de semantiek (betekenis) van een programma was nog geen dergelijk formalisme ontwikkeld.

In 1968 verscheen het eerste artikel van Knuth over attributengrammatica’s. Niet toevallig in hetzelfde jaar waarin de programmeertaal Algol68 verscheen. Het is de eerste programmeertaal waarvan niet alleen de syntax, maar ook de semantiek formeel werd vastgelegd; in een formalisme dat ‘affix-grammatica’ werd genoemd. Kees Koster, die toen in Berlijn werkte was één van de ontwerpers ervan. Kees ging later naar Nijmegen waar hij de opleiding Informatica opzette en een compiler-groep. Hij werkte ook aan de toepassing ervan op het gebied van de natuurlijke talen, zoals Nederlands en Engels. Hij zat in mijn promotiecommissie. Kees was fanatiek motorrijder. Daaraan is hij, veel te jong nog, overleden. Later gebruikte ik deze formalismen om de computer te leren onze taal te verstaan. Natural Language Processing is niet toevallig kern van veel kunstmatige intelligentie en ‘human media interaction’.

Het artikel van Knuth uit 1968 bevatte een fout. Die zat in het algoritme voor het testen of een attributen-grammatica goed-gedefinieerd is in de zin dat de semantiek van ieder programma berekenbaar is. De fout werd al snel ontdekt en er verscheen een tweede artikel achteraan waarin Knuth de fout herstelde (Knuth 1971). Door die fout werd een nieuwe variant van de klasse van attributengrammatica’s gedefinieerd, de klasse waarvoor het oorspronkelijk foute algoritme goed werkte. Het ontstaan van nieuwe varianten door fouten is een bekend verschijnsel in de genetica en de virologie. Zo ontstaan mutanten.

Ook fouten zijn soms ergens goed voor.

ICALP en MFCS: een histories intermezzo

Toen ik assistent in opleiding was en aan mijn promotieonderzoek begon waren er twee jaarlijkse conferenties op het gebied van de theoretische informatica. ICALP en MFCS. Ze worden nog jaarlijks gehouden. Van beide conferentie was de eerste editie in 1972.

ICALP (International Colloquium on Automata, Languages and Programming) is de vlaggeschip conferentie van de EATCS (de Europese Associatie van Theoretische Informatici). ICALP werd en wordt in verschillende landen van Europa georganiseerd. De laatste, in 2020, was een virtuele conferentie (in Saarbrücken; dat dan weer wel).

MFCS (Mathematical Foundations of Computer Science) was de Oost-Europese conferentie. Deze werd vanaf 1972 bij toerbeurt gehouden in de DDR, in Polen en in Tjecho-Slowakije. Op de website van MFCS staat: “Traditionally, the conference moved between the Czech Republic, Slovakia, and Poland, while since 2013, the conference travels around Europe.” Met de splitsing van Tsjecho-Slowakije werd Slowakije op 1 januari 1993 onafhankelijk. Het zou kunnen zijn dat vanaf de oprichting in 1972 het al beleid was om de conferentie om en om in Tjechië en in Slowakije te houden wanneer het niet in de DDR of in Polen was.

De Golem van rabbi Löw

Ik bezocht verschillende edities van deze conferentie. Daar ontmoette ik de enige twee Europeanen, buiten mijn hoogleraar Anton Nijholt -inmiddels hoogleraar in Brussel-, die soort van ‘begrepen waar ik mee bezig was’ en met wie ik ook samen zou gaan werken. Jorma Tarhio uit Helsinki ontmoette ik in Bratislava, waar we nog samen naar de pas uitgekomen James Bond film gingen; een film die zich onder andere in Bratislava afspeelt. Daar op die MFCS conferentie was ook Borisvoj Melichar, hoofd van de afdeling Electrotechniek en Computerwetenschap van de Technische Universiteit van Praag. Melichar zou ik nog vaak in Praag opzoeken. Het Praag van voor de fluwelen revolutie, toen de stad nog niet overspoeld werd door toeristen en je helemaal alleen over de nog lege brug met de heilige beelden kon lopen, de steile trappen op naar De Burcht waar eens de rabbi Löw uit Mulisch’ Procedure zijn gang maakte naar de keizer van het Heilige Roomse Rijk die hem had verordonneert om hem te vertellen over de Golem. “Wat is een golem, rabbi” vroeg de keizer. Dat is een woord uit Psalm 139 vers 16, antwoordt de rabbi. “Is het alleen maar een woord?” ‘Alleen maar een woord; herhaalt de rabbi. ‘Maar wat gaat er boven het woord?‘ De keizer geeft de rabbi opdracht de Golem te maken. Mulisch boek gaat natuurlijk over de kunstmatige intelligentie, de programmeerbare machines, de talige artefacten die door de woorden gemaakt worden.

Theorie en Praktijk: programmeren is een kunst

Zoals gezegd ontmoette ik Knuth in 1985 in Nafplion. In het oude Griekse amfitheater hield hij, nadat de met kinderkopjes bedekte vloer ten behoeve van de akoestiek was natgesproeid en de Minister van Cultuur, Nana Mouskouri, ons had verwelkomd en de spreker had ingeleid, zijn voordracht met de in de Griekse context passend gekozen titel Theory and Praxis.

In 1991 verscheen een artikel van zijn hand met dezelfde titel. In de samenvatting staat:

“The author argues to Silicon Valley that the most important and powerful part of computer science is work that is simultaneously theoretical and practical. He particularly considers the intersection of the theory of algorithms and practical software development. He combines examples from the development of the TeX typesetting system with clever jokes, criticisms, and encouragements.”

Knuth is de man van het inmiddels zeker bij wiskundigen zeer populaire typesetting formalisme LaTeX. Daar was hij toen druk mee bezig. Hij roemde het Nederlandse handwerk op het gebied van het letterzetten. Zijn ervaring bij het ontwerpen van dit formalisme gebruikte hij als voorbeeld voor zijn boodschap: dat bij het ontwikkelen van techniek theorie en praktijk samen moeten gaan. De titel van zijn tiendelige hoofdwerk “The Art of Computer Programming“, ik kocht deel 1: Fundamental Algorithms tijdens de conferentie, zegt het: Programmeren is een Kunst. En bij het ontwikkelen van kunst gaan het ontwikkelen van theorie en praktijk noodzakelijk hand in hand.

Dit inzicht heeft belangrijke gevolgen voor de inrichting van de arbeid en van het onderwijs. We hebben de neiging om theorie en praktijk, het doen van onderzoek en het ontwikkelen van methodes te scheiden van de praktijk. Dat laatste wordt dan opgevat als het toepassen van een methode die door de ontwerpers uitgedacht is. Knuth pleitte ervoor deze in dezelfde handen te houden. Zoals bij de klassieke ambachtelijke technieken.

De wetenschappelijk-technische ontwikkeling van handwerktuigen naar machine-technieken en programmeerbare machines heeft theorie en praktijk uit elkaar gedreven. Dit gebeurt op alle terreinen van het leven. In de gezondheid- en ouderen-zorg zowel als in het onderwijs. We splitsen het werk op in management, ontwerpen, uitvoeren en gebruiken. We zien steeds meer tekenen die wijzen op de tekorten van dit Taylorisme, deze ‘rationalisatie’ van de arbeid. In de thuiszorg zien we dat Jos de Blok met zijn Buurtzorg organisatie de wijkverpleegkundigen zelf in kleine teams het werk laat organiseren.

Ik heb meer ervaring in het onderwijs. Ik was een paar jaar parttime docent wis- en natuurkunde op de middelbare school. Het werk als docent bestond eruit de lessen af te draaien volgens de door de school gekozen methode. Die schreef precies voor welke bladzijden uit het wiskunde- of natuurkundeboek wanneer behandeld moesten worden, wanneer de proefwerken waren, waarbij de leerstof voor de MAVO leerling een tweede afgeleide was van de leerstof voor de VWO leerling. Het werk bestaat uit de implementatie van een voorbedacht schema. Veel werk is zo georganiseerd. En wat erger is zo denken we ook over onderwijs.

Op de universiteit kon ik mijn ‘eigen’ onderwijs geven, zoals ik het zelf wilde. Totdat er onderwijskundigen werden aangesteld, een groeiend aantal, die zich meer en meer gingen bemoeien met het onderwijs. Niet met de inhoud, want daar hadden ze geen verstand, zeiden ze. Maar wel met de methode. Nadat we jaren voor het vak kunstmatige intelligentie het boek “Artificial Intelligence” van Russel en Norvig hadden gebruikt moesten we daar volgens de geleerden toch maar vanaf zien, want de studenten vonden het te dik en we behandelen toch niet alle hoofdstukken uit het boek. Dat je als docent je eigen inhoud aan een vak geeft en een standaardwerk als achtergrondmateriaal gebruikt dat paste niet in het ‘moderne’ op wetenschappelijke wijze georganiseerde onderwijs.

Kunst en techniek: art en techne

Waarom is programmeren een kunst, meer dan techniek? De volgende tekst maakt het verschil tussen kunst en techniek duidelijk.

“The original meaning of techne is “art”. Like latin ars and English “art”, it carries double meanings. Ars and techne indicate what a modern “artist”, but also what an “artisan” and a “technician”, does. On the one hand it indicates something creative and expressive, for which there hardly exist clear rules, and where skillful and mindful discretion is decisive. On the other, it indicates something technical, i.e. something which by definition is strictly rule based, drill-based, and almost mechanical. Techne is both art and craft, which modern languages tend to separate.”
( From: Techne, the Sage Encyclopedia of Action Research, 2014)

Een computer programmeer je door duidelijke regels te geven volgens welke deze moet functioneren. De semantiek van een programma is een functie. De informaticus als bouwer van programma’s overstijgt deze functionele denkwijze. Hij moet oog hebben voor het doel, waar het om gaat en weten hoe hij zaken precies definieert. Omdat hij dit zelf doet weet hij ook dat het om een oplossing gaat die ook anders had kunnen zijn, en dat de machine werkt omdat en voor zover het werken overeenkomt met de bedoeling die hij er als maker mee had. Dit is alles kennis die juist niet in het programma uitgedrukt is.

Techniek heeft uit zichzelf de neiging de gebruiker ervan mee te programmeren: de handleiding programmeert de gebruiker. Mens en technisch instrument worden één machine. De mens die zich daar tegen verzet heeft het gevoel dat hij daarin niet tot zijn recht komt. Het leven moet toch meer te bieden hebben.

Arbeid en (Kunstmatige) Intelligentie

In Arbeid adelt niet (1989), een bundel artikelen van leden van de vakgroep Wijsbegeerte aan de Universiteit Twente, schrijft Louk Fleischhacker in zijn bijdrage over arbeid en (kunstmatige) intelligente over twee verschillende opvattingen over het doel van het onderwijs. Deze hangen volgens hem samen met het wereldbeeld en mensbeeld dat je hebt. En dat hangt weer samen met hoe je kunstmatige intelligentie opvat. Door middel van techniek kunnen we wel gedragingen die we in een concrete situatie als zinvol ervaren in structuren en regels vatten en simuleren, maar dat is iets anders dan het vermogen zich in een gegeven concrete situatie op zinvolle wijze te gedragen. We herkennen dit wanneer bijvoorbeeld een vertaalmachine plotseling een heel verkeerde vertaling geeft.

In de eerste opvatting gaat het in het onderwijs om het leren van vaardigheden. In de tweede opvatting gaat het om het ontwikkelen van het verstand als een vermogen in te zien waar het in een concrete situatie om te doen is; wat wel en niet zinvol is; een vermogen dat onlosmakelijk verbonden is met de persoon die het vermogen uitoefent. Kennis is dan niet iets wat je van buiten leert, maar wat je karakter vormt en je vermogen ontwikkelt. Kennis als ‘deel’ van je identiteit, je persoonlijkheid en je vaardigheid moet onderscheiden worden van kennis als informatie die je tot je neemt als iets wat buiten je staat, als iets objectiefs, wat in de leerboeken of op het internet te vinden is. Kennis moet je ‘je eigen maken’.

Het is juist de huidige ontwikkeling van de technologie, de kunstmatige intelligentie die volgens Fleischhacker, en daarin staat hij niet alleen, die ons op dit belangrijke onderscheid wijst. Dat komt omdat deze technologie de objectieve verwerkelijking is van deze uitwendige verstandsvorm.

Creative Technology

Op de universiteit ontwikkelden we samen met de AKI, de kunstacademie, onderwijsprojecten waarin zowel technische studenten Informatica als studenten van de AKI samen werkten. Het probleem dat daarbij opdook was het verschil in de wijze van beoordeling op de AKI en op de UT. Wat en hoe beoordeel je eigenlijk op een kunstacademie? Een typisch meetprobleem: welke maat hanteer je bij het beoordelen van een student, zijn werk, haar persoonlijke ontwikkeling?

Het waren de eerste stappen in de richting van een nieuwe studierichting: Creative Technology. Er waren collega’s die ernstige twijfels hadden bij het wetenschappelijke karakter van deze nieuwe bacheloropleiding. Waren het louter economische motieven die de afdeling had voor een nieuwe bachelorstudie, een middel in de jacht naar nieuwe studenten?

Toen ik gevraagd werd een college Research Methodology voor Create te verzorgen bezocht ik de website van de opleiding. Je moet weten waar het in de studie waar de student zich voor heeft ingeschreven om te doen is. De samenvatting nam ik op in een slide van het inleidende college. Zie de figuur hier boven. Het meest opmerkelijke vond ik daarin de volgende frase:

Their fantasy concentrates on making life safer, healthier, easier, more exciting or just more fun.

Waarom was dit opmerkelijk? Was het niet vanzelfsprekend? Is het niet het doel van iedere opleiding: mensen op te leiden die het leven veiliger, gezonder, meer uitdagend en leuk maken? Was het feit dat de ontwerpers van de opleiding Creative Technology dit zo expliciet op de website zetten niet een teken dat het helemaal niet vanzelfsprekend was dat dit het doel is van een technische universitaire opleiding?

Ik herinner me nog een gesprek met een student bij het college Programmeren dat ik eens gaf. Hij vroeg me wat hij moest programmeren. Waarop ik antwoordde: Ik leer je hoe je moet programmeren; niet wat je moet programmeren. Maar zoals Donald Knuth opmerkte: programmeren is een kunst, een vaardigheid die je slechts kunt leren door te doen. Dat wil zeggen in de praktijk waarin het duidelijk moet worden wat er geprogrammeerd moet worden. Het onderscheid tussen het hoe en het wat bestaat dan niet meer. Evenmin als het onderscheid tussen het wat en het waarom: het doel is immers de maat voor het programma.

Veel van ons onderwijs is nog ingericht volgens verouderde ideeën die horen bij de tijd van de klassieke machine-technologie. De informatie-technologie eist nieuwe vormen van onderwijs en arbeidsorganisatie. Niet alleen op de universiteiten.

Begeleidingsethiek

Ethiek was ooit een puur theoretisch vak. Ik volgde colleges ethiek bij Paul van Dijk. Hij legde het verschil tussen ethiek en moraal uit met de woorden: “Een goede kapper kan best kaal zijn.”. Peter-Paul Verbeek is nu de hoogleraar ethiek aan dezelfde Universiteit Twente. Zeg je Verbeek, dan zeg je ‘Begeleidingsethiek’. De techniekethicus zit aan de ontwerp tafel samen met de ingenieurs, de doelgroep en andere stakeholders.

“In plaats van ethiek te zien als ‘beoordelen’ zou ze ook gezien kunnen
worden als het normatief ‘begeleiden’ van technologie in de samenleving.” (Aanpak begeleidingsethiek, Peter-Paul Verbeek en Daniël Tijink)

Het technische is een onlosmakelijk aspect aan het handelen. Naast het economische, het ethische en esthetische. De begeleidingsethiek gaat uit van dit gegeven: het doel en de normen sturen het ontwerpen van nieuwe methodes van handelen voor concrete situaties. Het ontwikkelen van techniek is een kunst.

Dat is dezelfde idee waarover Knuth zijn lezing in Nafplion gaf, dezelfde idee die spreekt uit de opzet van de studierichting Create: het gaat er in elk project om het goede te doen en te bepalen wat goed is. Studenten moet je leren het goede te doen. Wat dat is dat moeten de betrokken deelnemers samen uit maken terwijl ze aan het project werken.

Het zou goed zijn wanneer de overheid als wetgever en ontwerper van nieuwe regels en wetten voor de samenleving die door de instanties geïmplementeerd moeten worden zich de begeleidingsethiek eigen zou maken.

De ‘Ethiekfabriek’

“Als de aanpak begeleidingsethiek vaak wordt uitgevoerd, komen er veel handelingsopties: handelingsopties voor technisch ontwerp, voor de aanpassing van de omgeving en voor beter gebruik. Deze handelingsopties zijn waarschijnlijk breder bruikbaar dan alleen voor de case. We hebben dan ook de ambitie de handelingsopties te verzamelen, opdat ook anderen er gebruik van kunnen maken. Daarvoor bedachten we de term ethiekfabriek.” (Verbeek en Tijink 2019)

Het gevaar van schematisering bedreigt ook de praktische begeleidingsethiek. Zoals bij elke activiteit van mensen die nadenken over wat ze doen. Er worden methodes bedacht, procedures. Uiteraard wel met de disclaimer dat de procedure aangepast moet worden aan de concrete situatie, maar toch.

Het advies is gebruik je verstand, het vermogen waarmee we aanvoelen waar het om gaat, waar de situatie om vraagt. Precies dat vermogen dat we niet in de ‘autonome’, ‘intelligente’ machine, niet in procedures en algemene methodes kunnen vastleggen. Computers kunnen functies toepassen maar er is geen regel die zegt wanneer de computer welke functie of procedure moet toepassen.

Kapitalisme: techniek en economie

Het onderkennen, onderscheiden en formuleren van een algemene methode is typisch voor techniek. Het economisch motief zit in het hergebruik van methodes als instrumenten waarin geïnvesteerd is. De techniek ontwikkelt zich in samenhang met de economie. De overheid of een particuliere onderneming moet geld en middelen beschikbaar stellen voor het ontwikkelen van nieuwe techniek. Marx wees op de ophoping van kapitaal en daarmee van macht door de investering in nieuwe technologie die bruikbaar is voor het rationaliseren van het arbeidsproces. Daarbij werd het maken van winst, voor het realiseren van nieuwe technologie een waarde op zich. De ontwikkeling naar steeds autonomer machines en robots leidt ertoe dat deze de arbeider uit het productieproces verwijdert. Dat arbeid, als deelname aan de samenleving en als zelfontwikkeling nog andere waarden heeft wordt daarbij eenvoudig vergeten.

Een fietsrem op een jumbojet

Technologie en kennis zijn kapitaal en in onze samenleving eigendom van particuliere bedrijven en organisaties. Het ontwikkelen en toepassen van nieuwe technologie is voor bedrijven een missie. Overheden en bedrijven hebben grote invloed op de keuzes voor bepaalde technische ontwikkelingen. Deze ontwikkeling wordt beïnvloedt door politieke keuzes, die omgekeerd weer door economische belangen worden beïnvloedt. De moderne geschiedenis is een geschiedenis van de interactie tussen technologie en economie. In die geschiedenis leven we nu enerzijds als in een maalstroom die ons meevoert, anderzijds als actoren die gebruik makend van verstandige keuzes de loop van de geschiedenis proberen te sturen. De wereld krijgt steeds meer het karakter van een laboratorium waarin geëxperimenteerd wordt met nieuwe mogelijkheden. De geschiedenis wordt een verzameling van experimenten, waarin wet- en regelgeving die de grenzen van het toelaatbare aangeven naar behoefte wordt aangepast. Dat laatste bleek bijvoorbeeld bij de aanpassing van de Europese regels voor genetische manipulatie om het ontwikkelen van nieuwe vaccins tegen het corona-virus mogelijk/legaal te maken.

De technologische projecten waarin de techniekethicus het ontwerp ‘ethisch begeleidt’ speelt zich af binnen de maalstroom van de geschiedenis. De speelruimtes waarbinnen de ontwikkeling gestuurd kan worden lijken daarbij uiterst klein. Goffi vergeleek, zo schrijft Achterhuis in zijn bijdrage over Hans Jonas in “De Maat van de Techniek”, met een verwijzing naar Ellul, de rol van de ethiek bij technologische ontwikkelingen met die van “een fietsrem op een jumbojet.” (Achterhuis, 1992, p.149)

De ontwikkeling van de technologie die geleid heeft tot een toestand waarin de mens zich zelf voor zich ziet in de vorm van intelligente systemen en humanoïde robots leidt echter uit zich zelf tot het nadenken over ethische zaken, als zelf, identiteit, privacy, autonomie, de ander, rechtvaardigheid, geschiedenis, leven en natuur. Het is niet toevallig dat grote ondernemingen zoals Google en Microsoft ethici aantrekken om hun projecten ‘ethisch te begeleiden’ om te manoeuvreren tussen de verschillende interpretaties van het verlenen van ‘diensten’ aan de gebruikers en aan de samenleving. Zijn deze ondernemingen alleen maar verantwoordelijk voor het ‘communicatie kanaal’ of ook voor de wijze waarop het gebruikt wordt? En van wie is de inhoud van de berichten die over het kanaal verstuurd worden eigenlijk?

Wanneer we het hier over het verstandelijk vermogen hebben dan bedoelen we niet het denken volgens vaste denkregels, maar het “gezonde verstand”, het vermogen om het wezenlijke van het bijkomstige te onderscheiden en daarnaar te handelen.

Wittgenstein schreef eens in een brief aan een vriend van hem:

“Ik wou dat ik een beter verstand had. En dat ik een beter mens was. Maar misschien is dat wel hetzelfde.“

Ik denk: het is hetzelfde. Maar misschien is ook hier de wens de vader van de gedachte.

Bronnen

Hans Achterhuis (1992). Hans Jonas: Ethiek en techniek. In: De Maat van de Techniek (Achterhuis, ed.) Zes filosofen over techniek. AMBO, Baarn, 1992.

Donald E. Knuth, The Art of Computer Programming, Reading, Mass.: AddisonWesley. Volume 1, Fundamental Algorithms, 1968.

Donald E. Knuth (1968). Semantics of context-free languages, Mathematical Systems
Theory 2 (1968), 127-145.

Donald E. Knuth (1971), Semantics of context-free languages: Correction,” Mathematical Systems Theory 5 (1971), 95-96.

Donald E. Knuth (1990). The genesis of attribute grammars. In: Deransart P., Jourdan M. (eds) Attribute Grammars and their Applications. Lecture Notes in Computer Science, vol 461. Springer, Berlin, Heidelberg. https://doi.org/10.1007/3-540-53101-7-1

Rieks op den Akker, Borivoj Melichar, Jorma Tarhio (1990). The Hierarchy of LR-attributed grammars. Proc. Internat. Conf. WAGA on Attribute Grammars and their Applications, September 1990 Pages 13–28.

Donald E. Knuth (1991). Theory and Praxis. Theoretical Comp. Sci. 90 (1991), 1–15.

Louk E. Fleischchacker (1989). Arbeid en (Kunstmatige) Intelligentie. In: Arbeid adelt niet (Pieter Thijmes red.) Uitgeverij Kok, 1989.

Peter-Paul Verbeek en Daniël Tijink (2019). Aanpak Begeleidingsethiek: Een dialoog over technologie met handelingsperspectief, Uitgave van ECP, Platform voor de InformatieSamenleving.

De portier is een invalide.

Over welke portier heeft hij het? zult u zich misschien afvragen. Maar zo bedoel ik het niet. ‘De portier is een invalide’ is één van de meest beroemde openingszinnen uit de Nederlandse literatuur. Het is de eerste zin van de avonturenroman Nooit meer slapen van W.F. Hermans.

Wat ik er dan wel mee bedoel is dit. Ik ben al een tijdje op jacht naar het informatie begrip. Ik wil weten wat dat is. Nu las ik in The Invention of Science van de historicus David Wootton de volgende passage:

“We take facts so much for granted that there have been few attempts to write their history, and none of them satisfactory. Yet, our culture is as dependent on facts as it is on gasoline. It is almost impossible to imagine doing without facts, and yet there was a time when facts did not exist.” (Wootton, 2016, p.252)

En ik dacht: geldt wat Wootton hier zegt over ‘facts’ niet ook voor ‘informatie’?

Is er een tijd geweest waarin informatie niet bestond? Het woord mag dan oud zijn dat wil niet zeggen dat er altijd het zelfde mee werd aangeduid. Zoals niet ieder geknipper met de ogen een knipoog is en niet iedere knipoog hetzelfde betekent. Of, zoals de stoommachine van Heron van Alexandrië een heel andere betekenis heeft en dus eigenlijk een heel ander ding is dan de stoommachines die werkten in de Engelse spinnerijen ten tijde van de Industriële Revolutie.

Wat is informatie?

Wikipedia zegt:

Informatie (van Latijn informare: “vormgeven, vormen, instrueren”) is alles wat kennis toevoegt en zo onwetendheid, onzekerheid of onbepaaldheid vermindert. Strikt genomen is informatie pas informatie als die interpreteerbaar is. (opgezocht 17-03-2021)

Informatie is iets; het bestaat. Het is een economisch schaars goed. In die zin dat er meer behoefte aan is dan dat het beschikbaar is. Informatie is tegenwoordig misschien nog wel belangrijker dan ‘gasoline’. Alles draait in het ICT tijdperk om informatie. In de wereld van Luciano Floridi, de filosoof van de informatie, is zelfs alles informatie. “Esse est informati”.

Maar als wat voor feiten geldt ook voor informatie geldt en er een tijd geweest is dat er geen informatie was, was er dan niets? Hoe moeten we dan de tijd en hoe moeten we dan de geschiedenis opvatten?

In het hoofdstuk Facts gaat Wootton op zoek naar de oorsprong van het feit. Wat zijn dat voor dingen?

Over ‘fact’ zegt Ronald Barthes (citaat uit Wootton, 2015):

“The fact can only have a linguistic existence, as a term in a discourse, and yet it is exactly as if this existence were merely the ‘copy’, purely and simply, of another existence situated in the extra-structural domain of the ‘real’. (Barthes, The Discourse of History, 1967).

“Het feit kan alleen maar een talig bestaan hebben, als een term in een tekst.”

Maar, voegt Barthes toe: het is exact alsof dit bestaande object, slechts een ‘copy’ is, puur en simpel, van een ander bestaand iets, iets dat gesitueerd is in het buiten-structurele domein van de ‘realiteit’.

Maar geldt dat ook niet voor informatie? Wat is het verschil tussen een feit en informatie?

Terug naar de openingszin: De portier is een invalide.

De betekenis is, zou Bertrand Russell zeggen (cf. “On Denoting”): Er is een X en die X is portier en die X is invalide”. Alsof het het begin van een wiskundig betoog is.

Wat is de informatiewaarde van deze zin? Onder welk opzicht moeten we deze zin zien opdat we zouden zeggen dat deze informatie bevat in de zin dat deze kennis toevoegt en zo “onwetendheid, onzekerheid, onbepaaldheid vermindert”? Merk op dat volgens deze definitie er onwetendheid moet zijn. Moet de onwetende zich hiervan bewust zijn?

Het is een feit: De portier is invalide. Welke portier? De portier waar het in de openingszin van dit verhaal over gaat. Het verhaal dat de lezer die deze zin leest als een nieuwe wereld binnen treedt. Deze portier die “gesitueerd is in het buiten-structurele domein van de ‘realiteit'”, de wereld van de roman.

Maar geeft de zin ons informatie? Alleen dan, ben ik in eerste instantie geneigd te zeggen, wanneer het als antwoord op een vraag bedoeld is. Een vraag die voortkomt uit onwetendheid en de wens om iets bepaalds te weten. Een vraag stellen is een soort van meten. Als ik Hermans zou vragen “Kunt u mij iets vertellen over de portier?” dan geeft “De portier is een invalide?” mij informatie over die portier, waarbij ik aanneem dat we allebei met ‘de portier’ naar dezelfde figuur refereren. Maar kan ik die vraag er niet bij denken en daarmee de zin als antwoord op deze vraag zien? Is het dan wel informatie?

Informatie moet ergens over gaan. Net als het feit van Barthes moet de zin de pretentie hebben een afbeelding (‘copy’) te zijn van iets in een wereld buiten de structuur van de zin zelf. De zin geeft informatie en daarmee kennis over datgene waarover het zegt het te hebben.

Informatie is iets wat medegedeeld wordt en heeft de taal nodig als vehikel.

Is “feitelijke informatie” dan dubbelop? Is er ook niet feitelijke informatie?

Informatie heeft de pretentie waar te zijn. De eis die we aan informatie stellen is dat het verifieerbaar is. Volgens Floridi is informatie die niet waar is geen informatie. Dat is volgens mij niet helemaal zo. Informatie moet verifieerbaar zijn; het is een communicatie object; iets dat gecreëerd wordt in een interactie-proces.

In die zin geeft “De portier is invalide.” ons geen informatie. En dat is natuurlijk ook helemaal niet de functie van de zin. Waar kun je de wereld van het verhaal nu beter binnen gaan dan bij de portier? De mededeling dat deze een invalide is doet de lezer al het ergste vermoeden over het verloop van het verhaal. Maar dit terzijde.

Informatie is als resultaat van een meting, uitdrukking van iets kwalitatiefs op kwantitatieve, structurele wijze. Het gaat dus altijd over meetbare gegevens uitgedrukt in een taal waardoor de kennis die erin uitgedrukt medegedeeld kan worden. Niet een getal, niet 2, maar de tafel is 2 meter lang. Dat geeft informatie. Het heeft een ideële structuur als maat nodig. Informatie is een identiteit die resultaat is van een vergelijking.

“De portier is een invalide” is als uitdrukking van een oordeel geen informatieve zin.

Daarvoor moet deze als mededeling gezien worden, niet puur als oordeelszin. Als oordeel drukt deze meteen de waarheid ervan uit. Als informatieobject heeft deze slechts de pretentie waar te zijn, een feit te verbeelden.

Informatie is iets dat medegedeeld wordt en dat pretendeert ergens iets over te zeggen, feitelijk te zijn. Feitelijke informatie heeft betrekking op feiten.

Informatie bestaat uit eenheden, resultaten die toegevoegd kunnen worden aan een reeds bestaande hoeveelheid informatie. Informatie moet coherent zijn, mag geen logische tegenspraken bevatten.

Tijd en informatie

Informatie is gedateerd. Het is gebaseerd op gegevens, data. We hebben niets aan oude informatie. Een bustijdentabel op een webpagina waarop niet staat wanneer deze is bijgewerkt en of deze actueel is, is waardeloos.

De zin “Het regent” als mededeling is alleen zinvol als het tijdstip waarop het betrekking heeft voor de ontvanger duidelijk is. Anders heeft deze zin net zo weinig informatiewaarde als de zin “De portier is een invalide.”.

Historische informatie is informatie over historische feiten. “De zon scheen op de dag dat de Muur viel.” is historische informatie in zoverre het bedoeld is als iets te zeggen over de toestand van de wereld op een bepaald moment in de geschiedenis. Ook als het opgevat wordt als uitdrukking van emotie bij de schrijver? In dat geval geeft het informatie over de schrijver.

De wereld is de verzameling van feiten. Informatie heeft betrekking op de feiten van Wittgenstein. Het zijn de linguïstische objecten, de ‘facts’, van Barthes.

De historicus zoekt naar (informatie over) historische feiten. De filosoof zoekt de historie van het feit en van informatie.

Als er voor 1700 geen feiten bestonden, dan was er voor 1700 ook geen informatie.

Het is altijd lastig om een begin in de tijd aan te geven van een verschijnsel, maar op een gegeven moment ontstond er een strict onderscheid tussen de bepaaldheid van iets en al dan niet bestaan ervan; tussen wát iets is en óf het is.

Ik vind het heel merkwaardig dat wat iets is totaal niet afhangt van of het werkelijk bestaat of niet.

En toch is dat de wereld waarin we leven. We leven in een wereld waarin we door middel van technologie dingen maken en demonstreren waarvan we ons steeds vaker afvragen ‘of het wel echt is’. Artificiële dingen, informatie, stemmen, die steeds exacter lijken op echte dingen, echte stemmen; die pretenderen echt te zijn. Wat kunnen we nog geloven? Waarop kunnen we nog vertrouwen?

“Een zin kan onmogelijk van zichzelf zeggen of deze waar is.” (Wittgenstein).

Kan een intelligente machine van zichzelf zeggen of deze de waarheid spreekt?

Na de “mechanisering van het wereldbeeld” (Dijksterhuis) die een “mathematisering van het wereldbeeld” bleek te zijn, kwam de informatisering van de samenleving, de “de Vierde Revolutie” van Luciano Floridi, de tijd van de automatisering en de kunstmatige intelligentie. We leven nu in een tijd van verwarring. Niet “het einde van de geschiedenis” (Fukuyama). Wel de tijd waarin we de geschiedenis herwaarderen, nu we ons ervan bewust worden dat de technische controle over natuur en samenleving niet tot die vrijheid leidt die we dachten ermee te realiseren.

Het einde van de onpersoonlijke wetenschap

Informatie als onpersoonlijke, subjectloze, ‘objectieve’ vorm van kennis is kenmerkend voor het tijdperk van de wetenschap als project met als doel kennis-verwering ten dienste van de rationalisering van het arbeid en de samenleving. Kennis is geen persoonlijke kennis maar een bijdrage aan de kennis van de samenleving. Het moet dan ook gedeeld (kunnen) worden en geleerd kunnen worden uit leerboeken. Die kennis is idealiter mathematisch en liefst nog in berekenbare modellen uit de drukken, waardoor de werkelijkheid gesimuleerd kan worden.

Persoonlijke kennis in de zin van zelfontplooiïng van het individu als persoon is minder van belang. De persoon ontwikkelt zich door zich objectieve kennis en informatie eigen te maken om zodoende een bijdrage te kunnen leveren aan de economie: het moet nuttig zijn; dienstbaar als technisch middel.

Deze vorm van kennis en deze werkelijkheid staat in het teken van onbetrokkenheid. De persoon staat tegenover de werkelijkheid die hij probeert te kennen.

Ik denk dat we van het ICT tijdperk kunnen leren hoe onbevredigend dit is. Weliswaar hebben we vaak wel belangstelling voor anderen, en voor ons zelf, maar daarbij gaat het ook weer om ons zelf of de ander als iemand die buiten ons staat, iemand die ons in principe vreemd is. We ervaren dan ook de diepe kloof die er bestaat tussen “informatie over iemand hebben” en “iemand kennen”.

Er wordt veel gecommuniceerd maar dat is iets anders dan interesse.

De God van het “Nader tot U” is vervangen door de God van de filosofie, de wetenschap, de technologie. Die God is allang dood verklaard.

Hoe nu verder? Welke kant op is vooruit? Of is dit het eind van de ‘vooruitgang’?

Bronnen

Wootton, David (2015). The Invention of Science. A new history of the scientific revolution. Penguin Book, 2015.

“Pas sinds heel kort zijn onze vooruitgang en de voorspoed grotendeels afhankelijk van het efficiënte management van de levenscyclus van informatie.” (Floridi, Informatie)

We kunnen wel spreken van een tsunami aan data en informatie die dagelijks over ons wordt uitgestort. Als er problemen zijn dan komt dat meestal door een gebrek ergens in de levenscyclus van informatie. Het wordt niet (op tijd) geleverd, het wordt niet goed verwerkt, het wordt niet goed ontvangen, niet goed bewaard, of juist te lang bewaard, of het wordt onrechtmatig gebruikt. “Ik had niet de juiste informatie” is zo’n beetje het standaard antwoord waarmee bestuurders en politici die ter verantwoording worden geroepen voor hun besluit of nalatigheid de verantwoordelijkheid van zich af werpen. En meestal pikken we het nog ook als een legitiem argument: het is het systeem. Het hebben van een verantwoordelijke functie wordt vaak uitsluitend toegegeven ter motivatie van het ontvangen van een boven-modaal salaris.

Alles is informatie. Maar hoe zag de wereld eruit voordat er informatie was?

Volgens Floridi hebben de computerwetenschappen en de informatie- en communicatietechnologie een vierde revolutie teweeggebracht. Een revolutie wordt volgens hem veroorzaakt door een fundamentele verandering in wetenschappelijk inzicht; een verandering die zowel ‘intern’ als ‘extern’ is. Intern omdat ze de visie op ons zelf verandert. Extern omdat ze de visie op de wereld verandert. De informatierevolutie werd voorafgegaan door drie eerdere revoluties. Floridi verbindt die met de namen van drie grote wetenschappers: de eerste met Copernicus, de tweede met Darwin en de derde met Freud. Natuurlijk kun je, net als Floridi zelf doet, vraagtekens plaatsen bij de bewering dat dit nu net de revolutionaire geesten zijn die het mensbeeld en het wereldbeeld radicaal zouden hebben veranderd. Waarom niet Descartes? Of Frege?

Voor Floridi is Alan M. Turing de wetenschapper die het meest representatief is om zijn naam aan de vierde revolutie te verbinden. Turing, de vader van de informatica, de man die samen met o.a. I.J. Good in Bletchley Park de code van de Enigma machine ontdekte. De man die een experiment bedacht waarmee we zouden kunnen uitmaken of een machine intelligent is (the Turing game). De man die een eenvoudig machine model maakte, de Turing machine, waarmee precies al die taken kunnen worden uitgevoerd die volgens onze intuïtie ‘berekenbaar’ zijn. Talloze alternatieve voorstellen zijn gedaan voor manieren die dit intuïtieve begrip van berekenbaarheid zouden vastleggen. Ze bleken allemaal equivalent met Turing’s machine.

Niemand zal de waarde van Turing’s werk voor de ontwikkeling van de computerwetenschap willen ontkennen. Toch denk ik dat als het om de bron van de infromatierevolutie gaat, we moeten zoeken naar een moment in de moderne wetenschap waarop we met recht kunnen spreken van een omkering, van een revolutionair idee. Ik meen dat we daarvoor terug moeten gaan naar het eind van de 19de eeuw. Daar vinden we een paradigmatische verandering in het wereldbeeld, de overgang van de mechanisering van het wereldbeeld, die volgens de beroemde studie van Dijksterhuis een mathematisering bleek te zijn, naar een informatisering die uiteindelijk leidde tot de huidige automatisering, naar een wereld die zich laat beschrijven als Floridi’s infosfeer.

De omkering van het commutatieve diagram van Herz

De Duitse natuurkundige Heinrich Hertz (1857-1894) stierf op 36 jarige leeftijd aan de gevolgen van een bloedziekte. Veel te vroeg, vond ook Von Helmholtz die de Vorrede schreef in Hertz’ belangrijke postuum uitgegeven Prinzipien der Mechanik. Hertz was een genie. Het lukte hem met zijn oscillator de reeds door Maxwell voorspelde elektromagnetische golven op te wekken. Daarmee bevestigde hij de theorie van James Maxwell (1831-1879) uitgedrukt in een stelsel van wiskundige vergelijkingen die het verband aangeven tussen magnetische velden en electriciteit. Over zijn ontdekking merkte Hertz eens op:

“Het is van geen enkel nut… Het is slechts een experiment dat bewijst dat Maestro Maxwell gelijk had. We hebben slechts deze mysterieuze elektromagnetische golven die we met het blote oog niet kunnen zien, maar ze zijn er wel.” Toen één van zijn studenten hem vroeg: “Wat nu?” antwoordde hij: “Niets, denk ik.” 

Hertz stierf net voordat de Italiaanse uitvinder en ondernemer Guglielmo Marconi (1874-1937) anders aantoonde. In 1890 begon deze Guglielmo, hij had een hekel aan school, op zijn zolderkamertje te experimenteren met radiogolven. Na jarenlang gepiel lukte het hem met door hemzelf gemaakte zend- en ontvang-apparatuur draadloos een signaal over een afstand van wel 2400 meter te sturen. De geboorte van de draadloze telegrafie. Wie kan zich niet de fascinatie herinneren toen hij met zijn zelf inelkaar gesoldeerde luciferdoosje-ontvanger met een zelfgemaakte inductiespoel de eerste signalen uit de ether opving? Ik nog wel: “ik hoor stemmen!” Ik vond het een wonder.

Omdat de Italiaanse regering geen brood zag in Marconi’s experimenten, vertrok hij naar Engeland. De Britse post zag er wel wat in. Om een lang verhaal kort te maken: op 27 maart 1899 werden de eerste berichten van Frankrijk over het kanaal naar Engeland verstuurd. In 1901 toonde Marconi aan dat radiogolven geen last hebben van de kromming van de aarde. Op 12 december van dat jaar werden de eerste morse-signalen die vanuit Cornwall verzonden werden in New Foundland ontvangen. Over de Atlantische Oceaan, een afstand van zo’n 3200 kilometer. Het eerste draadloze intercontinentale communicatiekanaal met radiogolven was geboren. Het is het begin van de versnelde ontwikkeling van een wereldwijd informatie- en communicatienetwerk.

Een informatiekanaal is nog geen computer. Daarvoor is nog een ander revolutionair idee nodig. Ook daarvoor gaan we terug naar de fysica van Herz.

De werkelijkheid als systeem

Sinds het einde van de 19de eeuw veranderde de werkelijkheid van de natuurwetenschap (‘science’) in een systeem dat bestaat uit deelsystemen omgeven door andere systemen waarmee ze interacteren. Een systeem bevindt zich in een toestand en verandering is verandering van toestand. Potentialiteit en veranderlijkheid wordt gerepresenteerd door een veld van mogelijke toestanden. Een onderscheid tussen een actief zelf of een passief zelf is volgens deze opvatting niet mogelijk. Het zelf van een systeem is geen echte substantie. De toestanden van het systeem is een verzameling van mogelijke waarden van zekere parameters, die staan voor grootheden als snelheid, massa, plaats. De waarden van deze parameters veranderen volgens bepaalde natuurwetten. De notie oorzaak is problematisch in dit wereldbeeld. Het systeem is niet zelf oorzaak van de afgrenzing van zijn omgeving, een kenmerk van levende organismes. Oorzakelijkheid komt overeen met wetmatigheid van gedrag. Oorzaak is in de ogen van de moderne wetenschap een metafysisch begrip. En dat geldt al helemaal voor de idee van causa sui, als iets dat bron is van zijn eigen activiteiten. We zien dat in Floridi’s metafysica van informatie dit idee weer herleeft.

Het commutatief diagram van Herz

Een commutatief diagram is een schema zoals hieronder.

Dit diagram toont op schematische wijze hoe je het resultaat/gevolg van de optelling van twee decimale getallen (pijl naar rechts boven de blauwe streep) kan berekenen door deze twee eerst om te zetten naar twee binaire getallen (pijl naar beneden), daarop de methode/regels voor de binaire optelling uit te voeren (pijl naar rechts onder de streep) en het resultaat daarvan weer om te zetten naar het decimale getalstelsel (pijl naar boven).

De volgende tekst komt uit Heinrich Herz’ Prinzipien der Mechanik (1894).

“We maken voor onszelf inwendige beelden of symbolen van de uitwendige voorwerpen/toedrachten, en we maken ze wel zodanig dat de denknoodzakelijke gevolgen van de beelden steeds weer de beelden van de natuurnoodzakelijke gevolgen van de afgebeelde voorwerpen/toedrachten zijn.” (Zie figuur voor de Duitse tekst.)

Deze gedachtegang kunnen we schematisch door middel van het volgende commutatieve diagram voorstellen

De correspondentie tussen denkprocessen en natuurprocessen wordt uitgebuit in de denkende/rekenende machine. De logische AND-schakeling is een logische schakeling omdat de wiskundige relatie tussen de waarden van de invoervariabelen en de uitvoervariabele correspondeert met de tabel van de logisch and operatie.

Het kanaal wordt een programmeerbare machine, zodra de ingevoerde tekens niet alleen de toestand van het kanaal bepalen die aan de ontvangstkant worden uitgelezen, maar wanneer deze tekens het kanaal in een toestand brengen waardoor een fysisch proces in gang word gezet dat overeenkomt met de betekenis die in de tekens is uitgedrukt.

Feiten en Informatie

“De wereld is alles wat het geval is”. Zo begint Wittgenstein zijn Tractatus. In het Duits: “Die Welt ist alles was der Fall ist”. In het Engels wordt dit wel vertaald als:

“The world is the totality of facts.”

Maar is dat altijd zo geweest?

Hoe zag de wereld eruit voor dat er feiten waren? Hoe zag de wereld eruit voor dat er informatie was? Hoe zag de werkelijkheid eruit voor dat er sprake was van toestanden, feitelijke toestanden en informatie als soort van reële objecten? Hoe zag de wereld eruit voordat kennis zodanig geobjectiveerd was dat het een doel werd van onderzoekprojecten?

Wij vinden het heel normaal om te zeggen dat we feiten of informatie willen. Maar hoe was dat vroeger, toen die begrippen nog niet bestonden?

We worden ons ervan bewust dat de geschiedenis onze geschiedenis is. Dat wil zeggen dat de geschiedenis als activiteit als beschrijving van hoe het was zelf een onderdeel is van de geschiedenis van diezelfde activiteit maar nu als die welke beschreven wordt.

In zijn The Invention of Science is David Wootton op zoek naar de oorsprong van de nieuwe wetenschap. In het hoofdstuk Facts schrijft hij.

“We take facts so much for granted that there have been few attempts to write their history, and none of them satisfactory. Yet, our culture is as dependent on facts as it is on gasoline. It is almost impossible to imagine doing without facts, and yet there was a time when facts did not exist.” (Wootton, 2016, p.252)

Wat is een feit? Een feit is een ding dat werkelijk gebeurde of dat werkelijk het geval is. Zo luidt een woordenboekdefinitie. Dat komt overeen met het gebruik van de term in de Tractatus.

Is een feit niet hetzelfde als een toedracht in het diagram van Herz? In hoeverre hoort de beschrijving van het feit tot het feit? Is een feit niet iets dat het beeld van de toedracht ook al in zich heeft? Een feit zegt wat werkelijk gebeurde. Het is de (beschrijving van de) werkelijkheid zoals deze gekend wordt. Bij Ronald Barthes zien we die dubbelheid in het begrip terug:

“The fact can only have a linguistic existence, as a term in a discourse, and yet it is exactly as if this existence were merely the ‘copy’, purely and simply, of another existence situated in the extra-structural domain of the ‘real’. (Barthes, The Discourse of History, 1967).

Volgens Barthes heeft het feit die dubbele kant: het is een talig object, en tegelijk pretendeert het een ‘kopie’ van iets anders te zijn, van iets dat gesitueerd is in het buiten-structurele domein van ‘de werkelijkheid’.

Er is een overeenkomst tussen Barthes’ feit en de relatie tussen beeld en toedracht in het diagram van Herz.

De dubbelheid die we zowel bij Herz als bij Barthes aantreffen zien we ook in Floridi’s begrip van semantische informatie en de kwestie of dit waarheidswaarde heeft. Ik heb de neiging hier ook te spreken van een waarheidspretentie van informatie. Informatie pretendeert evenals Barthes’ fact de waarheid af te beelden.

In de Tractatus schetst Wittgenstein een zelfde dubbelheid van feiten. Zijn tweede hoofdstelling luidt: “Wat het geval is, het feit, is het bestaan van connecties.”. Hiermee drukt hij de structurele natuur van het feit uit. In zijn laatste stelling zegt Wittgenstein dat er weliswaar een ‘werkelijkheid’ bestaat buiten deze feiten, een extra-structural domain of the ‘real’, in de woorden van Barthes, maar daarover kan niet gesproken worden.

Bij Wittgenstein, is de relatie tussen beeld en toedracht, tussen taal (proposities) en werkelijkheid, als die tussen een binaire en een decimale code. Wat daarbuiten is, de wereld van de getallen is onbereikbaar.

Volgens de historicus Wootton begonnen feiten te bestaan rond 1700. Hume maakte onderscheid tussen twee soorten objecten van onderzoek. De wiskundige relaties tussen gedachten enerzijds en de “matters of fact” anderzijds. Daarmee werd kennis meteen een probleem. Wat wij denken te weten weten we niet zeker. Kennis is iets dat we nog niet hebben. Een onbereikbaar ideaal van statistisch onderzoek op basis van gegevens, ‘matters of fact’, van feitenonderzoek.

De automaat

In de programmeerbare machine, die een taalmachine is, maken we technisch gebruik van het correspondentieprincipe zoals dat in Herz’ diagram wordt uitgedrukt. De natuur wordt zodanig ingericht dat deze werkt als implementatie van de beelden die we in het programma uitdrukken. Wat de machine verwerkt is informatie. De zin en betekenis daarvan ligt buiten de informatie-verwerkingsprocessen. Die behoren tot een andere extra-structural reality. Een werkelijkheid zonder welke informatie van gen enkel nut is.

Conclusie

De bron van de informatie-revolutie vinden we in de omkering en uitbuiting van het correspondentieprincipe zoals dat in Herz diagram wordt uitgedrukt. Het informatie begrip in haar moderne betekenis is onderdeel van een cluster van begrippen waartoe ook ‘toestand’ en ‘feit’ behoren. Direct daarmee samen hangt het moderne kansbegrip waarvan Ian Hacking de opkomst heeft beschreven in “The Emergence of Probability”.

Bronnen

Luciano Floridi (2014).Informatie. Elementaire deeltjes 11. Amsterdam University Press B.V., Amsterdam, 2014. Vertaling van Information : a very short introduction uit 2010.

Hertz, Heinrich (1894). Die Prinzipien der Mechanik in neuen Zusammenhange dargestellt. Mit einen Vorworte von H. von Helmholtz

Wootton, David (2015). The Invention of Science. A new history of the scientific revolution. Penguin Book, 2015.

Wie wil stemmen moet daar iets voor over hebben

Binnenkort mogen we weer naar de stembus om een volksvertegenwoordiging te kiezen voor de Tweede Kamer. Het principe van vertegenwoordiging is volgens de geleerden één van de basisprincipes waaraan de implementatie van de democratische rechtsstaat moet voldoen. Niet iedereen kan in de Tweede Kamer, niet iedereen kan direct overal over meebeslissen. Wij moeten mensen kiezen die ons vertegenwoordigen. Deze moeten verantwoording afleggen voor hun stemgedrag in de kamer wanneer over zaken besloten moet worden.

De strijd om de kiezer is in volle gang. De media hebben gouden tijden. Het ene debat na het andere wordt georganiseerd. Met uiteraard als belangrijkste kwaliteitsmeter de heilige kijkcijfers. Want Heel Holland Stemt moet net als Heel Holland Bakt wel verteerbaar zijn.

En dan zijn er de polls, de statistieken. Dat is een boeiend fenomeen. Het meest spannende aan de verkiezingen is hoe ver de polls er naast zaten. En is dat verschil tussen de verwachte zetelverdeling en de uitkomst van de verkiezingen nu zo groot dat het werkelijk verschil maakt voor hoe het land geregeerd zal worden? Ik denk het niet.

Counterfactuals

Statistici maken er een sport van met hun modellen contrafeitelijke vragen te beantwoorden. Een voorbeeld. Het blijkt dat 80 % van de kiesgerechtigden feitelijk hun stem uitbrengt. Van de 20 % niet-stemmers voert minstens de helft als reden aan de politiek zat te zijn. Wie tegen Rutte is zou zijn kabinetten daarvan de schuld kunnen geven. Op de vraag aan de niet-stemmers op welke partij ze zouden hebben gestemd als ze wel zouden stemmen, geeft inderdaad het overgrote deel als antwoord: op de PVV. Dat zou, zo is de conclusie die de statistici trekken, zo’n 12 tot 15 zetels extra opleveren en Wilders zou een kabinet mogen formeren.

Deze conclusie is niet juist. Het antwoord op de vraag van de Hypotheticus aan de Niet-Stemmer: “Op welke partij zou u stemmen als u ging stemmen?”, is een wedervraag: “Had u deze vraag ook aan mij gesteld als ik wel was gaan stemmen?”. Waarop de interviewer zou moeten antwoorden: “Nee, natuurlijk niet.” Waarna de Niet-Stemmer reageert met: “Ik beantwoord geen vragen die niet gesteld worden.”

Contra-feitelijke conclusies berusten op de onrealistische aanname dat er zo maar in een causal netwerk van gebeurtenissen gesneden kan worden.

Dat neemt niet weg dat door het grote aantal niet-stemmers de verkiezingsuitslag geen representatief beeld geeft van wat er in het volk leeft. Daarom is het goed te zoeken naar andere manieren om wat er in het volk leeft te meten.

Zo vroeg ik me af:

Is het voorstelbaar dat we in plaats van allemaal naar de stembus te gaan ons laten vertegenwoordigen door een aselecte steekproef van voldoende omvang zodat volgens de statistici de uitkomst zo betrouwbaar is dat het de gang naar de stembus overbodig maakt?

Er is vast wel zo’n ‘aselecte’ groep kiezers te vinden. Ik meen dat er zelfs een gemeente in Nederland is die er om bekend staat dat de uitslag daar exact die van het hele volk weerspiegelt. Eventueel neem je een paar van die steekproeven en daarvan een gemiddelde. Volgens Bernouilli moet dat toch aardig in de buurt komen van wat we zouden moeten accepteren als de stembusuitslag.

En toch. Waarom wordt dit niet geaccepteerd? Omdat als mijn mening niet gevraagd is omdat ik geen deel ben van de steekproef, de uitkomst voor mij niet acceptabel is. Ik ben namelijk iemand anders en heb recht om mijn eigen mening in een stembus tot uitdrukking te brengen. Ja, maar die mening komt overeen met die van vele anderen die wel meetellen omdat ze wel meedoen aan de steekproef, zou de advocaat van de duivel kunnen beweren. Ja maar…

Ik had eerder al eens voorgesteld om de samenstelling van de kamer af te leiden uit de mening van het volk zoals deze op de sociale media wordt geuit. Maar het bezwaar was dat er veel meningen worden verkondigd die geen echte mening is van iemand: geen ‘Meinung’, zoals de Duitse term luidt, omdat er geen echte persoon achter zit die die mening meedeelt. Maar, ook overleden mensen zouden dan mee stemmen. En dat mag natuurlijk niet.

Je zou denken dat stemmen een puur geestelijke kwestie is, iets van het verstand. Idealiter. Maar dat is een verkeerd idee.

Het is van wezenlijk belang dat het moeite kost om je stem uit te brengen. Niet te veel, het mag mensen niet verhinderen te stemmen, maar het moet lichamelijk moeite kosten. Je moet er voor de deur uit, of je moet op een andere manier moeite doen om je stem uit te brengen. Dan pas heb je ook het gevoel dat je zelf als uniek lid van het kiezersvolk je stem hebt uitgebracht.

Die moeite die het kost staat namelijk voor het feit dat je een reden en motivatie hebt om je stem uit te brengen. Je hebt er wat voor over. Het is een redelijke wilsact, een actie gericht op het doen van wat je zelf denkt dat goed is. Die lichamelijkheid maakt dat je je niet kan laten vertegenwoordigen door een aselecte steekproef. Niemand kan jouw stem uitbrengen. Hoe goed Deep Fake ook in staat is je stem te simuleren, je bent je eigen stem.

Ook al kom je in de stembus de buurvrouw tegen waarvan je denkt dat die wel weer op die verdomde Tegenpartij zal stemmen en daarmee jouw stem neutraliseert, je gaat er voor. Je moet die potentiaalput (de put die ervoor zorgt dat het enige moeite kost om een schakelaar om te zetten) door. Je moet je gewicht in de schaal leggen en de gang naar de stembus maken. Anders tel je niet mee.

Bovendien omdat de buurvrouw de moeite neemt om zich uit de stoel te heisteren en naar de stembus gaat, mag haar stem ook meetellen, want ze heeft er een reden voor en daar gaat het bij het stemmen juist om, om die reden.

Bovendien, wat gaat er nou boven het gezellig samen naar de stembus wandelen? Als je toch niet naar het stadion mag.

“Das Bild kann eine Beschreibung ersetzen” (Wittgenstein, Tagebücher, 27-03-15)

Er is niemand die zo treffend in zijn werk de vervreemding en verscheurdheid van de mens in het tijdperk van de kunstmatige intelligentie heeft verbeeld als de Belgische schilder René Magritte (1898-1967).

Iedereen kent zijn schilderij van een pijp met als onderschrift “Ceci n’est pas une pipe”. Behalve dan de drie deelnemers aan het programma “De Slimste Mens”. Die meenden nog nooit van de Belg met de bolhoed te hebben gehoord.

Het thema van Magritte’s werk is de verbeelding, de relatie tussen onze beelden van de werkelijkheid en de werkelijkheid zelf. In zijn schilderijen, die vaak van een exacte, naakte schoonheid zijn, verbeeldt hij de vervreemding van de moderne wetenschap, de arbitraire relatie tussen de woorden en de dingen waar ze voor staan en de omkeerbaarheid van beeld en werkelijkheid, waarmee we nu dagelijks geconfronteerd worden middels de producten van de kunstmatige intelligentie (de artificial intelligence). “De conclusie is welhaast onafwendbaar: de geschilderde pijp van Magritte vervult een filosofische functie.” schrijft Frans Boenders in het hoofdstuk Gemeenschap en geheim van Magritte Retrospectief, uitgegeven ter gelegenheid van een overzichtstentoonstelling van zijn werk in Brussel en Parijs. De filosofische vraag die zijn werk oproept is die naar de correspondentie tussen de beelden, de woorden en de gedachten enerzijds en de werkelijkheid anderzijds. Het is de correspondentie waarover de fysicus Heinrich Herz schrijft in de Inleiding van zijn Prinzipien der Mechanik, de correspondentie waar ook Wittgenstein mee worstelde, de correspondentie die uiteindelijk functioneert in de intelligente machines, waarin de woorden hun werk doen.

Het woord als beeld

De werken van Magritte zijn vaak superrealistisch, ze overtreffen de werkelijkheid en de verbeelding ervan door de kunstenaar. De titels van Magritte’s schilderijen zijn vrijwel altijd raadselachtig. Ze roepen vaak de vraag op: waarom deze titel? wat zou hij bedoeld hebben? Deze vervreemding is onderdeel van zijn werken. Magritte heeft nooit veel losgelaten over zijn motieven voor de door hem gekozen titels. Maar daar is minstens één uitzondering op.

Het betreft een schilderij van een paraplu waarop een glas voor driekwart gevuld met water. Het heeft de titel “Les vacances de Hegel.”. Waarom, vraag je je af.

Voor Magritte was het schilderij een eindproduct van talloze oefeningen in het schilderen van een glas water. Langzaam ontstond, zo schrijft hij in een brief aan de bevriende kunstcritica Suzi Gablik, de lijn van een paraplu. Eerst plaatste hij de paraplu in het glas maar later kwam het glas op de paraplu te staan. Zo ontstond een compositie waarbij twee dingen samen komen die een contrasterende relatie hebben met het water. Het glas vangt het op en houdt het vast. De paraplu stoot het water van zich af. Hij meende dat het samenkomen van deze beide tegengestelde functies de filosoof Hegel wel zou hebben aangesproken en geamuseerd. Alsof Hegel op vakantie was.

En dat verhaal zou de keuze voor de titel verklaren. Of deze verklaring ons bevredigt of niet, wat we uit Magritte’s uitleg in elk geval mogen afleiden is dat hij bekend was met het werk van de grote Duitse dialecticus G.W.F.Hegel (1770-1831).

“Van Causa sui tot automatie”

Nu is er geen filosoof die in zijn werken op zo’n overtuigende wijze zijn begrip van de diverse momenten van het informatiebegrip en daarmee van de aspecten van de daaruit voortgekomen kunstmatige intelligentie heeft beschreven als Hegel. Zoals Magritte’s werken de resultaten laten zien van zijn reflectie op de relaties tussen mens en werkelijkheid zoals de mens deze in zijn verbeelding van die werkelijkheid tot uitdrukking brengt, zo probeert Hegel de verscheurde relatie van de menselijke geest zelf tot de wereld te verzoenen (‘auf zu heben’) in zijn filosofische systeem: de Absolute Geest. Het betreft de opheffing van de tegenoverstelling van het denkende subject (het Cartesiaanse cogito) en de objectieve wereld (de ‘res extensa’), de vervreemdende wetenschap die alleen de verschijnselen kent maar voor wie het “Ding an sich” voor altijd verborgen blijft, een Wittgensteiniaans mysterie.

Zowel in zijn Wissenschaft der Logik, met name in het hoofdstuk over de maat, de kwantitatieve uitdrukking van de kwantiteit, als in de vele Zusätse over de taal in de hoofdstukken over de subjectieve geest, en over het machinale van het denken in de vroege Jenaer Realphilosophie (de woorden die het denken als het ware programmeren) herkennen we de eerste spruiten van een ontluikend begrip van de uitwendigheid van de relatie tussen mens en natuur zoals die in de informatie-technologie tot uitdrukking komt.

De Godsidee van de automatie

Toen ik voor het eerst met Magrittes Les vacances de Hegel geconfronteerd werd schoot mij een passage van Hegel te binnen dat gaat over de relatie tussen oorzaak en gevolg. Om de identiteit van identiteit en onderscheid van oorzaak en gevolg te illustreren wijst Hegel op de jas die nat wordt van de regen. De regen is de materiële oorzaak waarvan de natte jas het materiële gevolg is. Maar deze relatie tussen de in ons denken onderscheiden formele aspecten bestaat in werkelijkheid alleen in zoverre de natheid van de jas gevolg is van de natheid van de regen. Het nat van de regen is dan het zelfde nat als het nat van de jas. Oorzaak en gevolg zijn qua fysica één. Zolang de wetenschap die eenheid van oorzaak en gevolg niet ontdekt heeft zal ze niet rusten. Maar zonder het onderscheid te maken is er geen experimentele wetenschap mogelijk. De wetenschap heeft niets aan de causa sui idee, aan de zichzelf veroorzakende oorzaak, de Godsidee van de automatie. De automaat is de uitwendige objectivatie van de Hegelse filosofie, om de woorden van Jan Hollak te gebruiken (zie zijn “Hegel, Marx en de Cybernetica”). We hebben de natuur zodanig ingericht dat de woorden werken als tekens die ingetoetst, uitgesproken of getoond de natuur ertoe bewegen te werken zodat het effect correspondeert met de betekenis ervan.

De regen wordt dan wel als oorzaak gezien van de natte jas, het mag nog zo hard regenen als de man met de jas en de bolhoed een paraplu op heeft wordt zijn jas niet nat. Magritte verving de jas door de paraplu en het glas, de twee instrumenten die de materiële tegenpolen van de relatie tussen oorzaak en gevolg representeren. Het water symboliseert de natheid, de identiteit van oorzaak en gevolg.

Blijft de vraag waarom Magritte in zijn brief aan Suzi Gablik niet naar deze passage van Hegel verwijst. Was hij dit onderdeel van het ontstaan van de titel vergeten? Ik waag het te betwijfelen.

In de wereld van de kunstmatige intelligentie lijken mens en techniek elkaars evenbeeld te zijn en net zo uitwisselbaar als de verbeelding en de werkelijkheid in de werken van Magritte. De technologie zorgt voor een revolutie in de relatie tussen mens en zijn kennis van de wereld. Het denken van de wereld zit in de wereld ‘cloud’ en wij zijn daarvan de googelende consumenten.

Aan de achterkant van het statige hoofdgebouw van de Humboldt Universiteit, waar je in de voetsporen van grootheden als Karl Marx, Max Planck, en Albert Einstein door de brede gangen treedt, bevindt zich de Hegelstrasse. Ik bezocht de universiteit in Oost-Berlijn een paar jaar geleden op één van mijn laatste dienstreizen. Tijdens een workshop liet ik mij bijpraten over de nieuwste ontwikkelingen op het gebied van de argumentatietechnologie. En natuurlijk ging ik er ook heen om oude contacten op te warmen met de lectoren van de workshop. Misschien waren ze geïnteresseerd in onze plannen voor een nieuw, “groots en meeslepend” door Europa te financieren onderzoekproject. Technologie is een geloof dat zoals ieder geloof leeft van grootse toekomstplannen en beloftes.

De Slimste Machine

Hoe komt de supercomputer Watson van IBM aan zijn kennis? Die haalt hij van het internet. Het was een leuke afstudeeropdracht die een studente van mij jaren geleden uitvoerde. Kijk of je een Vraag/Antwoord-machine kunt maken die uit ongestructureerde data op het internet kennis haalt om vragen van gebruikers te beantwoorden. De enthousiaste studente slaagde er binnen de korte periode van een afstudeeropdracht in een systeem te maken dat vragen als “Wie is de auteur van Pluk van de Petteflat?” of “Wie vermoordde Kennedy?” foutloos beantwoordde. Wat ‘het goede antwoord’ was dat bepaalden wij. Niet de computer. Dat zou wel eens kunnen veranderen. Waar komt onze ‘kennis van de feiten’ vandaan?

De studente beperkte zich tot vragen die met een persoonsnaam beantwoord konden worden. In de beperking toont zich de meester. Ze slaagde met glans. Ik heb het toen niet geprobeerd maar het zou best eens kunnen dat haar QA-systeem de vraag “Wie schilderde het werk met de text “ceci n’est pas une pipe” erop?” correct had beantwoord. Watson kon veel meer soorten vragen beantwoorden en zal met afstand het programma De Slimste Mens winnen. In Berlijn bleek dat IBM al weer verder was dan Watson.

Argumenten uit het web trekken

Tijdens de (First ever) ACL 2016 Tutorial on NLP Approaches to Computational Argumentation praatten de lectoren Chris Reed (Dundee), Iryna Gurevych (Darmstadt), Benno Stein, (Weimar) en Noam Slonim (IBM Research, Dublin/Haifa) ons bij over de stand van de argumentatie-technologie. Hoe ver zijn we gevorderd in het zoeken van argumenten en tegenargumenten voor een bewering, zoals “Het eten van fruit en groenten is gezond”, die je als gebruiker in kunt voeren. Die kennis haalden ze van het internet. Dat is de plek waar de mens zijn kennis opslaat in talloze documenten, in discussiegroepen en in sociale media berichten.

Maar taal is geen kennis. Een zin is geen bewering, een bewering is nog niet waar en wat er bedoeld wordt, dat wordt pas duidelijk in de context van een tekst en in de context van een dialoog, als antithese. En als iemand in een argument verwijst naar een expert dan moet je wel weten of dat echt een expert is. Iemand met kennis van zaken dus. Daarom is het geen triviale exercitie om beargumenteerde kennis op machinale wijze uit het internet te trekken. Het lijkt een onmogelijke taak, omdat de machine in zijn eigen staart lijkt te bijten. Maar toch.

De Democratische Stemmachine

Maar toch. Als we iets positiefs met deze vorm van kunstmatige intelligentie kunnen doen is het hier. Hier in deze technologie zit de mogelijkheid tot een echte democratie. De stemming van het volk wordt via het meten van de stemmen van iedere individuele burger vertaald naar de verschillende standpunten waarmee de politieke partijen zich van elkaar proberen te onderscheiden. De burger hoeft niet meer naar een stemwijzer.nl te gaan om te kijken op welke partij hij moet stemmen. De Machine van de Democratie berekent de uitkomst van de verkiezingen per verkiezingsthema uit de standpunten die de burgers via de sociale media hebben geuit. Dat is veel democratischer dan die ene stem op die ene partij die de burgers nu eens in de vier jaar mogen uit brengen.

De werkelijkheid van het beeld

De kunstzinnige beleving zit in de strijd van de tegenstellingen, van pool en anti-pool, van argument en tegen-argument. De logicus Johan van Benthem zocht net als IBM de logica en de waarheid in de eenheid van de dialoog, zoals Hegel de waarheid zocht in de dialectische eenheid van de tegenpolen. De kunstenaar Magritte zocht zijn waarheid in de eenheid en het onderscheid van beeld en werkelijkheid, in de mysterieuze relatie tussen schilderij en titel.