Category: Nederlands

“But it must be recognized that the notion ‘probability of a sentence’ is an entirely useless one, under any known interpretation of this term” (Noam Chomsky, 1969)

Een stukje schrijven is geen kunst. Een goed stukje schrijven wel. Maar wat maakt een stukje een goed stukje? Wat onderscheidt een goed verhaal van een matig of slecht verhaal? Hebben we nog mensen nodig om verhalen te schrijven?

In Roald Dahl’s The Great Automatic Grammatizator (1953) raakt Adolph Knipe, ‘een lange, magere, slobberig uitziende jongeman’, medewerker bij Mr. John Bohlens electronisch ingenieursbureau, gefascineerd door het idee van een verhalenmachine. Aanvankelijk vond hij het een ‘volkomen belachelijk’ idee. ‘t Is een kostelijk idee, maar zo onpraktisch, dat het geen zin heeft erover te gaan nadenken.’ Maar vanaf het moment dat Knipe op het idee kwam kon hij aan niets anders meer denken. Vooral omdat het de belofte inhield dat hij zich met zo’n verhalenmachine op de meest duivelse manier kon wreken op zijn grootste vijanden. Knipe ergerde zich namelijk al jaren aan het feit dat er zoveel rotzooi gepubliceerd werd, terwijl zijn eigen verhalen, die volgens hem veel beter waren, telkens door de tijdschriftuitgevers geweigerd werden.

Het kost Knipe enige overredingskracht om Bohlens ervan te overtuigen dat zijn machine ‘binnen dertig seconden een verhaal kan produceren van wel vijfduizend woorden, keurig getypt en klaar voor verzending.’

‘Tegenwoordig’, Mr. Bohlen, heeft het met de hand gemaakte artikel geen toekomst meer. Het kan onmogelijk met het massaprodukt concurreren, speciaal in dit land – dat weet u wel. Tapijten…stoelen…schoenen…stenen…aardewerk…alles wat u maar wilt…dat wordt tegenwoordig allemaal machinaal gemaakt. De kwaliteit mag dan minderwaardig zijn, maar dat doet er niet toe. Het gaat om de kosten van het produkt. En verhalen…ach…dat zijn ook produkten, net als tapijten en stoelen, en het kan niemand iets schelen hoe je ze maakt, zolang je ze maar kunt leveren. We zullen ze en gros gaan verkopen, Mr. Bohlen!’ ‘We zullen elke schrijver in het land doodconcurreren en de markt beheersen!’

Knipe zet zijn plan door en na een paar maanden hard werken is er een werkende versie. De verhalenmachine beschikt over een uitgebreid controlesysteem met talloze knoppen waarmee de ‘schrijver’ kan instellen wat voor soort roman deze wenst te produceren: een historische, een satirische, een filosofische, een romantische. Maar ook voor welk tijdschrift. Met voetpedalen kan de hoeveelheid spanning, verrassing, humor en hartstocht worden bestuurd, nog tijdens het produktieproces. Het maken van een verhaal is net alsof je een orgel registreert.

De machine wordt een groot succes. Knipe en Bohlen richten een agentschap op dat uiteindelijk 70 % van de meest succesvolle auteurs in het land uit de markt koopt. Die geven toestemming hun naam onder de verhalen te zetten. Maar ook Bohlen zelf leent zijn naam aan verhalen die hij met de machine produceert.

De meest bekende verhalenmachine heet tegenwoordig ChatGPT. Stukjesschrijvers zijn bang hun baan te verliezen als hun werk wordt overgenomen door AI. In een recent artikel in The New Yorker getiteld Why A.I. Isn’t Going to Make Art verwijst Ted Chiang naar Roald Dahls verhalenmachine.

“Is there anything about art that makes us think it can’t be created by pushing a button, as in Dahl’s imagination? Right now, the fiction generated by large language models like ChatGPT is terrible, but one can imagine that such programs might improve in the future. How good could they get? Could they get better than humans at writing fiction—or making paintings or movies—in the same way that calculators are better at addition and subtraction?”

Chiang is van mening dat een kunstenaar bij het maken van een kunstwerk zoveel beslissingen neemt, veelal onbewust, dat een programma als ChatGPT dit nooit kan evenaren. Een auteur zou het programma zoveel prompts moeten geven dat het net zoveel werk voor hem wordt om een verhaal met ChatGPT te genereren als wanneer hij eigenhandig een verhaal schrijft. Terwijl het nut van zo’n programma nou juist erin zit dat het gebruik ervan tijdwinst oplevert.

“I don’t think companies like OpenAI want to create versions of ChatGPT that require just as much effort from users as writing a novel from scratch. The selling point of generative A.I. is that these programs generate vastly more than you put into them, and that is precisely what prevents them from being effective tools for artists.”

Chiangs argument dat het maken van kunst een complex gebeuren is waarin een enorm groot aantal beslissingen genomen wordt, lijkt geinspireerd door Dahls beschrijving van Knipe’s registermachine, met zijn vele knoppen, schuiven en pedalen. Complexiteit wordt vaak als argument aangevoerd om te beargumenteren dat een machine (AI) iets (nog) niet zou kunnen wat de mens wel kan. Taken waar AI moeite mee heeft zouden te complex zijn. Het probleem zit hem echter niet in de complexiteit. Het is geen kwestie van kwantiteit, maar van kwaliteit. Dat blijkt ook wel uit het feit dat we soms heel eenvoudige dingen kunstzinnig vinden. Het is juist de eenvoud ervan die ons aanspreekt. Het is niet de hoeveelheid werk die de kwaliteit van het produkt bepaalt. De kwaliteit van een kustwerk is resultaat van een combinatie van inspiratie en inspanning. Bovendien hangt het heel erg van de ontvanger, de toeschouwer of lezer, af of deze iets als kunst beschouwt. Of iets mooi is, is vaak een toegift, iets dat je niet af kunt dwingen door alleen maar hard te werken.

Het schrijven van een tekst, een essay of roman, is een communicatief gebeuren, waarin de maker een bedoeling uitdrukt. Het is heel eenvoudig om ChatGPT de zin “Leuk je te zien” te laten genereren. Maar ChatGPT vindt het helemaal niet leuk om je te zien. Een machine is nu eenmaal niet iets wat iets leuk vindt.

Sommige mensen zeggen dat de meeste teksten die mensen produceren ook helemaal niet origineel zijn. Net zo min als de teksten geproduceerd door de statistische generatieve taalmodellen van ChatGPT. Taalgebruik is in die zin helemaal niet creatief. Maar dat betekent niet dat wat ChatGPT doet vergelijkbaar is met wat mensen met taal doen. ChatGPT ‘gebruikt’ taal op een wezenlijk andere manier dan dat mensen taal gebruiken. Wanneer iemand tegen je zegt “het spijt me” of “houd de dief” dan is het helemaal niet relevant dat dit niet een erg originele zin is. Het gaat erom of de spreker zich met het uitspreken van “het spijt me” verontschuldigt, verwijzend naar iets dat zich voordoet in relatie tot degene die hij tegenover zich heeft. De essentie van taal is dat het een uitdrukkingsvorm is voor een intentie. Het rijtje woorden is slechts ‘buitenkant’. Als we deze niet meer in relatie zien tot een intentie, een ‘binnenkant‘, dan hebben we afgezien van het wezenlijke van taal.

Chiang stelt dan ook ten slotte: “We are all products of what has come before us, but it’s by living our lives in interaction with others that we bring meaning into the world. That is something that an auto-complete algorithm can never do, and don’t let anyone tell you otherwise.”

De technicus kijkt naar de buitenkant van de taal. Dat er iets mee gezegd wordt en kan worden, dat neemt hij voor lief.

Een algoritme neemt geen beslissingen het kan slechts kiezen uit een aantal voorafgegeven alternatieven. Wie meent dat een machine uit zichzelf beslissingen kan nemen, die verwart wilsvrijheid met keuzevrijheid. Het zelf bepalen waartoe besloten moet worden is een wezenlijk onderdeel van de wilsvrijheid.

De vraag die Chiang aan het begin van zijn essay stelt, zet hem en ons lezers op het verkeerde been. Die vraag was: Kan ChatGPT ooit beter worden dan mensen in het schrijven van verhalen – of het maken van schilderijen of films – ‘in the same way that calculators are better at addition and subtraction?’

Veel mensen beweren dat rekenmachines beter zijn in rekenen dan mensen. Het argument dat dit niet opgaat voor het maken van kunst, zoals het schrijven van een verhaal, is dan dat deze aktiviteiten niet zijn te reduceren tot het doen van een berekening: je kunt geen algoritme schrijven dat verhalen schrijft, daarvoor zou het te complex zijn. Wat is er mis met deze redenering?

Wanneer we stellen dat een rekenmachine beter is dan de mens in het rekenen, dan vergelijken we de machine en de mens, die we daarmee tegenover elkaar beschouwen als twee even zelfstandige entiteiten. Hier de mens, daar de machine. Beide kunnen rekenen, maar de machine zou hetzelfde beter doen. We zien veel artikelen die beweren dat onderzoek heeft aangetoond dat een machine (‘gebruikmakend van kunstmatige intelligentie’) een bepaalde taak beter doet dan de mens. Wat is er mis met deze voorstelling van zaken? Dat is dat de machine, en of dat nu een eenvoudige calculator of een complex intelligent systeem zoals ChatGPT is, geen zelfstandigheid als machine heeft wanneer wordt afgezien van de relatie tot de mens voor wie het een machine is en voor wie wat de machine ‘doet’ een betekenis heeft.

Waarom maakt Chiang een uitzondering voor het rekenen? Waarom stelt hij zonder meer dat voor rekenmachines geldt dat ze wél beter zijn dan mensen, terwijl als het om verhalenmachines gaat hij inziet dat het schrijven van een verhaal meer is dan slechts het genereren van een rij woorden? Dat moet met het uitzonderlijke karakter van het rekenen te maken hebben. Inderdaad, het rekenen is bij uitstek die aktiviteit die in zekere zin buiten ons om gebeurt, waarbij we zelf machinaal te werk gaan. We manipuleren tekens volgens eenzinnige regels zonder daarbij na te denken. Maar ook bij het gebruik van de rekenmachine zijn wij het die de machine opdrachten geven. Wij bepalen wat berekend moet worden. Wij gebruiken de machine om iets voor ons te berekenen, om een resultaat te produceren dat al in de opdracht besloten ligt. En dat geldt net zo goed voor het gebruik van ChatGPT.

De zelfstandigheid van de machine is een relatieve zelfstandigheid. Door de mens tegenover de machine te plaatsen in een vergelijking wie van beide beter presteert, die doet alsof de machine buiten de relatie tot de mens, zijnde de ontwerper en gebruiker ervan, ook machine is. Buiten de relatie tot de mens voor wie de werking van de machine betekenis heeft, is deze werking echter slechts een fysisch proces. En dat geldt evenzeer voor de rekenmachine als voor ieder AI systeem. Dat de processen die zich ‘in de rekenmachine’ afspelen rekenprocessen zijn, dat zegt een relatie tot de mens, voor wie de toestanden van de machine staan voor de elementen van een wiskundige structuur, zoals een getal of een andere datastructuur, onderdeel van een (statistisch) (taal)model.

Rekenen is het manipuleren van tekens en kan niet bestaan zonder tekens die staan voor getallen, gedachte objecten in een mathematische structuur. Net zo min als we kunnen eten zonder voedsel tot ons te nemen, kunnen we rekenen zonder tekens te manipuleren. Voor die tekens werden in vroeger tijden steentjes (‘calculi’) gebruikt of streepjes in steen gekrast. Later werd er gerekend door balletjes te schuiven (de wel bekende abacus). En nog later met tandwieltjes. De eerste rekenmachines vertoonden veel gelijkenis met uurwerken en speelautomaten. Het gebruik van ponskaarten voor het programmeren kwam van het gebruik van de draaiboeken voor draaiorgels en weefgetouwen (Jacquard) . De gaatjes in de printkaarten vormen de tekens waarmee de gegevens en de bewerking erop gecodeerd zijn. Het begin van de programmeerbare rekenmachine. Aanvankelijk werd het draaiorgel met de hand aangedreven. Door middel van een vernuftige constructie werd daarmee zowel een blaasbalg aangedreven als ook het mechaniek om de muziektrommel rond te draaien.

De stoommachine en de electrische motor vervangen later het draaien door de orgelman. Op dat moment is zowel de voortdrijving van het mechanisme als de ordening ervan door de natuurwerking overgenomen. De machine doet ‘zelfstandig’ zijn werk. Je hoeft er alleen nog maar wat energie in te stoppen en een programma (draaiboek) en op de startknop te drukken. En het werkt! Vanwege die ‘zelfstandige’ werking hebben we de neiging de machine als subject te zien, vergelijkbaar met de mens. Sommige mensen spreken van een ‘quasi-subject’ om het verschil aan te duiden met de mens als subject. We zeggen dat de machine ‘werkt’, ‘rekent’, zonder daarbij te bedenken dat dat iets anders betekent dan wanneer we van een mens zeggen dat die werkt of rekent.

In het (filosofisch/technisch) jargon is de term ‘agent’ gangbaar geworden als paraplu-term voor echte en quasi-subjecten. Een agent wordt echter beschouwd als een zelfstandige entiteit, zoals een mens. Het zijn beide ‘informatiesystemen’. Mark Coeckelbergh spreekt van ‘new artistic (quasi)subjects’. Hij stelt de vraag of AI (zoals DALL-E) een artiest kan zijn. Sommigen overwegen zelfs de robot als persoon te zien en deze een morele en juridische status te verlenen. Dat een quasi-subject slechts een relatieve zelfstandigheid heeft in relatie tot het menselijk subject, dat wordt daarmee niet begrepen. Het relationele aspect wordt bij auteurs als Coeckelbergh en Gunkel pas opgevoerd in de vorm van een sociale interaktie tijdens een co-operatief gebeuren. Mens en machine brengen samen iets tot stand. Wat ik daarentegen betoog is dat machine-zijn al een relatief zijn is, zonder relatie tot de mens is een machine niet wat het is.

In “Some misunderstandings about the moral significance of technology” merkt Peter-Paul Verbeek op dat de bewering dat een technisch artefact betrokken is in moreel agentschap (‘involved in moral agency’) verkeerd wordt verstaan alsof zo’n technisch artefact dan ook op zich zelf een morele agent zou zijn.” (Verbeek, 2014). Om morele agent te zijn moet iets een zelfstandigheid hebben en wilsbesluiten kunnen nemen. Het kiezen van een optie uit is dat niet.

Waarom zou een AI systeem geen kunst kunnen maken? Net als de aap die over het toetsenbord van een piano rent iets kan produceren dat we als welluidend ervaren, zo kan ChatGPT bij toeval een tekst produceren die voor ons een bijzondere betekenis heeft en ons op een of andere manier raakt. En misschien is dat wel kunst. Het resultaat van het werken met ChatGPT is uiteindelijk meer dan enkel een rijtje woorden, geproduceerd door een machine. Het is een tekst, een verhaal. Maar die tekst is het alleen voor ons, de gebruiker. De machine is zo gemaakt dat er een goede kans bestaat dat deze een tekst produceert voor ons betekenis heeft. Op dezelfde manier is de rekenmachine zo gemaakt dat de toestandsovergangen overeenkomen met de stappen in een rekenproces en daardoor resulteren in een eindtoestand die voor ons zinvol gezien kan worden als het gewenste resultaat van onze opdracht.

ChatGPT is een stuk gereedschap dat ons behulpzaam kan zijn, maar om een goede tekst te produceren hebben we bij voorkeur een auteur nodig die de kunst leert verstaan van het omgaan met het gereedschap. En dat geldt natuurlijk voor elk technisch middel, of het nu een rekenmachine is of een graafmachine.

We hebben gezien dat rekenen de aktiviteit is die we door een machine kunnen laten verrichten omdat rekenen typisch mechanisch (dat is volgens een vast systeem van regels) verloopt. Hoe kunnen we nu een machine een verhaal laten produceren in een bepaalde taal? Daarvoor moeten we een wiskundig model maken van alle mogelijke verhalen in die taal, een wiskundig taalmodel. Daarin zijn de woorden en zinnen wiskundige objecten geworden. Beroemd is de uitspraak van Goethe over de wiskundigen.

“Die Mathematiker sind eine Art Franzosen. Spricht man zu ihnen, so übersetzen sie alles in ihre eigene Sprache, und so wird es alsobald etwas ganz anderes.”

Deze wiskundige objecten worden door tekens op een papier of op een beeldscherm gerepresenteerd en geprint. Daarbij worden juist die tekens gekozen die voor ons als taalgebruiker herkenbaar zijn als de woorden van onze taal. De tekens die de word-processor op het scherm toont zijn de voor ons herkenbare woorden die we met behulp van het toetsenbord intikken (of die we van elders ontvangen) als resultaat van een fysisch proces.

Het taalgebruik waarin we zeggen dat een rekenmachine kan rekenen maakt niet dat een machine kan rekenen. Dat het een ‘taalspel’ is (Wittgenstein) verklaart op zich niets. Het drukt ons begrip uit van de relatie tussen rekenen en mechaniseren. Het taalgebruik moet juist verklaard worden. Het is uitdrukking van een door de mens op een bepaalde wijze begrepen werkelijkheid.

“A common way of conceiving of the relation between humans and technology is an instrumental one: technologies are tools, instruments for human purposes.” (Coeckelbergh).

Dat rekenen een ‘tool is om mee te kunnen rekenen’, dat wordt door het begrip van de relatie tussen wiskunde (betekenis, denkvorm) en mechanisme (teken, fysisch proces) verantwoord. Net zo min als je woord als teken en woord als betekenis uit elkaar kunt trekken, kun je cijfers en getallen uit elkaar trekken. Ze zijn altijd als eenheid aanwezig in het rekenen. De tool-relatie brengt deze twee uitelkaar gedachte aspecten weer bij elkaar, nadat ze beide, gebruiker enerzijds en gereedschap anderzijds, eerst als zelfstandige entiteiten werden beschouwd. We moeten vragen hoe het komt dat we woorden kunnen ‘gebruiken’ om iets uit te drukken. En wat de rol van de gebruiker en van de woorden is in dat gebruik. Dan komen we er achter dat deze niet zonder elkaar kunnen zijn wat ze zijn. We moeten ons afvragen wat maakt dat we een bepaalde tool voor een bepaalde aktiviteit kunnen gebruiken. We kunnen niet rekenen om daar vervolgens nog iets bij te ‘gebruiken’ (steentjes, streepjes, tekens) om ermee te rekenen. Zonder die calculi is er geen rekenen. Rekenen is een aktiviteit waarbij denken en handelen samenvallen, in die zin dat er tijdens het handelen volgens voorafbedachte regels gemanipuleerd wordt.

Wiskundige Taalmodellen

In Roald Dahl’s verhaal over de Verhalenmachine overweegt Knipe dat zo’n machine niet kan werken als een rekenmachine, omdat die maar één juist antwoord kan geven op een gegeven vraag. ‘Een machine kon geen hersens hebben.’ Maar anderzijds, bedacht Knipe, had een machine een groot geheugen. Je kunt een heleboel werkwoorden, zelfstandige naamwoorden, bijvoeglijke naamwoorden in het geheugen opslaan. En dan wordt Knipe opeens geconfronteerd met ‘een machtige doch simpele waarheid, namelijk deze: “De Engelse grammatica wordt beheerst door regels, die bijna mathematisch consequent worden toegepast!” Knipe concludeerde dat het dus mogelijk moest zijn een verhalenmachine te maken die net als een rekenmachine de juiste volgorde berekent waarin de woorden (in plaats van cijfers) geplaatst moeten worden. “Voed de machine met intriges en laat hem dan zelf de zinnen construeren.”

Hoe naïef Knipe’s idee ook was, we vinden in Dahls verhaal de drie hoofdingrediënten van de huidige verhalenproducerende systemen, zoals ChatGPT: een enorme woordenschat, een systeem dat de juiste woorden in de juiste volgorde zet, en een aantal triggers (intriges, ‘prompts’) die de inhoud en stijl van de tekst bepalen.

In jaren vijftig en zestig waren er twee scholen in het onderzoek naar taalmodellen: de grammatica-school van de linguïsten (met Noam Chomsky als één van de bekendste) en de stochastische school van de electrotechnische ingenieurs, de communicatiewetenschappers, met Markov, Shannon en Weaver als vooraanstaande figuren. De laatsten maakten statistische taalmodellen, gebaseerd op kansrekening. Die taalmodellen beschrijven in welke volgorde de woorden in een zin van die taal voor kunnen komen. Stochastische modellen maken dat het resultaat van de berekening voor de gebruiker niet goed voorspelbaar is. Net zoals bij een worp met een dobbelsteen, een primitief stochastisch proces. Later kom ik terug op de rol van het toeval bij het toekennen van ‘zelfstandigheid’ aan de machine.

Iemand die een bepaalde taal, zeg Nederlands, spreekt die weet dat in die taal niet elk woord op elk ander woord kan volgen. (Afgezien natuurlijk in een opsomming van woorden). Na de woorden: “Jan loopt …” kunnen wel de woorden ‘snel’, ‘in’ en ‘naar’ komen, maar niet de woorden ‘ik’, ‘fietst’, of ‘auto’. Van de woorden die wel na twee gegeven woorden kunnen volgen zijn sommige waarschijnlijker dan andere. Zo is de kans dat na “aap noot” het woordje mies volgt groter dan de kans dat het volgende woord ‘geit’ is of ‘de’. Door nu alle rijtjes van drie woorden die in een grote verzameling teksten voorkomen te tellen kan voor heel veel rijtjes van twee woorden de (overgangs)kans op het volgende woord benaderd worden. Zo’n taalmodel heet een trigram model. Het model zegt nu wat het meest waarschijnlijke woord is dat op een gegeven rijtje van twee worden volgt. Een trigram-model is een speciaal Markov model, genoemd naar de Russische wiskundige Markov die begin 20ste eeuw op grond van tellingen wilde voorspellen of na een gegeven aantal karakters een klinker komt, dan wel een medeklinker. Je kunt hetzelfde doen met rijtjes van vier woorden, van vijf woorden en zo meer. Dan heb je wel meer teksten nodig om je model te trainen, dat wil zeggen om de ‘overgangskansen’ van het model te leren. Hoe meer data, hoe beter het taalmodel. Dit is een heel algemeen wiskundig model dat voor alle mogelijke talen bruikbaar is. De prestaties van het model wordt bepaald door de hoeveelheid trainingsdata, het corpus van teksten waarop getraind wordt.

De volgende reeks woorden is geproduceerd door een trigram taalmodel getrained op het werk van Jane Austin. (bron: Jurafsky & Martin, 2024)

“You are uniformly charming!” cried he, with a smile of associating and now
and then I bowed and they perceived a chaise and four to wish for.”

Het lijkt al een zinvolle tekst, maar het is natuurlijk onzin. De taalmodellen van ChatGPT zijn voor een groot deel gebaseerd op stochastische n-gram modellen, getrained op heel veel online documenten. De woorden in de prompts geven sturing aan het generatieproces, zodat de geproduceerde tekst een zinvolle reaktie op bjvoorbeeld een vraag van de gebruiker kan zijn. Die teksten lijken zinvol, maar er is veel rommel bij. Het probleem is dat ChatGPT de feiten niet kent en zich niet kan verantwoorden tegenover de gebruiker.

ChatGPT kan waarheid niet van onwaarheid onderscheiden. Dat het op een bepaald moment de zin “Lee Harvey Oswald is de moordenaar van J.F. Kennedy.” produceert is het gevolg van het feit dat deze zin vaak in de trainingsdata voorkomt. En niet omdat dit waar is. Ook al kan het best waar zijn dat Oswald Kennedy heeft vermoord. Het opmerkelijke is dat ChatGPT helemaal niet zo goed is in rekenen als je van een machine zou mogen verwachten. Dat komt omdat ze dat leert zonder inzicht in de wiskundige structuren. Ze leert het van buiten, via de taal. Wanneer je heel vaak zegt dat 2 + 2 = 5, dan zal ze deze tekst overnemen. Ze zal niet concluderen dat dan 0 = 1 .

Het gecontroleerde toeval

ChatGPT is gebaseerd op statistische taalmodellen. Sommige mensen zien in het feit dat zelfs de makers van AI niet altijd kunnen voorspellen welke beslissing een AI systeem neemt een bewijs dat de machine (AI) een zelfstandigheid heeft. De machine zou daarom meer dan een ‘tool’ zijn: het voegt iets nieuws toe aan onze inbreng. Inderdaad, is het zo dat het toeval een keerzijde is van het berekenbare. Het toeval is wat je van buiten af overkomt. Je had er niet op gerekend. Het komt onverwacht. Het wordt als het ware ingebracht door een werkelijkheid, een substantie, buiten ons, waar we geen controle over hebben. De stochastische modellen zijn echter wiskundige modellen die gebaseerd zijn op kansrekening. Het toeval wordt in de stochastische machines gesimuleerd door een kansmodel. Het gaat hier dus om een gecontroleerd toeval. De trainingsdata waarmee het taalmodel getrained is, bepaalt de mogelijke uitkomsten van een systeem als ChatGPT. De zogenaamde ‘bias’ van dergelijke systemen komt dan ook voor rekening van de maker ervan. (Getrained op Jane Austin komen er typische Jane Austin teksten uit. ) Dat het voor ons niet voorspelbaar is wat er wordt geproduceerd maakt de AI machine niet minder mechanisch. De willekeur veroorzaakt door de complexiteit en de toevalsfactor maakt dergelijke machines extra interessant voor de gebruiker. Het maakt dat de interaktie een spelkarakter krijgt. Onze acceptatie van willekeur kent een grens. Wanneer het er echt om gaat om zo nauwkeurig mogelijk te voorspellen wat er gebeurt omdat er risico’s verbonden zijn aan fouten, zoals bij voorbeeld in medische toepassingen, dan zijn dergelijke systemen onbruikbaar. Bij de toepassingen in de kunst zijn we als gebruiker zeer tolerant als het gaat om de rol van het toeval. Bij serieuze toepassingen zullen we serieuse risico-analyses willen kunnen maken. Uiteindelijk is het altijd aan de mens, de gebruiker, te bepalen of hij het produkt acceptabel vindt.

Kan een machine kunst maken?

De vraag “Kan een machine kunst maken?” suggereert dat een machine zelfstandig in staat zou kunnen zijn in het maken van iets dat voor de mens betekenisvol is. Deze vraag moet met ‘nee’ worden beantwoord. Evenals de vraag ‘Kan een mens kunst maken?’ wanneer dit betekent dat een mens zelfstandig, in de zin van onafhankelijk van de werkelijkheid: natuur en cultuur, iets kan maken dat betekenisvol voor hem is. Ik heb hier betoogd dat ook de vraag “Kan een rekenmachine rekenen?” kritisch moet worden bevraagd. De mens kan niet zonder mechanismen rekenen, omdat rekenen een mechanisch handelen, een manipuleren van tekens, is. De machine is een relatieve zelfstandigheid. Buiten de relatie tot de mens is deze niet wat het is. En dat geldt voor ‘intelligente’ AI systemen net zo zeer als voor een simpele rekenmachine. De mens die rekent maakt zichzelf een mechanisme. Maar in die verhouding is hij tevens meer dan dat. Hij beoordeelt zich zelf als zodanig.

De machine die kunst maakt beoordeelt zijn eigen werk niet als onderdeel van zijn werk. M.C. Eschers ‘de hand die zichzelf tekent’ heeft zich zelf niet getekend.

Bronnen

Ted Chiang (2024) Why AI isn’t going to make art. The New Yorker, 31 August 2024.

“To create a novel or a painting, an artist makes choices that are fundamentally alien to artificial intelligence.“

Noam Chomsky (1969). Quine’s empirical assumptions. In: Davidson and Hintikkaa (eds.), Words and objections, essays on the work of W.V. Quine (pp. 53-68), Reidel, Dordrecht.

Het citaat boven dit artikel staat op pagina 57. In de eerste twee edities van het veel geprezen studieboek Speech and Language Processing van Jurafski and Martin staat het citaat boven het hoofdstuk over statistische taalmodellen. In de nieuwste, 3de editie van 2024, kon ik het citaat niet meer vinden. Chomsky heeft met zijn commentaar op de Markov-taalmodellen de ontwikkeling van stochastische taalmodellen in de jaren 50 en 60 in de weg gestaan.

Mark Coeckelbergh (2012), Growing moral Relations: critique of moral status ascription. Palgrave MacMillan, 2012.

Mark Coeckelbergh (2014) The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. 27, 61–77 (2014).

Mark Coeckelbergh (2017). Can machines create art? Philosophy & Technology, 30, 285-303.

De auteur beschouwt drie vragen bij wijze van analyse van de hoofdvraag. “What is art creation? What do we mean by art? And, what do we mean by machines create art?”

De vraag die ik hier beantwoord en die niet vergeten mag worden, is: Wat is een machine? En daaraan gekoppelt de vraag: Wat bedoelen we eigenlijk als we zeggen dat een machine iets doet? Of dat nu rekenen is of een kunstwerk maken.

“It seems that the creativity is no longer entirely in the programmer but has migrated to the technology. This is especially the case when the machine has the capacity to learn or when, in other ways, the process cannot simply be reduced to the execution of a code written by humans (the promise of artificial intelligence and artificial creativity). Thus, machines seem to enter the sphere that was previously reserved for humans.”

Inderdaad, het lijkt zo (‘machines seem to’). En machines worden ook gemaakt om dingen voor ons te doen. De vraag of machines kunst kunnen maken, zet ons op het verkeerde been. Machines kunnen door ons gebruikt worden om iets te maken. Alleen wanneer je de inhoud van het begrip ‘maken’ reduceert tot een mechanisch proces, kunnen we zeggen dat een machine iets ‘maakt’.

Mark Coeckelbergh (2023). The Work of Art in the Age of AI Image Generation:
Aesthetics and Human-Technology Relations as Process and Performance. Journal of Human Technology Relations, 1(1), pp.1-13.

If AI (such as DALL-E) can be an artist “depends on your conception of art and creativity – something philosophers in aesthetics and philosophy of art have been thinking about for centuries. If one assumes that art is about expression of an inner state or inner self, way that it stems from something in the artists’ head, then AI cannot be an artist and cannot produce art.”

Coeckelbergh noemt dit de ‘romantische’ voorstelling van zaken.

Coeckelbergh bekritiseert de tool-filosofie van techniek. “We need an approach that does justice to the more-than-instrumental role of the AI in the creation of this art, but at the same time one that does not make it seem as if the AI is always and necessarily an other that has little to do with the human.”

“As we use technology, we engage in what I have called ‘technoperformances’.”

“It is concluded that based on most standard criteria in aesthetics, AI image generation can in principle create art, and that the process can be seen as poietic
performances involving humans and non-humans potentially leading to the emergence of new artistic (quasi)subjects and roles in the process.”

Roald Dahl (1953) The Great Automatic Grammatizator. Opgenomen in de bundel Someone like you. Nederlandse vertaling De Verhalenmachine. Opgenomen in de bundel M’n liefje, m’n duifje. Ook in Het beste van Roald Dahl. Meulenhof, Amsterdam , 1990. Vertaling Hans Edinga.

Luciano Floridi, Sanders, J. On the Morality of Artificial Agents. Minds and Machines 14, 349–379 (2004).

David J. Gunkel (2023). Person, Thing, Robot – A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.

 “Robots are a queer sort of things. They deconstruct the existing logical order that differentiates persons from things.”

Natuurlijk houden we vast aan het onderscheid tussen persoon en ding. Ook al zijn er dingen die door mensen gemaakt zijn, zoals gereedschappen, bouwwerken en kunstwerken, waarin de mens iets van zichzelf, iets van zijn relatie tot de dingen, heeft gelegd. De robot weerspiegelt een bepaalde (maak)relatie die we tot de werkelijkheid hebben.

Daniel Jurafsky & James H. Martin (2006). Speech and Language Processing: An introduction to natural language processing, computational linguistics, and speech recognition.

De 3de versie van het boek verschijnt in 2024. Een draft versie staat hier: https://web.stanford.edu/~jurafsky/slp3 (laatst gezien: 20-09-2024)

Peter-Paul Verbeek (2014). Some misunderstandings about the moral significance of technology. In: The Moral Status of Technical Artefacts. Peter Kroes en Peter-Paul Verbeek, eds). Springer, 2014.

Wie aan een boek begint laat zich in een andere wereld en naar een andere tijd ‘teleporteren’. In die wereld ontmoet de lezer niet alleen de karakters die aan de fantasie van de schrijver zijn ontsproten, maar indirect ook de schrijver zelf. Wat heeft de schrijver met die andere wereld en wat willen zijn fantasieverhalen de lezer vertellen over de toestand in zijn ‘echte’ wereld, die ook onze wereld is?

In De Onzichtbaren (Uitgeverij Hollands Diep, 2023) van de Nederlandse schrijver Frank Nellen wordt de lezer meegenomen naar het Oekraïene ten tijde van de laatste jaren van de Sovjet Republiek. Het boek stond op de shortlist van de Libris Literatuurprijs 2024, maar legde het volgens de jury af tegen het nieuwste boek van Rob van Essen, die met Hier kom ik nog op terug de prijs ontving. Wat mij betreft hadden ze allebei de prijs mogen krijgen.

Van Essen voert ons mee in de wereld van Rob Hollander, ‘ambitieloos journalist met als specialisme zeer onwaarschijnlijke verhalen’ die zich, daadwerkelijk, laat teleporteren naar het Amsterdam van de tijd dat hij daar als student filosofie op een avond de dementerende G.B.J. Hilterman in pyama en op geruite pantoffels op de gracht zag wandelen. Hij had de politiek commentator, bekend van zijn wekelijkse radiopraatje over ‘de toestand in de wereld’, natuurlijk naar huis moeten brengen. Hij had dat niet gedaan. Nu kreeg hij de kans dit recht te zetten. Ook na een aantal teleportaties komt het er echter niet van. In plaats daarvan ontmoet hij zijn oude studiegenoten waaronder De Paus, Hegel, De Parachutist, Kimono, en Staartje, met wie hij een gestolen-busreis maakt naar een klooster in Frankrijk, een poging van de solitaire studenten in een commune te leven. Ook dat herstel blijkt niet eenvoudig. Biedt het leven de kans nog ergens op terug te komen? Kun je het verleden overdoen? Zoals de bruggenschilder die nadat hij de laatste brug heeft geschilderd weer terugkeert naar de eerste omdat deze alweer aan een nieuwe opknapbeurt toe is. Hoe zinloos is dat leven! Met het verhaal van de schilder die in Amsterdam de taak heeft twee bruggen te schilderen begint en eindigt het boek van Van Essen. Ze vormen de bijna identieke peilers waartussen het verhaal zich afspeelt. Ze vormen de ingang en uitgang van de fantasiewereld waarin de schrijver de lezer meevoert. Behalve de voornaam Rob zijn er nog een paar overeenkomsten tussen de hoofdpersoon en de schrijver. Beide studeerden filosofie in Amsterdam maar maakten hun studie niet af, zoals de meeste filosofiestudenten. Het verhaal van de Jehova’s getuigen die bij de Van Essens in het streng protestantse Rijssen aanbellen is autobiografisch. Een moeder en haar zoontje kwamen het Woord van God verkondigen. Het jongetje, ongeveer van de leeftijd van de schrijver toen, maakte een diepe indruk op Rob. Het joch, dat Chris Vis blijkt te heten, speelt een belangrijke rol in het verhaal, waarin de schrijver/journalist Rob op zoek gaat naar zichzelf. Afijn, wie het wil weten die leest het zelf maar.

Pavel Oleksandrovitsj Dorosjenko is de hoofdpersoon uit De Onzichtbaren. Samen met Dani, de ik-figuur uit het boek, brengt hij een deel van zijn jeugd door in Taranivka, een dorp tussen eindeloze graanvelden, ver verwijderd van Kiev, met haar fonteinen en aangeharkte parken. Het is jaren 70, ‘in de tijd dat Brezjnev nog niet leed aan constipatie en aambeien’ dat de jongens met allerlei kattenkwaad de traagverlopende tijd verdrijven. De jeugdvrienden verliezen elkaar uit het oog. Maar na vele jaren kruisen hun wegen elkaar weer. Pavel houdt van verhalen. Hij verzamelt verhalen. Hij roept via zijn radiozender de gewone burger, de armoedzaaiers, op hem hun verhalen te sturen. Pavel worstelt met zijn liefde voor het socialisme en zijn geloof in de socialistische heilstaat. De staat die maar niet wil komen. De verhalen zijn het tegengif tegen de lege fraseologie van de overheid. “Pavel bezat het vermogen om je met een handvol woorden te verplaatsen naar andere tijden en werelden.”

Het is 1 mei 1983, de dag van de jaarlijkse parade in Kiev. Pavel staat op het balkon van het stadhuis omdat hij even daarvoor de Oekraïense staatsprijs heeft gewonnen. Vanaf het balkon heeft hij goed zicht op de massaliteit.

“Terwijl de liederen uit de luidsprekers schalden, drong het tot Pavel door dat het communisme zich op geheel eigen wijze verhield tot de mens. In tegenstelling tot het fascisme kwam aan het individu nauwelijks betekenis toe. De persoon was geen bestaanseenheid, geen wezen dat op voorwaarde van bloedzuiverheid de apotheose van de natuur belichaamde. Onder het communisme verdween de mens. Vanaf zijn geboorte ging hij op in iets groters, als een regendruppel die neerplenst in een wereldzee. In de woorden van Plato waren zijn ogen, oren en handen gemeengoed. Het was niet de persoon, maar de klasse waartoe hij behoorde die worstelde, die strijd leverde, die een gezicht kreeg. In alles was dit ideologische vertrekpunt terug te vinden. Privébezit bestond niet, persoonlijk ondernemerschap was een doodzonde. De filosofie, de kunsten, de wetenschap: alle bezigheden waarmee een individu zich kon onderscheiden, waren gebonden aan fnuikende voorschriften – die van het realisme, het dialectisch materialisme, het historisch materialisme en natuurlijk, in brede zin, het leninisme -, en zo werden de vruchten van creatieve arbeid methodisch van kleur en eigenschap ontdaan.” (De Onzichtbaren, p. 222)

Pavel was filosofiestudent aan de universiteit in Kiev met als specialisatie de rechtsfilosofie.

“Pavel had het zelf meegemaakt hoe zijn promotor, professor Semonov, met rode pen kruisen door hele delen van zijn proefschrift had gezet, met in de kantlijn verontschuldigende opmerkingen (‘Briljant, maar veel te hegeliaans’; ‘Alsjeblieft, denk aan je toekomst!’; ‘Je hebt gelijk, maar de commissie slikt dit nooit.’)” (De Onzichtbaren, p. 223)

De rechtsfilosofie. Ongetwijfeld een onderdeel van de filosofie waarin de auteur bijzondere belangstelling heeft. Frank Nellen is fiscaal jurist, werkzaam als fiscaal adviseur bij Baker Tilly en als hoofddocent Belastingrecht aan Maastricht University.

Vertolkt de hoofdpersoon Pavel misschien de mening van de schrijver over het socialisme en het communisme van de Sovjet-Unie? Aan het eind van het inleidende hoofdstuk vertelt de ik-figuur Dani over zijn motivatie voor zijn zoektocht naar Pavel. “Het socialisme is een gevallen reus – en ik wil weten hoe dat is gebeurd, waarom een imperium is gesneuveld zonder dat we er iets voor terug hebben gekregen.” Het verhaal van Dani en Pavel is niet alleen het verhaal van de kernramp in Tsjenobyl, de ramp met het onzichtbare atoom, maar ook het verhaal van de ondergang van het socialisme in Rusland.

In een interview op Mr.online.nl zegt de schrijver: “Ik heb me niet willen afzetten tegen het socialistische gedachtegoed. Sterker nog: door mijn jarenlange onderzoek naar de ideologische fundamenten van het socialisme ben ik genuanceerder gaan denken over onze eigen politiek en samenleving. Als westerlingen zijn wij altijd trots geweest op onze overwinning op het communisme in de vroege jaren negentig. Maar is die trots wel helemaal terecht? Inmiddels zien we de schaduwzijden van het neoliberalisme en vrije marktdenken: sociale onthechting, politieke polarisatie, groeiende welvaartsongelijkheid en een aardbol die langzaam kaalgevreten wordt. Waarom willen we altijd méér in materiële zin? Waarom werken we niet harder aan de sociale cohesie in onze samenleving? Mijn boek heeft me met allerlei onverwachte vragen geconfronteerd.”

De moraliteit, het eer en geweten van de rechters, is het onderwerp van Pavel’s studie, de invloed van fascistische taal in de naoorlogse rechtsvinding. Het opschonen van het juridisch jargon: ‘rassenzuiverheid’, ‘ontjoding’, ‘omvolking’, had er niet toe geleid dat het onderliggende fascistische gedachtengoed was verdwenen. “In de bibliotheek van Kiev vindt Dani een aantal artikelen van Pavel. Ze gaan over de moraliteit van de ‘sitzenbleibende rechters in Noorwegen, Denemarken en Nederland’, die nog na de oorlog spreken van ‘unnütze Esser” volgens Pavel niet anders dan een antoniem voor ‘lebensunwerten Lebens’.

Titels van artikelen, zowel als tijdschriftnamen waarin ze verschenen zijn verzonnen, maar het onderwerp, de moraliteit van de rechtspraak, is uit het echte leven gegrepen en gaat de schrijver aan het hart. De term ‘lebensunwerten Lebens’ komt daadwerkelijk voor in de literatuur. De moraliteit van de rechtspraak is een aktueel thema (zie bijvoorbeeld de ‘toeslagenaffaire’), dat de auteur aan het hart ligt.

“Bij sommigen bestaat het beeld dat een moreel kompas binnen het vak ontbreekt. Dat is onjuist.” Stelt de auteur in bovengenoemd interview. “Fiscaal juristen zijn vooral bezig met het realiseren van een evenwichtige, juiste toepassing van het recht. Dit geldt zowel voor adviseurs als voor de medewerkers van de Belastingdienst. In Nederland voeren tienduizenden fiscalisten dagelijks hun werkzaamheden naar eer en geweten uit. Kijk als journalist nou eens naar de verhalen van díe mensen.”

Nu zou je de indruk kunnen krijgen dat De Onzichtbaren een loodzwaar boek is over recht en politiek, over de ‘ellendigheid van het bestaan’ in een Oekraiens dorp. Maar dat is niet het geval. Het is een spannend avonturenboek, dat je in één adem uitleest. Het zit vol hilarische verhalen, zoals over juf Kravets met haar gezicht ‘waar enkel misprijzen vanuit ging’, over de dagelijkse gang van zaken in de armoedige lampenfabriek (“Gedwee en zwijgzaam sjokten we naar binnen, de arbeiders van de revolutie.”), naast indringende beschrijvingen van de trieste gevolgen van de ramp, de werking van het onzichtbare atoom.

De Onzichtbaren ‘betreft een werk van fictie dat een zekere periode uit de geschiedenis beslaat.’ De geschiedenis bestaat in de verhalen. De tijd van de grote verhalen (marxisme, socialisme, communisme, liberalisme) behoort tot het verleden. De grote verhalen zijn ongeloofwaardig geworden. We moeten het doen met de kleine verhalen, de verhalen van de onzichtbaren, de lampenmakers en de bruggenschilders.

Is de zogenaamde waarheid iets anders dan een tijdelijke, en bovendien alleen maar in de taal bestaande constructie die niet in de werkelijkheid verankerd is? Dat is de vraag die de criticus aan het post-modernisme stelt. Alsof er een werkelijkheid bestaat buiten de verhalen.

In De Onzichtbaren wordt zelfs met de waarheid van de wiskunde de draak gestoken. Dani herinnert zich een schooldag waarop juf Kravets de klas overhoorde op hun rekenvaardigheid. Je werd voor de klas geroepen en dan vuurde de juf een serie sommen op je af. “Het was de bedoeling dat je zo snel mogelijk antwoord gaf. Was je te traag, dan maakte ze je uit voor achterlijk varken of stompzinnige ezel.” De sommen werden steeds moeilijker zodat het onmogelijk was de beproeving met succes te doorstaan. Alleen de slimme Pavel lukte dat. Pavel is de lieveling van juf Kravets. Hij leest namelijk boeken. Hij kan niets fout doen in haar ogen. Op een gegeven moment moest Igor voor de klas komen. De eerste tafelsommen zijn nog vrij eenvoudig. Igor weet ze allemaal goed te beantwoorden. Maar toen had Kravets er genoeg van. “Zestien maal acht”, zei ze. Stilte. Na een halve minuut antwoordt Igor: ‘vierendertig’. Kravets herhaalt; ‘zestien maal acht!’. Vierendertig herhaalt Igor. “Kravets opende de lade van het bureau en haalde de liniaal te voorschijn, een metalen lat van een centimeter of zestig. ‘Zestien maal acht’ roept ze. Vierendertig, zegt Igor. “Jij dom varken!”Kravets hief de liniaal en liet hem zwiepend op zijn vingers neerkomen.” Nadat Igor zijn bestraffing lijdzaam heeft ondergaan duwt Kravets hem terug in de schoolbank. “Zeg jij het maar”, zegt ze tegen Pavel die al die tijd onverstoorbaar in zijn boek heeft zitten lezen. ‘Vierendertig’, zegt hij zonder op te kijken. Kravets mond zakte open. ‘Wat zei je?’ ‘Vierendertig’ zei hij nogmaals, terwijl hij opkijkt van zijn boek.

“Een getal was het, meer niet, ondubbelzinnig als het was.” zo herinnert Dani zich het voorval. “Ik kon er niet om heen: Igor had gelijk. Op dat moment was er geen enkel argument dat de juistheid van zijn antwoord kon weerleggen. Zestien maal acht was inderdaad vierendertig en dat betekende dat Kravets er naast zat.” Igor was geen onbenul met een deuk in zijn hoofd. “Pavels stem had een genie onthuld, een jongen die net als Marx en Lenin het uiterst zeldzame vermogen bezat om de mens wanneer hij dwaalt, weer op het juiste pad te krijgen.”

Op zoek naar “de ideologische fundamenten van het socialisme”

In iedere cultuur zijn de mensen op een bepaalde manier vervreemd van hun ‘eigenlijke wezen’, van het mens-zijn. Marx, de grondlegger van het communisme, de aanstichter van de revolutie die als doel had de bevrijding van de arbeidersklasse onder het juk van het kapitaal, de groot-industriëlen, ging uit van dit humanistisch mensbeeld, het beeld van de mens als de van zichzelf vervreemde mens.

Wat is de waarde en de betekenis van het individu onder het staatscommunisme? En: wat betekent het individu in het zogenaamde ‘vrije westen’, waarin ‘de onzichtbare hand’ van het marktmechanisme van de burger een consument heeft gemaakt? Een consument die al maar meer wil. Ten koste van ‘de natuur’. Wat is de waarde van de natuur en hoe verhoudt de mens zich tot de natuur? Wat is die ‘eigen natuur’ waarvan de mens zich in de cultuur vervreemdt?

Een groot deel van Oekraïene is onbewoonbaar geworden. Nu eens niet door een kernramp, maar door een oorlog. Een oorlog die van Poetin geen oorlog mag heten omdat het om een ‘militaire operatie’ gaat. Een soort ‘hersteloperatie’ waarin de geschiedenis weer op het juiste pad gezet moet worden. Het Oekraiense volk zou door fascistische krachten van Europa en de NAVO vervreemd zijn geraakt van hun Russische wortels. Ze moeten door Poetin en zijn legers bevrijd worden zodat ze weer terug keren naar de moederborst van Groot Rusland.

Niet alleen Poetin is druk met hersteloperaties. Ook in de democratische rechtsstaten van West-Europa wordt druk gewerkt aan het herstel. In Nederland wordt al jaren gewerkt aan het herstel na de toeslagenaffaire waarin de Belastingdienst vele duizenden voor de uitvoerende ambtenaren onzichtbare burgers vermangelde tussen de raderen van de bureaucratie. Maar niet alleen in Nederland. In de UK en anderen landen doen zich vergelijkbare tragedies met de instituties voor. De sociaal-democratische rechtsstaat staat zwaar onder druk. In Nederland en in heel Europa nemen rechts- en extreemrechtse partijen de regeringen over. Hun politieke leiders zijn in het zadel geholpen door de burgers uit protest tegen de onmachtige nationale overheden die het gezag over eigen land uit handen hebben gegeven aan vreemde krachten. Aan migranten en Europese bureacraten, aan ‘die Groenen in Brussel’ die een eind willen maken aan de landbouw vanwege het broodnodige herstel van de natuurgebieden, die door de industrialisering van de landbouw zijn uitgebuit en uitgeloogd.

Met welke oplossing zullen de nieuwe leiders komen? Vooralsnog is het: ‘weg met het woud van overheidsregels die de vrijheid steeds meer aan banden leggen’, maar ‘leg de wolf in de natuur weer aan banden’. Sluit de grenzen af voor buitenlandse ‘gelukzoekers’. ‘Eigen volk eerst!’. Het ‘eigen volk’, dat is de boer, de mens die nog niet vervreemd is van de natuur, zoals de ecologen en andere wetenschappers. Omdat de boer nog dicht bij de natuur leeft. De boer weet welke kant het op moet. Laat de boer weer doen waar hij goed in is: boeren. En verder geen gezeur, dan komt het allemaal wel goed.

De tijd zal het leren.

Nog net voordat het nieuwe kabinet het mes in de financiering van het wetenschappelijk onderzoek zet, ontving de Delftse bio-fysicus Cees Dekker voor zijn onderzoek naar het ontstaan van het leven 40 miljoen van het NWO. Daarmee kan hij met zijn groep even vooruit. Het project is onderdeel van een internationaal consortium waarin meer dan 100 miljoen omgaat.

Wat gaan ze doen? Kort gezegd: Van niet-leven leven maken. Richard Feynman zei eens: ik begrijp pas hoe iets in elkaar zit, als ik het zelf kan maken. Dat is de spirit. Zo’n vijf procent van het budget zal besteed worden aan de communicatie met de samenleving. Want wat vindt de burger van dit project? Een spannend project.

Gisteravond was Cees Dekker samen met Lotte Asveld, die onderzoek doet naar de maatschappelijke en ethische aspecten van biotechnologie, bij Op1 te gast bij het EO-presentatie-duo Tijs van den Brink en Margje Fikse.

“Cees Dekker en Lotte Asveld proberen van iets levenloos leven te maken, maar ga je niet te veel voor God spelen als je leven creëert? “Mijn rol is eigenlijk om voor God te spelen. Eerbiedig gezegd”, zegt Cees Dekker.”

Cees Dekker is niet de eerste die leven wil maken. Volgens het Bijbels scheppingsverhaal was de Schepper de eerste. Talloze pogingen zijn daarna ondernomen zijn werk nog eens over te doen. De rabbie van Praag volgde bij het maken van de Golem daarbij de procedure zoals beschreven in het heilige boek, de Sefer Jetsirah (het ‘Boek der Schepping’), waarin het recept te lezen is voor het maken van de nieuwe mens. (Zie De Procedure van Harry Mulisch voor het ontcijferen van de codes in het heilige boek.)

Dekkers project toont aan hoe tegenwoordig wetenschap en technologie verweven zijn. Het is het technische resultaat, het eventuele economische nut (“we hopen dat het werkt, de kans is zo’n 75 procent”) dat de validiteit van de theorie moet bieden.

Leven is een centrale notie waaraan de biologie haar naam ontleent. Het is een intuitief begrip dat het objectgebied van de biologie demarceert. Met het onderzoek naar “de grens tussen leven en niet-leven” staat meteen deze demarcatie tussen het onderzoekgebied van de fysica en van de biologie op het spel. Gewoonlijk maakt de bioloog zich niet zo druk om het begrip dat hun onderzoekterrein afbakent. En dat geldt evenzeer voor de beoefenaren van andere wetenschappen. De gedragswetenschapper neemt aan dat wel duidelijk is wat onder ‘gedrag’ valt en de informaticus maakt zich niet zo druk over de betekenis van de notie informatie. Dat wordt traditioneel aan de filosofen overgelaten.

In ‘On the notion of life’ stelt de wiskundige en filosoof Louk Fleischhacker dat de grenzen van de wetenschappelijke disciplines volledig willekeurig zouden zijn als het ideaal van een ‘unified science’ werkelijkheid kon worden. De positivisten zochten dit ideaal in een reductie van alle wetenschap tot de fysica. Maar de fysica zelf toont aan dat zo’n reductie niet erg plausibel is. Pogingen een meest fundamenteel niveau in de fysica aan te geven lijken niet erg succesvol. En als de fysica al een fundamentele materie kan aangeven dan wordt deze beschreven in een stelsel van mathematische vergelijkingen (Maxwell, Schrödinger) waarvan de betekenis ook onder fysici hoogst omstreden en voor verschillende interpretaties vatbaar is (zie de discussie tussen Einstein en Bohr over de onzekerheid van Heisenberg: wat golft er eigenlijk als de fysicus het over het golf-model heeft?)

De fysica zelf roept de vraag op wat haar notie ‘natuur’ nog met de alledaagse notie van natuur te maken heeft. De fysicus moet het gewone volk en de overheid, die voor de condities van haar onderzoek moeten zorgen, toch kunnen uitleggen wat die ingewikkelde mathematische vergelijkingen te vertellen hebben! Wat heeft het leven waar de moleculair bioloog het over heeft met ons begrip leven te maken?

De waardering van de wiskunde en de fysica betreffen dan ook minder het ‘inzicht in de natuur’ dat ze ons gewone mensen bieden dan wel de praktische toepassingen van haar modellen en methoden. Stel dat het lukt, wat hebben we eraan?, is de vraag. “De waarde van de kennis zit in haar maatschappelijke toepassing”, stelde recentelijk een promovendus in haar proefschrift. Het is in de technologie dat we de vruchten plukken van de methoden en technieken van de fysica. Het meest spraakmakend in de vorm van de kunstmatige intelligentie, de autonome technische systemen. En nu is er het spraakmakende onderzoek dat als doel heeft leven uit niet-leven te maken om zo inzicht te krijgen in ‘het ontstaan van het leven’. En wie weet wat het allemaal aan nuttige inzichten en toepassingen oplevert. In ieder geval worden ‘we’ er beroemd mee en bevestigen ‘we’ onze status als high-tech society.

Nederland heeft wat het onderzoek in de moleculaire biologie betreft een naam hoog te houden. In zijn voordracht “What is life?” (1943) vraagt de fysicus Erwin Schrödinger wat de statistische kwantummechanica heeft bijgedragen en verder kan bijdragen aan de vragen van de biologie. Daarin wijst hij op het baanbrekende werk van de ‘Dutchman De Vries’. Zonder De Vries hadden we de corona-pandemie niet overleefd. Zijn mutatietheorie doet Schrödinger meteen denken aan de kwantumtheorie. “The mutations are actually due to quantum jumps in the gene molecule.”. Hij vergelijkt De Vries’ mutatietheorie met Darwin’s evolutietheorie. Leeft het virus, een klompje moleculen, of is het niet-levend? Volgens Hermann Weyl vormt het virus ‘een brug’ tussen levende en niet-levende materie. Een brug? Overbrugt de natuur zelf al niet de afstand tussen leven en niet-leven? Moeten we leven niet zien als de overgang van niet-leven naar leven, van niet-organische naar organische natuur? Zoals we de mens moeten zien als de overgang van dier naar mens? Een voortdurende evolutionair en scheppend proces.

Hoe kunnen mensen die in het scheppingsverhaal geloven (Cees Dekker) vreedzaam samenleven met de wetenschappers (Cees Dekker) en filosofen (Cees Dekker) die heilig geloven in de evolutietheorie?

Het probleem het leven te begrijpen zit hem misschien wel in de wijze waarop het onderscheid tussen het begrip en datgene wat begrepen wordt, wordt opgevat, namelijk als een tegenoverstelling. Descartes’ metafysica met zijn strikte tegenoverstelling van het denkend subject en de werkelijkheid als pure uitgebreidheid is de klassieke uitdrukking van het moderne mathematische wereldbeeld, de wereld is een machine. Maar is ieder onderscheid niet noodzakelijk een tegenoverstelling? Is dat niet de grond voor het feit dat die mathematische vergelijkingen van de fysica ons op zich nog niets zeggen over de natuur zoals we die ervaren en beleven? En wat zegt het Mathematisch Universum dat de fysicus Max Tegmark van het Future of Life instituut construeerde, een enorme complexe Hilbert-ruimte, ons, als we onze bekende levende metgezellen er niet in terug kunnen vinden? We herkennen ons leven daar toch helemaal niet in! Dat komt nog wel, zegt Tegmark. Ja, ja, de toekomst lost alle problemen op. In feite gaat Tegmarks theorie van de hypothese uit dat er een werkelijkheid bestaat waarin alles wat met ervaring en emoties (‘menselijke balast’, zoals hij dat noemt) te maken heeft, verdwenen is. Moeten we niet van die tegenoverstellingen, die voorstellingen die ons verstand zelf creëert, af? Want die zitten ons begrip dwars. Maar hoe?

Pogingen van de wiskundige logici, zoals Spencer-Brown in zijn Logic of Forms, en filosofen de werkelijkheid op logische, begripsmatige wijze uit het niets op te bouwen zijn tot nu toe niet succesvol gebleken. Hegel beschrijft de overgang van de Wissenschaft der Logik naar de Philosophie der Natur als een transitie waarin de absolute Idee zichzelf bevrijdt in een uitwendig bestaan, de natuur.

“Die Natur ist an sich in der Idee göttlich, aber wie sie ist, entspricht ihr Sein ihrem Begriffe nicht; sie ist vielmehr der unaufgelöste Widerspruch. Ihre Eigentümlichkeit ist das Gesetztsein, das Negative, wie die Alten die Materie überhaupt als das non–ens gefasst zu haben” (Hegel, Enz. d. Phil. Wiss. II, p.28).

Zo gesteld is de goddelijke natuur een ‘onopgeloste tegenspraak’.

Maar hoe kunnen we het bestaan van de natuur uit het stellende denken dat iets tegenover zich stelt afleiden? Volgens Fleischhacker wijst dit op een fundamenteel probleem in de moderne metafysica: het begrijpen van de ‘uitwendigheid’, kenmerkend voor zowel het wiskundig denken als voor de mathematische objectiviteit. Het ‘begrijpen van de uitwendigheid’ zag hij als een opdracht waaraan hij zijn hele leven als filosoof werkte.

Kenmerk van levende systemen is de openheid naar de omgeving. De uitwisseling van energie, materie en informatie wordt gezien als wezenlijk onderdeel van levende processen. De zichtbare locatie en begrenzing van de levende organismes, wat voor ons aanleiding is te spreken van levende entiteiten, lijkt in sommige benaderingen als iets onbelangrijks te worden afgedaan. Er is geen expliciete afscheiding tussen het levende individu en zijn omgeving wanneer het individu als open systeem wordt opgevat. Waar houdt de koe op? Waar ligt de grens tussen de koe en haar omgeving? Dat is geen fysische grens. Het is een grens die geen grens is. Er is informeel wel sprake van het open systeem als individu enerzijds en de omgeving als een daarvan onderscheiden entiteit anderzijds maar als informatiesysteem is het één geheel. De koe houdt ‘uit zichzelf’ op met grazen, maar de wetenschap kan niets met dat ‘uit zichzelf’, met ‘zijn eigen oorzaak’, met de idee van causa sui, Descartes godsidee. De wetenschap probeert verschijnselen te verklaren uit omstandigheden, verklarende variabelen, afhankelijkheden als uitdrukking van wetmatigheden. Toch spreken we van levende wezens, van de koeien als individuele entiteiten die deel uitmaken van een soort van leven.

Voor anderen is het kenmerk van leven dat deze entiteiten zich reproduceren, ‘uit zichzelf’. Voor weer anderen is het wezenlijk dat het levende individu zich tot de anderen van de soort verhoudt en er gemeenschap mee heeft.

Een definitie van leven op basis van specifieke functies van organismen wordt door veel biologen als niet adequaat gezien. Zo kunnen we het metabolisme functioneel niet onderscheiden van andere ketens van reacties zonder daarbij al uit te gaan van het onderscheid tussen leven en niet-leven.

Tegenwoordig is het gebruikelijk alles als informatieverwerkend systeem, dat is functioneel, te zien. Neurologen, neurofysici en informaticie buigen zich gezamenlijk over de sociale robot op zoek naar bewustzijn, de ervaring van pijn, een geweten, een besef van moraliteit. Wat ze vinden zijn structurele overeenkomsten tussen complexe informatiestromen in het menselijk brein en in de software van door de technologen gemaakte intelligente robots, de machines waarvan de gebruikers die er mee ‘interacteren’ zeggen dat het er alle schijn van heeft dat ze bewustzijn hebben. Want ze functioneren toch zoals mensen: ze geven antwoorden op de vragen die je stelt, alsof ze het snappen! Maar hebben ze dat ook?

In de discussie tussen de leek en de wetenschapper bij Op1 wordt over leven gesproken. Maar bedoelt de wetenschapper wel hetzelfde als de leek wanneer ze het over ‘leven’ hebben? Het kan verhelderend zijn voor het begrip om een onderscheid te maken tussen drie verschillende noties van leven.

Eerst, de dagelijkse (‘common sense’) notie van leven. De betekenis van leven komt tot uitdrukking in het gewone gebruik. Zoals in “Is er nog leven voor de kinderen in Gaza?”, “Aan elk leven komt een eind.” De verschillende culturele gebruiken van het woord ‘leven’ vertonen een soort familieverwantschap, zoals we met het woord ‘spel’ verschillende spelen kunnen bedoelen in verschillende gebruikscontexten, maar er toch in die veelheid iets van een eenheid, een kern van begrip, uit spreekt. Het gebruik is zelden problematisch. Als Margje vraagt of er nog leven is voor Vitesse dan weet iedereen wat ze daarmee bedoelt. Het leven vertegenwoordigt een bijzondere waarde; het is voor velen iets goddelijks.

Ten tweede is er de notie van leven in een mathematisch wetenschappelijk-technische constructie. Het dagelijks gebruik wordt geproblematiseerd. Het gaat hier om een bepaalde reconstructie van een objectgebied, zoals in de moluculaire biologie, of de neurofysica. Binnen zo’n reconstructie is de betekenis van het begrip exact te bepalen: je kunt er mee werken; er zijn bouwstenen waarop je kunt bouwen. “We stoppen moleculen in een kunstmatige cel”, zegt Dekker en dan kijken we wat er gebeurt. Of zich daar ‘leven’ ontwikkelt.

Ten derde is daar de filosofische notie van leven. Leven wijst daar op een zeker principe gezien vanuit een perspectief van waaruit we de werkelijkheid beschouwen en ervaren. Het gaat hier om vooronderstellingen in het maken van zekere onderscheidingen, zoals niet-levend versus levend; kwantiteit versus kwaliteit. Het is de filosoof die de wetenschappelijke kennis problematiseert. Wat bedoelen we eigenlijk met de werkelijkheid van het leven?

De wetenschap probeert wat orde te brengen in de dagelijkse noties en het dagelijkse gedoe. Met als doel misverstanden te voorkomen en het handelen, maken en communiceren effectiever en efficienter te maken. Zoals gezegd is de wetenschap direct gerelateerd aan en leidt het tot nieuwe praktische omgangsvormen, nieuwe kijk op ons zelf en de wereld om ons heen. Je weet van te voren niet wat het onderzoek van Cees Dekker zal doen met ons leven. Het behoort tot het onderzoekproject van Lotte Asveld om daar iets over te zeggen.

Sommige mensen stellen dat door de ontwikkeling van de techniek de grens tussen leven en niet leven, tussen mens en machine aan het vervagen is. Ze vergelijken dit met de vage grens tussen niet-menselijk dierlijk leven en menselijk leven, alsof het hier om een zelfde soort grens, en een zelfde soort vaagheid gaat. De relatie tussen de begrippen mens en machine is immers een fundamenteel andere dan die tussen de begrippen mens en dier. De bewering dat de grens tussen leven en niet-leven vervaagt veronderstelt een principieel onderscheid tussen beide. Grens is een nogal oppervlakkige notie.

Wanneer Dekker zegt dat er een ‘top-down’ begrip van leven is en anderzijds dat we leven-loze moleculen hebben, dat dan de vraag is waar daar tussen in ergens de grens ligt tussen niet-leven en leven, dan is dat een bepaalde voorstelling van zaken die het wonder van het leven poneert en de uitdaging voedt dit wonder te ontrafelen. Maar het is natuurlijk een voorstelling die twee soorten van begrip bij elkaar brengt op een manier die abstraheert van dit verschil in soorten van begrip. Dat je een organisme als een systeem kunt beschrijven betekent nog niet dat het een systeem is in de zin van de systeemtheorie. Dat dat niet ongestraft kan, dat blijkt wel uit het onbegrip: het wonderlijke dat deze verstandelijke voorstelling voor het verstand opwerpt. Net zo goed als je niet kunt zeggen dat de robot arbeid verricht, of dat ChatGPT romans schrijft, in de zin zoals we dat bedoelen als we zeggen dat wij arbeid verrichten, of een roman schrijven. Daar zit een wereld van verschil; een kwalitatief verschil dat juist voortkomt uit de wetenschappelijke verstandsreflectie. Je kunt ook niet bewijzen dat de God waarin je wel of niet gelooft, wel of niet bestaat. Zo kun je ook geen ‘leven’ maken in dezelfde dagelijkse, intuitieve zin van het woord. Dan verwar je reconstructie met het origineel.

Mathematisme is de verwarring van het begrip in de mathematiserende wetenschap en het filosofisch begrip. Dat door de technologische ontwikkeling ‘de grens tussen mens en techniek vervaagt’, dat is een uitdrukking van een mathematiserende voorstelling. De klassieke sorites paradox, de paradox van de hoop, wijst op het probleem een hoop graankorrels in termen van het aantal korrels te beschrijven. Is een hoop nog een hoop als je er één korrel van af haalt? Is een hoofd dat niet kaal is nog kaal als je er één haar uit trekt? En nog één, en nog één? Is het dan zo dat omdat we niet exact kunnen aangeven waar de grens ligt tussen een kaal hoofd en een hoofd dat niet kaal is, het onderscheid tussen kaal en niet kaal zijn vervaagt? Is het zo dat het verschil tussen niet-leven en leven een kwantitatieve grens is, een kwestie van complexiteit? Of moeten we juist zeggen dat dit probleem, deze paradox, ons er op wijst dat het begrip niet op mathematische wijze is uit te drukken? Te zeggen dat de grens tussen mens en machine, tussen niet-leven en leven door de ontwikkeling van de techniek ‘vervaagt’ veronderstelt het onderscheid tussen mens en machine, tussen leven en niet-leven. Een kwantitatieve grens is een grens die geen grens is, omdat de overschrijdbaarheid van de grens onderdeel is van het begrip. De kwaliteit van leven is niet als een abstract kwantitatief af te grenzen domein af te bakenen.

Voor wie kennis pas kennis is wanneer het mathematisch is, voor wie de werkelijkheid restloos uitgedrukt kan worden in mathematische structuren, voor hem is de mate van complexiteit van de structuren, de enige manier om nog onderscheid te maken tussen de verschillende wijzen van zijn, tussen leven en niet-leven. Dekker wijst in het interview dan ook op de complexiteit van de structuur van de processen die zich in de kunstmatige cel zullen gaan afspelen als hij die vult met moleculen. Zo maakt hij door telkens een korrel toe te voegen uit een lege hoop, een hoop die geen hoop is, een echte hoop. Op zoek naar de grens, de overgang tussen niet-leven en leven.

Mogen wij voor God spelen? Volgens de filosoof Alexander Doegin speelt Poetin God, maar dat bedoelde Tijs van den Brink niet met die vraag. Het gaat niet om God als de Verlosser, maar om God als creator van het leven. Dekker is van mening dat God de mens verstand heeft gegeven om dat te gebruiken, om inzicht te krijgen in de wonderen van de schepping. Maar stel dat het lukt, wat hebben we daaraan? Vraagt Tijs van den Brink. Alles moet immers tegenwoordig nuttig zijn, functioneel.

Dan begrijpen we hopelijk beter hoe leven ontstaat. Maar begrijp je dan ook beter wat dat is: begrijpen. Want dat is toch ook wat ons leven maakt tot wat het is.

Dat leven dat Cees Dekker ‘maakt’ kan immers niet los gezien worden van zijn wetenschappelijk project. Zoals de rekenmachine geen rekenmachine is als we die los zien van de rekenende mens die hem heeft ontwikkeld en gebruikt. Zonder die mens is de machine slechts een fysisch proces. De machine is niet alleen het fysische uitwendige ding. Het is het door ons in een praktijk ontworpen en geordende onderdeel van die praktijk. Zo zijn de uit niet-levende gemaakte ‘levende’ creaturen van Dekker onderdelen van de levendige praktijk waarin ze ontworpen en gebruikt worden. Zonder die achtergrond van het bewuste leven zijn die creaturen niet levend. (Dit begrip zou ik ‘relational’ willen noemen. Ze onderscheidt zich van de ‘social relational’ en de ‘eco-relational’ theorieën die we tegenwoordig in het denken over ethiek van techniek tegenkomen.)

“Living cells and tissues are not really machines; but again, nothing is really anything – all metaphors are wrong, but some are more usefull than others.” schrijven Bongard en Levin in “Living Things are not (20th Century) Machines”.

Wij blijven Cees Dekker en Lotte Asveld volgen. Ze zullen met nieuwe metaforen komen. Ze tonen met hun aanstekelijke enthousiasme voor hun onderzoek naar het leven maar weer eens aan dat “alles wat leeft en bloeit, altijd weer boeit.”

(Dit is in woede geschreven. De woede die me ‘s nachts wakker houdt. De woede die me de energie geeft te willen begrijpen hoe het met de mens gesteld is.)

Dagelijks presenteren de nieuwsmedia de beelden van de slachtoffers van het brutale, redeloze geweld van de legers van de autoritaire staat: in Gaza door Israël, in Oekraiene door Rusland. Na de beelden van het leed: de moeder met haar dode kind op schoot, de vader die treurt om de dood van zijn zoon, de grootmoeder op zoek naar haar kleindochter, keert het beeld naar binnen, in de studio. Daar zit aan tafel de rechtsgeleerde die de steevaste vraag krijgt: “Is hier sprake van een misdaad tegen de menselijkheid?” Of: “Is hier een grens, ‘een rode lijn’, overschreden?” Of: “is dit genocide?” Waarop de geleerde rechter, ieder woord op een goudschaaltje wegend, hakkelt dat het leed ‘proportioneel’ moet zijn.

Hoeveel raketten mag Netanyahu op de huizen en tenten van het Palestijnse volk gooien om recht te doen aan de woede en het leed dat zijn volk, het joodse volk van Israël, is aangedaan? Hoeveel onschuldige burgers, hoeveel van honger en ziekte stervende mensen zijn voldoende? Wanneer is ‘de grens’ tussen recht en onrecht overschreden? Is die grens niet allang overschreden op het moment dat de geleerden in hun nette pakken de vraag gesteld wordt of er een grens overschreden is? Een juridische grens wel te verstaan. De moraliteit is al lang achter de facade van de rechtsgeleerdheid verloren gegaan.

De woede die opwelt bij het zien van het leed dat het onschuldige volk wordt aangedaan heeft plaats gemaakt voor de woede over de vervreemding, over de ‘Verlust der Sittlichkeit’ die de correcte, formele burgerlijkheid van onze wetenschappelijke, rechtsstatelijke samenleving kenmerkt. Wat moeten wij met die machteloze woede? Wat is nog proportioneel? Wanneer gaan we een grens over?

Hoeveel bakstenen is proportioneel?

Hoeveel bakstenen mogen wij gooien naar Netanyahu, naar Poetin, naar de machtigen der aarde die menen boven de wet te staan?

Helaas, zij zijn onaantastbaar, verscholen achter de muren van het recht van de macht.

Hoeveel bakstenen mogen wij gooien naar de bolwerken van de wetenschap, naar de universiteiten, de instituties die vervreemd zijn van het weten, van wat we allang kennen maar wat we maar niet kunnen verwoorden?

Hoeveel bakstenen mogen wij gooien naar de politie, de macht van het recht dat vervreemd is van de moraliteit, van het geweten?

Hoeveel bakstenen mogen wij gooien naar de politiek die de natuur vernietigt om wille van de nationale economie? : de waarde van onze natuur, ons leven, is immers niet in geld uit te drukken.

Wat is proportioneel? Wat staat nog in redelijke verhouding tegenover het oneindige onrecht van de Holocaust, tegenover mijn oneindige woede? Daar is geen grens. Dat is net zo grenzeloos, een grens die geen grens is, als het grote russische rijk in de droomwereld van Poetin.

Wat is het alternatief? Wat rest ons dan ons terug te trekken in onverschilligheid. Wachtend op …ja, op wat?

Laat ze het maar uitzoeken, de pennelikkende rechtsgeleerde, de wetenschappers met hun onbegrijpelijke mathematische modellen en hun talloze rapporten, voor elke vooringenomen mening wat wils. Het is ons pakkie an niet. Wij trekken ons terug op ons eigen erf, in onze eigen noaberstaat, waar we ons eigen onkruid wieden. De grenzen sluitend voor de hel van de buitenwereld. Ons tot de tanden toe bewapenend voor de hel van de anderen.

“In de vorm van een automatisme kan de moderne vrijheid niet bestaan.” (Victor Kal)

“Der freie Wille ist niemals indifferent.” (Arnold Metzger)

Victor Kal (1951) was van 1994 tot 2022 hoofddocent wijsbegeerte aan de Universiteit van Amsterdam. In Poetins filosoof Alexander Doegin (2023, uitgeverij Prometheus) doet hij verschillende dingen. Allereerst is het een presentatie van de ontwikkeling in het denken van Alexander Doegin over Traditie en Moderniteit. “Een wijsgerig portret, geen biografie.” (interview met Ruud Bakker) Hij relateert dit aan diens politieke stellingen en aan president Poetin en de oorlog in Oekraïne. Kal confronteert de meningen van Doegin met die van Heidegger, een filosoof die Doegin volgens Kal onjuist heeft begrepen als het gaat over hoe de mens zich uit de moderniteit zou kunnen redden. Daarbij verwijst Kal naar het beroemde citaat uit het Spiegel interview: “Alleen een God kan ons nog redden.” Volgens de eschatologische religie van Doegin is die God al onder ons, in Rusland. God is Poetin en het doel van zijn bestaan is oorlog. Oorlog tegen de Moderniteit, voor de Traditie en tegen het Westen, Amerika en Europa. Kal probeert in zijn conversatie met Doegin zolang mogelijk met hem mee te gaan, waardoor een gedetailleerde analyse van zijn denken ontstaat, maar zet hem uiteindelijk op zijn kop.

Ik nam Kals boek ter hand omdat ik nieuwsgierig ben naar de ideeën achter Poetins agressieve machtspolitiek. Wat bezielt die man? Kal heeft zich gedegen ingelezen in het gedachtengoed van Doegin. Zijn analyse van het begrip vrijheid, het nihilisme, de ‘correctheid’ en het gebrek aan moraliteit van de moderne westerse mens is boeiend en zeer aktueel. Kal heeft er voor gekozen zijn essay niet te overladen met verwijzingen naar denkers die zijn eigen filosofische standpunten hebben vorm gegeven. Hij maakt één uitzondering: Heidegger, met wie Doegin uitvoerig in discussie gaat, maar die Doegin niet goed heeft begrepen. De filosofisch ingewijde zal bij Kal invloeden van Hegel, Levinas en ook Derrida herkennen. Het lezen van Kals analyse over de persoonlijke vrijheid die het nihilisme moet overwinnen bracht voor mij echter nog een verrassende toegift. Kals essay biedt aanknopingspunten met een context die niet expliciet aan de orde komt in dit essay, maar wel meespeelt, een context die mijn speciale belangstelling heeft, die waarin de vraag gesteld wordt naar de eigen aard van het wiskundig denken en daaraan gerelateerd de vraag naar de zelfstandigheid van de technologie, de mogelijkheid van kunstmatige intelligentie. Deze zeer aktuele discussie gaat over de betekenis van automatismen, het volgen van regels en de kwestie of machines beslissingen kunnen nemen. Over de kwestie of sociale robots ‘morele agenten’ zijn. Ik kom daar later nog op terug. Eerst Kal over Doegin.

Doel van Kals essay is “te laten zien dat een wijsgerig debat met Alexander Doegin mogelijk is en tot een zinvol resultaat kan leiden.” Zo’n debat is volgens Kal buitengewoon urgent; het denken van Doegin moet serieus genomen worden, “voorzover dat mogelijk is”.

“Doegin is zonder meer wat men noemt een oorlogshitser.” Achter vierkante uitspraken als “Het individu is niets, de samenleving is alles.” zit een pseudo-wetenschappelijke filosofie die uiteindelijk vertaald wordt in het doel: “Amerika moet vernietigd worden.”

Met zijn boek Grondslagen van de geopolitiek (1997) breekt Doegin door tot het grote publiek. Daarin presenteert hij de Russische Idee, ‘nog maar één stap verwijderd van militaire actie.’ Doegin is architect van een nieuwe ‘nationale veiligheid’, door middel van methodes van de KGB, subtiele infiltratie en subversieve agitatie. Doegin heeft veel contact met de intellectuelen van Nieuw Rechts. “Het hoeft geen verbazing te wekken dat er heden ook bij Forum voor Democratie zijn die Doegin als lichtend baken zien. Ook zij zijn nu een pion op het schaakbord waaraan Poetin speelt.” In 2016 lukte het FvD de stemming tegen het associatieverdrag van de Europese Unie met Oekraïne te winnen, terwijl dit land zelf voor Europa had gekozen. Ik denk dat ook politici buiten FvD zich zullen herkennen in ideeën van Doegin, dat zijn gedachtengoed meer wijdverbreid is in het westen dan ons lief zou moeten zijn.

Doegins herhaalde oproep Oekraïne te beroven van zijn onafhankelijkheid heeft volgens Kal ‘alles te maken met zijn wijsgerige visie’. Welke is die visie? En wat mij betreft is er de brandende kwestie hoe iemand op grond van een filosofie tot zulke ideeën komt. Heeft zo iemand, de filosoof achter de terreur van Poetins oorlog, niet ergens een steekje los zitten? Was Hitlers politiek ook gebaseerd op een filosofie? Wat mogen we dan nog van ‘de filosofie’ verwachten? Centraal daarin is het begrip vrijheid. Hoe vult de burger van de liberale moderne rechtsstaat dit begrip in?

De mystificatie van de oorlog tot voorzienigheid, ‘staat haaks op de vrijheid, de verantwoordelijkheid en de ernst die de ruggegraad van de moderniteit vormen’. (p. 15).

“De moderne mens stelt zijn provincialisme en zijn eigen bekrompenheid keer op keer ter discussie.” Zijn leven staat in een open perspectief naar de toekomst en is wars van traditionalisme.

Volgens Kal is Doegin niet alleen een filosoof, iemand die leeft met de andere filosofen in een andere wereld dan de politicus en KGB-er Poetin, maar ook een magisch sekteleider. En het gaat om een gevaarlijke sekte. “Dat weet Poetin ook.”

Maar de idee Eurazië werkt als katalysator voor Poetins imperiale ambities om het Sovjetverleden voort te zetten en de eenheid met de verloren gebieden van het magische Noordelijke Hyperboreale Rijk weer te herstellen.

In het slothoofdstuk van het boek stelt Kal de vraag wat de werkelijke invloed van Doegin op Poetin is. Is hij Poetins filosoof? Doegin wordt ook wel ‘Poetins Raspoetin’ genoemd. Namen van andere denkers en doeners die dicht bij Poetin staan passeren de revu. Zoals Doegins concurrent Vladislav Soerkov, de christelijke filosoof, bewonderaar van Mussolini en Hitler, en de fascist Ivan Iljin (1883-1954) ook een sympathisant van de ‘Russische Idee’. Poetins rehabilitatie van Iljin ziet Kal als teken dat Poetin probeert aan te knopen bij het tsaristisch Rusland en zich te presenteren als opvolger van de Tsaren.

Kal is niet bepaald optimistisch als het gaat over de toekomst van Poetins oorlog met het westen, de uit de hand gelopen ‘militaire operatie’. “Elk ogenblik kan Poetin bezwijken voor de verleiding mee te gaan in Doegins eschatologische perspectief van de Grote Oorlog waarin ‘alles toegestaan is’. Kal haalt een onheilspellende uitspraak aan die Poetin deed in 2018: ‘Hebben we een wereld waarin Rusland er niet meer is überhaupt nog nodig?’ Een uitspraak die Poetin deed in de context van een conversatie over de nucleaire oorlog.

Nihilisme

Doegin is tegen het individualisme en het liberalisme van de Moderniteit. Maar de kern van ‘het euvel’ is het nihilisme. Het niet meer accepteren van een ‘hogere orde’ leidt eenvoudig tot de idee van de ‘negatieve vrijheid’ als de invulling van de individuele vrijheid. “Dit individu zit werkelijk nergens meer aan vast.” Dit leidt tot nihilisme. Dit is Doegins argumentatie met betrekking tot de moderniteit. De conservatief ziet dit als vernietiging van waardevolle tradities. Om dit ‘grote kwaad’ te bestrijden moet de traditie hersteld worden. Het individu moet zich weer voegen naar de gemeenschap. “Het individu is niets, de gemeenschap is alles.” luidt Doegins fundamentele ‘vierkante’ stelling. Dit vereist een hierarchische machtsorde met aan de top de eschatologische transcendentale Grote Leider.

“Nihilisme is de destructieve kern van de moderne vrijheid.” De oplossing is ‘verticale macht die een einde moet maken aan de openbare ruimte waarvoor de liberale democratie borg staat.

Doegin maakt volgens Kal van de vrijheid van het individu een karikatuur. Het individu onderhoudt wel degelijk een relatie tot een autoriteit, een ‘innerlijke autoriteit’ zoals hij het noemt. In de relatie met de ander beleef je deze autoriteit. “De ander vertegenwoordigt immers diezelfde autoriteit.” (p. 205) In Kals morele betekenis van de ander herkennen we de centrale rol van de Ander (het gelaat) in het denken van Emanuel Levinas, voor wie de ethiek vooraf gaat aan de ontologie, voor wie de moraliteit vooraf gaat aan het oordeel over wie of wat iets is.

Maar het interessante is dat Kal een heel eind mee gaat in Doegins analyse van de moderniteit. Velen zullen zich in hun analyse herkennen. Het zijn ideeën die wijdverbreid zijn en niet alleen voorkomen in de hoofden van leden van Forum voor Democratie, maar ook bij de PVV, het CDA, de VVD en de Boeren en Burgers Beweging. De vrije openbare ruimte waar de liberale democratie borg voor staat, vormt tevens het toneel van een mateloos nihilisme. “De morele kwestie wordt er dikwijls niet gesteld: het zou voldoende zijn een correcte burger te zijn; of je ook nog een goed mens bent is dan niet relevant.”

Deze analyse van de moderne samenleving leidt er vaak toe die vrije openbare ruimte dan maar te verwerpen. Inderdaad, de roep om ‘handhaving’ wordt steeds vaker gehoord en klinkt steeds luider. Regels blijken echter niet genoeg. Grenzen blijven overschreden worden. Ook wordt wel beweerd dat het stellen van normen, zoals wanneer het gaat om beschermende milieumaatregelen, juist de oorzaak is van grensoverschrijdend gedrag. We weten niet zo goed wat we met die vrijheid en die openbare ruimte aan moeten en roepen dan maar om deze van hogerhand te beperken. De vrijheid van de ander wel te verstaan. Want het is altijd de ander die niet deugt.

Het overwinnen van de onverschilligheid

Volgens Kal is een herwaardering van het nihilisme mogelijk en noodzakelijk. Het nihilisme moet als het ware elk moment door het individu weer overwonnen worden. De vrijheid kan alleen als stap, als daad operationeel worden; het gaat niet ‘van nature’ of ‘automatisch’. Dit betekent, volgens Kal, dat er een domein van ‘onverschilligheid’ moet zijn ‘voorafgaand aan de stap die ernst binnenvoert’ (p. 206) door een vrije daad te stellen. Het gaat hier om een ‘portie liefderijke onverschilligheid’ die zo belangrijk is in de opvoeding. “De gedachte is dus niet dat het bij de genoemde onverschilligheid blijft – integendeel juist.” (p. 207). “De moderne mens verantwoordt zich tegenover een innerlijke autoriteit.” Dit is een transcendentale vorm van ‘verticaliteit’, waardoor het moderne individu niet overgeleverd is aan de ‘eigen willekeur’. Het ‘nihilisme’ is het uitgangspunt voor de mogelijkheid van de stap van het vrije individu in een liberale democratie die borg staat voor de vrije openbare ruimte.

Kal lijkt hier een tegenwicht te bieden tegen de idealiseringen van mathematiek, algorithmiek en kunstmatige intelligentie. Onverschilligheid is immers het kenmerk van de mathematische verhouding tot de werkelijkheid, een houding waarin afgezien wordt van de eigen waarde der dingen en die het uitgangspunt vormt voor de creatie van nieuwe technologie, die de dingen naar onze hand zet.

Ook lijkt Kal tegenwicht te bieden tegen de neiging als maar nieuwe regels te introduceren die de ruimte moeten beperken. Regels die vervolgens gehandhaaft moeten worden, maar wel volgens nieuwe regels, omdat regels op zich niet werken. Ze hebben een morele voedingsbodem nodig.

De vraag waar die morele voedingsbodem vandaan komt leidt al snel tot het antwoord: de opvoeding. In het onderwijs zijn we de opvoeding (Bildung) vergeten. Het draait in ons onderwijs te veel om toetsen en diploma’s; leren voor later, een goede baan, in plaats van om vorming van een persoonlijkheid en de ontwikkeling van individuele vermogens. Het recht op demonstratie is een grondrecht. Evenals het recht op het uiten van je mening. Maar, als ik kijk naar de vaak volstrekt uit de hand lopende demonstraties, waar sprake is van openlijk geweld, en naar de toon waarop politici en anderen hun mening in de openbare ruimtes te kennen geven, dan komt de vraag op of het ook mogelijk is de uitoefening van deze rechten te combineren met fatsoen en respect voor de mening van anderen. Beschaving is een dun vliesje. Waar is de beschaving? Een kenmerk van de filosoof Doegin is dat hij altijd haast heeft. De tijd dringt. Alles moet niet alleen anders, het moet vooral snel. Dat lijkt een wijdverbreid idee bij het moderne individu te zijn. Dat de mensheid de tijd niet meer heeft om voorzichtig te zijn en bedachtzaam met elkaar om te gaan. Misschien zouden we iets meer moeten hebben van de ‘Gelassenheit’ die Heidegger voorstelde als houding tegenover de druk van de moderne tijd.

In Kals analyse van het nihilisme als moment van het individualisme in de liberale democratie speelt de ‘onverschilligheid’ een sleutelrol. Het gaat hier om een praktische en morele onverschilligheid. Het speelt tevens een rol in een recent artikel van Weiskopf over de moraliteit van algoritmes. Het betreft een kritiek op de bewering dat een machine beslissingen kan nemen. Wat houdt het nemen van een beslissing in? Is het nemen van een beslissing het resultaat van een berekening?

“In de vorm van een automatisme kan de moderne vrijheid niet bestaan.” stelt Kal (p. 217)

Hier is een interessante parallel met de analyse die Weiskopf geeft over de opvatting dat machines (‘Artificial Intelligence’) tegenwoordig zo intelligent zijn dat ze zelfstandig beslissingen zouden kunnen nemen.

Je hoort het steeds vaker: dat algoritmes beslissingen nemen. Onlangs nog in een enquete van de Gemeente Enschede over het gebruik van ‘algoritmes’ door de gemeente. Daarin wordt de burger de volgende opdracht voorgelegd.

Een algoritme is een rekenvoorschrift, voor het verwerken van informatie, dat zijn coderingen van gegevens die betrekking hebben op eigenschappen van bijvoorbeeld burgers, met als resultaat een bepaald soort uitkomst.

“In transforming decisions into calculations, they create “ghostly demarcations” that discriminate and sort in/out based on abstractions and make the ethics and politics involved in these processes disappear.”

Wie zegt dat een algoritme een beslissing neemt, die doet alsof een beslissing nemen neerkomt op het doen van een berekening. Dat kun je inderdaad wel aan een computer overlaten. Maar een beslissing nemen in een concreet geval is wezenlijk iets anders dan het maken van een berekening. Een wezenlijk element van de beslissing is de twijfel. Het besluit is een moment van onbeslisbaarheid dat overgaat in een oordeel, een besluit.

Weiskopf refereert naar Derrida.

“For Derrida, a decision that deserves the name presupposes “undecidability” and requires going through the “ordeal of the undecidable.” Algorithmic decisions are in his sense not decisions at all since “a decision that didn’t go through the ordeal of the undecidable […] would only be a programmable application or unfolding of a calculable process.” (Weiskopf,: Algorithmic Decision-Making, Spectrogenic Profiling, and Hyper-Facticity in the Age of Post-Truth, p.8)

Wat is dat “ordeal of the undecidable”?

“The moment of suspension the moment that must exist outside of law before reconfirming law is described by Derrida as the ordeal of the undecidable. Any just decision must pass through this ordeal: to never inhabit it would be to simply apply a rule, but to remain within it would also be to fail to be just.” (Lara Shalson 2008)

Wezenlijk kenmerk van het stellen van een vrije daad is de spanning. Die is verdwenen wanneer deze daad gereduceerd wordt tot het toepassen van een regel. Volgens Derrida ‘there is no justice without this experience, however impossible it may be, of aporia’.

Ook Kal wijst op de ‘suspense’ in de vrije beslissing. Het nemen van een beslissing is wat Kal een ‘stap’ noemt. De door Kal gepresenteerde ‘operationalisering van de vrijheid’ is een waagstuk. “Je weet bij voorbaat immers niet hoe dit voor je uit zal pakken. Je anticipeert daar wel op, maar die anticipatie heeft geen concrete inhoud; als vrij mens laat je open hoe die vrijheid zich zal concretiseren. Vanzelfsprekend geeft deze gang van zaken de nodige suspense.” (p. 75).

Vrijheid mag niet gereduceerd worden tot keuzevrijheid, de vrijheid uit een gegeven aantal opties te kiezen. “Het is niet voldoende door supermarkt of warenhuis te dwalen en daar je ‘keuzevrijheid’ te beleven. Ook dat is heel leuk, maar het heeft met de moderne vrijheid eigenlijk niets te maken.” (p. 76). Voorafgaand aan het verschijnen van de mogelijkheden is er een houding ingenomen. Eigenlijk is er maar één echte mogelijkheid. De veelheid van opties verschijnt pas in een reflectie die afstand doet van de situatie die zich voordoet. De verwaarlozing van de vrijheid is de onverschilligheid. “Deze onverschilligheid vormt constant de metgezel van de moderne vrijheid.” (p. 76) Iedere vrije wilsdaad is gebaseerd op een oordeel.

Onverschilligheid, onbetrokkenheid, is de grondhouding van waaruit de werkelijkheid als kwantitatief, structureerbaar, wordt gezien. Het is de mathematiserende houding, die de werkelijkheid ziet als telbaar, meetbaar.

Onverschilligheid heerst wanneer we geen verschil meer kunnen of willen maken. Het minimale wat dan nog overblijft is tellen. Zo berust de democratie op het tellen van stemmen omdat we van oordeel zijn (een keuze!) dat elke mening evenveel waard is. We maken geen verschil meer. De onverschilligheid zit erin dat het kwantitatieve tegenover de kwaliteit, tegenover de eigen waarde van de zijnden en de meningen, wordt gesteld als iets dat slechts buitenkant, uiterlijkheid is. Vanwege deze onverschilligheid zijn de dingen te veranderen, te reconstrueren.

De bedreiging van de democratie zit in deze wortel van de democratie: de macht van het aantal, de dictatuur van de massa. In de opvatting dat de getelde meerderheid bepaalt. Daarmee gaat het in de democratie niet om de kwaliteit van de mening, maar om de manipulatie van de mening op het moment dat deze geteld wordt, bij de verkiezingen. De dictator van de volksmassa komt voort uit de democratie, zodra haar idee vereenzelvigd wordt met de idee dat de meerderheid bepaalt.

Hoezeer het Westen en het Rusland van Poetin zich ook tegen elkaar afzetten, de onverschilligheid die kenmerkend is voor de mathematisch wetenschappelijke denkhouding die het fundament is van de technologie is een gemeenschappelijk kenmerk van beide culturen (zie Arnold Metzger: Automation und Autonomie). Het denken van de moderne westerse burgers vertoont zo meer overeenkomst met het denken van ‘Poetins filosoof’ dan hen lief zal zijn. Het gezicht van de oorlog wordt door de destructieve technologie (denk aan cyberwar en killerrobots) en de automatismen van het militarisme bepaald. Een eventuele redding uit de destructie van de automatismen van de oorlog zoals die zich nu in Oekraïene afspeelt vereist een vrije daad die niet het resultaat is van een berekening maar van een bewuste keuze die het geopolitieke denken overstijgt.

Op 18 maart 2014 annexeerde Poetin de Krim als onderdeel van het conflict tussen Rusland en Oekraïene nadat de Oekraïense president Janoekovytsj eind 2013 door het pro-Europese deel van de bevolking was afgezet, omdat deze onder druk van Moskou een pro-Russiche en anti-EU koers volgde.

Volgens Vladimir Poetin was de annexatie van de Krim nodig om de etnische Russen en de Zwarte Zeevloot te beschermen. Ook oliebelangen speelden een grote rol: Oekraïne had de exploitatie van de olie in het gebied niet aan Rusland gegund, maar aan de Koninklijke Shell. Op 16 maart 2014 werd op de Krim en in de stad Sebastopol een referendum gehouden over de status van het schiereiland, waarna Rusland de Krim inlijfde op zijn grondgebied. Noch Oekraïne, noch de EU, noch de Verenigde Staten erkenden de stemming en het begin van de bezetting van de Krim.

Kal en velen met hem wijten het nu aan onverschilligheid van de westerse regeringen dat het niet onmiddellijk militair ingreep toen Poetin in 2014 De Krim binnenviel en inpikte. De lakse houding van het westen zou voor Poetin een teken zijn geweest dat hij ook de Donbas door middel van een simpele ‘militaire operatie’ zou kunnen ‘annexeren’. (Zie de uitgebreide Wikipagina over het conflict en ook de blog posts van de Nederlandse historicus en Oost-Europas-expert Hidde Bouwmeester ). De Nederlandse PVV-fractie stemde in Brussel net als de Franse fractie van Marine Le Pen tegen resoluties die de annexatie van de Krim veoordeelden. Volgens de laatste Europese verkiezingen van 6 juni 2024 zit de PVV met zeven leden in het Europese Parlement.

Voor twijfel is geen tijd in tijden van oorlog

Hoe ver moeten we in Nederland gaan in het steunen van Oekraïene in de strijd tegen Poetin? Moeten we onze economie omzetten in een oorlogseconomie, zoals militaire adviseurs voorstellen? Moeten we de dienstplicht opnieuw invoeren en als onderdeel van een Europees leger naar het front sturen, zoals de (demissionaire) minister van Defensie voorstelt? De meningen zijn verdeeld.

Leidt deze weg niet tot een allesvernietigende escalatie van de oorlog? Alleen de vraag stellen is al verdacht. Mensen die terughoudend zijn omdat ze twijfels hebben of de gekozen militaire weg wel de juiste is, wordt verweten dat ze daarmee alleen al Poetin in de kaart spelen. In tijden van oorlog is er immers geen tijd voor twijfel. Het zaaien van twijfel en verdeeldheid is een bewezen middel om de vijand op de knieën te krijgen. Het is dan nog maar een kleine stap naar het beschuldigen van de twijfelaars als zouden ze pro-Poetin zijn. Een ander verwijt dat de twijfelaars te beurt valt is lafheid: je laat anderen de kastanjes voor je uit het vuur halen. Zij vechten voor jouw vrijheid. Hoe dichtbij geografisch gezien de oorlog ook is, de oorlog als een politiek economisch militair machtsspel staat ver af van het denken van de gewone mensen. Terwijl Klaas en Annie wel degenen zijn die voor de kosten moeten opdraaien. Zij of hun kinderen worden straks moreel verplicht om onder de wapenen te gaan. Ze moeten wel, anders worden ze voor laffe honden uitgemaakt door de gewetenloze sociale media en vervolgens uitgekotst door de buurt als land-verraders. In een democratie, waarin voor twijfel geen ruimte is, heeft de meerderheid het morele gelijk aan zijn zijde. Het zijn de door primitieve dierlijke behoeftes gevoede automatismen (“eigen volk eerst”) die de stem van de meerderheid bepalen.

De automatisering van de oorlog betekent zo het einde van de dialoog. Het is moeilijk de oorlog als een onderdeel van de beschaving te zien.

Literatuur

Jacques Derrida (1989). Force of Law: The ‘Mystical Foundation of Authority’, Cardozo Law Review 11 (1989-1990), 920-1046. The first part of a colloquium on Deconstruction and the Possibility of Justice, held at the Cardozo Law School in 1989.

Victor Kal (2023). Poetins Filosoof – Alexander Doegin. Uitgeverij Prometheus, 2023.

Arnold Metzger (1964). Automation und Autonomie. Das Problem des freien Einzelnen in gegenwärtigen Zeitalter. Verlag Günther Neske Pfullingen, 1964.

Der freie Wille ist niemals indifferent. “Spontaneität ist zwar ein notwendiges, aber kein hinreichendes Kriterium des freien Willens. Vielmehr gehört zur Spontaneität das Zustimmen oder das Absprechen, das bejähende oder verneinende, aso unterscheidende (urteilende) oder denkende Vermögen: das Können das zu wählen, was der Wille eigentlich will.” (p. 24-25)

“Freiheit, die in der Welt von Existenzen adäquat nicht realisierbare Idee – die Eigrenschaf , die wir dem Willen der Einzelnen, die wir frei nennen, zuschreiben – ist zeitlos: zu allen Zeiten und überall eine und dieselbe. Aber der Weg, auf dem die Verwirklichung dieses Zeitlosen in der Zeit gesucht wird, ist verschieden.” (p. 52)

De vraag die centraal staat in Metzger’s essay over vrijheid en automatie is:

“Auf welchen Weg zum Glück ist unsere Generation in diesem geschichlichen Augenblick verwiesen?”

We leven in een samenleving, een wereld, waarin “der Automation, der Konstruktion der mathematischen Machinen, keineswegs nur die Stelle eines beliebigen Vorgangs, sondern eine die Wesensdynamik unseres wussenschaflich-technischen Zeitalters aufschliesenden Bedeuting zukommt.”

“Automation ist das Korrelat der Autonomie: das geschichlich gegenwärtige Erlebnis in dem Prozess des Freiheits- und Glücksverlangens, in dem es darum ging, durch die rationalisierende Kontrolle der Materie das Subjekt frei zu machen von der Macht des Objekts, zuletzt es frei zu machen von der Versklavung duch die Machine.” (p. 53)

Volgens Metzger is het beslissende kenmerk van de economische ontwikkeling die leidde tot de westerse consumptiemaatschappij “nicht nur der Glaube an dem Mythos einer jenseitigen Welt gebrochen wurde, der dem neueren Freihetisbewustsein die Geborgenheit in einer transzendenten Welt gab, sondern dass dem Subjekt darüber hinaus der Charakter seiner transzendalen Bewegtheit überhaupt in Vergessenheit geriet.” (p. 59) De vrije tijd als gevolg van de automatisering biedt de mens slechts het genot van een illusionaire vrijheid.

Een analoog proces voltrekt zich in onderscheid van het ‘vrije westen’ in de Sowjetmaatschappij (we schrijven 1963!)

“Dies scheint mir das bei aller Verschiedenheit substantielle Gemeinsame der sozialistische und kapitalistischen Gesellschaft zu sein: die Vorrherrschaft der Wissenschaft ist der beide Systeme tragende, sie beherrschende, tendenziöse Machtsfaktor, die nich nur die Massenproduktion von materiellen Gütern, sondern die Gesamtheit der äuseren und inneren Physiognomie dieser geselschaften, ihre primären Vorlieben beherrschende Tendenz zur maxiomalen Rationalisierung, Egalisierung, Sozialisiering.” (p. 61)

Voor beide systemen geldt dat in dit proces van socialisering de behoefte aan geluk en vrijheid van het individu niet bevredigd wordt.

‘Die Frage nach der Freiheit “liegt jenseits von Individualismus und sozialistischem Universalismus.” Niet in de traditie van een autoritair van boven af verkondigde dogmatische ordening, noch in het moderne autonome subject (het ‘vrije individu’).

Lara Shalson (2008) The Ethics of Interpretation: Toward Critique Without Judgment, COLLOQUY text theory critique 16 (2008). © Monash University. www.colloquy.monash.edu.au/issue16/Shalson.pdf

Weiskopf, Richard. (2020). “Algorithmic Decision-Making, Spectrogenic Profiling, and Hyper-Facticity in the Age of Post-Truth.” Le foucaldien 6, no. 1 (2020): 3, 1–37. DOI: https://doi.org/10.16995/lefou.62

“We can attribute intelligence to whatever processes.” (John Searle)

Hoe verhouden we ons tot onze technologie? De technologie gaat enerzijds van ons uit, de mens is maker van de technieken, maar ze lijkt anderzijds ook een eigen leven te leiden. Het deelt dit tweezijdige karakter met de verhouding die we als individu tot ons eigen leven hebben. Wat ik enerzijds als ‘mijn leven’ ervaar waarvan ik subject ben, dat overkomt mij anderzijds ook als iets dat zich als lichamelijk of als sociaal leven, buiten mij om afspeelt.

De kunstmatige intelligentie, de sociale robot, de taalsprekende algoritmes (ChatGPT) zijn de nieuwste vorm waarmee we met het ‘zelfstandige’ karakter van de techniek te maken hebben. Terwijl er een economische drive is die de ontwikkeling van nieuwe technieken aanjaagt is er ook de roep om terughoudendheid. We zouden een pas op de plaats moeten maken want de samenleving kan de snelle ontwikkeling van de techniek niet meer aan. Het lijkt een hopeloze poging gezien de macht die de mechanismes van de strijd tussen concurrerende ondernemingen en landen om de economische en politieke winst op ons, de strijdende partijen, uitoefent. Die mechanismes komen tot uitdrukking in stellingen zoals: “wij moeten wel meedoen want anders raken we achterop” en “als wij het niet doen, doen de anderen het wel”. De mens begeert wat de ander begeert.

De mens ziet niet alleen de natuur buiten hem als machine, ook zichzelf, zijn eigen lichaam en zijn eigen sociale leven als een systeem waaraan gesleuteld kan worden wanneer daar behoefte aan is. Deze excentrieke zelfverhouding die kenmerkend is voor de mens maakt dat de mens van nature iets kunstmatigs heeft (Plessner). Het vervangen van versleten hartkleppen, knieën en heupen is dagelijkse medische praktijk, net als het innemen van medicatie en middelen die de geestelijke toestand beinvloeden. Androïdes, cyborgs en humanoide robots zijn geen figuren meer die alleen nog in science fiction voorkomen.

Wat is intersubjectiviteit?

Kenmerkend voor subject zijn is dat er een open plaats is voor een ander, voor wie het subject object is. Subject zijn is reflexief zijn. Intersubjectiviteit is het transcendentale opzicht waaronder we een object, het andere, als subject zien en ons zelf als object voor dat andere subject. We kunnen van alles onder dit opzicht beschouwen. Voor het kind is zijn knuffel een subject, waarmee het een intersubjectieve relatie heeft. Sommige mensen praten met bomen. We spreken van moeder aarde of moeder natuur. Steeds vaker praten mensen met machines. Sommige filosofen, die over de relatie tussen mens en techniek nagedacht hebben, verwachten gezien de ontwikkeling van de technologie dat intelligente machines in de nabije toekomst als persoon zullen (moeten) worden beschouwd. Wat is hier aan de hand? Hoe zijn we hier gekomen?

Met behulp van de Newtonse wetten van de mechanica, die in mathematische formules zijn uitgedrukt, kunnen we berekenen met welke snelheid een appel op de grond terecht zal komen wanneer deze uit de boom valt. De appel houdt zich aan deze wetten. Daar kunnen we op rekenen. De wiskundige formules die het kwantitatieve verband aangeven tussen de verschillende grootheden (zoals de hoogte boven de grond van waaraf de appel loskomt van de boom) zijn beschrijvingen van de natuur. Terwijl Aristoteles de val van de appel zag als uiting van een eigen streven van de natuur, zien wij het als een gevolg van een fysisch of biologisch proces. Het feitelijk gebeuren wordt gereduceerd tot de omstandigheden. Als we de werking van de natuur eenmaal als fysisch proces in mathematische formules hebben beschreven, kunnen we deze processen zien als een rekenproces dat door de natuur wordt uitgevoerd. De appel is zo een rekenmachine geworden die op elk moment zijn valsnelheid berekent. Zo is een logische schakeling een logische schakeling omdat de beschrijving van de relatie tussen de invoer en de uitvoerwaarden van de als wiskundige variabelen opgevatte toestanden van de in- en uitvoer-kanalen van het electrische element correspondeert met de wiskundige boolse logische operator van de formele propositie-logica, waarin de wetten van ons denken zijn uitgeschreven. De logische and-schakeling is zo implementatie van de logisch operator and. Het zijn de technische bouwstenen van de ‘denkende’ machine.

De zelfstandigheid van de werking van de vallende appel en van het logische circuit die we als wiskundig denkprocessen zien heeft dus zowel de zelfstandigheid van de natuurkrachten zoals we die in onze onmiddelijke ontmoeting ermee ervaren als van een wiskundige instantie, een door de mens bedacht ontwerp. Het is dan ook slechts in relatie tot de mens die de natuur op een bepaalde manier heeft ingericht en interpreteert dat we de intelligente machine als een ‘zelfstandig’ denkende machine zien. Het is een ‘uitwendige objectivatie’ van onze wetenschappelijke mathematische verhouding tot de natuur.

Omdat het de techniek om het gebruik ervan gaat, het gebruik waarin het de gebruiker om de interpretatie van de natuurprocessen te doen is (en niet om de eigenlijke natuurkundige processen die eronder liggen), ligt het voor de hand dat de gebruiker de machine als een subject beschouwt dat werkelijk zelfstandig, dat is zonder inbreng van de mens, werkt. Waarbij vergeten wordt dat deze werking niet als zodanig van dat subject uitgaat, maar van de mens die deze als zinvolle werking opvat. De gebruiker ervaart de sprekende machine waarmee het een gesprek heeft als een zelfstandig subject dat vergelijkbaar is met een menselijk subject. En dat is precies de bedoeling van de techniek, dat het zo werkt.

Het feit dat we de intelligente machine vanuit het perspectief van de intersubjectiviteit kunnen beschouwen en als zelfstandig subject kunnen beleven, is geen bewijs dat de machine een subject is zoals een mens subject is. Ook het ‘transitional object’ van het jonge kind, zoals de knuffelbeer of het koesdoekje, kan de plaats van de ander in een intersubjectieve relatie innemen. En toch is het koesdoekje of de knuffel niet subject zoals de moeder subject is, maar neemt het slechts de plaats van de moeder in. Als ‘transitional object’ speelt het een belangrijke rol in de ontwikkeling, de transitie naar zelfstandigheid van het kind.

Hoe kunnen we nu weten of we met een werkelijk subject en niet met een instant-subject of pseudo-subject te maken hebben? Wat is het verschil tussen beide, als we in de directe beleving van de interaktie met het andere geen onderscheid maken? Hoe weten we dat wat we beleven als een ander subject geen eigenlijk ander subject is, zoals wij dat zelf zijn? We kennen ons zelf als subject niet alleen vanwege de reflexieve momenten maar als identitiet die deze momenten tot een geheel maakt. Dat weten van het verschil moet er zijn op grond van ervaringen die de momenten van de directe belevingen in een perspectief plaatsen. Welke zijn die ervaringen? Dat zijn ervaringen die we zowel als technisch ontwerper als gebruiker kunnen opdoen.

De technicus, die de machine gemaakt heeft, of de kunstenaar, die het beeld gemaakt heeft, kan weliswaar verrast zijn over de werking van zijn produkt en over de indruk die het produkt op hem heeft, maar hij weet dat het een maaksel is en in die zin iets anders dan de ander die net als hij zelf niet gemaakt is. Omdat wij weten dat we zelf als mens in staat zijn dergelijke objecten te maken waar we ons ook in een intersubjectieve relatie toe kunnen verhouden, maakt dat we weten van het verschil met de subjectiviteit van het eigen ik. Anderszijds weten we ook dat het resultaat van het maken meer is dan wat we er door hard werken in hebben gelegd. De witheid van de muur als resultaat van het witten ervan overtreft in zekere zin het project van het werk, dat is een ‘toegift’. Maar ook de niet-technische gebruiker zal door ervaringen met het andere invulling geven aan de inhoud van de kennis van dat ‘subject’.

De formele subjectiviteit zal door ervaring met het concrete ding worden ingevuld waardoor het ding een eigen identiteit krijgt in de relatie die we als ‘gebruiker’ of als ‘partner’ ermee hebben. Denkt het ding werkelijk zelf, heeft het zelfbewustzijn? Of is het slechts een projectie van mij, een projectie die door de wijze waarop het ding gemaakt is, wordt uitgenodigd? Het is slechts door ervaring, door schade en schande, dat we erachter komen of iets gemaakt is of echt en wat we er werkelijk aan hebben.

Dit pleit er eerder voor dat we niet moeten proberen af te zien van het ontwikkelen van techniek, maar dat we daarentegen zoveel mogelijk door ervaring in de omgang ermee moeten leren wat we er werkelijk aan hebben, wat het is. De filosoof Dennett zei: het gevaar van de kunstmatige intelligentie zit hem niet in wat het kan, maar in de onrealistische mogelijkheden die de mensen ten onrechte eraan toekennen. En dat geldt voor onze verhouding tot al het technische. Misschien is dat wel een wezenlijk kenmerk van techniek, dat het idealisering is van de werkelijkheid; dat het technische ding voor ons de functie heeft te pretenderen de verwerkelijking van een door ons bedacht ideaal te zijn. Door schade en schande ontdekken we echter dat geen enkele cirkel in werkelijkheid zo rond is als zijn mathematisch ideaal. En dat de natuur weerstand biedt aan de technische vorm die we haar hebben opgedrongen, door ‘verslijt’ (zoals de filosoof Piet de Bruin het uitdrukte).

De automatisering van de arbeid, de robotisering van de oorlog, het zijn uitingen van het grote ideaal ons te bevrijden van de lichamelijke pijn van het werkelijke leven. Het trieste van techniek is dat dit slechts een ideaal blijft.

Verschillende stellen geven het zoeken, kopen en verbouwen van hun nieuwe woning uit handen. TV-presentator Martijn Krabbé gaat met zijn team op zoek naar de perfecte woning, die de nieuwe eigenaar pas mag bezichtigen wanneer de koop en verbouwing achter de rug is.

Het is de formule van het TV-spel-programma Kopen zonder Kijken. Wie koopt er nu een huis zonder eerst te gaan kijken? Vroeg ik me af toen ik ervan hoorde. Het is weliswaar een spel-programma maar wel een serieus spelprogramma. Althans dat is hoe het gepresenteerd wordt. Voor de tv-producent geldt: hoe gekker hoe beter. Als het maar veel kijkers trekt. En hoe gek is kopen van een huis zonder kijken nou helemaal in een wereld waarin we van alles online kopen zonder eerst te kijken wat we kopen. Zaken die we alleen van de presentatie op markplaats kennen, van de teksten en de plaatjes. Maar hoe betrouwbaar zijn die? Regelmatig worden goedgelovige kopers afgezet door niet zo goed bedoelende aanbieders. Zo kopen of huren we soms zaken die niet eens blijken te bestaan.

Welke zijn de regels die gelden bij het online via mediaplatforms aanbieden en kopen of huren? Hoe zit het met de moraal op de online markt? In dit stukje wil ik onderzoeken hoe de door technologie beheerste online media-markt uitnodigt vooral doelgericht en functioneel te handelen waarbij de moraliteit al gauw het loodje legt. En vervolgens komt de vraag aan de orde wat moraliteit eigenlijk inhoudt. Bij het beantwoorden van de vraag naar de verhouding tussen moralitiet en techniek is het van groot belang techniek en het gebruik van techniek goed te onderschieden. De filosoof en ethicus van de techniek raken betrokken in een politiek machtsspel.

Onlangs wilden we een camper huren via GoBoony, een online matching site, waar verhuurders en huurders elkaar online kunnen ‘ontmoeten’. GoBoony bepaalt de spelregels en die moeten ervoor zorgen dat er geen contact tussen huurder en verhuurder buiten het platform om mogelijk is. Zo wordt het uitwisselen van telefoonnummers of email-adres onmogelijk gemaakt. Daar kwamen we achter toen we op verzoek van de verhuurder van een door ons uitgezochte camper ons telefoonummer in de chatbox van het platform intikten. Dat nummer verscheen zowel op ons scherm als op dat van de huurder als een rijtje ****. Zo ook met het emailadres. Pas wanneer er een contract getekend is en de betaling is gedaan is het mogelijk gegevens uit te wisselen die het mogelijk maken dat de huurder kan komen kijken wat hij huurt. En ook kan de verhuurder niet eerder een indruk krijgen aan wie hij zijn camper verhuurd. Dat is het businessmodel van het platform. GoBoony motiveert de regels als onderdeel van hun policy die erop gericht is beide partijen te beschermen en verwijst naar juridische kwesties in geval dat er later onenigheid ontstaat. Door uitsluitend via het chatkanaal van het medium te communiceren kan er achteraf geen trammelant komen over wat er is afgesproken. De klant wil wel betalen voor online diensten, dus presenteert de online onderneming zich als dienstbaar aan de klant. Alles ten gunste van de gebruiker van het medium. Maar wij vonden het maar niks en onze verhuurder kennelijk ook niet.

We realiseerden ons dat dat platform een computerprogramma is dat de hele handel regelt. Een algoritme checked of de ingetikte teksten een emailadres bevat. Dat is eenvoudig te omzeilen, dachten we, en we vervingen het @-sign door at, zoals vaak gebeurt als mensen hun e-mail adres willen verbergen voor softwarerobots. Maar de computer trapte er niet in. Uiteindelijk is het gelukt om door de muur van het medium heen te breken en de telefoonnummers uit te wisselen, gewoon door ze uit te spellen. We zijn nog net iets slimmer dan de computer. Beide partijen waren het er over eens dat GoBoony het te bont maakt door het communicatiekanaal dat ze aanbiedt zo te versmallen dat het niet mogelijk is om tot een voor beide partijen verantwoorde overeenkomst te komen. Zo praatten we het doorbreken van de regels goed. Je hoeft je niet neer te leggen bij regels die niet rechtvaardig zijn.

Dergelijk gedrag is aan de orde van de dag. We handelen primair doelgericht vanuit ons eigen belang en lappen daarbij de moraal aan onze laars. Het is de afstandelijke techniek die tot dit gedrag uitnodigt. De vraag is immers of we tegenover een computer een morele verplichting hebben.

Hoe vaak komt het niet voor dat je online een contract aangaat en nog even een paar vinkjes moet zetten je verder kunt en de zaak afgerond is? Dan staat er:

⊡ Ik heb de voorwaarden gelezen en ga er mee akkoord.

of

⊡ De bovenstaande vragen heb ik naar waarheid beantwoord.

Die voorwaarden, dat zijn de beruchte ‘kleine lettertjes’ van het contract. Ze beslaan soms vele pagina’s onbegrijpelijke tekst met veel juridisch beladen termen. Wie ploegt daar doorheen voordat hij het hokje aanvinkt?

Het aanvinken van de tekst is het bevestigen van wat de tekst beweerd. Maar zo werkt het niet. Voor de normale gebruiker is het wat hem gevraagd wordt te zeggen om de zaak af te ronden, zodat de koop of huur-overeenkomst eindelijk bevestigd kan worden.

Zo zijn er twee wijzen van taalgebruik. De eerste ‘eerlijke’ manier houdt in dat je werkelijk bedoelt en meent wat de woorden zeggen. De tweede is dat het uitspreken van de woorden de sleutel is die toegang biedt tot het doel dat je beoogt. Taal wordt dan zuiver functioneel gebruikt, als gereedschap. Er is daarin geen sprake van ‘de waarheid spreken’. Taalgebruik heeft dan niets te maken met het verwoorden van (onze verhouding tot) de werkelijkheid.

Mijn stelling is nu dat het onpersoonlijke online handelen een functionele houding ten opzichte van ons taalgedrag en gedrag in het algemeen uitnodigt. De wijze waarop tekstgeneratieprogramma’s als ChatGPT de taal zien is puur functioneel. Er is geen bedoeling of verwoording van hoe iemand zijn gevoelens verwoord. Het gaat zuiver om het genereren van een tekst die past in een lopende dialoog op grond van statistieken van vergelijkbare dialogen.

Die functionele opvatting van ons taalgedrag wordt vaak toegewezen aan de filosoof Ludwig Wittgenstein. Hij beweerde dat de betekenis van de woorden bepaald wordt door hun gebruik. Dat gebruik is altijd gebruik binnen een bepaald taalspel, dat onderdeel is van een bepaalde praktijk, zoals het huren van een camper. Binnen die praktijk gelden regels die het gebruik van de taal bepalen en daarmee de betekenis. Dat het in de echte wereld niet om een spelletje gaat zoals bij het programma Kopen zonder Kijken, dat wordt bevestigd door de juridische kwesties die volgen als er iets mis gaat. Dan wordt het serieus. Het gaat er dan om of de spelregels wel gevolgd zijn. En dat is altijd een machtsspel waarin de machtigste meestal gelijk heeft.

GoBoony, Google, Amazon, RentaCar hebben als ondernemingen meer macht dan de individuele burger. En dat geldt ook voor een overheid die de burger als klant behandelt.

Maar wat heeft dit omgaan met de regels met moraliteit te maken? Waarom zouden we ons aan gedragsregels moeten houden? Waarom zouden we moeten bedoelen wat we zeggen? Dat heeft alles te maken met het respecteren van de ander en van je zelf. Uiteindelijk gaat moraliteit om de kwaliteit van de omgang met de ander, van persoon tot persoon.

Om moreel gedrag in de communicatie met computersystemen te bevorderen wordt er niet voor niets vaak voor gekozen deze systemen menselijke eigenschappen te geven. De online bemiddelaar presenteert ‘zich’ als een persoon met wie je in je eigen taal kunt praten. En inderdaad, mensen hebben de neiging deze virtuele figuren als een ander te zien. Techniekfilosofen en ethici (zoals David Gunkel en Mark Coeckelbergh) breken zich het hoofd over de kwestie of een sociale robot een persoon is of een ding en of we de robot rechten moeten toekennen. Anderen, zoals bijvoorbeeld Abebe Birhane en Jelle van Dijk (zie Birhane en Van Dijk 2020/2021) zijn van oordeel dat een robot niet iets is waar je een morele status aan kunt verlenen. Een robot of online chatbot, zoals een programma als GoBoony, is een softwareprogramma en wordt door mensen gebruikt als tool. Ook een computer, hoe ‘intelligent’ ook, is een stuk gereedschap.

De vraag of we ons moreel bezwaard moeten voelen wanneer we de spelregels van GoBoony omzeilen komt op zodra we ons ervan bewust worden dat we aan regels morrelen die we zien als acceptabele regels voor de omgang met een ander persoon. Bij onpersoonlijke van de interactie met een computer hoort dat we ons zelf en de ander niet als persoon zien, en van onze interaktie een spelletje van maken met een door het spel bepaalde inzet. We gedragen ons dan technisch en handelen zuiver functioneel. De woorden die we spreken zeggen niet wat we werkelijk vinden maar zijn tools die we gebruiken om een gewenst effect te bereiken.

Hoe intelligenter de machine wordt des te meer nodigen deze uit tot functioneel gedrag dat de moraliteit aan de laars lapt. Het gebruiksonvriendelijke van de techniek is dat de ‘intelligente’ machine geen verantwoordelijkheid kent. Deze kan niet voor de rechter worden gesleept om zich te verantwoorden. Dat kan alleen de mens die erachter zit, die de regels heeft opgesteld en die de machine als ‘autonoom’ gereedschap ziet en het veld instuurt om met mensen te onderhandelen.

Filosofie van Moraliteit en Techniek

Wanneer we nadenken over de relatie tussen moraliteit en techniek, dan is het van belang een helder onderscheid te maken tussen techniek enerzijds en het gebruik van techniek in de praktijk van het leven anderzijds. Sommige denkers over techniek onderscheiden het technische en het economisch aspect van ons handelen. Zoals Maarten Coolen in zijn thesis De Machine Voorbij. Maar veel denkers over techniek onderscheiden deze twee niet. Dat komt erop neer dat men het technische als zodanig niet onderkend en het bij techniek over het gebruik van techniek heeft. Dat heeft tot gevolg dat men enerzijds het gebruik van techniek zelf als iets technisch beschouwt, of anderzijds het technisch instrument, datgene waarvan gerbuik wordt gemaakt in de praktijk, zelf eigenschappen toedicht die aan het gebruik ervan en aan de gebruiker ervan toekomen. Dat is op zich een begrijpelijke gang van zaken omdat de idee van de techniek voortkomt uit het gebruik van de dingen in het praktische handelen. Zoals de mathematiek, de formele wetenschap van de techniek, voortkomt uit de waarneming van de werkelijkheid komt de techniek voort uit de reflectie op het omgaan met de dingen, volgens hun natuur. In het gebruik van de techniek worden deze aan de werkelijkheid ontsproten ontwerpen weer teruggebracht in de praktijk van het handelen.

Het technische op zichzelf (als technisch: dat wil zeggen de abstracte idee van techniek, de abstracte verstandsvorm of vinding) als combinatie van krachten van de natuur ten behoeve van een bepaalde werking, is iets volstrekt amoreels. Zij komt voort uit een mathematische en mathematiserende verhouding tot de natuur die afziet van de eigen kwaliteit der dingen en gericht is op het kwantitatieve, het meetbare, telbare, in het algemeen het structureerbare van de werkelijkheid. De theoretische wiskunde gaat over structuren die het als zelfstandige objecten beschouwt. Het mathematisme is de verabsolutering van deze denkhouding waarin het zijnde gereduceerd wordt tot structuur. Ten aanzien van ons gedrag overheerst in deze denkhouding het functioneren, het doelmatige. Het mathematische en technische ziet af van de eigen waarde der natuur om deze een door de mens bedachte maat (model) op te leggen. Het technische produkt is dan ook beschikbaar voor algemeen gebruik in vele concrete gebruiksomstandigheden. Bovendien heeft het gebruik altijd neveneffecten ten gevolge van het feit dat het technische idee voortkomt uit een abstractie van de werkelijkheid, waarin van sommige aspecten wordt afgezien. Deze abstractie is een typisch kenmerk van de experimentele hypothetische mathematische natuurwetenschap. Een technische werking is keerzijde van een geslaagd wetenschappelijk experiment dat als resultaat kennis oplevert over de relatie tussen bepaalde condities en de werking van de natuur volgens natuurwetmatigheden die zich in mathematische modellen laten uitdrukken.

De bedoelde verwarring van het technische op zich enerzijds en het gebruik van techniek anderzijds ten gevolge van het niet helder onderscheiden van deze twee leidt er toe dat denkers over de relatie tussen moraliteit en techniek de neiging hebben het technische instrument opgevat als zelfstandige werkelijkheid als morele agent op te vatten. Men ziet het instrument als het ware als gebruiker van techniek, zolas de mens gebruiker van techniek is. Deze opvatting is begrijpelijk omdat de technsiche mens ernaar streeft om de natuurkrachten zodanig te structureren en te combineren dat deze steeds meer zelfstandig een gewenste werking laat zien. In de vorm van de programmeerbare ‘intelligente’ machine werkt de machine volgens een ontwerp dat als ontwerp in de formules van de programmeertaal is uitgedrukt. Het zijn deze formele regels die in tekens uitgedrukt leiden tot een werking die wij als ontwerper zien als de bedoelde betekenis van het ontwerp uitgedrukt in het programma. Dat is het nieuwe van de informatieverwerkende programmeerbare machine ten opzichte van het eerder stadium in de ontwikkeling van de techniek, dat de machine weliswaar ook al realisatie is van een ingenieus ontwerp, maar dat dit ontwerp daar nog niet als ontwerp in de machine is geimplementeerd. In de informaat komen de wiskundige tekens en de wiskundige modellen tot werking.

Het is nu begrijpelijk dat er grote verwarring heerst over de ‘Machine Question’ : is de robot een ding of een persoon? Waarbij ding en instrument dan weer onderscheiden, dan weer geïdentificeerd worden. Evenzo vergaat het ‘natuurlijk persoon’ en rechtspersoon.

De twee perspectieven die we in het gebruik van de techniek die zich als intelligent zelfstandig werkend instrument presenteert en ons uitnodigt er gebruik van te maken zijn onverenigbaar. Moraliteit is geen eigenschap die aan het technisch als zodanig toekomt (het moet er als het ware van buiten af aan worden toegekend, zie Coeckelbergh). Het technisch is als zodanig volkstrekt amoreel. De moraliteit zit in het gebruik van de techniek door de mens. Zodra we dit gebruik zien als een relatie met een persoon is de moralitiet in het geding. Maar wie met pek omgaat wordt ermee besmet. De mens kan zich zelf als technisch functionerend onderdeel van een interactief systeem beschouwen en in interaktie met een ‘intelligente’ machine zuiver functioneel optreden en een ‘amoreel’ spel meespelen waarin het zijn eigen doelen tracht te verwerkelijken.

Het is dan ook begrijpelijk dat Gunkel in zijn beschouwingen over de Machine Question tot de conclusie komt dat het uiteindelijk neerkomt op een machtsstrijd tussen betrokken partijen. Wie bepaalt de regels van het spel? Wie bepaalt welke partij (de eigenaar van de softwareagent of de gebruiker) gerechtigd is de ander als een abstract subject, functionerend in de contekst van een business-model, op te vatten? Let wel: GoBoony is ook een business-model waarin de gebruiker als een abstract subject wordt gezien dat in hun spelmodel een bepaalde rol heeft. En wie bepaalt of men met de software agent op morele wijze moet omgaan; alsof het een persoon is, dat is: een entiteit die je in zijn waarde laat en niet als instrument mag gebruiken (Kant).

Is GoBoony een persoon of een software agent?

De opvatting dat de intelligente machine (AI) een (rechts)persoon is wordt terecht door velen gezien als poging van de betrokkenen bij het gebruik van de machine te ontkomen aan de verantwoording voor de rechter. Er zijn legale constructies die rechtspersoon zijn, zoals een onderneming. Ook kan een natuurlijke entitiet als rechtspersoon worden gezien. Dan gaat het om de bescherming van een stuk natuur, zoals de Waddenzee. We beschermen bepaalde landschappen vanwege hun uitzonderlijke waarde voor mens en natuur. Het zou goed zijn de aarde, het leven, de natuur, als zo’n rechtspersoon te zien. Het rechtssysteem vormt zo een tegenwicht tegenover de mathematisch technische houding die van de eigen waarde van de natuur afziet en deze als beschikbare gebruikswaarde ziet. Maar hoe ver reikt de macht van het recht? Uiteindelijk staat de verhouding tussen macht en recht op het spel.

Een machine is iets dat geen bewustzijn heeft, het weet niet wat het doet, het kent geen verantwoordelijkheidsgevoel en als het iets slims lijkt te zeggen dan is dat omdat wij in de woorden die het genereert iets zinnigs lezen in de context van het gebruik, een context die voor de machine niets anders is dan een conditie voor de natuurnoodzakelijke werking die de machine is.

Intersubjectiviteit is een principe. Je kunt van alles vanuit dit principe beschouwen. Het kind ziet in een knuffelbeer een subject. De mens ziet in de machine een subject. Het gaat hier echter om een pseudo-subjectiviteit, een niet-reflexieve vorm. De machine denkt niet. Net zo min als de appel die uit de boom valt uitrekent met welke snelheid deze moet vallen. Die appel kent de wetten van Newton niet zoals wij die kennen. Het principe is niet verenigbaar en niet reduceerbaar met het wetenschappelijk kennen dat de werkelijkheid als wetmatig werkend systeem ziet.

De Nederlandse filosoof Jan Hollak heeft in verschillende artikelen zijn gedachten over het fenomeen van de ‘denkende machine’ en de ‘bewuste machine’ met zijn lezers gedeeld. In zijn beroemde inaugurele rede Van Causa sui tot Automatie plaatst hij de volgende voetnoot.

“Wanneer hier voortdurend in verband met mechanismen van ‘reflectie’, ‘zelfreflectie’, etc. sprake is dan is daarmee vanzelfsprekend nooit het subjectieve act-leven van het menselijk denken bedoeld (machines hebben geen bewustzijn), maar steeds slechts zijn intentioneel correlaat” (In: Hollak en Platvoet, voetnoot op p. 185)

Zie voor uitleg mijn blog Over David Chalmers ‘hard problem’ en de eenheid van de geest.

Het typische van techniek is dat het medieert. Dat is waar techniekfilosoof Peter-Paul Verbeek nadruk op legt (in navolging van o.a. Don Ihde, zie bijvoorbeeld Verbeeks What Things Do) . Techniek is in het gebruik een middel dat tussen mens en gebruik in staat. De techniekfilosofie van Verbeek gaat over concrete toepassingen, vooral medische toepassingen en vraagt wat de mogelijkheden, die nieuwe technologie biedt, doet met hoe we in de wereld staan. Die mogelijkheden regelen ons gedrag. Dat is de macht van de techniek. In die zin is het technische ding een morele agent.

Een belangrijk ‘gevolg’ van de AI is dat we onszelf als technisch informatieverwerkend systeem zijn gaan zien, een onderdeel van een totaal systeem waarin ook software agenten meespelen. Deze de-subjectivering van de mens is kenmerkend voor de technische cultuur. De morele kwestie treedt pas op als we ons realiseren dat we niet in die technische relatie opgaan maar er boven of tegenover staan, en dat we ons als verantwoordelijke mens verhouden tot onszelf als technische mens. We hebben techniek nodig maar we willen wel moreel subject zijn dat zijn verantwoordelijkheid kan nemen voor zijn handelen. Techniek die dat in de weg staat moeten we afwijzen.

Referenties

Birhane, Abebe and Jelle van Dijk (2020). Robot Rights? Let’s talk about human welfare instead. In: AIES ‘20: Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 207–213. New York: ACM. https://doi.org/10.1145/3375627.3375855

“Our starting point is not to deny robots ‘rights’, but to deny that robots are the kinds of beings that could be granted or denied rights.”

Birhane, Abeba, Jelle van Dijk, and Frank Pasquale (2021). Debunking Robot Rights Metaphysically, Ethically, and Legally. Paper presented at We Robot, University of Miami School of Law, Miami, FL, September 23–25.

Mark Coeckelbergh (2012), Growing moral Relations: critique of moral status ascription. Palgrave MacMillan, 2012.

Coeckelbergh wijst erop dat de moraliteit een aspect is van de relatie die we met de dingen hebben. Deze ‘dynamische morele relatie’ groeit met het groeien van de relatie tussen subjecten.

Gunkel, David J. (2007). Thinking otherwise – philosophy, communication, technology. Purdue University Press / West Lafayette, Indiana, 2007.

“The Machine Question” asks about the moral status of those other forms of otherness, most notably the animal and the machine, which have been, even in Levinas’s own work, systematically excluded from the rank and file of ethics.

Gunkel, David J. (2023). Person, Thing, Robot – A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.

“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things.”

Hollak, Jan en Wim Platvoet (red.) (2010). Denken als bestaan: het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin opgenomen.